BR112012015711B1 - Aparelho, método e memória legível por computador para estimar a incidência de luz em uma pluralidade de sensores de luz - Google Patents

Aparelho, método e memória legível por computador para estimar a incidência de luz em uma pluralidade de sensores de luz Download PDF

Info

Publication number
BR112012015711B1
BR112012015711B1 BR112012015711-6A BR112012015711A BR112012015711B1 BR 112012015711 B1 BR112012015711 B1 BR 112012015711B1 BR 112012015711 A BR112012015711 A BR 112012015711A BR 112012015711 B1 BR112012015711 B1 BR 112012015711B1
Authority
BR
Brazil
Prior art keywords
sensors
state
light
threshold
sensor
Prior art date
Application number
BR112012015711-6A
Other languages
English (en)
Other versions
BR112012015711A2 (pt
Inventor
Tero Rissa
Samu Koskinen
Matti Viikinkoski
Tuomo Mãki-Marttunen
Original Assignee
Nokia Technologies Oy
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nokia Technologies Oy filed Critical Nokia Technologies Oy
Publication of BR112012015711A2 publication Critical patent/BR112012015711A2/pt
Publication of BR112012015711B1 publication Critical patent/BR112012015711B1/pt

Links

Images

Classifications

    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J1/00Photometry, e.g. photographic exposure meter
    • G01J1/42Photometry, e.g. photographic exposure meter using electric radiation detectors
    • G01J1/44Electric circuits
    • G01J1/46Electric circuits using a capacitor
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J1/00Photometry, e.g. photographic exposure meter
    • G01J1/10Photometry, e.g. photographic exposure meter by comparison with reference light or electric value provisionally void
    • G01J1/16Photometry, e.g. photographic exposure meter by comparison with reference light or electric value provisionally void using electric radiation detectors
    • G01J1/18Photometry, e.g. photographic exposure meter by comparison with reference light or electric value provisionally void using electric radiation detectors using comparison with a reference electric value
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/46Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by combining or binning pixels
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N5/335
    • H04N5/347
    • H04N5/3745

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Power Engineering (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Electromagnetism (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Photometry And Measurement Of Optical Pulse Characteristics (AREA)

Abstract

estimação de intensidade usando matriz de sensor binário com limites que variam espacialmente. um aparelho inclui uma matriz que contém luz limite de sensores n de sub-difração, cada um tendo um limite de ativação de absorção de luz associado por comutar de um estado de reiniciação para um estado ativado, onde os valores de ativação de absorção de luz ficam dentro de uma faixa de valores. o aparelho inclui adicionalmente um processador conectado com uma memória que inclui um código de programa de computador, onde a memória e o código de programa de computador são configurados para, com o processador, fazer com que o aparelho, pelo menos, funcione estimando uma intensidade de luz que ilumina a matriz com base nas saídas elétricas da matriz.

Description

CAMPO TÉCNICO:
As modalidades exemplificativas e não limitantes desta invenção referem-se geralmente a sistemas, métodos, dispositivos e programas de computador e, mais especificamente, se referem a sistemas de imagem que usam uma matriz de sensor de luz compreendida de uma matriz de sensores de luz que gera um sinal de saída binário.
FUNDAMENTOS:
Esta seção tem o objetivo de fornecer fundamentos ou contexto para a invenção que é mencionada nas reivindicações. A descrição no presente documento pode incluir conceitos que podem ser seguidos, mas não são necessariamente os que foram anteriormente concebidos, implementados ou descritos. Portanto, a menos que indicado de forma contrária no presente documento, o que é descrito nesta seção não é técnica anterior com relação à descrição e às reivindicações neste pedido de patente e não é admitido como sendo técnica anterior através da inclusão nesta seção.
Houve interesse recente em substituir o fotossensor CCD convencional (dispositivo acoplado de carga) por uma matriz bi-dimensional de fotossensores binários pequenos. A referência com relação a isto pode ser feita, por exemplo, em E.R. Fossum, O que fazer com Pixeis de Limite-de-Subdifração (SDL)? Proposta Para Um Sensor De Filme Digital de Gigapixel, Proc. do Workshop IEEE de 2005 em Dispositivos Acoplados de Carga e Sensores De Imagem Avançados, Karuizawa, Japão, Junho 2005; L. Sbaiz, F. Yang , E. Charbon, S. Susstrunk, M. Vetterli, A câmera de gigavisão, Proc. da IEEE Conferência Internacional em Acústica, Processamento de Fala e Sinal (ICASSP), 2009, p. 1093 - 1096; e L. Sbaiz, F. Yang , E. Charbon, S. Susstrunk, M. Vetterli, Reconstrução de lmagem em Câmera de Gigavisão, ICCV workshop OMNIVIS 2009.
Já que o tamanho do fotossensor binário é pequeno comparado com um fotossensor tradicional (por exemplo, um fotossensor CCD), pode ser razoavelmente assumido que um número de elementos de sensor (por exemplo, 16-256 elementos) de uma matriz de sensor binário é menor do que o do disco aéreo (por exemplo, pode ser localizado dentro do tamanho de um disco aéreo). Deste modo, também é razoável assumir que uma distribuição de fóton na matriz sensor pode ser modelada como um processo Poisson espacial bi-dimensional homogêneo. A tarefa, então, passa a ser determinar a intensidade de luz, dada a saída de matriz de sensor binário.
Um sensor binário é um simples sensor com apenas dois estados: inicialmente zero, e depois um número de fótons detectados excede algum limite pré-determinado, o estado muda para um. Os sistemas de sensores binários da técnica anterior consideraram apenas sensores binários de limite fixado.
SUMÁRIO
Os problemas mencionados anteriormente, assim como outros são superados, e outras vantagens são realizadas, de acordo com as modalidades exemplificativas desta invenção.
Em um primeiro aspecto da mesma das modalidades exemplificativas desta invenção é fornecido um aparelho que compreende uma matriz que contém sensores de luz limite de sub-difração de TV, cada um tendo um limite de ativação de absorção de luz associado para comutar de um estado de reiniciação para um estado ativado, onde os valores de ativação de absorção de luz ficam dentro de uma faixa de valores. O aparelho compreende adicionalmente um processador conectado com uma memória incluindo o código de programa de computador, onde a memória e código de programa de computador são configurados para, com o processador, fazer com que o aparelho, pelo menos, desempenhe a estimativa da intensidade de luz que ilumina a matriz com base nas saídas elétricas da matriz.
Em um aspecto adicional da mesma, as modalidades exemplificativas desta invenção fornecem um método que compreende fornecer uma matriz que contém sensores de luz limite de sub-difração de TV, cada um tendo um limite de ativação de absorção de luz associado para comutar de um estado de reiniciação para um estado ativado, onde os valores de ativação de absorção de luz ficam dentro de uma faixa de valores; e estimam uma intensidade de luz que ilumina a matriz com base nas saídas elétricas da matriz. Exemplos adicionais de modalidades são fornecidos nas reivindicações de 1 a 30 como depositadas.
BREVE DESCRIÇÃO DOS DESENHOS
Os aspectos mencionados anteriormente e outros das modalidades exemplificativas desta invenção ficam mais evidentes na Descrição Detalhada seguinte, quando lidos em conjunto com as Figuras de Desenhos em anexo, em que:
A Figura 1A mostra uma vista de topo de uma matriz exemplificativa de sensores binários.
A Figura 1B mostra a ativação de sensores binários.
A Figura 2 representa graficamente: o valor de expectativa do número de sensores ativados com relação à intensidade.
A Figura 3 representa graficamente os derivativos dos valores de expectativa do número de sensores ativados com relação à intensidade.
A Figura 4 representa um tipo adequado e não limitante de conjunto de circuitos para implementar os receptores do sensor de luz da Figura 1 A.
A Figura 5 mostra um diagrama em bloco de um dispositivo que pode ser construído para incluir o sensor de imagem de acordo com as modalidades exemplificativas desta invenção.
A Figura 6 é um diagrama de fluxo lógico que ilustra a operação de um método, e um resultado de execução de instruções de programa de computador incorporadas em uma memória legível por computador, de acordo com as modalidades exemplificativas desta invenção.
DESCRICÁO DETALHADA
As modalidades exemplificativas desta invenção referem-se a tecnologias de sensor de luz de câmera digital, e mais especificamente ao sensor de tipo binário ("receptor") com potencialmente uma contagem muita alta de pixels ("elementos bit"), possivelmente mais de 1 bilhão ("giga", IxIO9). Como mencionado acima, "binário" implica que cada tal elemento sensor ou receptor pode ter apenas dois valores possíveis: zero (não exposto) ou um (exposto). As modalidades exemplificativas desta invenção também são relacionadas aos chamados sensores ou receptores de limite de sub-difração. Isto quer dizer que a imagem projetada no receptor não é perfeitamente acurada, mas é mais ou menos "embaçada" quando comparada com o tamanho do elemento de sensor.
As modalidades exemplificativas desta invenção consideram um caso mais geral do que aqueles considerados anteriormente, onde cada sensor binário em uma matriz tem um limite fixado ou então arbitrário. O limite de cada sensor binário na matriz pode ser assumido como sendo inicialmente desconhecido.
Dois casos diferentes são considerados na descrição seguinte. Em um primeiro caso alguns dos dados de treinamento é assumido como sendo disponível, isto é, a matriz de sensor binário é testada e os valores de intensidade da luz e as saídas correspondentes da matriz de sensor binário são conectados. O limite de cada sensor binário na matriz pode, depois, ser determinado usando, por exemplo, Inferência Bayesiana. Em um segundo caso é assumido que nenhum dos dados de treinamento esteja disponível. Este segundo caso pode ser adicionalmente dividido em dois subcases, no primeiro subcaso (de maior interesse para as modalidades exemplificativas desta invenção) a função de massa de probabilidade de limites é conhecida ou é, pelo menos, aproximada. No segundo subcaso, nada se sabe com sobre os limites.
As modalidades exemplificativas desta invenção fazem referência e resolvem o problema da estimação da intensidade de fóton usando uma matriz finita de sensor binário. Em vez de usar uma matriz de sensores binários homogêneos, uma matriz de sensores binários com limites que variam espacialmente é fornecida.
Pode ser feita referência à Figura 1A para mostrar uma vista de topo de uma matriz exemplificativa 1 de sensores binários 2. Os sensores 2 são dispostos (nesta modalidade não limitante) em um padrão de grade regular definido por eixos x e y. No total há N sensores, onde N tem um valor em uma faixa de, por exemplo, cerca de 106 a cerca de 109 ou maior. Associado com a matriz 1 fica um bloco de eletrônicos de leitura 3 configurado para lhe dar com os sensores 2 e ler os valores de sensores, e um processador de dados 4 conectado com um meio de armazenamento de dados incorporado como uma memória 5. A memória 5 armazena um programa de software de computador (Prog) 6 que, quando executado pelo processador de dados 4, permite que as saídas de sensor recebidas através dos eletrônicos de leitura 3 sejam processadas.
Os diversos componentes mostrados na Figura 1A podem incorporar um chip de captação de imagem (câmera), conjunto de chip ou módulo 8 que pode ser usado sozinho, ou que pode ser incorporado em outro dispositivo ou aparelho. Uma modalidade exemplificativa é mostrada na Figura 5, onde o módulo de câmera 8 da Figura 1A pode formar toda ou parte da câmera 28 que é incorporada em um equipamento de usuário (por exemplo, em um telefone celular).
A Figura 1B mostra um exemplo da ativação de alguns dos sensores binários 2. Os sensores F e H não são ativados, já que nenhum fóton colide neles. Os sensores B, C, D e G são ativados (isto é, assumem um estado um de lógica), porque estes recebem (absorvem) um número de fótons igual ou maior do que seus limites de valores respectivos. Os sensores A e E permanecem inativos (isto é, permanecem no estado zero de lógica), porque estes recebem (absorvem) um número de fótons menor do que seus limites de valores respectivos.
Considere um caso em que o limite de cada sensor binário 2 é fixado mas não conhecido. Ademais, considere que os dados de treinamento são disponíveis. Primeiro os dados de treinamento são usados para resolver (ou estimar, dependendo na quantidade de dados) o limite de cada sensor binário 2. Depois, dada uma saída da matriz exposta de sensor binário 1, a intensidade é estimada usando o conhecimento dos limites dos sensores binários 2 e suas disposições (locais).
Considere que há N sensores 2 na matriz bi-dimensional 1, enumerados de 1 a N. O estado Si de i n sensor binário é uma variável aleatória Bernoulli, e o limite Ti do sensor i é uma variável aleatória positiva discreta. Considere adicionalmente que o estado de um sensor binário particular 2 é independente dos estados de outros sensores 2. A primeira tarefa é determinar o limite de cada sensor, dado um conjunto S de dados de treinamento, que compreende as saídas dos sensores binários {s-} e as intensidades correspondentes A0), onde i = \,...,N e j = 1 | S |. O limite de cada sensor 2 é determinado independentemente do limite de outros. A probabilidade que o sensor i seja ativado dado seu limite T: = t; e intensidade de luz X é
Figure img0001
Daí se segue que a função de probabilidade para o limite T, pode ser escrita como
Figure img0002
onde S é o subconjunto de S correspondente ao sensor z n. O modo do limite posterior Tj do sensor i pode ser estimado através de usar, por exemplo, a estimativa de probabilidade máxima.
A suposição foi feita, onde os limites dos sensores 2 são independentes um dos outros. Se os limites dos sensores vizinhos não forem independentes, a teoria de campos aleatórios de Markov pode ser usada para acelerar o aprendizado (por exemplo, ver G. Winkler, Análise de imagens, Campos aleatórios e cadeia de Markov métodos Monte Cario Springer, 2003).
Suponha agora que o limite Tj do sensor binário i n é determinado para todo i = Dada a saída {Sj)Nj=i da matriz de sensor binário 1, uma próxima etapa é estimar a intensidade de fóton. Como antes, a função de probabilidade para intensidade X pode ser escrita como
Figure img0003
A estimativa para intensidade 71 pode ser obtida através de usar, por exemplo, no máximo uma estimação posterior com uma distribuição anterior.
Figure img0004
Na análise anterior foram usados métodos Bayesianos para estimar a intensidade de fóton. Entretanto, o uso da rede neural de mecanismos antecipatórios também é adequado para a tarefa (por exemplo, ver S. Haykin, Redes Neutras: Fundação Compreensiva, Imprensa IEEE, segunda edição, 1999). Em geral, dados de treinamento disponíveis podem ser usados para treinar uma rede neural para estimar a intensidade da saída de sensor de matriz.
Considere a estimação sem o uso de dados de treinamento. Mais Especificamente, considere como determinar a intensidade, dada a saída da matriz de sensor binário 1 e a função de massa de probabilidade de limites. Este caso particular se difere de casos anteriores como os limites dos sensores binários 2 não são determinados de forma explícita. Em vez disso, o conhecimento da função de massa de probabilidade e o número de sensores ativados 2 é usado para produzir uma estimativa da intensidade.
Suponha que os limites de valores da matriz de sensor binário 1 são distribuídos de acordo com a função de massa de probabilidade pT(k) . O objetivo é determinar a intensidade, dada a saída da matriz de sensor binário 1. A probabilidade que um sensor particular 2 seja ativado dada a intensidade é
Figure img0005
onde M é o limite máximo na matriz de sensor binário 1 e
Figure img0006
a probabilidade que há / lit sensores 2 dado que a intensidade * é
Figure img0007
A estimativa máxima de probabilidade para 4 é o valor que minimiza a equação anterior. Observe que as modalidades exemplificativas desta invenção não são limitadas ao estimador mencionado anteriormente, e que outros estimadores podem ser usados.
A Figura 2 representa graficamente: o valor de expectativa do número de sensores ativados 2 com relação à intensidade A . Para as linhas sólidas o limite de sensor permaneceu constante com os valores T=1, T=2, T=3 e T=4, e para a linha tracejada os limites de valores foram distribuídos de forma uniforme entre 1 e 4.
Na Figura 3 a performance de diferentes matrizes de sensor binário 1 é comparada. Mais especificamente, a Figura 3 representa graficamente os derivativos do valor de expectativas do número de sensores ativados 2 com relação à intensidade ‘Á . Para as linhas sólidas o limite de sensor permaneceu constante com os valores T=1, T=2, T=3 e T=4, e para a linha tracejada os limites de valores foram uniformemente distribuídos entre 1 e 4.
Como pode ser esperado, a matriz de sensor binário 1 onde todos os limites de valores são iguais a um, executa seu melhor modo quando a intensidade da luz é baixa. Por outro lado, quando todos os limites são iguais a quatro, a performance é boa quando a intensidade é alta, mas o matriz sensor 1 desempenha menos o que é aceitável em baixas intensidades. A matriz sensor 1 onde os limites são distribuídos de maneira uniforme combina os melhores recursos de ambos os tipos de matrizes de sensor, isto é, a matriz 1 é capaz de produzir informação mesmo quando a matriz com limite 1 é quase saturada, e a matriz 1 também é relativamente sensível a baixos níveis de intensidade, onde a matriz com todos os limites iguais a quatro é basicamente não-funcional.
O caso de uma matriz de sensor binário 1 com limites que variam espacialmente é importante. Por Exemplo, se uma matriz de sensor binário 1 com uma sensibilidade de fóton único for construída, através de usar técnicas fotolitográficas, os limites dos sensores binários 2 na matriz 1 irão variar de forma que sejam um resultado das imperfeições no processo de fabricação. Como foi mostrado acima, através de levar isto em consideração a performance da matriz de sensor binário 1 pode ser melhorada. Observe que os limites também podem variar através de propósito e com diferentes graus de controlabilidade (por exemplo, usando uma distribuição conhecida mas com locais desconhecidos). E observado adicional mente que a informação do processo de produção pode ser alimentada no método, para melhorar a performance.
Um tipo adequado e não limitante de conjunto de circuito para implementar os receptores 2 é mostrado na Figura 4. Neste caso cada receptor 2 inclui um fotodiodo 2A conectado com um circuito comparados baseado em inversor simples 2B para quantificação de amplitude de um bit. Um limite atual ajustável pode ser usado para evitar a iniciação devido à iluminação de fundo. Um receptor (pixel) é iniciado quando a corrente de sinal (mais a corrente de fundo) excede a corrente limite ltl e a voltagem Uin através de Cpix devido à corrente de descarregamento ls4-lb-lt vai abaixo da voltagem limite (~-^^2)do comparador 2B. Supondo que lt é pequeno comparado com a amplitude do pulso de sinal, a sensibilidade de um pixel é determinada pela energia óptica Epix necessária para descarregar uma capacidade de entrada de um pixel:
Figure img0008
onde Cpix θ a capacidade total de entrada de um pixel, que compreende o fotodiodo e capacidades de entrada de circuito, Δi/ é a mudança de voltagem na entrada necessária para iniciar o comparador 2B, S é a resposta de fotodiodo e Kf o fator de preenchimento de pixel. Como exemplos não limitantes, outras abordagens possíveis incluem o uso de avalanche ou ionização de impacto para fornecer um ganho em pixel, ou o uso de pontos quantum.
Observe que como descrito até aqui, a variabilidade limite dos sensores individuais 2 na matriz 1 pode ser assumida como resultando da variabilidade inerente do processo de fabricação da matriz 1 (por exemplo, devido à diferenças na uniformidade do material, diferenças na uniformidade da máscara fotolitográfica, diferenças nos níveis de dopante, concentrações de dopante e similares). Entretanto, também fica dentro do escopo das modalidades exemplificativas, induzir intencionalmente a variabilidade limite entre os sensores 1. Isto pode ser alcançado, por exemplo, de uma maneira elétrica, como através de ajustar de forma seletiva a corrente limite mencionada acima, para fazer a diferenciação entre os sensores 1 e/ou entre grupos de sensores 1. Desta forma pode se tornar possível alterar ou ajustar de algum modo, o formato da linha tracejada mostrada nas Figuras 2 e 3.
A Figura 5 ilustra uma modalidade não limitante e exemplificativa de um dispositivo, como um equipamento de usuário (UE) 10, tanto na vista plana (esquerda) e vista seccionada (direita). Na Figura 5 o UE 10 tem uma interface de exibição gráfica 20 e uma interface de usuário 22 ilustrada como um teclado numérico mas entendida como também compreendendo tecnologia de tela de toque na interface de exibição gráfica 20 e tecnologia de reconhecimento de voz recebida no microfone 24. Um atuador de energia 26 controla o dispositivo sendo ligado e desligado pelo usuário.
O UE 10 exemplificativo inclui a câmera 28 que é mostrada como ficando virada para frente (por exemplo, para ligações de vídeo) mas pode alternativamente ou adicionalmente ser virada para trás (por exemplo, para capturar imagens e vídeo para armazenamento local). A câmera 28 é controlada por um atuador de redimensionamento 30 e opcionalmente por um atuador de zoom 30 que pode alternativamente funcionar como um ajuste de volume para auto-falante(s) 34 quando a câmera 28 não está em modo ativo.
A câmera 28 pode ser assumida como incluindo um sensor de matriz de imagem 1 que é construído e operado, de acordo com as modalidades exemplificativas desta invenção, como descrito com detalhes acima. Como mencionado acima, a câmera 28 pode incluir o módulo de câmera 8 mostrado na Figura 1 A.
Na vista seccional da Figura 5 são vistas múltiplas antenas de transmissão/recepção 36 que são tipicamente usadas para comunicação de celular. As antenas 36 podem ser de diversas marcas para o uso com outros rádios no UE. O chip de energia 38 controla a amplificação de energia em canais sendo transmitidos e/ou ficam em frente às antenas que transmitem simultaneamente onde a diversidade espacial é usada, e amplifica os sinais recebidos. O chip de energia 38 libera o sinal recebido amplificado ao chip de frequência de rádio (RF) 40 que demodula e converte para baixo o sinal para o processamento de banda de base. O chip de banda de base (BB) 42 detecta o sinal que é depois convertido a um fluxo de bit e finalmente decodificado. Um processamento similar ocorre de modo reverso para sinais gerados no aparelho 10 e transmitidos a partir deste.
Os sinais que saem da câmera e vão em direção à câmera 28 podem passar através um processador de imagem/vídeo 44 que codifica e decodifica os diversos quadros de imagens. Um processador de áudio separado 46 pode também estar presente controlando os sinais a partir do e para os auto-falantes 34 e o microfone 24. A interface de exibição gráfica 20 é atualizada a partir de uma memória de quadro 48 como controlada por um chip de interface de usuário 50 que pode processar sinais a partir da e para a interface de exibição 20 e/ou adicionalmente processar as entradas de usuário a partir do teclado numérico 22 e outro lugar.
Algumas modalidades do UE 10 podem também incluir um ou mais rádios secundários como um rádio de rede de área local sem fio WLAN 37 e um rádio Bluetooth 39, que pode incorporar uma antena no chip ou ser acoplado à uma antena fora do chip.
Através do aparelho ficam diversas memórias como memória de acesso aleatório RAM 43, memória somente de leitura ROM 45, e em algumas modalidades pode haver memória removível como o cartão de memória ilustrada 47 em que os diversos programas 10C são armazenados. Todos estes componentes no UE 10 são normalmente ligados por um fornecimento de energia portátil como uma bateria 49.
Os processadores 38, 40, 42, 44, 46, 50, se incorporados como entidades separadas em um UE 10, podem operar em uma relação escrava com o processador principal 10A, 12A, que pode então ficar em uma relação de mestre com eles. As modalidades desta invenção podem ser dispostas através de diversos chips e memórias como mostrado, ou dispostas em outro processador que combina algumas das funções descritas acima para Figura 5. Qualquer ou todos estes diversos processadores da Figura 5 acessam uma ou mais das diversas memórias, que podem ficar em um chip com o processador ou separado dele.
Os diversos circuitos integrados (por exemplo, chips 38, 40, 42, etc.) que foram descritos acima podem ser combinados em um número menor do que o descrito e, no caso mais compacto, todos podem ser incorporados fisicamente em um único chip.
Em outras modalidades o equipamento de usuário pode não ter capacidade de comunicação sem fio. Em geral o equipamento de usuário pode ser, por exemplo, um assistente digital pessoal que inclui a câmera 28, um computador pessoal (por exemplo, um computador laptop ou notebook) que inclui a câmera 28, um dispositivo de jogo que inclui a câmera 28, ou simplesmente um dispositivo de câmera digital, como diversos exemplos não limitantes.
O uso e aplicação das modalidades exemplificativas desta invenção fornece um número de efeitos e vantagens técnicas. Por Exemplo, uma matriz de sensor binário 1 que contém sensores binários 2 que tem (por natureza) limites variáveis, e que podem convencionalmente ser considerados como não usáveis já que as abordagens convencionais assumiriam algum limite de sensor conhecido (constante), podem ainda serem usados para formar imagens. Adicionalmente, através de selecionar a distribuição dos limites, mesmo no caso onde há uma variabilidade incontrolável, a performance de imagem (qualidade) da matriz 1 de sensores binários 2 pode ser melhorada.
Com base no que foi mencionado anteriormente, deve ser aparente que as modalidades exemplificativas desta invenção fornecem um método, aparelho e programa(s) de computador para estimar a intensidade da luz que ilumina uma matriz que contém os sensores de luz limite de sub-difração de TV.
A Figura 6 é um diagrama de fluxo de lógica que ilustra a operação de um método, e um resultado de execução de instruções de programa de computador, de acordo com as modalidades exemplificativas desta invenção. De acordo com estas modalidades exemplificativas um método desempenha, no Bloco 6A, uma etapa de fornecer uma matriz que contém sensores de luz limite de sub-difração de TV cada um tendo um limite de ativação de absorção de luz associado para comutar de um estado de reiniciação para um estado ativado, onde os valores de ativação de absorção de luz ficam dentro de uma faixa de valores. No Bloco 6B há uma etapa de estimação de uma intensidade de luz que ilumina a matriz com base nas saídas elétricas da matriz.
No método como descrito no parágrafo anterior, a etapa de estimação, usa dados de treinamento para determinar o limite de ativação de absorção de luz de cada sensor e, com base nas saídas elétricas da matriz, para estimar a intensidade usando o limite determinado de ativação de absorção de luzes dos sensores e seus locais. A estimativa pode usar um método Bayesiano, ou pode usar uma rede neural de mecanismo antecipatório, onde os dados de treinamento são usados para treinar a rede neural para estimar a intensidade das saídas elétricas da matriz.
No método como descrito na Figura 6, a etapa de estimação usa a saída elétrica da matriz para determinar um número de sensores ativados e uma função de massa de probabilidade para determinar uma distribuição do limite de ativação de absorção de luzes dos sensores. A estimação da intensidade pode usar uma estimativa máxima de probabilidade.
No método como descrito nos parágrafos anteriores, onde N fica em uma faixa de cerca de 106 a cerca de 109 ou maior, e onde os valores de ativação de absorção de luz ficam dentro de uma faixa de valores de cerca de 1 a cerca de 4.
No método como descrito nos parágrafos anteriores, onde o método é executado em um módulo de câmera incorporado em um dispositivo de usuário.
Os diversos blocos mostrados na Figura 6 podem ser vistos como etapas de método, e/ou como operações que resultam da operação do código de programa de computador, e/ou como uma pluralidade de elementos de circuito lógico acoplados para executarem a(s) função(ões) associada(s).
Em geral, as diversas modalidades exemplificativas podem ser implementadas em hardware ou circuitos de propósito especial, software, lógica ou qualquer combinação dos mesmos. Por exemplo, alguns aspectos podem ser implementados em hardware, enquanto outros aspectos podem ser implementados em firmware ou software que podem ser executados por um controlador, microprocessador ou outro dispositivo de computação, embora a invenção não seja limitada a estes. Enquanto diversos aspectos das modalidades exemplificativas desta invenção podem ser ilustradas e descritas como diagramas em blocos, fluxogramas, ou usando alguma outra representação de desenho, é bem entendido que estes blocos, aparelho, sistemas, técnicas ou métodos descritos no presente documento podem ser implementados, como exemplos, hardware, software, firmware, circuitos de propósito especial ou lógica, hardware ou controlador de propósito geral ou outros dispositivos de computação não limitantes, ou alguma combinação dos mesmos.
Deve ser, deste modo apreciado que, pelo menos, alguns aspectos das modalidades exemplificativas das invenções podem ser praticados em diversos componentes como módulos e chips de circuitos integrados, e que as modalidades exemplificativas desta invenção podem ser realizadas em um aparelho que é incorporado como um circuito integrado. O circuito integrado ou circuitos, podem compreender um conjunto de circuitos (assim como possivelmente firmware) para incorporar, pelo menos, um ou mais de um processador de dados ou processadores de dados e um processador de sinal digital ou processadores que são configuráveis, para operarem, de acordo com as modalidades exemplificativas desta invenção.
Diversas modificações e adaptações às modalidades exemplificativas mencionadas anteriormente desta invenção podem se tornar parentes para aqueles versados na técnica relevante, tendo em vista a descrição feita anteriormente, quando lida em conjunto com os desenhos em anexo. Entretanto, qualquer e todas as modificações ainda ficarão no escopo das modalidades exemplificativas e não limitantes desta invenção.
Por exemplo, enquanto mostrado na Figura 1A como uma matriz bi-dimensional 1 de sensores ópticos binários 2, em outras modalidades a matriz 1 pode ser uma matriz tridimensional de sensores ópticos binários (isto é, pode haver sensores de imagem adicionais 2 dispostos ao longo de um eixo z da matriz 1, como descrito no pedido de patente co- dependente S.N. 12/384,549, depositado 04/06/2009, "Sensor De Imagem", Ossi M. Kalevo, Samu T. Koskinen, Terra RissaJ.
Deve ser notado os termos "conectado," "acoplado," qualquer variação destes, significa qualquer conexão ou acoplamento, tanto direta quanto indireta, entre dois ou mais elementos, e pode compreender a presença de um ou mais elementos intermediários entre dois elementos que são "conectados" ou "acoplados" um ao outro. O acoplamento ou conexão entre os elementos podem ser físicos, lógicos, ou uma combinação dos mesmos. Como empregado no presente documento, dois elementos podem ser considerados como sendo "conectados" ou "acoplados" pelo uso de um ou mais fios, cabos e/ou conexões elétricas impressas, assim como pelo uso de energia eletromagnética, como energia eletromagnética tendo comprimentos de ondas na região de frequência de rádio, a região de microondas e a região óptica (tanto visível quanto invisível), como diversos exemplos não limitantes e não exaustivos.
Além disso, alguns dos recursos das diversas e não limitantes modalidades exemplificativas desta invenção, podem ser usados de forma vantajosa sem o uso correspondente de outros recursos. Deste modo, a descrição mencionada anteriormente deve ser considerada como meramente ilustrativa dos princípios, ensinamentos e modalidades exemplificativas desta invenção, e não limitantes da mesma.

Claims (13)

1. Aparelho (8) caracterizado pelo fato de que compreende: uma pluralidade de sensores (2) de luz de limite de sub-difração em que cada sensor tem um limite de ativação associado para comutar de um estado de saída do sensor a partir de um primeiro estado para um segundo estado e em que os limites de ativação de, pelo menos, alguns dos sensores são definidos por diferentes números de fótons; e meios (4, 5) para estimar a incidência de luz na pluralidade de sensores, pela interpretação dos estados de saída da pluralidade de sensores dependendo de uma distribuição de diferentes limites de ativação dos sensores, em que os diferentes limites de ativação são definidos por diferentes números de fótons.
2. Aparelho (8), de acordo com a reivindicação 1, caracterizado pelo fato de que os sensores (2) são sensores binários tendo como estados de saída apenas o primeiro estado e o segundo estado.
3. Aparelho (8), de acordo com a reivindicação 1 ou 2, caracterizado pelo fato de que o aparelho é configurado para converter uma distribuição espacial dos estados de saída para uma distribuição espacial da luz incidente, dependendo da distribuição dos diferentes limites de ativação dos sensores (2).
4. Aparelho (8), de acordo com qualquer uma das reivindicações 1 a 3, caracterizado pelo fato de que o aparelho é configurado de tal modo que os limites de ativação são controlados.
5. Aparelho (8), de acordo com a reivindicação 4, caracterizado pelo fato de que o aparelho é configurado de tal modo que os limites de ativação são controlados ativamente em uma maneira elétrica.
6. Aparelho (8), de acordo com qualquer uma das reivindicações 1 a 5, caracterizado pelo fato de que a pluralidade de sensores (2) compreende mais do que 106 sensores.
7. Aparelho (8), de acordo com qualquer uma das reivindicações 1 a 6, caracterizado pelo fato de que é incorporado como uma câmera (28) em um dispositivo de usuário (10).
8. Método caracterizado pelo fato de que compreende: fornecer uma pluralidade de sensores de luz de limite de sub-difração em que cada sensor (2) tem um limite de ativação associado para comutar de um estado de saída do sensor a partir de um primeiro estado para um segundo estado e em que o limite de ativação de, pelo menos, alguns dos sensores são definidos por números diferentes de fótons; e estimar a incidência de luz na pluralidade de sensores, pela interpretação dos estados de saída da pluralidade de sensores dependendo de uma distribuição de diferentes limites de ativação dos sensores, em que os diferentes limites de ativação são definidos por números diferentes de fótons.
9. Método, de acordo com a reivindicação 8, caracterizado pelo fato de que compreende usar sensores (2) binários tendo como estados de saída apenas o primeiro estado e o segundo estado.
10. Método, de acordo com a reivindicação 8 ou 9, caracterizado pelo fato de que compreende converter uma distribuição espacial dos estados de saída para uma distribuição espacial da luz incidente, dependendo da distribuição dos diferentes limites de ativação dos sensores (2).
11. Método, de acordo com qualquer uma das reivindicações 8 a 10, caracterizado pelo fato de que a estimativa usa um método Bayesiano.
12. Método, de acordo com qualquer uma das reivindicações 8 a 11, caracterizado pelo fato de que compreende usar dados de treinamento ou uma função de massa de probabilidade para determinar a distribuição de diferentes limites de ativação dos sensores (2) e, usar saídas elétricas da pluralidade de sensores e as localizações dos sensores para estimar a luz usando a distribuição determinada de diferentes limites de ativação dos sensores.
13. Memória legível por computador caracterizada pelo fato de que compreende instruções que quando executadas por um computador, realizam qualquer uma das etapas executáveis em computador definidas em qualquer uma das reivindicações 8 a 12.
BR112012015711-6A 2009-12-23 2010-12-22 Aparelho, método e memória legível por computador para estimar a incidência de luz em uma pluralidade de sensores de luz BR112012015711B1 (pt)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US12/645,721 2009-12-23
US12/645,721 US8420996B2 (en) 2009-12-23 2009-12-23 Intensity estimation using binary sensor array with spatially varying thresholds
PCT/IB2010/056033 WO2011077398A1 (en) 2009-12-23 2010-12-22 Intensity estimation using binary sensor array with spatially varying thresholds

Publications (2)

Publication Number Publication Date
BR112012015711A2 BR112012015711A2 (pt) 2021-07-20
BR112012015711B1 true BR112012015711B1 (pt) 2022-02-08

Family

ID=44150616

Family Applications (1)

Application Number Title Priority Date Filing Date
BR112012015711-6A BR112012015711B1 (pt) 2009-12-23 2010-12-22 Aparelho, método e memória legível por computador para estimar a incidência de luz em uma pluralidade de sensores de luz

Country Status (7)

Country Link
US (1) US8420996B2 (pt)
EP (1) EP2517459B1 (pt)
KR (1) KR101397351B1 (pt)
CN (1) CN102741670B (pt)
BR (1) BR112012015711B1 (pt)
CA (1) CA2784873C (pt)
WO (1) WO2011077398A1 (pt)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8319855B2 (en) * 2010-01-19 2012-11-27 Rambus Inc. Method, apparatus and system for image acquisition and conversion
WO2013070932A1 (en) * 2011-11-08 2013-05-16 Rambus Inc. Conditional-reset, temporally oversampled image sensor
WO2013070942A1 (en) 2011-11-08 2013-05-16 Rambus Inc. Image sensor sampled at non-uniform intervals
US9185311B2 (en) 2012-07-31 2015-11-10 Rambus Inc. Image sensor with a split-counter architecture
US9036065B1 (en) 2012-08-16 2015-05-19 Rambus Inc. Shared-counter image sensor
US9432604B2 (en) 2012-10-12 2016-08-30 Samsung Electronics Co., Ltd. Image sensor chips
US9679929B2 (en) 2012-10-12 2017-06-13 Samsung Electronics Co., Ltd. Binary image sensors including quantum dots and unit pixels thereof
US9177987B2 (en) 2012-10-12 2015-11-03 Samsung Electronics Co., Ltd. Binary CMOS image sensors, methods of operating same, and image processing systems including same
US9462202B2 (en) 2013-06-06 2016-10-04 Samsung Electronics Co., Ltd. Pixel arrays and imaging devices with reduced blooming, controllers and methods
KR20150081093A (ko) * 2014-01-03 2015-07-13 삼성전자주식회사 이미지 센서, 및 이를 포함하는 이미지 처리 시스템
US10387743B2 (en) * 2016-03-16 2019-08-20 Ramot At Tel-Aviv University Ltd. Reconstruction of high-quality images from a binary sensor array
US10823611B2 (en) * 2018-09-12 2020-11-03 Bae Systems Information And Electronic Systems Integration Inc. Light sensing apparatus with automatic gain control
AU2021275061B2 (en) * 2020-05-20 2023-01-19 Ysi, Inc. Spatial gradient-based fluorometer

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5036546A (en) * 1986-10-06 1991-07-30 Grumman Aerospace Corporation Pseudo-noise product coded aperture arrays and method for designing same
EP1251364A2 (en) * 1994-12-23 2002-10-23 Digirad Corporation Semiconductor gamma-ray camera and medical imaging system
US7106377B2 (en) * 2001-07-25 2006-09-12 Hewlett-Packard Development Company, L.P. Image capturing device capable of single pixel exposure duration control
US7095439B2 (en) * 2002-04-04 2006-08-22 Motorola, Inc. Image sensor circuit and method
US20040096820A1 (en) * 2002-05-31 2004-05-20 Ciphergen Biosystems, Inc. Comparative proteomics of progressor and nonprogressor populations
JP3767541B2 (ja) * 2002-11-12 2006-04-19 ソニー株式会社 光源推定装置、光源推定方法、撮像装置および画像処理方法
KR100855470B1 (ko) * 2006-09-28 2008-09-01 삼성전자주식회사 광원 추정 방법 및 장치
KR100835380B1 (ko) * 2007-01-15 2008-06-05 한국과학기술원 영상의 경계를 검출하는 방법 및 그 장치와 이를 구현할 수있는 컴퓨터로 읽을 수 있는 기록 매체
EP2432015A1 (en) * 2007-04-18 2012-03-21 Invisage Technologies, Inc. Materials, systems and methods for optoelectronic devices
EP2283644A4 (en) 2008-05-09 2011-10-26 Ecole Polytech PICTURE SENSOR WITH NONLINEAR REACTION
US8816460B2 (en) * 2009-04-06 2014-08-26 Nokia Corporation Image sensor

Also Published As

Publication number Publication date
KR101397351B1 (ko) 2014-05-21
US20110149274A1 (en) 2011-06-23
BR112012015711A2 (pt) 2021-07-20
CA2784873A1 (en) 2011-06-30
EP2517459A1 (en) 2012-10-31
US8420996B2 (en) 2013-04-16
KR20120096594A (ko) 2012-08-30
EP2517459B1 (en) 2021-02-17
WO2011077398A1 (en) 2011-06-30
CA2784873C (en) 2014-08-19
CN102741670A (zh) 2012-10-17
CN102741670B (zh) 2015-03-04
EP2517459A4 (en) 2018-01-03

Similar Documents

Publication Publication Date Title
BR112012015711B1 (pt) Aparelho, método e memória legível por computador para estimar a incidência de luz em uma pluralidade de sensores de luz
US10750097B2 (en) Varying exposure time of pixels in photo sensor using motion prediction
US11165982B1 (en) Spatial derivative pixel array with adaptive quantization
US8735795B2 (en) Image sensor with integrated ambient light detection
JP2020532098A (ja) 画素レベル相互接続部付きの積層フォトセンサアセンブリ
US20100328456A1 (en) Lenslet camera parallax correction using distance information
US20140239154A1 (en) High dynamic range pixel having a plurality of amplifier transistors
KR20150098094A (ko) 복수의 이미지 신호 프로세서들을 포함하는 이미지 처리 장치 및 이미지 처리 방법
KR20150087032A (ko) 출력신호를 보정할 수 있는 이미지 센서
KR20130009427A (ko) 시모스 이미지 센서
US11438530B2 (en) Pixel unit with a design for half row reading, an imaging apparatus including the same, and an imaging method thereof
CN105470273B (zh) 具有非破坏性读出的图像传感器像素单元
US20200021768A1 (en) Image sensor and pixel array circuit thereof
US9843746B2 (en) Image sensor combining high dynamic range techniques
US20190035082A1 (en) Visible light communication (vlc) via digital imager
EP3445037B1 (en) Varying exposure time of pixels in photo sensor using motion prediction
CN110830737B (zh) 像素设备、比较装置和使用该像素设备的cmos图像传感器
KR20150027439A (ko) 조도 변화에 따라 다른 전압을 픽셀들로 공급할 수 있는 이미지 센서, 이의 동작 방법, 및 상기 이미지 센서를 포함하는 장치
US20140263957A1 (en) Imaging systems with switchable column power control
US20230139967A1 (en) Image sensor, image acquisition apparatus, and electronic apparatus including the image acquisition apparatus
US12010444B2 (en) Image sensor, image acquisition apparatus, and electronic apparatus including the image acquisition apparatus for synchronization and serialization of generated pulses
CN221409010U (zh) 传感器像素单元、信号处理电路和电子设备
CN118264930A (zh) 一种图像传感器及电子设备

Legal Events

Date Code Title Description
B06F Objections, documents and/or translations needed after an examination request according [chapter 6.6 patent gazette]
B25A Requested transfer of rights approved

Owner name: NOKIA TECHNOLOGIES OY (FI)

B06U Preliminary requirement: requests with searches performed by other patent offices: procedure suspended [chapter 6.21 patent gazette]
B06I Publication of requirement cancelled [chapter 6.9 patent gazette]

Free format text: ANULADA A PUBLICACAO CODIGO 6.21 NA RPI NO 2572 DE 22/04/2020 POR TER SIDO INDEVIDA.

B15K Others concerning applications: alteration of classification

Free format text: AS CLASSIFICACOES ANTERIORES ERAM: H04N 5/335 , H01L 27/146 , H04N 5/347

Ipc: H04N 5/3745 (2011.01), H04N 5/335 (2011.01), H04N

B06U Preliminary requirement: requests with searches performed by other patent offices: procedure suspended [chapter 6.21 patent gazette]
B350 Update of information on the portal [chapter 15.35 patent gazette]
B09A Decision: intention to grant [chapter 9.1 patent gazette]
B16A Patent or certificate of addition of invention granted [chapter 16.1 patent gazette]

Free format text: PRAZO DE VALIDADE: 20 (VINTE) ANOS CONTADOS A PARTIR DE 22/12/2010, OBSERVADAS AS CONDICOES LEGAIS. PATENTE CONCEDIDA CONFORME ADI 5.529/DF, QUE DETERMINA A ALTERACAO DO PRAZO DE CONCESSAO.