KR20220004735A - 컴퓨터 비전 응용에서 3차원 맵핑 툴들을 사용한 객체 인식을 위한 시스템 및 방법 - Google Patents

컴퓨터 비전 응용에서 3차원 맵핑 툴들을 사용한 객체 인식을 위한 시스템 및 방법 Download PDF

Info

Publication number
KR20220004735A
KR20220004735A KR1020217039544A KR20217039544A KR20220004735A KR 20220004735 A KR20220004735 A KR 20220004735A KR 1020217039544 A KR1020217039544 A KR 1020217039544A KR 20217039544 A KR20217039544 A KR 20217039544A KR 20220004735 A KR20220004735 A KR 20220004735A
Authority
KR
South Korea
Prior art keywords
pattern
scene
light
recognized
light source
Prior art date
Application number
KR1020217039544A
Other languages
English (en)
Inventor
유누스 엠레 커토글루
매튜 이안 칠더스
Original Assignee
바스프 코팅스 게엠베하
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 바스프 코팅스 게엠베하 filed Critical 바스프 코팅스 게엠베하
Publication of KR20220004735A publication Critical patent/KR20220004735A/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2545Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with one projection direction and several detection directions, e.g. stereo
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2513Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with several lines being projected in more than one direction, e.g. grids, patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/145Illumination specially adapted for pattern recognition, e.g. using gratings
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/60Extraction of image or video features relating to illumination properties, e.g. using a reflectance or lighting model
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • G06V20/653Three-dimensional objects by matching three-dimensional models, e.g. conformal mapping of Riemann surfaces

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)
  • Photometry And Measurement Of Optical Pulse Characteristics (AREA)
  • Image Processing (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Image Analysis (AREA)

Abstract

본 발명은 컴퓨터 비전 응용을 통한 객체 인식을 위한 시스템 및 방법을 언급하며, 시스템은 적어도 다음의 구성요소들: - 인식될 객체(130, 130') ― 객체는 객체 특정 반사율 및 발광 스펙트럼 패턴들을 가짐 ―, - 인식될 객체를 포함하는 장면(140, 140') 상에 적어도 하나의 광 패턴을 투사하도록 구성되는 광원(110, 110'), - 장면이 광원에 의해 조명될 때 객체를 포함하는 장면의 방사휘도 데이터를 측정하도록 구성되는 센서(120, 121, 120'), - 발광 스펙트럼 패턴들을 적절히 배정된 개개의 객체들과 함께 포함하는 데이터 저장 유닛, 및 - 데이터 처리 유닛을 포함하며, 데이터 처리 유닛은, 장면(140, 140')의 방사휘도 데이터로부터, 인식될 객체의 객체 특정 발광 스펙트럼 패턴을 검출하고, 검출된 객체 특정 발광 스펙트럼 패턴을 데이터 저장 유닛에 저장된 발광 스펙트럼 패턴들과 매칭하고, 가장 양호하게 매칭되는 발광 스펙트럼 패턴, 및 그에 따라, 가장 양호하게 매칭되는 발광 스펙트럼 패턴에 배정된 객체를 식별하고, 센서(120, 121, 120')에 의해 측정된 반사율 특성들에 의해 장면(140, 140') 내의 식별된 객체(130, 130')의 거리, 형상, 심도, 및/또는 표면 정보를 계산하도록 구성된다.

Description

컴퓨터 비전 응용에서 3차원 맵핑 툴들을 사용한 객체 인식을 위한 시스템 및 방법
본 개시내용은 3차원 맵핑 툴들을 사용하는 컴퓨터 비전 응용을 통한 객체 인식을 위한 시스템 및 방법을 언급한다.
컴퓨터 비전은, 몇몇 예를 들자면, 센서들, 이를테면, 카메라들, 라이다(LiDAR) 또는 레이더와 같은 거리 센서들, 및 구조화된 광 또는 스테레오 비전에 기반한 심도 카메라 시스템들을 통해 자신 주변들에 관한 정보를 수집할 수 있는 전자 디바이스들의 풍부한 사용에 기인하여 빠르게 발전되고 있는 분야이다. 이러한 전자 디바이스들은, 컴퓨터 처리 유닛에 의해 처리될 미가공 이미지 데이터를 제공하고, 결과적으로, 인공 지능 및/또는 컴퓨터 보조 알고리즘들을 사용하여 환경 또는 장면의 이해를 전개한다. 이러한 환경의 이해가 어떻게 전개될 수 있는지에 대한 다수의 방식들이 존재한다. 일반적으로, 2D 또는 3D 이미지들 및/또는 맵들이 형성되고, 이러한 이미지들 및/또는 맵들은 장면 및 그 장면 내의 객체들의 이해를 전개하기 위해 분석된다. 컴퓨터 비전을 개선하기 위한 하나의 예상은 장면 내의 객체들의 화학적 구성의 성분들을 측정하는 것이다. 2D 또는 3D 이미지들로서 취득된 환경 내의 객체들의 형상 및 외관이 환경의 이해를 전개하기 위해 사용될 수 있지만, 이러한 기법들은 일부 단점들을 갖는다.
컴퓨터 비전 분야에서의 하나의 난제는, 센서들, 컴퓨팅 용량, 광 프로브 등의 리소스들을 최소량으로 사용하여 높은 정확성 및 낮은 레이턴시로 각각의 장면 내에서 가능한 한 많은 객체들을 식별할 수 있는 것이다. 객체 식별 프로세스는 수년에 걸쳐 원격 감지, 객체 식별, 분류, 인증 또는 인식으로 지칭되었 왔다. 본 개시내용의 범위에서, 장면 내의 객체를 식별하는 컴퓨터 비전 시스템의 능력은 "객체 인식"으로 지칭된다. 예컨대, 컴퓨터가 화상을 분석하고, 그 화상에서 공을, 때때로 심지어는 공의 유형(농구공, 축구공, 야구공), 브랜드, 정황(context) 등과 같은 추가 정보와 함께 식별/라벨링하는 것이 "객체 인식"이라는 용어에 속한다.
일반적으로, 컴퓨터 비전 시스템들에서 객체의 인식에 활용되는 기법들은 다음과 같이 분류될 수 있다:
기법 1: 물리적 태그들(이미지 기반): 바코드들, QR 코드들, 일련 번호들, 텍스트, 패턴들, 홀로그램들 등.
기법 2: 물리적 태그들(스캔/밀접 접촉 기반): 시야각 의존 안료들, 상향변환(upconversion) 안료들, 메타크로믹스(metachromics), 색상(적색/녹색), 발광성 물질들.
기법 3: 전자 태그들(수동): RFID 태그들 등. 전력 없이 관심 객체들에 부착된 디바이스들이며, 반드시 가시적이지는 않지만 다른 주파수들 (예컨대, 라디오)에서 동작할 수 있다.
기법 4: 전자 태그들(능동): 무선 통신들, 광, 라디오, 차량 간 통신(vehicle to vehicle), 차량-사물 간 통신(vehicle to anything(X)) 등. 다양한 형태들로 정보를 내보내는, 관심 객체들 상의 전력을 공급받는 디바이스들이다.
기법 5: 특징 검출(이미지 기반): 이미지 분석 및 식별, 즉, 측면 뷰로부터 자동차에 대한 특정 거리에 있는 2개의 바퀴; 얼굴 인식을 위한 2개의 눈, 코 및 입(이 순서로) 등의 분석 및 식별. 이는 알려져 있는 기하학적 구조들/형상들에 의존한다.
기법 6: 심층 학습/CNN 기반(이미지 기반): 자동차들, 얼굴들 등의 라벨링된 이미지들을 갖는 화상들 중 많은 화상들로 컴퓨터를 훈련하고, 컴퓨터는 검출할 특징들을 결정하고 관심 객체들이 새로운 영역들에 존재하는지를 예측한다. 식별될 객체의 각각의 부류에 대한 훈련 절차의 반복이 요구된다.
기법 7: 객체 추적 방법들: 처음에, 장면 내의 물품들을 특정 순서로 조직화하고 순서화된 객체들을 라벨링한다. 그 후, 알려져 있는 색상/기하학적 구조/3D 좌표들을 갖는 장면 내의 객체를 추종한다. 객체가 장면을 벗어났다가 재진입하는 경우, "인식"은 상실된다.
다음에서, 위에 언급된 기법들의 일부 단점들이 제시된다.
기법 1: 이미지 내의 객체가 가려지거나 객체의 작은 부분만이 뷰 내에 있을 때, 바코드들, 로고 등이 판독가능하지 않을 수 있다. 또한, 가요성 물품들 상의 바코드들 등이 왜곡되어 가시성이 제한될 수 있다. 객체의 모든 측부들은 멀리서 가시적이도록 큰 바코드들을 보유해야 할 것이며, 그렇지 않으면, 객체는 가까운 범위에서만 그리고 정확한 배향으로만 인식될 수 있다. 이는, 예컨대, 상점에서 선반 상에 있는 객체 상의 바코드가 스캐닝되어야 할 때 문제가 될 수 있다. 전체 장면에 걸쳐 동작할 때, 기법 1은 변할 수 있는 주변 조명에 의존한다.
기법 2: 상향변환 안료들은 그의 작은 양자 수율들로 인한 낮은 수준의 방출된 광 때문에 시야 거리들의 제한들을 갖는다. 그들은 강한 광 프로브들을 요구한다. 그들은 보통 불투명하고, 코팅들에 대한 옵션들을 제한하는 큰 입자들이다. 그들의 사용을 추가로 복잡하게 하는 것은, 형광 및 광 반사와 비교하여 상향변환 응답이 더 느리다는 사실이다. 일부 응용들은 사용되는 화합물에 따른 이러한 고유한 응답 시간을 이용하지만, 이는, 그 센서/객체 시스템에 대한 비행 시간(time of flight) 거리가 미리 알려져 있을 때에만 가능하다. 이는 컴퓨터 비전 응용들에서는 드문 경우이다. 이러한 이유들로 인해, 위조 방지 센서들은 판독을 위한 커버된/어두운 부분들, 프로브들로서의 부류 1 또는 2 레이저들, 및 정확성을 위한 관심 객체까지의 고정되고 제한된 거리를 갖는다.
유사하게, 시야각 의존 안료 시스템들은 가까운 범위에서만 작동하고, 다수의 각도들에서 보는 것을 요구한다. 또한, 색상은 시각적으로 기분 좋은 효과들을 위해 균일하지 않다. 정확한 측정들을 획득하기 위해 입사 광의 스펙트럼이 관리되어야 한다. 단일 이미지/장면 내에서, 각도 의존 색상 코팅을 갖는 객체는 샘플 치수들을 따라 카메라에 가시적인 다수의 색상들을 가질 것이다.
색상 기반 인식들은, 측정된 색상이 주변 조명 조건들에 부분적으로 의존하기 때문에 어렵다. 따라서, 각각의 장면에 대한 기준 샘플들 및/또는 제어된 조명 조건들이 필요하다. 상이한 센서들은 또한 상이한 색상들을 구별하기 위한 상이한 능력들을 가질 것이고, 센서 유형/제조자마다 상이할 것이어서, 각각의 센서에 대한 교정 파일들을 필요로 한다.
주변 조명 하에서의 발광 기반 인식은 객체의 반사성 및 발광성 성분들이 함께 부가되기 때문에 난제인 작업이다. 전형적으로, 발광 기반 인식은 대신에, 어두운 측정 조건 및 발광성 물질의 여기 구역의 선험적 지식을 활용할 것이므로, 정확한 광 프로브/광원이 사용될 수 있다.
기법 3: 전자 태그들, 이를테면 RFID 태그들은 관심 물품/객체에 대한 회로, 집전 장치(power collector), 및 안테나의 부착을 요구하여, 설계에 비용 및 복잡성을 부가한다. RFID 태그들은 존재 여부 유형 정보를 제공하지만, 장면에 걸쳐 많은 센서들이 사용되지 않는 한 정확한 위치 정보를 제공하지는 않는다.
기법 4: 이러한 능동적인 방법들은 관심 객체가 전원에 연결될 것을 요구하며, 이는, 축구공, 셔츠, 또는 파스타 상자와 같은 간단한 물품들에 대해 엄청난 비용이 들고, 따라서 실용적이지 않다.
기법 5: 예측 정확성은 이미지의 품질 및 장면 내의 카메라의 위치에 크게 의존하는데, 그 이유는, 가려짐(occlusion)들, 상이한 시야각들 등이 결과들을 쉽게 변경할 수 있기 때문이다. 로고 유형 이미지들은 장면 내의 다수의 장소들에 존재할 수 있고(즉, 로고는 공, T-셔츠, 모자, 또는 커피 머그잔 상에 있을 수 있음), 객체 인식은 추론에 의한 것이다. 객체의 시각적 파라미터들은 많은 노력을 들여 수학적 파라미터들로 변환되어야 한다. 각각의 가능한 형상이 데이터베이스에 포함되어야 하기 때문에, 그들의 형상이 변경될 수 있는 가요성 객체들이 문제가 된다. 유사하게 형상화된 객체들이 관심 객체로서 오식별될 수 있기 때문에, 항상 고유의 모호성이 존재한다.
기법 6: 훈련 데이터 세트의 품질이 방법의 성공을 결정한다. 인식/분류될 각각의 객체에 대해 많은 훈련 이미지들이 필요하다. 기법 5에 대한 것과 동일한 가려짐 및 가요성 객체 형상 제한들이 적용된다. 수천 개 이상의 이미지들로 각각의 부류의 물질을 훈련할 필요가 있다.
기법 7: 이러한 기법은 장면이 사전 조직화될 때 효과가 있지만, 이는 거의 실용적이지 않다. 관심 객체가 장면을 벗어나거나 완전히 가려지는 경우, 위의 다른 기법들과 결합되지 않는 한 객체는 인식될 수 없다.
이미 존재하는 기법들의 위에 언급된 단점들 외에도, 언급할 가치가 있는 일부 다른 난제들이 존재한다. 먼 거리를 보는 능력, 작은 객체들을 보는 능력 또는 객체들을 충분히 상세히 보는 능력은 모두 고해상도 이미징 시스템들, 즉, 고해상도 카메라, 라이다, 레이더 등을 요구한다. 고해상도 요구들은 연관된 센서 비용들을 증가시키고 처리될 데이터의 양을 증가시킨다.
자율 주행 또는 보안과 같은 즉각적인 응답들을 요구하는 응용들의 경우, 레이턴시는 또 다른 중요한 양상이다. 처리될 필요가 있는 데이터의 양은 에지 또는 클라우드 컴퓨팅이 응용에 적절한지를 결정하며, 후자는 데이터 로드들이 작은 경우에만 가능하다. 에지 컴퓨팅이 과중한 처리와 함께 사용될 때, 시스템들을 동작시키는 디바이스들은 부피가 더 커지고, 사용의 용이성을 그리고 그에 따라 구현을 제한한다.
그에 따라, 컴퓨터 비전 응용들에 대한 객체 인식 능력들을 개선하기에 적합한 시스템들 및 방법들에 대한 필요성이 존재한다.
상업적으로 중요한 하나의 신흥 분야는, 몇몇 예를 들자면, 인공 지능, 자율 시스템들, 증강 현실과 같은 다양한 컴퓨터 비전 응용들에 대한 실내 및 실외 환경들의 3D 맵핑이다. 진행 중인 논의와 관련된 맵핑 기법들 중 일부는, 장면 내로 펄싱되거나(시간적), 장면 내로 부분적으로 방출되거나(구조화된 광), 또는 이 둘의 조합(도트 매트릭스 프로젝터, 라이다 등)인 광 프로브들을 수반한다. 구조화된 광 시스템들은 종종, 카메라/센서로 신호가 다시 반환될 시 장면에 도입된 광의 알려져 있는 기하학적 구조로부터의 편차를 사용하고 왜곡들을 사용하여 객체들의 거리/형상을 계산한다. 그러한 시스템에서 사용되는 광의 파장은, 스펙트럼의 UV 구역, 가시 구역, 또는 근적외선(near-IR) 구역 내의 어딘가일 수 있다. 도트 프로젝터 유형 시스템들에서, 광 프로브가 장면 내로 펄싱되고, 비행 시간 측정들이 수행되어 표적 객체 형상 및 거리를 계산한다. 일부 버전들에서, 광 프로브는 프로젝터/센서의 시야 내에 다수의 영역들을 도입하는 반면, 다른 버전들에서는, 한 번에 단일 영역만이 조명되고, 시간 경과에 따라 장면의 상이한 영역들을 스캐닝하도록 절차가 반복된다. 두 시스템들 모두에서, 장면 내에 이미 존재하는 주변 광은 맵핑 작업을 수행하기 위해 도입되는 광과 구별된다. 이러한 시스템들은, 광 프로브들이 동작하는 스펙트럼 대역들에서 프로브들이 조명하고 판독하는 객체들의 반사성 특성들에 엄격하게 의존한다. 두 시스템 유형들 모두는 컴퓨터 비전 시스템에 대한 관심 크기들 및 치수들을 수용하도록 설계되며, 그러므로, 프로브에 의해 조명되는 영역들의 해상도는 측정, 맵핑 또는 인식될 관심 객체들과 유사한 길이 규모들을 갖는다.
본 개시내용은, 독립항들의 특징들을 갖는 시스템 및 방법을 제공한다. 실시예들은 종속항들 및 설명 및 도면들의 대상이다.
청구항 제1항에 따르면, 컴퓨터 비전 응용을 통한 객체 인식을 위한 시스템이 제공되며, 시스템은, 적어도 다음의 구성요소들:
- 인식될 객체 ― 객체는, 객체 특정 반사율 스펙트럼 패턴 및 객체 특정 발광 스펙트럼 패턴을 가짐 ―,
- 인식될 객체를 포함하는 장면 상에 적어도 하나의 광 패턴을 투사하도록 구성되는 광원,
- 장면이 광원에 의해 조명될 때 장면의 방사휘도 데이터를 측정하도록 구성되는 센서,
- 발광 스펙트럼 패턴들을 적절히 배정된 개개의 객체들과 함께 포함하는 데이터 저장 유닛, 및
- 데이터 처리 유닛을 포함하며, 데이터 처리 유닛은,
○ 장면의 방사휘도 데이터로부터, 인식될 객체의 객체 특정 발광 스펙트럼 패턴을 검출/추출하고, 검출/추출된 객체 특정 발광 스펙트럼 패턴을 데이터 저장 유닛에 저장된 발광 스펙트럼 패턴들과 매칭하고, 가장 양호하게 매칭되는 발광 스펙트럼 패턴, 및 그에 따라, 가장 양호하게 매칭되는 발광 스펙트럼 패턴에 배정된 객체를 식별하고,
○ 센서에 의해 측정된 반사율 특성들에 의해 장면 내의 식별된 객체의 거리, 형상, 심도, 및/또는 표면 정보를 계산하도록 구성된다.
반사율 특성들은, (객체 특정 반사율 패턴의 일부를 형성하는) 반사된 광이 센서로 반환되는 데 소요되는 시간량과 같은 시간적 요소들, 또는 방출된 공간적 광 패턴의 측정된 왜곡과 같은, 즉, 객체의 표면에 부딪힐 때 광 패턴이 변형되는 방식에 의한 공간적 측정들을 포함할 수 있다.
반사율 특성들은 알려져 있는 객체 특정 반사율 패턴의 관점에서 고려되어야 한다.
광원은 제1 광 패턴을 장면 상에 투사하고, 이어서, 센서의 결과들에 기반하여 제2 광 패턴을 선택하고, 그 광 패턴을 장면 상에 투사하고, 그러한 결과들을 사용하여 다른 제3 광 패턴을 투사하는 등의 방식을 행하도록 구성될 수 있다. 그에 따라, 광원은, 장면 상에 다수의 광 패턴들을 차례로 투사할 수 있다. 대안적으로, 광원은 장면 상에 다수의 광 패턴들을 동시에 투사할 수 있다. 광원이 제1 그룹의 상이한 광 패턴들을 제1 시점에 장면 상에 투사하고, 이어서, 제2 그룹의 상이한 광 패턴들을 선택하여 그 광 패턴들을 제2 시점에 장면 상에 투사하는 것이 또한 가능하다. 동시에 또는 연속적으로 동작될 수 있는 다수의 광원들을 사용하는 것이 또한 가능하며, 각각의 광원은 장면 상에 하나의 미리 정의된 광 패턴 또는 광 패턴들의 그룹 또는 일련의 연속적인 광 패턴들을 투사하도록 구성된다. 하나의 광원 또는 다수의 광원들 각각은 제어기, 즉, 제어 유닛에 의해 제어될 수 있다. 다수의 광원들의 모든 광원들을 제어할 수 있고 그에 따라 다수의 광원들의 동작 순서를 명확하게 정의할 수 있는 하나의 중앙 제어기가 존재할 수 있다.
광원(들), 제어 유닛(들), 센서, 데이터 처리 유닛, 및 데이터 저장 유닛은 서로 통신가능하게 연결될 수 있는데, 즉, 서로 간에 네트워킹될 수 있다.
본 개시내용의 범위 내에서, "형광성" 및 "발광성"이라는 용어들은 동의어로 사용된다. "형광" 및 "발광"이라는 용어들에 대해서도 마찬가지이다. 본 개시내용의 범위 내에서, 데이터베이스는 데이터 저장 유닛의 일부일 수 있거나 데이터 저장 유닛 그 자체를 표현할 수 있다. "데이터베이스" 및 "데이터 저장 유닛"이라는 용어들은 동의어로 사용된다. "데이터 처리 유닛" 및 "프로세서"라는 용어들은 동의어로 사용되고 넓게 해석되어야 한다.
제안된 시스템의 실시예에 따르면, 광원에 의해 장면 상에 투사될 수 있는 광 패턴 또는 광 패턴들 중 적어도 하나는 시간적 광 패턴, 공간적 광 패턴, 및 시간적 및 공간적 광 패턴으로 구성된 그룹으로부터 선택된다.
광원이 장면 상에 공간적 광 패턴 또는 시간적 및 공간적 광 패턴을 투사하도록 구성되는 경우에, 광 패턴의 공간적 부분은, 격자, 수평, 수직, 및/또는 대각선 막대들의 배열, 도트들의 어레이, 또는 이들의 조합으로서 형성된다.
광원이 장면 상에 시간적 광 패턴 또는 시간적 및 공간적 광 패턴을 투사하도록 구성되는 경우에, 광원은, 단일 펄스들로 광을 방출함에 따라 광 패턴의 시간적 부분을 제공하도록 구성되는 적어도 하나의 펄스형 광원을 포함한다.
제안된 시스템의 추가적인 실시예에 따르면, 광원은, 한 번에 장면의 하나 이상의 영역/부분 상에 또는 동시에 다수의 영역들/부분들 상에 광을 방출할 수 있는 도트 매트릭스 프로젝터 및 비행 시간 (광) 센서 중 하나로서 선택된다. 비행 시간 센서는 구조화된 광을 사용할 수 있다. 구체적으로, 광 센서는 라이다일 수 있다.
시스템의 더 추가적인 실시예에서, 센서는 하이퍼스펙트럼 카메라 또는 다중스펙트럼 카메라이다.
센서는 일반적으로 광자 계수 능력들을 갖는 광학 센서이다. 더 구체적으로, 센서는 흑백(monochrome) 카메라, 또는 RGB 카메라, 또는 다중스펙트럼 카메라, 또는 하이퍼스펙트럼 카메라일 수 있다. 센서는 상기된 것 중 임의의 것의 조합, 또는 상기된 것 중 임의의 것과, 예컨대, 특정 필터들을 갖는 흑백 센서와 같은 조정가능하거나 선택가능한 필터 세트의 조합일 수 있다. 센서는 장면의 단일 픽셀을 측정하거나, 한 번에 많은 픽셀들을 측정할 수 있다. 광학 센서는, 특정 범위의 스펙트럼에서, 특히, 3개 초과의 대역에서 광자들을 계수하도록 구성될 수 있다. 광학 센서는, 특히 상이한 시간들에 상이한 대역들을 또는 모든 대역들을 동시에 판독하는, 큰 시야를 위한 다수의 픽셀들을 갖는 카메라일 수 있다.
다중스펙트럼 카메라는 전자기 스펙트럼에 걸쳐 특정 파장 범위들 내에서 이미지 데이터를 포착한다. 파장들은 필터들에 의해 또는 가시 광 범위를 넘는 주파수들, 즉, 적외선 및 자외선으로부터의 광을 포함하는 특정 파장들에 민감한 계기들의 사용에 의해 분리될 수 있다. 스펙트럼 이미징은 인간의 눈이 적색, 녹색, 및 청색에 대해 그의 수용체들로 포착하지 못하는 부가적인 정보의 추출을 허용할 수 있다. 다중스펙트럼 카메라는 적은 수(전형적으로, 3개 내지 15개)의 스펙트럼 대역들에서 광을 측정한다. 하이퍼스펙트럼 카메라는, 종종 수백 개의 인접한 스펙트럼 대역들이 이용가능한, 스펙트럼 카메라의 특수한 경우이다.
시스템의 추가적인 실시예에서, 광원은, 광 패턴에서 UV 광, 가시 광, 및/또는 적외선 광 내의 하나 이상의 스펙트럼 대역을 동시에 또는 상이한 시간들에 방출하도록 구성된다.
인식될 객체에는 미리 정의된 발광 물질이 제공될 수 있고, 결과적인 객체의 발광 스펙트럼 패턴은 알려져 있고 태그로서 사용된다. 객체는 미리 정의된 발광 물질로 코팅될 수 있다. 대안적으로, 객체는 본질적으로, 미리 정의된 발광 물질을 본래 포함할 수 있다.
제안된 시스템은, 적어도 식별된 객체 및 식별된 객체의 계산된 거리, 형상, 심도, 및/또는 표면 정보를 출력하도록 구성되는 출력 유닛을 더 포함할 수 있다. 출력 유닛은, 적어도 식별된 객체 및 식별된 객체의 계산된 거리, 형상, 심도, 및/또는 표면 정보를 표시하도록 구성되는 디스플레이 유닛일 수 있다. 대안적으로, 출력 유닛은, 음향 출력 유닛, 이를테면 라우드스피커, 또는 디스플레이와 라우드스피커의 조합이다. 출력 유닛은 데이터 처리 유닛과 통신가능하게 연결된다.
제안된 시스템의 일부 또는 모든 기술적 구성요소들, 즉, 광원, 센서, 데이터 처리 유닛, 데이터 저장 유닛, 제어 유닛, 및/또는 출력 유닛은 서로 통신가능하게 연결될 수 있다. 구성요소들 중 임의의 구성요소 사이의 통신가능한 연결은 유선 또는 무선 연결일 수 있다. 각각의 적합한 통신 기술이 사용될 수 있다. 개개의 구성요소들 각각은 서로 통신하기 위한 하나 이상의 통신 인터페이스를 포함할 수 있다. 그러한 통신은, 유선 데이터 송신 프로토콜, 이를테면, 광섬유 분산 데이터 인터페이스(FDDI), 디지털 가입자 회선(DSL), 이더넷, 비동기 전송 모드(ATM), 또는 임의의 다른 유선 송신 프로토콜을 사용하여 실행될 수 있다. 대안적으로, 통신은, 다양한 프로토콜들, 이를테면, 일반 패킷 라디오 서비스(GPRS), 범용 모바일 원격통신 시스템(UMTS), 코드 분할 다중 액세스(CDMA), 롱 텀 에볼루션(LTE; Long Term Evolution), 무선 범용 직렬 버스(USB), 및/또는 임의의 다른 무선 프로토콜 중 임의의 프로토콜을 사용하여 무선 통신 네트워크들을 통해 무선으로 이루어질 수 있다. 개개의 통신은 무선 및 유선 통신의 조합일 수 있다.
본 개시내용은 또한, 컴퓨터 비전 응용을 통한 객체 인식을 위한 방법을 언급하며, 방법은 적어도 다음의 단계들:
- 객체 특정 반사율 및 발광 스펙트럼 패턴들을 갖는 객체를 제공하는 단계 ― 객체는 인식될 것임 ―,
- 인식될 객체를 포함하는 장면 상에 적어도 하나의 광 패턴을 투사하는 단계,
- 센서에 의해, 장면이 광원에 의해 조명될 때 객체를 포함하는 장면의 방사휘도 데이터를 측정하는 단계,
- 발광 스펙트럼 패턴들을 적절히 배정된 개개의 객체들과 함께 포함하는 데이터 저장 유닛을 제공하는 단계, 및
- 데이터 처리 유닛을 제공하는 단계를 포함하며, 데이터 처리 유닛은,
장면의 방사휘도 데이터로부터, 인식될 객체의 객체 특정 발광 스펙트럼 패턴을 검출/추출하고, 검출/추출된 객체 특정 발광 스펙트럼 패턴을 데이터 저장 유닛에 저장된 발광 스펙트럼 패턴들과 매칭하고, 가장 양호하게 매칭되는 발광 스펙트럼 패턴, 및 그에 따라, 가장 양호하게 매칭되는 발광 스펙트럼 패턴에 배정된 객체를 식별하고,
센서에 의해 측정된 반사율 특성들에 의해 장면 내의 식별된 객체의 거리, 형상, 심도, 및/또는 표면 정보를 계산하도록 프로그래밍된다.
반사율 특성들은, (객체 특정 반사율 패턴의 일부를 형성하는) 광이 센서로 반환되는 데 소요되는 시간량과 같은 시간적 요소들, 또는 방출된 공간적 광 패턴의 측정된 왜곡과 같은, 즉, 객체의 표면에 부딪힐 때 광 패턴이 변형되는 방식에 의한 공간적 측정들을 포함할 수 있다.
일 양상에서, 인식될 객체를 제공하는 단계는, 객체에 발광 물질을 부여/제공함에 따라 객체에 객체 특정 반사율 및 발광 스펙트럼 패턴들을 제공하는 단계를 포함한다.
그에 따라, 인식될 객체에는, 발광의 화학적 성질, 즉, 발광 스펙트럼 패턴이 알려져 있고 태그로서 사용되는 미리 정의된 표면 발광성 물질들(특히, 발광성 염료들)이 제공/부여, 예컨대, 코팅된다. 객체의 발광의 화학적 성질을 태그로서 사용함으로써, 객체의 형상 또는 부분적 가려짐들에 관계없이 객체 인식이 가능하다.
객체에는, 다양한 방법들로 발광성 물질들, 특히 형광성 물질들이 부여, 즉, 제공될 수 있다. 형광성 물질들은 방법들, 이를테면, 분무 코팅, 딥 코팅, 코일 코팅, 롤-투-롤 코팅, 및 다른 것들을 통해 적용될 수 있는 코팅에서 분산될 수 있다. 형광성 물질은 객체 상에 인쇄될 수 있다. 형광성 물질은 객체 내로 분산되고 압출, 성형, 또는 주조될 수 있다. 일부 물질들 및 객체들은 자연적으로 형광성이고, 제안된 시스템 및/또는 방법을 이용하여 인식될 수 있다. 일부 생물학적 물질들(채소들, 과일들, 박테리아, 조직, 단백질들 등)은 형광성이 되도록 유전자적으로 공학처리될 수 있다. 일부 객체들은 본원에 언급된 방식들중 임의의 방식으로의 형광성 단백질들의 부가에 의해 형광성이 될 수 있다.
방대한 범위의 형광성 물질들이 상업적으로 입수가능하다. 이론적으로, 임의의 형광성 물질이 컴퓨터 비전 응용에 적합할 것인데, 그 이유는, 식별될 객체의 형광성 스펙트럼 패턴이 생산 후에 측정되기 때문이다. 주요 제한들은 형광성 물질들의 내구성 및 (인식될 객체의) 호스트 물질과의 상용성이다. 광학 증백제(brightener)는 많은 유기 중합체들의 황색 색상을 감소시키기 위해 객체 제제(formulation)들에 종종 포함되는 형광성 물질들의 부류이다. 이들은, 비가시 자외선 광을 가시 청색 광으로 형광을 발하게 하여 생성된 객체를 더 백색으로 보이게 함으로써 기능한다. 많은 광학 증백제(brightener)들이 상업적으로 입수가능하다. 객체에 형광을 부여하는 단계는, 객체를 형광 물질로 코팅하거나 다른 방식으로 객체의 표면에 형광을 부여함으로써 실현될 수 있다. 후자의 경우, 형광은 전체 객체 전체에 걸쳐 분포될 수 있고, 그에 따라, 표면에서 또한 검출가능할 수 있다.
인식될 객체에 발광 물질을 제공하기 위한 기법은, 다음의 기법들: 분무, 롤링, 드로잉 다운, 퇴적(PVC, CVD 등), 압출, 막 도포/접착, 유리 형성, 성형 기법들, 인쇄, 이를테면, 잉크들, 모든 유형들의 그라비어, 잉크젯, 적층 제조, 직물/섬유 처리들(염료 또는 인쇄 프로세스들), 염료/안료 흡수, 드로잉(손으로/다른 식으로), 스티커들의 부여, 라벨들의 부여, 태그들의 부여, 화학적 표면 그라프팅, 건식 부여, 습식 부여, 고체들로의 혼합물들의 제공, 반응성/비반응성 염료들의 제공 중 하나 또는 이들의 조합으로서 선택될 수 있다.
추가적인 양상에서, 방법은 부가적으로, 적어도 식별된 객체 및 식별된 객체의 계산된 거리, 형상, 심도, 및/또는 표면 정보를 출력 디바이스를 통해 출력하는 단계를 포함한다. 출력 디바이스는, 데이터 처리 유닛과 결합(통신가능하게 연결)되는 디스플레이 디바이스에 의해 실현될 수 있다. 출력 디바이스는 또한, 음향 출력 디바이스, 이를테면 라우드스피커, 또는 시각 및 음향 출력 디바이스일 수 있다.
제안된 방법의 더 추가적인 실시예에 따르면, 매칭 단계는, 추정된 객체 특정 발광 스펙트럼 패턴과 저장된 발광 스펙트럼 패턴들 사이에서 임의의 수의 매칭 알고리즘들을 사용함으로써 가장 양호하게 매칭되는 특정 발광 스펙트럼 패턴을 식별하는 것을 포함한다. 매칭 알고리즘들은, 최저 제곱근 평균 제곱 오차, 최저 평균 절대 오차, 최고 결정 계수, 최대 파장 값의 매칭 중 적어도 하나를 포함하는 그룹으로부터 선택될 수 있다. 일반적으로, 매칭 알고리즘들은 임의적이다.
또 다른 양상에서, 추출 단계는, 측정된 방사휘도 데이터를 사용하여, 다단계 최적화 프로세스로 객체의 발광 스펙트럼 패턴 및 반사성 스펙트럼 패턴을 추정하는 것을 포함한다.
데이터 처리 유닛은, 하나 이상의 입력 유닛, 이를테면, 터치 스크린, 오디오 입력, 움직임 입력, 마우스, 키패드 입력 등을 포함할 수 있거나 그와 통신할 수 있다. 추가로, 데이터 처리 유닛은, 하나 이상의 출력 유닛, 이를테면, 오디오 출력, 비디오 출력, 스크린/디스플레이 출력 등을 포함할 수 있거나 그와 통신할 수 있다.
본 발명의 실시예들은, 독립형 유닛이거나 예컨대, 인터넷 또는 인트라넷과 같은 네트워크를 통해, 예컨대 클라우드에 위치된 중앙 컴퓨터와 통신하는 하나 이상의 원격 단말기 또는 디바이스를 포함할 수 있는 컴퓨터 시스템과 함께 사용되거나 그에 통합될 수 있다. 그러므로, 본원에 설명된 데이터 처리 유닛 및 관련된 구성요소들은 로컬 컴퓨터 시스템 또는 원격 컴퓨터 또는 온라인 시스템 또는 이들의 조합의 일부분일 수 있다. 데이터베이스, 즉, 본원에 설명된 데이터 저장 유닛 및 소프트웨어는 컴퓨터 내부 메모리에 또는 비-일시적인 컴퓨터 판독가능 매체에 저장될 수 있다.
본 개시내용은 추가로, 컴퓨터에 의해 실행가능한 명령어들을 갖는 컴퓨터 프로그램 제품을 언급하며, 명령어들은, 기계로 하여금:
- 객체 특정 반사율 및 발광 스펙트럼 패턴들을 갖는 객체를 제공하게 하고 ― 객체는 인식될 것임 ―,
- 인식될 객체를 포함하는 장면 상에 적어도 하나의 광 패턴을 투사하게 하고,
- 센서에 의해, 장면이 광원에 의해 조명될 때 객체를 포함하는 장면의 방사휘도 데이터를 측정하게 하고,
- 발광 스펙트럼 패턴들을 적절히 배정된 개개의 객체들과 함께 포함하는 데이터 저장 유닛을 제공하게 하고,
- 장면의 방사휘도 데이터로부터, 인식될 객체의 객체 특정 발광 스펙트럼 패턴을 추출하게 하고,
- 추출된 객체 특정 발광 스펙트럼 패턴을 데이터 저장 유닛에 저장된 발광 스펙트럼 패턴들과 매칭하게 하고,
- 가장 양호하게 매칭되는 발광 스펙트럼 패턴, 및 그에 따라, 가장 양호하게 매칭되는 발광 스펙트럼 패턴에 배정된 객체를 식별하게 하고,
- 센서에 의해 측정된 반사율 특성들에 의해 장면 내의 식별된 객체의 거리, 형상, 심도, 및/또는 표면 정보를 계산하게 한다.
반사율 특성들은, 반사된 광이 센서로 반환되는 데 소요되는 시간량과 같은 시간적 요소들, 또는 방출된 공간적 광 패턴의 측정된 왜곡과 같은, 즉, 객체의 표면에 부딪힐 때 광 패턴이 변형되는 방식에 의한 공간적 측정들을 포함할 수 있다.
본 개시내용은 추가로, 명령어들을 저장하는 비-일시적인 컴퓨터 판독가능 매체를 언급하며, 명령어들은, 하나 이상의 프로세서에 의해 실행될 때, 기계로 하여금:
- 객체 특정 반사율 및 발광 스펙트럼 패턴들을 갖는 객체를 제공하게 하고 ― 객체는 인식될 것임 ―,
- 광원에 의해, 인식될 객체를 포함하는 장면 상에 적어도 하나의 광 패턴을 투사하게 하고,
- 센서에 의해, 장면이 광원에 의해 조명될 때 객체를 포함하는 장면의 방사휘도 데이터를 측정하게 하고,
- 발광 스펙트럼 패턴들을 적절히 배정된 개개의 객체들과 함께 포함하는 데이터 저장 유닛을 제공하게 하고,
- 장면의 방사휘도 데이터로부터, 인식될 객체의 객체 특정 발광 스펙트럼 패턴을 추출하게 하고,
- 추출된 객체 특정 발광 스펙트럼 패턴을 데이터 저장 유닛에 저장된 발광 스펙트럼 패턴들과 매칭하게 하고,
- 가장 양호하게 매칭되는 발광 스펙트럼 패턴, 및 그에 따라, 가장 양호하게 매칭되는 발광 스펙트럼 패턴에 배정된 객체를 식별하게 하고,
- 센서에 의해 측정된 반사율 특성들에 의해 장면 내의 식별된 객체의 거리, 형상, 심도, 및/또는 표면 정보를 계산하게 한다.
본 발명은 다음의 예들에서 추가로 정의된다. 이러한 예들은, 본 발명의 바람직한 실시예들을 나타냄으로써, 단지 예시로서 주어진다는 것이 이해되어야 한다. 위의 논의 및 예들로부터, 관련 기술분야의 통상의 기술자는 본 발명의 본질적인 특성들을 확인할 수 있고, 본 발명의 사상 및 범위로부터 벗어나지 않으면서, 다양한 용도들 및 조건들에 본 발명을 적응시키도록 본 발명의 다양한 변경들 및 수정들을 행할 수 있다.
도 1a 및 도 1b는 제안된 시스템의 실시예들을 개략적으로 도시한다.
도 1a 및 도 1b는 제안된 시스템의 실시예들을 개략적으로 도시한다. 도 1a에서, 시스템(100)은 인식될 적어도 하나의 객체(130)를 포함한다. 추가로, 시스템은, 이미저에 의해 실현될 수 있는 2개의 센서(120 및 121), 이를테면 카메라, 특히, 다중스펙트럼 또는 하이퍼스펙트럼 카메라를 각각 포함한다. 시스템(100)은 광원(110)을 더 포함한다. 광원(110)은 상이한 개별 발광체들로 구성되며, 발광체들의 수 및 그의 속성은 사용되는 방법에 의존한다. 광원(110)은, 예컨대, 통상적으로 이용가능한 2개의 발광체 또는 3개의 발광체로 구성될 수 있다. 2개의 발광체는 맞춤형 LED 발광체들로서 선택될 수 있다. 3개의 발광체는 통상적으로 이용가능한 백열 전구, 소형 형광 전구, 및 백색 광 LED 전구일 수 있다.
도 1a의 광원(110)은, 인식될 객체(130)를 포함하는 장면(140) 상에 광 패턴을 투사하도록 구성된다. 광원(110)에 의해 장면(140) 상에 투사되는 광 패턴은 여기서 공간적 광 패턴, 즉, 격자로서 선택된다. 그것은, 장면(140) 내의 일부 지점들만, 그에 따라, 인식될 객체(130)의 일부 지점들만이 광원(110)에 의해 방출된 광에 의해 부딪힌다는 것을 의미한다.
도 1a에 도시된 센서들 둘 모두는, 장면(140)이 광원(110)에 의해 조명될 때 객체(130)를 포함하는 장면(140)의 방사휘도 데이터를 측정하도록 구성된다. 상이한 센서들, 즉, 방출된 구조화된 광과 동일한 파장의 광만을 측정하도록 구성되는 하나의 센서를 선택하는 것이 가능하다. 그에 따라, 주변 조명 조건의 영향이 최소화되고, 센서는, 센서(120, 121)로 다시 반사된 광의 반환 시 장면(140)에 도입된 광의 알려져 있는 기하학적 구조로부터의 편차를 명확하게 측정할 수 있으며, 이에 따라, 여기서 도시되지 않은 데이터 처리 유닛이, 그러한 왜곡들을 사용하여, 인식될 객체(130)의 거리, 형상, 심도, 및/또는 다른 객체 정보를 계산할 수 있다. 이러한 센서(120, 121)에 의해 사용되는 광의 파장은 전체 광 스펙트럼의 UV 구역, 가시 구역, 또는 근적외선 구역 내의 어딘가일 수 있다. 제2 센서(120, 121)는, 전체 광 스펙트럼에 걸쳐, 또는 객체(130)의 형광 스펙트럼 패턴을 포함하는 광 스펙트럼의 적어도 그 부분에 걸쳐, 객체(130)를 포함하는 장면(140)의 방사휘도 데이터를 측정하도록 구성되는 다중스펙트럼 또는 하이퍼스펙트럼 카메라일 수 있다. 그에 따라, 제2 센서(120, 121)는 또한, 객체(130)의 반사성 응답뿐만 아니라 형광성 응답에 기인하는, 객체(130)를 포함하는 장면(140)의 방사휘도 데이터를 측정하도록 구성된다. 데이터 처리 유닛은, 장면(140)의 방사휘도 데이터로부터, 인식될 객체(130)의 객체 특정 발광 스펙트럼 패턴을 추출하고, 추출된 객체 특정 발광 스펙트럼 패턴을 데이터 저장 유닛(여기서 도시되지 않음)에 저장된 발광 스펙트럼 패턴들과 매칭하고, 가장 양호하게 매칭되는 발광 스펙트럼 패턴, 및 그에 따라, 가장 양호하게 매칭되는 발광 스펙트럼 패턴에 배정된 객체를 식별하도록 구성된다. 추가로, 위에서 이미 언급된 바와 같이, 데이터 처리 유닛은, 객체(130)의 표면에 부딪힐 때 반사된 광 패턴이 변형되는 방식에 의해 장면(140) 내의 식별된 객체(130)의 거리, 형상, 심도, 및/또는 표면 정보를 계산하도록 구성된다. 여기서 도시된 시스템(100)은, 광원(110)으로부터 방출된 광이 부딪힐 때의 객체(130)의 반사성 응답에 의해 객체(130)까지의 거리 또는 객체 형상과 같은 것들을 계산하기 위해, 일 측 상에서, 구조화된 광을 사용한다. 다른 한편으로는, 제안된 시스템(100)은, 인식될 객체(130)의 형광성 방출 및 반사성 성분들의 분리를 사용하여, 그 객체의 스펙트럼 시그니처에 의해, 즉, 그 객체의 특정 형광 스펙트럼 패턴에 의해 객체(130)를 식별한다. 그에 따라, 제안된 시스템(100)은, 방법들 둘 모두, 즉, 객체의 객체 특정 형광 패턴에 의해 객체(130)를 식별하는 방법, 및 그에 부가하여, 구조화된 광 패턴의 왜곡으로 인한 광 스펙트럼의 반사된 부분을 이용하여 객체의 거리, 형상, 및 다른 특성들을 식별하는 방법을 결합한다. 데이터 처리 유닛 및 데이터 저장 유닛은 또한 시스템(100)의 구성요소들이다.
도 1b는 제안된 시스템의 대안적인 실시예를 도시한다. 시스템(100')은, 도 1b에 나타낸 바와 같은 도트 매트릭스와 같은 알려져 있는 패턴으로 UV 광, 가시 광, 또는 적외선 광을 방출하도록 구성되는 광원(110')을 포함한다. 일반적으로, 광원(110')은, 장면(140') 내로 광의 펄스들을 방출함에 따라 시간적 광 패턴을 생성하거나, 장면(140') 내로 광을 부분적으로 방출하여 공간적 광 패턴을 생성하거나, 또는 이 둘의 조합을 방출하도록 구성되는 것이 가능하다. 펄스형 광과 공간적으로 구조화된 광의 조합은, 예컨대, 도트 매트릭스 프로젝터, 라이다 등에 의해 방출될 수 있다. 도 1b에 도시된 시스템(100')은, 상이한 파장 범위들에서 장면(140')에 걸친 방사휘도 데이터/응답들을 감지/기록하도록 구성되는 센서(120')를 더 포함한다. 그것은, 인식될 객체(130')를 포함하는 장면(140')의 단지 반사성 응답뿐만 아니라 객체(130')의 형광성 응답이 또한 기록된다는 것을 의미한다. 시스템(100')은, 데이터 처리 유닛 및 데이터 저장 유닛을 더 포함한다. 데이터 저장 유닛은, 복수의 상이한 객체들의 형광 스펙트럼 패턴들의 데이터베이스를 포함한다. 데이터 처리 유닛은, 데이터 저장 유닛과 그리고 또한 센서(120')와 통신가능하게 연결된다. 따라서, 데이터 처리 유닛은 인식될 객체(130')의 발광 방출 스펙트럼을 계산하고 계산된 발광 방출 스펙트럼과의 매치에 대해 데이터 저장 유닛의 데이터베이스를 검색할 수 있다. 그에 따라, 인식될 객체(130')는, 데이터베이스 내에서 매치가 발견될 수 있다는 경우 식별될 수 있다. 부가적으로, 광원(110')으로부터 방출되어 장면(140') 상에 그리고 그에 따라, 인식될 객체(130') 상에 또한 투사된 구조화된 광을 사용함으로써, 센서(120')로 다시 반사되는 광 패턴의 측정된 왜곡으로부터, 객체(130')의 거리, 형상, 표면 정보와 같은 인식될 객체(130')에 관한 추가적인 정보를 도출하는 것이 가능하다. 그것은, 인식될 객체로부터 발광 응답들을 수용하기 위해 3D 맵핑 툴들에 일반적으로 사용되는 광원(110')을 선택하고 특정 스펙트럼 판독 대역들을 갖는 센서(120')를 활용함으로써, 제안된 시스템(100')이, 가장 양호하게 매칭되는 스펙트럼 발광성 물질뿐만 아니라 객체(130')까지의 거리 또는 객체 형상 및 객체(130')에 관한 다른 3D 정보를 또한 계산할 수 있다는 것을 의미한다. 제안된 시스템은, 발광성 색상 기반 객체 인식 시스템 및 3D 공간 맵핑 툴들을 동시에 사용하는 것을 가능하게 한다. 그것은, 제안된 시스템(100')이, 객체(130')를, 장면(140') 내로 투사된 광의 반사된 부분을 이용하여 객체의 거리/형상/다른 특성들을 계산하는 것에 부가하여 객체의 객체 특정 발광 스펙트럼과 같은 객체의 스펙트럼 시그니처에 의해 식별하는 것을 허용한다는 것을 의미한다.
추가로, 광원은 복수의 상이한 광 패턴들을 차례로 방출하거나 복수의 상이한 광 패턴들을 동시에 방출하는 것이 가능하다는 것이 언급되어야 한다. 상이한 광 패턴들의 사용에 의해, 장면 및 장면 내의 객체의 개개의 상이한 반사된 응답들로부터, 객체의 형상, 심도, 및 거리에 관한 상세한 정보를 도출하는 것이 가능하다. 장면 내로 투사되는 복수의 광 패턴들 각각은 객체의 표면의 상이한 부분들/영역들에서 객체에 부딪히고, 따라서, 각각의 패턴은 개개의 반사성 응답으로부터 도출될 수 있는 상이한 정보를 제공한다. 모든 그러한 반사성 응답들을 기록하는 센서와 통신가능하게 연결되는 데이터 처리 유닛은, 상이한 광 패턴들에 배정된 모든 상이한 반사성 응답들을 병합할 수 있고, 그로부터, 인식될 객체의 상세한 3D 구조를 계산할 수 있다. 요약하면, 제안된 시스템은, 객체 특정 발광 스펙트럼 패턴의 측정에 기인하여 객체를 식별하고, 센서까지의 객체의 거리에 관한 상세한 정보, 및 추가로, 센서로 다시 반사된 광 패턴의 왜곡에 기인하여 객체의 3D 정보를 제공할 수 있다. 객체의 모든 표면 부분들에 부딪히기 위해 상이한 광 패턴들이 객체 상에 투사될 수 있을 뿐만 아니라, 상이한 파장 범위들의 상이한 광 패턴들이 또한 객체 상에 투사될 수 있으며, 그에 따라, 객체의 표면의 반사성 속성에 관한 그리고 또한 형광성 속성에 관한 추가적인 정보가 제공된다.
참조 부호들의 목록
100, 100' 시스템
110, 110' 광원
120, 121, 120' 센서
130, 130' 인식될 객체
140, 140' 장면

Claims (15)

  1. 컴퓨터 비전 응용을 통한 객체 인식을 위한 시스템으로서,
    적어도 다음의 구성요소들:
    - 인식될 객체(130, 130') ― 상기 객체는 객체 특정 반사율 스펙트럼 패턴 및 객체 특정 발광 스펙트럼 패턴을 가짐 ―;
    - 상기 인식될 객체를 포함하는 장면(140, 140') 상에 적어도 하나의 광 패턴을 투사하도록 구성되는 광원(110, 110');
    - 상기 장면이 상기 광원에 의해 조명될 때 상기 객체를 포함하는 상기 장면의 방사휘도 데이터를 측정하도록 구성되는 센서(120, 121, 120');
    - 발광 스펙트럼 패턴들을 적절히 배정된 개개의 객체들과 함께 포함하는 데이터 저장 유닛; 및
    - 데이터 처리 유닛을 포함하며,
    상기 데이터 처리 유닛은,
    상기 장면(140, 140')의 상기 방사휘도 데이터로부터, 상기 인식될 객체의 객체 특정 발광 스펙트럼 패턴을 검출하고, 검출된 객체 특정 발광 스펙트럼 패턴을 상기 데이터 저장 유닛에 저장된 상기 발광 스펙트럼 패턴들과 매칭하고, 가장 양호하게 매칭되는 발광 스펙트럼 패턴, 및 그에 따라, 상기 가장 양호하게 매칭되는 발광 스펙트럼 패턴에 배정된 객체를 식별하고,
    상기 센서(120, 121, 120')에 의해 측정된 반사율 특성들에 의해 상기 장면(140, 140') 내의 식별된 객체(130, 130')의 거리, 형상, 심도, 및/또는 표면 정보를 계산하도록 구성되는, 시스템.
  2. 제1항에 있어서,
    상기 적어도 하나의 광 패턴은, 시간적 광 패턴, 공간적 광 패턴, 또는 시간적 및 공간적 광 패턴인, 시스템.
  3. 제2항에 있어서,
    상기 광원(110, 110')이 상기 장면 상에 공간적 광 패턴 또는 시간적 및 공간적 광 패턴을 투사하도록 구성되는 경우에, 상기 광 패턴의 공간적 부분은, 격자, 수평, 수직, 및/또는 대각선 막대들의 배열, 도트들의 어레이, 또는 이들의 조합으로서 형성되는, 시스템.
  4. 제2항 또는 제3항에 있어서,
    상기 광원(110, 110')이 상기 장면 상에 시간적 광 패턴 또는 시간적 및 공간적 광 패턴을 투사하도록 구성되는 경우에, 상기 광원은, 단일 펄스들로 광을 방출함에 따라 상기 광 패턴의 시간적 부분을 제공하도록 구성되는 펄스형 광원을 포함하는, 시스템.
  5. 제2항 내지 제4항 중 어느 한 항에 있어서,
    상기 광원(110, 110')은, 도트 매트릭스 프로젝터 및 비행 시간(time of flight) 센서 중 하나로서 선택되는, 시스템.
  6. 제1항 내지 제5항 중 어느 한 항에 있어서,
    상기 센서(120, 121, 120')는 하이퍼스펙트럼 카메라 또는 다중스펙트럼 카메라인, 시스템.
  7. 제1항 내지 제6항 중 어느 한 항에 있어서,
    상기 광원(110, 110')은, 상기 적어도 하나의 광 패턴에서 UV 광, 가시 광, 및/또는 적외선 광 내의 하나 이상의 스펙트럼 대역을 동시에 또는 상이한 시간들에 방출하도록 구성되는, 시스템.
  8. 제1항 내지 제7항 중 어느 한 항에 있어서,
    상기 인식될 객체(130, 130')에는 미리 정의된 발광 물질이 제공되고, 결과적인 객체의 발광 스펙트럼 패턴은 알려져 있고 태그로서 사용되는, 시스템.
  9. 제1항 내지 제8항 중 어느 한 항에 있어서,
    적어도 상기 식별된 객체 및 상기 식별된 객체의 계산된 거리, 형상, 심도, 및/또는 표면 정보를 표시하도록 구성되는 디스플레이 유닛을 더 포함하는, 시스템.
  10. 컴퓨터 비전 응용을 통한 객체 인식을 위한 방법으로서,
    적어도 다음의 단계들:
    - 객체 특정 반사율 스펙트럼 패턴 및 객체 특정 발광 스펙트럼 패턴을 갖는 객체를 제공하는 단계 ― 객체는 인식될 것임 ―;
    - 광원에 의해, 인식될 상기 객체를 포함하는 장면 상에 적어도 하나의 광 패턴을 투사하는 단계;
    - 센서에 의해, 상기 장면이 상기 광원에 의해 조명될 때 상기 객체를 포함하는 상기 장면의 방사휘도 데이터를 측정하는 단계;
    - 발광 스펙트럼 패턴들을 적절히 배정된 개개의 객체들과 함께 포함하는 데이터 저장 유닛을 제공하는 단계; 및
    - 데이터 처리 유닛을 제공하는 단계를 포함하며,
    상기 데이터 처리 유닛은,
    상기 장면의 상기 방사휘도 데이터로부터, 인식될 상기 객체의 객체 특정 발광 스펙트럼 패턴을 검출하고, 검출된 객체 특정 발광 스펙트럼 패턴을 상기 데이터 저장 유닛에 저장된 상기 발광 스펙트럼 패턴들과 매칭하고, 가장 양호하게 매칭되는 발광 스펙트럼 패턴, 및 그에 따라, 상기 가장 양호하게 매칭되는 발광 스펙트럼 패턴에 배정된 객체를 식별하고,
    상기 센서에 의해 측정된 반사율 특성들에 의해 상기 장면 내의 식별된 객체의 거리, 형상, 심도, 및/또는 표면 정보를 계산하도록 프로그래밍되는, 방법.
  11. 제10항에 있어서,
    상기 객체를 제공하는 단계는, 상기 객체에 발광 물질을 제공함에 따라 상기 객체에 객체 특정 발광 스펙트럼 패턴을 제공하는 단계를 포함하며, 상기 객체는 인식될 객체인, 방법.
  12. 제10항 또는 제11항에 있어서,
    적어도 상기 식별된 객체 및 상기 식별된 객체의 계산된 거리, 형상, 심도, 및/또는 표면 정보를 디스플레이 디바이스를 통해 표시하는 단계를 더 포함하는, 방법.
  13. 제10항 내지 제12항 중 어느 한 항에 있어서,
    매칭 단계는, 추정된 객체 특정 발광 스펙트럼 패턴과 저장된 발광 스펙트럼 패턴 사이에서 임의의 수의 매칭 알고리즘들을 사용함으로써 가장 양호하게 매칭되는 특정 발광 스펙트럼 패턴을 식별하는 것을 포함하는, 방법.
  14. 제10항 내지 제13항 중 어느 한 항에 있어서,
    검출 단계는, 측정된 방사휘도 데이터를 사용하여, 다단계 최적화 프로세스로 상기 객체의 발광 스펙트럼 패턴 및 반사성 스펙트럼 패턴을 추정하는 것을 포함하는, 방법.
  15. 명령어들을 저장하는 비-일시적인 컴퓨터 판독가능 매체로서,
    상기 명령어들은, 하나 이상의 프로세서에 의해 실행될 때, 기계로 하여금,
    - 객체 특정 반사율 스펙트럼 패턴 및 객체 특정 발광 스펙트럼 패턴을 갖는 객체를 제공하게 하고 ― 객체는 인식될 것임 ―;
    - 광원에 의해, 인식될 상기 객체를 포함하는 장면 상에 적어도 하나의 광 패턴을 투사하게 하고;
    - 센서에 의해, 상기 장면이 상기 광원에 의해 조명될 때 상기 객체를 포함하는 상기 장면의 방사휘도 데이터를 측정하게 하고;
    - 발광 스펙트럼 패턴들을 적절히 배정된 개개의 객체들과 함께 포함하는 데이터 저장 유닛을 제공하게 하고;
    - 상기 장면의 상기 방사휘도 데이터로부터, 인식될 상기 객체의 객체 특정 발광 스펙트럼 패턴을 추출하게 하고;
    - 추출된 객체 특정 발광 스펙트럼 패턴을 상기 데이터 저장 유닛에 저장된 발광 스펙트럼 패턴들과 매칭하게 하고;
    - 가장 양호하게 매칭되는 발광 스펙트럼 패턴, 및 그에 따라, 가장 양호하게 매칭되는 발광 스펙트럼 패턴에 배정된 객체를 식별하게 하고;
    - 상기 센서에 의해 측정된 반사율 특성들에 의해 상기 장면 내의 식별된 객체의 거리, 형상, 심도, 및/또는 표면 정보를 계산하게 하는, 비-일시적인 컴퓨터 판독가능 매체.
KR1020217039544A 2019-06-07 2020-06-05 컴퓨터 비전 응용에서 3차원 맵핑 툴들을 사용한 객체 인식을 위한 시스템 및 방법 KR20220004735A (ko)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201962858355P 2019-06-07 2019-06-07
EP19179172.2 2019-06-07
US62/858,355 2019-06-07
EP19179172 2019-06-07
PCT/EP2020/065748 WO2020245441A1 (en) 2019-06-07 2020-06-05 System and method for object recognition using three dimensional mapping tools in a computer vision application

Publications (1)

Publication Number Publication Date
KR20220004735A true KR20220004735A (ko) 2022-01-11

Family

ID=70977982

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020217039544A KR20220004735A (ko) 2019-06-07 2020-06-05 컴퓨터 비전 응용에서 3차원 맵핑 툴들을 사용한 객체 인식을 위한 시스템 및 방법

Country Status (12)

Country Link
US (1) US20220319205A1 (ko)
EP (1) EP3980924A1 (ko)
JP (1) JP7225435B2 (ko)
KR (1) KR20220004735A (ko)
CN (1) CN113811885A (ko)
AU (1) AU2020286971A1 (ko)
BR (1) BR112021019029A2 (ko)
CA (1) CA3140186A1 (ko)
MX (1) MX2021014926A (ko)
SG (1) SG11202113366VA (ko)
TW (1) TW202113674A (ko)
WO (1) WO2020245441A1 (ko)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023180178A1 (en) 2022-03-23 2023-09-28 Basf Coatings Gmbh System and method for object recognition utilizing color identification and/or machine learning
US11960968B2 (en) * 2022-08-25 2024-04-16 Omron Corporation Scanning device utilizing separate light pattern sequences based on target distance
TWI821050B (zh) * 2022-11-28 2023-11-01 中國鋼鐵股份有限公司 泛用型遠端專家擴增實境協作系統

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE19858456A1 (de) * 1998-12-18 2000-07-06 Leica Microsystems Verfahren zum Auffinden, zur Aufnahme und gegebenenfalls zur Auswertung von Objektstrukturen
AU2003287735A1 (en) * 2002-11-12 2004-06-03 Argose, Inc. Non-invasive measurement of analytes
US20060118738A1 (en) * 2003-06-26 2006-06-08 Ncr Corporation Security markers for ascertaining navigational information
WO2007099540A2 (en) * 2006-03-01 2007-09-07 Green Vision Systems Ltd. Processing and analyzing hyper-spectral image data and information via dynamic database updating
US7995196B1 (en) * 2008-04-23 2011-08-09 Tracer Detection Technology Corp. Authentication method and system
US9117133B2 (en) * 2008-06-18 2015-08-25 Spectral Image, Inc. Systems and methods for hyperspectral imaging
US9234618B1 (en) * 2012-09-27 2016-01-12 Google Inc. Characterizing optically reflective features via hyper-spectral sensor
US9448110B2 (en) * 2012-09-27 2016-09-20 Northrop Grumman Systems Corporation Three-dimensional hyperspectral imaging systems and methods using a light detection and ranging (LIDAR) focal plane array
JP2018514748A (ja) * 2015-02-06 2018-06-07 ザ ユニバーシティ オブ アクロンThe University of Akron 光学撮像システムおよびその方法
EP3741303A3 (en) * 2015-03-06 2020-12-30 Micromass UK Limited Chemically guided ambient ionisation mass spectrometry
CN108351417B (zh) * 2015-10-19 2022-05-24 斯堪森斯公司 使用影像和其他遥感数据从目标获得数据
JP6810167B2 (ja) * 2016-05-27 2021-01-06 ヴェリリー ライフ サイエンシズ エルエルシー 4dハイパースペクトル撮像のためのシステムおよび方法
US10482340B2 (en) * 2016-12-06 2019-11-19 Samsung Electronics Co., Ltd. System and method for object recognition and ranging by deformation of projected shapes in a multimodal vision and sensing system for autonomous devices
US11182915B2 (en) * 2017-07-12 2021-11-23 Gentex Corporation Visual, depth and micro-vibration data extraction using a unified imaging device
US11067448B2 (en) * 2018-10-05 2021-07-20 Parsons Corporation Spectral object detection

Also Published As

Publication number Publication date
CN113811885A (zh) 2021-12-17
SG11202113366VA (en) 2021-12-30
CA3140186A1 (en) 2020-12-10
MX2021014926A (es) 2022-01-24
AU2020286971A1 (en) 2022-01-06
WO2020245441A1 (en) 2020-12-10
US20220319205A1 (en) 2022-10-06
BR112021019029A2 (pt) 2021-12-21
JP2022536298A (ja) 2022-08-15
TW202113674A (zh) 2021-04-01
EP3980924A1 (en) 2022-04-13
JP7225435B2 (ja) 2023-02-20

Similar Documents

Publication Publication Date Title
JP7225435B2 (ja) コンピュータビジョンアプリケーションにおける3次元マッピングツールを用いた物体認識のためのシステム及び方法
US11295152B2 (en) Method and system for object recognition via a computer vision application
KR20210127951A (ko) 컴퓨터 비전 응용을 통한 객체 인식을 위한 방법 및 시스템
JP7277615B2 (ja) 光の3dマッピングとモデリングを使用した物体認識システム及び方法
US20220319149A1 (en) System and method for object recognition under natural and/or artificial light
KR20220004739A (ko) 형광성 및 반사방지성 표면 구성들을 사용하는 객체 인식을 위한 시스템 및 방법
US20220307981A1 (en) Method and device for detecting a fluid by a computer vision application
US20220230340A1 (en) System and method for object recognition using 3d mapping and modeling of light