KR102593020B1 - 이미지 처리 방법 및 장치, 전자 기기 및 기억 매체 - Google Patents

이미지 처리 방법 및 장치, 전자 기기 및 기억 매체 Download PDF

Info

Publication number
KR102593020B1
KR102593020B1 KR1020217001038A KR20217001038A KR102593020B1 KR 102593020 B1 KR102593020 B1 KR 102593020B1 KR 1020217001038 A KR1020217001038 A KR 1020217001038A KR 20217001038 A KR20217001038 A KR 20217001038A KR 102593020 B1 KR102593020 B1 KR 102593020B1
Authority
KR
South Korea
Prior art keywords
feature
feature maps
scale
sub
feature map
Prior art date
Application number
KR1020217001038A
Other languages
English (en)
Other versions
KR20210019537A (ko
Inventor
쿤린 양
준 호우
시아오총 차이
슈아이 이
Original Assignee
베이징 센스타임 테크놀로지 디벨롭먼트 컴퍼니 리미티드
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 베이징 센스타임 테크놀로지 디벨롭먼트 컴퍼니 리미티드 filed Critical 베이징 센스타임 테크놀로지 디벨롭먼트 컴퍼니 리미티드
Publication of KR20210019537A publication Critical patent/KR20210019537A/ko
Application granted granted Critical
Publication of KR102593020B1 publication Critical patent/KR102593020B1/ko

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/7715—Feature extraction, e.g. by transforming the feature space, e.g. multi-dimensional scaling [MDS]; Mappings, e.g. subspace methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/11—Region-based segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • G06F18/24147—Distances to closest patterns, e.g. nearest neighbour classification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/25—Fusion techniques
    • G06F18/253—Fusion techniques of extracted features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G06V10/443—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
    • G06V10/449—Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters
    • G06V10/451—Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters with interaction between the filter responses, e.g. cortical complex cells
    • G06V10/454—Integrating the filters into a hierarchical structure, e.g. convolutional neural networks [CNN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
    • G06V10/806—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of extracted features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Data Mining & Analysis (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Multimedia (AREA)
  • General Engineering & Computer Science (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

본 발명은 이미지 처리 방법 및 장치, 전자 기기 및 기억 매체에 관한 것으로, 상기 방법은 처리 대상이 되는 이미지에 대해 특징 추출을 행하여, 상기 처리 대상이 되는 이미지의 제1 특징맵을 취득하는 것과, 제1 특징맵의 차원 및 각 차원의 사이즈를 포함하는 제1 특징맵의 차원 정보 및 미리 설정된 분할 규칙에 기초하여 제1 특징맵을 복수의 제1 서브 특징맵으로 분할하는 것과, 복수의 제1 서브 특징맵을 각각 정규화 처리하여, 복수의 제2 서브 특징맵을 취득하는 것과, 복수의 제2 서브 특징맵을 연결하여 처리 대상이 되는 이미지의 제2 특징맵을 취득하는 것을 포함하는 것으로, 본 발명의 실시예에 의해 완전한 특징맵을 정규화하는 경우의 통계 오차를 줄일 수 있다.

Description

이미지 처리 방법 및 장치, 전자 기기 및 기억 매체
본원은 2019년 7월 18일에 중국 특허청에 출원된 출원번호가 201910652025.2이고, 발명의 명칭이 「이미지 처리 방법 및 장치, 전자 기기 및 기억 매체」인 중국 특허출원의 우선권을 주장하고, 그 내용 전체가 원용에 의해 본 발명에 포함된다.
본 발명은 컴퓨터 테크놀로지 분야에 관한 것으로, 특히 이미지 처리 방법 및 장치, 전자 기기 및 기억 매체에 관한 것이다.
딥러닝 네트워크에서, 입력된 특징맵에 대해 어느 특정 차원에서 정규화 계산을 행할 수 있다. 이에 의해, 모델의 수속 속도(convergence rate)를 가속할 수 있을 뿐만 아니라, 딥 네트워크에서의 「구배 소실(Vanishing Gradient)」의 문제를 완화하고, 딥 뉴럴 네트워크의 트레이닝을 용이하게 하여, 보다 안정된 네트워크를 취득할 수 있다.
본 발명은 이미지 처리의 발명을 제안하는 것이다.
본 발명의 일 측면에서는 처리 대상이 되는 이미지에 대해 특징 추출을 행하여, 상기 처리 대상이 되는 이미지의 제1 특징맵을 취득하는 것과, 상기 제1 특징맵의 차원 및 각 차원의 사이즈를 포함하는 상기 제1 특징맵의 차원 정보 및 미리 설정된 분할 규칙에 기초하여 상기 제1 특징맵을 복수의 제1 서브 특징맵(sub-feature map)으로 분할하는 것과, 상기 복수의 제1 서브 특징맵을 각각 정규화 처리하여, 복수의 제2 서브 특징맵을 취득하는 것과, 상기 복수의 제2 서브 특징맵을 연결하여 상기 처리 대상이 되는 이미지의 제2 특징맵을 취득하는 것을 포함하는 이미지 처리 방법을 제공한다.
하나의 가능한 실시형태에서는 상기 제1 특징맵의 차원 정보 및 미리 설정된 분할 규칙에 기초하여 상기 제1 특징맵을 복수의 제1 서브 특징맵으로 분할하는 것은 상기 제1 특징맵의 공간 차원의 사이즈 및 미리 설정된 분할 규칙에 기초하여 공간 차원에서 상기 제1 특징맵을 분할하여, 복수의 제1 서브 특징맵을 취득하는 것을 포함한다.
하나의 가능한 실시형태에서는 상기 복수의 제1 서브 특징맵을 각각 정규화 처리하여 복수의 제2 서브 특징맵을 취득하는 것은 채널 차원에서 각 제1 서브 특징맵을 그룹화하고, 상기 제1 서브 특징맵의 각 그룹의 채널을 각각 정규화 처리하여, 상기 제1 서브 특징맵의 제2 서브 특징맵을 취득하는 것을 포함한다.
하나의 가능한 실시형태에서는 상기 복수의 제2 서브 특징맵을 연결하여 상기 처리 대상이 되는 이미지의 제2 특징맵을 취득하는 것은 상기 복수의 제1 서브 특징맵의 상기 제1 특징맵에서의 위치에 따라, 상기 복수의 제2 서브 특징맵을 연결하여 상기 처리 대상이 되는 이미지의 제2 특징맵을 취득하는 것을 포함한다.
하나의 가능한 실시형태에서는 상기 분할 규칙은 특징맵의 분할 대상이 되는 차원, 각 분할 대상이 되는 차원의 분할 위치, 각 분할 대상이 되는 차원의 분할 수, 각 분할 대상이 되는 차원의 분할 사이즈, 분할 후의 서브 특징맵의 수 중 하나 이상을 포함한다.
하나의 가능한 실시형태에서는 상기 방법은 상기 처리 대상이 되는 이미지의 하나 이상의 제2 특징맵에 대해 스케일 다운 및 멀티스케일(multi-scale) 융합을 행하여, 각 특징맵의 스케일이 상이한 부호화 후의 복수의 특징맵을 취득하는 것과, 상기 부호화 후의 복수의 특징맵에 대해 스케일 업 및 멀티스케일 융합을 행하여, 상기 처리 대상이 되는 이미지의 분류 예측 결과를 취득하는 것을 추가로 포함한다.
하나의 가능한 실시형태에서는 상기 처리 대상이 되는 이미지의 하나 이상의 제2 특징맵에 대해 스케일 다운 및 멀티스케일 융합 처리를 행하여, 부호화 후의 복수의 특징맵을 취득하는 것은 m개(m은 양의 정수)의 제2 특징맵을 스케일 다운하고, 스케일 다운 후의 m개의 특징맵을 취득하는 것과, 상기 스케일 다운 후의 m개의 특징맵에 대해 특징 융합을 행하여, 스케일이 상기 스케일 다운 후의 m개의 특징맵의 스케일과 동일한 m＋1번째의 특징맵을 취득하는 것과, 상기 m개의 제2 특징맵 및 상기 m＋1번째의 특징맵에 대해 각각 특징 최적화 및 융합을 행하여, 부호화 후의 m＋1개의 특징맵을 취득하는 것을 포함한다.
하나의 가능한 실시형태에서는 상기 부호화 후의 복수의 특징맵에 대해 스케일 업 및 멀티스케일 융합을 행하여, 상기 처리 대상이 되는 이미지의 분류 예측 결과를 취득하는 것은 부호화 후의 m＋1개(m은 양의 정수)의 특징맵에 대해 융합 및 스케일 업을 행하여, 스케일 업 후의 m개의 특징맵을 취득하는 것과, 상기 스케일 업 후의 m개의 특징맵에 대해 특징 최적화 및 융합을 행하여, 상기 처리 대상이 되는 이미지의 분류 예측 결과를 취득하는 것을 포함한다.
하나의 가능한 실시형태에서는 상기 방법은 처리 대상이 되는 이미지에 대해 특징 추출을 행하기 위한 특징 추출 네트워크와, 상기 처리 대상이 되는 이미지의 하나 이상의 제2 특징맵에 대해 스케일 다운 및 멀티스케일 융합을 행하기 위한 부호화 네트워크와, 상기 부호화 후의 복수의 특징맵에 대해 스케일 업 및 멀티스케일 융합을 행하기 위한 복호화 네트워크를 포함하는 뉴럴 네트워크에 의해 실현된다.
하나의 가능한 실시형태에서는 상기 방법은 복수의 레이블이 부착된(labeled) 샘플 이미지를 포함하는 미리 설정된 트레이닝군에 기초하여 상기 뉴럴 네트워크를 트레이닝하는 것을 추가로 포함한다.
본 발명의 다른 측면에서는 처리 대상이 되는 이미지에 대해 특징 추출을 행하여, 상기 처리 대상이 되는 이미지의 제1 특징맵을 취득하기 위한 특징 추출 모듈과, 상기 제1 특징맵의 차원 및 각 차원의 사이즈를 포함하는 상기 제1 특징맵의 차원 정보 및 미리 설정된 분할 규칙에 기초하여 상기 제1 특징맵을 복수의 제1 서브 특징맵으로 분할하기 위한 분할 모듈과, 상기 복수의 제1 서브 특징맵을 각각 정규화 처리하여, 복수의 제2 서브 특징맵을 취득하기 위한 정규화 모듈과, 상기 복수의 제2 서브 특징맵을 연결하여 상기 처리 대상이 되는 이미지의 제2 특징맵을 취득하기 위한 연결 모듈을 포함하는 이미지 처리 장치를 제공한다.
하나의 가능한 실시형태에서는 상기 분할 모듈은 상기 제1 특징맵의 공간 차원의 사이즈 및 미리 설정된 분할 규칙에 기초하여, 공간 차원에서 상기 제1 특징맵을 분할하여, 복수의 제1 서브 특징맵을 취득하기 위한 분할 서브모듈을 포함한다.
하나의 가능한 실시형태에서는 상기 정규화 모듈은 채널 차원에서 각 제1 서브 특징맵을 그룹화하고, 상기 제1 서브 특징맵의 각 그룹의 채널을 각각 정규화 처리하여, 상기 제1 서브 특징맵의 제2 서브 특징맵을 취득하기 위한 정규화 서브모듈을 포함한다.
하나의 가능한 실시형태에서는 상기 연결 모듈은 상기 복수의 제1 서브 특징맵의 상기 제1 특징맵에서의 위치에 따라 상기 복수의 제2 서브 특징맵을 연결하여 상기 처리 대상이 되는 이미지의 제2 특징맵을 취득하기 위한 연결 서브모듈을 포함한다.
하나의 가능한 실시형태에서는 상기 분할 규칙은 특징맵의 분할 대상이 되는 차원, 각 분할 대상이 되는 차원의 분할 위치, 각 분할 대상이 되는 차원의 분할 수, 각 분할 대상이 되는 차원의 분할 사이즈, 분할 후의 서브 특징맵의 수 중 하나 이상을 포함한다.
하나의 가능한 실시형태에서는 상기 장치는 상기 처리 대상이 되는 이미지의 하나 이상의 제2 특징맵에 대해 스케일 다운 및 멀티스케일 융합을 행하여, 각 특징맵의 스케일이 상이한 부호화 후의 복수의 특징맵을 취득하기 위한 부호화 모듈과, 상기 부호화 후의 복수의 특징맵에 대해 스케일 업 및 멀티스케일 융합을 행하여, 상기 처리 대상이 되는 이미지의 분류 예측 결과를 취득하기 위한 복호화 모듈을 추가로 포함한다.
하나의 가능한 실시형태에서는 상기 부호화 모듈은 m개(m은 양의 정수)의 제2 특징맵을 스케일 다운하고, 스케일 다운 후의 m개의 특징맵을 취득하기 위한 축소 서브모듈과, 상기 스케일 다운 후의 m개의 특징맵에 대해 특징 융합을 행하여, 스케일이 상기 스케일 다운 후의 m개의 특징맵의 스케일과 동일한 m＋1번째의 특징맵을 취득하기 위한 제1 융합 서브모듈과, 상기 m개의 제2 특징맵 및 상기 m＋1번째의 특징맵에 대해 각각 특징 최적화 및 융합을 행하여, 부호화 후의 m＋1개의 특징맵을 취득하기 위한 제2 융합 서브모듈을 포함한다.
하나의 가능한 실시형태에서는 상기 복호화 모듈은 부호화 후의 m＋1개(m은 양의 정수)의 특징맵에 대해 융합 및 스케일 업을 행하여, 스케일 업 후의 m개의 특징맵을 취득하기 위한 확대 서브모듈과, 상기 스케일 업 후의 m개의 특징맵에 대해 특징 최적화 및 융합을 행하여, 상기 처리 대상이 되는 이미지의 분류 예측 결과를 취득하기 위한 제3 융합 서브모듈을 포함한다.
하나의 가능한 실시형태에서는 상기 장치는 처리 대상이 되는 이미지에 대해 특징 추출을 행하기 위한 특징 추출 네트워크와, 상기 처리 대상이 되는 이미지의 하나 이상의 제2 특징맵에 대해 스케일 다운 및 멀티스케일 융합을 행하기 위한 부호화 네트워크와, 상기 부호화 후의 복수의 특징맵에 대해 스케일 업 및 멀티스케일 융합을 행하기 위한 복호화 네트워크를 포함하는 뉴럴 네트워크에 의해 실현된다.
하나의 가능한 실시형태에서는 상기 장치는 복수의 레이블이 부착된 샘플 이미지를 포함하는 미리 설정된 트레이닝군에 기초하여 상기 뉴럴 네트워크를 트레이닝하는 트레이닝 모듈을 추가로 포함한다.
본 발명의 다른 측면에서는 프로세서와, 프로세서에 의해 실행 가능한 명령을 기억하기 위한 메모리를 포함하고, 상기 프로세서는 상기 메모리에 기억되어 있는 명령을 불러냄으로써, 상기 방법을 실행하도록 구성되는 전자 기기를 제공한다.
본 발명의 다른 측면에서는 컴퓨터 프로그램 명령을 기억하고 있는 컴퓨터 판독 가능 기억 매체로서, 컴퓨터 프로그램 명령은 프로세서에 의해 실행되면, 상기 방법을 실현시키는 컴퓨터 판독 가능 기억 매체를 제공한다.
본 발명의 다른 측면에서는 컴퓨터 판독 가능 코드를 포함하고, 상기 컴퓨터 판독 가능 코드는 전자 기기에서 실행되면, 상기 전자 기기의 프로세서에 상기 방법을 실현하기 위한 명령을 실행시키는 컴퓨터 프로그램을 제공한다.
본 발명의 실시예에 있어서, 특징맵을 분할하고, 또한 각각 정규화 처리하여 정규화 후의 복수의 서브 특징맵을 취득하고, 정규화 후의 복수의 서브 특징맵을 완전한 특징맵에 연결함으로써, 로컬 특징 정보를 보류하고, 완전한 특징맵을 정규화할 경우의 통계 오차를 줄여, 추출된 특징의 유효성을 향상시킬 수 있다.
또한, 이상의 일반적인 설명 및 후술하는 상세한 설명은 예시적·해석적인 것에 불과하며, 본 발명을 제한하는 것은 아님을 이해해야 한다. 이하에 도면을 참조하면서 예시적인 실시예를 상세하게 설명함으로써, 본 발명의 그 밖의 특징 및 측면이 보다 명확해진다.
여기에서 본 명세서의 일부로서 포함되는 도면은 본 발명의 실시예에 바람직하며, 명세서와 함께 본 발명의 기술적 해결 수단의 설명에 사용된다.
도 1은 본 발명의 실시예에 따른 이미지 처리 방법의 흐름도를 나타낸다.
도 2는 본 발명의 실시예에 따른 이미지 처리 방법의 처리 순서의 모식도를 나타낸다.
도 3a는 본 발명의 실시예에 따른 이미지 처리 방법의 멀티스케일 융합 순서의 모식도를 나타낸다.
도 3b는 본 발명의 실시예에 따른 이미지 처리 방법의 멀티스케일 융합 순서의 모식도를 나타낸다.
도 3c는 본 발명의 실시예에 따른 이미지 처리 방법의 멀티스케일 융합 순서의 모식도를 나타낸다.
도 4는 본 발명의 실시예에 따른 이미지 처리 장치의 블록도를 나타낸다.
도 5는 본 발명의 실시예에 따른 전자 기기의 블록도를 나타낸다.
도 6은 본 발명의 실시예에 따른 전자 기기의 블록도를 나타낸다.
이하에 도면을 참조하면서 본 발명의 다양한 예시적 실시예, 특징 및 측면을 상세하게 설명한다. 도면에 있어서, 동일한 부호는 동일 또는 유사한 기능의 요소를 나타낸다. 도면에 있어서 실시예의 다양한 측면을 나타내지만, 특별히 언급이 없는 한, 비례에 따라 도면을 그릴 필요가 없다.
여기에서의 용어 「예시적」이란 「예, 실시예로서 사용되는 것 또는 설명적인 것」을 의미한다. 여기에서 「예시적」으로 설명된 어떠한 실시예도 다른 실시예보다 바람직하거나 또는 우수한 것으로 이해해서는 안된다.
본 명세서에서의 용어 「및/또는」은 단순히 관련 대상과의 관련 관계를 기술하는 것이고, 3개의 관계가 존재 가능함을 나타내며, 예를 들면, A 및/또는 B는 A만이 존재하고, A와 B 전부가 존재하고, B만이 존재하는 3개의 경우를 나타내도 된다. 또한, 본 명세서의 용어 「하나 이상」은 복수 중 하나 또는 복수 중 적어도 2개의 임의의 조합을 나타내고, 예를 들면, A, B, C 중 하나 이상을 포함하는 것은 A, B 및 C로 이루어지는 집합에서 선택된 어느 하나 또는 복수의 요소를 포함하는 것을 나타내도 된다.
또한, 본 발명을 보다 효과적으로 설명하기 위해, 이하의 구체적인 실시형태에서 다양한 구체적인 상세를 나타낸다. 당업자라면 본 발명은 어떠한 구체적인 상세가 없어도 동일하게 실시할 수 있는 것으로 이해해야 한다. 일부 실시예에서는 본 발명의 취지를 강조하기 위해 당업자가 숙지하고 있는 방법, 수단, 요소 및 회로에 대해 상세한 설명을 하지 않는다.
도 1은 본 발명의 실시예에 따른 이미지 처리 방법의 흐름도를 나타낸다. 도 1에 나타내는 바와 같이, 상기 이미지 처리 방법은 처리 대상이 되는 이미지에 대해 특징 추출을 행하여, 상기 처리 대상이 되는 이미지의 제1 특징맵을 취득하는 단계(S11)와, 상기 제1 특징맵의 차원 및 각 차원의 사이즈를 포함하는 상기 제1 특징맵의 차원 정보 및 미리 설정된 분할 규칙에 기초하여 상기 제1 특징맵을 복수의 제1 서브 특징맵으로 분할하는 단계(S12)와, 상기 복수의 제1 서브 특징맵을 각각 정규화 처리하여, 복수의 제2 서브 특징맵을 취득하는 단계(S13)와, 상기 복수의 제2 서브 특징맵을 연결하여 상기 처리 대상이 되는 이미지의 제2 특징맵을 취득하는 단계(S14)를 포함한다.
하나의 가능한 실시형태에서는 상기 이미지 처리 방법은 사용자 기기(User Equipment, UE), 휴대 기기, 사용자 단말, 단말, 셀룰러 폰, 코드리스 전화기, 퍼스널 디지털 어시스턴트(Personal Digital Assistant, PDA), 휴대용 장치, 계산 장치, 차재 장치, 웨어러블 장치 등의 단말 장치, 또는 서버 등의 다른 종류의 전자 기기에 의해 실행되어도 된다. 상기 방법은 프로세서에 의해 메모리에 기억되어 있는 컴퓨터 판독 가능한 명령을 불러내어 실현되어도 된다. 혹은 서버에 의해 상기 방법을 실행해도 된다.
하나의 가능한 실시형태에서는 처리 대상이 되는 이미지는 이미지 취득 장치(예를 들면, 카메라)에 의해 촬영된 감시 영역(예를 들면, 교차로, 쇼핑몰 등의 영역)의 이미지여도 되고, 다른 방법으로 취득된 이미지(예를 들면, 네트워크에 의해 다운로드된 이미지)여도 된다. 처리 대상이 되는 이미지에는 일정 수의 대상물(예를 들면, 보행자, 차량, 고객 등)이 포함되어도 된다. 본 발명에서는 처리 대상이 되는 이미지의 종류, 취득 방법 및 이미지에 있어서의 대상물 종류에 대해서는 한정하지 않는다.
하나의 가능한 실시형태에서는 단계(S11)에 있어서, 특징 추출 네트워크에 의해 처리 대상이 되는 이미지에 대해 특징 추출을 행하여, 처리 대상이 되는 이미지의 제1 특징맵을 취득하도록 해도 된다. 상기 특징 추출 네트워크는 예를 들면, 합성곱 뉴럴 네트워크를 포함해도 되며, 본 발명에서는 특징 추출 네트워크의 구체적인 네트워크 종류에 대해서는 한정하지 않는다.
하나의 가능한 실시형태에서는 제1 특징맵은 차원 정보를 갖고, 상기 차원 정보는 제1 특징맵의 차원 및 각 차원의 사이즈를 포함하도록 해도 된다. 예를 들면, 제1 특징맵은 높이(H), 폭(W) 및 채널(C)와 같은 3개의 차원을 포함하며, 여기서 높이(H)와 폭(W)는 공간 차원이고, 채널(C)는 채널 차원이다. 각 차원의 사이즈에 대해 예를 들면, 높이(H)와 폭(W)를 전부 256으로 하고, 채널(C)를 16(즉, 16개의 채널)으로 하면, H×W×C＝256×256×16으로 나타낼 수 있다. 본 발명에서는 제1 특징맵의 차원의 수 및 각 차원의 구체적인 사이즈에 대해서는 한정하지 않는다.
하나의 가능한 실시형태에서는 처리 대상이 되는 이미지에서 각 영역 간에 차이가 있고, 예를 들면, 각 영역의 대상물(보행자) 수가 상이할 경우, 제1 특징맵을 직접 정규화 처리하면 통계 오차가 발생할 가능성이 있다. 이 경우, 제1 특징맵을 분할하고, 영역별로 정규화 처리하여 오차를 줄이도록 해도 된다.
하나의 가능한 실시형태에서는 특징맵에 대한 분할 규칙을 미리 설정하고 분할 규칙에 기초하여 특징맵을 분할하도록 해도 되며, 예를 들면, 특징맵을 복수의 블록으로 균일하게 분할하거나 특정 사이즈의 블록으로 분할하는 것 등을 들 수 있다. 모든 특징맵에 대해 동일한 분할 규칙을 사용해도 되고, 상이한 특징맵에 대해 상이한 분할 규칙을 사용해도 되며, 본 발명에서는 한정하지 않는다.
하나의 가능한 실시형태에서는 분할 규칙은 특징맵의 분할 대상이 되는 차원, 각 분할 대상이 되는 차원의 분할 위치, 각 분할 대상이 되는 차원의 분할 수, 각 분할 대상이 되는 차원의 분할 사이즈, 분할 후의 서브 특징맵의 수 중 하나 이상을 포함해도 된다.
하나의 가능한 실시형태에서는 분할 대상이 되는 차원은 특징맵의 분할될 차원을 지시하기 위한 것이고, 예를 들면, 공간 차원에서의 높이(H)와 폭(W)를 분할한다. 각 분할 대상이 되는 차원의 분할 위치는 특징맵의 각 분할 대상이 되는 차원을 분할하는 분할점의 위치를 지시하기 위한 것이고, 예를 들면, 높이(H)(사이즈가 256)의 분할 위치는 52, 108 및 160 등을 포함한다. 각 분할 대상이 되는 차원의 분할 수는 특징맵의 각 분할 대상이 되는 차원을 분할하는 수를 지시하기 위한 것이고, 예를 들면, 높이(H)(사이즈가 256)의 차원 방향으로 3개의 블록으로 균일하게 분할한다. 각 분할 대상이 되는 차원의 분할 사이즈는 특징맵의 각 분할 대상이 되는 차원을 분할하는 사이즈를 지시하기 위한 것이고, 예를 들면, 높이(H)(사이즈가 256)의 차원 방향으로 사이즈의 64로 분할한다. 분할 후의 서브 특징맵의 수는 특징맵을 분할하여 취득한 서브 특징맵의 수를 지시하기 위한 것이고, 예를 들면, 서브 특징맵의 수가 9이면 높이(H)와 폭(W)의 차원 방향으로 각각 3개의 블록으로 분할하도록 해도 된다.
또한, 당업자는 실제 상황에 따라 구체적인 분할 규칙 및 그 내용을 설정할 수 있다고 이해해야 하며, 본 발명에서는 한정하지 않는다.
하나의 가능한 실시형태에서는 단계(S12)에서 제1 특징맵의 차원 정보 및 미리 설정된 분할 규칙에 기초하여 제1 특징맵을 복수의 제1 서브 특징맵으로 분할하도록 해도 된다. 예를 들면, 분할 규칙은 분할 대상이 되는 차원이 높이(H)와 폭(W)이고, 높이(H)와 폭(W)의 차원 방향으로 각각 2개의 블록으로 분할할 것을 지시하면, 제1 특징맵을 4개의 제1 서브 특징맵(128×128×16)으로 분할할 수 있다.
하나의 가능한 실시형태에서는 단계(S13)에서 복수의 제1 서브 특징맵을 각각 정규화 처리하여, 복수의 제2 서브 특징맵을 취득하도록 해도 된다. 본 발명에서는 정규화의 구체적인 방법에 대해서는 한정하지 않는다.
하나의 가능한 실시형태에서는 단계(S14)에서 복수의 제2 서브 특징맵을 연결하여 처리 대상이 되는 이미지의 제2 특징맵을 취득하도록 해도 된다. 즉, 정규화 후의 각 서브 특징맵의 위치에 따라 복수의 서브 특징맵을 연결하여, 완전한 특징맵(제2 특징맵)을 취득하여 후속의 처리를 행한다.
본 발명의 실시예에 따르면, 특징맵을 분할하고, 또한 각각 정규화 처리하여 정규화 후의 복수의 서브 특징맵을 취득하고, 정규화 후의 복수의 서브 특징맵을 완전한 특징맵에 연결함으로써 로컬 특징 정보를 보류하고, 완전한 특징맵을 정규화할 경우의 통계 오차를 줄여, 추출된 특징의 유효성을 향상시킬 수 있다.
하나의 가능한 실시형태에서는 단계(S12)는 앞서 서술한 제1 특징맵의 공간 차원의 사이즈 및 미리 설정된 분할 규칙에 기초하여 공간 차원에서 상기 제1 특징맵을 분할하여, 복수의 제1 서브 특징맵을 취득하는 것을 포함해도 된다.
예를 들면, 미리 설정된 분할 규칙으로서 공간 차원(H와 W)에서 제1 특징맵을 분할하고, 예를 들면, 각 차원 방향으로 각각 4개의 블록으로 균일하게 분할하도록 설정되어도 된다. 이 경우, 제1 특징맵의 공간 차원(H와 W)의 사이즈(256×256)에 따라 공간 차원(H와 W)에 있어서 제1 특징맵을 사이즈가 64×64인 16개의 제1 서브 특징맵으로 분할할 수 있다. 각 제1 서브 특징맵의 다른 차원과 제1 특징맵의 다른 차원은 스케일이 동일하다(예를 들면, 채널 수가 전부 16).
이와 같은 방법에 의하면, 공간 차원에서 특징맵에 대해 영역 분할을 행하여, 특징맵을 각 공간 영역의 서브 특징맵으로 분할하고, 특징맵의 각 공간 영역을 각각 정규화 처리함으로써 완전한 특징맵을 정규화할 경우의 통계 오차를 줄일 수 있다.
하나의 가능한 실시형태에서는 단계(S13)는 채널 차원에서 각 제1 서브 특징맵을 그룹화하고, 상기 제1 서브 특징맵의 각 그룹의 채널을 각각 정규화 처리하여 상기 제1 특징맵의 제2 서브 특징맵을 취득하는 것을 포함해도 된다.
예를 들면, 관련 기술에서는 배치 정규화(Batch Normalization, BN)에 의해 각 배치의 데이터를 정규화할 수 있다. 그러나, 트레이닝시에 큰 배치 사이즈(batch size)를 사용할 수 없는 태스크, 예를 들면, 물체 검출, 시멘틱 세그멘테이션, 군집 밀도 추정에서는 배치 정규화의 효과가 나쁘다. 이 경우, 그룹 정규화(Group Normalization, GN) 방법으로 특징맵을 정규화 처리할 수 있다.
하나의 가능한 실시형태에서는 복수의 서브 특징맵을 취득한 후, 채널(channel) 차원(C)에 있어서 각 제1 서브 특징맵을 그룹화하도록 해도 되고, 예를 들면, 제1 서브 특징맵의 16개의 채널을 2개의 그룹으로 나누고, 각 그룹은 8개의 채널을 포함한다. 그 후, 각 그룹의 채널에 있어서 각각 정규화 처리를 행한다. 즉, 제1 서브 특징맵의 각 그룹 채널의 평균값과 분산을 각각 통계하고, 또한 제1 서브 특징맵의 각 그룹 채널의 각 위치값을 정규화 계산하여 정규화 후의 결과(제1 서브 특징맵의 제2 서브 특징맵)를 취득한다. 이에 의해, 복수의 제1 서브 특징맵에 대응하는 복수의 제2 서브 특징맵을 취득할 수 있다. 본 발명에서는 채널의 그룹화 수 및 각 그룹에 포함되는 채널의 수에 대해서는 한정하지 않는다.
이와 같은 방법에 의하면, 서브 특징맵의 각 그룹의 채널을 각각 정규화함으로써, 정규화시의 통계 오차를 더욱 줄여, 추출된 특징의 유효성을 향상시킬 수 있다.
하나의 가능한 실시형태에서는 단계(S14)는 상기 복수의 제1 서브 특징맵의 상기 제1 특징맵에서의 위치에 따라 상기 복수의 제2 서브 특징맵을 연결하여 상기 처리 대상이 되는 이미지의 제2 특징맵을 취득하는 것을 포함해도 된다.
예를 들면, 정규화 후의 복수의 제2 서브 특징맵을 취득한 후, 각 제1 서브 특징맵의 제1 특징맵에서의 위치를 대응하는 각 제2 서브 특징맵의 위치로서 결정하고, 즉, 연결하는 순서가 분할 순서와 동일하도록 해도 된다. 각 제2 서브 특징맵의 위치에 따라 각 제2 서브 특징맵을 연결하고, 연결한 후의 제2 특징맵을 취득한다.
이와 같은 방법에 의하면, 제2 특징맵과 제1 특징맵의 로컬 특징 정보의 분포의 일치성을 확보할 수 있다.
도 2는 본 발명의 실시예에 따른 이미지 처리 방법의 처리 순서의 모식도를 나타낸다. 도 2에 나타내는 바와 같이 제1 특징맵(21)은 높이(H), 폭(W) 및 채널(C)와 같은 3개의 차원을 포함해도 되며, 미리 설정된 분할 규칙은 공간 차원(H)에서 2개의 블록으로 분할하고, 공간 차원(W)에서 2개의 블록으로 분할하는 것으로 되어도 된다. 제1 특징맵(21)의 차원 정보 및 상기 분할 규칙에 기초하여 제1 특징맵(21)을 4개의 제1 서브 특징맵(22)으로 분할하도록 해도 된다. 4개의 제1 서브 특징맵(22)을 각각 그룹 정규화 처리하고(채널(C)의 그룹화), 취득된 결과(4개의 제2 서브 특징맵)를 분할 순서에 연결하여 완전한 제2 특징맵(23)을 취득하여 후조작을 행하도록 해도 된다.
하나의 가능한 실시형태에서는 상기 방법은 상기 처리 대상이 되는 이미지의 하나 이상의 제2 특징맵에 대해 스케일 다운 및 멀티스케일 융합을 행하여, 각 특징맵의 스케일이 상이한 부호화 후의 복수의 특징맵을 취득하는 것과, 상기 부호화 후의 복수의 특징맵에 대해 스케일 업 및 멀티스케일 융합을 행하여, 상기 처리 대상이 되는 이미지의 분류 예측 결과를 취득하는 것을 포함해도 된다.
예를 들면, 처리 대상이 되는 이미지에 대해 특징 추출을 행하여 스케일이 상이한 복수의 제1 특징맵을 취득해도 되고, 단계(S12∼14)의 분할, 정규화 및 연결 처리를 거쳐 복수의 제2 특징맵을 취득하도록 해도 된다. 후속의 처리에 있어서, 뉴럴 네트워크의 부호화 네트워크에 의해 처리 대상이 되는 이미지의 하나 이상의 제2 특징맵에 대해 스케일 다운 및 멀티스케일 융합을 행하여, 각 특징맵의 스케일이 상이한 부호화 후의 복수의 특징맵을 취득하도록 해도 된다. 이에 의해, 각 스케일에 있어서 글로벌 정보와 로컬 정보를 융합시킬 수 있고, 추출된 특징의 유효성을 높일 수 있다.
하나의 가능한 실시형태에서는 부호화 네트워크는 예를 들면, 합성곱층(convolution layer), 잔차층(residual layer), 업샘플링층(upsampling layer), 융합층 등을 포함해도 된다. 부호화 네트워크의 제1 합성곱층(스트라이드(stride)＞1)에 의해 제2 특징맵을 스케일 다운하여 스케일 다운 후의 특징맵을 취득한다. 제2 합성곱층(스트라이드＝1) 및/또는 잔차층에 의해 제2 특징맵 및 스케일 다운 후의 특징맵에 대해 특징 최적화를 행하여, 특징 최적화 후의 복수의 특징맵을 취득한다. 또한, 부호화 네트워크의 업샘플링층, 합성곱층(스트라이드＞1) 및/또는 융합층 등에 의해 특징 최적화 후의 복수의 특징맵을 융합시켜 부호화 후의 복수의 특징맵을 취득하도록 해도 된다.
하나의 가능한 실시형태에서는 부호화 후 복수의 특징맵을 취득한 후, 복호화 네트워크에 의해 부호화 후의 복수의 특징맵에 대해 스케일 업 및 멀티스케일 융합 처리를 행하여, 처리 대상이 되는 이미지의 분류 예측 결과를 취득하도록 해도 된다.
하나의 가능한 실시형태에서는 복호화 네트워크는 예를 들면, 융합층, 역합성곱층, 합성곱층, 잔차층, 업샘플링층 등을 포함해도 된다. 복호화 네트워크의 융합층에 의해 부호화 후의 복수의 특징맵을 융합시켜 융합 후의 복수의 특징맵을 취득한다. 또한, 역합성곱층에 의해 융합 후의 복수의 특징맵을 스케일 업하여, 스케일 업 후의 복수의 특징맵을 취득한다. 융합층, 합성곱층(스트라이드＝1) 및/또는 잔차층 등에 의해 복수의 특징맵을 각각 융합, 최적화하여 복호화 후의 특징맵(분류 예측 결과)을 취득하도록 해도 된다. 본 발명에서는 부호화 네트워크 및 복호화 네트워크의 구체적인 네트워크 구조에 대해서는 한정하지 않는다.
하나의 가능한 실시형태에서는 각 네트워크층의 조작 결과를 정규화하여 네트워크층의 조작 결과의 로버스트성을 높이도록 단계(S12∼14)의 분할, 정규화 및 연결 처리는 부호화 네트워크 및 복호화 네트워크의 임의의 네트워크층(융합층, 역합성곱층, 합성곱층, 잔차층, 업샘플링층 등) 후에 행하여도 된다.
이와 같이 부호화 네트워크에 의해 이미지의 특징맵에 대해 스케일 다운 및 멀티스케일 융합을 행하고, 또한 복호화 네트워크에 의해 부호화 후의 복수의 특징맵에 대해 스케일 업 및 멀티스케일 융합을 행함으로써 부호화 및 복호화 과정에 있어서 멀티스케일의 글로벌 정보와 로컬 정보를 복수 융합시켜, 보다 효과적인 멀티스케일 정보를 보류하고, 예측 결과의 품질 및 로버스트성을 향상시킬 수 있다.
하나의 가능한 실시형태에서는 상기 처리 대상이 되는 이미지의 하나 이상의 제2 특징맵에 대해 스케일 다운 및 멀티스케일 융합 처리를 행하여, 부호화 후의 복수의 특징맵을 취득하는 단계는 m개(m은 양의 정수)의 제2 특징맵을 스케일 다운하여 스케일 다운 후의 m개의 특징맵을 취득하는 것과, 상기 스케일 다운 후의 m개의 특징맵에 대해 특징 융합을 행하여, 스케일이 상기 스케일 다운 후의 m개의 특징맵의 스케일과 동일한 m＋1번째의 특징맵을 취득하는 것과, 상기 m개의 제2 특징맵 및 상기 m＋1번째의 특징맵에 대해 각각 특징 최적화 및 융합을 행하여, 부호화 후의 m＋1개의 특징맵을 취득하는 것을 포함해도 된다.
예를 들면, 처리 대상이 되는 제2 특징맵이 m개(m은 임의의 양의 정수)여도 된다. 부호화 네트워크의 m개의 합성곱 서브네트워크(각 합성곱 서브네트워크는 하나 이상의 제1 합성곱층을 포함함)에 의해 m개의 제2 특징맵을 각각 스케일 다운하여, 스케일 다운 후의 m개의 특징맵을 취득하고, 상기 스케일 다운 후의 m개의 특징맵은 스케일이 동일하고, 또한 m번째의 제2 특징맵의 스케일보다 작다(m＋1번째의 특징맵의 스케일과 동일함). 융합층에 의해 상기 스케일 다운 후의 m개의 특징맵에 대해 특징 융합을 행하여, m＋1번째의 특징맵을 취득하도록 해도 된다.
하나의 가능한 실시형태에서는 각 합성곱 서브네트워크는 하나 이상의 제1 합성곱층을 포함하고, 제1 합성곱층은 합성곱 커널 사이즈가 3×3이고, 스트라이드가 2이고, 특징맵을 스케일 다운하는데 사용된다. 합성곱 서브네트워크의 제1 합성곱층의 수는 대응하는 특징맵의 스케일과 관련되어 있고, 예를 들면, 부호화 후의 첫 번째의 제2 특징맵의 스케일이 4x(폭과 높이는 각각 처리 대상이 되는 이미지의 1/4)이고, 생성 대상인 m개의 특징맵의 스케일이 16x(폭과 높이는 각각 처리 대상이 되는 이미지의 1/16)이면, 첫 번째의 합성곱 서브네트워크는 2개의 제1 합성곱층을 포함한다. 또한, 당업자는 실제 상황에 따라 합성곱 서브네트워크의 제1 합성곱층의 수, 합성곱 커널 사이즈 및 스트라이드를 설정해도 되며 본 발명에서는 한정하지 않는다.
하나의 가능한 실시형태에서는 부호화 네트워크의 융합층에 의해 부호화된 m개의 제2 특징맵에 대해 멀티스케일 융합을 행하여, 융합 후의 m개의 특징맵을 취득한다. m＋1개의 특징 최적화 서브네트워크(각 특징 최적화 서브네트워크는 제2 합성곱층 및/또는 잔차층을 포함함)에 의해 융합 후의 m개의 특징맵과 m＋1번째의 특징맵에 대해 각각 특징 최적화를 행하여, 특징 최적화 후의 m＋1개의 특징맵을 취득한다. 그 후, m＋1개의 융합 서브네트워크에 의해 특징 최적화 후의 m＋1개의 특징맵에 대해 각각 멀티스케일 융합을 행하여, 부호화 후의 m＋1개의 특징맵을 취득하도록 해도 된다.
하나의 가능한 실시형태에서는 멀티스케일 융합 후의 m＋1개의 특징맵에 대해 특징 최적화 및 멀티스케일 융합을 재차 행함으로써 추출된 멀티스케일 특징의 유효성을 더욱 높이도록 해도 된다. 본 발명에서는 특징 최적화 및 멀티스케일 융합의 횟수에 대해서는 한정하지 않는다.
하나의 가능한 실시형태에서는 제2 합성곱층에 의해 특징맵을 직접 최적화해도 되고, 제2 합성곱층은 합성곱 커널 사이즈가 3×3이고, 스트라이드가 1이다. 제2 합성곱층 및 잔차층으로 이루어지는 기본 블록(basic block)에 의해 특징맵을 최적화하도록 해도 된다. 상기 기본 블록은 최적화를 행하는 기본 유닛으로서 2개의 연속하는 제2 합성곱층을 포함하고, 잔차층에 의해 입력된 특징맵과 합성곱에 의해 취득된 특징맵을 가산하여 결과로서 출력하도록 해도 된다. 본 발명에서는 특징 최적화의 구체적인 방법에 대해서는 한정하지 않는다.
하나의 가능한 실시형태에서는 각 특징 최적화 서브네트워크는 하나 이상의 기본 블록을 포함해도 된다. 각 특징 최적화 서브네트워크의 기본 블록에 의해 m개의 제2 특징맵과 m＋1번째의 특징맵에 대해 각각 특징 최적화를 행하여 특징 최적화 후의 m＋1개의 특징맵을 취득하도록 해도 된다. 또한, 당업자는 실제 상황에 따라 제2 합성곱층의 수 및 합성곱 커널 사이즈를 설정해도 되며, 본 개시에서는 한정하지 않는다.
이와 같은 방법에 의하면, 추출된 멀티스케일 특징의 유효성을 더욱 높일 수 있다.
하나의 가능한 실시형태에서는 부호화 네트워크의 m＋1개의 융합 서브네트워크는 각각 특징 최적화 후의 m＋1개의 특징맵을 융합시키도록 해도 된다. m＋1개의 융합 서브네트워크의 k번째의 융합 서브네트워크(k는 정수에서 1≤k≤m＋1)를 예로 하면, 우선, 상기 k번째의 융합 서브네트워크는 m＋1개의 특징맵의 스케일을 특징 최적화 후의 k번째의 특징맵의 스케일로 조정해도 된다. 1＜k＜m＋1의 경우, 특징 최적화 후의 k번째의 특징맵보다 앞의 k－1개의 특징맵의 스케일은 전부 특징 최적화 후의 k번째의 특징맵보다 크고, 예를 들면, k번째의 특징맵의 스케일은 16x(폭과 높이는 각각 처리 대상이 되는 이미지의 1/16)이고, k번째의 특징맵보다 앞의 특징맵의 스케일은 4x와 8x이다. 이 경우, 하나 이상의 제1 합성곱층에 의해 스케일이 특징 최적화 후의 k번째의 특징맵보다 큰 k－1개의 특징맵을 스케일 다운하여 스케일 다운 후의 k－1개의 특징맵을 취득하도록 해도 된다. 즉, 스케일이 4x와 8x인 특징맵 각각을 16x의 특징맵으로 축소하기 위해 2개의 제1 합성곱층에 의해 4x의 특징맵을 스케일 다운해도 되고 1개의 제1 합성곱층에 의해 8x의 특징맵을 스케일 다운해도 된다. 이에 의해, 스케일 다운 후의 k－1개의 특징맵을 취득할 수 있다.
하나의 가능한 실시형태에서는 1＜k＜m＋1의 경우, 특징 최적화 후의 k번째의 특징맵보다 뒤의 m＋1－k개의 특징맵의 스케일은 전부 특징 최적화 후의 k번째의 특징맵보다 작고, 예를 들면, k번째의 특징맵의 스케일은 16x(폭과 높이는 각각 처리 대상이 되는 이미지의 1/16)이고, k번째의 특징맵보다 뒤의 m＋1－k개의 특징맵은 32x이다. 이 경우, 업샘플링층에 의해 32x의 특징맵을 스케일 업하고, 또한 제3 합성곱(합성곱 커널 사이즈는 1×1)에 의해 스케일 업 후의 특징맵에 대해 채널 조정을 행하여 스케일 업 후의 특징맵의 채널 수를 k번째의 특징맵의 채널 수와 동일하게 하여 스케일이 16x인 특징맵을 취득하도록 해도 된다. 이에 의해, 스케일 업 후의 m＋1－k개의 특징맵을 취득할 수 있다.
하나의 가능한 실시형태에서는 k＝1의 경우, 특징 최적화 후의 첫 번째의 특징맵보다 뒤의 m개의 특징맵의 스케일은 전부 특징 최적화 후의 첫 번째의 특징맵보다 작고, 뒤의 m개의 특징맵 각각에 대해 스케일 업 및 채널 조정을 행하여 스케일 업 후의 m개의 특징맵을 취득하도록 해도 된다. k＝m＋1의 경우, 특징 최적화 후의 m＋1번째의 특징맵보다 앞의 m개의 특징맵의 스케일은 전부 특징 최적화 후의 m＋1번째의 특징맵보다 크고, 앞의 m개의 특징맵 각각을 스케일 다운하여 스케일 다운 후의 앞의 m개의 특징맵을 취득하도록 해도 된다.
하나의 가능한 실시형태에서는 k번째의 융합 서브네트워크는 스케일 조정 후의 m＋1개의 특징맵을 융합시키도록 해도 된다. 1＜k＜m＋1의 경우, 스케일 조정 후의 m＋1개의 특징맵은 스케일 다운 후의 k－1개의 특징맵, 특징 최적화 후의 k번째의 특징맵 및 상기 스케일 업 후의 m＋1－k개의 특징맵을 포함한다. 스케일 다운 후의 k－1개의 특징맵, 특징 최적화 후의 k번째의 특징맵 및 상기 스케일 업 후의 m＋1－k개의 특징맵의 삼자를 융합(가산)시켜 부호화 후의 k번째의 특징맵을 취득하도록 해도 된다.
하나의 가능한 실시형태에서는 k＝1의 경우, 스케일 조정 후의 m＋1개의 특징맵은 특징 최적화 후의 첫 번째의 특징맵과 스케일 업 후의 m개의 특징맵을 포함한다. 특징 최적화 후의 첫 번째의 특징맵과 스케일 업 후의 m개의 특징맵의 양자를 융합(가산)시켜 부호화 후의 첫 번째의 특징맵을 취득하도록 해도 된다.
하나의 가능한 실시형태에서는 k＝m＋1의 경우, 스케일 조정 후의 m＋1개의 특징맵은 스케일 다운 후의 m개의 특징맵과 특징 최적화 후의 m＋1번째의 특징맵을 포함한다. 스케일 다운 후의 m개의 특징맵과 특징 최적화 후의 m＋1번째의 특징맵의 양자를 융합(가산)시켜 부호화 후의 m＋1번째의 특징맵을 취득하도록 해도 된다.
도 3a, 도 3b 및 도 3c는 본 발명의 실시예에 따른 이미지 처리 방법의 멀티스케일 융합 순서의 모식도를 나타낸다. 도 3a, 도 3b 및 도 3c에서는 융합 대상이 되는 특징맵이 3개인 경우를 예로 설명한다.
도 3a에 나타내는 바와 같이, k＝1의 경우, 두 번째와 세 번째의 특징맵 각각에 대해 스케일 업(업샘플링) 및 채널 조정(1×1 합성곱)을 행하여, 첫 번째의 특징맵의 스케일 및 채널 수와 동일한 2개의 특징맵을 취득하고, 추가로 이 3개의 특징맵을 가산하여 융합 후의 특징맵을 취득하도록 해도 된다.
도 3b에 나타내는 바와 같이, k＝2의 경우, 첫 번째의 특징맵을 스케일 다운하고(합성곱 커널 사이즈가 3×3, 스트라이드가 2인 합성곱), 세 번째의 특징맵에 대해 스케일 업(업샘플링) 및 채널 조정(1×1 합성곱)을 행하여, 두 번째의 특징맵의 스케일 및 채널 수와 동일한 2개의 특징맵을 취득하고, 추가로 이 3개의 특징맵을 가산하여 융합 후의 특징맵을 취득하도록 해도 된다.
도 3c에 나타내는 바와 같이, k＝3의 경우, 첫 번째와 두 번째의 특징맵을 스케일 다운(합성곱 커널 사이즈가 3×3, 스트라이드가 2인 합성곱)하도록 해도 된다. 첫 번째의 특징맵과 세 번째의 특징맵의 스케일 차는 4배이기 때문에, 2회의 합성곱(합성곱 커널 사이즈는 3×3, 스트라이드는 2)을 행해도 된다. 스케일 다운 후, 세 번째의 특징맵의 스케일 및 채널 수와 동일한 2개의 특징맵을 취득하고, 추가로 이 3개의 특징맵을 가산하여 융합 후의 특징맵을 취득하도록 해도 된다.
이와 같은 방법에 의하면, 스케일이 상이한 복수의 특징맵간의 멀티스케일 융합을 실현할 수 있고, 각 스케일에 있어서 글로벌 정보와 로컬 정보를 융합시켜 보다 효과적인 멀티스케일 특징을 추출한다.
하나의 가능한 실시형태에서는 상기 부호화 후의 복수의 특징맵에 대해 스케일 업 및 멀티스케일 융합을 행하여, 상기 처리 대상이 되는 이미지의 분류 예측 결과를 취득하는 것은 부호화 후의 m＋1개(m은 양의 정수)의 특징맵에 대해 융합 및 스케일 업을 행하여, 스케일 업 후의 m개의 특징맵을 취득하는 것과, 상기 스케일 업 후의 m개의 특징맵에 대해 특징 최적화 및 융합을 행하여, 상기 처리 대상이 되는 이미지의 분류 예측 결과를 취득하는 것을 포함해도 된다.
예를 들면, 먼저 부호화 후의 m＋1개의 특징맵을 융합시켜 멀티스케일 정보를 융합시킴과 함께 특징맵의 수를 줄이도록 해도 된다. 부호화 후의 m＋1개의 특징맵 중 앞의 m개의 특징맵에 대응하는 m개의 제1 융합 서브네트워크를 설치해도 된다. 예를 들면, 융합 대상이 되는 특징맵은 스케일이 4x, 8x, 16x 및 32x인 4개의 특징맵을 포함하면 융합에 의해 스케일이 4x, 8x 및 16x인 3개의 특징맵을 취득하도록 3개의 제1 융합 서브네트워크를 설치해도 된다.
하나의 가능한 실시형태에서는 복호화 네트워크의 m개의 제1 융합 서브네트워크의 네트워크 구조는 부호화 네트워크의 융합 서브네트워크의 네트워크 구조와 유사해도 된다. q번째의 제1 융합 서브네트워크(1≤q≤m)에 대해서는 q번째의 제1 융합 서브네트워크는 우선 m＋1개의 특징맵의 스케일을 복호화 후의 q번째의 특징맵의 스케일로 조정하고, 추가로, 스케일 조정 후의 m＋1개의 특징맵을 융합시켜 융합 후의 q번째의 특징맵을 취득하도록 해도 된다. 이에 의해, 융합 후의 m개의 특징맵을 취득할 수 있다. 스케일의 조정 및 융합의 구체적인 과정에 대해서는 여기에서 상세한 설명을 생략한다.
하나의 가능한 실시형태에서는 복호화 네트워크의 역합성곱(deconvolution) 서브네트워크에 의해 융합 후의 m개의 특징맵을 각각 스케일 업하고, 예를 들면, 스케일이 4x, 8x 및 16x인 3개의 융합 후의 특징맵을 2x, 4x 및 8x의 3개의 특징맵으로 확대하도록 해도 된다. 확대한 결과, 스케일 업 후의 m개의 특징맵을 취득한다.
하나의 가능한 실시형태에서는 스케일 업 후의 m개의 특징맵을 취득한 후, m개의 제2 융합 서브네트워크에 의해 상기 m개의 특징맵에 대해 각각 스케일의 조정 및 융합을 행하여, 융합한 m개의 특징맵을 취득하도록 해도 된다. 스케일의 조정 및 융합의 구체적인 과정에 대해서는 여기에서 상세한 설명을 생략한다.
하나의 가능한 실시형태에서는 복호화 네트워크의 특징 최적화 서브네트워크에 의해 융합된 m개의 특징맵을 각각 최적화해도 되며, 각 특징 최적화 서브네트워크는 전부 하나 이상의 기본 블록을 포함해도 된다. 특징 최적화한 결과, 복호화된 m개의 특징맵을 취득할 수 있다. 특징 최적화의 구체적인 과정에 대해서는 여기에서 상세한 설명을 생략한다.
하나의 가능한 실시형태에서는 스케일이 상이한 글로벌 특징과 로컬 특징을 추가로 융합시키도록 복호화 네트워크의 멀티스케일 융합 및 특징 최적화 과정을 복수회 반복해도 된다. 본 발명에서는 멀티스케일 융합 및 특징 최적화의 횟수에 대해서는 한정하지 않는다.
하나의 가능한 실시형태에서는 스케일이 처리 대상이 되는 이미지와 일치하는 대상물 특징맵을 취득하도록 복호화 네트워크의 융합 및 스케일 업 과정을 복수회 반복해도 된다. 또한, 대상물 특징맵을 최적화하고, 상기 처리 대상이 되는 이미지의 예측 밀도 맵을 취득하도록 해도 된다.
하나의 가능한 실시형태에서는 상기 예측 밀도맵을 그대로 처리 대상이 되는 이미지의 예측 결과로 해도 되고, 상기 예측 밀도맵을 다시 처리(예를 들면, softmax층 등에 의한 처리)하여 처리 대상이 되는 이미지의 분류 예측 결과를 취득해도 된다.
이에 의해, 복호화 네트워크는 스케일 업 과정에 있어서 글로벌 정보와 로컬 정보를 복수회 융합시켜, 예측 결과의 품질을 향상시킨다.
하나의 가능한 실시형태에서는 본 발명의 실시예에 따른 이미지 처리 방법은 처리 대상이 되는 이미지에 대해 특징 추출을 행하기 위한 특징 추출 네트워크와, 상기 처리 대상이 되는 이미지의 하나 이상의 제2 특징맵에 대해 스케일 다운 및 멀티스케일 융합을 행하기 위한 부호화 네트워크와, 상기 부호화 후의 복수의 특징맵에 대해 스케일 업 및 멀티스케일 융합을 행하기 위한 복호화 네트워크를 포함하는 뉴럴 네트워크에 의해 실현되어도 된다. 특징 추출 네트워크, 부호화 네트워크 및 복호화 네트워크의 처리 순서에 대해 이미 설명했으므로 여기서 상세한 설명을 생략한다.
하나의 가능한 실시형태에서는 본 발명의 뉴럴 네트워크를 적용하기 전에, 상기 뉴럴 네트워크를 트레이닝하도록 해도 된다. 본 발명의 실시예에 따른 이미지 처리 방법은 복수의 레이블이 부착된 샘플 이미지를 포함하는 미리 설정된 트레이닝 군에 기초하여 상기 뉴럴 네트워크를 트레이닝하는 것을 추가로 포함한다.
예를 들면, 복수의 샘플 이미지를 미리 설치해도 되고, 각 샘플 이미지는 예를 들면, 샘플 이미지에 있어서의 보행자의 위치, 수 등의 레이블 정보가 부착되었다. 복수의 레이블 정보가 부착된 샘플 이미지로 트레이닝군을 구성하여 상기 뉴럴 네트워크를 트레이닝하도록 해도 된다.
하나의 가능한 실시형태에서는 샘플 이미지를 특징 추출 네트워크에 입력하여, 특징 추출 네트워크, 부호화 네트워크 및 복호화 네트워크의 처리에 의해 샘플 이미지의 예측 결과를 출력한다. 샘플 이미지의 예측 결과와 레이블 정보에 기초하여 뉴럴 네트워크의 네트워크 손실을 결정한다. 네트워크 손실에 따라, 뉴럴 네트워크의 네트워크 파라미터를 조정한다. 미리 설정된 트레이닝 조건을 충족시킬 경우, 트레이닝된 뉴럴네트워크를 얻도록 해도 된다. 본 발명에서는 구체적인 트레이닝 방법에 대해서는 한정하지 않는다.
이에 의해, 고정밀도의 뉴럴 네트워크를 얻을 수 있다.
본 발명의 실시예의 정규화 방법에 의하면, 공간 차원에서 특징맵에 대해 영역 분할을 행하고, 각 공간 영역을 각각 정규화함으로써, 특징맵의 국소의 차이성을 보류하여, 완전한 특징맵을 정규화할 경우의 통계 오차를 줄일 수 있다. 본 발명의 실시예에 의하면, 트레이닝시에 작은 배치 사이즈를 사용해도 네트워크의 성능을 확보할 수 있고, 트레이닝시에 작은 배치 사이즈밖에 사용할 수 없는 태스크(예를 들면, 군집 밀도 추정, 시멘틱 세그멘테이션 등)에 적용하여, 예를 들면, 군집 밀도 추정 태스크의 트레이닝시에 정규화층을 사용하지 않는 것에 의한 구배 소실/폭발 등의 문제를 해소할 수 있다.
본 발명의 실시예의 이미지 처리 방법에 의하면, 스트라이드를 갖는 합성곱 조작에 의해 스케일이 작은 특징맵을 취득하고, 네트워크 구조에 있어서 글로벌 정보와 로컬의 융합을 계속적으로 행하여 보다 유효한 멀티스케일 정보를 추출하고, 또한 다른 스케일의 정보에 의해 현재의 스케일 정보의 추출을 촉진하고, 네트워크의 멀티스케일 대상물(예를 들면, 보행자)에 대한 식별의 로버스트성을 향상시킬 수 있다. 복호화 네트워크에 있어서 특징맵을 확대함과 함께, 멀티스케일 정보의 융합을 행하여 멀티스케일 정보를 보류하고, 생성된 밀도맵의 품질을 향상시켜 모델 예측의 정확율을 향상시킬 수 있다.
본 발명의 실시예의 이미지 처리 방법에 의하면, 스마트 비디오 해석이나 방범 감시 등의 응용 장면에 적용할 수 있으며, 장면 내 대상물(예를 들면, 보행자, 차량 등)을 식별하고, 장면 내 대상물의 수나 분포 상황 등을 예측하여 현재의 장면에서의 군집의 동작을 해석할 수 있다.
본 발명에서 언급되는 상기 각 방법의 실시예는 원리와 논리에 위반되지 않는 한, 상호 조합하여 실시예를 형성할 수 있음을 이해해야 한다. 분량에 한계가 있으므로, 본 발명에서는 상세한 설명을 생략한다. 또한, 당업자라면, 구체적인 실시형태에 따른 상기 방법에서는 각 단계의 구체적인 실행 순서는 그 기능과 내부의 가능한 논리에 의해 결정되는 것을 이해해야 한다.
또한, 본 발명은 추가로, 이미지 처리 장치, 전자 기기, 컴퓨터 판독 가능한 기억 매체, 프로그램을 제공한다. 이들 전부 본 발명 중 어느 이미지 처리 방법의 실시에 사용될 수 있다. 이러한 발명 및 설명은 방법에 관한 설명에 따른 기재를 참조하면 되고, 상세한 설명을 생략한다.
도 4는 본 발명의 실시예에 따른 이미지 처리 장치의 블록도를 나타낸다. 도 4에 나타내는 바와 같이, 상기 이미지 처리 장치는 처리 대상이 되는 이미지에 대해 특징 추출을 행하여, 상기 처리 대상이 되는 이미지의 제1 특징맵을 취득하기 위한 특징 추출 모듈(41)과, 상기 제1 특징맵의 차원 및 각 차원의 사이즈를 포함하는 상기 제1 특징맵의 차원 정보 및 미리 설정된 분할 규칙에 기초하여 상기 제1 특징맵을 복수의 제1 서브 특징맵으로 분할하기 위한 분할 모듈(42)과, 상기 복수의 제1 서브 특징맵을 각각 정규화 처리하여, 복수의 제2 서브 특징맵을 취득하기 위한 정규화 모듈(43)과, 상기 복수의 제2 서브 특징맵을 연결하여 상기 처리 대상이 되는 이미지의 제2 특징맵을 취득하기 위한 연결 모듈을 포함한다.
하나의 가능한 실시형태에서는 상기 분할 모듈은 상기 제1 특징맵의 공간 차원의 사이즈 및 미리 설정된 분할 규칙에 기초하여 공간 차원에서 상기 제1 특징맵을 분할하여, 복수의 제1 특징맵을 취득하기 위한 분할 서브모듈을 포함한다.
하나의 가능한 실시형태에서는 상기 정규화 모듈은 채널 차원에서 각 제1 서브 특징맵을 그룹화하고, 상기 제1 서브 특징맵의 각 그룹의 채널을 각각 정규화 처리하여, 상기 제1 서브 특징맵의 제2 서브 특징맵을 취득하기 위한 정규화 서브모듈을 포함한다.
하나의 가능한 실시형태에서는 상기 연결 모듈은 상기 복수의 제1 서브 특징맵의 상기 제1 서브 특징맵의 위치에 따라, 상기 복수의 제2 서브 특징맵을 연결하여 상기 처리 대상이 되는 이미지의 제2 특징맵을 취득하기 위한 연결 서브모듈을 포함한다.
하나의 가능한 실시형태에서는 상기 분할 규칙은 특징맵의 분할 대상이 되는 차원, 각 분할 대상이 되는 차원의 분할 위치, 각 분할 대상이 되는 차원의 분할 수, 각 분할 대상이 되는 차원의 분할 사이즈, 분할 후의 서브 특징맵의 수 중 하나 이상을 포함한다.
하나의 가능한 실시형태에서는 상기 장치는 상기 처리 대상이 되는 이미지의 하나 이상의 제2 특징맵에 대해 스케일 다운 및 멀티스케일 융합을 행하여, 각 특징맵의 스케일이 상이한 부호화 후의 복수의 특징맵을 취득하기 위한 부호화 모듈과, 상기 부호화 후의 복수의 특징맵에 대해 스케일 업 및 멀티스케일 융합을 행하여, 상기 처리 대상이 되는 이미지의 분류 예측 결과를 취득하기 위한 복호화 모듈을 추가로 포함한다.
하나의 가능한 실시형태에서는 상기 부호화 모듈은 m개(m은 양의 정수)의 제2 특징맵을 스케일 다운하여 스케일 다운 후의 m개의 특징맵을 취득하기 위한 축소 서브모듈과, 상기 스케일 다운 후의 m개의 특징맵에 대해 특징 융합을 행하여, 스케일이 상기 스케일 다운 후의 m개의 특징맵의 스케일과 동일한 m＋1번째의 특징맵을 취득하기 위한 제1 융합 서브모듈과, 상기 m개의 제2 특징맵 및 상기 m＋1번째의 특징맵에 대해 각각 특징 최적화 및 융합을 행하여, 부호화 후의 m＋1개의 특징맵을 취득하기 위한 제2 융합 서브모듈을 포함한다.
하나의 가능한 실시형태에서는 상기 복호화 모듈은 부호화 후의 m＋1개(m은 양의 정수)의 특징맵에 대해 융합 및 스케일 업을 행하여, 스케일 업 후의 m개의 특징맵을 취득하기 위한 확대 서브모듈과, 상기 스케일 업 후의 m개의 특징맵에 대해 특징 최적화 및 융합을 행하여, 상기 처리 대상이 되는 이미지의 분류 예측 결과를 취득하기 위한 제3 융합 서브모듈을 포함한다.
하나의 가능한 실시형태에서는 상기 장치는 처리 대상이 되는 이미지에 대해 특징을 추출을 행하기 위한 특징 추출 네트워크와, 상기 처리 대상이 되는 이미지의 하나 이상의 제2 특징맵에 대해 스케일 다운 및 멀티스케일 융합을 행하기 위한 부호화 네트워크와, 상기 부호화 후의 복수의 특징맵에 대해 스케일 업 및 멀티스케일 융합을 행하기 위한 복호화 네트워크를 포함하는 뉴럴 네트워크에 의해 실현된다.
하나의 가능한 실시형태에서는 상기 장치는 복수의 레이블이 부착된 샘플 이미지를 포함하는 미리 설정된 트레이닝군에 기초하여 상기 뉴럴 네트워크를 트레이닝하는 트레이닝 모듈을 추가로 포함한다.
일부 실시예에 있어서, 본 발명의 실시예에 따른 장치의 기능 또는 수단은 상기 방법 실시예에 기재된 방법을 실행하기 위해 사용된다. 구체적인 실시는 상기 방법 실시예의 기재를 참조하면 분명해지고, 간략화를 위해 상세한 설명을 생략한다.
본 발명의 실시예는 컴퓨터 프로그램 명령을 기억하고 있는 컴퓨터 판독 가능 기억 매체로서, 컴퓨터 프로그램 명령은 프로세서에 의해 실행되면 상기 방법을 실현시키는 컴퓨터 판독 가능 기억 매체를 제공한다. 컴퓨터 판독 가능 기억 매체는 컴퓨터 판독 가능 불휘발성 기억 매체여도 되고, 또는 컴퓨터 판독 가능 휘발성 기억 매체여도 된다.
본 발명의 실시예는 추가로, 프로세서와, 프로세서에 의해 실행 가능한 명령을 기억하기 위한 메모리를 포함하고, 상기 프로세서는 상기 메모리에 기억되어 있는 명령을 불러냄으로써, 상기 방법을 실행하도록 구성되는 전자 기기를 제공한다.
본 발명의 실시예는 추가로 컴퓨터 판독 가능 코드를 포함하고, 상기 컴퓨터 판독 가능 코드는 전자 기기에서 실행되면, 상기 전자 기기의 프로세서에 상기 방법을 실현하기 위한 명령을 실행시키는 컴퓨터 프로그램을 제공한다.
전자 기기는 단말, 서버 또는 그 밖의 형태의 기기로서 제공할 수 있다.
도 5는 본 발명의 실시예에 따른 전자 기기(800)의 블록도를 나타낸다. 전자 기기(800)는 휴대 전화, 컴퓨터, 디지털 방송 단말, 메시지 송수신 기기, 게임 콘솔, 태블릿형 기기, 의료 기기, 피트니스 기기, 퍼스널 디지털 어시스턴트 등의 단말이어도 된다.
도 5를 참조하면 전자 기기(800)는 처리 컴포넌트(802), 메모리(804), 전원 컴포넌트(806), 멀티미디어 컴포넌트(808), 오디오 컴포넌트(810), 입력/출력(I/O) 인터페이스(812), 센서 컴포넌트(814) 및 통신 컴포넌트(816) 중 하나 이상을 포함해도 된다.
처리 컴포넌트(802)는 통상 전자 기기(800)의 전체적인 동작, 예를 들면, 표시, 전화의 호출, 데이터 통신, 카메라 동작 및 기록 동작과 관련된 동작을 제어한다. 처리 컴포넌트(802)는 상기 방법의 전부 또는 일부 단계를 실행하기 위해, 명령을 실행하는 하나 이상의 프로세서(820)를 포함해도 된다. 또한, 처리 컴포넌트(802)는 다른 컴포넌트와의 상호 작용을 위한 하나 이상의 모듈을 포함해도 된다. 예를 들면, 처리 컴포넌트(802)는 멀티미디어 컴포넌트(808)와의 상호 작용을 위해, 멀티미디어 모듈을 포함해도 된다.
메모리(804)는 전자 기기(800)에서의 동작을 서포트하기 위한 다양한 타입의 데이터를 기억하도록 구성된다. 이들 데이터는 예로서, 전자 기기(800)에서 조작하는 모든 애플리케이션 프로그램 또는 방법의 명령, 연락처 데이터, 전화번호부 데이터, 메시지, 사진, 비디오 등을 포함한다. 메모리(804)는 예를 들면, 정적 랜덤 액세스 메모리(SRAM), 전기적 소거 가능 프로그래머블 판독 전용 메모리(EEPROM), 소거 가능 프로그래머블 판독 전용 메모리(EPROM), 프로그래머블 판독 전용 메모리(PROM), 판독 전용 메모리(ROM), 자기 메모리, 플래시 메모리, 자기 디스크 또는 광디스크 등 다양한 타입의 휘발성 또는 불휘발성 기억 장치 또는 이들의 조합에 의해 실현할 수 있다.
전원 컴포넌트(806)는 전자 기기(800)의 각 컴포넌트에 전력을 공급한다. 전원 컴포넌트(806)는 전원 관리 시스템, 하나 이상의 전원 및 전자 기기(800)를 위한 전력 생성, 관리 및 배분에 관련되는 다른 컴포넌트를 포함해도 된다.
멀티미디어 컴포넌트(808)는 상기 전자 기기(800)와 사용자 사이에서 출력 인터페이스를 제공하는 스크린을 포함한다. 일부 실시예에서는 스크린은 액정 디스플레이(LCD) 및 터치 패널(TP)을 포함해도 된다. 스크린이 터치 패널을 포함하는 경우, 사용자로부터의 입력 신호를 수신하는 터치 스크린으로서 실현해도 된다. 터치 패널은 터치, 슬라이드 및 터치 패널에서의 제스처를 검지하도록 하나 이상의 터치 센서를 포함한다. 상기 터치 센서는 터치 또는 슬라이드 동작의 경계를 검지할 뿐만 아니라, 상기 터치 또는 슬라이드 조작에 관련되는 지속 시간 및 압력을 검출하도록 해도 된다. 일부 실시예에서는 멀티미디어 컴포넌트(808)는 전면 카메라 및/또는 후면 카메라를 포함한다. 전자 기기(800)가 동작 모드, 예를 들면, 촬영 모드 또는 촬상 모드가 되는 경우, 전면 카메라 및/또는 후면 카메라는 외부의 멀티미디어 데이터를 수신하도록 해도 된다. 각 전면 카메라 및 후면 카메라는 고정된 광학 렌즈계 또는 초점 거리 및 광학 줌 능력을 갖는 것이어도 된다.
오디오 컴포넌트(810)는 오디오 신호를 출력 및/또는 입력하도록 구성된다. 예를 들면, 오디오 컴포넌트(810)는 하나의 마이크(MIC)를 포함하고, 마이크(MIC)는 전자 기기(800)가 동작 모드, 예를 들면, 호출 모드, 기록 모드 및 음성 인식 모드가 되는 경우, 외부의 오디오 신호를 수신하도록 구성된다. 수신된 오디오 신호는 추가로 메모리(804)에 기억되거나 또는 통신 컴포넌트(816)를 통해 송신되어도 된다. 일부 실시예에서는 오디오 컴포넌트(810)는 추가로 오디오 신호를 출력하기 위한 스피커를 포함한다.
I/O 인터페이스(812)는 처리 컴포넌트(802)와 주변 인터페이스 모듈 사이에서 인터페이스를 제공하고, 상기 주변 인터페이스 모듈은 키보드, 클릭 휠, 버튼 등이어도 된다. 이들 버튼은 홈 버튼, 음량 버튼, 시작 버튼 및 잠금 버튼을 포함해도 되지만, 이들에 한정되지 않는다.
센서 컴포넌트(814)는 전자 기기(800)의 각 측면의 상태 평가를 위해 하나 이상의 센서를 포함한다. 예를 들면, 센서 컴포넌트(814)는 전자 기기(800)의 온/오프 상태, 예를 들면, 전자 기기(800)의 표시 장치 및 키패드와 같은 컴포넌트의 상대적 위치 결정을 검출할 수 있고, 센서 컴포넌트(814)는 추가로 전자 기기(800) 또는 전자 기기(800)가 있는 컴포넌트의 위치 변화, 사용자와 전자 기기(800)의 접촉 유무, 전자 기기(800)의 방위 또는 가감속 및 전자 기기(800)의 온도 변화를 검출할 수 있다. 센서 컴포넌트(814)는 어떠한 물리적 접촉도 없는 경우에 근방의 물체의 존재를 검출하도록 구성되는 근접 센서를 포함해도 된다. 센서 컴포넌트(814)는 추가로 CMOS 또는 CCD 이미지 센서와 같은 이미징 애플리케이션에서 사용하기 위한 광센서를 포함해도 된다. 일부 실시예에서는 상기 센서 컴포넌트(814)는 가속도 센서, 자이로 센서, 자기 센서, 압력 센서 또는 온도 센서를 포함해도 된다.
통신 컴포넌트(816)는 전자 기기(800)와 다른 기기의 유선 또는 무선 통신을 실현하도록 구성된다. 전자 기기(800)는 통신 규격에 기초하는 무선 네트워크, 예를 들면, WiFi, 2G 또는 3G, 또는 이들 조합에 액세스할 수 있다. 일 예시적 실시예에서는 통신 컴포넌트(816)는 방송 채널을 통해 외부 방송 관리 시스템으로부터의 방송 신호 또는 방송 관련 정보를 수신한다. 일 예시적 실시예에서는 상기 통신 컴포넌트(816)는 추가로 근거리 통신을 촉진시키기 위해 근거리 무선 통신(NFC) 모듈을 포함한다. 예를 들면, NFC 모듈은 무선 주파수 식별(RFID) 기술, 적외선 데이터 협회(IrDA) 기술, 초광대역(UWB) 기술, 블루투스(BT) 기술 및 다른 기술에 의해 실현할 수 있다.
예시적인 실시예에서는 전자 기기(800)는 하나 이상의 특정 용도용 집적 회로(ASIC), 디지털 신호 프로세서(DSP), 디지털 시그널 프로세서(DSPD), 프로그래머블 로직 디바이스(PLD), 필드 프로그래머블 게이트 어레이(FPGA), 컨트롤러, 마이크로 컨트롤러, 마이크로 프로세서 또는 다른 전자 요소에 의해 실현되고, 상기 방법을 실행하기 위해 사용될 수 있다.
예시적인 실시예에서는 추가로, 불휘발성 컴퓨터 판독 가능 기억 매체, 예를 들면, 컴퓨터 프로그램 명령을 포함하는 메모리(804)가 제공되고, 상기 컴퓨터 프로그램 명령은 전자 기기(800)의 프로세서(820)에 의해 실행되면 상기 방법을 실행시킬 수 있다.
도 6은 본 발명의 실시예에 따른 전자 기기(1900)의 블록도를 나타낸다. 예를 들면, 전자 기기(1900)는 서버로서 제공되어도 된다. 도 6을 참조하면, 전자 기기(1900)는 하나 이상의 프로세서를 포함하는 처리 컴포넌트(1922), 및 처리 컴포넌트(1922)에 의해 실행 가능한 명령, 예를 들면, 애플리케이션 프로그램을 기억하기 위한 메모리(1932)를 대표로 하는 메모리 자원을 포함한다. 메모리(1932)에 기억되어 있는 애플리케이션 프로그램은 각각이 하나의 명령군에 대응하는 하나 이상의 모듈을 포함해도 된다. 또한, 처리 컴포넌트(1922)는 명령을 실행함으로써 상기 방법을 실행하도록 구성된다.
전자 기기(1900)는 추가로, 전자 기기(1900)의 전원 관리를 실행하도록 구성되는 전원 컴포넌트(1926), 전자 기기(1900)를 네트워크에 접속하도록 구성되는 유선 또는 무선 네트워크 인터페이스(1950) 및 입출력(I/O) 인터페이스(1958)를 포함해도 된다. 전자 기기(1900)는 메모리(1932)에 기억되어 있는 오퍼레이팅 시스템, 예를 들면, Windows ServerTM, Mac OS XTM, UnixTM, LinuxTM, FreeBSDTM 또는 유사한 것에 기초하여 작동할 수 있다.
예시적인 실시예에서는 추가로, 불휘발성 컴퓨터 판독 가능 기억 매체, 예를 들면, 컴퓨터 프로그램 명령을 포함하는 메모리(1932)가 제공되고, 상기 컴퓨터 프로그램 명령은 전자 기기(1900)의 처리 컴포넌트(1922)에 의해 실행되면, 상기 방법을 실행시킬 수 있다.
본 발명은 시스템, 방법 및/또는 컴퓨터 프로그램 제품이어도 된다. 컴퓨터 프로그램 제품은 프로세서에 본 발명의 각 측면을 실현시키기 위한 컴퓨터 판독 가능 프로그램 명령이 갖고 있는 컴퓨터 판독 가능 기억 매체를 포함해도 된다.
컴퓨터 판독 가능 기억 매체는 명령 실행 기기에 사용되는 명령을 저장 및 기억 가능한 유형(有形)의 장치여도 된다. 컴퓨터 판독 가능 기억 매체는 예를 들면, 전기 기억 장치, 자기 기억 장치, 광 기억 장치, 전자 기억 장치, 반도체 기억 장치, 또는 상기의 임의의 적당한 조합이어도 되지만, 이들에 한정되지 않는다. 컴퓨터 판독 가능 기억 매체의 보다 구체적인 예(비망라적 리스트)로는 휴대형 컴퓨터 디스크, 하드 디스크, 랜덤 액세스 메모리(RAM), 판독 전용 메모리(ROM), 소거 가능 프로그래머블 판독 전용 메모리(EPROM 또는 플래시 메모리), 정적 랜덤 액세스 메모리(SRAM), 휴대형 콤팩트 디스크 판독 전용 메모리(CD-ROM), 디지털 다용도 디스크(DVD), 메모리 스틱, 플로피 디스크, 예를 들면, 명령이 기억되어 있는 천공 카드 또는 슬롯 내 돌기 구조와 같은 기계적 부호화 장치, 및 상기의 임의의 적당한 조합을 포함한다. 여기에서 사용되는 컴퓨터 판독 가능 기억 매체는 순시 신호 자체, 예를 들면, 무선 전파 또는 기타 자유롭게 전파되는 전자파, 도파로 또는 다른 전송 매체를 경유하여 전파되는 전자파(예를 들면, 광파이버 케이블을 통과하는 광펄스), 또는 전선을 경유하여 전송되는 전기 신호로 해석되는 것은 아니다.
여기에서 기술한 컴퓨터 판독 가능 프로그램 명령은 컴퓨터 판독 가능 기억 매체에서 각 계산/처리 기기에 다운로드되어도 되고, 또는 네트워크, 예를 들면, 인터넷, 로컬 에어리어 네트워크, 광역 네트워크 및/또는 무선 네트워크를 통해 외부의 컴퓨터 또는 외부 기억 장치에 다운로드되어도 된다. 네트워크는 구리 전송 케이블, 광파이버 전송, 무선 전송, 라우터, 방화벽, 교환기, 게이트웨이 컴퓨터 및/또는 에지 서버를 포함해도 된다. 각 계산/처리 기기 내의 네트워크 어댑터 카드 또는 네트워크 인터페이스는 네트워크에서 컴퓨터 판독 가능 프로그램 명령을 수신하고, 상기 컴퓨터 판독 가능 프로그램 명령을 전송하고, 각 계산/처리 기기 내의 컴퓨터 판독 가능 기억 매체에 기억시킨다.
본 발명의 동작을 실행하기 위한 컴퓨터 프로그램 명령은 어셈블리 명령, 명령 세트 아키텍처(ISA) 명령, 기계어 명령, 기계 의존 명령, 마이크로 코드, 펌웨어 명령, 상태 설정 데이터 또는 Smalltalk, C＋＋ 등의 오브젝트 지향 프로그래밍 언어, 및 「C」언어 또는 유사한 프로그래밍 언어 등의 일반적인 절차형 프로그래밍 언어를 포함하는 하나 이상의 프로그래밍 언어의 임의의 조합으로 작성된 소스 코드 또는 목표 코드여도 된다. 컴퓨터 판독 가능 프로그램 명령은 완전히 사용자의 컴퓨터에서 실행되어도 되고, 부분적으로 사용자의 컴퓨터에서 실행되어도 되고, 독립형 소프트웨어 패키지로서 실행되어도 되고, 부분적으로 사용자의 컴퓨터에서 또한 부분적으로 리모트 컴퓨터에서 실행되어도 되고, 또는 완전히 리모트 컴퓨터 또는 서버에서 실행되어도 된다. 리모트 컴퓨터의 경우, 리모트 컴퓨터는 로컬 에어리어(LAN) 또는 광역 네트워크(WAN)를 포함하는 임의의 종류의 네트워크를 경유하여 사용자의 컴퓨터에 접속되어도 되고, 또는 (예를 들면, 인터넷 서비스 프로바이더를 이용해 인터넷을 경유하여) 외부 컴퓨터에 접속되어도 된다. 일부 실시예에서는 컴퓨터 판독 가능 프로그램 명령의 상태 정보를 이용하여 예를 들면, 프로그래머블 논리 회로, 필드 프로그래머블 게이트 어레이(FPGA) 또는 프로그래머블 논리 어레이(PLA) 등의 전자 회로를 맞춤 제조하고, 상기 전자 회로에 의해 컴퓨터 판독 가능 프로그램 명령을 실행함으로써 본 발명의 각 측면을 실현하도록 해도 된다.
여기에서 본 발명의 실시예에 따른 방법, 장치(시스템) 및 컴퓨터 프로그램 제품의 흐름도 및/또는 블록도를 참조하면서 본 발명의 각 양태를 설명했지만, 흐름도 및/또는 블록도의 각 블록 및 흐름도 및/또는 블록도의 각 블록의 조합은 전부 컴퓨터 판독 가능 프로그램 명령에 의해 실현할 수 있는 것을 이해해야 한다.
이들 컴퓨터 판독 가능 프로그램 명령은 범용 컴퓨터, 전용 컴퓨터 또는 기타 프로그래머블 데이터 처리 장치의 프로세서에 제공되어 이들 명령이 컴퓨터 또는 기타 프로그래머블 데이터 처리 장치의 프로세서에 의해 실행되면, 흐름도 및/또는 블록도의 하나 이상의 블록에서 지정된 기능/동작을 실현하도록 기계를 제조해도 된다. 이들 컴퓨터 판독 가능 프로그램 명령은 컴퓨터 판독 가능 기억 매체에 기억되고, 컴퓨터, 프로그래머블 데이터 처리 장치 및/또는 다른 기기를 특정의 방식으로 동작시키도록 해도 된다. 이에 의해, 명령이 기억되어 있는 컴퓨터 판독 가능 기억 매체는 흐름도 및/또는 블록도 중 하나 이상의 블록에서 지정된 기능/동작의 각 측면을 실현하는 명령을 갖는 제품을 포함한다.
컴퓨터 판독 가능 프로그램 명령은 컴퓨터, 기타 프로그래머블 데이터 처리 장치 또는 다른 기기에 로드되어 컴퓨터, 기타 프로그래머블 데이터 처리 장치 또는 다른 기기에 일련의 동작 단계를 실행시킴으로써 컴퓨터에 의해 실현되는 프로세스를 생성하도록 해도 된다. 이렇게 하여, 컴퓨터, 기타 프로그래머블 데이터 처리 장치 또는 다른 기기에서 실행되는 명령에 의해 흐름도 및/또는 블록도 중 하나 이상의 블록에서 지정된 기능/동작을 실현한다.
도면 중 흐름도 및 블록도는 본 발명의 복수의 실시예에 따른 시스템, 방법 및 컴퓨터 프로그램 제품의 실현 가능한 시스템 아키텍처, 기능 및 동작을 나타낸다. 이 점에서는 흐름도 또는 블록도에 있어서의 각 블록은 하나의 모듈, 프로그램 세그먼트 또는 명령의 일부분을 대표할 수 있고, 상기 모듈, 프로그램 세그먼트 또는 명령의 일부분은 지정된 논리 기능을 실현하기 위한 하나 이상의 실행 가능 명령을 포함한다. 일부 대체로서의 실현 형태에서는 블록에 표기되는 기능은 도면에 붙인 순서와 상이하게 실현되어도 된다. 예를 들면, 연속적인 두 개의 블록은 실질적으로 병렬로 실행해도 되고, 또한 관련된 기능에 따라 반대 순서로 실행해도 된다. 또한 블록도 및/또는 흐름도에서의 각 블록 및 블록도 및/또는 흐름도에서의 블록의 조합은 지정되는 기능 또는 동작을 실행하는 하드웨어에 기초하는 전용 시스템에 의해 실현해도 되며, 또는 전용 하드웨어와 컴퓨터 명령의 조합에 의해 실현해도 된다는 점에도 주의해야 한다.
논리에 반하지 않는 한, 본 발명의 상이한 실시예를 서로 조합할 수 있고, 상이한 실시예에는 중점을 두고 설명했지만, 중점을 두고 설명하지 않은 부분에 대해서는 기타 실시예의 기재를 참조하면 분명하다.
이상, 본 발명의 각 실시예를 기술했지만, 상기 설명은 예시적인 것에 불과하고, 망라적인 것이 아니며, 또한 개시된 각 실시예에 한정되는 것도 아니다. 당업자에게 있어서, 설명된 각 실시예의 범위 및 정신에서 벗어나지 않고, 다양한 수정 및 변경이 자명하다. 본 명세서에 선택된 용어는 각 실시예의 원리, 실제 적용 또는 기존 기술에 대한 개선을 바람직하게 해석하거나, 또는 다른 당업자에게 본 문에 개시된 각 실시예를 이해시키기 위한 것이다.

Claims (23)

  1. 처리 대상이 되는 이미지에 대해 특징 추출을 행하여, 상기 처리 대상이 되는 이미지의 제1 특징맵을 취득하는 것과,
    상기 제1 특징맵의 공간 차원의 사이즈 및 미리 설정된 분할 규칙에 기초하여, 공간 차원에서 상기 제1 특징맵을 분할하여, 복수의 제1 서브 특징맵을 취득하되, 상기 분할 규칙은 상기 제1 특징맵의 분할 대상이 되는 차원 및 각 분할 대상이 되는 차원의 분할 위치를 포함하고, 상기 분할 대상이 되는 차원은 상기 공간 차원에서의 높이와 폭을 포함하고, 상기 각 분할 대상이 되는 차원의 분할 위치는 상기 제1 특징맵의 각 분할 대상이 되는 차원을 분할하는 분할점의 위치를 지시하기 위한 것과,
    상기 복수의 제1 서브 특징맵을 각각 정규화 처리하여, 복수의 제2 서브 특징맵을 취득하는 것과,
    상기 복수의 제1 서브 특징맵의 복수의 제2 서브 특징맵을 연결하여 상기 처리 대상이 되는 이미지의 제2 특징맵을 취득하는 것을 포함하는, 이미지 처리 방법.
  2. 제 1 항에 있어서,
    상기 복수의 제1 서브 특징맵을 각각 정규화 처리하여, 복수의 제2 서브 특징맵을 취득하는 것은,
    채널 차원에서 각 제1 서브 특징맵을 그룹화하고, 상기 제1 서브 특징맵의 각 그룹의 채널을 각각 정규화 처리하여, 상기 제1 서브 특징맵의 제2 서브 특징맵을 취득하는 것을 포함하는, 이미지 처리 방법.
  3. 제 1 항에 있어서,
    상기 복수의 제2 서브 특징맵을 연결하여 상기 처리 대상이 되는 이미지의 제2 특징맵을 취득하는 것은,
    상기 복수의 제1 서브 특징맵의 상기 제1 특징맵에서의 위치에 따라, 상기 복수의 제2 서브 특징맵을 연결하여 상기 처리 대상이 되는 이미지의 제2 특징맵을 취득하는 것을 포함하는, 이미지 처리 방법.
  4. 제 1 항에 있어서,
    상기 분할 규칙은 상기 각 분할 대상이 되는 차원의 분할 수, 상기 각 분할 대상이 되는 차원의 분할 사이즈, 분할 후의 서브 특징맵의 수 중 하나 이상을 더 포함하는, 이미지 처리 방법.
  5. 제 1 항에 있어서,
    상기 처리 대상이 되는 이미지의 하나 이상의 제2 특징맵에 대해 스케일 다운 및 멀티스케일 융합을 행하여, 각 특징맵의 스케일이 상이한 부호화 후의 복수의 특징맵을 취득하는 것과,
    상기 부호화 후의 복수의 특징맵에 대해 스케일 업 및 멀티스케일 융합을 행하여, 상기 처리 대상이 되는 이미지의 분류 예측 결과를 취득하는 것을 추가로 포함하는, 이미지 처리 방법.
  6. 제 5 항에 있어서,
    상기 처리 대상이 되는 이미지의 하나 이상의 제2 특징맵에 대해 스케일 다운 및 멀티스케일 융합 처리를 행하여, 부호화 후의 복수의 특징맵을 취득하는 것은,
    m개(m은 양의 정수)의 제2 특징맵을 스케일 다운하고, 스케일 다운 후의 m개의 특징맵을 취득하는 것과,
    상기 스케일 다운 후의 m개의 특징맵에 대해 특징 융합을 행하여, 스케일이 상기 스케일 다운 후의 m개의 특징맵의 스케일과 동일한 m＋1번째의 특징맵을 취득하는 것과,
    상기 m개의 제2 특징맵 및 상기 m＋1번째의 특징맵에 대해 각각 특징 최적화 및 융합을 행하여, 부호화 후의 m＋1개의 특징맵을 취득하는 것을 포함하는, 이미지 처리 방법.
  7. 제 5 항에 있어서,
    상기 부호화 후의 복수의 특징맵에 대해 스케일 업 및 멀티스케일 융합을 행하여, 상기 처리 대상이 되는 이미지의 분류 예측 결과를 취득하는 것은,
    부호화 후의 m＋1개(m은 양의 정수)의 특징맵에 대해 융합 및 스케일 업을 행하여, 스케일 업 후의 m개의 특징맵을 취득하는 것과,
    상기 스케일 업 후의 m개의 특징맵에 대해 특징 최적화 및 융합을 행하여, 상기 처리 대상이 되는 이미지의 분류 예측 결과를 취득하는 것을 포함하는, 이미지 처리 방법.
  8. 제 1 항에 있어서,
    처리 대상이 되는 이미지에 대해 특징 추출을 행하기 위한 특징 추출 네트워크와, 상기 처리 대상이 되는 이미지의 하나 이상의 제2 특징맵에 대해 스케일 다운 및 멀티스케일 융합을 행하기 위한 부호화 네트워크와, 상기 부호화 후의 복수의 특징맵에 대해 스케일 업 및 멀티스케일 융합을 행하기 위한 복호화 네트워크를 포함하는 뉴럴 네트워크에 의해 실현되는, 이미지 처리 방법.
  9. 제 8 항에 있어서,
    복수의 레이블이 부착된 샘플 이미지를 포함하는 미리 설정된 트레이닝군(preset training set)에 기초하여 상기 뉴럴 네트워크를 트레이닝하는 것을 추가로 포함하는, 이미지 처리 방법.
  10. 처리 대상이 되는 이미지에 대해 특징 추출을 행하여, 상기 처리 대상이 되는 이미지의 제1 특징맵을 취득하기 위한 특징 추출 모듈과,
    상기 제1 특징맵의 공간 차원의 사이즈 및 미리 설정된 분할 규칙에 기초하여, 공간 차원에서 상기 제1 특징맵을 분할하여, 복수의 제1 서브 특징맵을 취득하기 위한 분할 모듈이되, 상기 분할 규칙은 상기 제1 특징맵의 분할 대상이 되는 차원 및 각 분할 대상이 되는 차원의 분할 위치를 포함하고, 상기 분할 대상이 되는 차원은 상기 공간 차원에서의 높이와 폭을 포함하고, 상기 각 분할 대상이 되는 차원의 분할 위치는 상기 제1 특징맵의 각 분할 대상이 되는 차원을 분할하는 분할점의 위치를 지시하기 위한 상기 분할 모듈과,
    상기 복수의 제1 서브 특징맵을 각각 정규화 처리하여, 복수의 제2 서브 특징맵을 취득하기 위한 정규화 모듈과,
    상기 복수의 제1 서브 특징맵의 복수의 제2 서브 특징맵을 연결하여, 상기 처리 대상이 되는 이미지의 제2 특징맵을 취득하기 위한 연결 모듈을 포함하는, 이미지 처리 장치.
  11. 프로세서와,
    프로세서에 의해 실행 가능한 명령을 기억하기 위한 메모리를 포함하고,
    상기 프로세서는 상기 메모리에 기억되어 있는 명령을 불러냄으로써, 제 1 항 내지 제 9 항 중 어느 한 항의 방법을 실행하도록 구성되는, 전자 기기.
  12. 컴퓨터 프로그램 명령을 기억하고 있는 컴퓨터 판독 가능 기억 매체로서, 상기 컴퓨터 프로그램 명령은 프로세서에 의해 실행되면, 제 1 항 내지 제 9 항 중 어느 한 항의 방법을 실현시키는, 컴퓨터 판독 가능 기억 매체.
  13. 컴퓨터 판독 가능 코드를 포함하고, 상기 컴퓨터 판독 가능 코드는 전자 기기에 있어서 실행되면, 상기 전자 기기의 프로세서에 제 1 항 내지 제 9 항 중 어느 한 항의 방법을 실현하기 위한 명령을 실행시키는, 기억 매체에 기억된 컴퓨터 프로그램.
  14. 삭제
  15. 삭제
  16. 삭제
  17. 삭제
  18. 삭제
  19. 삭제
  20. 삭제
  21. 삭제
  22. 삭제
  23. 삭제
KR1020217001038A 2019-07-18 2019-11-08 이미지 처리 방법 및 장치, 전자 기기 및 기억 매체 KR102593020B1 (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201910652025.2A CN110348537B (zh) 2019-07-18 2019-07-18 图像处理方法及装置、电子设备和存储介质
CN201910652025.2 2019-07-18
PCT/CN2019/116617 WO2021008023A1 (zh) 2019-07-18 2019-11-08 图像处理方法及装置、电子设备和存储介质

Publications (2)

Publication Number Publication Date
KR20210019537A KR20210019537A (ko) 2021-02-22
KR102593020B1 true KR102593020B1 (ko) 2023-10-23

Family

ID=68179325

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020217001038A KR102593020B1 (ko) 2019-07-18 2019-11-08 이미지 처리 방법 및 장치, 전자 기기 및 기억 매체

Country Status (7)

Country Link
US (1) US11481574B2 (ko)
JP (1) JP7041284B2 (ko)
KR (1) KR102593020B1 (ko)
CN (1) CN110348537B (ko)
SG (1) SG11202008147VA (ko)
TW (1) TWI749423B (ko)
WO (1) WO2021008023A1 (ko)

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110348537B (zh) * 2019-07-18 2022-11-29 北京市商汤科技开发有限公司 图像处理方法及装置、电子设备和存储介质
CN110781845B (zh) * 2019-10-29 2023-04-07 北京迈格威科技有限公司 基于图像统计目标对象的方法、装置和电子系统
CN111079761B (zh) * 2019-11-05 2023-07-18 北京航空航天大学青岛研究院 图像处理方法、装置及计算机存储介质
CN110956122B (zh) * 2019-11-27 2022-08-02 深圳市商汤科技有限公司 图像处理方法及装置、处理器、电子设备、存储介质
CN112219224B (zh) * 2019-12-30 2024-04-26 商汤国际私人有限公司 图像处理方法及装置、电子设备和存储介质
CN111241985B (zh) 2020-01-08 2022-09-09 腾讯科技（深圳）有限公司 一种视频内容识别方法、装置、存储介质、以及电子设备
CN111598131B (zh) * 2020-04-17 2023-08-25 北京百度网讯科技有限公司 图像处理方法、装置、电子设备及存储介质
CN111582353B (zh) * 2020-04-30 2022-01-21 恒睿(重庆)人工智能技术研究院有限公司 一种图像特征检测方法、系统、设备以及介质
CN111815594A (zh) * 2020-06-29 2020-10-23 浙江大华技术股份有限公司 钢筋检测方法以及相关设备、装置
CN111681243B (zh) * 2020-08-17 2021-02-26 广东利元亨智能装备股份有限公司 焊接图像处理方法、装置及电子设备
CN112862909A (zh) * 2021-02-05 2021-05-28 北京百度网讯科技有限公司 一种数据处理方法、装置、设备以及存储介质
CN113052173A (zh) * 2021-03-25 2021-06-29 北京百度网讯科技有限公司 样本数据的特征增强方法和装置
CN113034492A (zh) * 2021-04-19 2021-06-25 深圳市华汉伟业科技有限公司 一种印刷质量缺陷检测方法、存储介质
CN113255730B (zh) * 2021-04-27 2023-04-07 西安交通大学 基于拆分-融合策略的分布式深度神经网络结构转换方法
CN113298823B (zh) * 2021-05-20 2024-03-15 西安锐思数智科技股份有限公司 图像融合方法及装置
CN113269747B (zh) * 2021-05-24 2023-06-13 浙江大学医学院附属第一医院 一种基于深度学习的病理图片肝癌扩散检测方法及系统
CN113553938B (zh) * 2021-07-19 2024-05-14 黑芝麻智能科技(上海)有限公司 安全带检测方法、装置、计算机设备和存储介质
CN113807198B (zh) * 2021-08-24 2023-08-22 深圳市魔方卫星科技有限公司 道路网变化检测方法、模型训练方法、装置、设备及介质
CN113901909B (zh) * 2021-09-30 2023-10-27 北京百度网讯科技有限公司 基于视频的目标检测方法、装置、电子设备和存储介质
WO2023101276A1 (ko) * 2021-11-30 2023-06-08 삼성전자 주식회사 영상 처리 장치 및 그 동작 방법
WO2023131937A1 (ko) * 2022-01-07 2023-07-13 엘지전자 주식회사 피쳐 부호화/복호화 방법, 장치, 비트스트림을 저장한 기록 매체 및 비트스트림 전송 방법
WO2023149614A1 (en) * 2022-02-07 2023-08-10 Samsung Electronics Co., Ltd. Method and electronic device for efficiently reducing dimensions of image frame
CN115984661B (zh) * 2023-03-20 2023-08-29 北京龙智数科科技服务有限公司 目标检测中的多尺度特征图融合方法、装置、设备及介质

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108960053A (zh) * 2018-05-28 2018-12-07 北京陌上花科技有限公司 归一化处理方法及装置、客户端

Family Cites Families (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4862930B2 (ja) * 2009-09-04 2012-01-25 カシオ計算機株式会社 画像処理装置、画像処理方法及びプログラム
JP2012043357A (ja) * 2010-08-23 2012-03-01 Nec Corp ユーザビリティ評価装置、方法及びプログラム
CN103226831B (zh) * 2013-05-02 2014-09-24 天津大学 利用分块布尔运算的图像匹配方法
CN105631880B (zh) * 2015-12-31 2019-03-22 百度在线网络技术（北京）有限公司 车道线分割方法和装置
CN106599883B (zh) * 2017-03-08 2020-03-17 王华锋 一种基于cnn的多层次图像语义的人脸识别方法
CN107688823B (zh) * 2017-07-20 2018-12-04 北京三快在线科技有限公司 一种图像特征获取方法及装置，电子设备
CN108229497B (zh) * 2017-07-28 2021-01-05 北京市商汤科技开发有限公司 图像处理方法、装置、存储介质、计算机程序和电子设备
CN108229531B (zh) * 2017-09-29 2021-02-26 北京市商汤科技开发有限公司 对象特征提取方法、装置、存储介质和电子设备
CN107945098B (zh) * 2017-11-24 2022-03-01 腾讯科技（深圳）有限公司 图像处理方法、装置、计算机设备和存储介质
JP6830742B2 (ja) * 2017-11-29 2021-02-17 Kddi株式会社 画素に基づく画像セグメンテーション用のプログラム
CN108009594B (zh) * 2017-12-25 2018-11-13 北京航空航天大学 一种基于变分组卷积的图像识别方法
CN108594997B (zh) * 2018-04-16 2020-04-21 腾讯科技（深圳）有限公司 手势骨架构建方法、装置、设备及存储介质
CN108596070A (zh) * 2018-04-18 2018-09-28 北京市商汤科技开发有限公司 人物识别方法、装置、存储介质、程序产品和电子设备
CN109409518B (zh) * 2018-10-11 2021-05-04 北京旷视科技有限公司 神经网络模型处理方法、装置及终端
CN109509192B (zh) * 2018-10-18 2023-05-30 天津大学 融合多尺度特征空间与语义空间的语义分割网络
CN109711463B (zh) * 2018-12-25 2023-04-07 广东顺德西安交通大学研究院 基于注意力的重要对象检测方法
CN109727216B (zh) * 2018-12-28 2023-06-06 Oppo广东移动通信有限公司 图像处理方法、装置、终端设备及存储介质
CN109711413B (zh) * 2018-12-30 2023-04-07 陕西师范大学 基于深度学习的图像语义分割方法
CN109740686A (zh) * 2019-01-09 2019-05-10 中南大学 一种基于区域池化和特征融合的深度学习图像多标记分类方法
CN109784420B (zh) * 2019-01-29 2021-12-28 深圳市商汤科技有限公司 一种图像处理方法及装置、计算机设备和存储介质
CN109934121B (zh) * 2019-02-21 2023-06-16 江苏大学 一种基于YOLOv3算法的果园行人检测方法
CN109829920B (zh) * 2019-02-25 2021-06-15 上海商汤智能科技有限公司 图像处理方法及装置、电子设备和存储介质
CN109919311B (zh) * 2019-03-13 2020-04-10 北京地平线机器人技术研发有限公司 生成指令序列的方法、执行神经网络运算的方法和装置
CN109862391B (zh) * 2019-03-18 2021-10-19 网易（杭州）网络有限公司 视频分类方法、介质、装置和计算设备
CN109919245B (zh) * 2019-03-18 2021-08-31 北京市商汤科技开发有限公司 深度学习模型训练方法及装置、训练设备及存储介质
CN109948526B (zh) * 2019-03-18 2021-10-29 北京市商汤科技开发有限公司 图像处理方法及装置、检测设备及存储介质
CN109978789A (zh) * 2019-03-26 2019-07-05 电子科技大学 一种基于Retinex算法与引导滤波的图像增强方法
CN109934241B (zh) * 2019-03-28 2022-12-09 南开大学 可集成到神经网络架构中的图像多尺度信息提取方法
CN109978069B (zh) * 2019-04-02 2020-10-09 南京大学 降低ResNeXt模型在图片分类中过拟合现象的方法
CN110348537B (zh) * 2019-07-18 2022-11-29 北京市商汤科技开发有限公司 图像处理方法及装置、电子设备和存储介质
CN114998980B (zh) * 2022-06-13 2023-03-31 北京万里红科技有限公司 一种虹膜检测方法、装置、电子设备及存储介质

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108960053A (zh) * 2018-05-28 2018-12-07 北京陌上花科技有限公司 归一化处理方法及装置、客户端

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Ke Sun, "Deep High-Resolution Representation Learning for Human Pose Estimation", IEEE/CVF conference on computer vision and pattern recognition (pp. 5693-5703) (2019.06.16-2019.06.20.)*
Rui Yu, "Divide and Fuse: A Re-ranking Approach for Person Re-identification", arXiv preprint arXiv:1708.04169 (2017.08.11.)*

Also Published As

Publication number Publication date
JP2021533436A (ja) 2021-12-02
CN110348537A (zh) 2019-10-18
US20210019560A1 (en) 2021-01-21
TW202105244A (zh) 2021-02-01
JP7041284B2 (ja) 2022-03-23
KR20210019537A (ko) 2021-02-22
WO2021008023A1 (zh) 2021-01-21
CN110348537B (zh) 2022-11-29
SG11202008147VA (en) 2021-02-25
TWI749423B (zh) 2021-12-11
US11481574B2 (en) 2022-10-25

Similar Documents

Publication Publication Date Title
KR102593020B1 (ko) 이미지 처리 방법 및 장치, 전자 기기 및 기억 매체
US20210019562A1 (en) Image processing method and apparatus and storage medium
KR102632647B1 (ko) 얼굴과 손을 관련지어 검출하는 방법 및 장치, 전자기기 및 기억매체
US20210209392A1 (en) Image Processing Method and Device, and Storage Medium
CN109829433B (zh) 人脸图像识别方法、装置、电子设备及存储介质
KR102421819B1 (ko) 이미지에서의 시퀀스를 인식하는 방법 및 장치, 전자 기기 및 기억 매체
US11301726B2 (en) Anchor determination method and apparatus, electronic device, and storage medium
KR20210047336A (ko) 이미지 처리 방법 및 장치, 전자 기기 및 기억 매체
KR20210102180A (ko) 이미지 처리 방법 및 장치, 전자 기기 및 기억 매체
JP2021516838A (ja) キーポイント検出方法、装置、電子機器及び記憶媒体
JP2022518889A (ja) 画像処理方法及び装置、電子機器並びに記憶媒体
KR20200139229A (ko) 위치 자세 추정 방법, 장치, 전자 기기 및 기억 매체
CN110458218B (zh) 图像分类方法及装置、分类网络训练方法及装置
KR20210090238A (ko) 비디오 처리 방법 및 장치, 전자 기기, 및 기억 매체
JP2021529398A (ja) ビデオ処理方法及び装置、電子機器並びに記憶媒体
KR20220011207A (ko) 이미지 처리 방법 및 장치, 전자 기기 및 저장 매체
US20220392202A1 (en) Imaging processing method and apparatus, electronic device, and storage medium
JP2022522551A (ja) 画像処理方法及び装置、電子機器並びに記憶媒体
KR20210113242A (ko) 검출기의 배치 방법 및 장치, 전자 기기 및 기억 매체
CN109101542B (zh) 图像识别结果输出方法及装置、电子设备和存储介质
JP7114811B2 (ja) 画像処理方法及び装置、電子機器並びに記憶媒体
KR20210113617A (ko) 네트워크 트레이닝 방법 및 장치, 이미지 처리 방법 및 장치
CN113537350B (zh) 图像处理方法及装置、电子设备和存储介质

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant