KR101626802B1 - 내시경기반의 특정병변 추적 및 모니터링 시스템 - Google Patents

내시경기반의 특정병변 추적 및 모니터링 시스템 Download PDF

Info

Publication number
KR101626802B1
KR101626802B1 KR1020140065301A KR20140065301A KR101626802B1 KR 101626802 B1 KR101626802 B1 KR 101626802B1 KR 1020140065301 A KR1020140065301 A KR 1020140065301A KR 20140065301 A KR20140065301 A KR 20140065301A KR 101626802 B1 KR101626802 B1 KR 101626802B1
Authority
KR
South Korea
Prior art keywords
specific
information
image
specific symptom
image data
Prior art date
Application number
KR1020140065301A
Other languages
English (en)
Other versions
KR20140141507A (ko
Inventor
심동하
Original Assignee
서울과학기술대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 서울과학기술대학교 산학협력단 filed Critical 서울과학기술대학교 산학협력단
Publication of KR20140141507A publication Critical patent/KR20140141507A/ko
Application granted granted Critical
Publication of KR101626802B1 publication Critical patent/KR101626802B1/ko

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00011Operational features of endoscopes characterised by signal transmission
    • A61B1/00016Operational features of endoscopes characterised by signal transmission using wireless means
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00011Operational features of endoscopes characterised by signal transmission
    • A61B1/00018Operational features of endoscopes characterised by signal transmission using electrical cables
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/05Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image

Abstract

본 발명은 내시경기반의 특정병변 추적 및 모니터링 시스템에 관한 것으로서, 인체내를 모니터링하는 내시경 영상에 대한 DB 축적을 통해 학습된 영상처리부에서 비정상적인 패턴이 존재하는 특정병변을 감지하고 추적하는 시스템에 관한 것이다.

Description

내시경기반의 특정병변 추적 및 모니터링 시스템{Lesion Tracking and Monitoring System for Endoscopy}
본 발명은 내시경기반의 특정병변 추적 및 모니터링 시스템에 관한 것으로서, 인체 내부를 모니터링하는 내시경 영상에 대한 DB 축적을 통해 학습된 영상처리부에서 비정상적인 패턴이 존재하는 특정병변을 감지하고 추적하는 시스템에 관한 것이다.
인체 내에서 자유자재로 구부러질 수 있는 광섬유 기반의 광학내시경이 출시된 뒤 초소형 카메라(CCD)를 내시경 앞쪽에 장착함으로써 직접 영상을 모니터에 전달하는 전자 내시경이 광학 내시경을 대체하는 추세이다. 이는 영상이 깨끗하고 반영구적인 장점을 가지고 있으나, CCD의 크기 때문에 몸 안에 들어가는 내시경 굵기를 줄이지 못해 소아용 등에선 아직 광학내시경이 사용되고 있다.
최근에는, 형광내시경을 이용하여 암조직을 아주 초기단계에서 포착할 수 있는 기술이 개발되어 암조직의 초기발견에 대한 성공률이 매우 높아져서 식도암과 결장암을 조기에 포착하는데 효과가 좋다. 형광내시경을 이용한 진단과 치료는 암조직을 조기에 발견하고 치료하는데 효과가 매우 크고, 부작용이 거의 없으며, 시술시 고통이나 통증이 없고, 반복시술이 가능하다는 경제적인 장점을 가진다.
특히 관의 맨 끝에 원격카메라를 부착하여 영상을 컴퓨터로 해석하는 전자내시경이나, 초음파 진단장치를 부착한 초음파내시경 등도 쓰이고 있는 추세이다.
[참고도 1]
Figure 112014051158515-pat00001
상기 [참고도 1]은 일반적인 광학 내시경 시스템에 대한 구성으로 마이크로 렌즈를 통해 관찰된 샘플의 형상이 파이버 번들을 통해 시술자에게 전달되는 구성이다. 이와 같이 광학 내시경의 경우는 시술자가 관찰한 샘플의 형상을 기록할 수 없다는 단점이 있기에 최근에는 전자 내시경으로 전환되고 있다. 또한 전자 내시경 시술을 통해 기록된 영상의 편집 및 판독을 위한 다양한 요구가 증가하고 있으며 이를 만족시키기 위한 다양한 GUI가 개발되고 있다.
상기와 같은 내시경 관련 기술발전에 따라 의사 등 정보분석자에게 제공되는 영상들은 모두 정보분석자의 시각적 관점에서 분석되고 판단되는 과정을 거쳐 병변을 확인, 추적하게 된다. 그러나 정보분석자 다수가 모니터링하는 경우에도 특정 병변을 누락시킬 여지가 있어 이를 첨단장비로서 보조하는 시스템의 개발은 여전히 시급한 문제가 되고 있다.
[문헌 1] 대한민국 특허공개공보 제10-1997-0701476호 "입체내시경 시스템 및 내시경용 TV 촬상시스템", 1996.03.17. [문헌 2] 대한민국 등록특허 제10-0466409호 "가상 내시경 시스템, 가상 내시경 디스플레이 방법과 그 방법을 컴퓨터 상에서 수행하는 프로그램을 저장한 컴퓨터가 판독 가능한 기록 매체", 2005.01.05. [문헌 3] 대한민국 등록특허 제10-099605호 "캡슐 내시경 영상을 이용한 U-Health 기반의 자동병변 검출 시스템", 2010.11.16.
상기 문제점을 해결하기 위하여 본 발명에서는 최근 내시경 사용 추세에 맞춰 내시경 영상을 다중 화면 분할을 통해 모니터링할 수 있도록 하면서도 특정 장기에 대한 내시경 영상을 직접 액세스할 수 있는 GUI를 설계하자 한다.
또한 본 발명에서는 내시경으로부터 촬영되는 영상데이터를 수신하는 단말장치가 단순히 해당 영상을 디스플레이하는데 그치지 않고 해당 영상데이터를 분석하여 특정병변이 의심되는 부분을 표시함으로써 정보분석자를 조력할 수 있는 시스템을 개발하고자 한다.
특히 본 발명에서는 모니터링시에 특정병변이 연속적으로 나타나는 경우에는 해당 특정병변의 변화과정을 클러스터링하여 연속적으로 저장하거나, 다수개의 특정병변이 나타나는 경우에는 각각을 표시하여 정보분석자가 누락시키지 않도록 조력하는 시스템을 개발하고자 한다.
상기 과제를 해결하기 위하여 본 발명에서는 본 발명은 내시경카메라로부터 유·무선통신을 통하여 전송되는 체내 영상데이터를 수집하는 이미지 수신부(100); 병변에 대한 정보가 저장된 병변정보DB가 구축되어 있으며, 상기 병변정보DB에 저장된 병변정보에 매칭되는 특이증상이 상기 이미지수신부(100)로부터 수신된 영상데이터에서 감지되는 경우 해당 영상데이터로부터 특이증상정보를 생성하는 영상처리부(200); 및 상기 영상처리부에서 영상처리된 영상데이터 또는 특이증상정보를 현시하는 디스플레이부(300);를 포함하여 구성되어 촬영된 영상데이터로부터 특정병변이 의심되는 특이증상을 추출하는 내시경 기반의 특정병변 추적 및 모니터링 시스템을 제공함을 목적으로 한다.
또한 본 발명은 상기 특이증상정보를 상기 영상처리부로부터 수신하여 저장하되, 동일타겟의 특이증상정보가 연속적으로 수신되는 경우에는 트래킹(tracking)영상정보로 저장하는 레코딩부(400);를 더 포함하여 구성되는 내시경 기반의 특정병변 추적 및 모니터링 시스템을 함께 제공함을 목적으로 한다.
또한 본 발명은 상기 영상데이터에서 특이증상정보가 다수 생성되는 경우 각 상기 특이증상정보별로 순번정보가 부가되어 특이증상정보들을 클러스터링한 클러스터링정보를 생성하는 클러스터링부(500);를 더 포함하여 구성되어 다수개의 특이증상을 추출하여 모니터링하는 것을 특징으로 하는 내시경 기반의 특정병변 추적 및 모니터링 시스템을 함께 제공함을 목적으로 한다.
또한 본 발명은 상기 영상처리부는 특이증상정보DB를 더 포함하고 있어, 상기 특이증상정보DB로부터 추출된 정보로부터 상기 영상데이터에서 특이증상이 나타난 부분을 감지하는 것을 특징으로 하는 내시경 기반의 특정병변 추적 및 모니터링 시스템을 함께 제공함을 목적으로 한다.
또한 본 발명은 상기 영상처리부에서 구동되는 특이증상 인식을 위한 어플리케이션 프로그램이 상기 디스플레이부에 활성화된 상태에서, 현시되는 영상데이터에 특이증상정보가 감지되면 해당하는 영역에 특정표시가 오버랩핑되는 것을 특징으로 하는 내시경 기반의 특정병변 추적 및 모니터링 시스템을 함께 제공함을 목적으로 한다.
또한 본 발명은 상기 디스플레이부에 상기 특이증상정보가 단속 또는 연속적으로 감지되면 각기 다른 색채의 특정표시가 오버랩핑되는 것을 특징으로 하는 내시경 기반의 특정병변 추적 및 모니터링 시스템을 함께 제공함을 목적으로 한다.
또한 본 발명은 상기 디스플레이부는 특이증상정보가 화면에 현시되는 경우 일정음향으로 알람신호를 출력하는 것을 특징으로 하는 내시경 기반의 특정병변 추적 및 모니터링 시스템을 함께 제공함을 목적으로 한다.
본 발명에 의하면 다음과 같은 효과가 있다.
1. 내시경 등을 통하여 전송되는 영상데이터를 본 발명의 시스템이 분석하여 특정 병변이 의심되는 특이증상을 포착, 인지하므로 정보분석자가 놓칠 수 있는 부분을 보완해 줄 수 있는 효과가 있다.
2. 또한 특이증상 부분에 대해 다양한 영상처리를 하여 문제되는 병변부분을 더욱 알기 쉽게 포착해 줄 수 있어 정보분석자의 정보분석에 조력할 수 있다.
3. 또한 비정상적인 특이증상의 움직임의 범위를 설정하고, 비정상적인 특이증상의 움직임이 끝날 때까지 지속적으로 이를 추적하여 병변분석에 조력한다.
4. 본 발명의 시스템은 다수개의 특이증상을 움직임을 파악하여 동시다발적으로 이를 클러스터링할 수 있으므로 정보분석자가 하나의 특이증상에만 집중하게 되어 누락시킬 수 있는 특이증상을 추적할 수 있으므로 병변 모니터링에 효과적이다.
[도 1]은 본 발명의 내시경 기반의 특정병변 추적 및 모니터링 시스템의 대략적인 모식도이다.
본 발명은 내시경카메라로부터 유·무선통신을 통하여 전송되는 체내 영상데이터를 수집하는 이미지 수신부(100); 병변에 대한 정보가 저장된 병변정보DB가 구축되어 있으며, 상기 병변정보DB에 저장된 병변정보에 매칭되는 특이증상이 상기 이미지수신부(100)로부터 수신된 영상데이터에서 감지되는 경우 해당 영상데이터로부터 특이증상정보를 생성하는 영상처리부(200); 및 상기 영상처리부에서 영상처리된 영상데이터 또는 특이증상정보를 현시하는 디스플레이부(300);를 포함하여 구성되어 촬영된 영상데이터로부터 특정병변이 의심되는 특이증상을 추출하는 내시경 기반의 특정병변 추적 및 모니터링 시스템을 제공한다.
또한 본 발명은 상기 특이증상정보를 상기 영상처리부로부터 수신하여 저장하되, 동일타겟의 특이증상정보가 연속적으로 수신되는 경우에는 트래킹(tracking)영상정보로 저장하는 레코딩부(400);를 더 포함하여 구성되는 내시경 기반의 특정병변 추적 및 모니터링 시스템을 함께 제공한다.
또한 본 발명은 상기 영상데이터에서 특이증상정보가 다수 생성되는 경우 각 상기 특이증상정보별로 순번정보가 부가되어 특이증상정보들을 클러스터링한 클러스터링정보를 생성하는 클러스터링부(500);를 더 포함하여 구성되어 다수개의 특이증상을 추출하여 모니터링하는 것을 특징으로 하는 내시경 기반의 특정병변 추적 및 모니터링 시스템을 함께 제공한다.
또한 본 발명은 상기 영상처리부는 특이증상정보DB를 더 포함하고 있어, 상기 특이증상정보DB로부터 추출된 정보로부터 상기 영상데이터에서 특이증상이 나타난 부분을 감지하는 것을 특징으로 하는 내시경 기반의 특정병변 추적 및 모니터링 시스템을 함께 제공한다.
또한 본 발명은 상기 영상처리부에서 구동되는 특이증상 인식을 위한 어플리케이션 프로그램이 상기 디스플레이부에 활성화된 상태에서, 현시되는 영상데이터에 특이증상정보가 감지되면 해당하는 영역에 특정표시가 오버랩핑되는 것을 특징으로 하는 내시경 기반의 특정병변 추적 및 모니터링 시스템을 함께 제공한다.
또한 본 발명은 상기 디스플레이부에 상기 특이증상정보가 단속 또는 연속적으로 감지되면 각기 다른 색채의 특정표시가 오버랩핑되는 것을 특징으로 하는 내시경 기반의 특정병변 추적 및 모니터링 시스템을 함께 제공한다.
또한 본 발명은 상기 디스플레이부는 특이증상정보가 화면에 현시되는 경우 일정음향으로 알람신호를 출력하는 것을 특징으로 하는 내시경 기반의 특정병변 추적 및 모니터링 시스템을 함께 제공한다.
[도 1]은 본 발명의 내시경 기반의 특정병변 추적 및 모니터링 시스템의 대략적인 모식도이다. 이를 참고하여 이하에서는 본 발명을 구성요소를 중심으로 상세히 설명하도록 한다.
본 발명 내시경 영상 모니터링을 위해 특이증상 추적 및 모니터링을 위한 시스템은 실시간 1) 영상 모니터링 기능, 2)특이증상 감시 및 추적을 위한 영상처리 기능, 3)여러 가지의 특이증상(특이증상, 혹 등) 움직임을 클러스터링 하는 기능, 4)비정상적인 특이증상(특이증상)의 움직임 발견 시 레코딩 기능과 같은 특징을 포함한다.
본 발명의 시스템은 의학을 포함한 어떤 분야의 환경에서든 다양한 특이증상(특이증상, 혹 등)의 움직임을 즉시 발견하고 대처방안을 제공할 수 있도록 해준다는 장점이 있다. 또한 어떠한 영상처리라도 실시간으로 동작하도록 해주기 때문에 다양한 방법으로 특이증상 추적 영상처리 알고리즘을 적용하는 것이 가능하다.
특히 특이증상의 움직임을 단순히 실시간으로 보여주는 기능에서 한층 더 나아가 여러 가지 영상처리 알고리즘을 적용하는 것이 가능하도록 만들어주며, 본 시스템에서 적용된 알고리즘은 특이증상의 움직임의 범위를 원으로 그려준 후, 비정상적인 특이증상의 움직임이 끝날 때까지 해당 원이 지속적으로 추적하는 알고리즘을 포함한다.
본 시스템에서는 하나의 특이증상만을 추적하는 것이 아니라 다양한 특이증상의 움직임을 파악하고 비정상적인 특이증상을 전부 클러스터링하여 추적하는 동작도 가능하다. 해당 시스템은 특이증상을 파악해야 하는 의사가 하나의 특이증상에만 집중하여 자칫 발견하지 못하거나 다른 곳에 시선을 집중하여 놓칠 수 있는 모든 특이증상을 확인하고 추적할 수 있도록 해준다.
마지막으로 특이증상의 움직임을 발견 시 레코딩을 해주는 기능을 포함하고 있는데, 이는 추후에 의사가 특이증상 등의 움직임을 지속적으로 감시하고 분석할 수 있도록 도와준다.
본 발명의 시스템은 이미지 스트림 전송을 위한 이미지수신부(100), 영상처리부(100), 디스플레이부(300), 영상 레코딩부(400), 클러스터링부(500)를 포함하며 세부적으로 살펴보면 다음 [참고도 1-1]과 같다.
[참고도 1-1]
Figure 112014051158515-pat00002
본 발명은 내시경카메라로부터 유·무선통신을 통하여 전송되는 체내 영상데이터를 디스플레이할 때 본 발명의 시스템에 의하여 분석처리된 영상데이터를 현시하는 것을 기본적인 특징으로 하는데, 본 발명의 시스템은 이미지 수신부(100), 영상처리부(200) 및 디스플레이부(300)를 기본 구성요소로 한다. 상기 시스템은 하나의 단말장치로 구성될 수도 있으며, 유무선통신으로 유기적으로 결합된 다수개의 장치로 구분되어 구성될 수도 있다.
먼저 이미지 수신부(100)는 내시경카메라로부터 유·무선통신을 통하여 전송되는 체내 영상데이터를 수집한다. 영상 모니터링 이미지 수신부에서는 내시경 카메라에서 보내오는 이미지를 컴퓨터의 메모리에 저장한다. 그리고 영상처리부에서 실시간으로 영상처리를 할 수 있도록 해당 데이터를 곧바로 영상처리부로 넘겨준다. 상기 내시경카메라는 인체로 삽입되는 삽입관 단부에 부착되어 체내를 촬영하고, 촬영된 영상데이터는 내시경 본체로 송신되는데 이때는 일반적으로 유선통신이 이루어지며, 내시경으로부터 상기 이미지수신부로의 상기 영상데이터의 송신은 유선 또는 무선통신을 이용할 수 있다.
상기 이미지 수신부(100)는 상기 내시경카메라에서 촬영된 영상데이터를 수신하여 영상처리부(200)로 전송하게 되는데, 상기 영상처리부(200)는 병변에 대한 정보가 저장된 병변정보DB가 구축되어 있으며, 상기 병변정보DB에 저장된 병변정보에 매칭되는 특이증상이 상기 이미지수신부(100)로부터 수신된 영상데이터에서 감지되는 경우 해당 영상데이터로부터 특이증상정보를 생성하게 된다.
상기 영상처리부(200)는 미리 병변정보DB를 구축하고 있는 것이 바람직하다. 이는 이미지정보일 수도 있으며, 어떤 증상에 대한 기술적인 정보일 수도 있다. 상기 영상처리부는 1차적으로 기존에 구축된 병변정보DB의 병변정보를 대상으로 특이증상 여부를 판단하게 되며, 특이증상으로 판단되는 경우에는 특이증상정보를 생성하여 특이증상DB를 구축하여 저장, 갱신함으로써 상기 병변정보DB뿐만 아니라 특이증상DB를 2차적 판단대상으로 이용할 수 있다.
이를 위하여 상기 영상처리부(200)는 특이증상정보DB를 더 포함하고 있어, 상기 특이증상정보DB로부터 추출된 정보로부터 상기 영상데이터에서 특이증상이 나타난 부분을 추가적으로 감지할 수 있다. 따라서 상기 병변정보DB와 특이증상정보DB를 통해 상기 영상처리부(200)는 학습기능이 있는 것과 같이 DB누적을 통해 더욱 정확한 변별력을 키우는 효과가 있다.
상기 디스플레이부(300)에서는 상기 영상처리부에서 영상처리된 영상데이터 또는 특이증상정보를 현시하게 된다. 내시경카메라로부터 송신된 영상데이터를 영상처리부에서 분석하여 상기 디스플레이부로 상기 영상데이터와 함께 특이증상정보로 판단된 부분의 표시가 같이 이루어진다.
이를 위하여 상기 디스플레이부에 상기 영상처리부에서 구동되는 특이증상 인식을 위한 어플리케이션 프로그램을 구동시킬 수 있는데, 상기 디스플레이부(300)에 현시될 수 있는 어플리케이션 프로그램이 활성화된 상태에서, 상기 디스플레이부에 영상데이터가 현시되고 있는 상태에서 특이증상정보가 감지되면 해당하는 영역에 특정표시가 오버랩핑되어 특이증상임을 정보분석자에게 알려줄 수 있다.
이는 현시되고 있는 영상데이터 위에 특이증상정보에 해당되는 부분에 정사각형 표시 또는 원형 표시를 오버랩핑시킬 수 있으며, 체크표시를 할 수도 있는 바, 이러한 특정표시의 형태는 불문한다.
특히 상기 디스플레이부에 상기 특이증상정보가 단속 또는 연속적으로 감지되면 각기 다른 색채의 특정표시가 오버랩핑되도록 구성할 수 있다. 다수개의 특이증상정보가 발견되는 경우, 정보분석자가 하나의 특이증상에 집중하여 자칫 누락시킬 위험을 감소시킬 수 있도록 하기 위해 상기 디스플레이부에 현시된 영상데이터에서 다수개의 특이증상이 단속 또는 연속적으로 감지되더라도 이를 모두 표시해 주도록 구성하되, 각각의 특이증상을 구별하기 위하여 각기 다른 색채로 구별시킬 수 있도록 할 수 있다.
또한 상기 디스플레이부(300)는 화면에 영상데이터가 출력되면서 감지된 특이증상정보가 화면에 현시되는 경우에는 일정음향으로 알람신호를 출력하도록 구성하여, 일시적으로 화면을 쳐다보지 않고 있는 정보분석자에게 음향으로 특이증상정보를 자각시킬 수 있다.
또한 본 발명에서는 상기 특이증상정보를 상기 영상처리부로부터 수신하여 저장하되, 동일타겟의 특이증상정보가 연속적으로 수신되는 경우에는 트래킹(tracking)영상정보로 저장하는 레코딩부(400)를 추가적으로 구비할 수 있다.
상기 레코딩부(400)는 상기 영상처리부로부터 특이증상정보를 수신하여 저장하는 기능을 기본적으로 수행하되, 동일한 부분의 특이증상정보가 연속적으로 수신되는 것은 특이증상이 나타나는 영역이 장방형이거나 영역이 넓어서 내시경 카메라의 이동에도 계속적으로 잡히는 경우이거나, 내시경카메라의 이동이 천천히 이루어지면서 특이증상이 감지되는 영역이 계속적으로 잡히는 경우이다.
이 경우에는 해당 특이증상정보에 대한 다수개의 정보가 수신되는 경우이므로, 동일 특이증상정보에 대한 다수개의 정보를 하나의 트래킹영상정보로 묶어 레코딩부(400)에 저장할 수 있다.
또한 상기 영상데이터에서 특이증상정보가 다수 생성되는 경우 각 상기 특이증상정보별로 순번정보가 부가되어 특이증상정보들을 클러스터링한 클러스터링정보를 생성하는 클러스터링부(500)가 추가적으로 구비될 수 있는데, 상기 클러스터링부(500)는 상기 레코딩부(400)와 물리적으로 구분되어 있지 않을 수도 있다. 상기 클러스터링부(500)는 상기 디스플레이부에 현시된 영상데이터에서 특이증상정보가 다수 생성되었을 때 모든 특이증상정보를 한번에 관리하거나 확인할 수 있도록 클러스터링(Clustering)하는 역할을 수행한다.
상기 레코딩부(400)에서는 동일 특이증상에 대한 영상데이터가 다수 수집되어 하나의 특이증상정보에 대한 정보를 묶어 저장하는 반면, 상기 클러스터링부(500)는 하나의 영상데이터에 다수개의 각기 다른 특이증상정보가 감지되는 경우에 각 특이증상정보별로 순번을 기재하여 구별시키면서 하나의 클러스터링정보로 묶도록 구성하고 있다. 이는 상기 클러스터링부에 저장될 수도 있으며, 상기 레코딩부에 추가적으로 저장될 수도 있다.
특히 영상처리부에서는 실시간으로 넘어온 영상의 프레임을 넘겨받아 백그라운드 영상과 특이증상 영상을 구분하고 영상처리 알고리즘을 적용하여 특이증상을 추적한다. 다수의 특이증상들을 클러스터링하는 클러스터링부에서는 특이증상으로 포착된 모든 범위를 파악하여 그 순서에 따라 번호를 붙여주고 메모리에 정렬하는 클러스터링 작업을 수행한다. 클러스터링 작업에 의해 지정된 번호는 특이증상의 비정상적인 움직임이 없어질 때까지 계속해서 특이증상을 따라 움직이게 된다. 특이증상의 움직임을 파일로 저장하는 레코딩부에서는 해당 영상을 모니터링하고 있던 의사가 특이증상의 현재 움직임을 좀 더 자세히 분석하기 위해 레코딩 명령을 주면 그 때부터 특이증상의 움직임과 영상처리 알고리즘이 적용된 영상을 컴퓨터에 파일로 저장한다.
본 발명에서는 내시경 카메라에서 실시간 영상 스트림을 수신하여 특이증상의 움직임 및 주위 환경을 확인할 수 있는 영상모니터링 기능을 위하여 영상 모니터링을 위한 SW(SoftWare)개발을 수행할 수 있다. 영상모니터링을 위해서 필요한 개발 Tool 및 프로그램, 구축환경은 아래 [표 1]과 같다.
OS Windows XP
Development Tool Microsoft Visual Studio 2008
Program Language C, C++
OpenCV Version OpenCV 2.1.0
Windows 계열에서, Microsoft visual Studio 2008을 이용하여, C 및 C++언어를 사용하였으며, 영상처리를 위하여 OpenCV 2.1.0 라이브러리를 사용하였다. 영상 모니터링 기능은 어떠한 내시경 Camera종류라도 적용이 가능하다. 제시한 SW 구축환경에서 개발한 영상모니터링 디스플레이부(300) 화면은 다음 [참고도 2]와 같다.
[참고도 2]
Figure 112014051158515-pat00003
Windows Application을 보이고 있으며, 해당 SW에서는 내시경 카메라를 통해서 받은 영상을 영상뷰에 디스플레이 하고 있음을 확인할 수 있다. 본 기술개발에서는 해당 영상모니터링 Application에서 보이는 영상뷰에서 특이증상 추적기능과 특이증상에 대한 태그기능을 구현할 수 있다.
본 연구개발에서는 특이증상 추적을 위한 영상처리 기술로서 Gausian Mixture Model, MeanShift등을 포함한 각종 기술 등을 사용하고 있으며, 개발을 위해 구축한 환경은 상기 제시한 개발환경과 동일하다.
해당 SW는 특이증상의 비정상적인 움직임을 파악하고 움직이고 있는 특이증상을 원으로 감싸주며, 그 원이 계속해서 특이증상을 추적하는 모습을 관측자에게 보여준다. 또한 다수의 특이증상을 클러스터링하여 각각을 추적하는 영상을 보여준다. 특이증상 추적을 위한 영상처리 SW의 실행화면은 아래 [참고도 3]와 같다.
[참고도 3]
Figure 112014051158515-pat00004
영상에서 파악되는 모든 특이증상들의 경우 라운드타입으로 표시가 되고, 다중 특이증상들에 대한 인식이 가능함을 확인할 수 있다. 녹색(Green)과 붉은색(Red)로 표시를 하고 있는데 녹색으로 표기되는 경우 갑작스러운 움직임이나 일회적인 움직임을 나타내며, 붉은색의 경우 지속적인 움직임을 나타낸다.
특히 본 발명의 부가기능으로써 비정상적인 특이증상을 발견 시 현재의 영상을 레코딩 할 수 있는 기능을 포함한다. 이 기능은 특이증상의 움직임을 파악해야하는 의사가 현재 특이증상의 움직임을 좀 더 세세히 관찰하고 분석하기 위해서 필요한 기능이며 특이증상의 비정상적인 움직임 발견 시, 그 움직임을 추적하고 있는 화면 역시 컴퓨터에 파일로 저장하게 된다. 레코딩된 영상을 재생하는 기능을 포함한다. 아래의 [참고도 4]는 이러한 특이증상 검출을 위한 플로어 차트이다.
[참고도 4]
Figure 112014051158515-pat00005

특이증상의 추적은 내시경 카메라의 시야각으로 볼 수 있는 범위 내 모든 지역에서는 시연 및 정상 동작이 가능하다. 이것은 프로그램 실행 초기에 내시경 카메라의 넓이, 높이에 대한 정보를 받아온 후 해당프레임 내에서 신속하게 영상처리를 수행함으로써 가능하다. 해당기능을 수도코드를 이용하여 알고리즘화하면 다음 [참고도 5]와 같다.
[참고도 5]
Figure 112014051158515-pat00006
내시경 기반의 본 발명의 시스템의 디스플레이부에 현시되는 영상데이터에는 하나의 특이증상만 존재하는 것이 아니라 다수의 특이증상이 존재할 수 있다.. 따라서 특이증상추적을 위한 영상처리 시스템에서는 동시에 다수의 특이증상을 추적하기 위해 특이증상에 대한 정보를 배열의 형태로 저장한 후 사용자에게 보여준다. 한 영상 프레임에서 동시추적 가능한 특이증상 배열은 최대 400개정도로 설정할 수 있다. 다수의 특이증상 추적기능을 수도코드를 이용하여 알고리즘화 하면 다음과 같다.
[참고도 6]
Figure 112014051158515-pat00007
Figure 112014051158515-pat00008
내시경 모니터링 및 감시를 위한 특이증상 추적을 하기 위해서는 내시경의 영상에서 이동하는 동적 객체 추적을 위한 알고리즘이 필요하다. 이러한 과정에서 모니터링 영상의 background와 foreground를 분리하고 Tracking 하는 등의 영상처리 기술은 필수적이다.
내시경 모니터링 영상은 ‘https://www.youtube.com/watch?v=KA8eBgc-HYY’에서 발췌한 동영상을 사용하였다. 모니터링 영상의 모습은 아래 [참고도 7]과 같다.
[참고도 7]
Figure 112014051158515-pat00009

해당 모니터링 영상을 이용하여 내장안의 특이증상, 혈흔 등의 유무를 확인하는 기술을 구현하였다. 우선 영상의 foreground를 추출하였으며, 추출한 결과의 잡음 픽셀을 없애고, 보다 연속적이고 부드러운 연결을 위한 모폴로지 연산을 통해 foreground영상을 선명화하였다. 내시경 영상에서 추출한 foreground 영상 결과는 다음 그림과 같다.
[참고도 8]
Figure 112014051158515-pat00010
앞의 영상에서 보면 모폴로지 연산을 통하여 내시경에서 돌출되어 있는 특이증상의 형태를 선명화 하였지만, 특이증상 인식이 가능한 알고리즘으로 부족한 부분은‘Adaptive background mixture models for real-time tracking' 논문을 참고하여 영상에서 잡음을 없애고 정확한 foreground 만을 추출해 내는 기술 구현하였다. 잡음을 제거하고 정확한 foreground 만을 추출한 결과는 다음 [참고도 9]와 같다.
[참고도 9]
Figure 112014051158515-pat00011
위 그림과 같이 GMM을 이용한 foreground 추출 기술이 내시경 영상에서 이동하는 동적 객체 추적을 위한 알고리즘에 적용될 경우, 보다 효과적으로 특이증상 및 객체를 검출할 수 있음을 확인할 수 있다. 그리고 GMM을 이용하여 추출한 foreground가 실제 특이증상인지 지능적으로 인지하기 위해서는 추가적인 영상처리 프로세스가 필요하다. 아래 그림과 같은 과정을 통하여 특이증상 인식 기능을 구현할 수 있다.
먼저 이동하는 동적 객체 추적 프로세스에서는 먼저 영상 Frame이 들어오면 FG(foreground)와 BG(background)를 구분 한 후, 특이증상인지 판별을 위하여 서로 관련 있는 영상픽셀을 연결시킨다. 그리고 특이증상의 지속적인 추적을 위해서 Tracking 알고리즘을 접목하였으며, Post Processing으로써 칼만필터 알고리즘을 이용하였다. 전체적인 프로세스 과정을 거친 후에는 Tracking 결과로써 영상위에 원이나 사각박스와 같은 이동객체 추적 결과를 표시하게 된다. 영상처리과정을 거친 후 최종적으로 이동객체 추적결과를 나타내고 있는 화면은 다음 [참고도 10]과 같다.
[참고도 10]
Figure 112014051158515-pat00012

내시경이 내장을 따라 이동하는 동적 객체 추적 결과로써 움직이는 특이증상에 대해 초록색 패턴의 원을 그려주고 있는 것을 확인할 수 있으며, 몇 번째로 인식된 특이증상 패턴인지 숫자를 카운팅하고 기록하고 있음을 확인할 수 있다.
또한 본 발명의 영상처리부에서는 내시경을 위한 특이증상추적 영상에 대한 기본 자료구조, 행렬연산, 동적 자료구조를 메모리에 할당하고 공간을 확보한다. 확보된 정보들을 이용하여 추적된 영상을 표현하기 위해서 CXCORE 라이브러리를 이용하고 있으며, CXCORE 라이브러리를 사용하여 특이증상추적 영상을 저장할 수 있는 공간을 확보할 수 있다. 이러한 기능을 수도코드로 나타내면 [참고도11] 과 같다.
[참고도 11]
Figure 112014051158515-pat00013
내시경의 효율성을 제고할 수 있는 내시경을 통한 특이증상추적 영상을 위해서 영상의 특징 추출, 필터링, 영상분할, 움직임 분석, 물체추적, 패턴인식, 카메라 켈리브레이션, 3D복원 등의 영상처리과정이 선행되어야 한다. 해당 과정을 위해서 CV라이브러리를 이용한다. CV라이브러리를 사용하여 특이증상 추적 영상을 분석하는 알고리즘을 수도코드로 표현하면 [참고도 12]와 같다.
[참고도 12]
Figure 112014051158515-pat00014

내시경의 효율성을 제고할 수 있는 내시경을 통한 특이증상추적 영상을 읽고 저장하는 등의 Video I/O관련 동작을 수행하기 위해서 HIGHGUI라이브러리를 이용한다. HIGHGUI라이브러리를 사용하여 특이증상추적 영상을 읽고 저장하는 알고리즘을 수도코드로 표현하면 [참고도 13]과 같다.
[참고도 13]
Figure 112014051158515-pat00015
Figure 112014051158515-pat00016

내시경의 효율성을 제고할 수 있는 내시경을 통한 특이증상추적 영상에 대한 반복학습을 수행하기 위해 ML라이브러리를 이용한다. ML라이브러리를 사용하여 특이증상추적 영상에 대해 학습을 하는 기능을 수도코드로 표현하면 [참고도 14]와 같다.
[참고도 14]
Figure 112014051158515-pat00017
Figure 112014051158515-pat00018
본 발명에서는 내시경 영상을 통해 특이증상(특이증상, 혈흔 등) 유무를 판별하고, 특이증상 발견 및 패턴인식을 통해 알람을 발생시킬 수 있다. 해당 알고리즘에서는 특이증상 유무를 판별하기 위하여 내시경 영상 안의 특이증상 범위를 선정하고, 선정된 특이증상 범위를 찾아낼 경우 내부로직에 의하여 특이증상을 인식하고 알람정보를 제공하게 된다. 또한 내시경 카메라 영상을 이용하여 특이증상 검출과 추적 알고리즘에 대한 실험을 진행하였다. 다음 [참고도 15]에서는 프레임별 전경으로 추출된 특이증상의 모습으로서 해당 알고리즘의 동작 과정을 보이고 있다.
[참고도 15]
Figure 112014051158515-pat00019
[참고도 15]를 통해 움직임을 바탕으로 배경을 제거하고 전경만을 추출할 경우 특이증상 외에도 많은 부분이 전경으로 추출되고 있음을 확인할 수 있다. 하지만 색상 / 크기 / 핏줄 패턴의 인식을 추가로 진행하여 최종적으로 특이증상을 검출할 수 있다.
이상에서 본 발명에 따른 내시경 기반의 특정병변 추적 및 모니터링 시스템에 관하여 상세하게 살펴보았다. 그러나 본 발명이 위에서 설명된 실시예에 의하여 제한되는 것은 아니며 본 발명의 요지를 벗어남이 없는 범위에서 수정 및 변형이 가능하다. 따라서 본 발명의 청구범위는 이건 발명의 진정한 범위 내에 속하는 수정 및 변형을 포함한다.
100 : 이미지 수신부
200 : 영상처리부
300 : 디스플레이부
400 : 레코딩부
500 : 클러스터링부;

Claims (7)

  1. 내시경카메라로부터 유·무선통신을 통하여 전송되는 체내 영상데이터를 수집하는 이미지 수신부(100);
    병변에 대한 정보가 저장된 병변정보DB가 구축되어 있으며, 상기 병변정보DB에 저장된 병변정보에 매칭되는 특이증상이 상기 이미지수신부(100)로부터 수신된 영상데이터에서 감지되는 경우 해당 영상데이터로부터 특이증상정보를 생성하는 영상처리부(200);
    상기 영상처리부에서 영상처리된 영상데이터 또는 특이증상정보를 현시하는 디스플레이부(300);
    상기 특이증상정보를 상기 영상처리부로부터 수신하여 저장하되, 동일타겟의 특이증상정보가 연속적으로 수신되는 경우에는 트래킹(tracking)영상정보로 저장하는 레코딩부(400); 및
    상기 영상데이터에서 특이증상정보가 다수 생성되는 경우 각 상기 특이증상정보별로 순번정보가 부가되어 특이증상정보들을 클러스터링한 클러스터링정보를 생성하는 클러스터링부(500);
    를 포함하여 구성되어 촬영된 영상데이터로부터 특정병변이 의심되는 특이증상을 추출하는 내시경 기반의 특정병변 추적 및 모니터링 시스템.
  2. 삭제
  3. 삭제
  4. 제1항에서,
    상기 영상처리부는
    특이증상정보DB를 더 포함하고 있어,
    상기 특이증상정보DB로부터 추출된 정보로부터 상기 영상데이터에서 특이증상이 나타난 부분을 감지하는 것을 특징으로 하는 내시경 기반의 특정병변 추적 및 모니터링 시스템.
  5. 제1항에서,
    상기 영상처리부에서 구동되는 특이증상 인식을 위한 어플리케이션 프로그램이 상기 디스플레이부에 활성화된 상태에서,
    현시되는 영상데이터에 특이증상정보가 감지되면 해당하는 영역에 특정표시가 오버랩핑되는 것을 특징으로 하는 내시경 기반의 특정병변 추적 및 모니터링 시스템.
  6. 제5항에서,
    상기 디스플레이부에 상기 특이증상정보가 단속 또는 연속적으로 감지되면 각기 다른 색채의 특정표시가 오버랩핑되는 것을 특징으로 하는 내시경 기반의 특정병변 추적 및 모니터링 시스템.
  7. 제1항에서,
    상기 디스플레이부는 특이증상정보가 화면에 현시되는 경우 일정음향으로 알람신호를 출력하는 것을 특징으로 하는 내시경 기반의 특정병변 추적 및 모니터링 시스템.

KR1020140065301A 2013-05-29 2014-05-29 내시경기반의 특정병변 추적 및 모니터링 시스템 KR101626802B1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20130060774 2013-05-29
KR1020130060774 2013-05-29

Publications (2)

Publication Number Publication Date
KR20140141507A KR20140141507A (ko) 2014-12-10
KR101626802B1 true KR101626802B1 (ko) 2016-06-03

Family

ID=52458958

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020140065301A KR101626802B1 (ko) 2013-05-29 2014-05-29 내시경기반의 특정병변 추적 및 모니터링 시스템

Country Status (1)

Country Link
KR (1) KR101626802B1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023075303A1 (ko) * 2021-10-26 2023-05-04 주식회사 카이미 인공지능 기반의 내시경 진단 보조 시스템 및 이의 제어방법

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008534109A (ja) 2005-03-31 2008-08-28 パイエオン インコーポレイテッド 管状器官内の機器を位置決めする装置および方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100466409B1 (ko) 2000-11-25 2005-01-13 주식회사 인피니트테크놀로지 가상 내시경 시스템, 가상 내시경 디스플레이 방법과 그 방법을 컴퓨터 상에서 수행하는 프로그램을 저장한 컴퓨터가 판독 가능한 기록 매체
KR101099605B1 (ko) 2010-05-24 2011-12-29 피에스케이 주식회사 반도체 소자 제조 장치 및 방법

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008534109A (ja) 2005-03-31 2008-08-28 パイエオン インコーポレイテッド 管状器官内の機器を位置決めする装置および方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023075303A1 (ko) * 2021-10-26 2023-05-04 주식회사 카이미 인공지능 기반의 내시경 진단 보조 시스템 및 이의 제어방법

Also Published As

Publication number Publication date
KR20140141507A (ko) 2014-12-10

Similar Documents

Publication Publication Date Title
JP6967602B2 (ja) 検査支援装置、内視鏡装置、内視鏡装置の作動方法、及び検査支援プログラム
EP1769729B1 (en) System and method for in-vivo feature detection
CN107485455B (zh) 手术系统中有效的交互式出血检测
US8055033B2 (en) Medical image processing apparatus, luminal image processing apparatus, luminal image processing method, and programs for the same
US20150313445A1 (en) System and Method of Scanning a Body Cavity Using a Multiple Viewing Elements Endoscope
US20150065803A1 (en) Apparatuses and methods for mobile imaging and analysis
EP2014219A2 (en) Endoscopic image processing apparatus
EP2742847A1 (en) Image management device, method, and program for image reading
JP6254053B2 (ja) 内視鏡画像診断支援装置、システムおよびプログラム、並びに内視鏡画像診断支援装置の作動方法
US9342881B1 (en) System and method for automatic detection of in vivo polyps in video sequences
JP2010158308A (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP6949999B2 (ja) 画像処理装置、内視鏡システム、画像処理方法、プログラム及び記録媒体
EP3936026B1 (en) Medical image processing device, processor device, endoscopic system, medical image processing method, and program
WO2005039411A1 (en) Real-time abnormality detection for in vivo images
US20210406737A1 (en) System and methods for aggregating features in video frames to improve accuracy of ai detection algorithms
CN112189236A (zh) 学习数据收集装置、学习数据收集方法和程序、学习系统、学习完毕模型、以及内窥镜图像处理装置
JP2009022446A (ja) 医療における統合表示のためのシステム及び方法
WO2020054543A1 (ja) 医療画像処理装置及び方法、内視鏡システム、プロセッサ装置、診断支援装置並びにプログラム
CN111839445A (zh) 一种基于图像识别的结肠镜手术中窄带成像检测方法
CN113827171B (zh) 内窥镜成像方法、内窥镜成像系统和软件程序产品
CN112967276B (zh) 对象检测方法、装置、内窥镜系统、电子设备及存储介质
JP2006304993A (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
KR101626802B1 (ko) 내시경기반의 특정병변 추적 및 모니터링 시스템
JP2010099139A (ja) 画像表示装置、画像表示方法、および画像表示プログラム
JP6199267B2 (ja) 内視鏡画像表示装置、その作動方法およびプログラム

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20190513

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20200204

Year of fee payment: 5