KR100891766B1 - 의용 화상 처리 장치 - Google Patents

의용 화상 처리 장치 Download PDF

Info

Publication number
KR100891766B1
KR100891766B1 KR1020077012866A KR20077012866A KR100891766B1 KR 100891766 B1 KR100891766 B1 KR 100891766B1 KR 1020077012866 A KR1020077012866 A KR 1020077012866A KR 20077012866 A KR20077012866 A KR 20077012866A KR 100891766 B1 KR100891766 B1 KR 100891766B1
Authority
KR
South Korea
Prior art keywords
boundary
image
mucosa
processing
information
Prior art date
Application number
KR1020077012866A
Other languages
English (en)
Other versions
KR20070085875A (ko
Inventor
히로까즈 니시무라
준 하세가와
히데끼 다나까
료꼬 이노우에
데쯔오 노나미
Original Assignee
올림푸스 가부시키가이샤
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from JP2004359054A external-priority patent/JP2006166939A/ja
Priority claimed from JP2004360319A external-priority patent/JP4855673B2/ja
Application filed by 올림푸스 가부시키가이샤 filed Critical 올림푸스 가부시키가이샤
Publication of KR20070085875A publication Critical patent/KR20070085875A/ko
Application granted granted Critical
Publication of KR100891766B1 publication Critical patent/KR100891766B1/ko

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/041Capsule endoscopes for imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/273Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for the upper alimentary canal, e.g. oesophagoscopes, gastroscopes
    • A61B1/2733Oesophagoscopes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/273Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for the upper alimentary canal, e.g. oesophagoscopes, gastroscopes
    • A61B1/2736Gastroscopes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30092Stomach; Gastric

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Medical Informatics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Optics & Photonics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biophysics (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Gastroenterology & Hepatology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Endoscopes (AREA)

Abstract

생체 점막을 촬상한 의용 화상에 대하여 화상 처리를 행하는 의용 화상 처리 방법은, 생체 점막의 경계 부분에 상당하는 경계 정보를 의용 화상으로부터 검출하는 경계 정보 검출 단계와, 경계 정보 검출 단계에서 검출된 경계 정보에 기초하여 성상이 상이한 생체 점막의 존재의 유무를 검출하는 점막 성상 검출 단계를 구비한다.
Figure R1020077012866
생체 점막, 경계 정보, 바렛 점막, 원화상, 굴절점, 좌표점열, 내시경 시스템

Description

의용 화상 처리 장치{MEDICAL IMAGE PROCESSING APPARATUS}
본 발명은, 식도로부터 위의 경계 근변의 점막 조직 등의 성상을 식별하는 의용 화상 처리 방법에 관한 것이다.
최근, 내시경을 이용하여 내시경 검사 등을 행하는 내시경 장치는, 의료용 분야 및 공업용 분야에서 널리 채용되고 있다. 의료용 분야에서는, 예를 들면 내시경의 삽입부를 체강 내에 삽입하여, 검사 대상 부위를 관찰함으로써, 검사 대상 부위가 정상적인 상태인지 성상이 변화된 성상 변화 상태인지를 진단하는 데에 이용된다.
이와 같은 경우, 내시경 화상으로부터 화상 처리에 의해, 정상적인 상태인지 성상 변화 상태인지의 판정을 행할 수 있으면, 시술자는, 그 판정 결과의 부위를 중점적으로 진단함으로써, 효율적인 진단을 행할 수 있다.
예를 들면, 종래예로서 일본 특개2000-155840호 공보는, 촬상 조건의 영향을 적게 하여, 성상 변화부와 정상부의 경계의 형상에 관한 정보에 기초하여 특징량을 산출하는 것이 기재되어 있다.
그러나 상기 종래예는, 경계의 형상에 관한 정보는, 경계에서의 농도 구배의 방향 변화이기 때문에, 특히 경계의 형상 자체가 특징적으로 되도록 하는 경우에서 의 검출 대상으로 되는 성상 변화부를 검출하기 어려울 가능성이 있다.
바렛 점막은, 식도와 위의 접합부(점막 경계)에서, 역류성 식도염 등의 영향에 의해 식도의 편평 상피가 위의 점막으로 치환된 것이다. 바렛 점막이 정상적인 점막 경계로부터 3㎝ 이상, 식도 관강 단면에 대하여 전주성(全周性)으로 발생한 경우에, 바렛 식도라고 하는 질환으로 진단된다.
바렛 식도는, 특히 구미에서 증가하고 있으며, 높은 확률로 선암이 발생함으로써 큰 문제로 되고 있기 때문에, 바렛 점막의 조기 발견이 매우 중요한 것으로 되고 있다.
바렛 점막은, 식도에 대하여 전주적으로 발생하는 경우뿐만 아니라, 종종 국소적으로 진행하여, 혀 형상 혹은 지그재그 형상의 점막 경계상이 생긴다(Z 라인이라고 불리는 경우도 있음).
또한 바렛 점막 내에 섬 형상으로 고립되어 식도의 편평 상피가 잔존하고, 혀 형상 등의 경계 소견이 보이지 않는 경우에서도 바렛 점막을 진단할 수 있는 경우가 있다. 또한, 상대적으로 식도의 편평 상피는, 백색조, 바렛 점막은 적색조를 나타낸다.
또한, 상기 종래예에서는, 화상 내에 암부가 존재한 경우, 검출 대상으로 되는 성상 변화부를 검출하기 어려울 가능성이 있다.
식도로부터 위의 경계 부근에 걸친 내시경 검사에서, 관강 형상의 식도로부터 그 심부측의 위에 이르는 부분에서는, 예를 들면 화상 내에 암부가 존재하는 경우가 많아지고, 종래예에서는 그와 같은 암부 등 때문에, 보다 적절한 판정 혹은 검출을 행할 수 없을 가능성이 있다. 즉, 역γ 보정이나 쉐이딩 보정 등의 전처리에서는, 암부의 일부를 밝게 하는 등, 개선할 수 있는 가능성이 있지만, 암부를 해소하는 것은 불가능하다고 할 수 있다. 이 때문에, 암부 등의 영역을 위해서 화상 처리의 결과의 정밀도를 향상시킬 수 없다.
본 발명은, 전술한 점을 감안하여 이루어진 것으로, 바렛 점막 등의 검출 대상으로 하는 성상 변화 점막을, 화상 처리에 의해 검출할 수 있는 의용 화상 처리 방법을 제공하는 것을 목적으로 한다.
<발명의 개시>
<과제를 해결하기 위한 수단>
본 발명의 제1 양태에서의 생체 점막을 촬상한 의용 화상에 대하여 화상 처리를 행하는 의용 화상 처리 방법은,
상기 생체 점막의 경계 부분에 상당하는 경계 정보를 상기 의용 화상으로부터 검출하는 경계 정보 검출 단계와,
상기 경계 정보 검출 단계에서 검출된 경계 정보에 기초하여 성상이 상이한 생체 점막의 존재의 유무를 검출하는 점막 성상 검출 단계
를 구비하는 것을 특징으로 한다.
상기 구성에 의해, 경계 정보 검출 단계에서 검출된 경계 정보에 기초하여 성상이 상이한 생체 점막의 존재의 유무를 검출함으로써, 식도의 점막이 변성된 바렛 점막 등의 성상 변화 점막의 유무를 검출할 수 있도록 하고 있다.
또한, 본 발명의 제2 양태에서의 생체 점막을 촬상한 2색 이상의 의용 화상에 대응하는 화상 신호에 대하여 화상 처리를 행하는 의용 화상 처리 방법은,
상기 의용 화상에서의 검출 대상으로부터 부적절한 화소를 제외하여 처리 대상 영역을 설정하는 처리를 행하는 제1 단계와,
적어도 상기 처리 대상 영역에서의 1 이상의 화소수마다 색조 특징량을 산출하는 처리를 행하는 제2 단계와,
산출된 상기 색조 특징량에 기초하여, 특정한 생체 점막의 존재를 검출하는 처리를 행하는 제3 단계
를 구비하는 것을 특징으로 한다.
상기 구성에 의해, 화상 내에서의 암부 등의 부적절한 부분에 영향을 받지 않고, 바렛 점막 등의 검출 대상으로 하는 성상 변화 점막을, 경계 부분의 형상, 화소의 색조 등으로부터 화상 처리에 의해 검출할 수 있도록 하고 있다.
도 1은 본 발명의 실시예 1의 화상 처리 방법의 기능을 구비한 내시경 시스템의 구성을 도시하는 블록도.
도 2는 처리 프로그램에 따라 CPU에 의해 경계 좌표점열을 생성하는 처리 기능의 구성을 도시하는 블록도.
도 3은 처리 프로그램에 따라 CPU에 의해 점막 경계 검출 결과를 생성하는 처리 기능의 구성을 도시하는 블록도.
도 4는 CPU에 의해 처리되는 처리 수순을 설명하는 플로우차트도.
도 5A는 원화상으로부터 추출된 엣지를 설정한 화상예를 도시하는 도면.
도 5B는 원화상으로부터 형상의 판정을 행하는 제어점을 설정한 화상예를 도시하는 도면.
도 6은 경계 좌표점열로부터 굴절점을 결정하는 처리 수순을 설명하는 플로우차트도.
도 7은 도 6의 처리 수순에서의 굴절점의 정점 평가값을 산출하는 설명도.
도 8은 굴절점의 후보점으로부터 굴절점을 결정하는 처리 수순을 설명하는 플로우차트도.
도 9는 굴절점의 후보점열로부터 굴절점을 결정하는 설명도.
도 10은 이동 평균에 의한 경계 좌표점열의 평활화의 설명도.
도 11은 본 발명의 실시예 2에서의 처리 프로그램에 따라 CPU에 의해 점막 경계 검출 결과를 생성하는 처리 기능의 구성을 도시하는 블록도.
도 12는 CPU에 의해 처리되는 처리 수순을 설명하는 플로우차트도.
도 13A는 원화상의 화상예를 도시하는 도면.
도 13B는 도 13A의 원화상에 경계 좌표점열이 설정된 화상을 도시하는 도면.
도 14는 본 발명의 실시예 3에서의 처리 프로그램에 따라 CPU에 의해 점막 경계 검출 결과를 생성하는 처리 기능의 구성을 도시하는 블록도.
도 15는 CPU에 의해 처리되는 처리 수순을 설명하는 플로우차트도.
도 16A는 원화상으로부터 추출된 엣지가 설정된 화상을 도시하는 도면.
도 16B는 도 16A의 화상의 경계 좌표점열 상에 설정된 국소 영역 등을 도시 하는 도면.
도 17은 제1 변형예를 구비한 내시경 시스템의 주요부를 도시하는 도면.
도 18은 제2 변형예를 구비한 캡슐형 내시경 시스템의 구성을 도시하는 블록도.
도 19는 본 발명의 실시예 4의 화상 처리 방법의 기능을 구비한 내시경 시스템의 구성을 도시하는 블록도.
도 20은 실시예 4의 화상 처리 방법을 실현하기 위한 처리 기능 및 사용하는 화상 등을 도시하는 도면.
도 21은 불필요 영역을 삭제하는 불필요 영역 삭제 처리의 처리 내용을 설명하는 플로우차트도.
도 22A는 원화상의 예를 도시하는 도면.
도 22B는 도 22A의 원화상으로부터 생성된 불필요 영역 삭제 화상을 도시하는 도면.
도 22C는 도 22B의 불필요 영역 삭제 화상으로부터 색조 특징량의 산출 처리에 의해 생성된 색조 처리 화상을 도시하는 도면.
도 22D는 도 22C의 색조 처리 화상으로부터 생성된 영역 라벨링 화상을 도시하는 도면.
도 23은 영역 라벨링의 처리 내용을 설명하는 플로우차트도.
도 24는 점막 특징량 산출의 처리 내용을 설명하는 플로우차트도.
도 25는 실시예 4의 제1 변형예를 구비한 내시경 시스템의 구성의 일부를 도 시하는 도면.
도 26은 실시예 4의 제2 변형예에서의 화상 처리 방법을 실현하기 위한 처리 기능 및 사용하는 화상 등을 도시하는 도면.
도 27은 사각형 소영역으로 나눈 화상예를 도시하는 도면.
도 28은 제2 변형예에서의 점막 특징량 산출의 처리 내용을 설명하는 플로우차트도.
도 29는 본 발명의 실시예 5의 화상 처리 방법을 실현하기 위한 처리 기능 및 사용하는 화상 등을 도시하는 도면.
도 30은 점막 정보를 저장하는 링 버퍼를 도시하는 도면.
도 31은 점막 결정의 처리를 설명하는 플로우차트도.
도 32A는 본 발명의 실시예 6의 화상 처리 방법을 실현하기 위한 처리 기능 및 사용하는 화상을 도시하는 도면.
도 32B는 도 32A의 처리 후에 행해지는 화상 처리 방법을 실현하기 위한 처리 기능 및 사용하는 화상 등을 도시하는 도면.
도 33은 사각형 소영역 화상군으로 분할한 화상을 도시하는 도면.
도 34는 처리 대상 영역 결정의 처리 내용을 설명하는 플로우차트도.
도 35는 검출된 암부 영역에 기초하여 처리 대상 영역을 결정하는 경우의 설명도.
도 36은 검출된 암부의 화상예를 도시하는 도면.
도 37은 실시예 6의 변형예에서의 캡슐형 내시경을 구비한 캡슐형 내시경 시 스템의 구성을 도시하는 블록도.
<발명을 실시하기 위한 최량의 형태>
이하, 도면을 참조하여 본 발명의 각 실시예를 설명한다.
(실시예 1)
도 1 내지 도 10을 참조하여 본 발명의 실시예 1을 설명한다.
도 1에 도시하는 내시경 시스템(1)은, 내시경 관찰 장치(2)와, 이 내시경 관찰 장치(2)에 의해 얻어진 화상에 대하여 화상 처리를 행하는 퍼스널 컴퓨터 등에 의해 구성되는 화상 처리 장치(3)와, 이 화상 처리 장치(3)에 의해 화상 처리된 화상을 표시하는 표시 모니터(4)로 구성된다.
내시경 관찰 장치(2)는, 체강 내에 삽입되는 내시경(6)과, 이 내시경(6)에 조명광을 공급하는 광원 장치(7)와, 내시경(6)의 촬상 수단에 대한 신호 처리를 행하는 카메라 컨트롤 유닛(CCU로 약기)(8)과, 이 CCU(8)로부터 출력되는 영상 신호가 입력됨으로써, 촬상 소자로 촬상한 내시경 화상을 표시하는 모니터(9)를 갖는다.
내시경(6)은, 체강 내에 삽입되는 삽입부(11)와 이 삽입부(11)의 후단에 설치된 조작부(12)를 갖는다. 또한 삽입부(11) 내에는 조명광을 전송하는 라이트 가이드(13)가 삽통되어 있다.
이 라이트 가이드(13)의 후단은, 광원 장치(7)에 접속된다. 그리고, 이 광원 장치(7)로부터 공급되는 조명광은, 라이트 가이드(13)에 의해 전송되어, 삽입 부(11)의 선단부(14)에 설치한 조명창에 부착된 선단면으로부터 전송된 조명광이 출사된다. 이 조명광에 의해, 환부 등의 피사체는 조명된다.
조명창에 인접하는 관찰창에 부착된 대물 렌즈(15)와, 이 대물 렌즈(15)의 결상 위치에 배치된 고체 촬상 소자로서의 예를 들면 전하 결합 소자(CCD로 약기)(16)에 의해 촬상 장치(17)가 구성된다. 그리고, 이 CCD(16)의 촬상면에 결상 된 광학상은, 이 CCD(16)에 의해 광전 변환된다.
이 CCD(16)는, 신호선을 통해서 CCU(8)와 접속되고, 이 CCU(8)로부터의 CCD구동 신호가 인가됨으로써, CCD(16)는 광전 변환된 화상 신호를 출력한다. 이 화상 신호는, CCU(8) 내의 영상 처리 회로에 의해 신호 처리되어, 영상 신호로 변환된다. 이 영상 신호는 모니터(9)에 출력되고, 모니터(9)의 표시면에는, 영상 신호에 대응하여, CCD(16)에 의해 촬상된 화상이 내시경 화상으로서 표시된다. 이 영상 신호는, 화상 처리 장치(3)에도 입력된다.
본 실시예에서는, 내시경(6)은, 입 부분으로부터 그 삽입부(11)의 선단부(14)가 삽입되고, 식도로부터 위의 경계 부근까지 삽입되어, 그 경계 부근에 검출 대상 점막으로 되는 식도의 통상의 점막(구체적으로는 편평 상피)이 변성되어 위의 점막 부분의 성상을 나타내도록 된 점막(본 명세서에서는 성상 변화 점막이라고도 함)으로서의 바렛 점막이 존재하는지의 여부의 내시경 검사를 행하는 등의 경우에 사용된다.
이 경우, 체내의 생체 점막 표면을 촬상한 내시경 화상에 대응하는 영상 신호는, 화상 처리 장치(3)에도 입력되어, 그 영상 신호에 대하여 이하에 설명하는 바와 같은 화상 처리 방법에 의해, 바렛 점막이 존재하는지의 여부의 검출(판정) 처리를 행한다.
이 화상 처리 장치(3)는, 내시경 관찰 장치(2)로부터 입력되는 내시경 화상에 대응하는 영상 신호가 입력되는 화상 입력부(21)와, 이 화상 입력부(21)로부터 입력된 화상 데이터에 대한 화상 처리를 행하는 중앙 연산 처리 장치(CPU로 약기)(22)와, 이 CPU(22)에 의해 화상 처리를 실행시키는 처리 프로그램(제어 프로그램)을 기억하는 처리 프로그램 기억부(23)를 갖는다.
또한, 이 화상 처리 장치(3)는, 화상 입력부(21)로부터 입력되는 화상 데이터 등을 기억하는 화상 기억부(24)와, CPU(22)에 의해 처리된 해석 정보 등을 기억하는 해석 정보 기억부(25)와, CPU(22)에 의해 처리된 화상 데이터 및 해석 정보 등을 기억 장치 인터페이스(26)를 통해서 기억하는 기억 장치로서의 하드디스크(27)와, CPU(22)에 의해 처리된 화상 데이터 등을 표시하기 위한 표시 처리를 행하는 표시 처리부(28)와, 유저가 화상 처리의 파라미터 등의 데이터 입력이나 지시 조작을 행하는 키보드 등으로 이루어지는 입력 조작부(29)를 갖는다.
그리고, 이 표시 처리부(28)에 의해 생성된 영상 신호는, 표시 모니터(4)에 출력되고, 이 표시 모니터(4)의 표시면에는 화상 처리된 처리 화상이 표시된다. 또한, 화상 입력부(21), CPU(22), 처리 프로그램 기억부(23), 화상 기억부(24), 해석 정보 기억부(25), 기억 장치 인터페이스(26), 표시 처리부(28), 입력 조작부(29)는, 데이터 버스(30)를 통해서 서로 접속되어 있다.
본 실시예에서는, 도 2 및 도 3에 도시한 바와 같이, 처리 프로그램 기억 부(23)에 기억된 처리 프로그램 A 및 처리 프로그램 B의 처리에 의해, CPU(22)는, 검출 대상 점막으로서 정상 점막과는 성상이 상이한 성상 변화 점막으로서의 바렛 점막을 검출(판정)하는 화상 처리를 행한다. 도 2의 처리 프로그램 A는, 원화상(31)으로부터 엣지 검출 화상(32)을 생성하고, 또한 경계 좌표점열(33)을 생성하는 처리를 행한다. 그리고, 이 경계 좌표점열(33)에 대하여 도 3에 도시하는 처리 프로그램 B에 의해 점막 경계 검출 결과(34)를 생성하는 처리를 행한다.
도 2에 도시하는 바와 같이, 처리 프로그램 A를 행하는 CPU(22)는, 원화상(31)에 대하여 윤곽 추출 필터링을 행하여, 엣지 검출 화상(32)을 생성하는 윤곽 추출 필터링부(35)의 기능을 갖는다. 즉, 판정 대상으로 되는 부위에서는, 정상 점막과 변성 점막에서는, 화상 데이터의 R, G, B에서의 농도값이 서로 다르다. 이 때문에, 윤곽(엣지)을 검출 혹은 추출함으로써, 정상 점막과 변성 점막의 경계를 검출할 수 있게 된다. 이 화상 데이터의 RGB의 농도값은, 공지의 역γ 보정된 값으로 된다.
윤곽 추출 필터링부(35)는, 공지의 밴드 패스 필터나, 공지의 엣지 검출 필터(예를 들면 Prewitt 오퍼레이터나, Sobel 오퍼레이터)의 적용에 의해, 엣지 검출 화상(32)을 생성한다. 이 엣지 검출 필터로서는, 문헌 1: 「컴퓨터 화상 입문 타무라 히데유키 저 총 연출판 P.120∼122」에 자세히 기재되어 있다.
또한, 처리 프로그램 A를 행하는 CPU(22)는, 엣지 검출 화상(32)에 대하여, 2치화 처리를 행하는 2치화 처리부(36)와, 이 2치화 처리된 후에, 세선화 처리를 행하는 세선화 처리부(37)와, 이 세선화 처리된 후에, 끝점 추출을 행하는 끝점 추 출부(38)와, 이 끝점 추출된 후에, 연결 선분 추출을 행하여, 경계 좌표점열(33)을 생성하는 연결 선분 추출부(39)를 갖는다.
2치화 처리부(36)는, 엣지 검출 화상(32)에 대하여, 소정의 임계값 θ을 설정하고, 이 임계값 θ 이상의 화소를 1, 소정의 임계값보다도 작은 화소를 0으로 함으로써 2치화 화상을 생성한다.
또한, 세선화 처리부(37)는, 2치화 처리된 화상에 대하여, 선의 화소값을 1, 배경의 화소값을 0으로 하는 세선화 화상을 생성한다. 세선화 처리부(37)는, Hildlich의 세선화 방법으로서 공지의 방법을 이용할 수 있는 것이며, 화소의 연결성을 유지하는 것이 가능한 경우에, 그 화소의 화소값을 0으로 하여 선폭을 감소시키는 처리이다.
Hildlich의 세선화 방법에 관해서는, 문헌 2: 「소프트뱅크간: C MAGAZINE 2000년, 9월호" 화상 처리를 연구하는 알고리즘 라보" PP.123-129」에 자세히 기재되어 있다.
또한, 끝점 추출부(38)는, 세선화 처리부(37)에 의해 세선화 처리된 화상에 대하여, 화면의 주사 방향을 따라 순차적으로 화소의 데이터를 3×3의 패턴으로 취득한다. 취득된 패턴의 중심의 화소값이 "1"이며, 또한 주위의 상하 좌우 경사에 화소값="1"인 화소가 하나만 있을 때에, 그 중심점의 화소를 끝점, 환언하면 경계점으로 판정한다.
또한, 연결 선분 추출부(39)는, 1개의 끝점(경계점)을 출발점으로 하여, 세선화 화상에 대하여 트레이스 처리를 행함으로써, 경계 좌표점열을 구한다.
이 트레이스 처리는, 공지의 경계선 추적 처리에 의해 달성되어, 문헌 3: 「컴퓨터 화상 입문 타무라 히데유키 저 총 연출판 P.84∼85」에 자세히 기재되어 있다.
또한, 도 3에 도시하는 처리 프로그램 A를 행하는 CPU(22)는, 경계 좌표점열(33)에 대하여 굴절점(굴곡점)의 검출을 행하는 굴절점 검출부(41)와, 이 굴절점이 검출된 경계 좌표점열(33)에 대하여 형상 평가를 행함으로써, 점막 경계 검출 결과(34)를 나타내는 형상 평가부(42)의 기능을 갖는다.
형상 평가부(42)는, 후술하는 바와 같이 조건을 충족시키는 굴절점을 검출한 경우, 조건을 충족시키는 굴절점의 수가 소정의 값 이상인 경우에는 성상 변화 점막 경계로 판단하고, 굴절(굴곡)의 요철이 없는 경우, 즉 조건을 충족시키는 굴절의 방향이 1방향뿐인 경우에는, 성상 변화 점막 경계가 아니라고 판단한다.
다음으로 도 2 및 도 3의 처리 프로그램 A 및 B에 의해, 판정 대상으로 되는 특정한 점막, 구체적으로는,(식도의 정상 점막으로서의 편평 상피가 변성된 변성 점막으로서의) 바렛 점막의 경계인지의 여부를 판정하는 바렛 경계 판정의 화상 처리 방법을 도 4의 처리 플로우에 의해 설명한다.
화상 처리 장치(3)의 동작이 개시되면,CPU(22)는 처리 프로그램 기억부(23)의 처리 프로그램을 판독하여, 그 처리 프로그램에 따른 처리를 개시한다.
즉, 도 2에 도시한 처리 프로그램 A의 기능을 행한다. 보다 구체적으로는, 도 4에 도시하는 바와 같이 CPU(22)는, 최초의 단계 S1에서, 내시경 관찰 장치(2)의 CCU(8)로부터 화상 입력부(21)를 거쳐 입력되는 원화상(31)으로서의 화상 데이 터를 취득한다.
그리고, 다음 단계 S2에서 CPU(22)는, 그 화상 데이터에 대하여, 윤곽 추출 필터링 처리로서 전술한 공지의 엣지 검출 처리를 행하여, 엣지 검출 화상(32)을 생성한다. 도 5A는, 엣지 검출 화상(32)을 도시한다. 또한, 도 1에 도시하는 직시형의 내시경(6)에 의해 얻어지는 관강 형상의 식도 안을 촬상한 화상에서는, 관강의 심부측(위측 부분)은 암부로 된다. 또한, 도 5A에서의 화상 내의 암부가 위의 입구 부근의 분문(噴門) 부근에 해당한다.
다음 단계 S3에서 CPU(22)는, 이 엣지 검출 화상(32)에 대하여, 전술한 2치화 처리를 행하고, 또한 세선화 처리 및 끝점 추출(경계의 취득)을 행한다.
다음 단계 S4에서 CPU(22)는, 취득한 경계에 대하여 트레이스 처리를 행하여 경계에 따른 좌표점열, 즉 경계의 좌표점열을 얻는다.
다음으로 CPU(22)는, 도 3의 처리 프로그램 B의 처리를 행한다. 즉, 단계 S4에 의한 생성된 경계의 좌표점열에 대하여, CPU(22)는, 단계 S5에 나타내는 바와 같이 경계 상의 각 점의 정점 평가값 A에 기초하여 굴절되어 있는 굴절점을 예를 들면 N개 산출한다.
이 굴절점의 산출 처리는, 도 6을 이용하여 후술하지만, 도 7을 이용하여 간단히 설명하면, 경계 상의 각 점을 중심으로 하여 그 전후에 L/2의 길이의 곡선을 추출(설정)하고, 그 시점과 종점의 직선 거리(현 길이)를 정점 평가값 A(j)로서 산출하고, 또한 그 h점 전후의 정점 평가값 A(j-h) 및 A(j+h)보다 작은 것을 굴절점의 후보로 하고, 이들 후보 중에서 굴절점을 결정한다.
다음 단계 S6에서 CPU(22)는, 제어점의 수를 나타내는 파라미터 k와 굴절점의 파라미터 i를 각각 0, 1로 초기화하여, 검출 대상으로 되는 성상 변화 점막의 존재의 유무를 판정하는 처리를 개시한다.
파라미터 i, k를 초기화한 후, 다음 단계 S7에서 CPU(22)는, 산출된 굴절점 (i) 중에서, 그 평가값 B가 소정의 임계값 thr보다 작은지의 여부의 판정을 행한다. 이 경우, CPU(22)는, 정점 평가값 A/L을 산출하여 평가값 B로 하고, 굴절점 (i)에서의 그 평가값 B가, 소정의 임계값 thr보다 작은지의 여부의 판정을 행한다.
CPU(22)는, 굴절점 (i)에서의 산출된 평가값 B에 대하여, 미리 정상 점막 및 성상이 변화된 성상 변화 점막, 보다 구체적으로는 진단에 의해 확정하고 있는 편평 상피 및 바렛 점막 각각으로부터 샘플한 샘플 데이터에 의해 그들을 식별하는 기준값으로서 설정한 thr과 비교하여 판정을 행한다.
그리고, 평가값 B<thr의 조건을 충족시키는 경우에는, 단계 S8에서 CPU(22)는, 그 굴절점 (i)를 제어점 M으로서 취득하고, 파라미터 k의 값을 1개 증대한다. 또한, 평가값 B<thr의 조건을 충족시키지 않는 경우에는, 단계 S9로 이행한다.
단계 S9에서 CPU(22)는, 파라미터 i가 최종의 굴절점, 즉 i가 N인지의 판정에 의해, 모든 굴절점에 대하여 단계 S7 및 S8의 처리를 행하였는지의 판정을 행한다. 그리고, 모든 굴절점에 대하여 행하지 않은 경우에는, 단계 S10에 나타내는 바와 같이 파라미터 i를 1개 증대시켜, 단계 S6으로 되돌아간다.
이와 같이 하여 CPU(22)가 모든 굴절점에 대하여 단계 S7 및 S8의 처리를 행함으로써 도 5B에 도시하는 바와 같이 제어점이 설정되므로, 단계 S11로 진행된다.
이 단계 S11에서 CPU(22)는, 제어 점수의 파라미터 k가 1보다 큰지의 판정을 행한다. 이 파라미터 k가 1보다 크다고 판정한 경우에는, 다음 단계 S12에서 CPU(22)는, 제어점의 배치가 관강의 반경 방향으로 요철인지의 판정을 행한다.
도 5B에 도시하는 바와 같이 제어점이 동심원 형상으로 되지 않고, 관강의 반경 방향으로 요철 형상으로 배치되어 있는 경우에는, 단계 S13에 도시하는 바와 같이 CPU(22)는 바렛 점막의 경계, 즉 바렛 경계로 판정한다.
한편, 단계 S11의 판정에서,k>1의 조건을 충족시키지 않는 경우, 및 단계 S12의 판정에서, 제어점의 배치가 관강의 반경 방향으로 요철로 되지 않고, 동심 형상으로 되는 경우에는, 단계 S14에 도시하는 바와 같이, CPU(22)는 정상 점막으로서의 편평 상피의 경계로 판정한다. 이와 같이 하여, 화상 데이터로부터, 그 화상 내에 바렛 점막의 경계(바렛 경계)가 존재하는지의 여부의 가능성을 판정할 수 있다.
다음으로 상기 단계 S5의 경계에서의 굴절점 산출의 처리를 도 6을 참조하여 설명한다.
단계 S21에서 CPU(22)는, N_p개의 점으로 이루어지는 경계 좌표점열을 취득한다.
단계 S22에서 CPU(22)는, 처리의 대상으로 되는 경계 좌표점열의 최소 점수의 임계값 Vmin과의 비교를 행한다. 그리고, N_p>Vmin이면 단계 S23으로 진행하고, 그렇지 않으면 처리 대상에 해당하지 않는 것으로 하여 종료한다.
다음 단계 S23에서 CPU(22)는, 각 점에서의 굴절점의 정점 평가값 A(j)(1≤j ≤N_p)를 산출한다. 단계 S23의 상세에 대해서는 후술한다.
단계 S24에서 j를 초기화하고, 단계 S25에서 CPU(22)는, 점 P(j)를 대상점으로 하여, 이 대상점에서의 굴절점의 정점 평가값 A(j)와, 대상점으로부터 h점 전후하는 점 P(j-h), P(j+h)에 있는 굴절점의 정점 평가값 A(j-h), A(j+h)를 취득한다. 값 h는, 단계 S26에서의 비교 대상을 선택하는 파라미터이며, 본 실시예에서는 예를 들면 h=5로 한다. 단계 S25의 상세에 대해서는 후술한다.
단계 S26에서 CPU(22)는, 굴절점의 정점 평가값 A(j), A(j-h), A(j+h)의 비교를 행한다. A(j)<A(j-h) 또한 A(j)<A(j+h)이면 단계 S27로 진행하고, 그렇지 않으면 단계 S29로 진행한다. 단계 S26의 상세에 대해서는 후술한다.
단계 S27에서 CPU(22)는, 굴절 검출을 위한 굴절의 크기를 제한하는 임계값 Vc와의 비교를 행한다. A(j)/L<Vc이면, 단계 S28로 진행하고, 그렇지 않으면 이 처리를 종료한다.
단계 S28에서 CPU(22)는, 대상점 P(j)를 굴절점의 후보점으로서 검출하고, 그 정보를 해석 정보 기억부(25) 등에 기억한다.
단계 S29에서 CPU(22)는, 대상점 P(j)가 경계 좌표점열의 최종점 즉 j=N_p이면 단계 S30에서 굴절점을 결정하여 처리를 종료하고, j≠N_p이면 단계 S31로 진행한다.
단계 S31에서 CPU(22)는, j=j+1로서 대상점을 갱신하고, 단계 S25 내지 S29에 나타내는 일련의 처리를 반복한다.
단계 S30에서의, 굴절점의 결정 처리의 플로우를 도 9에 도시하고, 상세에 대해서는 후술한다.
다음으로, 단계 S23에서의 굴절점의 정점 평가값 A를 산출하는 방법과, 단계 S25, 단계 S26에서의 굴절점의 정점 평가값 A를 이용한 굴절점의 후보점의 검출 처리의 상세에 대해서 설명한다.
도 7은 본 실시예에서의 굴절점의 정점 평가값 A의 산출 방법과, 굴절점의 정점 평가값 A를 이용한 굴절점의 후보점의 검출 처리를 설명하기 위한 설명도이다.
굴절점의 정점 평가값 A의 산출 방법으로서는, 문헌 4: 「"세선화 도형의 굴절점 검출의 한 방법" 고야마 등, 전자 통신 학회 연구회 자료 PRL80-107 PP.80-90(1980)」에 기재되어 있는 방법을 사용한다.
CPU(22)는, 취득한 경계 좌표점열의 각 점에 대하여, 그 점 열을 따라, 각 점을 중심으로 하는 도 7에 실선으로 나타내는 길이 L의 곡선을 추출하고, 그 곡선의 시점과 종점의 거리(현 길이)를 굴절점의 정점 평가값 A(j)로서 산출한다. 단, 점 P(j)가 경계 좌표점열의 양단으로부터 [L/2]의 범위에 존재하고, 길이 L의 곡선을 추출할 수 없는 경우, A(j)=L로 한다. 여기서 [ ]은 가우스 기호이다.
또한,CPU(22)는, 굴절점의 후보점의 검출 처리에서 점 P(j)가 양단으로부터 h의 범위에 존재하고, 점 P(j-h), P(j+h)가 경계 좌표점열 상의 점으로 이루어질 수 없는 경우, A(j-h)=L, A(j+h)=L로 한다. 점 P(j)에서의 굴절점의 정점 평가값 A(j)가, h점 전의 점 P(j-h)에서의 굴절점의 정점 평가값 A(j-h), 또한 h점 후의 점 P(j+h)에서의 굴절점의 정점 평가값 A(j+h)보다 작은 경우에는, P(j)는, 점 P(j-h), P(j+h)보다도 큰 굴절의 특징을 나타내기 때문에, 이 P(j)를 굴절점의 후보점으로서 CPU(22)는 검출한다.
이 비교 평가는, 경계 좌표점열을 형성하는 모든 점에 대하여 순서대로 행해진다. 경계 좌표점열의 양단으로부터 [L/2]의 범위에서는, 전술한 바와 같이 A(j)=L로 하였기 때문에, 굴절점의 후보점의 검출로부터 제외된다.
다음으로 굴절점의 결정 처리에서의 처리 플로우를 도 8에 도시한다.
단계 S41에서 CPU(22)는, 전술한 굴절점의 후보점의 검출 처리에 의해 검출된 굴절점의 후보점을, 해석 정보 기억부(25)로부터 취득한다. 굴절점의 후보점이 인접하여 연속하고 있는 경우에는, 그 점 열을 하나의 조(이하, 패턴으로 칭함)로서 추출한다. 여기서 경계 좌표점열에서 생성된 패턴수를 N_pattern(1≤N_pattern≤굴절점의 후보점수)으로 하고, 각 패턴을 형성하는 굴절점의 후보점수 Cn(1≤n≤N_pattern)을 CPU(22)는 산출한다.
그리고, 단계 S42에서 CPU(22)는, 최초의 패턴을 나타내는 n=1로 초기화하고, 단계 S43에서 CPU(22)는, 단계 S41에서 생성된 패턴 중 1개를 대상점 pattern(n)(1≤n≤N_pattern)으로서 취득한다.
CPU(22)는, 대상 패턴 pattern(n)의 굴절점의 후보점수 Cn=1이면, 다른 굴절점의 후보점이 인접해 있지 않고 단독으로 존재한다고 판단하고, 그 굴절점의 후보점을 굴절점으로 결정한다.
대상 패턴 pattern(n)의 굴절점의 후보점수 Cn≥2이면, 단계 S44로 진행하여, CPU(22)는, 대상 패턴의 굴절점의 후보점열 중에서 1점을 굴절점으로 결정한 다.
단계 S44에서 CPU(22)는, 대상 패턴 pattern(n) 중에서, A(j)가 극소로 되는 점을 굴절점으로 결정한다. 도 9는, 굴절점의 후보점 중에서 굴절점을 결정하는 것을 나타내는 도면이다.
단계 S45에서 CPU(22)는, 대상 패턴 pattern(n)이 최종 패턴, 즉 n=N_pattern이면 처리를 종료하고, n≠N_pattern이면 단계 S46으로 진행한다.
단계 S46에서 CPU(22)는, n=n+1로 하여 굴절점 결정의 대상 패턴을 갱신하고, 단계 S43 내지 S45에 나타내는 일련의 처리를 반복한다.
또한, 경계 좌표점열이 매끄럽지 못한 경우에는, 단계 S21에서 취득한 경계 좌표점열을, 상기 문헌4에 기재되는 바와 같이, 이동 평균법에 의해 좌표값을 평활화한다.
여기서의 이동 평균법이란, 점 P의 좌표값을 좌표점열의 전후 [m/2]점의 좌표값의 평균값으로 설정하는 방법이다. 값 m은, 이동 평균점수, 즉 평활화의 강도를 결정하는 파라미터이다. 예를 들면, 도 10에 도시하는 바와 같이 m=9, 즉 9점의 이동 평균을 이용한 경우를 나타낸다.
또한, 경계 좌표점열의 양단으로부터 [L/2]의 범위에서는,A(j)=L로 가정하기 때문에, 굴절점의 후보점은 검출되지 않지만, 검출 대상에 포함시키는 경우에는, 상기 특허 문헌에 기재되는 바와 같이 단계 S21에서 취득한 경계 좌표점열의 양단의 연장을 행하면 된다. 또한, 단계 S25에서의 파라미터 h는, 경계 좌표점열을 형성하는 점수 N_p에 기초하여 결정하여도 된다.
또한, 본 실시예에서는, 단계 S44에서 CPU(22)는, 대상 패턴 중의 굴절점의 후보점열의 A(j)가 극소로 되는 점을 굴절점으로서 결정하였지만, 대상 패턴 중의 굴절점의 후보점열의 중심점, 즉 [Cn/2]번째의 점으로 결정하도록 하여도 된다.
이상 설명한 바와 같이 본 실시예에서는, 원화상(31)에 대하여 엣지 검출 처리 등에 의해 성상이 상이한 점막 경계를 검출하고, 또한 그 점막 경계의 형상에서의 굴절점을 검출하고, 또한 그 굴절점이 소정의 조건을 충족시키는지의 여부에 의해, 굴절점의 대표점으로 되는 제어점으로서 설정하고 있다. 그리고, 이 제어점에 기초하여, 성상 변화 점막의 경계로서의 바렛 경계인지의 여부를 검출(판정)하도록 하고 있다.
식도와 위의 경계 부근에 바렛 점막이 존재한 경우의 증례에서는, 그 바렛 점막이 존재한 경우, 바렛 점막의 경계는, 동심원 형상이 아니라, 도 5B에 도시하는 바와 같이 성형 등의 요철이 있는 형상으로 나타나는 경우가 많다.
이 때문에, 상기한 바와 같이 굴절점의 대표점으로서의 제어점을 검출하고, 그 제어점이 요철이 있는 배치인 경우나 제어점의 수가 소정수 이상인 경우에는, 바렛 점막의 경계라고 판정하도록 하고 있으므로, 바렛 점막의 증례에 많이 나타나는 특징에 따라서, 바렛 경계의 판정을 정밀도 좋게 행할 수 있다.
또한, 바렛 경계를 판정하는 경우, 검출한 경계의 복잡함에 의해 바렛 점막 인지의 여부의 판정을 행하도록 하여도 된다. 즉, 검출한 경계의 형상이 원형 등의 단순한 형상이 아니라, 복잡한 형상인 것을 검출, 혹은 평가하는 처리를 행하고, 그 평가 결과에 의해 바렛 경계의 판정을 행하도록 하여도 된다.
보다 구체적으로는, 예를 들면 경계 좌표점열(33)을 따라 소정 간격으로 설정한 점 부근에서의 곡률 반경을 구하고, 그 곡률 반경의 값을 그룹 분류하고, 곡률 반경의 값의 분포에 의해 복잡한 형상인지의 여부의 대응지음 행한다. 그리고, 곡률 반경의 분포가 임계값 이상인 경우에는 바렛 점막의 경계로 판정하도록 하여도 된다.
(실시예 2)
다음으로 도 11 내지 도 13을 참조하여 본 발명의 실시예 2를 설명한다. 도 11은, 실시예 2에서의 프로그램 C에 따라 CPU(22)에 의해 실현되는 기능적인 구성을 도시한다.
본 실시예는, 실시예 1에서의 도 2의 부분은 마찬가지이므로, 그 설명을 생략하고 있고, 도 3의 처리 기능 대신에 도 11에 도시하는 처리 기능, 즉 관심 영역 설정부(51), 소영역 추출부(52) 및 점막 경계 판정부(53)를 갖는다.
도 11에 도시하는 바와 같이 원화상(31) 및 경계 좌표점열(33)에 대하여, 관심 영역 설정부(51)에 의해, 검출 대상으로 되는 관심 영역을 설정한다.
그 설정된 관심 영역에 대하여, 소영역 추출부(52)는, 소영역을 추출하고, 추출된 소영역에 대하여 점막 경계 판정부(53)는, 점막 경계인지의 여부의 판정을 행하여 점막 경계 검출 결과(34)를 출력한다.
다음으로 도 12의 처리 플로우를 참조하여, 그 구체적인 처리를 설명한다.
도 4에 도시한 경우와 마찬가지로,CPU(22)는, 화상 데이터를 취득하고(S1), 엣지 검출을 행하여(S2), 엣지 검출 화상(32)을 생성하고, 세선화하여, 경계를 취 득(S3), 또한 경계의 좌표점열을 취득하여, 경계 좌표점열(33)을 생성한다(S4). 또한, 경계 좌표점열(33)을 생성하기 전의 상태(즉 단계 S3의 처리 후)에서 이하의 처리를 행하여도 된다.
다음 단계 S51에서 CPU(22)는, 단계 S4(S3)의 경계에 의해 분할된 영역에 대하여, 화상 내에서의 관강 중심측으로 되는 분문(관강 중심측은 어두워지기 때문에 암부의 임계값을 이용한 판정 처리에서 추출할 수 있음)에 가깝거나, 또는 분문을 포함하는 영역을 관심 영역으로 설정한다.
이와 같이 관심 영역을 설정한 후, 단계 S52에 나타내는 바와 같이 CPU(22)는, 그 관심 영역에 대하여, 다시 엣지 검출 처리 혹은 BPF(밴드 패스 필터)를 이용하여 관심 영역 내의 엣지를 검출하고, 도 13A의 원화상으로부터 도 13B와 같은 엣지에 의해 분할된 소영역(55)을 포함하는 화상을 생성한다.
다음 단계 S53에서 CPU(22)는, 소영역(55)을 나타내는 파라미터 i를 초기화(i=1로 설정)한 후, 다음 단계 S54에서 각 소영역(i) 내의 평균 색조 C(i)를 산출한다.
평균 색조 C(i)는, 예를 들면 IHb의 값의 평균값으로 한다. 이 IHB는, 내시경 화상 상의 각 화소마다의 휘도 신호 Vg(헤모글로빈에 가장 잘 흡수되는 560㎚ 부근의 광을 반영하는 G의 색 신호)와, 휘도 신호 Vr(헤모글로빈에 가장 잘 흡수되는 650㎚ 부근의 광을 반영하는 R의 색 신호)을 추출하고, 2개의 R, G 색 신호의 비를 대수 변환한 값, 32log2(R/G)를 사용한다.
그리고, 다음 단계 S55에서 CPU(22)는, 평균 색조 C(i)가 소정의 임계값 thr2보다 큰지의 여부의 판정을 행한다. 이 경우, 소정의 임계값은, 예를 들면 진단이 확정되어 있는 증례의 바렛 점막의 부분을 촬상한 화상에서의 적어도 1 이상의 색 신호에서의 색조의 평균값과, 편평 상피의 부분을 촬상한 화상에서의 동일한 색 신호에서의 색조의 평균값을 이용하여 설정된다.
단계 S55에 의한 판정 결과가 평균 색조 C(i)>thr2의 판정 조건을 충족시키는 경우에는, 단계 S56에 나타내는 바와 같이 CPU(22)는, 그 소영역(i)은, 바렛 점막 위에 잔존하는 편평 상피로 생각되기 때문에, 이와 같이 편평 상피가 한개 이상 존재하는 경우, 소영역을 포함하는 관심 영역은, 바렛 경계(바렛 점막의 경계)로 판정한다.
한편, 단계 S55의 판정 결과가 평균 색조 C(i)>thr2의 판정 조건을 충족시키지 않는 경우에는, 단계 S57에 나타내는 바와 같이 CPU(22)는, 파라미터 i가 소영역의 수 N과 동일한지의 판정을 행하여, N과 동일하지 않은 경우에는 단계 S58에 나타내는 바와 같이 i를 1개 증가시켜 단계 S54로 되돌아간다. 그리고, 단계 S54로부터 단계 S57의 처리를 반복한다.
바렛 점막의 증례의 경우에는, 바렛 점막 내에 섬 형상으로 편평 상피의 소영역이 고립되어 존재하는 경우가 종종 있다.
이 때문에, 본 실시예에서는, 상기한 바와 같이 경계 좌표점열(33)을 생성하여, 원화상(31)에서의 경계 좌표점열(33)에 의해 관강측의 영역 내에 엣지 혹은 경계 좌표점열(33)에 의해 소영역(i)을 검출하고, 각 소영역(i)에 대하여, 색조의 특 징량으로부터 편평 상피인지의 여부의 판정을 행한다. 그리고, 소영역(i)에 대하여, 편평 상피로 판정한 경우에는, 섬 형상으로 소영역이 고립된 편평 상피를 고립된 바렛 점막 혹은 바렛 경계로 판정하도록 하고 있다.
이와 같은 판정을 행함으로써, 원화상 내에 바렛 점막이 존재하는지의 여부의 판정을 정밀도 좋게 행할 수 있다.
또한, 도 12의 단계 S52에서는, 엣지에 의해 분할된 소영역(55)을 검출하도록 하고 있지만, 그 변형예로서 소정의 임계값에 의해 2치화를 행함으로써, 소영역(55)을 취득하도록 하여도 된다.
또한, 단계 S54, S55에서, 소영역(55)의 엣지의 전후(혹은 양측)에서의 색조변화에 기초하여 바렛 점막 혹은 바렛 경계인지의 여부의 판정을 행하도록 하여도 된다.
또한, 도 12의 화상 처리에서는, 관강측의 영역을 관심 영역으로 설정하고, 그 관심 영역 내에서의 엣지 등에 의해 분할된 소영역(55)에 대하여 판정을 행하도록 하고 있지만, 이 소영역(55)의 외측의 영역에 대해서도 평균 색조를 취득하거나 하여 판정을 행하도록 하여도 된다.
예를 들면, 소영역(55)에 대한 판정 결과와, 그 외측의 영역에서의 판정 결과에 의해, 관심 영역을 종합적으로 판정하도록 하여도 된다. 이와 같이 하면,보다 정밀도가 높은 판정을 행할 수 있다.
또한, 엣지에 의해 분할된 소영역(55)으로서는, 도 13B에 도시하는 바와 같이 완전히 고립된 소영역의 경우가 있을 수 있다. 또한, 소영역(55)이 외측으로 연장되어 편평 상피 측에 연결된 듯한 형상의 경우도 있을 수 있다.
이 경우, 도 13B에 도시하는 바와 같이 소영역(55)이 고립 곡선으로 되어 나타나는 경우가 많으므로, 검출된 소영역(55)이 고립 곡선으로 되어 있는지의 여부에 의해, 관심 영역이 바렛 점막 혹은 바렛 경계인지의 여부의 판정을 행하도록 하여도 된다.
(실시예 3)
다음으로 도 14 내지 도 18을 참조하여 본 발명의 실시예 2를 설명한다. 도 14는, 실시예 3에서의 프로그램 D에 따라 CPU(22)에 의해 실현되는 기능적인 구성을 도시한다.
본 실시예는, 실시예 1에서의 도 2의 처리 기능을 가지며, 또한 도 3의 처리 기능 대신에 도 14에 도시하는 처리 기능을 갖는다. 도 2의 처리 기능의 설명은 생략한다.
도 14에 도시하는 처리 기능은, 경계 좌표점열(33)로부터 국소 영역군(61)을 설정하는 국소 영역 설정부(63)와, 국소 영역군(61)에 대하여 점막 경계 검출 결과(62)를 생성하는 점막 경계 판정부(64)를 갖는다.
다음으로 도 15를 참조하여 본 실시예에 의한 점막 경계의 판정 처리를 설명한다.
도 15에 도시하는 바와 같이 최초의 단계 S61에서 CPU(22)는, G화상 데이터의 취득을 행하고, 또한 실시예 1 혹은 2와 마찬가지로 엣지 검출의 처리를 행하고(S2), 세선화하여, 경계를 취득한다(S3). 또한 경계의 좌표점열을 취득한 다(S4). 그리고, 도 16A의 엣지 검출 화상이 얻어진다.
다음으로 도 14의 처리 프로그램 D의 처리를 행한다. 즉, 도 15의 단계 S62에 나타내는 바와 같이 CPU(22)는, 경계를 따라 국소 영역을 예를 들면 N개 설정한다. 환언하면, N개로 이루어지는 국소 영역군(61)을 생성한다.
단계 S4까지의 처리에 의해 얻어진 도 16A의 엣지 검출 화상의 경계 좌표점열에 대하여, 그 경계를 따라 예를 들면 일정 간격마다 도 16B에 도시하는 바와 같이 경계 상의 짧은 선분(혹은 접선)에 의해, 그 선분과 국소적으로 직교하는 방향(즉 그라디언트 방향)으로, 그 경계 상의 짧은 선분의 양측에, 국소 영역이 선분에 의해 대략 2등분되도록 국소 영역을 설정한다.
또한, 도 16B에서 설정한 국소 영역예를 그 우측에서 확대하여 도시하고 있다. 이 경우에는, 사각형 영역으로 국소 영역을 설정하고 있지만, 원형 그 밖의 형상으로 국소 영역이어도 된다. 다음 단계 S63에서 CPU(22)는, 각 국소 영역을 나타내는 파라미터 i를 초기화한 후, 다음 단계 S64에서 국소 영역(i)에서 경계를 따라 나누어진 2 영역의 평균 화소값 E, F를 산출한다.
다음 단계 S65에서 CPU(22)는, 경계에 의해 분할된 양측의 2 영역의 평균 화소값의 비 E/F가 소정의 임계값 thr3보다도 큰지의 여부의 판정을 행한다.
이 경우, 진단에 의해 확정되어 있는 증례에서의 바렛 경계로부터 샘플한 화소에서의 색조 특징량, 예를 들면 IHb의 값의 평균값과, 바렛 경계가 아닌 경우에서의 경계로부터 샘플한 화소에서의 IHb의 평균값을 구하고, 이들 값으로부터 구별을 결정하는 임계값 thr3을 결정한다.
평균 화소값의 비 E/F>thr3의 경우에는, 다음 단계 S66에서 CPU(22)는, 그 국소 영역 내의 경계의 일부를 바렛 경계 영역으로 인식한다. 한편, 단계 S65의 판정 결과가, E/F>thr3의 판정 조건을 충족시키지 않는 경우에는, 단계 S67에 나타내는 바와 같이 바렛 경계가 아니라고 판정한다.
상기 단계 S66, S67의 처리 후, 단계 S68에서 CPU(22)는, 국소 영역(i)의 파라미터 i가 N과 동일한지의 판정을 행하여, i가 N과 동일하지 않은 경우에는 단계 S69에서 i를 1개 가산하여 단계 S64로 되돌아가서, 단계 S64 내지 S68의 처리를 반복한다.
그리고, 모든 국소 영역(N)까지 행한 후, 이 처리를 종료한다.
이와 같이 본 실시예에 따르면, 경계를 따라 설정한 국소 영역을 이용하여 바렛 경계인지의 여부를 판정함으로써, 바렛 경계인지의 여부를 판정할 수 있다.
또한, 모든 국소 영역(N)에 대하여 경계의 판정을 행하고, 그들 복수의 판정 결과에 의해 최종적으로 경계의 판정을 행하도록 하여도 된다.
또한, 단계 S62에서, 경계를 따라 국소 영역을 설정하는 경우, 그 경계 상의 짧은 선분(세선)의 중심에 대하여 직교하는 방향으로 대칭적으로 설정한 선분 또는 2점 등에 의해 국소 영역으로 하여도 된다.
또한, 단계 S62에서 설정되는 국소 영역은, 임의로 샘플링된 국소 영역이어도 된다. 또한, 그 단계 S66에서,바렛 경계 영역으로 인식된 경계를 추적하고, 그들의 결과에 의해 종합적으로 바렛 경계라고 판정하도록 하여도 된다.
다음으로 제1 변형예를 구비한 내시경 시스템을 이하에 설명한다. 도 17은 제1 변형예의 내시경 시스템(1B)에서의 주요부의 구성을 도시한다. 이 내시경 시스템(1B)은, 도 1의 내시경 시스템(1)에서, 내시경 관찰 장치(2)를 구성하는 내시경(6)에서의 예를 들면 삽입부(11)의 기단측에는, 삽입부(11)가 체강 내에 삽입되는 삽입량을 검출하는 삽입량 검출 장치(71)를 설치하고 있다. 이 삽입량 검출 장치(71)는, 검출된 삽입량의 정보를 화상 처리 장치(3)의 예를 들면 CPU(22)에 보낸다.
삽입량 검출 장치(71)는, 삽입부(11)의 외주면에 회동 가능하게 접촉하는 복수의 롤러(72)와, 이들 롤러(72)의 1개의 회전축에 부착되어, 회전량을 검출하는 로터리 인코더 등의 회전량 검출 센서(73)를 구비하고 있다.
그리고, 이 회전량 검출 센서(73)에 의해 검출된 신호는, 화상 처리 장치(3) 내의 예를 들면 CPU(22)에 입력되고, CPU(22)는, 삽입량의 정보로부터, 촬상된 화상이 검출 대상의 부위를 포함하는 화상인지의 여부의 판정을 행한다. 즉, CPU(22)는, 삽입량의 정보로부터, 촬상된 화상이 검출 대상의 부위를 포함하는 화상인지의 여부의 판정을 행하는 검출 대상 화상 판정부(22a)의 기능을 갖는다.
이 경우, 내시경(6)의 삽입부(11)가 환자의 입 부분으로부터 삽입된 경우, 삽입 시의 회전량 검출 센서(73)의 값으로부터 식도의 심부측에 삽입된 경우의 선단부(14)의 위치를 검출할 수 있다.
또한,CCD(16)를 포함하는 촬상 장치(17)의 촬상 특성 등에 의해, 전술한 화상 처리 방법으로 판정할 수 있는 해상도 이상의 화상을 촬상한 것인지의 여부도, 검출 대상의 부위를 포함하는 화상인지를 판정하는 조건에 넣어서 판정한다.
즉, 먼 쪽으로부터, 검출 대상의 부위를 포함하는 화상이 얻어지는 경우도 있지만, 먼 쪽의 부분에서 화상 해석에 불충분한 해상도로 간주된 경우나, 조명 광량이 충분하지 않은 경우에는, 검출 대상의 부위를 포함하는 화상으로 판정하지 않도록 판정 조건이 설정되어 있다.
내시경(6)의 CCD에 의해 촬상된 화상은, CCU(8)에 의해 신호 처리된 후, 화상 처리 장치(3)의 화상 입력부(21)에 항상 입력된다. 그 화상은, 하드디스크(27) 등에 순차적으로 저장된다.
이 경우, CPU(22)는, 삽입량의 정보를, 하드디스크(27) 등에 순차적으로 저장되는 화상에 부대 정보로서 보존한다. 혹은 CPU(22)는, 삽입량의 정보로부터, 촬상된 화상이 검출 대상의 부위를 포함하는 화상인지의 여부의 판정을 행한 판정 정보(식별 정보)를 부대 정보로서 보존하도록 하여도 된다.
그리고, CCU(22)는, 판정 정보로부터 판정 대상의 부위를 포함하는 화상에 대하여, 전술한 실시예 3의 경우와 마찬가지의 처리를 행한다. 또한, 실시예 3에 한하지 않고, 실시예 1 혹은 실시예 2에도 적용할 수 있다.
즉, 본 변형예는, 실시예 1∼3에서의 화상 해석되는 원화상이, 위치 판정 정보에 의해 자동적으로 검출 대상으로 판정된 선택 화상으로 된다.
따라서, 본 변형예에 따르면, 화상 해석에 의해 성상이 변화되어 성상 변화 점막인지의 여부의 판정(검출)이 행해지는 화상이, 미리 설정된 조건에 객관적으로 적합한 화상으로 제한되므로,보다 객관적인 판정 결과를 얻을 수 있다.
또한, 검출 대상으로 되는 화상을 삽입량 검출 장치(71) 등을 이용하여 적절 하게 검출 혹은 선택 설정할 수 있으므로, 검출 대상이 아닌 부위를 촬상한 불필요한 화상에 대해서도 화상 처리를 행하게 되는 것을 저감할 수 있다.
또한, 검출 대상으로 되는 부위를 촬상하고 있는 화상이라도, 촬상 장치(17)로부터 먼 쪽에 있는 경우에는, 화상 해석에 의한 정밀도가 불충분해지지만, 본 변형예에 따르면, 촬상 장치(17)의 특성도 고려하여 소정 거리 이상으로 떨어져 있는 경우에는, 검출 대상의 부위를 촬상하고 있지 않다고 판정 조건을 설정함으로써, 화상 해석에 의한 정밀도를 확보할 수 있게 된다. 또한, 전술한 설명에서는, 가늘고 긴 삽입부를 갖는 내시경(2)에 의해 얻은 화상의 경우로 설명하였지만, 이하에 설명하는 바와 같이 캡슐형 내시경을 이용하여 얻은 화상을 이용하도록 하여도 된다.
도 18에 도시하는 바와 같이 변형예를 구비한 캡슐형 내시경 시스템(81)은 환자가 삼킴으로써 체강 안을 촬상하는 캡슐형 내시경 장치(이하에서는 캡슐형 내시경으로 약기)(82)와, 환자의 체외에 배치되며, 캡슐형 내시경(82)으로부터의 화상 데이터를 수신해서 기록하는 체외 장치(83)와, 이 체외 장치(83)로부터 화상이 입력되는 화상 처리 장치(84)로 이루어진다.
캡슐형 내시경(82)은 캡슐 형상의 용기 내에 조명 수단으로서의 예를 들면 LED(85)와, 조명된 피사체의 상을 연결하는 대물 렌즈(86) 및 그 결상 위치에 배치되어, 촬상을 행하는 촬상 수단을 구성하는 CCD(87)와, 이 CCD(87)에 의해 촬상된 촬상 신호에 대한 신호 처리 등을 행하는 제어 회로(88)와, 촬상된 화상을 무선으로 송신하는 처리를 행하는 무선 회로(89)와, 각 회로 등에 전력을 공급하는 전 지(90)를 갖는다.
또한, 체외 장치(83)는, 캡슐형 내시경(82)의 무선 회로(89)의 안테나(89a)로부터 전파를 복수의 안테나(91a, 91b, 91c)를 통해서 무선 회로(92)에서 수신하고, 그 신호를 제어 회로(93)에 보낸다. 이 제어 회로(93)에 의해, 영상 신호로 변환하여 화상 처리 장치(84)에 출력한다.
그리고, 화상 처리 장치(84)는, 전술한 각 실시예 등의 처리를 행한다.
또한, 제어 회로(93)는, 복수의 안테나(91a∼91c)에 의해, 캡슐형 내시경(82)의 위치를 추정하는 위치 검출 기능(93a)을 갖는다. 그리고, 이 위치 검출 기능(93a)을 이용하여, 검출 대상의 화상을 선택 설정하도록 하여도 된다. 즉, 원화상(31) 대신에 이 위치 검출 기능(93a)에 의해, 식도로부터 위에 이르는 경계에 가까운 부위를 촬상하고 있는지의 여부를 검출하고, 경계에 가까운 부위를 촬상하고 있는 경우에는, 전술한 경우와 마찬가지로 원화상으로서 이용하도록 하여도 된다.
이와 같이 하면, 검출 대상으로 되는 식도로부터 위에 이르는 경계에 가까운 부위의 생체 점막을 효율적으로 판정할 수 있다.
또한, 전술한 각 실시예에서는, 색조를 평가하는 특징량으로서 IHb값을 이용하였지만, 예를 들면 R/G, R/(R+G+B) 등, 다른 특징량을 사용하여도 된다. 또한, 예를 들면 HSI 색 공간에서의 색상·채도를 이용하는 것도 가능하다.
전술한 실시예 1 내지 실시예 3에 따르면, 생체 점막 표면의 경계 정보에 기초하여 성상이 상이한 생체 점막의 존재를 화상 처리를 이용하여 검출함으로써, 식 도의 점막이 변성된 바렛 점막 등의 성상 변화 점막을 검출할 수 있다.
(실시예 4)
다음으로 화상 내의 암부 등 부적절한 부분에 영향받지 않고 보다 적절하게, 검출 대상으로 되는 특정한 생체 점막, 특히 바렛 점막의 존재를 검출할 수 있는 화상 처리 방법을 도 19 내지 도 28을 참조하여 설명한다.
도 19에 도시하는 내시경 시스템(1C)은, 도 1에 도시한 내시경 시스템(1)과 동일한 하드웨어의 구성이다. 단, 도 19에서의 처리 프로그램 기억부(23)에 기억되어 있는 처리 프로그램 E는, 도 1의 처리 프로그램 기억부에 기억되어 있는 처리 프로그램과는 상이하다. 그리고, CPU(22)는, 도 20에 도시하는 바와 같이 이 처리 프로그램 E를 실행한다. 따라서, 도 19에서의 각 구성 요소에 대해서는, 도 1에서 도시한 구성 요소와 동일한 부호를 붙이고, 그 설명을 생략한다.
도 20은, 처리 프로그램 기억부(23)에 기억된 처리 프로그램 E에 따라, CPU(22)에 의해, 검출 대상 점막 조직으로서의 바렛 점막의 존재의 검출을 하는 화상 처리를 행하는 화상 처리 기능을 나타내는 블록도를 도시한다.
도 19에서 도시한 CPU(22)는, 화상 처리를 행할 원화상(131)에 대하여, 그 원화상(131)으로부터 불필요 영역을 삭제해서 불필요 영역 삭제 화상(132)을 생성하는 불필요 영역 삭제부(133)와, 이 불필요 영역 삭제 화상(132)에 대하여 색조 처리를 행하여, 색조 처리 화상(134)을 생성하는 색조 처리부(135)의 기능을 갖는다.
또한, 이 CPU(22)는, 색조 처리 화상(134)에 대하여 영역 라벨링 처리를 행 하여 영역 라벨링 화상(136)을 생성하는 영역 라벨링 처리부(137)와, 이 영역 라벨링 화상(136)에 대하여 점막 특징량을 산출하여, 점막 정보(138)를 출력하는 점막 특징량 산출부(139)의 기능을 갖는다.
CCU(22)로부터 출력되는 영상 신호는, 내시경 화상으로서 화상 입력부(21)에 입력되어, A/D 변환 및 선형 보정을 목적으로 하는 공지의 기술인 역γ 보정 변환에 의해 디지털의 원화상 데이터로 되고, 처리 프로그램에 따라 CPU(22)는, 이하의 처리를 행한다.
우선,CPU(22)는, 원화상 데이터로부터 불필요 영역을 삭제하는 불필요 영역 삭제 처리를 행한다. 이 불필요 영역 삭제 처리는, 컬러의 원화상 데이터의 화소값 (R, G, B)에 대하여, 점막 조직 종별의 판정에 불필요한 화소의 화소값을 (0, 0, 0)으로 치환하여, 불필요 영역이 삭제된 불필요 영역 삭제 화상(132)을 생성한다. 불필요 영역이란, 내시경 화상 내의 암부나 고휘도의 헐레이션(halation) 부분이다.
도 22A는, 원화상(131)의 대표예를 도시한다.
이 불필요 영역 삭제 처리를 도 21에 도시한다. 불필요 영역 삭제의 처리가 개시되면, 단계 S71에 나타내는 바와 같이 CPU(22)는, 컬러의 원화상 데이터를 구성하는 각 화소에 대하여 그 화소값 (R, G, B)가 암부의 화소인지의 여부의 판정을 행한다. 또한,이하에서는,1화소 단위로 불필요 영역 삭제 처리 등을 행하는 예로 설명하고 있지만, 복수의 화소 단위로 행하는 것도 본 발명의 주지로부터 벗어나는 것은 아니다.
CPU(22)는, 암부의 화소인지의 여부를 판정하기 위한 임계값(혹은 기준값) Rcut, Gcut, Bcut를 이용하여, R<Rcut 또한 G<Gcut 또한 B<Bcut인 화소인지의 여부의 판정을 한다. 여기서, 임계값 Rcut, Gcut, Bcut는, 암부의 화소인지의 여부를 판정하는 비교적 휘도값이 낮은 기정값이며, 처리 프로그램 E에 의해 설정되어 있다.
단계 S71에서, 암부의 화소에 해당하는 화소가 있으면, 단계 S72에 나타내는 바와 같이 CPU(22)는, 그 화소의 화소값 (R, G, B)를 화소값 (0, 0, 0)으로 치환하여 다음 단계 S73으로 이행한다.
또한, 단계 S71에서, 암부에 해당하는 화소가 없는 경우에도, 단계 S73으로 이행한다.
단계 S73에서는,CPU(22)는, 컬러의 원화상 데이터를 구성하는 각 화소에 대하여 그 화소값 (R, G, B)가 헐레이션의 화소인지의 여부의 판정을 행한다.
즉, CPU(22)는, 헐레이션의 화소인지의 여부를 판정하기 위한 임계값 Rhal, Ghal, Bhal을 이용하여, R>Rhal 또한 G>Ghal 또한 B>Bhal인 화소인지의 여부의 판정을 한다. 여기서, 임계값 Rhal, Ghal, Bhal은, 헐레이션의 화소인지의 여부를 판정하는 비교적 휘도값이 높은 기정값이며, 처리 프로그램 E에 의해 설정되어 있다.
또한, 시술자 등의 유저가, 입력 조작부(29)로부터 암부의 임계값 Rcut, Gcut, Bcut나 헐레이션의 임계값 Rhal, Ghal, Bhal을 변경할 수도 있다.
단계 S73에서, 헐레이션에 해당하는 화소가 있으면, 단계 S74에 나타내는 바 와 같이 CPU(22)는, 그 화소의 화소값 (R, G, B)를 화소값 (0, 0, 0)으로 치환하여 이 불필요 영역 삭제의 처리를 종료한다. 또한, 단계 S73에서, 헐레이션에 해당하는 화소가 없는 경우에도, 이 불필요 영역 삭제의 처리를 종료한다.
그리고, 이 도 21의 불필요 영역 삭제의 처리를 종료하면, 불필요 영역이 삭제된 불필요 영역 삭제 화상(132)이 생성된다. 도 22B는, 도 22A의 원화상(131)에 대하여 불필요 영역 삭제의 처리의 종료 후에 생성되는 불필요 영역 삭제 화상(132)의 구체예를 도시한다.
다음으로, 색조 처리부(135)는, 불필요 영역 삭제 화상(132)의 각 화소에 대하여, 화소값에 기초하는 색조 특징량을 산출한다.
단, 도 21의 처리에서 불필요 영역으로 된 화소값 (0, 0, 0)의 화소에 대해서는, 색조 처리부(135)는, 색조 특징량의 산출 처리를 행하지 않는다.
색조 특징량으로서, 공지의 기술에서 이용되고 있는 혈류와의 상관이 높은 헤모글로빈(Hb로 약기) 인덱스, 즉 Hbindex(IHb로 약기)를 사용한다. 이 IHb는, 내시경 화상 상의 각 화소마다의 휘도 신호 Vg(헤모글로빈에 가장 잘 흡수되는 560㎚ 부근의 광을 반영하는 G신호)와, 휘도 신호 Vr(헤모글로빈에 의한 수식이 적은 650㎚ 부근의 광을 반영하는 R신호)을 추출하고, 2개의 비를 대수 변환한 값, 즉, 계산식: log2(R/G)를 사용한다. 이 처리를 도 21에서, 단계 S75에 의해 나타내고 있다.
산출된 IHb에 의한 색조 특징량은, 원화상의 화소와 동일한 위치에, 화소값 으로서 저장된다. 예를 들면, 화상 기억부(24) 혹은 해석 정보 기억부(25)에 기억된다. 이와 같이 하여, 색조 처리 화상(134)이 생성된다. 도 22C는, 도 22B의 불필요 영역 삭제 화상(132)에 대하여 색조 특징량의 산출 처리가 행해진 후의 색조 처리 화상(134)의 예를 도시한다. 또한, 도 22C는, 예를 들면 의사 컬러화한 화상으로 표시된다.
이 경우, 색조 처리 화상(134)에서의 IHb가 소정의 임계값 θ보다 높은 경우에는, 그 촬상 대상의 화상은, 바렛 점막(바렛 상피)을 포함하는 것일 가능성이 높다.
다음으로 색조 처리 화상(134)에 대하여, 영역 라벨링 처리부(137)는, 후술하는 처리 플로우에 기초하여, 영역 라벨링 화상(136)을 생성한다.
영역 라벨링 화상은, 촬상 대상의 화소 위치에서의 상피 종별을 저장한 라벨링 화상이다. 본 실시예에서는, 화상 위치의 촬상 대상이 정상 점막의 편평 상피인 경우에 1을, 성상이 변화된 변성 점막으로서의 바렛 점막인 경우에는 2를, 불필요 영역인 경우에는 0을 저장하도록 설정하고 있다.
다음으로, 영역 라벨링의 처리 플로우를 도 23을 참조하여 설명한다.
영역 라벨링의 처리 플로우가 개시되면,CPU(22)는, 최초의 단계 S81에서, 색조 처리 화상(134)으로부터, 라벨링 미처리의 화소의 화소값 D를 취득한다.
다음 단계 S82에서,CPU(22)는, 화소값 D가 0인지의 여부의 판정을 행한다. 그리고, 화소값 D가 0이 아니라고 판정한 경우에는, 다음 단계 S83으로 진행하고, 반대로 화소값 D가 0이라고 판정한 경우에는, 단계 S86로 이행한다.
단계 S83에서는,CPU(22)는, 처리 프로그램 E에 따라, 소정의 임계값 θ와 전술한 화소값 D의 대소를 판정한다. 그리고, 이 판정 결과가, D>θ이면, 다음 단계 S84로 진행한다. 한편, 단계 S83의 판정에서,D≤θ이면, 단계 S85로 진행한다. 또한, 정상 점막과, 변성 점막으로서의 바렛 점막으로부터 미리 샘플한 IHb의 샘플 데이터로부터 그 판정 분류를 행하는 임계값 θ가 설정된다.
단계 S84에서는,CPU(22)는, 영역 라벨링 화상(136)의 대응 화소값을 2로 설정하고 단계 S87로 진행한다. 단계 S85에서는,CPU(22)는, 영역 라벨링 화상(136)의 대응 화소값을 1로 설정하고 단계 S87로 진행한다.
또한, 단계 S86에서는,CPU(22)는, 영역 라벨링 화상(136)의 대응 화소값을 0으로 설정하고, 단계 S87로 진행한다.
단계 S87에서는,CPU(22)는, 라벨링 미처리의 화소가 있는지의 판정을 행하여, 라벨링 미처리의 화소가 있으면 단계 S81로 되돌아가고, 라벨링 미처리의 화소가 없으면, 이 영역 라벨링의 처리를 종료한다.
이와 같이 하여, 영역 라벨링의 처리에 의해, 색조 처리 화상(134)의 각 화소는, 화소값 0, 1, 또는 2로 라벨링된 영역 라벨링 화상(136)이 생성된다. 도 22D는 영역 라벨링 화상(136)의 예를 도시한다.
다음으로, 점막 특징량 산출부(139)는, 영역 라벨링 화상(136)에 대하여 각종 상피의 점막 특징량의 산출을 한다.
본 실시예에서는, 각 상피의 점막 종별마다의 화소수, 공지의 경계선 추적 알고리즘에 기초하는 영역 라벨링 화상(136)의 경계 화소점열, 상피의 점막 종별의 화소수비(바렛 점막의 화소수/편평 상피의 화소수)를 구하여, 상피의 점막 정보로서 보존한다.
또한 점막 특징량 산출부(139)는, 전술한 상피의 점막 종별의 화소수비와, 기정의 임계값 τ를 비교하여, 바렛 점막의 유무를 판정하고, 판정 결과를 상피의 점막 정보로서 보존한다. 이 경우, 상피의 점막 종별의 화소수비≥τ일 때에, 화상 내에 바렛 점막이 존재한다고 판정한다.
한편, 상피의 점막 종별의 화소수비<τ일 때에, 화상 내에 바렛 점막이 존재하지 않는다고 판정한다.
도 24는, 점막 특징량 산출부(139)에 의한 바렛 점막의 판정 처리를 도시한다.
단계 S91에 나타내는 바와 같이 CPU(22)는, 편평 상피와 라벨링한 화소값 1의 화소수 N1과, 바렛 점막과 라벨링한 화소값 2의 화소수 N2를 계수하여 산출한다. 다음 단계 S92에서,CPU(22)는, 바렛 점막의 유무를 판정하기 위한 임계값 τ를 이용하여, 상피의 점막 종별의 화소수비 N2/N1이 N2/N1≥τ인지의 여부를 판정한다.
그리고, 단계 S92의 판정 결과에 의해, N2/N1≥τ의 조건을 충족시키는 경우에는, 단계 S93에 나타내는 바와 같이 CPU(22)는, 상기 원화상 내에 바렛 점막이 존재한다고 판정하고, 그 결과를 하드디스크(27) 등에 보존한다.
한편, 단계 S92의 판정 결과에 의해, N2/N1<τ의 경우에는, 단계 S94에 도시하는 바와 같이 CPU(22)는, 상기 원화상 내에 바렛 점막이 존재하지 않는다고 판정 하고, 그 결과를 하드디스크(27) 등에 보존한다.
단계 S93 및 단계 S94 후에, 단계 S95로 이행하여, CPU(22)는 판정 결과를 표시 처리부(28)를 통해서 표시 모니터(4)에 보내어, 표시 모니터(4)의 표시면에 판정 결과를 표시한다. 그리고, 이 처리를 종료한다.
또한, 전술한 설명에서는, 상피의 점막 종별의 화소수비 N2/N1을 이용하고 있지만, 이 화소수비 N2/N1 대신에 N2/(N1+N2)를 채용하여도 된다. 이 경우에는, N2/N1≥τ의 판정 조건은, N2/(N1+N2)≥(τ+1)로 된다. 즉, 처리 대상 영역 내의 화소 총수(N1+N2)를 이용하여도, 동일하게 판정할 수 있게 된다.
이와 같이 본 실시예에 따르면, 화상 내에 검출 대상으로 되는 특정한 생체 점막으로서의 바렛 점막이 존재하는지의 여부를 화상 해석에 의해 판정하기 때문에, 주관 판단에 의하지 않는 바렛 점막의 조기 발견이 쉬워진다. 또한, 판정 결과를 표시함으로써, 시술자에게 보다 그 화상 내에 바렛 점막이 존재할 가능성이 높은 것을 통지할 수 있으므로, 시술자는, 보다 효율적으로 변성부인지의 여부의 진단을 행할 수 있다.
또한, 영역 라벨링 화상(136)에 대하여, 노이즈 제거를 목적으로 하여, 공지의 기술인 팽창, 수축 처리를, 영역 라벨링 처리부(137)에 의한 처리 직후에 실시 하여도 된다. 또한, 본 실시예에서는, 색조 특징량으로서 IHb를 이용하였지만, 예를 들면 R/G, R/(R+G+B) 등, 다른 특징량을 사용하여도 된다. 또한, 예를 들면 IHS 색 공간에서의 색상, 채도를 이용하는 것도 가능하다.
도 25는 제1 변형예의 내시경 시스템(1D)에서의 주요부의 구성을 도시한다. 이 내시경 시스템(1D)은, 도 19의 내시경 시스템(1C)에서, 내시경 관찰 장치(2)를 구성하는 내시경(6)에서의 예를 들면 삽입부(11)의 기단측에는, 삽입부(11)가 체강 내에 삽입되는 삽입량을 검출하는 삽입량 검출 장치(41)가 설치되어 있다. 이 삽입량 검출 장치(41)는, 도 17에서 설명한 것과 동일하여, 대부분의 설명을 생략한다.
CPU(22)는, 삽입량의 정보로부터, 촬상된 화상이 검출 대상의 부위를 포함하는 화상인지의 여부의 판정을 행하는 검출 대상 화상 판정부(22a)의 기능을 갖는다.
내시경(6)의 CCD에 의해 촬상된 화상은, CCU(8)에 의해 신호 처리된 후, 하드디스크(27) 등에 순차적으로 저장된다.
CPU(22)는, 삽입량의 정보를, 하드디스크(27) 등에 순차적으로 저장되는 화상에 부대 정보로서 보존한다. 혹은 CPU(22)는, 삽입량의 정보로부터, 촬상된 화상이 검출 대상의 부위를 포함하는 화상인지의 여부의 판정을 행한 판정 정보(식별 정보)를 부대 정보로서 보존하도록 하여도 된다.
그리고, CCU(22)는, 판정 정보로부터 판정 대상의 부위를 포함하는 화상에 대하여, 전술한 실시예 4의 경우와 마찬가지로 불필요 영역 삭제 처리 등을 행한다. 즉, 본 변형예는, 실시예 4에서의 화상 해석되는 원화상이, 판정 정보에 의해 자동적으로 검출 대상으로 판정된 선택 화상으로 된다.
따라서, 본 변형예에 따르면, 화상 해석되는 화상이, 미리 설정된 조건에 객관적으로 적합한 화상으로 제한되므로,보다 객관적인 판정 결과를 얻을 수 있다.
또한, 검출 대상으로 되는 화상을 삽입량 검출 장치(41) 등을 이용하여 적절하게 검출 혹은 선택 설정할 수 있으므로, 검출 대상이 아닌 부위를 촬상한 불필요한 화상에 대해서도 화상 처리를 행하게 되는 것을 저감할 수 있다.
또한, 검출 대상으로 되는 부위를 촬상하고 있는 화상이라도, 촬상 장치(17)로부터 먼 쪽에 있는 경우에는, 화상 해석에 의한 정밀도가 불충분해지지만, 본 변형예에 따르면, 촬상 장치(17)의 특성도 고려하여 소정 거리 이상으로 떨어져 있는 경우에는, 검출 대상의 부위를 촬상하고 있지 않다고 판정 조건을 설정함으로써, 화상 해석에 의한 정밀도를 확보할 수 있게 된다. 다음으로 제2 변형예를 설명한다. 본 변형예는, 실시예 4의 처리 프로그램 E와는 그 일부가 상이하다. 본 변형예에 의한 처리 프로그램 F에 따라 처리하는 CPU(22B)의 처리 기능은, 도 26에 도시하는 바와 같이 되어 있다.
도 26에 도시하는 처리 기능은, 도 20의 처리 기능에서, 영역 라벨링 화상(136)에 대하여, 사각형 소영역 분할 처리군(151)을 생성하는 사각형 소영역 분할 처리부(152)가 설치되어 있다. 이 사각형 소영역 분할 처리부(152)는, 영역 라벨링 화상(136)을 분할하여 사각형 소영역 분할 처리군(151)을 생성한다.
도 27은, 모식적으로 분할하여 생성된 사각형 소영역(153)의 화상을 도시한다.
도 26에 도시하는 바와 같이 사각형 소영역 분할 처리부(152)는, 영역 라벨링 화상(136)에 대하여, 사각형 소영역 분할 처리군(151)을 생성할 때의 사각형 소영역 분할 처리군(151)에 대하여 점막 특징량 산출을 적용하는 구성으로 하고 있 다.
또한, 본 변형예에서는, 점막 특징량 산출부(139B)는, 사각형 소영역(153) 마다 점막 정보(138)를 산출함과 함께, 상피의 점막 종별 화소수비와, 미리 설정된 기정의 임계값 τ를 비교하여, 사각형 소영역(153)의 속성을 결정한다.
예를 들면, 상피의 점막 종별의 화소수비≥τ일 때에, 사각형 소영역의 속성을 바렛 점막으로 한다. 한편, 상피의 점막 종별의 화소수비<τ일 때에, 사각형 소영역의 속성을 편평 상피로 한다.
또한 점막 특징량 산출부(139B)는, 사각형 소영역(153)에서, 결정된 속성의 수를 카운트하고, 그 속성비(바렛 점막의 사각형 소영역 카운트수/편평 상피의 사각형 소영역 카운트수)와 기정의 임계값 ε을 비교한다.
예를 들면, 속성비≥ε일 때에, 바렛 점막이 화상 내에 존재한다고 판정한다. 한편, 속성비<ε일 때에, 바렛 점막이 화상 내에 존재하지 않는다고 판정한다.
도 28은, 점막 특징량 산출부(139B)에 의한 점막 특징량 산출의 처리 플로우를 도시한다.
점막 특징량 산출의 처리가 개시되면, 단계 S101에 나타내는 바와 같이 CPU(22)는, 라벨링에 의한 각 사각형 소영역에서의 화소값 1의 화소수 n1과 화소값 2의 화소수 n2를 산출한다.
다음 단계 S102에서 CPU(22)는, 이들 화소수비 n2/n1이 기정의 임계값 τ 이상인지의 여부를 판정한다. 즉, CPU(22)는, n2/n1≥τ인지의 여부를 판정한다. 그리고, 이 조건을 충족시키는 경우에는, 단계 S103에 나타내는 바와 같이 CPU(22)는, 그 조건을 충족시키는 사각형 소영역의 속성을 바렛 점막으로 설정한다.
한편,n2/n1≥τ의 조건을 충족시키지 않는 경우에는, 단계 S104에 나타내는 바와 같이 CPU(22)는, 그 사각형 소영역의 속성을 편평 상피로 설정한다.
단계 S103 및 S104 처리 후, 단계 S105에서 CPU(22)는, 미처리의 사각형 소영역이 있는지의 판정을 행하여, 미처리의 사각형 소영역이 있는 경우에는, 단계 S101로 되돌아가, 단계 S101∼S105의 처리를 반복한다.
그리고, 모든 사각형 소영역에 대하여 단계 S101∼S105의 처리를 행한 후, 단계 S106에 도시하는 바와 같이 CPU(22)는, 바렛 점막의 속성의 사각형 소영역의 수 m1과, 편평 상피의 속성의 사각형 소영역의 수 m2를 산출한다.
다음 단계 S107에서 CPU(22)는, 이들 화소수비 m2/m1이 기정의 임계값ε 이상인지의 여부를 판정한다. 즉,CPU(22)는, m2/m1≥ε인지의 여부를 판정한다. 그리고, 이 조건을 충족시키는 경우에는, 단계 S108에 도시하는 바와 같이 CPU(22)는, 화상 내에 바렛 점막이 존재한다고 판정하고, 그 판정 결과를 하드디스크(27)에 보존함과 함께, 표시 모니터(4)에 표시한다.
한편,m2/m1≥ε의 조건을 충족시키지 않은 경우에는, 단계 S109에 나타내는 바와 같이 CPU(22)는, 그 화상 내에 바렛 점막이 존재하지 않는다고 판정하고, 그 판정 결과를 하드디스크(27)에 보존함과 함께, 표시 모니터(4)에 표시한다.
본 변형예에 따르면, 화상을 어느 정도의 크기를 갖는 소영역으로 구분하고, 각 소영역에서 그 소영역 내의 화소마다 검출 대상 점막으로서의 바렛 점막의 가능 성을 갖는 영역인지의 여부를 판정하고, 또한 그들 판정 결과로부터 바렛 점막인지의 여부를 판정하도록 하고 있으므로, 보다 정밀도 좋게 검출 대상 점막인지의 여부를 판정할 수 있다.
즉, 실시예 4에서는, 화상 전체에서의 각 화소에 대하여 검출 대상 점막의 가능성 여부의 라벨링을 행하고, 그 라벨링 결과에 의한 종별의 화소수비에 의해 바렛 점막을 포함하는지의 여부의 판정을 행하기 때문에, 임의의 부분의 판정 결과에 대하여, 근방의 부분이라도 떨어진 부분이라도 동일하게 판정 결과에 반영된다.
이에 대하여, 본 변형예에서는, 소영역으로 나누어 판정을 행하도록 하고 있으므로, 각 부분에서의 판정을 보다 적절하게 행할 수 있게 되기 때문에, 최종적인 판정 결과의 신뢰성을 향상할 수 있다.
(실시예 5)
다음으로 도 29 내지 도 31을 참조하여 실시예 5를 설명한다. 도 29는, 실시예 5에서의 처리 프로그램 G에 기초하여 CPU(22)에 의해 행해지는 기능적인 처리 내용을 도시한다. 본 실시예는, 도 19에 도시한 화상 처리 장치(3)와 하드웨어 상의 구성은 동일하고, 처리 프로그램 기억부(23)에 기억되어 있는 처리 프로그램 E와는 일부가 상이한 처리 프로그램 G를 갖는다.
본 실시예에서는, 원화상을 예를 들면 동화상으로 하여, 동화상의 각 프레임의 화상을 순차적으로 화상 처리하도록 한 것이다.
실시예 4에서 설명한 것은, 동일한 부호로 나타내고, 그 설명을 생략한다.
도 29에 도시하는 바와 같이 본 실시예는, 도 20의 처리 프로그램 E에서 영 역 라벨링 화상(136)에 대하여 점막 특징량을 산출하는 점막 특징량 산출부(139) 대신에, 점막 특징량을 산출하는 처리를 행하는 점막 특징량 처리부(160)를 이용하고 있다. 그리고, 이 점막 특징량 처리부(160)는, 영역 라벨링 화상(136)에 대하여, 각종 점막 특징량을 산출하여, 점막 정보 버퍼(161)에 순차적으로 보존한다.
점막 정보 버퍼(161)는, 도 30에 도시한 바와 같은 링 버퍼로 되어 있어, 차회, 보존할 때의 버퍼의 위치가 주회 상에서 순차적으로 이동하기 때문에, 소정수 이상의 점막 정보가 생성되면, 이전에 저장한 점막 정보에 덮어쓰기하여 그 점막 정보를 보존하는 구성으로 되어 있다. 도 30의 예에서는, 예를 들면 시계열적으로 점막 정보(162a, 162b, 162c, 162d)로 순차적으로, 점막 정보가 저장된다. 그리고, 다음으로 점막 정보가 입력되면, 가장 오래된 점막 정보(162a)에 새로운 점막 정보가 덮어쓰기된다. 또한, 도 30에서는, 점막 정보(162a∼162d)의 4개의 경우로 나타내고 있지만, 보다 큰 기억 용량을 갖는 링 버퍼로 하여도 된다.
점막 특징량 처리부(160)는, 영역 라벨링 화상(136)의 각 상피 종별의 화소수비로부터, 그 화상에서의 바렛 점막의 유무를 판정하고, 판정 결과를 점막 정보(162)로서 점막 정보 버퍼(161)에 보존하는 구성으로 되어 있다.
점막 정보 버퍼(161)의 점막 정보(162)는, 점막 종별 결정부(163)에 의해 점막 종별이 결정된다.
점막 종별 결정부(163)에서의 처리 플로우를 도 31에 도시한다.
최초의 단계 S141에서 CPU(22)는, 점막 정보 버퍼(161)에 보존되어 있는 모든 점막 정보(162)를 취득한다.
다음 단계 S142에서 CPU(22)는, 각 점막 정보(162)로부터, 점막 종별 판정 결과가 바렛 점막인 수를 카운트하고, 그 카운트수를 C'로 한다.
다음 단계 S143에서 CPU(22)는, 처리 프로그램 G에 의해 설정되어 있는 기정의 임계값 θ'와 전술한 카운트수 C'의 대소를 비교한다. 즉, C'>θ'인지의 여부를 판정한다.
그리고, C'>θ'일 때에는, 단계 S144에 나타내는 바와 같이 CPU(22)는, 원화상 내에 바렛 점막이 존재한다고 판정한다.
한편,C'≤θ'일 때에는, 단계 S145에 나타내는 바와 같이 CPU(22)는, 원화상 내에 바렛 점막이 존재하지 않는다고 판정한다.
또한, 단계 S144 및 S145 후의 단계 S146에서 CPU(22)는, 판정 결과를 표시 모니터(4)에 표시하고 이 처리를 종료한다.
또한, 판정 결과의 외에, 상기 카운트수 C'도 표시 모니터(4)에 표시하도록 하여도 된다.
본 실시예에 따르면, 복수의 화상에 대한 점막 종별 결과로부터 점막 종별을 판정하기 때문에, 관찰 조건이 나쁜 화상에 의한 점막 종별의 오판정을 방지하는 것이 가능하게 된다.
또한, 본 실시예에 따르면, 내시경(2)의 삽입부(11)를 삽입하면서 그 선단부(14)에 설치한 촬상 수단에 의해 촬상된 동화상을 원화상으로 하여, 바렛 점막이 존재하는지의 여부를 순차적으로 판정할 수 있으므로, 시술자는, 그 판정 결과로부터 효율적으로(혹은 신속하게) 검출 대상 부위 부근까지의 진단을 행할 수 있다.
또한, 본 실시예에 따르면, 삽입부(11)를 그 선단측으로부터 삽입하여 식도 내의 심부측에 삽입해 가면, 위의 경계 부근에 바렛 점막이 존재하는 경우에는, 바렛 점막이 존재하는 판정 결과가 표시될 확률이 커지기 때문에, 그 표시로부터 바렛 점막의 진단을 효율적으로 행할 수 있다.
또한, 상기한 바와 같이 카운트수 C'도 표시 모니터(4)에 표시되도록 하면, 바렛 점막이 존재하는 경우에는, 그 바렛 점막이 존재하는 부위에 근접하면 일반적으로 카운트수 C의 값이 커지기 때문에, 그 표시로부터 바렛 점막의 진단을 효율적으로 행할 수 있다.
또한, 동화상의 각 프레임을 순차적으로 연속적으로 입력하는 대신에, 일정한 프레임 간격으로 원화상을 입력하도록 구성하여도 된다.
또한, 점막 특징량 처리부(160)에서, 영역 라벨링 화상(136)에 포함되는 화소값=0의 화소수가 기정의 임계값 이상인 경우에는, 점막 정보(162)를 보존하지 않도록 구성하여, 점막 종별의 결정에 부적절한 정보를 보존하지 않도록 구성하여도 된다.
(실시예 6)
다음으로 도 32A 내지 도 37을 참조하여 실시예 6을 설명한다. 본 실시예는, 정밀도 좋게 검출 대상 점막의 존재의 유무를 검출(판정)할 수 있는 화상 처리 방법을 제공하는 것을 목적으로 한다. 이 목적을 달성하기 위해서, 화상 내에서의 암부와 같이 검출 대상에 적합하지 않은 소영역을 검출하여 검출 대상으로부터 제외함과 함께, 다시금 그 검출 결과로부터 화상 내에서의 암부의 위치 정보를 참조 하여, 암부에 인접하여 제외할 소영역으로 판정한 것을 다시 한 번 검출 대상으로부터 제외하여, 처리 대상 영역의 화상을 생성하는 처리를 행한다.
도 32A는, 실시예 6에서의 처리 프로그램 H에 기초하여 CPU(22)에 의해 행해지는 기능적인 처리 내용을 도시한다. 본 실시예는, 도 19에 도시한 화상 처리 장치(3)와 하드웨어 상의 구성은 동일하고, 처리 프로그램 기억부(23)에 기억되어 있는 처리 프로그램 E와는 일부 상이한 처리 프로그램 H 및 I이다.
본 실시예에서의 점막의 종별 판정 처리는, 도 32A에 도시하는 처리 프로그램 H와, 도 32B에 도시하는 처리 프로그램 I를 연속적으로 실행하는 구성이다. 처리 프로그램 I는, 처리 프로그램 H의 결과인 처리 대상 영역 정보(174)를 이용한다.
본 실시예에서 특징으로 되는 처리 프로그램 H의 처리 블록에 대해서 설명한다.
원화상(131)은, 사각형 소영역 분할 처리부(171)에 입력되고, 이 사각형 소영역 분할 처리부(171)는, 도 33에 도시하는 바와 같이 내시경 화상을 사각형 소영역 화상군(172)으로 분할한다. 또한, 소영역은 사각형에 한정되는 것은 아니다.
사각형 소영역 화상군(172)은, 처리 대상 영역 결정부(173)에 입력되고, 이 처리 대상 영역 결정부(173)는, 도 34에 도시하는 플로우에 설명하는 처리를 행하여, 처리 대상 영역 정보(174)를 생성한다.
단계 S151에서 처리 대상 영역 결정부(173)는, 사각형 소영역 화상군(172) 중에서 사각형 소영역(175)을 취득하고, 처리 대상 제외 소영역을 검출하기 위해 사각형 소영역(175) 내의 암부 화소수를 카운트한다.
본 실시예에서는, 암부 화소는, 화소값이 R<Rcut 또한 G<Gcut 또한 B<Bcut인 화소이다. 그 카운트수를 Cn(단,n은 사각형 소영역의 일련 번호)으로 한다. 여기서, Rcut 등은 실시예 4에서 설명한 것이다. 또한, 실시예 4와는 상이한 임계값으로 설정하여도 된다.
단계 S152에서 처리 대상 영역 결정부(173)는, 처리할(단계 S151의 처리가 미실행된) 사각형 소영역(175)이 있는지의 여부를 판정하여, 처리할 사각형 소영역(175)이 있으면 단계 S151로 되돌아가 카운트 처리를 행한다. 처리할 사각형 소영역(175)이 없으면, 단계 S153으로 진행한다.
단계 S153에서 처리 대상 영역 결정부(173)는, 사각형 소영역(175)의 암부 화소수 Cn에 기초하여, 처리 대상으로부터 제외하는 암부 영역의 판정 처리를 행한다. 본 실시예에서의 판정은, 각 사각형 소영역(175)에 대해서 산출한 Cn이 최대로 되는 사각형 소영역(175)을 암부 영역으로 결정하는 것이다.
다음으로 단계 S154에서 처리 대상 영역 결정부(173)는, 이 암부 영역을 처리 대상 영역으로부터 제외하는 것은 물론, 원화상(131) 내에서의 이 암부 영역의 위치에 기초하여 처리 대상 영역을 결정한다.
그 결정 방법을 도 35을 이용하여 설명한다.
도 35의 2중 사선부(크로스 사선부)(176a)는, 단계 S153에서 결정된 암부 영역을 나타내고 있고, 3×3으로 분할한 경우에서의 실현할 수 있는 모든 패턴, 즉 9개를 열거하고 있다. 또한, 사선부(176b)는, 처리 대상으로부터 제외하는 소영역 을 나타낸다.
단계 S154에서 처리 대상 영역 결정부(173)는, 원화상(131)에서의 암부 영역의 위치에 따라, 도 35에서의 어느 패턴에 암부 영역이 해당하는지를 판정한다. 그리고 처리 대상 영역 결정부(173)는, 해당하는 패턴에 따라, 암부 영역 및 처리 제외 소영역을 제외한 소영역만을 처리 대상으로 하도록 결정한다.
예를 들면 도 36에 도시하는 바와 같이 우측 위의 구석이 암부로서 검출된 경우에는, 도 35의 가장 우측에서 최상부의 패턴으로 나타내는 바와 같이 이 2중 사선부(176a)에 인접하는 양측의 2개를 제외한다.
그리고, 도 35에서의 2중 사선부(176a) 및 사선부(176b) 이외의 사선을 전혀 실시하고 있지 않은 소영역(176c)을 처리 대상으로 하는 처리 대상 영역 정보(174)를 생성한다. 즉, 검출된 2중 사선부(176a)의 정보로부터, 처리 대상 영역 정보(174)를 생성(결정)한다.
이 때문에, 처리 프로그램 기억부(23)나 해석 정보 기억부(25) 등의 기억 수단에는, 미리 검출한 암부 영역(소영역)의 블록이 원화상(131)에서의 어느 블록 위치에 있는지의 여부에 따라서, 처리 대상으로부터 제외하는 블록을 결정하는 제외 블록 정보가 등록(저장)되어 있다. 구체적으로는, 제외 블록 정보로서, 도 35에 도시하는 바와 같이 복수의 패턴이 저장되어 있다. 그리고, 그 제외 블록 정보를 참조함으로써, 암부 영역의 위치에 따라 처리 대상 영역을 결정할 수 있도록 하고 있다.
도 32B의 처리 프로그램 I 내의 불필요 영역 삭제부(133B)는, 전술한 처리 대상 영역 정보(174)를 이용하여, 처리 대상이 아닌 화소를 (R, G, B)=(0, 0, 0)으로 치환한 불필요 영역 삭제 화상(132)을 생성한다.
이후의 처리는, 예를 들면 도 20의 점막 정보의 생성 처리 내용과 동일하다.
또한, 처리 대상 영역 결정부(173)에서, 처리 대상 영역에서 R=255로 되는 화소수를 소영역(175)마다 카운트하고, R=255로 되는 화소수가 소정의 화소수 이상으로 된 경우에는 촬상 대상에 지나치게 근접한 것으로 간주하여, 그 소영역(175)을 처리 대상 영역으로부터 제외하도록 구성하여도 된다.
또한, 소영역(175)의 사이즈(화소수)를 선택 설정할 수 있도록 하여도 된다. 또한, 사이즈에 따라서는, 복수의 암부를 검출하고, 그 배치나 분포 등에 의해, 그들 주위의 부분을 처리 대상 영역으로부터 제외하도록 하여도 된다. 이와 같이 하면,보다 적절하게 처리 대상 영역의 설정을 할 수 있다.
본 실시예에 따르면, 암부를 포함하는 소영역 외에, 암부에 인접하는 소영역에 대해서도 처리에 부적절한 소영역인지의 여부를 판정하여, 부적절한 것을 처리 대상으로부터 제외하도록 하고 있으므로, 남은 부분은, 검출 대상에 보다 적합한 것으로 되고, 따라서 특정한 생체 점막의 검출 정밀도(판정 정밀도)를 보다 향상시키는 것이 가능하게 된다.
보충 설명하면, 암부 영역 및 이것에 가까운 영역이, 체강 내의 부위에 따라 예를 들면 동심원이나 그 밖의 형상으로 분포하는 경우, 단순히 소영역(175)을 설정하여 암부의 검출을 행하면, 실제의 암부 및 이것에 가까운 영역을 확실하게 검출 대상으로부터 제외할 수 없을 가능성이 있다.
이와 같은 경우라도, 상기한 바와 같이 검출된 암부의 영역의 위치나 배치 혹은 분포 등으로부터, 검출 대상에 적합하지 않은 영역을 효율적으로 적절하게 제외할 수 있다. 또한, 각 화소마다 암부의 화소 등을 제외할 수도 있지만, 이 경우에는 시간이 걸린다. 이에 대하여 본 실시예에서는 블록으로 행하므로, 효율적으로 부적절한 블록을 제외할 수 있다.
또한, 전술한 설명에서는, 가늘고 긴 삽입부를 갖는 내시경(2)에 의해 얻은 화상의 경우로 설명하였지만, 이하에 설명한 바와 같이 캡슐형 내시경을 이용하여 얻은 화상을 이용하도록 하여도 된다.
도 37에 도시하는 바와 같이 변형예를 구비한 캡슐형 내시경 시스템(81B)은, 그 하드웨어 상의 구성은 도 18과 마찬가지이다. 따라서, 그 구성의 설명을 생략한다.
그리고, 화상 처리 장치(84)는, 전술한 실시예 4 내지 실시예 6에서의 1개의 화상 처리를 행한다.
실시예 4 내지 실시예 6에 따르면, 암부 등의 검출 대상에 부적절한 화소를 제외함으로써, 검출 대상의 특정한 생체 점막의 존재의 검출을 보다 정밀도 좋게 행할 수 있다.
또한, 전술한 각 실시예 등을 부분적으로 조합하거나, 처리 단계의 순서를 변경하거나 하여 구성되는 실시예 등도 본 발명에 속한다.
식도로부터 위의 경계 부근을 촬상한 점막 표면의 화상에 대하여, 그 경계를 추출하거나 하여 경계의 형상 자체나 경계에 의해 구분되는 양측의 특징량의 산출 등에 의해, 위의 점막이 변성된 바렛 점막의 경계인지의 여부를 검출함으로써, 진단을 지원할 수 있다.

Claims (31)

  1. 생체 점막을 촬상한 의용 화상에 대하여 화상 처리를 행하는 의용 화상 처리 장치는,
    상기 생체 점막의 경계 부분에 상당하는 경계 정보를 상기 의용 화상으로부터 검출하는 경계 정보 검출 수단과,
    상기 경계 정보 검출 수단에서 검출된 경계 정보에 기초하여 성상이 상이한 생체 점막의 존재의 유무를 검출하는 점막 성상 검출 수단
    을 구비하는 것을 특징으로 하는 의용 화상 처리 장치.
  2. 제1항에 있어서,
    상기 생체 점막을 촬상한 1개 이상의 의용 화상을 상기 경계 정보를 검출하는 상기 경계 정보 검출 수단에 입력하는 입력 수단을 더 갖는 것을 특징으로 하는 의용 화상 처리 장치.
  3. 제1항에 있어서,
    상기 경계 정보 검출 수단에서 검출된 경계 정보에 기초하여, 상기 경계 부분의 형상 정보를 검출하는 형상 정보 검출 수단을 더 갖는 것을 특징으로 하는 의용 화상 처리 장치.
  4. 제1항에 있어서,
    상기 경계 정보 검출 수단에서 검출된 경계 정보로부터, 한쪽의 영역에 국소적으로 존재하고, 다른 쪽의 영역과 고립된 고립 영역을 검출하는 고립 영역 검출 수단을 더 갖는 것을 특징으로 하는 의용 화상 처리 장치.
  5. 제1항에 있어서,
    상기 경계 정보 검출 수단에서 검출된 경계 정보에 기초하여, 경계를 포함하는 국소 영역을 설정하는 영역 설정 수단과,
    상기 국소 영역에서 상기 경계의 양측의 2 영역으로부터 특징량을 산출하는 특징량 산출 수단을 더 갖는 것을 특징으로 하는 의용 화상 처리 장치.
  6. 제1항에 있어서,
    상기 경계 정보 검출 수단은, 상기 생체 점막에서의 윤곽을 검출하는 윤곽 검출 수단을 포함하는 것을 특징으로 하는 의용 화상 처리 장치.
  7. 제3항에 있어서,
    상기 형상 정보 검출 수단은, 상기 경계 정보에서의 경계 형상의 복잡함에 기초하는 정보를 검출하는 것을 특징으로 하는 의용 화상 처리 장치.
  8. 제1항에 있어서,
    상기 경계 정보 검출 수단은, 2치화를 행하는 2치화 수단 및 세선화된 점막 경계상을 생성하는 세선화 수단을 포함하는 것을 특징으로 하는 의용 화상 처리 장치.
  9. 제3항에 있어서,
    상기 형상 정보 검출 수단은, 상기 경계 정보에서의 경계 형상으로부터 1개 이상의 굴절된 굴절점이 검출되는지의 여부에 의해, 성상이 상이한 생체 점막의 존재의 유무를 검출하는 것을 특징으로 하는 의용 화상 처리 장치.
  10. 제6항에 있어서,
    상기 윤곽 검출 수단은, 생체 점막의 경계 부분을 추출하기 위한 필터링을 적용하는 필터링 수단을 포함하는 것을 특징으로 하는 의용 화상 처리 장치.
  11. 제1항에 있어서,
    상기 경계 정보 검출 수단은, 상기 경계 정보로서, 식도 점막 및 위 점막의 경계에 관한 정보를 검출하는 것을 특징으로 하는 의용 화상 처리 장치.
  12. 제1항에 있어서,
    상기 점막 성상 검출 수단은, 성상이 상이한 생체 점막으로서 식도 및 위 점막의 경계 부근에서의 바렛 점막의 존재를 검출하는 것을 특징으로 하는 의용 화상 처리 장치.
  13. 제4항에 있어서,
    상기 고립 영역 검출 수단은, 검출된 고립 영역이 상기 다른 쪽의 영역의 점막과 동종의 점막인지를 판정하는 판정 수단을 갖는 것을 특징으로 하는 의용 화상 처리 장치.
  14. 제13항에 있어서,
    상기 판정 수단은, 검출된 상기 고립 영역에 대하여, 상기 다른 쪽의 영역의 점막이 갖는 밝기 또는 색조에 관한 특징량을 산출하는 특징량 산출 수단을 갖는 것을 특징으로 하는 의용 화상 처리 장치.
  15. 제14항에 있어서,
    상기 판정 수단은, 상기 산출된 특징량과 임계값의 비교를 행하는 비교 수단을 갖는 것을 특징으로 하는 의용 화상 처리 장치.
  16. 제1항에 있어서,
    상기 의용 화상은, 내시경 화상 혹은 캡슐형 내시경 화상인 것을 특징으로 하는 의용 화상 처리 장치.
  17. 삭제
  18. 삭제
  19. 삭제
  20. 삭제
  21. 삭제
  22. 삭제
  23. 삭제
  24. 삭제
  25. 삭제
  26. 삭제
  27. 삭제
  28. 삭제
  29. 삭제
  30. 삭제
  31. 삭제
KR1020077012866A 2004-12-10 2005-12-08 의용 화상 처리 장치 KR100891766B1 (ko)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2004359054A JP2006166939A (ja) 2004-12-10 2004-12-10 画像処理方法
JPJP-P-2004-00359054 2004-12-10
JPJP-P-2004-00360319 2004-12-13
JP2004360319A JP4855673B2 (ja) 2004-12-13 2004-12-13 医用画像処理装置

Publications (2)

Publication Number Publication Date
KR20070085875A KR20070085875A (ko) 2007-08-27
KR100891766B1 true KR100891766B1 (ko) 2009-04-07

Family

ID=36577986

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020077012866A KR100891766B1 (ko) 2004-12-10 2005-12-08 의용 화상 처리 장치

Country Status (4)

Country Link
US (1) US8144993B2 (ko)
EP (1) EP1842481B1 (ko)
KR (1) KR100891766B1 (ko)
WO (1) WO2006062163A1 (ko)

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1849402B1 (en) * 2005-02-15 2018-05-16 Olympus Corporation Medical image processing device, lumen image processing device, lumen image processing method, and programs for them
CN101889902B (zh) 2006-07-25 2013-10-16 宝洁公司 用于分析齿龈组织的方法和产品
US10499029B2 (en) 2007-01-09 2019-12-03 Capso Vision Inc Methods to compensate manufacturing variations and design imperfections in a display device
US8405711B2 (en) * 2007-01-09 2013-03-26 Capso Vision, Inc. Methods to compensate manufacturing variations and design imperfections in a capsule camera
US9007478B2 (en) * 2007-01-09 2015-04-14 Capso Vision, Inc. Methods to compensate manufacturing variations and design imperfections in a capsule camera
JP4918383B2 (ja) 2007-03-16 2012-04-18 オリンパス株式会社 輪郭検出装置および輪郭検出方法ならびにそのプログラム
EP2138091B1 (en) * 2007-04-24 2013-06-19 Olympus Medical Systems Corp. Medical image processing apparatus and medical image processing method
EP2051205B1 (en) * 2007-10-17 2012-03-14 Deutsches Krebsforschungszentrum Method, computer program and workstation for removing undesirable objects for a digital medical image
US8175390B2 (en) * 2008-03-28 2012-05-08 Tandent Vision Science, Inc. System and method for illumination invariant image segmentation
US20100165088A1 (en) * 2008-12-29 2010-07-01 Intromedic Apparatus and Method for Displaying Capsule Endoscope Image, and Record Media Storing Program for Carrying out that Method
JP5290915B2 (ja) * 2009-09-03 2013-09-18 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
TWI432168B (zh) * 2009-12-31 2014-04-01 Univ Nat Yunlin Sci & Tech 內視鏡導航方法以及內視鏡導航系統
JP5800468B2 (ja) * 2010-05-11 2015-10-28 オリンパス株式会社 画像処理装置、画像処理方法、および画像処理プログラム
JP5597049B2 (ja) * 2010-07-07 2014-10-01 オリンパス株式会社 画像処理装置、画像処理方法、および画像処理プログラム
EP2532299B1 (en) 2010-09-14 2014-11-05 Olympus Medical Systems Corp. Endoscope system and low visibility determining method
JP5683888B2 (ja) 2010-09-29 2015-03-11 オリンパス株式会社 画像処理装置、画像処理方法、および画像処理プログラム
JP5526044B2 (ja) * 2011-01-11 2014-06-18 オリンパス株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
WO2012111236A1 (ja) * 2011-02-17 2012-08-23 三洋電機株式会社 画像識別装置およびプログラム
JP5830295B2 (ja) * 2011-07-29 2015-12-09 オリンパス株式会社 画像処理装置、画像処理装置の作動方法、及び画像処理プログラム
JP5800626B2 (ja) * 2011-07-29 2015-10-28 オリンパス株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
EP2727514B1 (en) * 2012-03-21 2017-05-10 Olympus Corporation Image processing device
JP6064092B2 (ja) * 2014-11-25 2017-01-18 オリンパス株式会社 内視鏡システム
US20190051039A1 (en) * 2016-02-26 2019-02-14 Sony Corporation Image processing apparatus, image processing method, program, and surgical system
US10580130B2 (en) 2017-03-24 2020-03-03 Curadel, LLC Tissue identification by an imaging system using color information
US10852236B2 (en) 2017-09-12 2020-12-01 Curadel, LLC Method of measuring plant nutrient transport using near-infrared imaging
JP6824868B2 (ja) * 2017-12-22 2021-02-03 サイバネットシステム株式会社 画像解析装置及び画像解析方法
JP7017646B2 (ja) 2018-10-26 2022-02-08 オリンパス株式会社 内視鏡用画像処理装置、及び、内視鏡用画像処理装置の作動方法、並びに、内視鏡用画像処理プログラム
EP3866107A1 (en) * 2020-02-14 2021-08-18 Koninklijke Philips N.V. Model-based image segmentation

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000155840A (ja) 1998-11-18 2000-06-06 Olympus Optical Co Ltd 画像処理方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3217343B2 (ja) * 1989-03-23 2001-10-09 オリンパス光学工業株式会社 画像処理装置
US5018509A (en) * 1989-02-21 1991-05-28 Olympus Optical Co., Ltd. Endoscope insertion controlling apparatus
JP3347385B2 (ja) * 1992-03-27 2002-11-20 オリンパス光学工業株式会社 内視鏡画像処理装置
US6026174A (en) * 1992-10-14 2000-02-15 Accumed International, Inc. System and method for automatically detecting malignant cells and cells having malignancy-associated changes
US6405070B1 (en) 1998-06-16 2002-06-11 Bhaskar Banerjee Detection of cancer using cellular autofluorescence
CN101305906B (zh) 2001-03-14 2012-02-08 吉温成象有限公司 检测活体内色度异常的系统
US20030181900A1 (en) * 2002-03-25 2003-09-25 Long Gary L. Endoscopic ablation system with a plurality of electrodes
JP2002336193A (ja) * 2001-05-17 2002-11-26 Olympus Optical Co Ltd 診断支援装置
US6956602B2 (en) * 2001-09-27 2005-10-18 Fujinon Corporation Electronic endoscope for highlighting blood vessel
US7137981B2 (en) 2002-03-25 2006-11-21 Ethicon Endo-Surgery, Inc. Endoscopic ablation system with a distally mounted image sensor
JP4007954B2 (ja) 2003-11-04 2007-11-14 オリンパス株式会社 画像処理装置、該方法、及び該プログラム
JP4615963B2 (ja) * 2004-10-29 2011-01-19 オリンパス株式会社 カプセル型内視鏡装置

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000155840A (ja) 1998-11-18 2000-06-06 Olympus Optical Co Ltd 画像処理方法

Also Published As

Publication number Publication date
WO2006062163A1 (ja) 2006-06-15
US20080292154A1 (en) 2008-11-27
EP1842481A1 (en) 2007-10-10
EP1842481A4 (en) 2009-11-04
US8144993B2 (en) 2012-03-27
KR20070085875A (ko) 2007-08-27
EP1842481B1 (en) 2017-02-08

Similar Documents

Publication Publication Date Title
KR100891766B1 (ko) 의용 화상 처리 장치
JP6150583B2 (ja) 画像処理装置、内視鏡装置、プログラム及び画像処理装置の作動方法
CN100515318C (zh) 医用图像处理方法
EP1994878B1 (en) Medical image processing device and medical image processing method
JP5276225B2 (ja) 医用画像処理装置及び医用画像処理装置の作動方法
JP5305850B2 (ja) 画像処理装置、画像処理プログラムおよび画像処理方法
US8107704B2 (en) Image processing device, image processing program and image processing method
EP1849402B1 (en) Medical image processing device, lumen image processing device, lumen image processing method, and programs for them
EP2567651B1 (en) Diagnosis supporting apparatus
US10194783B2 (en) Image processing apparatus, image processing method, and computer-readable recording medium for determining abnormal region based on extension information indicating state of blood vessel region extending in neighborhood of candidate region
EP2937033A1 (en) Image processing apparatus, electronic device, endoscope apparatus, program, and image processing method
JP4749732B2 (ja) 医用画像処理装置
JP4855673B2 (ja) 医用画像処理装置
JP2008048906A (ja) 医療用画像処理装置及び医療用画像処理方法
JP4971525B2 (ja) 画像処理装置及び画像処理装置の制御方法
WO2012153568A1 (ja) 医用画像処理装置及び医用画像処理方法
JP5057651B2 (ja) 管腔画像処理装置、管腔画像処理方法及びそのためのプログラム
CN111161852B (zh) 一种内窥镜图像处理方法、电子设备及内窥镜系统
JP4856275B2 (ja) 医用画像処理装置
JP5315376B2 (ja) 柵状血管検出装置および柵状血管検出装置の作動方法
KR20220007667A (ko) 화상 해석 장치 및 화상 해석 방법

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20130304

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20140228

Year of fee payment: 6

FPAY Annual fee payment

Payment date: 20150302

Year of fee payment: 7

LAPS Lapse due to unpaid annual fee