KR20090046991A - 패턴 인식 기법을 통한 식단 인식 - Google Patents

Abstract

본 발명 시스템은 기존의 식단 입력 방법인 사용자가 직접 입력하는 시스템이 아닌 카메라를 통한 디지털 영상을 분석하는 알고리즘을 개발하고, 그 알고리즘을 적용해 자동으로 음식물의 종류를 구분함으로써, 사용자의 편의성을 고려한 식단 입력 시스템이다. 또한, 음식물의 종류와 각 음식물을 섭취한 양을 데이터베이스화하여 체계적인 식단 관리에 도움을 준다. 이는 당뇨병 환자, 다이어트 대상자, 어린이나 노인 등과 같은 사용자들에게 큰 도움을 줄 것이다.

식단 입력, 카메라, 영상, 음식물, 편의성, 데이터베이스, 식단 관리

Description

패턴 인식 기법을 통한 식단 인식{Meal recognitionin using pattern recognition technique}

삶의 질이 향상되고 사회 구성원의 고령화가 빨라지는 현대에는 질병을 예방하고 건강을 관리할 수 있는 웰빙에 대한 관심이 높아지고 있다. 따라서 웰빙을 위한 건강 관리 또는 다이어트를 위한 생활 습관, 특히 식단 관리에 대한 관심이 증대되고 있는 실정이다.

이미 병원에서는 각 환자의 병과 증세에 따른 다른 식단을 제공하고 있고, 트레이닝 센터나 다이어트 센터에서 개인의 식단을 관리해주는 모습도 주변에서 어렵지 않게 찾아볼 수 있다. 이 같은 식단 관리가 각 가정으로 넘어오면서 매 식사마다 섭취한 음식물의 종류와 각 음식물을 섭취한 양을 직접 프로그램에 입력하는 방식을 이용하고 있으나 이는 매우 번거로운 작업임에 분명하다. 이는 사용자의 편의성을 전혀 고려하지 않은 식단 입력 방법이며, 관리자 역시 정확한 정보를 얻는데 한계가 있다.

이러한 번거로움을 해결하기 위해 식탁 위에 카메라를 설치하여 음식들을 촬영함으로써 디지털 영상을 통해 음식의 종류를 자동으로 판별해내는 알고리즘을 제안하고 개발하여 사용자의 편의를 도모하도록 한다.

따라서, 본 발명은 상기와 같은 종래 기술의 단점과 문제점을 해결하기 위한 것으로, 기존의 식단 입력 방법인 사용자가 직접 입력하는 시스템이 아닌 카메라를 통한 디지털 영상을 분석하는 알고리즘을 개발하고, 그 알고리즘을 적용해 자동으로 음식물의 종류를 구분함으로써 사용자의 편의성을 고려한 식단 입력 시스템이다. 또한, 음식물의 종류와 각 음식물을 섭취한 양을 데이터베이스화하여 체계적인 식단 관리에 도움을 준다.

따라서, 본 발명은 사용자의 편의성을 고려한 식단 입력 방법으로서, 음식물의 종류와 각 음식물을 섭취한 양을 데이터베이스화하여 체계적인 식단 관리에 도움을 준다.

이는 반드시 식단 관리가 필요한 대상자들에게 추천하는 시스템이다.

첫째, 당뇨병 대상자

둘째, 다이어트 대상자

셋째, 어린이나 노인

당뇨 환자는 전체 식단의 영양소에 체계적인 식단 관리가 필요하다. 매 끼니마다 식단이 탄수화물, 지방, 단백질 등의 영양소를 담당 의사가 제시한 비율로 포함하고 있는지 검사해주며 칼로리 섭취를 조절하여 신체 상태를 적절하게 유지시켜 준다. 또한 매 끼니의 영양소 섭취량을 데이터베이스에 저장하여 일주일 혹은 한 달 단위로 영양소 섭취량 등을 분석해서 좀 더 체계적인 관리가 가능해진다.

다이어트 중인 사람의 식단을 관리할 때에는 칼로리 섭취량에 중점을 두어 관리한다. 각 음식의 칼로리를 데이터베이스에서 검색하여 전체 식단의 열량을 계산해주며, 음식물 섭취량에 따른 적절한 운동량을 제시해준다.

어린이나 노인은 필수 영양소 및 비타민을 고루 섭취하도록 제안하여 신체가 건강한 면역력을 갖추게 해주고 질병 등을 예방할 수 있도록 도와준다.

본 발명 시스템은 카메라를 통한 디지털 영상을 분석하는 알고리즘을 개발하고, 그 알고리즘을 적용해 자동으로 음식물의 종류를 구분함으로써 사용자의 편의성을 고려한 식단 입력 시스템이다. 즉, 사용자 가정 내 식탁 위에 설치된 카메라를 통해 음식물 영상 정보를 음식물 서버로 전송한 후, 분석 서버에서 기존의 데이터베이스 자료와 비교해 음식물의 종류와 각 음식물을 섭취한 양을 알아낸다.

도1a 본 발명에 따른 전체 시스템 구성도

i. 웹캠

식단을 빠뜨리지 않고 잘 촬영할 수 있도록 식탁 위의 조명 부분에 설치

한다. (단, 프로젝트 제안서는 웹캠의 동영상 대신 정지 비트맵 화상을

직접 이용하도록 하고 있다.)

ii . 분석 서버

웹캠을 통해 가져온 영상 정보와 음식물 데이터베이스 서버의 기존 자료

를 비교, 분석해서 현재 식단을 찾아 데이터베이스에 기록한다. 음식의

위치를 찾는 영상 추출 모듈과 음식의 특징을 찾아 데이터베이스와 비교

하는 영상 분석 모듈로 이루어져 있다. 데모 프로그램의 경우 직접 사용

자가 클릭하면서 사용하는 형태이고 실제 웰빙케어시스템에 적용할 때에

는 자동으로 분석하도록 한다.

iii . 음식물 데이터베이스 서버

영상 정보를 분석하는데 사용할 기본 음식물 데이터가 저장되어 있고,

지금까지의 식단들, 현재 식단 등이 저장된다. 전체 웰빙케어시스템에서

음식물의 섭취량을 통한 칼로리 등을 계산하는데 사용된다.

● 구현 방법

본 발명 식단 인식 알고리즘 구성은 다음과 같이 3부분으로 구성된다.

① 영상 추출 모듈

② 영상 분석 모듈

③ 식단 검색 모듈

도1b 본 발명에 따른 전체 모듈의 개관을 나타낸 것이다.

A. 영상 추출 모듈

영상 추출 모듈을 비트맵 이미지로부터 반찬일 확률이 가장 높은 지점을 찾

아내는 부분이다. 이를 위해 비트맵 영역에 윈도우를 슬라이딩 시키며 표준

편차로부터 반찬이 존재할 확률을 찾고 색상 분석을 통해 그릇일 확률을 찾

아 이 둘을 조합하였다.

B. 영상 분석 모듈

이전 모듈에서 찾은 영역을 분석하여 몇 가지 반찬 분석 모델에 따른 수치

화된 벡터를 생성한다. 우리는 첫째로 색상 분석을 하였으며, 둘째로 텍스쳐

유사도 분석을 하였다. 색상 검색에는 음식물이 차지하고 있는 주요 색상이

얼마나 분포하고 있는지를 따졌으며 텍스쳐 검색에서는Auto-regression 분

석에 따른 특징 벡터를 이용하였다.

C. 식단 검색 모듈

이전 모듈에서 점수화 된 분석 결과를 넘겨 받아 음식물 특징으로부터 가장

유사한 결과를 데이터베이스로부터 검색한다. 벡터간 유사도 판정에 있어

색상 벡터 비교에는 L-2 distance, 텍스쳐 특징 벡터 비교에는 L-1 distance

메트릭을 이용하였다.

D. 데모 프로그램

각 분석 과정을 단계별로 확인해볼 수 있는 데모 프로그램을 제공한다.

1) 식탁의 이미지 정보를 가져온다.

2) 이미지 정보에서 음식 확률과 그릇 확률을 겹쳐서 시각적으로 보여준

다.

3) 반찬일 확률이 높은 부분을 구역으로 나누어 보여준다.

4) 기존 데이터베이스에 구축되어있는 음식들과 비교하여 영상에 알맞은

음식을 찾는다.

도1c 본 발명에 따른 자료 흐름도를 나타낸 것이다.

● 구현 및 상세 설명

A. 제약 조건

1. 식탁의 영상은 bitmap 이미지로 제공된다.

카메라를 연결하여 정지 영상을 만들어내는 모듈이 당초 구현 계획에 있

었으나, 이 프로젝트의 목적 이외의 부수적인 모듈은 과감히 삭제하고

영상 추출 및 분석, 처리 모듈에 집중하도록 지도 받았다.

2. 식탁은 항상 같은 배경으로 고정한다.

식탁 이미지에서 음식의 위치를 찾아내는 일의 정확도를 높이기 위해서

비교적 잡음이 적고 단순한 패턴을 식탁 배경과 그릇으로 사용한다.

3. 그릇을 규격화하고 미리 색깔로 분류해둔다.

김치류는 빨간색 접시에만 담고, 밥류는 파란색 그릇에만 담는 등, 접시

로부터 힌트를 얻도록 한다.

4. 반찬은 서로 겹치지 않는다.

두 개의 반찬이 서로 겹쳐서 한 쪽의 반찬을 다른 한 쪽의 그릇이 가리

면 반찬이라고 생각해서 분석하고자 하는 위치에 그릇의 이미지가 함께

들어갈 수 있다. 이 제약 조건으로 인해 영상 분석 모듈은 영상 추출 모

듈로부터 올바른 데이터를 받는다고 가정할 수 있다.

5. 비슷한 음식을 식탁에 여러 번 올리지 않는다.

배추 김치와 열무 김치 등 비슷한 음식을 동시에 분포하지 않게 함으로

써 헷갈릴 위험을 줄인다.

이상 위와 같은 제약 조건을 이용하여 인식률을 높이도록 하였다.

B. 영상 추출 모듈

영상 추출 모듈은 bitmap 이미지를 입력 받아 음식물들의 위치를 파악하여

음식물의 이미지만 추출해내는 역할을 한다. 추출된 이미지는 배경과 그릇

이 삭제된 순수한 음식물의 이미지이다. 한 영상에는 여러 개의 음식물이

있으므로 추출된 음식물 이미지는 rectangle 구조체의 배열로 전달된다.

도1d 본 발명에 따른 영상추출모듈 함수를 나타낸 것이다.

< DoExtract 에서 사용 된 알고리즘 >

DoExtract는 반찬으로 추측되는 영역을 이미지에서 찾고, 영역의 중심을

반찬의 중심으로 판단하게 된다.

반찬으로 추측되는 영역을 찾는 과정은 아래와 같다.

1. 전체 이미지에서 사각형 모양의 영역을 잘라낸다. 사각형 영역을 슬라

이딩 시키면서 아래의 사항을 확인한다.

2. 사각형 안에 그릇이 포함되어 있는지 확인한다. 그릇의 색상 정보와

비슷할수록 그릇일 확률을 높게 잡는다.

3. 사각형 내 픽셀의 색상 값의 표준편차를 구한다. 표준편차 값이 높을

수록 반찬일 확률을 높게 잡는다.

4. 2번과 3번을 조합하여 반찬일 가능성이 높은 지역을 찾는다.

< 영상 추출 모듈의 내부 함수 >

1. int [,] FindDishes(Bitmap bmp, int stepSize, int blockSize)

전체 이미지에서 반찬의 영역을 찾는 함수이다.

2. int [] FloodFill(int [,] m, int px, int py)

FindDishes에서 반환된 반찬 영역의 중심을 찾는 함수이다.

C. 영상 분석 모듈

영상 분석 모듈은 주어진 이미지를 입력 받아 이를 수치화 시키는 모듈이

다. 영상 분석 모듈은 크게 색상 분석 단계와 텍스쳐 분석 단계로 나뉜다.

i. 색상 분석

색상 분석 단계에서는 음식물 이미지의 색상 분포를 분석하게 된다. 대

개 비트맵 이미지는 R, G, B 세가지 색 요소로 이루어져 있는데 이를 다

색공간으로 변형시켜 색상을 추출한다. 색상을 구분해낼 수 있는 색공

에는 HSV, HSL 등이 있으며, 본 프로젝트에서는 HSV를 사용하였다.

, G, B값을 H, S, V로 바꾸는 방법은 다음과 같은데, MAX는 R, G, B

중 가장 큰 값을 나타내며, MIN은 가장 작은 값을 나타낸다.

전체 이미지의 색 분포는 히스토그램 형태로 출력되게 된다.

도1e 본 발명에 따른 영상분석모듈의 색상분석 함수를 나타낸 것이다.

또한 보다 직관적인 접근으로 반찬이 가지고 있는 주요 색상과의 차이

비교하도록 하였다. 반찬의 색상은 고추가루색, 푸른잎색, 간장국물색,

색 등 6개의 주요 색상을 선정하였다.

ii . 텍스쳐 분석

음식물 표면의 질감을 수치화하기 위해 2D Casual Auto-regression

2D-CAR) 방법을 텍스쳐 모델링 기법으로 이용한다. 우선 이들 모델이

미지의 명암을 대상으로 하므로 흑백으로 전환한다. 다음에 2D-CAR 모

을 이용해 수치화 시킨다. 수치화된 값은 41차원의 벡터를 가진다.

도1f 본 발명에 따른 영상분석모듈의 텍스쳐분석 함수를 나타낸 것이다.

< 영상 분석 모듈의 내부 함수 >

ColorSpectrum ExtractSpectrum(Bitmap dishImage)

Bitmap Monotonize(Bitmap img)

Vector MeasureTexture(ModelType mt, Bitmap img)

D. 식단 검색 모듈

앞서 모듈에서 음식물 최종적으로 수치화 시켰다. 이제 이 식단 검색 모듈

서 이들을 기존 데이터베이스와 비교하면서 가장 유사한 음식물을 찾도록

다. 색상 점수 및 여러 텍스쳐 유사도 점수를 종합하여 최종 점수를 매기는

필요한 점수 벡터간 비교에는 여러 가지 메트릭을 사용할 수 있겠다. 이에

맨하탄 거리라 불리는 L1 메트릭, 유클리드 거리라 불리는 L2 메트릭 등이

있다.

이에 컬러 유사도 비교에는 L2 distance를, 텍스쳐 유사도 비교에는 L1

distance를 이용하였다.

< 식단 분석 모듈의 내부 함수 >

VectorList FetchFromDB(DBHandle dbh)

Float CalculateDistance(DistanceType dt, Vector v1, Vector v2)

Vector ApplyWeight(Vector feature, int type)

도 1a 본 발명에 따른 전체 시스템 구성도

도 1b 본 발명에 따른 전체 모듈의 개관

도 1c 본 발명에 따른 자료 흐름도

도 1d 본 발명에 따른 영상 추출 모듈 함수

도 1e 본 발명에 따른 영상분석모듈의 색상분석 함수

도 1f 본 발명에 따른 영상분석모듈의 텍스쳐분석 함수

Claims (2)

1. 유헬스 산업 식단 관리 서비스의 식단 입력 방법에 있어서,

   사용자가 직접 입력하는 시스템이 아닌 사용자의 편의성을 고려한 식단 입력 시스템.
2. 1항에 있어서, 사용자가 섭취한 음식물의 종류와 각 음식물을 섭취한 양 등 을 직접 입력하는 시스템이 아닌 음식물 DB와 분석 DB를 통한 체계적인 식단 관리를 도와주는 시스템.

Images