KR20000075608A

KR20000075608A - 카메라 기초 제스쳐 입력을 이용하는 가상 현실 환경을 통한 3차원 내비게이션을 허용하는 시스템 및 방법

Info

Publication number: KR20000075608A
Application number: KR1019997007669A
Authority: KR
Inventors: 라이온스다미안엠.
Original assignee: 요트.게.아. 롤페즈; 코닌클리케 필립스 일렉트로닉스 엔.브이.
Priority date: 1997-12-23
Filing date: 1998-12-07
Publication date: 2000-12-26
Also published as: US6181343B1; WO1999034327A3; EP0976106A2; JP2001517344A; WO1999034327A2

Abstract

시스템 사용자의 카메라 기초 제스쳐 입력을 이용하여 가상 현실 환경을 통한 3 차원 내비게이션을 허용하는 시스템 및 방법이 공개된다. 상기 시스템은 컴퓨터 판독 가능 메모리, 시스템 사용자의 제스쳐 및 상기 시스템 사용자를 둘러싸는 대화 영역을 나타내는 비디오 신호를 발생하는 비디오 카메라, 및 비디오 이미지 디스플레이를 구비하고 있다. 상기 비디오 이미지 디스플레이는 상기 시스템 사용자의 앞에 위치되어 있다. 상기 시스템은 또한 시스템 사용자의 몸의 3 차원 위치 및 주요 몸 부분을 결정하기 위해, 상기 컴퓨터 판독 가능 메모리에 저장된 프로그램에 따라 비디오 신호를 처리하는 마이크로프로세서를 구비하고 있다. 상기 마이크로프로세서는 상기 시스템 사용자의 3 차원 이미지 및 상기 시스템 사용자의 몸 및 주요 몸 부분의 3 차원 위치를 기초로 비디오 이미지 디스플레이 상에 시스템 사용자 및 대화 영역의 3 차원 이미지를 구성한다. 상기 비디오 이미지 디스플레이는 가상 현실 환경 냉에 3 차원 그래픽 피사체를 디스플레이하며, 상기 시스템 사용자에 의한 이동은, 상기 시스템 사용자가 가상 현실 환경 전반에 걸쳐 이동하는 것으로 나타날 수 있도록 상기 비디오 이미지 디스플레이 상에 디스플레이된 3 차원 피사체의 외견상의 이동을 허용한다.

Description

카메라 기초 제스쳐 입력을 이용하는 가상 현실 환경을 통한 3 차원 내비게이션을 허용하는 시스템 및 방법{System and method for permitting three-dimensional navigation through a virtual reality environment using camera-based gesture inputs}

멀티미디어 및 가상 현실 응용으로 사용자와 컴퓨터 간의 흥미로운 대화가 가능하다. 불행히도, 현재의 컴퓨터/사용자 인터페이스는 매우 단순한 사용자 대화에 장벽, 따라서 멀티미디어 및 가상 현실 응용의 소비자 수용성을 제공한다. 이상적으로, 컴퓨터/사용자 인터페이스는 직관적인 대화 표맷을 광범위한 대화 능력과 조합하게 된다. 하지만, 실제적으로 이들 두 특징은 충돌한다. 예컨대, 컴퓨터 키보드는 폭넓은 대화 기능을 제공하지만, 직관적이지 않은 반면에, 텔레비젼 원격 제어는 보다 직관적이지만, 제한된 대화 기능을 제공한다. 한쌍의 기계 본체와 같은 훨씬 더 융통성 있는 인터페이스 불편하고 고가이다.

가상 현실 응용에서는, 가상 현실 환경을 디스플레이하고 가상 현실 환경과 대화하는 2 개의 메인 컴퓨터/사용자 인터페이스 접근법은 이머시브(immersive) 접근법과 비이머시브 접근법을 포함하고 있다. 이머시브 접근법에서는, 사용자가 헤드에 부탁된 트래킹 장치와 하나 이상의 림 뿐만 아니라 헤드 장착 디스플레이를 착용한다. 컴퓨터는 사용자의 운에 합성 비쥬얼 이미지를 디스플레이함으로써 헤드 장착 디스플레이상에 가상 현실 환경을 디스플레이하고, 헤드 트래킹 장치로부터 수신된 정보를 기초로 상기 이미지를 변화시킨다. 림 트래킹 장치로 가상 현실 환경과의 사용자 대화가 가능하다. 상기 이머시브 접근법은 가상 현실 환경 내에 있는 인상을 사용자에게 주는 이점을 제공한다. 불행히도, 이머시브 접근법은 실제 환경으로부터 사용자를 격리시켜서 현실 환경에서 신체 상태를 알지 못하게 되고 안전이 위협되게 되는 단점을 제공한다.

비이머시브 접근법에서는, 상기 컴퓨터는 컴퓨터 모니터나 텔레비젼 스크린과 같은 정지 디스플레이 상에 가상 환경의 가상 이미지를 디스플레이한다. 사용자는 컴퓨터 키보드, 마우스, 조이스틱 또는 기타 다른 유사한 장치를 사용자와의 인터페이스로 사용하는 가상 이미지의 원경을 변화시킨다. 상기 비이머시브 접근법은 현실 환경으로부터 사용자를 격리시키지 않고 사용자가 가상 현실 환경과 대화할 수 있도록 해 주는 이점이 있다. 하지만, 상기 비이머시브 접근법은 상기 가상 현실에 있다는 인상을 사용자에게 주질 못한다.

컴퓨터/사용자 인터페이스 설계에의 다수의 접근법이 이머시브 접근법과 비이머시브 접근법 사이에 절충을 하기 위해 제시되어 있다. 한가지 접근법은 시스템 사용자에게 디스플레이되는 이미지를 제어하기 위해 시스템 사용자의 제스텨를 측정하기 위해 비디오 카메라를 비-칩입 방식으로 사용한다. 도 1에 도시된 바와 같이, 이와 같은 인터페이스 시스템(10)은 사용자(14)가 서있는 블루 벽(12)을 구비하고 있으며, 이에 따라 사용자(14)의 2 차원 실루엣 추출이 허용되고 상기 실루엣의 크로마키잉이 된다. 시스템(10)은 또한 2 차원 사용자 실루엣을 식별하여 비디오 신호를 생성하는 비디오 카메라(16)를 포함하고 있다. 컴퓨터의 마이크로프로세서(18)는 비디오 카메라(16)에 의해 보여지는 2 차원 사용자 실루엣을 단지 2 차원 형상으로 식별한다. 따라서, 사용자(14)의 움직임은 상기 실루엣의 이미지 좌표를 변화시킴으로써 마이크로프로세서(18)에 의해서만 이해된다. 마이크로프로세서(18)는 텔레비젼 디스플레이(20) 상에 사용자(14)의 이미지를 디스플레이한다. 텔레비젼(20)상에 디스플레이된 이미지는 사용자의 이미지가 크로마키잉된 2 차원 장면으로 구성되어 있다. 사용자(14)는 특정 포즈, 예컨대 핸드 오버 헤드를 채용함으로써, 또는 사용자의 실루엣의 일부분이 사용자(14)가 디스플레이된 객체를 터치한 것처럼 나타나게 하는 소정의 세트의 이미지 좌표를 터치하도록 이동함으로써 디스플레이된 장면과 대화할 수 있다.

도 1에 도시된 인터페이스 시스템은 멀티미디어와 가상 현실 응용과의 사용이 쉽고 저렴한 인터페이스를 제공한다. 하지만, 인터페이스 시스템은 컴퓨터 디스플레이 객체와의 2 차원 대화만을 허용하며, 이에 따라 2 차원에 대한 인터페이의 기능이 제한된다. 예컨대, 도 1의 2 차원 시스템에서, 모든 컴퓨터 디스플레이 객체는 사용자의 실루엣을 둘러싼 윈도우에 동일한 깊이를 가지고 있다.

도 2에 도시된 바와 같이, 도 1에 도시된 시스템에 의해 이용된 종래의 2 차원 실루엣 추출 프로세스는 하드웨어 프로세스(점선 위에 있음)와 소프트웨어 프로세스(점선 아래에 있음)를 포함하고 있고, 컴퓨터 마이크로프로세서(18)는 소프트웨어 프로세스 스텝을 수행한다. 상기 하드웨어 프로세스는 아날로그 비디오 카메라 신호를 입력하는 스텝(22) 및 그레이 스케일 2 진 데이타 신호를 생성하기 위해 아날로그 카메라 신호를 디지탈화하는 스텝(24)을 포함하고 있다. 상기 하드웨어 프로세스는 또한 비디오 카메라의 해상도를 (고 또는 저로) 조절하는 스텝(26)과 관심있는 이지미, 즉 사용자의 이미지의 윈도우에 카메라 뷰를 제한하는 스텝(28)을 포함하고 있다. 상기 하드웨어 프로세스는 그레이 스케일 2 진 데이타 신호를 디지탈 2 진 데이타, 예컨대 "1" 또는 "0"으로 변환하는 동적 임계 스텝(30)을 다음에 포함하고 있다. 스텝(32)에서, 상기 하드웨어 프로세스는 사용자의 이미지의 에지(실루엣)을 결정하고, 에지 데이타를 기초로, 스텝(26)에서 해상도를 조절하기 위해 화상 크기를 조절한다(스텝(34)).

상기 소프트웨어 프로세스는 스텝(34)의 에지 데이타로부터 배경을 공제하여 사용자의 이미지의 이미지 윤곽만을 남겨 두는 제 1 스텝(36)을 포함하고 있다. 상기 배경은 상기 카메라에 의해 보여지는 빈 장면의 화상이며 스텝(38)에서 제공된다. 상기 소프트웨어는 또한 사용자의 이미지의 모든 에지 데이타를 함께 결합하여, 사용자의 이미지의 주위에 단일의 윤곽을 제공하는 스텝을 포함하고 있다. 상기 소프트웨어 프로세스는 또한 사용자 이미지 윤곽이 사람, 동물 동을 나타내는지를 결정하는 식별 스텝(42), 및 사용자의 실루엣 특성(x,y 좌표로)을 식별하는 실루엣 특성 스텝(44)을 포함하고 있다. 스텝(46)에서, 상기 소프트웨어 프로세스는 사용자의 주위의 바운딩 박스를 계산하기 위해 윤곽 식별 데이타를 이용한다. 상기 바운딩 박스 데이타는 사용자 주위의 카메라 윈도우의 크기를 제한하는 윈도우 제한 스텝(28)에 제공되며, 따라서 추출 프로세스의 속도가 증가한다.

미국 MIT의 미디어 연구소에 의해 제안된 다른 접근법은 시스템 사용자의 카메라 기초 몸체 움직임 및 제스쳐를 이용함으로써 컴퓨터 발생 그래픽 세상과 사용자가 대화할 수 있다. 이와 같은 시스템은 현재 이용 가능한 종류중에서 특히 융통성이 있지만, (1) 표준 그래픽 인터페이스("SGI") 플랫폼을 기초로 하고 있고, (2) 시스템 사용자 주위의 조명 상태에 민감하며, (3) 3 차원으로 사용자의 발 위치를 추적하지만, 사용자의 몸의 나머지 부분을 2 차원 객체로 취급하고, (4) 단일 사용자에 한정되며, (5) 손가락과 같은 사용자 손의 세부적인 것을 관찰하기 위해 해상도의 지나친 코오스를 제공하고, (6) 후술되는 "매직 미러" 대화형 비디오 환경("IVE") 패러다임에만 결합되는 문제점이 있다.

또 다른 접근법은 일본 특허 공보 제 07-038873 호("JP 07-038873")에 공개된 바와 같이 사람의 이미지를 실시간으로 인식하는 방법을 포함하고 있다. JP 07-038873 호에는 표현, 머리의 회전, 손가락의 움직임 및 사람 몸의 회전을 검출하는 사람의 3 차원 그래픽 발생에 대해 설명되어 있다. 또한, JP 07-38873 호에는 주로 원격 회의를 위해 사람의 3 차원 그래픽 애니메이션을 사용하는 것에 중점을 두고 있고, 사용자는 컴퓨터에 의해 발생된 장면 내의 객체를 제어할 수 없다. 최종적으로, 상기 문헌에는 로컬 사용자의 3차원 애니메이션과는 대조적으로, 원격 회의에 원격 사용자의 3 차원 애니메이션을 사용하는 것이 공개되어 있다.

국제 특허 출원(PCT) WO 96/21321("PCT 96/21321)에 기재된 마지막 접근법은 이벤트(예컨대, 축구 게임)의 3 차원 시뮬레이션을 실시간으로 생성하는 것과 카메라 및 마이크로폰을 사용하여 CD ROM 상에 저장하는 것으로 구성되어 있다. 하지만, PCT 96/21321에 공개된 시스템은 카메라에 의해 관측되는 바와 같이 이벤트의 3 차원 장면을 재생만을 한다. 또한, PCT 96/21321 시스템의 사용자는 상기 3 차원 장면의 원경을 변경시킬 수만 있고, 상기 장면의 객체를 제어할 수는 없다.

불행히도, 위에서 설명한 상기 제안된 접근법들은 직관적인 대화형 포맷을 광범위한 대화 기능과 조합할 수 있는 컴퓨터/사용자 인터페이스를 제공한다.

본 발명은 멀티미디어 및 가상 현실 응용에 관한 것으로, 특히, 카메라 기초 제스쳐 입력을 이용한 가상 현실 환경을 통한 3 차원 네비게이션을 수행하는 시스템 및 방법에 관한 것이다.

도 1은 사용자의 카메라 기초 실루엣을 이용하여 2 차원 이미지를 구성하는 종래 시스템의 블록도.

도 2는 사용자의 실루엣의 2 차원 이미지를 추출하는 종래의 소프트웨어 프로세스에 포함된 스텝을 나타낸 흐름도.

도 3은 본 발명의 바람직한 실시예에 따른 사용자의 카메라 기초 제스쳐 입력을 이용하여 3 차원 이미지를 구성하는 시스템의 블록도.

도 4는 본 발명의 다른 바람직한 실시예에 따른 사용자의 카메라 기초 제스텨 입력을 이용하여 3 차원 이미지를 구성하는 시스템의 블록도.

도 5는 도 3 및 도 4에 도시된 본 발명의 바람직한 실시예에 따른 대화 영역 내의 3 차원 위치에 사용자의 2 차원 이미지 특성 및 대화 영역을 맵핑하는 소프트웨어 프로세스에 포함된 스텝을 나타낸 흐름도.

도 6은 도 3에 도시된 3 차원 이미지를 구성하는 시스템을 사용하여 본 발명의 카메라 기초 제스쳐 입력을 이용하는 가상 현실 환경을 통한 3 차원 네비게이션을 수행하는 시스템을 나타낸 블록도.

도 7은 도 6에 도시된 본 발명의 카메라 기초 제스쳐 입력을 사용하여 가상 현실 환경을 통한 3 차원 네비게이션을 수행하는 시스템용의 소프트웨어 프로세스에 포함된 스텝을 나타낸 흐름도.

도 8은 몸 부분의 길이를 몸 높이(H)의 비로 나타낸 생물 측정 데이타 표를 나타내고, 상기 몸 높이(H)는 표준형의 사람의 높이인 도면.

본 발명의 목적은 상기 2 차원 인터페이스 시스템과 MIT의 연구소에서 제안한 다른 접근법 및 위에서 설명한 다른 관련 기술이 가지고 있는 문제점을 해결하는데 있다. 다른 목적은 상기 이머시브 접근법 및 비이머시브 접근법의 이점을 가산 현실 환경의 디스플레이 및 대화에 통합하는 컴퓨터 사용자용의 3 차원 인터페이를 제공하는데 있다.

다른 목적은 피사체가 컴퓨터 사용자의 주위의 가상 현실 환경의 3 차원 공간을 점유하고, 컴퓨터 사용자가 통상의 몸 운동을 통해 상기 가상 현실 환경을 내비게이션하고 상기 가상 현실 환경의 피사체를 제어할 수 있도록 컴퓨터 발생 피사체의 3 차원 디스플레이를 제공하는데 있다.

본 발명의 이점은 일부는 후술되고 일부는 그 설명으로부터 명백해지거나, 본 발명의 실시예에 의해 학습될 수도 있다. 본 발명의 목적 및 이점은 첨부된 청구의 범위에 특별히 기재된 요소 및 조합에 의해 실현될 수 있다.

본 발명에 따라 상기 목적을 달성하기 위해, 여기에서 구체화된 바와 같이, 본 발명은 시스템 사용자의 카메라 기초 제스쳐 입력을 이용하여 가상 현실 환경을 통한 3 차원 내비게이션을 허용하는 시스템을 구비하고 있으며, 이 시스템은, 컴퓨터 판독 가능 메모리 수단과; 상기 시스템 사용자의 제스쳐 및 상기 시스템 사용자를 둘러싼 대화 영역을 나타내는 비디오 신호를 발생하는 수단과; 상기 시스템 사용자의 앞에 위치된, 비디오 이미지를 디스플레이하는 수단과; 상기 시스템 사용자의 몸의 3차원 위치 및 주요 몸 부분을 결정하기 위해, 컴퓨터 판독 가능 메모리 수단에 저장된 프로그램에 따라 상기 비디오 신호를 처리하는 수단을 구비하고 있고, 상기 비디오 신호 처리 수단은 상기 시스템 사용자의 몸의 3차원 위치 및 주요 몸 부분을 기초로, 상기 시스템 사용자의 3차원 이미지 및 상기 비디오 이미지 디스플레이 수단 상의 대화 영역을 구성하며, 상기 비디오 디스플레이 수단은 가상 현실 환경 내에 3 차원 그래픽 물체를 디스플레이하고, 상기 시스템 사용자에 의한 이동은 상기 시스템 사용자가 가상 현실 환경 전반에서 이동하는 것으로 나타나도록 상기 비디오 이미지 디스플레이 수단 상에 디스플레이된 2차원 물체의 외견상의 이동을 허용한다.

또한, 상기 목적을 달성하기 위해, 본 발명은 컴퓨터 판독가능 메모리와 이 컴퓨터 판독가능 메모리에 저장된 프로그램을 이용하여 마이크로프로세서에 접속된 비디오 이미지 디스플레이를 가지고 있는 컴퓨터 시스템의 사용자의 카메라 기초 제스쳐 입력을 이용하여 가상 현실 환경을 통한 3 차원 내비게이션 허용 방법을 포함하고 있고, 이 방법은, 상기 시스템 사용자의 제스쳐 및 상기 시스템 사용자를 둘러싼 대화 영역을 지시하는 비디오 신호를 발생하는 단계와; 상기 시스템 사용자의 몸의 3 차원 위치 및 주요 몸 부분을 결정하기 위해 상기 마이크로프로세서에서 신호를 처리하는 단계와; 상기 시스템 사용자의 몸 및 주요 몸 부분의 3 차원 위치를 기초로 상기 비디오 이미지 디스플레이 상에 상기 시스템 사용자와 대화 영역의 3 차원 이미지를 구성하기 위해 상기 마이크로프로세서를 이용하는 단계와; 상기 가상 현실 환경 내의 3 차원 그래픽 피사체를 상기 비디오 이미지 디스플레이 상에 디스플레이하기 위해 상기 마이크로프로세서를 이용하는 단계로서, 상기 시스템 사용자가 상기 가상 현실 환경 전체를 통해 이동하는 것으로 나타나도록 상기 시스템 사용자에 의한 이동이 상기 비디오 이미지 디스플레이 상에 디스플레이된 3 차원 피사체에 의해 외관상의 이동을 허용하는 단계를 포함하고 있다.

상기 비디오 이미지 디스플레이 상에 디스플레이된 피사체는 비디오 이미지 디스플레이 화면으로부터 피사체가 떨어지도록 되어 있는 거리에 따른 양만큼 서로 상이한 위치에 있고 상기 비디오 이미지 디스플레이 상의 상이한 위치에 있게 된다. 상기 이동은 사용자의 손으로부터 가상 현실 환경의 모델링된 위치에 있는 피사체까지 시야 라인을 따라 상기 스크린의 교차점에서의 시프트에 대응된다. 이 시프트는 머리의 위치의 검출된 변화로부터 각각의 피사체에 대해 계산된다.

상기 목적을 달성하기 위해, 본 발명은 컴퓨터 판독가능 메모리와 이 컴퓨터 판독가능 메모리에 저장된 프로그램을 이용하여 마이크로프로세서에 접속된 비디오 이미지 디스플레이를 가지고 있는 컴퓨터 시스템의 사용자의 카메라 기초 제스쳐 입력을 이용하여 가상 현실 환경을 통한 3 차원 내비게이션 허용 프로그램을 포함하고 있고, 상기 컴퓨터 판독 가능 메모리 장치는, 상기 시스템 사용자의 몸의 3 차원 위치 및 주요 몸 부분을 결정하기 위해 상기 마이크로프로세서에서 신호를 처리하는 명령과; 상기 시스템 사용자의 몸 및 주요 몸 부분의 3 차원 위치를 기초로 상기 비디오 이미지 디스플레이 상에 상기 시스템 사용자와 대화 영역의 3 차원 이미지를 구성하기 위해 상기 마이크로프로세서를 이용하는 명령과; 상기 가상 현실 환경 내의 3 차원 그래픽 피사체를 상기 비디오 이미지 디스플레이 상에 디스플레이하기 위해 상기 마이크로프로세서를 이용하는 명령으로서, 상기 시스템 사용자가 상기 가상 현실 환경 전체를 통해 이동하는 것으로 나타나도록 상기 시스템 사용자에 의한 이동이 상기 비디오 이미지 디스플레이 상에 디스플레이된 3 차원 피사체에 의해 외관상의 이동을 허용하는 명령을 포함하고 있다.

상기 목적을 달성하기 위해, 본 발명은 컴퓨터 판독가능 메모리와 이 컴퓨터 판독가능 메모리에 저장된 프로그램을 이용하여 마이크로프로세서에 접속된 비디오 이미지 디스플레이를 가지고 있는 컴퓨터 시스템의 사용자의 카메라 기초 제스쳐 입력을 이용하여 가상 현실 환경을 통한 3 차원 내비게이션 허용 컴퓨터 프로그램을 포함하고 있고, 상기 컴퓨터 프로그램 장치는, 상기 시스템 사용자의 몸의 3 차원 위치 및 주요 몸 부분을 결정하기 위해 상기 마이크로프로세서에서 신호를 처리하는 수단과; 상기 시스템 사용자의 몸 및 주요 몸 부분의 3 차원 위치를 기초로 상기 비디오 이미지 디스플레이 상에 상기 시스템 사용자와 대화 영역의 3 차원 이미지를 구성하기 위해 상기 마이크로프로세서를 이용하는 수단과; 상기 가상 현실 환경 내의 3 차원 그래픽 피사체를 상기 비디오 이미지 디스플레이 상에 디스플레이하기 위해 상기 마이크로프로세서를 이용하는 명령으로서, 상기 시스템 사용자가 상기 가상 현실 환경 전체를 통해 이동하는 것으로 나타나도록 상기 시스템 사용자에 의한 이동이 상기 비디오 이미지 디스플레이 상에 디스플레이된 3 차원 피사체에 의해 외관상의 이동을 허용하는 수단을 포함하고 있다.

이상의 일반적인 설명 및 다음의 상세한 설명은 청구의 범위에 청구된 바와 같이 본 발명을 예시하는 것이고 한정하는 것이 아님을 알 수 있다.

이제, 본 발명의 바람직한 실시예에 대해 상세히 설명하며, 예들은 첨부 도면에서 기재되어 있다. 가능한 경우에는, 동일한 부분을 참조하는데 도면 전반에 걸쳐 동일한 참조 번호가 사용되게 된다.

바람직한 실시예에 따라, 본 발명은 시스템 사용자의 카메라 기초 제스쳐 입력을 사용하는 가상 현실 환경을 통한 3 차원 네비게이션을 수행하는 시스템 및 방법을 포함하고 있다. 상기 시스템은 컴퓨터 판독 가능 메모리 수단, 시스템 사용자의 제스쳐 및 상기 시스템 사용자를 둘러싸는 대화 영역을 나타내는 비디오 신호를 발생하는 수단, 및 비디오 이미지를 디스플레이하는 수단을 구비하고 있다. 상기 비디오 이미지 디스플레이 수단은 상기 시스템 사용자의 앞에 위치되어 있다. 상기 시스템은 또한 시스템 사용자의 몸의 3 차원 위치 및 주요 몸 부분의 3 차원 위치를 결정하기 위해, 상기 컴퓨터 판독 가능 메모리 수단에 저장된 프로그램에 따라 상기 비디오 신호를 처리하는 수단을 더 구비하고 있고, 여기서, 사기 비디오 신호 처리 수단은 상기 시스템 사용자의 몸 및 주요 몸부분의 3 차원 위치를 LRCH로 상기 비디오 이미지 디스플레이 수단 상에 시스템 사용자 및 대화 영역의 3 차원 이미지를 구성하고, 상기 비디오 이미지 디스플레이 수단은 상기 가상 현실 환경 내에 3 차원 그래픽 피사체를 디스플레이하며, 상기 시스템 사용자에 의한 이동은 상기 시스템 사용자가 가상 현실 환경 전반을 통해 이동하는 것으로 나타나도록 상기 비디오 이미지 디스플레이 수단 상에 디스플레이된 3 차원 피사체의 외관 상의 이동을 일으킨다.

바꾸어 말하면, 본 발명은 시스템 사용자에 의한 컴퓨터 비젼 대화를 기초로 자연스럽고 직관적인 컴퓨터/사용자 인터페이스를 제공한다. 여기서 사용된 바와 같이, "컴퓨터 비젼(computer vision)"은 이미징 장치가 보여주는 피사체에 의해 비디오 이미징 장치로부터 수신된 정보를 해석하기 위해 컴퓨터를 사용하는 것이다. 컴퓨터 비젼에 의해, 사용자 제스쳐, 몸 움직임, 머리 움직임, 눈 움직임 등을 인식할 수 있다. 특히, 본 발명은 2 차원 이미지 좌표에 시스템 사용자의 실루엣을 가지고 있고, 상기 실루엣을 시스템 사용자가 대화 영역에 점유한 3 차원 이미지 좌표에 투사한다.

이와 같은 접근법은 시스템 사용자에 대해 요구하는 것이 없고 제조가 저렴하다. 상기 시스템 사용자가 대형 스크린 화면을 통해 대화하면, 컴퓨터는 시스템 사용자가 지시하고 있는 곳 등을 알게 되고, 상기 디스플레이 상에서 정보를 조작하게 된다. 또한, 상기 디스플레이 화면의 앞에 있는 상기 시스템 사용자의 위치 및 자세는 3 차원 그래픽 모델, 즉 가상 현실 환경과 대화하는데 사용된다. 본 발명의 컴퓨터 비젼 시스템에 대한 제스쳐의 해석의 부가는 상기 컴퓨터와의 대화에 현실성을 부가한다. 예컨대, 직관적인 손 제스쳐는 상기 가상 현실 환경을 통한 내비게이션을 허용하기 위해 상기 컴퓨터 시스템과의 인터페이스에 사용될 수 이TEk.

종래의 SGI 기초 소프트웨어에 의존하지 않고, 본 발명은 도 3에 가장 잘 도시된 바와 같이 카메라 기초 사용자 인터페이스 시스템(5)을 이용한다. 시스템(50)은 비디오 카메라(56), 비디오 디스플레이 스크린(54), 및 Philips(TM) 단일 보드 이미지 프로세서(SBIP)(60)를 컴퓨터(58)를 구비하고 있다. SBIP(60)는 MIT의 미디어 연구서에서 제안한 접근법, 따라서 2 차원 시스템이 가지고 있는 문제점(1)-(3)을 해결해 준다. 컴퓨터(58)는 또한 3 차원 이미징 소프트웨어로 엔코딩된 컴퓨터 판독 가능 메모리(66)를 구비하고 있다. SBIP(60)은 상기 시스템(50)이 상기 시스템 사용자의 3 차원 몸 움직임을 처리할 수 있도록 상기 소프트웨어를 이용한다. 본 발명의 3 차원 이미징 소프트웨어는 MIT의 미디어 연구에 의해 접근법이 가지고 있는 문제점(4)(5)을 정정해준다.

상기 미디어 연구소 접근법의 문제점(6)을 처리하기 위해, 본 발명은 MIT에 의해 제안된 "매직 미러" 패러다임 이외의 여러 IVE 패러다임을 추정할 수 있는 대화형 비디오 환경("IVE")을 제공한다. 본 발명은 다음의 4 개의 IVE 패러다임, 즉 (1) 디스플레이가 원격 위치의 카메라 입력의 라이브 비디오를 보여 주고, 상기 시스템 사용자의 비디오 카메라 입력이 상기 디스플레이 상의 라이브 비디오와 합성되며(MIT 접근법에서와 같이 "미러" 효과로 알려져 있음); (2) 상기 디스플레이가 원격 위치의 라이브 비디오를 보여 주고, 사용자의 카메라 입력이 디스플레이 상의 라이브 비디오와 합성되지 않으며("윈도우" 효과로 알려져 있음); (3) 상기 디스플레이가 가상 현실에서와 같이 그래픽 이미지를 보여 주고, 상기 시스템 사용자의 카메라 입력이 상기 디스플레이 상의 그래픽 이미지와 합성되며; (4) 상기 디스플레이가 그래픽 이미지를 보여 주고, 상기 시스템 사용자의 카메라 입력이 상기 디스플레이 상의 그래픽 이미지와 합성되지 않음을 추정할 수 있다.

A. 바람직한 실시예의 시스템 하드웨어의 상세한 설명

여기서 구체화된 바와 같이, 본 발명의 바람직한 실시예의 카메라 이용 제스쳐 입력을 이용하여 가상 현실 환경을 통한 3 차원 내비게이션을 허용하는 시스템 및 장치가 도 3에 도시되어 있다. 특히, 시스템(50)은 비디오 카메라(56)와 같은 비디오 신호를 발생하는 수단에 전기 접속된 컴퓨터(58)와 같은 비디오 신호를 처리하는 수단을 구비하고 있다. 컴퓨터(58)는 비디오 디스플레이 스크린(54)과 같은 비디오 이미지를 디스플레이하는 수단에 전기 접속되어 있다. 비디오 디스플레이 스크린(56)은 시스템 사용자(62)가 서있는 대화 영역(52)의 앞에 위치되어 있다. 비디오 카메라(56)는 사용자(62)와 대화 영역(52)을 전기적으로 판독하고, 이들 이미지에 대응하는 비디오 신호를 생성하고, 상기 비디오 신호를 컴퓨터(58)에 제공한다.

바람직하게는, 컴퓨터(58)는 IBM-호환 개인용 컴퓨터와 같은 전형적인 마이크로 프로세서에 기초한 계산장치를 구성한다. 더욱이 컴퓨터(58)는 비디오 카메라(56)로부터 비디오 신호를 수신하기 위하여 마이크로 프로세서(60)에 연결된 시리얼 포트(64)와, 소프트웨어 프로그램으로 부호화되는 것이 가능한 종래의 컴퓨터 판독가능 메모리(66)를 구성한다. 바람직하게도, 마이크로 프로세서(60)는 Phillips(TM) 단일 보드 영상 프로세서(SBIP)이다. SBIP(60)는 대화식 영역(52) 및 사용자(62)의 2차원 영상 특성을 맵핑(mapping)하고 대화식 영역(52)내의 시스템 사용자(62)의 3차원 상태를 계산하기 위하여 컴퓨터 메모리(66)에서 부호화되는 소프트웨어(하기에 설명됨)를 사용한다. 또한, SBIP(60)는 컴퓨터 판독가능 메모리(66)내에서 영구적으로 부호화되거나 예컨대 플로피 디스켓 또는 CD ROM과 같은 외부 컴퓨터 판독가능 메모리를 통하여 내부에서 일시적으로 부호화되는 응용 프로그램을 사용한다. 더욱이, 컴퓨터(58)는 원격 제어기(remote control)와 같은 다른 대화식 제어로부터 데이터를 수신하기 위한 SBIP(60)에 연결되는 모드 제어 포트(68)와, 비디오 신호를 비디오 디스플레이 스크린(54)으로 전송하기 위한 비디오 프로세서 포트(70)를 구성한다. SBIP(60)에 의해 사용되며 컴퓨터 판독가능 메모리(66)에서 부호화된 소프트웨어는 시스템 사용자의 윤곽을 분리시키며, 3차원 영상 공간에서 그들의 몸체 및 림(limb)의 위치를 결정하며, 몸체 및 림 위치에 대응하는 비디오 신호를 비디오 디스플레이 스크린(54)에서 생성한다.

바람직하게는 디스플레이 스크린(54)이 3차원 그래픽 정보를 디스플레이 가능한 종래의 시청 모니터 시스템으로 구성된다. 본 발명에 사용되는 디스플레이 스크린(54) 및 비디오 카메라(56)의 형태는 유동적이며 본 발명의 시스템의 계획된 응용에만 기초하여 선택된다.

바람직한 실시예의 동작 입력을 기초로한 카메라를 사용하여 3차원 영상을 구성하기 위한 시스템의 더욱 바람직한 실시예에서, 비디오 디스플레이 스크린(34)은 후방 주사 RS125SW(TM) 스크린(y 방향으로 높이가 6 피트(feet)이고 x 방향으로 폭이 8 피트)을 갖는 후위 투사 이케가미 TTP 1000/1500(TM) 영사기(projector)이며; 대화식 영역(52)은 비디오 디스플레이 스크린(54) 전방의 12 피트(x 방향으로) 영역으로 11 피트(z 방향으로)이고; 비디오 카메라(56)는 Sony(TM) NTSC 비디오 카메라이다.

바람직한 실시예의 동작 입력을 기초로한 카메라를 사용하여 가상 현실 환경을 통하여 3차원 항법을 실현하기 위한 시스템의 다른 실시예가 도 4에 도시된다. 도시된 바와 같이, 다른 실시예(80)는 비디오 카메라(56)와 SBIP(60)를 갖는 컴퓨터(58) 및 도 3을 참조하여 설명된 바와 같은 컴퓨터 판독가능 메모리(66)를 구성한다. 그러나, 또 다른 실시예에서는 CD ROM 상에서 엔코딩된 응용 프로그램을 판독하고 SBIP(60)에 이와 같은 응용 프로그램을 제공할 수 있는 컴팩트 디스크 판독기(84)를 구비하고 있다. 이 대안적인 실시예는 애플리케이션 프로그램의 상(features)을 제어하는 리모트 제어기(86)를 또한 구비하고 있다. 더욱이, 이 대안적인 실시예는, 도 3에 도시된 실시예의 디스플레이 스크린과는 대조적으로, SBIP(60)로부터의 비디오 신호의 수신과 SBIP(60)로의 정보의 전송이 가능한 통상의 텔레비전 디스플레이 장치(82)를 포함하고 있다.

B. 시스템 소프트웨어의 양호한 실시예의 설명

이하에서는, 시스템 유저의 2차원 이미지 상(feature)과 대화식 영역을 그 대화식 영역 내의 3차원 공간으로 매핑하기 위한, 본 발명의 소트프웨어의 양호한 실시예와, 이 양호한 실시예에 사용하기 위한 애플리케이션 프로그램을 설명한다. 설명의 편의상, 상기 소프트웨어와 애플리케이션 프로그램을 단일 시스템 유저에 관하여 설명하기로 한다. 그러나, 본 발명의 카메라에 기초한 제스쳐(gesture) 인식 테크놀러지는, 각 유저를 개별적으로 식별하고 각 유저와 대응하게 대화를 행함으로써, 복수의 유저에 대해서도 사용될 수 있음을 이해하길 바란다.

도 5는 시스템 유저(62)의 2차원 이미지의 상을 3차원 공간에 매핑하기 위한 소프트웨어 프로세스에 포함된 스텝을 나타내는 플로우챠트로서, 여기서 시스템 유저(62)는 도 3 및 도 4에 도시된 본 발명의 양호한 실시예에 따라 위치하고 있다. 3차원 이미징 소프트웨어는, 엔코드 처리후, 컴퓨터 판독가능의 메모리(66) 내에 계속 저장하거나, 디스켓, CD ROM, 또는 유사한 메모리 저장 수단을 사용하여 메모리(66)에 일시적으로 저장하여도 좋다. 도시한 바와같이, 3차원 이미징 소프트웨어 프로세스는, 이미지 공간 좌표(u,v)에서, 유저의 2차원 두상과, 수상, 및 족상을 도 2에 도시한 2차원 추출 프로세스를 사용하여 추출하는 제 1 스텝(100)을 포함한다. 2차원 좌표(u,v)는 비디오 카메라(56)의 전면의 유저의 2차원 x-y 면에 대응하고 있다. 상기 3차원 이미징 프로세스는, 3차원 좌표(x,y,z)에서 비디오 카메라(36)의 실내에 대한 방위(orientation)와 위치를 읽어 내는 스텝(102)을 또한 포함하고 있다. 유저의 발이 실내 바닥 위에 있다면, 상기 3차원 이미징 소프트웨어는, 스텝(104)에서, 추출된 유저의 2차원 족상을, 카메라(56)의 실내 방위(x,y,z)를 사용하여 3차원 좌표(x,y,z)로 투영시킨다. 상기 3차원 이미징 소프트웨어는, 스텝(106)에서, 손과 머리가 z 방향에서 발의 위치와 약간 어긋나 있는, 추출된 유저의 2차원 두상과 수상을, 카메라(56)의 실내 방위(x,y,z)를 사용하여, 3차원 좌표(x,y,z)로 투영시킨다.

3차원 영상 처리는 컴퓨터 판독가능 메모리(66)내에 저장되고 사용자의 키에 의해 인덱스된 생물 측정 데이터(단계 110에 도시함)를 액세스하기 위하여 사용자의 측정된 키(h)를 이용하는 단계(108)를 더 포함한다. 본 발명에 이용할 수 있는 생물 측정 데이터 테이블의 예가 도 8에 도시되어 있다. 본 발명은 도 8에 도시된 생물 측정 데이터에 국한되지 않는다. 왜냐하면, 다른 생물 측정 데이터들은 전술된 바와 같이 D. Chaffin ＆ G. Andersson의 Occupational Biomechanics, 제2판(1991), L. Farkas의 Anthropometry of the Head and Face, 제2판(1994), N. A. S. A.의 Anthropometric Source Book, 제 1 내지 3 권(1978)에서 이용될 수도 있기 때문이다. 3차원 영상 처리는, y 방향으로 0.182h의 거리만큼 사용자의 어깨가 사용자의 머리의 상부로부터 사용자 목의 하부까지 오프셋되고, 사용자의 등의 중앙으로부터 어깨뼈 끝부분까지의 어깨 너비가 x 방향으로 0.129h이고, h가 사용자의 키라고 가정한다. 영상 처리는 또한 사용자의 팔길이가 0.44h이고 0.44h보다 더 큰 측정된 팔길이가 비디어 카메라(56)에 의해 추출될 때까지 가정한 팔 길이(0.44)를 이용한다고 가정한다. 소프트웨어 처리는, 단계(108)에서 계산된 가정 팔길이(0.44h)를 이용하여 대응하는 발로부터 z 방향으로 각각의 팔 오프셋을 계산하는 단계(112)를 포함한다. 단계(112)에서, z 방향에서 각 팔의 실제 길이는 상술한 원리를 이용하여 가정한 팔길이로부터 계산된다. 소프트웨어 처리는 사용자의 머리, 손, 발의 3차원 위치를 응용 프로그램에 제공하는 최종 단계(114)를 포함한다.

도 6은 도 3에 도시한 3차원 영상을 형성하는 시스템 및 카메라 방식의 제스쳐 입력을 이용하는 가상 현실 환경을 통해 네비게이션을 가능하게 하는 시스템(90)을 도시한 블록도이다. 도 6에 도시된 바와 같이, 네비게이션 시스템의 사용자(62)는 가상 현실 환경(94)의 그래픽 영상(92)을 디스플레이하는 영상 디스플레이 스크린(54)의 앞쪽에 서있다. 비디오 카메라(56)는 사용자(62)를 가시화하고 SBIP(60)는 전술한 바와 같이 사용자의 머리, 손, 다리, 발 등과 같이 사용자 신체의 움직임을 식별함으로써 그리고 사용자(62)의 3차원 영상을 추출함으로써 카메라(56)로부터 수신된 데이터를 처리한다.

따라서, 도 6에 도시된 시스템은 가상 현실 환경과 상호 작용하고 디스플레잉하는 것에 대한 이머시브 및 논이머시브 방법의 이점을 포함한다. 본 발명의 네비게이션 시스템은 신체 움직임을 판독하기 위해 사용자 신체상에 특수 장비를 장착하지 않고, 스테이셔너리 디스플레이상의 가상 현실 환경을 디스플레이하는 논이머시브 개념들을 이용한다. 본 발명의 네비게이션 시스템은 또한 가상 현실 환경과의 상호 작용 및 움직임을 제어하기 위해 사용자의 신체 동작을 이용하는 이머시브 개념을 활용한다. 대형 스크린 디스플레이는 사용자가 가상 환경의 라이프 사이즈 렌더링(life-size rendering)을 보고 디스플레이가 사용자 가시 범위의 많은 부분을 커버하도록 사용되는 것이 바람직하다.

본 발명은 다음과 같이 가상 실현 환경(94)을 통한 네이게이션을 허용하다. 사용자(62)가 디스플레이 스크린(54)의 정면에서 걸을 때, SBIP(60)는 사용자(62)가 서있는 위치를 계산한다. 전방 스텝을 취함으로써, 사용자(62)는 SBIP(60)가 디스플레이 스크린(54)상에서 그래픽 이미지를 이동하게 하여 사용자(62)는 가상 현실 환경(94)을 통해 전방으로 이동하는 것처럼 보인다. 마찬가지로, 좌 또는 우로 걸음으로써, 사용자(62)는 SBIP(60)가 그래픽 이미지(92)를 이동하도록 하여 사용자(62)는 가상 현실 환경(94)을 통해 좌 또는 우로 이동하는 것처럼 보이다. SBIP(60)는 사용자(62)가 후방으로의 스텝을 취할 경우 그래픽 이미지(92)의 이동을 정지시킨다. 사용자(62)가 후방으로 제 2 스텝을 취하면, SBIP(60)는 그래픽 이미지(92)를 역방햐응로 이동시키므로 사용자(62)는 가상 현실 환경(94)을 통해 후방으로 이동하는 것처럼 보인다.

적응성을 증가시키기 위해 추가의 몸짓이 본 발명의 네비게이션 시스템(90)에 의해 사용되어도 된다. 예를 들면, 사용자(62)가 자신의 우측 손을 들어올리면, SBIP(60)는 그래픽 이미지(92)를 일정 비율로 시계방향으로 회전시키므로 사용자는 가상 현실 환경(4)에서 시계 방향으로 회전하는 것처럼 보이다. 사용자가 자신의 내림으로써, 사용자(62)는 SBIP(60)에게 명령을 보내서 회전을 정지시키고, 여기서 SBIP(60)는 그래픽 이미지(92)의 회전을 정지시킨다. 사용자(62)가상 현실 환경(94)에서 외견상의 반시계 방향 회전을 개시 또는 정지시키기 위해 유사한 방시긍로 사용자 자신의 좌측 손을 사용해도 된다. 또, 사용자(62)가 허리를 구부리면, 사용자(62) 정면에서 지면의 가상 이미지가 보여질 수 있도록 하기 위해 SBIP(60)는 그래픽 이미지(92)를 회전시킨다. 또한 본 발명의 네비게이션 시스템(90)에는 다음과 같은 추가의 몸짓이 제공되어도 된다. 즉 (1) 그래픽 물체는 사용자(62)가 그래픽 객체의 방향에서 자신의 손에 도달할 경우 픽업되고, (2) "픽업" 그래픽 객체는 사용자 몸짓, 예를 들면 미는 동작, 움직임 등에 의해 조정되고, (3) 좌 및 우 다리 움직임은 사용자(62)가 가상 현실 환경을 통해 "도보"할 수 있도록 식별된다.

끝으로, 본 발명의 네비게이션 시스템은 팀(team)이루고 있는 사용자를 다룰 수 있도록 확대 적용되어도 되고, 여기서 대부분의 규칙은 시스템이 대다수의 사용자에 이해 지시된 방향으로 가도록 움직임을 지배하기 위해 사용되어도 된다. 다른 방법으로는, 멀티 유저 인터액션은 상이한 사용자가 동시에 가상 현실 환경에서 그래픽 객체를 선택하고 이들과 함께 인터액티브할 수 있도록 각자의 베이시스상에서 다루어질 수 있다. 예를 들면 비데오 게임에 응용할 경우, 이와 같은 장치는 상이한 사용자로 하여금 가상의 상대 팀과 일 대 일로 격전을 벌일 수 있게 한다.

도 7은 도 6에 도시된 본 발명의 카메라에 기초한 몸짓 입력을 사용하는 가상 현실 환경을 통해 3차원 네비게이션을 허용하는 시스템에 사용하기 위한 소프트웨어 프로세스에 포함되는 단계를 도시한 플로챠트이다. 이 프로세스는 사용자 머리와 손 위치의 1/2 샘플을 취하기 위해 시스템 사용자의 추출된 3차원 데이터(도 5의 프로세스로부터 제동됨)의 단계(200)를 포함한다. 또한 이 프로세스는 양 손의 평균 높이(평균 손의 높이는 1/2 샘플로부터 결정됨)가 사용자 머리의 평균 높이(평균 높이는 1/2 샘플로부터 결정됨)보다 큰지의 여부를 판정하는 단계(202)를 포함한다. 양 손의 평균 높이가 머리의 평균 높이보다 크지 않으면, 프로세스는 단계(200)으로 복귀한다. 그러나, 양 손의 평균 높이가 머리의 평균 높이보다 크면, 프로세스는 단계(204)로 이행하고 여기서 사용자 발의 위치(bx, bz)와 현재의 머리의 위치(bh)가 측정된다.

또한, 프로세스는 사용자가 여전히 볼 수 있는가의 여부를 판정하는 단계(206)를 포함한다. 사용자가 볼 수 있는 것이 아니면, 프로세스는 단계(200)로 복귀한다. 사용자가 볼 수 있는 것이면, 프로세스는 단계(208)로 이행하고, 여기서 현재의 발의 위치(px, pz), 현재 손의 위치 및 현재 높이(ph)가 측정되고, 이동 속도에 대한 변수(vx, vz), 사용자가 구부릴 경우 측정될 수 있는 높이 변수(ph) 및 회전 이동(dry, drx)은 0으로 설정된다. 이 프로세스는 다음과 같은 식, 즉 (1) vx=k*(bx-px) 및 (2) vz=k*(by-pz)에 따라 이동 속도를 설정하는 후속 단계(210)을 포함하며, 여기서 (k)는 사용자가 가상 현실 환경 주위를 이동하는 속도를 결정하는 시스템의 입력이며, 예를 들면 (k)가 증가하기 때문에 시스템 이동은 더욱 빠르게 된다. 바람직하게는 (k)는 0.3 내지 1.0의 값이다. 그 프로세스의 다음 단계(212)에서, 높이 변수(dy)는 양손 높이가 머리 높이(bh)보다 높으면 더미 변수(deltay)로 설정된다. 한편, 단계(21)에서, 단지 좌측 손 높이가 머리 높이(bh)보다 크면, 이 때 회전 운동(dry)은 알파로 설정되고, 여기서 알파는 가상 현실 환경의 반시계 방향이 요망되는 것을 나타낸다. 바람직하게는 알파는 +1.0도로 설정된다. 단지 우측 손 높이가 머리 높이(bh)보다 크면, 이 때 회전 운동(dry)은 (-알파)로 설정되고, 여기서 (-알파)는 가상 현실 환경의 시계방향 회전이 요망되는 것을 나타내고, 바람직하게는 -1.0도이다. 이 환경은 반복의 루프 시간에 기초하여 모든 반복이 회전되므로, 알파와 베타는 가상 현실 환경의 회전 속도를 결정한다. 바람직하게는, 시스템은 초당 10회 반복이 일어나는 것을 의미하는 10Hz에서 동작하고 있다.

또한, 프로세스는 현재의 높이(ph)가 현재의 머리 높이(bh)의 80% 이하이면 "참" 1에 대해 회전 운동(DRY)을 더미 변수(-beta)와 변수(벤딩)로 설정하는 단계(214)를 포함한다. 여기서 (-베타)는 사용자의 앞의 그라운드를 보기 위해 가상 현실 환경의 회전을 지시하고 (벤딩)은 사용자가 구부린 것을 지시한다. (-베타)는 -2.0 도로 설정되는 것이 바람직하다. (베타)는 +2.0 도로 설정되는 것이 바람직하다. 하지만, (벤딩)이 "참"이고, 현재 높이(ph)가 머리 높이(bh)의 80% 이상이면, 상기 회전 이둥(drx)은 (베타)로 설정되고 (벤딩)은 "거짓"으로 설정되며, 여기서 (베타)는 (-베타)와 반대의 회전을 지시한다. 상기 프로세스는 (vx), (vz) 및 (dy)에 의해 가상 현실 환경의 변위를 구현하고, 상기 비디오 디스플레이 스크린 상에서 (drx)와 (dry)에 의해 가상 현실 환경의 회전을 구현하는 최종 ??텝(216)을 구비하고 있다. 스텝(216) 후에, 상기 프로세스는 사용자를 아직 볼 수 있는지를 결정하기 위해 스텝(206)으로 복귀한다.

C. 바람직한 실시예에 이용되는 응용 프로그램의 예

본 발명은 본 발명의 카메라 기초 입력을 이용하여 3차원 이미지를 구성하는 시스템 및 방법에 이용할 수 있는 응용 프로그램의 다음과 같은 예에 의해 명확해지게 된다. 상기 응용 프로그램은 본 발명의 바람직한 실시예의 사용의 단순한 예가 되도록 의도되었고, 본 발명의 넓은 구성의 범위를 한정하도록 의도되지 않았다. 본 발명의 바람직한 실시예는 사용자가 그래픽 컴퓨터 발생 피사체를 3 차원으로 조작할 수 있도록 사용자의 3 차원 위치의 계산을 필요로 하는 응용에 사용될 수 있다. 응용 프로그램의 예로는 다중 사용자 대화를 위한 정보벽, 원격 통신 응용, 제스쳐 기초 원격 제어, 홈 연습 및 오락 응용을 들 수 있다.

1. 다중 사용자 대화를 위한 정보 벽

정보벽 응용 프로그램은 본 발명의 가상 현실을 통한 내비게이션 시스템 및 방법을 이용할 수도 있다. 상기 정보벽은 대형 노티스 보드형 디스플레이 화면을 구비하고 있고, 이 디스플레이 화면을 이용하여 사용자는 대화를 할 수 있으며, 이에 따라 매우 직관적이고 대화형의 정보 시스템이 제공된다. 이와 같은 응용은 쇼핑몰, 박물관, 도서관, 미술관, 및 기타 다른 유사 환경에 배치되는 것이 바람직하다. 예컨대, 쇼핑몰에서는, 정보 벽에 의해 쇼핑객은 특정 거리의 벽 내에 간단히 서있기 위해 상기 쇼핑몰 내로 들어갈 수 있다. 이때, 상기 정보벽은 서 있는 사람의 위치 및 높이로 상기 쇼핑몰의 전체 맵을 디스플레이한다. 쇼핑객이 지시함으로써 선택하는데 사용되는 다수의 정보 아이콘이 상기 맵의 주위에 디스플레이된다. 상기 아이콘으로 지시함으로써, 상기 정보는 특정 가게 및 화장실의 위치와 같은 각종 정보를 디스플레이한다. 상기 정보벽은 또한 광고 형태 등을 지원할 수도 있다. 예컨대, 상기 맵 상에서 가게를 지시함으로써, 쇼핑객은 상기 가게에 의해 제공된 상품 및 서비스를 설명하는 짧은 비디오 시퀀스를 디스플레이할 수 있다. 상기 정보 벽은 또한 디스플레이가 사용자가 디스플레이 길이를 따라 걸음에 따라 사용자를 추종할 수 있으며, 이에 따라 쇼핑객이 가기를 원하는 곳에 도달할 수 있도록 정확한 방향을 지시하게 된다.

2. 원격 통신 응용

본 발명의 바람직한 실시예는 원격 통신 응용에 사용될 수도 있다. 현재, 대역폭 문제는 비디오를 통한 소비자 원격 통신을 방지한다. 본 발명에 따라, 사용자는 실제 환경을 통해서가 아닌 공유된 가상 현실 세계를 통해서 통신을 할 수 있다. 사용자 실루엣으로부터의 비디오만이 가상 환경에서 전송되고 디스플레이되어야 하며, 여기서, 본 발명의 바람직한 실시예는 상기 사용자 실루엣을 추출하게 된다. 이 접근법은 컴퓨터에 의해 발생된 몸으로 사용자를 (정확한 위치에) 디스플레이함으로써 훨씬 간단해질 수 있고, 머리 영역의 비디오만이 전송되게 된다.

다중 사용자 비디오 회의가 본 발명의 보조를 받을 수도 있다. 현재, 사용자는 원격 회의의 사용자마다 카메라의 팬 및 줌 동작을 수행해야 한다. 본 발명은 카메라가 원격 회의의 참가자의 제스쳐에 의해 제어될 수 있는 상업용 원격 회의 시스템의 일부로서 사용될 수 있다. 예컨대, 참가자의 지적하면 카메라가 상기 참가자를 포커싱하게 되며, 이에 따라 사용자의 손으로 카메라를 사용자에 포커싱할 수 있다.

3. 제스쳐 기초 원격 제어

본 발명의 바람직한 실시예는 일체화된 홈 오락 및 통신 시스템의 기본 구조의 일부분으로서 사용될 수 있고, 원격 제어 유닛에 의해 현재 제공된 기능을 대체하고 있다. 예컨대, 사용자 몸 자세 및 제스쳐 뿐만 아니라 룸 내의 사용자의 위치가 모두 본 발명에 의해 액세스될 수 있다. CD 플레이어에서의 포인팅은 텔레비젼 상에 상기 CD 플레이어의 제어를 디스플레이할 수 있고, 텔레비젼 상의 메뉴 아이템에서의 포인팅은 이들 아이템을 선택할 수 있다.

하나 이상의 텔레비젼(또는 디스플레이)가 룸 내에 있으면, 사용자의 위치는 텔레비젼이 사용되는지를 결정하는데 사용될 수 있다. 한 명 이상의 사용자가 존재하면, 본 발명은 상이한 사용자들에 의해 발생된 별개의 명령을 인에이블할 수 있거나, 상이한 명령들에 대한 권한의 체계를 구성할 수 있음을 알 수 있다.

또한, 종래의 원격 제어가 본 발명에 사용될 수 있으며, 여기서, 본 발명은 원격 제어의 기능을 간단하게 하며, 이에 따라 예컨대 4 개의 버튼만을 가지게 된다. 본 발명에 따라, 사용자는 CD 플레이어(인접 스탠드)에 원격 제어를 지시할 수 있고, 상기 원격 제어는 CD 플레이어 원격 제어의 기능을 하게 된다. 또한, 사용자가 텔레비젼의 앞에 앉아 있을 수 있고, 원격 제어는 채널 전환기의 기능을 하게 된다. 마지막으로, 상기 원격 제어 장치는 권한의 체계를 형성하는데 사용될 수 있으며, 여기서 본 발명의 바람직한 실시예는 원격 제어 장치를 가지고 있는 사용자에만 응답하게 된다.

4. 홈 연습 및 오락 응용

본 발명의 바람직한 실시예는 또한 홈 연습 CD ROM 프로그램을 지원하는데도 사용되며, 여기서는 사용자가 자신의 트레이너를 구입해야 한다. 본 발명은 상기 트레이너가 상기 사용자의 방향에서 항상 보이게 되도록 홈 연습 프로그램에 방안의 사용자의 위치를 제공하게 된다. 본 발명은 또한 연습 중에 사용자가 연습을 멈추는 시간을 결정하게 되며, 이에 따라 트레이너는 다른 연습법을 추천할 수 있다. 또한, 상기 트레이너는 사용자가 연습하고 도움이 되는 정보를 제공하는 방식을 평가할 수도 있다.

상기 홈 연습 응용의 다른 특징은 상기 트레이너의 그래픽적으로 발생된 이미지와 사용자의 비디오 입력을 조합하고 이를 텔레비젼 상에 디스플레이할 수 있다. 이와 같은 특징은 동작 중에 볼 수 있다는 이점을 사용자에게 제공하고, 충고를 하기 위해, 예컨대 다리를 보다 높은 곳에 올려놓도록 하기 위해 상기 트레이너가 상기 사용자의 비디오 이미지의 여러 부분을 지적하거나 터치할 수 있게 한다. "가상" 조깅과 같은 다른 연습 응용, 가상 현실에서 댄스를 학습하는 것과 같은 교육 응용, 및 대화형 게임과 같은 오락 응용이 본 발명의 바람직한 실시예에 사용될 수도 있다.

본 발명의 카메라 기초 제스쳐 입력을 이용하여 본 발명의 범위나 원리로부터 이탈하지 않고 상기 시스템의 구성으로 3 차원 이미지를 구성하는 시스템 및 방향에서 여러 수정 및 변화가 행해질 수 있음은 당업자에게 명백하다. 일예로, 상기 시스템 및 방법은 이미지 및 사용자의 3 차원 구성을 필요로 하고 사용자와 3 차원 이미지 간의 대화를 필요로 하는 다른 응용 프로그램에 사용될 수 있다. 또한, 도 4에 도시된 CD 리더(84)와 리모트(86)는 도 3에 도시된 시스템에 사용될 수도 있다. 마지막으로, 시스템 사용자로부터 음성 인식 명령 및 사운드 효과를 디스플레이 화면에 제공하기 위해 오디오 구성이 바람직한 실시예에 포함될 수도 있다.

본 발명의 다른 실시예는 여기서 공개된 본 발명의 명세서를 고려하면 당업자에게 명백해진다. 상기 명세서는 단지 예시한 것이며, 본 발명의 범위 및 원리는 첨부된 청구의 범위에 기재되어 있다.

Claims

시스템 사용자(62)의 카메라 기초 제스쳐 입력을 이용하여 가상 현실 환경(94)을 통한 3 차원 내비게이션을 허용하는 시스템에 있어서,

컴퓨터 판독 가능 메모리 수단(65)과;

상기 시스템 사용자(62), 및 상기 시스템 사용자(62)를 둘러싼 대화 영역(52)의 제스쳐를 나타내는 비디오 신호(56,58)를 발생하는 수단과;

상기 시스템 사용자(62)의 앞에 위치된, 비디오 이미지(54,82)를 디스플레이하는 수단과;

상기 시스템 사용자(62)의 몸 및 주요 몸 부분의 3차원 위치를 결정하기 위해, 상기 컴퓨터 판독 가능 메모리 수단(66)에 저장된 프로그램에 따라 상기 비디오 신호(58)를 처리하는 수단을 구비하고 있고,

상기 비디오 신호 처리 수단(58)은 상기 시스템 사용자(62)의 몸 및 주요 몸 부분의 3차원 위치를 기초로, 상기 시스템 사용자(62) 및 상기 비디오 이미지 디스플레이 수단(54,82) 상의 대화 영역(52)의 3차원 이미지를 구성하며,

상기 비디오 디스플레이 수단(54,82)은 가상 현실 환경(94) 내에 3 차원 그래픽 피사체를 디스플레이하고, 상기 시스템 사용자(62)에 의한 이동은 상기 시스템 사용자(62)가 가상 현실 환경(94) 전체를 통해 이동하는 것으로 나타나도록 상기 비디오 이미지 디스플레이 수단(54,82) 상에 디스플레이된 2차원 물체의 외견상의 이동을 허용하는 시스템.
제 1 항에 있어서,

상기 시스템이 상기 시스템 사용자가 앞쪽으로 걷는 것을 검출하면, 상기 비디오 신호 처리 수단은 상기 시스템 사용자가 가상 현실 환경을 통해 앞쪽으로 이동하는 것으로 나타나도록, 상기 비디오 이미지 디스플레이 수단 상에서 상기 3 차원 그래픽 피사체를 이동시키고,

상기 시스템 사용자가 좌우로 걸으면, 상기 비디오 신호 처리 수단은 상기 시스템 사용자가 가상 현실 환경을 통해 좌우로 이동하는 것으로 나타나도록, 상기 비디오 이미지 디스플레이 수단 상에서 상기 3 차원 그래픽 피사체를 이동시키는 시스템.
제 2 항에 있어서,

상기 시스템 사용자가 처음으로 뒤쪽으로 걸으면, 상기 비디오 신호 처리 수단은 상기 비디오 이미지 디스플레이 수단 상에서의 3 차원 그래픽 피사체의 이동을 정지시키고,

상기 시스템 사용자가 다음으로 뒤쪽으로 걸으면, 상기 비디오 신호 처리 수단은 상기 비디오 이미지 디스플레이 수단 상에 상기 3 차원 그래픽 피사체를 이동시켜서 상기 시스템 사용자가 상기 가상 현실 환경을 통해 뒤쪽으로 이동하는 것으로 나타나도록 하는 시스템.
제 1 항에 있어서,

상기 시스템 사용자가 처음으로 손을 들면, 상기 비디오 신호 처리 수단은 상기 시스템 사용자가 가상 현실 환경을 통해 제 1 방향으로 회전하는 것으로 나타나도록, 상기 비디오 이미지 디스플레이 수단 상에서 3 차원 그래픽 피사체를 제 1 방향으로 회전시키고, 상기 시스템 사용자가 처음으로 손을 내리면, 상기 회전이 정지하는 시스템.
제 1 항에 있어서, 상기 시스템 사용자가 허리를 구부리면, 상기 비디오 신호 처리 수단은 상기 비디오 이미지 디스플레이 수단 상에서 3 차원 그래픽 피사체를 회전시켜서 상기 시스템 사용자의 앞에 있는 3 차원 그래픽 피사체가 상기 시스템 사용자에 의해 보여질 수 있도록 하는 시스템.
컴퓨터 판독가능 메모리(66)와 이 컴퓨터 판독가능 메모리(66)에 저장된 프로그램을 이용하는 마이크로프로세서(58)에 접속된 비디오 이미지 디스플레이(54,82)를 가지고 있는 컴퓨터 시스템의 사용자(62)의 카메라 기초 제스쳐 입력을 이용하여 가상 현실 환경(94)을 통한 3 차원 내비게이션을 허용하는 방법에 있어서,

상기 시스템 사용자(62), 및 상기 시스템 사용자(62)를 둘러싼 대화 영역(52)의 제스쳐를 지시하는 비디오 신호를 발생하는 단계와;

상기 시스템 사용자(62)의 몸 및 주요 몸 부분의 3 차원 위치를 결정하기 위해 상기 마이크로프로세서(58)에서 상기 비디오 신호를 처리하는 단계와;

상기 시스템 사용자(52)의 몸 및 주요 몸 부분의 3 차원 위치를 기초로, 상기 비디오 이미지 디스플레이(54,82) 상에 상기 시스템 사용자(52)와 대화 영역(52)의 3 차원 이미지를 구성하기 위해 상기 마이크로프로세서(58)를 이용하는 단계와;

상기 가상 현실 환경 내의 3 차원 그래픽 피사체를 상기 비디오 이미지 디스플레이(54,82) 상에 디스플레이하기 위해 상기 마이크로프로세서(58)를 이용하는 단계로서, 상기 시스템 사용자가 상기 가상 현실 환경(94) 전체를 통해 이동하는 것으로 나타나도록, 상기 시스템 사용자(52)에 의한 이동이 상기 비디오 이미지 디스플레이(54,82) 상에 디스플레이된 3 차원 피사체에 의해 외관상의 이동을 허용하는 단계를 포함하고 있는 방법.
제 6 항에 있어서,

상기 시스템 사용자가 뒤쪽으로 걸으면, 상기 비디오 신호 처리 수단은 상기 시스템 사용자가 가상 현실 환경을 통해 앞쪽으로 이동하는 것으로 나타나도록 상기 비디오 이미지 디스플레이 수단 상에서 상기 3 차원 그래픽 피사체를 이동시키고,

상기 시스템 사용자가 좌우로 걸으면, 상기 비디오 신호 처리 수단은 상기 시스템 사용자가 상기 가상 현실 환경을 통해 좌우로 이동하는 것으로 나타나도록 상기 비디오 이미지 디스플레이 수단 상에서 상기 3 차원 그래픽 피사체를 이동시키는 방법
제 7 항에 있어서,

상기 시스템 사용자가 뒤쪽으로 걸으면, 상기 비디오 시호 처리 수단은 상기 비디오 이미지 디스플레이 수단 상에서 상기 3 차원 그래픽 피사체의 이동을 정지시키고,

상기 시스템 사용자가 다음으로 뒤쪽으로 걸으면, 상기 비디오 신호 처리 수단은 상기 시스템 사용자가 상기 가상 현실 환경을 통해 뒤쪽으로 이동하는 것으로 나타나도록 상기 비디오 이미지 디스플레이 수단 상에서 상기 3 차원 그래픽 피사체를 반대 방향으로 이동시키는 방법
제 6 항에 있어서,

상기 시스템 사용자가 처음으로 손을 들면, 상기 비디오 신호 처리 수단은 상기 시스템 사용자가 가상 현실 환경을 통해 제 1 방향으로 회전하는 것으로 나타나도록 상기 비디오 이미지 디스플레이 수단 상에서 상기 3 차원 그래픽 피사체를 제 1 방향으로 회전시키는 방법
컴퓨터 시스템 상에 제 6 항 내지 제 9 항 중 어느 한 항의 방법을 실행하는 프로그램을 포함하고 있는 컴퓨터 판독 가능 메모리.