KR20040071597A

KR20040071597A - 컴퓨팅 및 통신 애플리케이션에서 기억도 모델을 구성 및사용하기 위한 시스템 및 방법

Info

Publication number: KR20040071597A
Application number: KR1020040005392A
Authority: KR
Inventors: 호비츠에릭제이.; 더메이스수잔티.; 린젤메리디쓰; 커트렐에드워드비.; 코치폴비.
Original assignee: 마이크로소프트 코포레이션
Priority date: 2003-02-04
Filing date: 2004-01-28
Publication date: 2004-08-12
Also published as: KR20120100846A; EP1445711A3; US20040153445A1; US20060190440A1; JP2004252962A; KR101213929B1; US20060129606A1; CN1598817A; EP1445711A2

Abstract

정보의 저장, 검색, 및 프로세스에 중점을 두는 애플리케이션, 상기하지 못하여 간과할 위험이 있는 아이템들에 관하여 사람들에게 리마인드하는 애플리케이션, 및 리마인더의 통신을 용이하게 하는 것을 포함하는 다양한 컴퓨터 기반 애플리케이션을 용이하게 하는 하나 이상의 기억도 모델(models of memorability)들이 제공된다. 하나의 애플리케이션에서는, 상기 모델들은 사용자의 활동, 통신, 이미지, 및 다른 컨텐트에 관한 정보에 대한 큰 개인의 저장부를 구성하고 내비게이트하는 것을 돕기 위해 이용된다. 다른 애플리케이션에서는, 메모리 랜드마크와, 추론된 기억도에 대한 임계치의 변경을 통하여 제공된 랜드마크의 수를 제어하기 위한 수단을 부가함으로써 디렉토리 내의 파일들의 보기가 확장된다. 또 다른 애플리케이션은, 슬라이드 쇼에서의 디스플레이 또는 주위 사진 디스플레이(ambient photo display)를 위하여, 이벤트들을 나타내는 보다 큰 이미지 집합들로부터 이미지 부분 집합를 선택하기 위하여 기억도 모델들을 이용하는 것에 중점을 둔다. 또 다른 애플리케이션에서는, 컨텐트의 인덱스에 적어도 일부분 기초하여 문의에 대한 결과를 디스플레이하는 것과 관련하여 타임라인 시각화(timeline visualization)의 설계 및 분석을 제공함으로써 컴퓨터 기반 정보 검색을 용이하게 하는 시스템이 제공된다. (사용자에게 노출된 정보의 단일화된 인덱스를 제공하는 검색 엔진의 부분일 수 있는) 문의 컴포넌트(query component)에 의해 문의가 수신된다. 문의 컴포넌트는 본 발명에 따라서 의미 있는 검색을 달성하는 것에 관련된 부분들로 문의를 구문 분석(parse)한다. 문의 컴포넌트는 검색되는 정보를 포함할 수 있는 데이터 저장부에 액세스하고 위치시킬(populate) 수 있다. 랜드마크 컴포넌트는 데이터 저장부뿐만 아니라 문의 컴포넌트로부터의 정보를 수신 및/또는 액세스하고, 검색 결과 관련 정보에 공공의 및/또는 개인의 랜드마크 이벤트를 앵커링한다(anchor).

Description

컴퓨팅 및 통신 애플리케이션에서 기억도 모델을 구성 및 사용하기 위한 시스템 및 방법{SYSTEMS AND METHODS FOR CONSTRUCTING AND USING MODELS OF MEMORABILITY IN COMPUTING AND COMMUNICATIONS APPLICATIONS}

본 발명은 특정한 이벤트를 시간상 중요한 랜드마크로서 인식하고, 내비게이트 또는 리뷰 컨텐트에서 랜드마크를 사용하여 이득을 얻는 사람의 능력을 포착하는 하나 이상의 기억도 모델에 따라 컴퓨터-기반 애플리케이션을 용이하게 하는 시스템 및 방법에 관한 것이다.

글로벌 경쟁으로 인해, 적절한 정보를 신속하게 액세스하기 위한 요청이 계속해서 증가하고 있다. 예를 들어, 적절한 정보에 대한 신속한 액세스는 주식 시장에서 번 돈에 대한 잃은 돈과 관련된 차이를 만들 수 있다. 미디어 및 저널리스트들에 대한 요구는 경쟁 이전에 적절한 정보를 얻는 것에 프리미엄을 둔다. 첨단 기술 부문 및 상담 분야 등의 그 외 산업들은 그들의 산업에 있어서, 임의의 시장에 관한 현재 이벤트 및 동향에 있어 최고의 위치에 있는 사람들을 필요로 한다. 마찬가지로, 클라이언트-기반 시스템 및 인트라넷 내에서, 적절한 정보에 신속하게 액세스하는 것은 작업 환경에 있어, 효율적인 유지(remaining)에 필수불가결한 것이다. 따라서, 적절한 정보에 대한 신속한 액세스를 용이하게 하는 시스템 및 방법에 대한 필요성이 계속해서 증가하고 있다.

다음은 본 발명의 일부 국면의 기본적 이해를 돕기 위해, 발명에 대한 간략화된 요약을 나타낸다. 이 요약은 발명의 광범위한 개요가 아니다. 이는 발명의 중요한/결정적인 엘리먼트를 식별하기 위한 것이 아니고, 발명의 범주를 서술하기 위한 것도 아니다. 이것의 주된 목적은 후술될 보다 상세한 설명에 대한 서두로서, 간소화된 형태로 발명의 일부 개념들을 나타내기 위한 것이다.

본 발명은 이벤트를 시간상의 중요한 랜드마크로서의 인식하는 사람의 능력을 자동적으로 포착하는 기억도 모델을 개발하고 이용하기 위한 시스템 및 방법을 제공하는 것이다. 기억도 모델은 정보를 프로세스, 수신, 및/또는 통신하는데 있어, 사용자를 돕기 위해, 다양한 컴퓨터-기반 애플리케이션에 의해 이용될 수 있는 이벤트에 기억도에 대한 임의의 척도를 카테고리화하거나 할당하기 위한 절차 및 정책을 포함한다. 일례로서, 이벤트는 다른 아이템들 사이에서, 사용자의 달력, 휴일들, 시간에 걸친 뉴스 스토리들, 및 사진들 내에 약속 및 다른 주석을 포함할 수 있다. 하나의 특정한 애플리케이션 예에서, 모델은 시간상의 랜드마크를 포함하는 개인화된 인덱스(personalized index)를 제공하기 위해 사용되고, 여기서 그러한 인덱스의 사용은 파일 또는 다른 정보의 디렉토리를 브라우징하는데 이용될 수 있고, 검색 엔진의 결과를 리뷰하는데 이용될 수 있다. 기억도 모델은 기억된 아이템들 보다 건망증(forgetfulness)의 패턴에 기초하는, 투표 모델, 발견적 모델, 규칙 모델, 통계적 모델, 및/또는 컴플리먼터리(complimentary) 모델을 포함할 수 있다. 또한, 사용자 인터페이스가 제공되고, 정보의 검색 및 프로세스에 있어 사용자를 돕기 위해 모델의 애플리케이션을 용이하게 한다. 또한, 본 발명은 중요한(그리고 덜 중요한) 데이터의 브라우저블 어카이브(browsable archive)을 제공하는 등, 데이터 저장부를 자체에 설치하기 위한 다양한 애플리케이션 및 방법을 포함한다. 예를 들어, 데이터 저장부는 "우리 가족 전기" 및 "나의 자서전" 등과 같은 생활 이력(또는 그 외의 이벤트들)을 포착할 수 있다.

또 다른 국면에서, 본 발명은 기억도 모델에 따라, 정보에 대한 컴퓨터-기반 검색을 용이하게 하는 시스템 및 방법을 제공하는 것이다. 이는 컨텐트의 인덱스 상에서, 적어도 일부에 기초하여 문의에 대한 결과를 디스플레이하는 것과 관련하여 타임라인 시각화의 설계 및 분석을 포함한다. 본 발명과 관련하여 시각화는 사용자에게 노출되어 있는 (예컨대, 웹 페이지, 이메일, 문서, 그림, 오디오 등을 포함하는) 정보의 단일화된 인덱스를 제공하는 검색 엔진에 관련될 수 있다. 본 발명은 공공의 랜드마크(예컨대, 휴일, 중요한 뉴스 이벤트) 및/또는 개인의 랜드마크(예컨대, 사진, 중요한 달력 이벤트)를 추가함으로써, 기본 시간 보기를 확장하는 값을 개발한다. 본 발명의 하나의 특정한 국면에 따르면, 검색 결과는 개요-플러스-상세 타임라인 시각화로 나타내 질 수 있다. 요약 보기는 시간에 대한 검색 히트의 분포를 나타낼 수 있고, 상세 보기는 개개의 검색 결과의 검사를 고려할 수 있다. 회신된 아이템에는 원한다면, 아이콘 및 짧은 설명으로 주석을 달 수 있다.

특정한 아이템에 대한 개인의 이메일, 파일, 또는 웹 북마크를 통해 검색을 핼할 때, 사람은 다양한 전략을 이용한다. 사람들은 비록 그들이 찾고 있는(예를 들어, 정확한 파일 및 파일의 경로 등) 모든 국면의 아이템을 기억하지는 않지만, 그들은 그들의 삶에 있어 중요한 이벤트(예컨대, 그들의 아이들의 생일, 외국 여행, 9/11 습격과 같은 유명한 이벤트, 또는 JFK의 암살)는 기억하는 경향이 있다. 본 발명은 그러한 형태의 문맥(contextual) 정보를 이용하여, 컨텐트를 통한 검색을 지원할 수 있다는 것이다. 본 발명에 따른 쌍방향 시각화는 공공의(예컨대, 뉴스, 휴일) 및/또는 개인의(예컨대, 약속, 사진) 랜드마크 이벤트에 의해 고정시킬 수 있는 검색 결과의 타임라인-기반 프리젠테이션을 제공한다. 본 발명에 따라 시각화를 기초로 하는 인덱싱 및 검색 시스템은 정보 컨텐트를 검색 및 탐색하기 위한 빠르고 쉬운 방법을 제공하기 위해, 사용자에게 노출되어 있는 아이템(예컨대, 문서, 방문한 웹 페이지, 및 이메일)의 텍스트 및 메타데이터에 인덱스를 달 수 있다.

앞서 말한 것과 관련된 목적을 이루기 위해, 본 발명에 대한 임의의 실시예적인 국면이 다음 설명 및 첨부 도면과 관련하여 여기에 기술된다. 이러한 국면들은 암시적인 것이나, 다양한 방식 중 일부에서 발명의 이론이 이용되고 본 발명은 그러한 국면들 및 그들의 등가물 모두를 포함하도록 의도된다. 발명의 그 외의 이점 및 신규한 특성들은 도면과 관련하여 다음과 같은 발명의 상세한 설명을 고려함으로써 명백해 질 것이다.

도 1은 본 발명의 국면에 따른 컴퓨터-기반 애플리케이션에 이용될 수 있는 다양한 기억도 모델의 고-레벨 개략적인 설명이다.

도 2 ~ 5는 본 발명의 국면에 따른 전형적인 사용자 인터페이스를 도시한다.

도 6 및 7은 본 발명의 국면에 따른 전형적인 영향 모델(influence model)을 도시한다.

도 8 및 9는 본 발명의 국면에 따른 전형적인 결정 트리를 도시한다.

도 10은 본 발명의 국면에 따른 전형적인 디스플레이 제어를 도시한다.

도 11은 본 발명에 따른 전형적인 시스템의 고-레벨 개략적인 설명이다.

도 12는 본 발명에 따른 하나의 특정 방법론에 대한 순서도이다.

도 13은 본 발명에 따른 타임라인 시각화의 전형적인 스크린샷 디스플레이이다.

도 14는 타임라인의 백본의 좌측에 단지 날짜만 디스플레이하는 대표적인 시각화이다.

도 15는 기본 날짜에 더해, 랜드마크(예컨대, 휴일, 뉴스 헤드라인, 달력 약속, 및 개인의 사진)를 디스플레이하는 대표적인 시각화이다.

도 16은 본 발명에 따라 타임라인에 디스플레이된 랜드마크 이벤트를 갖는 중앙값 검색 시간이 타임라인에 주석을 달기 위해 단지 날짜만 사용하는 경우의 중앙값 검색 시간보다 훨씬 빠르다는 것을 도시한다.

도 17은 본 발명에 따른 전형적인 동작 환경이다.

<도면의 주요 부분에 대한 부호의 설명>

100 : 시스템

110 : 기억도 모델

120 : 애플리케이션

130 : 투표 모델

140 : 발견적 모델

150 : 규칙 모델

160 : 통계적 모델

170 : 컴플리먼터리 모델

이제, 도면을 참조하여 본 발명이 설명되며, 여기서 전체에 걸쳐 동일한 부재를 칭하기 위해 동일한 참조 번호가 사용된다. 다음 기재에 있어, 설명을 위해, 본 발명의 전체적인 이해를 돕기 위한 다양한 특정 상세가 진술된다. 그러나, 본 발명은 이러한 상세없이도 실행될 수 있음은 명백할 것이다. 그 외의 예에서, 공지된 구조체 및 디바이스는 본 발명의 설명을 용이하게 하기 위해 블록도 형태로 도시된다.

이러한 애플리케이션에 사용된 것으로서, "컴포넌트", "시스템", "모델", "애플리케이션" 등의 용어는 컴퓨터-관련 엔티티, 즉, 하드웨어, 하드웨어와 소프트웨어의 조합, 소프트웨어, 또는 실행중인 소프트웨어 중 어느 하나를 칭하기 위한 것이다. 예를 들어, 컴포넌트는 프로세서 상에서 실행중인 프로세스, 프로세서, 물체, 실행할 수 있는, 실행의 스레드(thread), 프로그램, 및/또는 컴퓨터일 수 있으며, 이에 한정되지 않는다. 설명을 위해, 서버 상에서 실행중인 애플리케이션과서버 모두 컴포넌트일 수 있다. 하나 이상의 컴포넌트는 프로세스 및/또는 실행의 스레드 내에 상주할 수 있고, 하나의 컴포넌트는 하나의 컴퓨터 상에 위치될 수 있고 또는(and/or) 두 개 이상의 컴퓨터들 사이에 분포될 수 있다.

여기서 사용된 것으로서, "추론(inference)"은 이벤트 및/또는 데이터를 통해 포착된 관측 결과의 집합으로부터 시스템, 환경, 및/또는 사용자의 상태에 관해 추리하거나(reasoning), 또는 그것을 추론하는(inferring) 프로세스를 일반적으로 칭한다. 추론은 특정한 문맥 또는 액션을 식별하기 위해 사용될 수 있고, 또는 예를 들어, 상태들 전반에 대한 확률 분포를 생성할 수 있다. 추론은 확률적 -즉, 데이터 및 이벤트의 고찰에 기초한 관심사의 상태 전반에 대한 확률 분포의 산출- 일 수 있다. 또한, 추론은 이벤트 및/또는 데이터 집합으로부터 고-레벨 이벤트를 구성하기 위해 사용된 기술을 칭할 수도 있다. 그러한 추론은 결과적으로 관측된 이벤트 및/또는 저장된 이벤트 데이터 집합으로부터 뉴스 이벤트 또는 액션의 구성, 이벤트가 클로즈형 시간적 접근과 상호 관계가 있는지 여부, 및 이벤트와 데이터가 하나의 이벤트와 데이터 소스로부터 오는지 또는 여러 이벤트 및 데이터 소스로부터 오는지를 알 수 있다.

우선, 도 1을 참조하면, 시스템(100)은 본 발명의 국면에 따른 컴퓨터-기반 애플리케이션에 사용될 수 있는 하나 이상의 기억도 모델을 도시한다. 하나 이상의 기억도 모델(110)이 제공되어, 정보를 관리, 검색, 프로세스 및/또는 통신하는데 있어 사용자를 돕는 하나 이상의 애플리케이션(120)을 구동한다. 기억도 모델(110)은 하나 이상의 이벤트(114)에 대한 사람 또는 사용자 기억력(예컨대, 공공의 및/또는 개인의 기억들)의 다양한 국면을 결정하고, 모델은 상기하는 능력보다 오히려 망각에 기초할 수 있다. 기억력 및 망각 모델은 본 발명에 따라 동시에 사용될 수 있다는 것을 이해할 수 있을 것이다. 하나의 국면에 있어서, 기억도 모델(110)은 공유된 투표 모델(130)을 사용하여, 기억할 만한 아이템을 판정한다. 예를 들어, 이는 공공의 이벤트에 대한 기억도에 점수를 매기기(score) 위해, 사용자 집합에게 의뢰(asking)하거나 자동적인 여론 조사를 하는(polling) 것을 포함할 수 있다. 일 실시예에 있어, 전체 뉴스 스토리로부터 취득된 뉴스 스토리들의 중요점(salience)과 하나의 사용자 집합에게 문의하여 1-10의 값을 할당하는 것 중 적어도 하나(또는 다른 스코어링 시스템)를 포함는 기억도에 대한 스컬러 척도가 수집될 수 있고, 기억할 만한 뉴스 스토리의 포착 방법은 점수의 평균을 내는 것(또는 다른 통계적 프로세스)에 의해 얻어질 수 있다.

하나 이상의 발견적 모델(140)은 기억도 모델(110)로서 제공될 수 있다. 예를 들어, 이러한 모델(140)은 메시지의 여러 속성을 이용할 수 있고, 속성의 함수에 기초하여 기억도의 점수 또는 결정적인 카테고리를 할당하는 비공식 정책을 생성할 수 있다. 일례로서, 발견 함수는 이벤트의 기억도에 긍정적으로 영향을 미치는 것으로서 달력(또는 다른 정보 소스) 상의 이벤트의 증가 지속 기간을 분석하도록 구성될 수 있다. 이것은 발견적 방법에 대한 고찰을 포함하는데, 이 발견적 방법은 이미지 집합으로부터의 이미지들 또는 이미지 부분집합들이 이벤트에서 스냅된 이미지 집합 중 가장 기억할 만한 것으로서의 역할을 한다는 것과 관련되는데, 이는 화면 내의 물체들의 합성, 컬러 히스토그램, 인지되는 얼굴(예컨대, 자동화된얼굴 인식 소프트웨어에 의해), 그림들 사이의 연속 및 일시적 관계를 수반하는 특성들(예컨대, 이벤트를 포착하기 위해 스냅된 그림 집합들 중 첫 번째, 또는 첫 번째 근처), 짧은 그림간 간격(short inter-picture intervals)과 관련된 그림, 이벤트(114)의 국면에 대한 사진가의 흥분(excitement)을 포착, 및 검토되거나 디스플레이된(그림 상에서 상대적으로 보다 긴 드웰 타임을 갖는) 이미지, 편집된(잘려지고 개명된) 그림을 갖는 등, 그림과 관련된 사용자의 활동을 나타내는 속성 등, 그러한 속성들에 기초한다. 이미지들에 대한 다른 특성들은 예를 들어, 초점 및 방위를 포함하는 이미지 품질에 대한 자동 분석을 포함한다.

150에서, 하나 이상의 규칙 모델 또는 규칙은 이벤트(114)를 결정하기 위해 제공될 수 있다. 이는 기억도의 척도를 뉴스 스토리에 자동적으로 할당하기 위한 규칙을 포함할 수 있는데, 이는 뉴스 스토리의 수, 미디어에서의 지속성, 사상자의 수, 뉴스 스토리와 관련된 달러 손실값, 놀라운 또는 전형적이지 않은 치수를 포착하는 특성들, 및 이벤트 사용자에 대한 근접도(예컨대, 동일한/다른 나라, 주, 도시 등)와 같은 속성을 포함할 수 있다. 160에서, 다양한 통계적 모델은 이벤트(114)를 모델화하기 위해 제공될 수 있다. 통계적 모델(160)은 아이템의 기억도를 예측할 수 있는 모델을 제공할 수 있는 기계 학습 방법(machine learning method)의 사용에 중점을 두는 다양한 아이템들에 사용될 수 있고, 이는 달력 이벤트, 휴일, 뉴스 스토리, 및 이미지를 포함하며, 특징들의 집합들 등에 기초한다. 통계적 모델(160) 및 프로세스는 베이지언 학습의 사용을 포함하며, 이는 예를 들어, 베이지언 네트워크, 원시적 베이지언 분류자, 및/또는 SVM(Support VectorMachines) 등의 베이지언 의존 모델을 생성할 수 있다. 트레이너(도시되지 않음)가 제공될 수 있어, 애플리케이션에 따라, 랜드마크 아이템 -또는 망각될 수 있는 아이템의 명시된 예들을 취득하고, 또는 암시적인 트레이닝을 통해 식별된 예들이 제공될 수 있다.

또한, 기억도(110)의 모델은 170에서 컴플리먼터리 방식으로 공식화될 수 있어, 망각 모델을 산출하고, 따라서, 애플리케이션(120)에서 영향을 받을 수 있다. 따라서, 컴플리먼터리 모델(170)은 사용자가 다가오는 중요한 이벤트 또는 다른 관련 정보를 상기하지 않을 것이라는 가능성을 추론하는 것에 초점을 두는 기억도(110) 모델의 변형의 사용을 기술한다. 이러한 모델(170)은 사용자가 망각하기 쉬운 정보를 시각적으로 두드러지도록 선택적으로 돋보이게 하는(highlight) 달력, 또는 정보가 기억되지 않을 가능성에 따라 정보의 타이밍 또는 경보를 변화시키기 위하여 달력 등의 애플리케이션(120)에서 추론을 이용할 수 있다. 기억도 및 망각의 그러한 모델들은 메시징 및 리마인딩 시스템과 조합될 수 있는데, 예를 들어, 여기서 문맥에 민감한 비용 및 편익은 그들이 그것을 기억하지 않을 것이므로 그들이 필요로할 수 있는 정보(예컨대, 주변 디바이스 또는 디스플레이에 전송된 정보는 리마인더에 의해 단계를 진전시킬지 여부, 시기, 방법에 대한 기대값을 고려하는, 비공식적인 비용-편익 분석 또는 공식적인 결정 분석에서 고찰될 수 있다)에 관해, 정보를 전송하고 사용자에게 경보하는 것이다. 이하, 보다 상세히 기술될 바와 같이, 시간에 대한 이벤트의 보기 및 사용자를 돕는 프로세스는 시간에 대해 생성된 문서를 식별하는 태스크를 소거하는데 중요한 이벤트 집합의 문맥에있어, 정보 저장부를 브라우징하기 위해 제공될 수 있다.

기억도 모델(110)은 다양한 시스템, 프로세스, 및 애플리케이션(120)을 지원한다. 이는 아이템이 상기되거나, 랜드마크로서 인식되거나, 또는 이벤트 또는 시간 중 가장 대표적인 것일 가능성에 대한 임의의 척도에 따라, 숫자로 나타낸 라벨 또는 분류적인 라벨로 이벤트 또는 아이템을 라벨화하는 기억도 정보-관리 애플리케이션의 모델을 사용한다는 것을 포함할 수 있다. 이러한 애플리케이션은 상기되거나, 랜드마크로서 인식되거나, 또는 이벤트 또는 시간 중 가장 대표적인 것으로서의 이벤트 또는 아이템의 중요점에 대한 스컬러 척도를 할당하는 수학적 함수를 이용할 수 있다. 기계 학습 방법을 통한 기억도의 통계적 모델이 제공되어 암시적으로 트레이닝될 수 있고, 또는, 기억할 만한 또는 기억할 만하지 않은 이벤트 또는 아이템의 샘플에 대한 정보를 수집하는 명시된 트레이닝 시스템에 제공될 수도 있다. 이는 상기될, 랜드마크로서 인식될 또는 이벤트나 시간 중 가장 대표적인 것으로서의 이벤트 또는 아이템일 가능성에 대한 실시간 추론 또는 분류를 제공하는 것을 포함할 수 있고, 또한, 보다 일반적으로, 다른 등급(degree) 또는 본 발명에 의해 제공된 시스템 및 프로세스의 국면에 걸친 확률 분포를 제공할 수 있다.

다른 애플리케이션은 예를 들어, 요구된 저장 메모리를 한정하기 위해 일생 이벤트의 로그를 위해 이벤트를 선택적으로 저장하기 위해, 이종의 이벤트 및 컨텐트 스트림을 자동적으로 필터링하는 기억도 모델의 사용을 포함한다. 또한, 기억도 모델의 사용은 브라우징의 수단을 생성하는데 이용될 수도 있다(예컨대, 시간적 정밀도(예컨대, 10년, 년, 월, 일, 시)의 다른 레벨에서 데이터를 브라우징하는 이종의 이벤트 또는 컨텐트의 계층적인 평생 로그). 다른 애플리케이션은 대표적인 랜드마크 또는 기억도 모델의 사용을 포함하여, 그림 라이브러리로부터 인출된 그림의 주위 디스플레이를 위해 그림을 선택적으로 고른다. 또 다른 애플리케이션은 대표적인 메모리 랜드마크 및 기억도 모델의 사용을 포함하여, 사용자가 보기 원하는 슬라이드의 전체 수에 대한 제약 하에서, 하나 이상의 이벤트에 관한, 시간에 걸친 슬라이드 쇼 내의 사진 집합 또는 시간 내에서 다른 포인트에서의 사진 집합을 선택적으로 고른다. 또 다른 국면에서, 애플리케이션은 대표적인 메모리 랜드마크 및 기억도 모델의 사용을 포함하여, 아이템(예컨대, 그림 라이브러리, 파일에 디스플레이된 그래픽 또는 사진 이미지의 썸네일, 아이템 또는 운영 체제 내의 문헌의 폴더(예컨대, MS 윈도우))의 전체 컨텐츠를 특성화하거나 요약하기 위해, 아이템(예컨대, 이미지) 집합을 선택적으로 고른다. 또한, 기억도의 개념은 다음과 같은 학습 및 추론마다, 목표(target)의 범위를 제공한다는 것에 유념한다:

기억도(Memorability): 아이템이 상기되거나 인지되는 등급.

기억할 만한 랜드마크(Memorable landmark): 아이템이 시간 상의 이정표로서 보여지는(viewed) 등급.

대표적인 랜드마크(Representative landmark): 아이템이 아이템들, 시간 주기, 이벤트들, 이벤트들의 순서 등을 대표하는 것으로서 역할을 하는 등급.

상술한 바와 같이, 기억도 모델에 대한 컴플리먼트(complement)는 망각의 모델이다. 따라서, 본 발명은 데이터로부터의 모델을 유사하게 트레이닝할 수 있고, 잊혀지거나, 아이템에 관해 사용자에게 리마인드하는 기대된 값의 비용-편익 분석으로 아이템이 잊혀질 추론 가능성을 결합할 수 있는 아이템에 대한 추론을 수행할 수 있다. 일반적인 결정 이론적 분석은 Principles of Mixed-Initiative Interaction by E. Horvitz, Proceedings of CHI '99, ACM SIGCHI Conferencd on Human Factors in Computing Systems, Pittsburgh, PA, May 1999. ACM Press pp 159-166 등의 연구에 의해 기술되는, 도움이 필요한지에 대한 불확실성 하에, 언제 제시될(come forward)지에 관해 분석한다.

본 발명은 그러한 기대 효용 방법을 사용할 수 있고, 사용자에게 리마인드할 기대값 산출 내에서 중심으로서, 기억도 모델로부터 추론되는 망각(및 기억) 가능성을 취득한다. 따라서, 본 발명은 방해 비용(예컨대, 방해의 현재 비용)을 고려하는 주어진 아이템 타입 및 문맥 중 그들이 잊어 버릴 것 같은 임의의 것에 대해 사용자에게 리마인드를 제시할지 여부 및 제시할 시기에 대해 기대-효용 결정을 수행할 수 있다. 그러한 모델은 데스크탑에서 리마인더에 관한 경보의 제어에 사용될 수 있고, 더불어, 이동 디바이스에 대해, 혼란 및 전송 비용의 통합을 통해 사용될 수 있다.

그러한 모델은 건강한 사람을 위한 용도 뿐만 아니라, 기억 착오에 이르는 다양한 지적 결함을 가진 환자를 돕기 위해서도 사용될 수 있다. 예를 들어, 데이터 트레이닝으로부터 구축된 기억도 모델은 알츠하이머 병을 가진 환자가 병의 특정한 단계에 있을 가능성을 예측하기 위해 사용될 수도 있다. 그러한 모델은 상술한 바와 같은 비용-편익 분석과 결합될 수 있고, 시청각 신호(cues)를 사용자에게 제공하기 위해 적합한 하드웨어와 결합될 수 있어, 이상적인 리마인더를 제공할 수있다.

도 2 내지 도 17은 본 발명에 따라 기억도 모델(memorability models)을 이용하는 몇몇 예시적인 인터페이스를 도시한 도면이다. 도시된 각 인터페이스는 여러가지 다른 세팅 및 문맥으로 제공될 수 있음에 주목한다. 예로서, 전술한 애플리케이션 및/또는 기억도 모델은 데스크탑 개발 툴, 메일 애플리케이션, 달력 애플리케이션, 및/또는 웹 브라우저와 관련될 수 있으며, 그 밖의 다른 유형의 애플리케이션이 사용될 수도 있다. 이들 애플리케이션은 GUI(Graphical User Interface)와 관련될 수 있는데, 여기서 GUI는, 애플리케이션 및/또는 기억도 모델로의 동작을 용이하게 하기 위한 여러 구성가능한 치수, 형상, 컬러, 텍스트, 데이터 및 음성을 갖는 구성가능한 아이콘, 버튼, 슬라이더, 입력 박스, 선택 옵션, 메뉴, 탭 등과 같은 국면을 포함하는 하나 이상의 디스플레이 물체(도시하지 않음)를 갖는 디스플레이를 제공한다. 또한, GUI는 본 발명의 하나 이상의 국면을 조정하고 구성하기 위한 복수의 다른 입력 또는 제어도 또한 포함할 수 있으며 이에 대해서는 이하 상세히 기술될 것이다. 이는, 마우스, 키보드, 음성 입력, 웹 사이트, 원격 웹 서비스, 패턴 인식기, 얼굴 인식기, 및/또는 GUI의 동작에 영향을 주거나 변경하기 위한 카메라 또는 비디오 입력과 같은 그 밖의 다른 장치로부터 사용자 커맨드를 수신하는 단계를 포함한다.

도 2는 본 발명에 따라 기억도 모델을 채용하는 예시적인 인터페이스(200)를 나타낸 도면이다. 인터페이스(200)(예를 들면, 메모리렌즈)는 조사되고 있는 임의의 디렉토리 상의 이벤트 백본을 포스트한다. 중요한 개인적 이벤트는 모든 이용가능한 이벤트로부터 필터링되며 좌측 컬럼(210)에서 포스트된다. 서로 다른 시점에서 생성되거나 변경된 파일 또는 그 밖의 다른 데이터는 220에서 우측 컬럼 상의 적정한 시간 주기에서 디스플레이된다. 슬라이더(230)는 "가장 기억할 만한" 랜드마크로 이동하여서, 사용자의 달력으로부터의 랜드마크 이벤트가 디스플레이되도록 해주며 이는 슬라이더(230)의 세팅에 대해, 기억도 임계치보다 더 높은 가능성을 갖는다. 그러나, 인터페이스(200)는, 유사한 방법이 키 이미지 및 뉴스 스토리 등을 좌측 컬럼(210)에 추가하는 데에 적용될 수 있음을 알 수 있는 바와 같이, 약속 아이템의 사용을 기술한다. 파일은 다른 파일 브라우저에서처럼 이들 컬럼으로부터 직접(예를 들면, 마우스 클릭) 론치될 수 있다. 도 4는, 슬라이더(300)가 오른쪽(화살표 방향)으로 이동하여, 메모리 랜드마크되고 있는 낮은 가능성의 이벤트가 추가되는 방법을 나타낸 도면이다. 이에 따라 더 많은 이벤트가 도 3에 도시된 것으로부터 추가된다. 도 4로 진행하면, 슬라이더(400)는 오른쪽으로 더 이동하여서, 더 많은 이벤트가 추가되도록 하는데, 즉 메모리 랜드마크중인 더 낮은 가능성의 이벤트가 이제 포함된다. 슬라이더가 이동함에 따라, 예를 들어 그라운드 호그 데이(Ground Hog day), 협회와의 정기적인 미팅, 및 형제의 생일을 포함하여 그 밖의 다른 이벤트가 추가된다. 랜드마크가 되는 가능성이 점진적으로 낮아지는 이벤트들을 점진적으로 밝게 하는 디스플레이 어포던스(affordance)가 제공되며, 이 경우, 랜드마크가 되는 가능성의 서로 다른 범위들 내에서 이벤트의 멤버쉽의 함수로서 강도(intensity)를 할당하는 단계가 도입될 수 있다.

트레이닝 시스템 및 방법은 전술한 인터페이스에서 유발될 수 있다. 도 5는인터페이스(500)를 도시하며, 여기서 트레이너는 몇 해에 걸친 사용자의 달력 약속의 파일을 불러오고 약속이 메모리 랜드마크로서 역할을 하는지 여부를 사용자가 나타낼 수 있게 해준다. 사용자는 이들 라벨을 몇몇 약속의 부분 집합에 할당한다. 사용자가 종료되면, 사용자가 "트레인" 버튼(510)을 누르면 통계적 분류자가 생성되며 이는 사용자의 달력 상의 이벤트의 여러 특성을 취득하며 각 이벤트가 랜드마크 이벤트인 가능성을 예측한다.

즉, p(메모리 랜드마크 ｜E1...En), 여기서 p는 확률이며 E1...En은 하나 이상의 이벤트 특성에 관련된 증거이다(예를 들면, 휴일에 대한 이벤트의 근접성, 중요하거나 급한 미팅과 같은 키워드, 어워드 프리젠테이션 또는 수신 인디케이터, 이정표 미팅, 퍼포먼스 리뷰 등). 이 확률은 전술한 인터페이스에서 사용하기 위한 점수가 매겨지지 않은 달력 이벤트에 할당될 수 있다.

하나 이상의 결정 모델이 기억도 모델을 연산하기 위해 정형화될 수 있음에 주의한다. 예를 들어, 영향 다이어그램(influence diagram)으로서 나타난 도 6에 도시된 모델(600)을 고려한다. 영향 다이어그램은 결정 사이언스 커뮤니티에서의 결정 문제의 공지된 표현이다. 이 모델은 관찰 변수, 결정 및 값 함수를 포함하는 키 변수들간의 불확실한 관계를 포착한다. 도 6에 도시된 영향 다이어그램은, 사용자의 약속으로부터 기억도에 영향을 주는 컴포넌트를 포착하며, 그 밖의 다른 변수 소스도 사용될 수도 있다. 모델(600)에서, 관찰 및 추론적 변수를 포함하여 키 변수(다른 변수도 포함할 수 있음)가 그래프(600) 내의 타원형 노드로 제시된다. 지시된 아크(arcs)는 변수들중 가망적 또는 결정적 의존성을 나타낸다. 모델(600)은 데이터로부터 추론되는 베이지언 네트워크(Baysian network)(가능성 의존 모델)를 나타낸다. 고려되는 변수가 사용자의 온라인 약속으로부터 자동적으로 수집될 수 있음에 주목한다. 보다 흥미로운 몇몇 변수는, 미팅에서 (조직적으로) 통찰되는지 여부, 날짜, 시간, 미팅의 지속 기간, 미팅이 정기적인지 여부, 미팅에 대한 앞선 리마인딩을 위한 시간 설정, 사용자의 역할(주최자? 출석자? 등), 별명을 통해 또는 사람으로부터 미팅이 진행되었는지, 미팅에 얼마나 많이 참석했는지, 사용자의 직접 보고인지, 매니저 또는 매니저의 매니저가 미팅에 왔는지, 미팅의 주최자는 누구인지, 미팅의 주제, 미팅의 장소, 사용자가 미팅 요구에 어떻게 응답했는지이다. 통계적 모델링에서의 고려중인 몇몇 변수(베이지언 네트워크 모델 참조)는 이러한 종류의 메모리 랜드마크 애플리케이션에 대해 특별히 설계된다. 이들은 "주최자 어타이피아(atypia)", "장소 어타이피아", 및 "출석자 어타이피아"를 포함한다. 이들은 사용자의 약속 저장부로부터 연산되며 이벤트 또는 약속의 속성의 희귀성 또는 "어타이피아"를 포착한다.

주최자 어타이피아는, 주최자가 미팅을 조직한 빈도를 칭한다. 모든 약속이 조사되며 주최자가 공지된다. 현재의 주최자가 그 미팅에 대한 주최자였던 시간의 프랙션이, 분석되고 있는 각 미팅에 대해 컴퓨팅된다. 미팅에서의 장소 및 출석자에 대해 동일하게 수행된다. 후자에 대해, 가장 전형적이지 않은 출석자가 이벤트에 대한 전형적이지 않은 출석자 속성으로 되는 것으로 간주된다. 일 구현에서, 본 발명은 전형적으로 장소, 주최자, 및 출석자에 대해 빈도의 범위에 근거한 상태로 분리시키는(discretize)하는데, 그 예는 이하와 같다.

0% 내지 1% - 매우 전형적이지 않음

1% 내지 5% - 전형적이지 않음

5% 내지 10% - 전형적임

10% 내지 100% - 매우 전형적임

도 7은, 미팅이 710에서 랜드마크 미팅인 가능성을 나타내는 변수와 함께 직접 의존성에 대한 특정 테스트 집합으로부터의 더욱 중요한 몇몇 변수를 나타낸 도면이다. 도 8은 통계적 모델링 툴에 의해 생성되는 결정 트리를 나타낸 도면이다. 이 트리는 도 7 내의 "랜드마크 미팅" 변수(710)의 내에서 동작한다. 도 9는 랜드마크 미팅을 예측하기 위한 도 8에서의 결정 트리의 중간 부분 상의 줌 인을 나타낸 도면이다. 브랜치 또는 "경로"의 각 집합의 리브즈(leaves)에서의 바의 길이는, 미팅이 랜드마크 미팅으로 간주될 가능성을 나타낸다. 여기서 디스플레이되는 메인 브랜치는, 정기적이 아니며 빌딩 안에 있지 않으며 바쁜 시간으로 마크된 것으로 자신이 응답했는 미팅을 나타낸다. 부가적인 특성은 다운스트림 브랜칭에서 고려된다.

도 10은, 어떻게/언제 이벤트 및 아이템이 디스플레이되는지(예를 들면, 항상, 이벤트 또는 아이템을 가질 때, 이벤트를 가질 때, 아이템을 가질 때)를 제어하기 위한, 사용자에 의해 선택될 수도 있는 디스플레이 제어를 나타낸 도면이다. 전술한 인터페이스는, 문서 또는 그 밖의 다른 아이템의 존재, 및/또는 전술한 임계치였던 이벤트에 근거하여 명백한 날짜 및 시간의 디스플레이를 위한 기호에 대한, 방법 및 제어에 대한 몇몇 흥미있는 설계 문의를 포즈하였으며, 더 많은 이벤트로서 다시 포맷하기 위해 슬라이더의 이동에 따라 임계치 위에 왔으며 이에 따라 약속을 이벤트 백본으로 허용하기 위한 임계치를 제어하게 된다.

도 11은 컴퓨터 기반 정보 검색을 용이하게 하는 본 발명의 특정 국면중 하나에 따른 시스템(1100)을 도시한 도면이다. 시스템(1100)은 컨텐트의 인덱스에 적어도 일부분 기초하여 문의에 대한 결과를 디스플레이하는 것과 관련되는 타임라인 시각화의 설계 및 분석을 제공한다. 문의(1120)는 문의 컴포넌트(1130)(이는 사용자에게 노출된 단일화된 정보의 인덱스(예를 들면, 웹 페이지, 이메일, 문서, 그림, 오디오...를 포함)를 제공하는 검색 엔진의 부분일 수 있음)에 의해 수신된다. 문의 컴포넌트(1130)는 본 발명에 따라 의미있는 검색에 영향을 주는 것과 관련된 부분으로 문의를 구문 분석한다. 문의 컴포넌트는, 검색되는 정보를 포함할 수도 있는 데이터 저장부(1140)에 액세스하고 위치시킬 수 있다. 데이터 저장부는 데이터를 저장하는 장소를 나타냄을 알 것이다. 이와 같이 데이터 저장부(1140)는 분포된 저장 시스템, 복수의 이종 데이터 저장부, 단일 메모리 장소 등을 나타낼 수 있다. 랜드마크 컴포넌트(1150)는 결과 관련 정보를 검색하기 위해 데이터 저장부, 및 앵커 공공의 (예를 들면, 뉴스, 휴일) 및/또는 개인의 (예를 들면, 약속, 사진) 랜드마크 이벤트 뿐만 아니라 문의 컴포넌트(1130)로부터 정보를 수신 및/또는 액세스한다. 랜드마크 컴포넌트(1150)는 1160에서 랜드마크 정보를 갖는 결과 관련 데이터를 출력한다. 랜드마크는 사용자에 의해 자동적으로 생성 및/또는 정의될 수 있다. 시스템(1100)은, 컨텐트에 대해 검색하기 위한 빠르고 쉬운 방식을 제공하도록 사용자에게 노출되어 있는 아이템(예를 들면, 문서, 방문한 웹 페이지,및 이메일)의 텍스트 및 메타데이터에 인덱스를 달수 있다. 따라서, 시스템(1100)은, 공공의 랜드마크(예를 들면, 휴일, 중요한 뉴스 이벤트) 및/또는 개인의 랜드마크(예를 들면, 사진, 중요한 달력 이벤트)를 추가함으로써 기본 시간 보기(time view)를 확장하는 값을 개발하며, 여기서 검색 결과는 개요-플러스-상세(overview-plus-detail) 타임라인 시각화로 디스플레이될 수 있다.

도 12는 본 발명의 특정 국면중 하나에 따른 하이 레벨 방법(1200)을 나타낸 도면이다. 1210에서, 문의가 수신된다. 1220에서, 문의 관련 결과 데이터가 랜드마크 관련 데이터와 함께 앵커/주석된다. 1230에서, 컨텐트의 인덱스에 적어도 일부분 기초하여 문의에 대한 결과를 디스플레이하는 타임라인 시각화가 제공된다.

심리학 문학은 에피소드풍의 메모리의 풍부한 토론을 포함하는데 이 이론은 에피소드에 의해 구성될 수도 있는 과거에 대해 기억하며 이는 이벤트의 장소, 누가 존재하였는지, 및 이벤트의 전과 진행 동안과 그 후에 무엇이 발생했는지 등과 같은 정보를 포함한다. 리서치는 또한, 과거의 메모리를 재구성하고자 할 때 "앵커"로서 루틴하거나 예외적인 이벤트를 사람들이 이용하는 것을 제안한다. 특정 이벤트의 시간은 다른 이벤트, 역사적 또는 자서전적의 관점에서 이를 프레이밍함으로써 상기될 수 있다. 본 발명과 관련된 시각화는, 개인적 컨텐트에 대한 사용자의 검색의 결과를 디스플레이할 때 개인의 및/또는 공공의 랜드마크를 갖는 베이지언 타임라인에 주석을 다는 것으로써 이들 아이디어를 하니싱한다.

이벤트를 컴퓨팅하기 위한 메모리의 연구에서는, 사람들이 과거에 한달에 수행하였던 많은 컴퓨팅 태스크의 수를 잊어버렸음을 보여주었다. 이들 태스크의 일시적인 순서에 대한 그들의 지식은 또한 한달 후에는 쇠퇴하였지만, 목표 타임 기간 동안 그들의 작업의 비디오 및 사진에 의해 일깨워지면, 그들은 자신들이 행한 더 많은 태스크를 현저하게 기억해낼 수 있었으며, 이들 태스크의 실질적인 순서를 정확하게 보다 기억할 수 있었다. 보다 일반적으로는, 특수성 인코딩에 대한 연구에서는, 인코딩된 것과 검색을 위해 후에 어떤 신호(cue)가 성공적인지 사이의 상호의존성을 강조한다. 메모리는 또한 아이템 특정 문맥 뿐만 아니라 더 많은 일반적인 학습 문맥의 회복에 의존한다.

효율적인 검색에 대한 연구의 큰 몸체는, 로우 및 컬럼이 사용자 지정된 여러 파라미터에 의해 순서화도리 수 있는 매트릭스에서의 시각화 검색 결과에 대한 작업과, 최대의 검색 태스크를 위해 텍스트 및 2D 인터페이스가 일반적으로 3D 인터페이스보다 보다 효율적인 것을 제안하는 작업과, 검색 결과를 갖는 카테고리, 요약, 및/또는 섬네일(thumbnail) 정보를 디스플레이하는 것에 대한 연구를 포함하여 존재한다. 본 발명은 컨텐트(예를 들면, 개인용 컨텐트)에 대한 검색을 가이드하기 위해 타임라인 및 일시적인 랜드마크를 사용한다. 시간은 애플리케이션 및 데이터에 대한 공통적인 조직화 구조이다. 플레상트(Plaisant) 등의 라이프라인(플레상트 씨, 밀라시 비, 로즈 에이, 위도프 에스 및 슈나이더만 비의 라이프라인 : Visualizing Personal Histories, Proceedings of CHI 1996, 221-228 참조)은 타임라인 포맷으로 개인의 이력을 디스플레이함으로써 인간의 메모리의 시간 기반 구조를 이용한다. 디지털 라이브러리에 대한 쿠마 등의 작업(쿠마 브이, 푸루타 알, 및 알렌 알의 Metadata Visualizing for Digital Libraries: Interactive TimelineEditing and Review, Proceedings of the 3rd ACM Conference on Digital Libraries(1998), 126-133 참조)은 공공의 날짜와 같은 라이브러리 내의 문서에 관한 메타데이터 뿐만 아니라 세계 역사 및 주식 가격과 같은 토픽을 시각화하기 위해 타임라인을 이용한다. 레키모토의 "시간-기계 컴퓨팅"(레키모토 제이의 Time-Machine Computing: A Time-centric Approach for the Information Environment, Proceedings of UIST 1999. 45-54 참조)은 목표 아이템이 존재했던 이들의 데스크탑의 이전의 버전에 "시간 여행"을 통해 오래된 문서를 사용자가 찾을 수 있게 함으로써 사람의 활동이 시간과 밀접하게 관련된 사실을 리버리징한다. 퍼티그 등의 LifeStream(레키모토 제이의 Time-Machine Computing: A Time-centric Approach for the Information Environment, Proceedings of UIST 1999, 45-54 참조)은 타임라인 포맷의 사용자의 개인의 파일 시스템을 나타낸다. "Forget-Me-Not"은 어디에나 있는 컴퓨팅 시스템으로서, 환경 내의 다른 장치로부터 매일의 이벤트에 관한 정보를 수집하고 이들 보고의 통독 및 필터링을 허용함으로써 메모리 증대로서 역할을 한다. 협력자와의 미팅(시간, 장소, 및 참석한 사람의 이름), 전화, 및 이메일은 수집된 데이터의 유형의 예이며 메모리 신호(memory cue)로서 이용가능하다. "Save Everything"(헐 제이 및 하트 피의 Toward Zero Effort Personal Document Management, IEEE Computer(2001년 3월), 30-35 참조)은, 문서에 관한 여러 데이터를 수집한 후 문서의 획득 방식(예를 들면, 팩스, 이메일, 복사) 또는 데이터의 획득시에 발생되는 관련 활동과 같은 개인용 메타데이터를 이용하여 문의하는 것을 허용하는 유사한 방안을 갖는다. 마인맨 및 해리슨의 Timestream(마인맨 에스 및해리슨 에스의 Space, Timestreams, and Architecture: Design in the Age of Digital Video, Proceedings of the Third International International Federation of Information Processing WG5.2 Workshop on Formal Design Methods for CAD(1997) 참조)은 모든 활동(예를 들면, 스피킹, 스케치 드로잉, 노트 타이핑)을 이용하여 오디오 및 비디오 스트림으로 인덱싱한다. 이들 수고에 반하여, 본 발명에 따른 시스템(1100)은 여러 개인의 및 공공의 랜드마크를 메모리 신호로서 이용하여 이러한 문맥이 개인의 컨텐트를 효율적으로 검색하기 위한 유용한 메모리 프롬프트를 제공하는지 여부를 조사한다. 이전의 연구 노력에서는 타임라인 기반 시각화, 검색을 위한 문맥상 신호, 또는 검색 효율성을 증가시키기 위한 그 밖의 다른 방법을 개별적으로 검사한 반면에, 본 발명은, 컨텐트(예를 들면, 개인의 컨텐트)에 대한 검색에 있어서의 문맥상의 신호로 결합된 타임라인의 메타포(metaphor)를 이용함으로써 모든 세 가지 영역을 연결한다.

시각화

도 13은 본 발명에 다른 타임라인 시각화의 예시적인 스크린샷 디스플레이를 나타낸 도면이다. 왼쪽의 개요 영역은 시간에 대한 검색 결과의 분포를 나타내는 해시 마크를 갖는 타임라인을 나타낸다. 개요 타임라인의 하이라이트된 영역은 상세 보기에 디스플레이된 시간의 세그먼트에 대응한다. 상세한 타임라인 백본의 왼쪽으로, 뉴스 헤드라인, 휴일, 달력 약속, 및 디지털 그래프로부터 유도된 랜드마크 뿐만 아니라 기본적인 날짜가 콘텍스트를 제공한다. 백본의 오른쪽으로, 개개의 검색 결과의 상세(아이콘 및 타이틀에 의해 디스플레이됨)가 연대순으로 제시된다.

일시적인 랜드마크로 타임라인에 주석을 단 값을 테스트하기 위해, 검색 애플리케이션에 의해 출력되는 결과의 상호작용적 시각화를 제공하는 원형(prototype)이 개발되었다. 도 13에 도시된 시각화는 검색 결과에 대한 개요 및 상세 양자를 제공하는 두가지 메인 컴포넌트를 갖는다. 디스플레이의 왼쪽 에지는 개요 타임라인을 나타내며 이들의 엔드포인트는 회신된 처음 및 마지막 검색 결과의 날짜로서 라벨링된다. 매년의 바운더리는 또한, 검색 결과가 예를 들어 1년 이상 스패닝되는 경우 개요 상에 마크된다. 시간은 디스플레이의 상단으로부터 하단으로 흐르며, 가장 최근의 결과가 상단에 있다. 개요는 다수의 검색 결과 및 시간에 대한 이들의 분포의 일반적인 임프레션(impression)을 사용자에게 제공한다. 개요의 일부가 하이라이트되는데, 이는 시각화의 상세 영역에 현재 포커싱되는 섹션에 대응한다. 사용자는, 하이라이트된 영역을 (예를 들면 마우스 커서로) 선택하고 이를 타임라인의 다른 영역으로 이동시켜서 상세 보기에 디스플레이되는 시간의 부분을 변경함으로써 스크롤 바인 것처럼 개요 타임라인과 상호작용할 수 있다. 시각화의 상세한 부분은, 개요 영역 내의 하이라이트된 시간의 슬라이스에 대응하는 타임라인의 줌 인 섹션을 나타낸다. 각 검색 결과는, 문서가 가장 최근에 저장되었던 시간에 나타난다. 문서의 제목(또는 이메일의 경우 제목 라인 및 생성자) 뿐만 아니라 문서의 유형(html, 이메일, 워드 프로세서 등)을 나타내는 아이콘이 디스플레이된다. 특정 검색 결과에 대해 커서를 호버링함으로써, 사용자는 완전 경로, 문서의 첫번째 512 문자의 프리뷰(또는 그 밖의 다른 양)과 메일 메시지의 경우 수신자, 송신자, 및 참조 정보를 포함하여 그 물체에 대한 보다 상세한 정보를 포함하는 팝업 서머리를 볼 수 있다. 결과를 클릭함으로써 적절한 애플리케이션으로 목표 아이템을 오픈한다. 검색 결과는 상세한 타임라인의 백본의 오른쪽에 디스플레이된다. 날짜 및 랜드마크 정보를 나타내는 데에 백본의 좌측이 이용된다. 날짜는 백본에 가장 가깝게 나타난다. 보여진 날짜의 입상(시간, 요일, 달, 또는 연도)은 줌의 현재 레벨에 의존한다. 네가지 유형의 랜드마크, 즉 휴일, 뉴스 헤드라인, 달력 약속, 및 디지털 사진(더 많거나 적은 유형을 포함할 수 있음)은 날짜의 왼쪽에 디스플레이될 수 있다. 각 랜드마크는 서로 다른 컬러(유사한 컬러일 수 있음)에서 나타난다. 전술한 국면의 스케일, 오더링 및 배치는 각 필요성에 따라 적절하게 테일러링될 수 있다.

공공의 랜드마크

공공의 랜드마크는 사용자의 브로드 베이스(broad base)가 전형적으로 알려진 사건으로부터 유도된다. 랜드마크에는 우선순위 등급이 주어지며 전형적으로 임계치 우선순위를 만족시키는 랜드마크만이 디스플레이된다. 본 발명에 따른 원형에 대해, 모든 사용자는 동일한 공공의 랜드마크를 보며, 본 발명의 서로 다른 국면이 예를 들어 이들에게 중요한 종교적 휴일을 추가하거나 혹은 기억할 만한 것으로 간주하지 않는 뉴스 헤드라인의 등급을 낮춤으로써 사용자가 이들 공공의 랜드마크를 커스터마이즈하도록 검사할 수 있다.

휴일

미국에서 통상적으로 기념하는 종교에 관계없는 휴일의 리스트가 획득되었으며, 달력으로부터 그 정보를 추출함으로써 1994년에서 2004년까지 휴일 날짜가 발생된다. 미국 문화의 지식에 기초하여 우선순위가 수동적으로 각 휴일에 할당되었다(예를 들면, 그라운드호그 데이에는 낮은 우선순위가 주어졌으며, 반면에 추수감사절에는 높은 우선순위가 주어졌다). 휴일 및 우선순위는 임의의 문화에 대해 용이하게 적용될 수 있다.

뉴스 헤드라인

1994-2001로부터의 뉴스 헤드라인은 상업적으로 이용가능한 멀티미디어 백과사전 프로그램으로 오는 세계 역사 타임라인으로부터 추출되었다. 2002 이벤트는 이용가능하지 않았기 때문에, 본 발명의 발명자는 그 해로부터 대부분의 뉴스 헤드라인을 공급하기 위해 자신의 현재의 이벤트의 재수집을 이용하였다. 조직으로부터 10명의 피고용인(이들중 아무도 이후의 사용자 스터디에 참석하지 않았음)은 이들 이벤트가 얼마나 기억할 만한지 그들이 발견한 것에 기초하여 1 대 10 스케일에 대한 뉴스 헤드라인의 집합을 레이팅하였다. 이들 점수의 평균은 뉴스 랜드마크를 우선순위에 할당하는 데에 사용되었다.

개인의 랜드마크

개인의 랜드마크는 각 사용자에 대해 고유하다. 원형에 대해, 이들 모든 랜드마크가 자동적으로 생성되었지만, 본 발명의 다른 국면에 대해서는 사용자는 자신의 랜드마크를 지정하는 옵션을 가질 수 있음을 알아야 한다.

달력 약속

사용자의 달력에 저장된 약속의 날짜, 시간, 및 타이틀이 랜드마크 이벤트로서의 사용을 위해 자동적으로 추출되었다. 약속은 발견적 방법의 집합에 따라 우선순위가 할당되었다. 약속이 반복되고 있는 경우, 그 우선순위는 낮게 되었는데, 그 이유는 기억할 만한 것으로서 보다 덜 눈에 띄는 것으로 보였기 때문이다. 약속의 우선순위는 이벤트의 지속시간에 비례하여 증가되었으며 더 긴 이벤트(예를 들면, 회의 또는 방학 등)는 특별히 기억할 만한 것으로 보였다. 마찬가지의 이유로, "외출중" 시간으로 디스플레이된 약속은 점수의 상승을 수신하였다. "임시" 약속은 낮은 우선순위로 플래그되고 반면에 "중요한" 약속은 증가된 우선순위로서 명백하게 태깅된다.

디지털 포토그래프

원형은 사용자의 디지털 포토그래프(가지고 있을 경우)를 크롤(crawl)하였다. 소정의 날에 찍힌 첫 번째 사진은 그 날에 대한 랜드마크로서 선택되었으며 섬네일(더 긴 측에 따른 64 픽셀)이 생성되었다. 주어진 연도의 처음인 사진에는, 한달의 처음인 것보다 더 높은 우선순위가 주어졌으며 이는 그 후 하루의 처음인 것보다 더 높게 랭크되었다. 이에 따라, 줌 레벨이 변경됨에 따라 적절한 수의 포토 랜드마크가 도시될 수 있다. 본 발명자는 디스플레이를 위한 사진을 선택하기 위한 보다 복잡한 알고리즘을 조사하지 않았지만, 이러한 기술(그레엄 에이, 가시아 모리나 에이치, 패키 메이 및 위노그래드 티의 Time as Essence for Photo Browsing Through Personal Digital Libraries, Proceedings of the Second ACM/IEEE-CS Joint Conference on Digital Libraries(2002), 326-335, 또는 플랫 제이 오토앨범의 Clustering Digital Photographs Using Probabilistic ModelMerging, IEEE Workshop on Content-Based Access of Image and Video Libraries 2000, 96-100 참조)가 본 발명에 따라 고려되며 본 명세서에 첨부된 특허청구범위의 범주에 해당되도록 의도됨을 알 것이다.

스터디

원형 뒤의 개념을 평가하기 위해 사용자 스터디가 수행되었다. 목표는, 검색 결과의 타임라인 기반 제시가 사용자에게 도움이 되었는지 여부와, 서로다른 유형의 랜드마크가 검색을 위한 타임라인 보기의 이용성을 개선하였는지 여부를 학습하는 것이다. 양적 및 질적의 데이터 양자가 수집되어 이들 이슈를 조사하였다.

참가자

참가자들은 한 단체로부터 온 열두 명의 피고용인이었는데, 이들 모두는 25세에서 60세까지의 남자들이었다. 본 연구에 참가하기 위한 전제 조건은 검색 시스템(예로, Stuff I've Seen(SIS))의 사용자인 것이다.

준비

각 참가자가 이용가능 실험실(usability lab)에 오기 전 날에, 이들은 두개의 과제를 수행하도록 요구받았다. 먼저, 발명자는 참가자들에게 자신들의 달력으로부터 이들의 비 개인의 예약의 모든 타이틀을 추출했던 프로그램을 인스톨하고 이후 이 타이틀 리스트를 본 발명자에게 이메일로 보내도록 요구했다. 본 정보는 채택되어 이들의 예약에 관한 길들여진 추측에 기초하여, 두개에서 여덟개까지의 개인화된 문의를 생성하였다(예로, 만약 이들이 "플로리다로의 여행" 이라 불리는 예약을 했다면, 본 발명자는 "당신이 플로리다로의 항공권을 구입하였을 때 사용한웹페이지를 찾아라"는 문의를 마련하거나, 또는 이들이 "CHI2002" 라고 불리는 예약을 가졌다면, 본 발명자는 이들에게 CHI2002 에 제출하였던 페이퍼를 찾도록 요구하였을 것이다).

둘째로, 각 참가자는.pst파일을 송부받아서(예로, 마이크로소프트 아웃룩^TMe-mail 메시지의 저장부(repository)), 이들의 기계에서 실행되는 SIS 애플리케이션이 이들이 연구 장소에 도착하기 전에 이 파일의 내용을 인덱싱할 시간을 갖도록 할 것이다. 이 파일은 상기 단체의 수많은 사람에게 전달되었던 메시지 모음을 포함하는데(예로, 대화, 휴일 파티, 프로모션, 등등의 공표 사항), 이는 모든 사람이 어떤 시점에 받았던 것일 것이다. 발명자는 이들이 원래적으로 큰 메일링 리스트로 전달되었기 때문에, 모든 사람이 이런 메시지를 수신하였다는 것을 알았지만, 개개의 참가자들이 이런 메일을 보관하고 있는지 또는 이를 삭제하였는 지의 여부를 미리 알지 못한다. 그래서, 발명자는 목표 아이템이 이들의 인덱싱에 있도록 촉진시키기 위해 참가자들에게.pst파일을 보냈다.

방법

참가자가 이용가능 실험실에 왔을 때, 이들은 이들의 사무실 컴퓨터에 액세스하기 위해 윈도우 XP의 원격 데스크탑 기술을 사용하도록 요구받았다. 참가자가 실험실을 돌아보는 동안, 발명자는 본 발명에 따라서, 이들의 기계 상에 시각화 클라이언트를 인스톨하였다. 참가자는 먼저, 데모그래픽 정보 뿐만이 아니라 이들의 검색 및 파일링 습관에 관한 정보와 이들이 정보를 기억하는 방식에 관한 정보를요구하는 문의를 채웠다. 다음으로, 이들은 개인의 교습지를 읽고 타임라인 인터페이스를 사용하여 두개의 실제 검색을 실행하였다. 이들은 개인적 교습을 완료하는 데에 드는 시간을 충분히 부여받았고 문의를 하도록 허용되었다. 본 실험은 개인의 교습이 종료된 후에 시작되었다.

본 실험은 본 발명에 따른 설계를 가졌다. 각 참가자에게는 두개의 서로 다른 인터페이스를 사용하여 완료해야 할 일련의 작업이 주어졌다. 작업의 절반에 대해서, 이들은 날짜로만 주석이 된 타임 라인의 문맥에서 제시된 자신들의 검색 결과를 보게 되고(도 14), 다른 절반에 대해서는 이들은 기본 날짜에 더해서, 달력 예약, 뉴스 헤드라인, 휴일, 및 (만약 이들이 자신들의 컴퓨터에 저장한 것이 있다면) 디지털 사진에 의해 주석된 타임라인을 볼 것이다(도 15). 본 조건들은 학습 효과를 회피하기 위해 균형 잡혀져서, 참가자의 절반은 날짜 유일 조건 전에 랜드마크 조건을 경험하고, 다른 절반은 역순으로 상기 조건들을 경험하게 된다. 순서 효과를 회피히기 위해, 문의 순서는 모든 참가자 쌍에 대해 무작위적으로 변화된다.

발명자는 두 종류의 문의를 이용하였다. 30 개의 참가자에게 공통인 문의와 두개 내지 여덟 개의 참가자마다 독특한 개인화된 문의가 그것이다. 두개의 조건의 각각에서의 처음 15개의 문의는 발명자가 알기로는 수많은 수의 피고용자에게 전달되었고, 발명자가 전 날에 인스톨해 둔.pst파일 내에 포함해 두었던 아이템들을 찾아내는 것과 관계된다. 이런 30 개의 공통 작업의 각각에 대해서, 발명자는 참가자들에게 이슈에 대한 소정의 문의를 제공하였고, 이들에게 이 문의를 바꾸지 않도록 지시하였다. 발명자는, 문의의 목적이 타임라인 및 랜드마크가 사용자들이 이들의 검색 결과 중에서 내비게이트하는 것을 얼마나 잘 도와주는 지를 테스트하는 것이었기 때문에 미리 설정된 문의를 사용하기를 선택하였고, 발명자는 사용자가 문의를 얼마나 잘 정식화할 수 있는 지를 테스트하는 것을 부주의로 종료시키기를 원치 않았다. 따라서, 발명자는 목표 아이템이 타임라인 상의 어느 곳에선가나타나는 것을 보장해 주지만, 다른 많은 결과가 또한 나타나도록 하는 충분히 넓은 범위의 문의를 선택하였다.

공통 문의들의 각각의 집합의 말단에서, 본 발명자는, 발명자가 하루 전에 추출했던 이들의 달력 예약으로부터의 부분 집합 라인에 기초하여 발명자가 각각의 사용자에 대해 맞추어 만든 몇몇 문의를 물어보았다. 이런 문의들이 각각의 참가자에 대해 다르지만, 발명자는 이것이 회사 차원의 이메일 메시지보다 더 개인적이고 기억하기 쉬운 문서를 목표로 하기 때문에, 이들이 추가되어야 할 만큼 중요하다고 느꼈다. 이들 개인적 작업에 대해, 사용자는 이들이 선택한 문의를 입력하고 또한 이들이 바란다면 이런 검색을 세분화하기 위해 상기 문의를 재구성하는 것도 허용되었다.

일단 문의가 이슈화되었다면, 사용자는, 아이콘 및 타이틀을 일람하고, 더 자세한 정보를 위해 팝업(pop-up) 요약을 호버링(hovering)하거나 실제 문서를 열기 위해 클릭함으로써, 타임라인을 내비게이트하고 검색 결과를 조사할 수 있다. 이들이 목표 아이템을 찾았을 경우, 이들은 "이를 발견했다" 고 디스플레이된 큰 버튼을 클릭하고, 자동적으로 다음 작업 및 문의를 제시받는다. 이들이 목표 아이템을 위치시킬 수 없다면, "포기하라" 고 디스플레이된 버튼이 또한 있는데, 이는 이들이 다음 문의로 진행하도록 허용해 준다. 실험 동안에, 소프트웨어는, 각 문의에 대해 회귀된 검색 결과 회수와, 디스플레이된 여러 타입의 랜드 마크 수와, 사용자의 호버링, 클릭킹, 및 인터액션의 전체적 타이밍에 대한 정보를 포함하는, 이들 인터액션의 모든 상세를 로그한다.

모든 작업을 완료한 후에, 참가자는 소프트웨어의 유용성과 타임라인 프레젠테이션의 이용성과 여러가지 유형의 랜드마크에 관한 피드백을 요구하고 자유로운 형태의 코멘트를 요청하는 또다른 문의를 채운다.

요약하면, 12 명의 연구 참가자의 각각은, 실험조건의 양자에 대해, 즉 날짜 및 랜드마크를 갖는 타임라인을 사용하는 것과 날짜만 있는 타임라인을 사용하는 것에 대해 노정된다. 각 조건에서, 참가자는 두 유형의 문의 -큰 분배 리스트에 전달되었던 e-mail에 관한 고정 문의와, 각 참가자에 관해 맞춤식으로 뽑힌 개인화된 문의- 에 대해 대답하기 위해 시각화을 사용한다

결과

검색 시간

인간 행동 시간의 공통적인 어긋남을 감소시키도록 도와주기 위해 각 참가자의 중간(median) 검색 시간에 대해 분석이 실행되었다. 여기서, 발명자는 공정한 비교를 위해 모든 참가자에 대해 공통적인 문의만을 살펴 보았다. 각각의 참가자에 대한 중간 검색 시간의 쌍의 샘플 테스트는, 랜드마크 조건에 관한 시간이 날짜 유일 조건보다 상당히 빠르다는 것을 나타낸다; t(11)=2.33, p〈 0.05. 중간 검색시간의 평균의 비교는 도 14에 도시되었다(±평균에 대한 표준 에러). 랜드마크 조건에 대해, 중간 검색 시간의 평균은 18.37초 이었고, 날짜 유일 조건에 대해서는 이 값은 24.25 초이었다. 놀랍지 않은 것은, 개인의 맞춤 문의에 대한 타이밍 데이터는 굉장하게 잡음이 많고, 이런 문의들에 대한 두개의 조건 사이에는 상당한 차이점이 나타나지 않았다.

문의들

타이밍 데이터 뿐만이 아니라, 참가자들은 실험의 시작 및 종료에 있는 문의들을 완성하였다. 참가자들은 먼저 몇몇 데모그래픽 정보를 입력하였는데, 이것에 뒤이어 7 포인트 리커트(Likert) 스케일을 사용하는 다수의 문의가 뒤따라온다. (1 점은 "강한 불일치" 및 7점은 "강한 일치". 예로, "나는 이 소프트웨어 사용을 좋아한다" 또는 " 옛날 문서 또는 e-mail 을 찾을 필요가 있을 경우, 찾는 것이 비교적 쉽다"). 최종적으로, 참가자는 다수의 자유로운 문의에 대답하였다(예로, "당신이 생각하기에 랜드마크가 당신으로 하여금 검색을 보다 효율적으로 하도록 도와주는 어떤 유형의 검색 작업이 있는가?").

각 세션의 시작에서, 시각화을 보기 전에, 참가자는 문서(표 1)를 위치시키는 이들의 현재 전략에 대한 일련의 문의들에 대답하였다. 검색용으로 쓰이는 세개의 가장 높은 순위의 속성은 주제, 사람 및 시간이다. 기존의 검색 툴은 주제 및 사람에 의한 액세스를 지원하나, 시간 지향 검색에 대해서는 지원이 부족하다. 본 시각화은, 결과 중에서의 내비게이션용의 풍부한 시간 디스플레이와 결합되어, 키워드-기반 검색이 초기의 결과 집합을 발생하도록 허용함으로써 이 결점을 치유하는 데에 도움을 준다.

이 연구 세션을 시작하기 전에, 참가자(subject)는 이벤트를 상기하기 위한 서로 다른 유형의 랜드마크의 중요성을 순위 매기도록 요구받는다. 공공의 이벤트(세계적 사건 및 휴일)가 더 개인적인 이벤트보다 더 낮은 순위를 받는다는 점을 주의하라. 한 사용자는, "사진은 달력 예약처럼 쉽게 쓸 수 있다. 그러나, 뉴스 이벤트 및 휴일은 덜 중요하다. 내가 말하고자 하는 것은, 할로윈이 10월에 있고, 크리스마스는 12월에 있다는 것을 안다는 것이다. 이를 상기시켜 주는 것은 정보를 더해 주지 않는다" 고 말했다. 다른 사용자는 다음과 같이 말했다. "나에게 있어서, 내 생활에 가까운 이벤트가 중요하고, 그 다음에 세계적인 이벤트이다. 물론, 9/11 테러 사건은 큰 일이나, 나로서는 내가 아프리카로 가기 전에 일어날 일에 대해 또는 새집으로 간 후에 일어날 일에 대해 생각한다".

미래 일을 위한 관심있는 수단은, 여기 탐색된 두개의 조건에 부가하여, "개인적 랜드마크" 및 "공공의 랜드마크" 를 다루는 서로 다른 유형의 이벤트들 사이를 구별함으로써 날짜 유일 조건 대 모든 랜드마크 조건의 연구를 확장하는 것이다. 실험을 마친 후에, 참가자들은 타임라인 인터페이스(표 3)의 일반적 유용성을 평가하였다. 참가자들은, 어떤 클래스의 검색 작업이 결과의 시간 기반 프레젠테이션에 더 잘 맞는 지와 또다른 유형의 작업이 대안의 조직 방식과 최적으로 동작할 수도 있는 지의 여부를 추가로 검색하는 것도 가치있는 일이지만, 일반적으로 결과의 시간 기반 프리젠테이션이 유용하다는 것을 발견하였다. 한 참가자는, 랜드마크가 "시간 또는 이벤트 관련 메일을 찾아보는 것; 공항 폐쇄에 대한 릭의 메일을 발견하는 것이 9.11 테러에 잘 결합되어" 있을 때, 가장 유용하다는 점을 제시하였다.

타임 라인의 수직 프레젠테이션이 잘 수용되기는 하여지만, 많은 사용자는 시간 흐름을 역으로 하여 더 최근의 검색 결과가 스크린 하부 근처에서 디스플레이되도록 하는 옵션을 원하였다. 이런 시간 방향에 대한 선호도는 이들의 email 클라이언트가 메시지 신호의 상부 또는 하부에서 더 새로운 메시지를 디스플레이하는 지의 여부에 흔히 관계된다. 알 수 있는 것처럼, 본 발명은 여러가지의 타임라인 부여(예로, 수평 타임라인, 역 방향 타임라인)를 채택할 수 있다.

사용자는 일반적으로 시각화에 제공된 개요를 유용하다고 여겼다 (한 사용자는 다음과 같이 코멘트하였다; "나는 조그만 수평 라인이 활동의 분출을 보여주는 방식을 좋아한다. 이 방식으로 나는 어느 시간 주기로 일이 발생하였는지를 알아낼 수 있었다"). 그러나 다른 사용자는 개요 타임라인의 섹션을 선택함으로써 검색 결과를 통해서 내비게이트하는 것을 혼란스럽다고 여겼다 (또다른 사용자는 "개요 페인(pane) 상의 타임 스케일을 조정하는 것은 나에게는 쉬운 것으로 보이지 않는다" 고 말하였다).

결론

발명자는 개인의 내용에 대한 검색 결과의 타임라인 기반 시각화을 개발하고 평가하였다. 에피소드 기억에 대한 결과는, 이런 부가된 내용이 사람들이 이들의 검색의 목표를 위치시키는 데에 도움주기를 희망하는 속에서, 이들이 타임라인을 공공의(뉴스 헤드라인 및 휴다) 및 개인의(달력 예약 및 디지털 사진) 랜트마크 이벤트로 확장하도록 이끌어 주었다. 사용자 연구는 날짜로만 디스플레이된 타임라인과 비교하여 랜드마크로 확장된 타임라인으로 검색하게 되면 통계적으로 상당하게 시간이 절약되는 것을 발견하였다. 추가적으로, 발명자는, 사용자들이 믿기로는, 사용자가 이들이 이벤트를 기억하는 방식과 시각화에 대한 이들의 반응에 대한 중요한 피드백을 모아보았다. 이 작업은 글로벌 및 개인적 내용을 검색 결과의 프레젠테이션에 더하는 것과 미래 연구방향을 제시하는 것의 유용성을 보여 준다.

적어도 상기의 것을 고려할 때, 발명자는 검색 결과를 리뷰할 때에, 더 일반적으로는 조사용으로 타임 라인에 중점을 둔 보기(viewing)가 관심 물체 결과를 찾아내는 데에 가장 유용할 때, 서로 다른 종류의 일시적 랜드마크의 상대적 값을 상정해 보았다. 예를 들어, 특정 문의에 대해 회답된, 시간 상의 아이템의 분포는 아이템을 찾고자 할 때 타임라인 보기의 전체적 유용성에 영향을 끼칠 것이다. 시스템을 정밀화하기 위한 수많은 다른 수단도 있다. 사용자는 타임라인을 내비게이트하는 데에 몇가지 어려움을 보고하였고, 발명자는 더 나은 줌 기능(zooming) 및 시간 이동의 결합을 통해서 내비게이션의 제어를 향상시키기를 바랐다. 따라서, 본 발명의 한 특정 국면은 (모든 소스로부터) 랜드마크를 선택하고 순위 매기는 데에, 및 서로 다른 유형의 요약 랜드마크를 탐색하는 데에, 발견적 학습법(또는 다른 모델)을 만들 수 있다. 예를 들어, 일년 내의 연 또는 계절을 디스플레이하기 위해 서로 다른 색으로 개요 타임라인의 세그먼트를 칠하는 것이 채택될 수 있다. 그 자체가 검색 결과와 관계된 랜드마크가 또한 식별될 수 있는데, 여기에는, 문서의 내용 및 구조에 관한 주요 속성 등이 있다. 랜드마크를 수동적으로 디스플레이하는 것 뿐만이 아니라, 사용자는 문의의 형성에 있어 랜드마크와 더 전통적인 검색 용어를 결합할 수 있어서 사용자가 "랜드마크로" 검색할 수 있도록 하여 주는데, 예를 들어 "나의 매니저와 함께 프로젝트 리뷰하기 바로 전에 생성한 모든 문서를 나에게 보여달라" 또는 "지진이 일어난 주에 받은 모든 email을 나에게 보여달라" 라는 것과 같은 것을 말한다.

도17을 참조하면, 본 발명의 여러 특징을 구현하기 위한 예시적 환경(1700)은, 컴퓨터(1702), 프로세서 유닛(1704)을 포함하는 컴퓨터(1702), 시스템 메모리(1706), 및 시스템 버스(1708)를 포함한다. 시스템 버스(1708)는, 시스템 메모리(1706)를 포함하나 이에 제한되는 것만은 아닌 시스템 소자를 프로세싱 유닛(1704)에 결합시킨다. 프로세싱 유닛(1704)은 여러가지의 상업적으로 구득가능하고 유용한 프로세서 중 임의의 것일 수 있다. 듀얼 마이크로프로세서 및 다른 다중 프로세서 아키텍쳐가 또한 프로세싱 유닛(1704)으로서 채택될 수 있다.

시스템 버스(1708)는 여러 종류의 상업적 구득가능한 버스 아키텍쳐 중 임의의 것을 사용하는, 메모리 버스 또는 메모리 제어기, 주변 버스 및 로컬 버스를 포함하는 여러 유형의 버스 구조 중 임의의 것일 수 있다. 시스템 메모리(1706)는 판독 전용 메모리(ROM)(1710) 및 랜덤 엑세스 메모리(RAM)(1712)를 포함할 수 있다. 스타트 업 동안과 같이, 컴퓨터(1702) 내의 소자들 사이에서 정보를 전달하는 데에 도움을 주는 기본 루틴을 포함하는 기본 입력/출력 시스템(BIOS)은 ROM(1710) 내에 기억된다.

컴퓨터(1702)는, 하드 디스크 드라이브(1714), (예로, 탈착 가능디스크(1718)로부터 판독하거나 기입하기 위한) 자기 디스크 드라이브(1716), 및 (예로, CD-ROM 디스크(1722)를 판독하거나, 다른 광 미디어로부터 판독하거나 그것에 기입하기 위한) 광 디스크 드라이브(1720)를 추가로 포함한다. 하드 디스크 드라이브(1714), 자기 디스크 드라이브(1728), 및 광 디스크 드라이브(1720)는, 하드 디스크 드라이브 인터페이스(1724), 자기 디스크 드라이브 인터페이스(1726), 및 광 디스크 드라이브 인터페이스(1728)에 의해 각각 시스템 버스(1708)에 접속될 수 있다. 드라이브 및 이들의 관련된 컴퓨터 판독 가능 미디어는 비휘발성 데이터 저장, 데이터 구조, 컴퓨터 실행 가능 명령, 및 등등의 것을 제공한다. 컴퓨터(1702)에 대해서, 드라이브 및 미디어는 적합한 디지털 포맷으로 브로드캐스트프로그램밍의 저장을 수용할 수 있다. 상기의 컴퓨터 판독 가능 미디어에 대한 설명은, 하드 디스크, 탈착가능 자기 디스크 및 CD를 언급하고 있지만, 당업자는, 컴퓨터에 의해 판독될 수 있는 또다른 유형의 미디어, 즉, 집(zip) 드라이브, 자기 카세트, 플래시 메모리 카드, 디지털 비디오 디스크, 카트리지, 및 등등의 것들이 예시적 운영 체제에서 사용될 수 있으며, 또한 이런 임의의 미디어는 본 발명의 방법을 실행하기 위한 컴퓨터 실행가능 명령을 포함할 수 있음을 알 것이다.

운영 체제(1730), 하나 또는 그 이상의 애플리케이션 프로그램(1732), 다른 프로그램 모듈(1734), 및 프로그램 데이터(1736)를 포함하여, 다수의 프로그램 모듈은 드라이브 및 RAM(1712)에 저장될 수 있다. 본 발명이 여러가지의 상업적 구득가능한 운영 체제 또는 운영 체제의 조합으로서 구현될 수 있음을 알 것이다.

사용자는 키보드(1738)와, 마우스(1740)와 같은 포인팅 디바이스를 통해서커맨드 및 정보를 컴퓨터(1702)로 입력할 수 있다. 다른 입력 디바이스(도시안됨)로는, 마이크로폰, IR 원격 제어, 죠이스틱, 게임 패드, 위성 접시, 스캐너, 등등이 있다. 이러한 입력 디바이스들은 시스템 버스(1708)에 결합된 직렬 포트 인터페이스(1742)를 통해서 프로세싱 유닛(1704)에 보통은 접속되나, 병렬 포트, 게임 포트, 유니버설 직렬 버스(USB), IR 인터페이스 등과 같은 다른 인터페이스를 통해서 접속될 수도 있다. 모니터(1744) 또는 다른 유형의 디스플레이 디바이스가 또한 비디오 어댑터(1746)와 같은 인터페이스를 통해서 시스템 버스(1708)에 접속된다. 모니터(1744) 뿐만이 아니라, 컴퓨터는 전형적으로 스피커, 프린터와 같은 다른 주변 출력 장치(도시 안됨)를 갖는다.

컴퓨터(1702)는 원격 컴퓨터(들)(1748)과 같이, 하나 또는 그 이상의 원격 컴퓨터로의 논리 접속을 사용하여 네트워크화된 환경에서 동작할 수 있다. 원격 컴퓨터(들)(1748)는, 워크스테이션, 서버 컴퓨터, 라우터, 퍼스널 컴퓨터, 휴대용 컴퓨터, 마이크로프로세서 기반 엔터테인먼트 기기, 필적하는(peer) 디바이스, 또는 다른 공통 네트워크 노드가 될 수 있는데, 전형적으로는, 컴퓨터(1702)에 대해 설명되는 소자의 대부분의 것 또는 모두를 포함할 수 있는데, 간략화를 위해 메모리 저장부(1750)만이 예시되었다. 설명된 논리적 접속은 LAN(1752) 및 WAN(1754)를 포함한다. 이런 네트워킹 환경은 사무실, 기업의 광역 컴퓨터 네트워크, 인트라넷, 및 인터넷에 공통적인 것이다.

LAN 네트워킹 환경에서 사용될 때, 컴퓨터(1702)는 네트워크 인터페이스 또는 어댑터(1756)를 통해서 로컬 네트워크(1752)에 접속된다. WAN 네트워킹 환경에서 사용될 때, 컴퓨터(1702)는 전형적으로 모뎀(1758)을 포함하거나 또는 LAN 상에서 통신 서버에 접속되거나, 또는 인터넷과 같이 WAN(1754) 상에서 통신을 설정하기 위한 다른 수단을 갖는다. 내장형 또는 외부 장착형이 될 수 있는 모뎀(1758)은 직렬 포트 인터페이스(1742)를 통해서 시스템 버스(1708)에 접속된다. 네트워크화된 환경에서, 컴퓨터(1702)에 대해 설명된 프로그램 모듈은 또는 그의 일부는 원격 메모리 저장부(1750) 내에 기억될 수 있다. 도시된 네트워크 접속은 예시적인 것이며 컴퓨터들 사이에 통신 링크를 설정하기 위한 다른 수단이 사용될 수 있음을 알아야 한다.

본 발명의 한 특징에 따라서, 필터 아키텍쳐는 이 필터링이 채택되는 시스템의 특정 사용자가 바라는 필터링의 등급에 맞춰진다. 그러나, 이런 맞춤 특징은, 로컬 사용자 시스템 환경에 적용될 뿐만 아니라, 특정 계급의 사용자에 대한 필터링 등급이 공장에서 판매를 위해 생산되는 시스템에서 구현을 위해 선택될 수 있는 경우에 시스템 공급자의 제조 공정까지 되돌아가 적용될 수 있다. 예를 들어, 구입자가, 임의의 정크 메일에 대한 액세스를 요구하지 않아야만 하는, 구입된 시스템의 제1 배치(batch)가 사용자에 대해 제공되어야만 한다고 결정하였다면, 이 시스템 배치에 대한 공장에서의 디폴트 설정은 높게 설정될 수 있고, 반면에, 제2 계급의 사용자에 대한 제2 시스템 배치는 리뷰용의 더 심한 정크 메일에 대해 더 낮은 설정으로 구성될 수 있다. 어느 시나리오에서든, 본 발명의 맞춤형 속성은 국소적으로 인에이블되어서 임의의 사용자 계급의 개개의 사용자가 필터링 등급에 적응할 수 있도록 하여 주거나, 만약 디스에이블되었다면, 디폴트 설정의 변경이 방지되도록 하여 준다. 또한 개시된 필터 아키텍쳐와 적합하게 구성된 하나의 또는 많은 시스템을 구성하기 위해 필적할만한 액세스 권리를 행사하는 네트워크 관리자는 또한 이런 계급 구성을 국소적으로 구현할 수 있다.

앞에서 설명한 것은 본 발명에 대한 예를 든 것이다. 물론, 본 발명을 설명하기 위해서, 모든 생각할 수 있는 소자 또는 방법론의 조합을 설명하는 것은 가능하지 않다. 그러나, 당업자는 본 발명에 대한 많은 추가의 결합 및 조합이 가능하다는 것을 알 것이다. 따라서, 본 발명은 첨부된 청구범위의 사상 및 범위 내에 드는 모든 이러한 변경, 부분적 변경, 및 이형 예들을 포괄하도록 의도된 것이다. 더나아가, '갖는다(include)'라는 용어가 상세한 설명 또는 청구범위에서 사용될 때에 이 용어의 의미에 대해서는, '포함한다(comprising)' 라는 용어가 청구범위에서 전이 용어로서 채택되었을 때 이 '포함한다' 를 해석하는 방식과 유사하게 다른 것도 포함할 수 있다는 식으로 쓰인 것임을 여기서 말해 둔다.

Claims

컴퓨터 기반 검색을 용이하게 하는 시스템에 있어서,

정보 검색에 관한 정보를 수신하는 문의 컴포넌트(query component)와;

상기 정보 검색을 용이하게 하기 위해 컨텐트 기반 랜드마크 정보를 이용하는 랜드마크 컴포넌트(landmark component) -상기 랜드마크 정보는 검색의 발신자에게 기억할 만한(memorable) 이벤트(들)에 관한 문맥 정보(contextual information)에 대응함-

를 포함하는 시스템.
제1항에 있어서, 개인의 컨텐트의 인덱스에 적어도 일부분 기초하여 상기 검색에 대한 결과를 디스플레이하는 것과 관련하여 타임라인 시각화(timeline visualization)를 제공하는 시스템.
제1항에 있어서, 사용자에게 노출된 정보의 단일화된 인덱스(unified index)를 제공하는 검색 엔진을 더 포함하는 시스템.
제3항에 있어서, 상기 정보는, 웹 페이지, 이메일, 문서, 그림, 오디오 중 적어도 하나를 포함하는 시스템.
제2항에 있어서, 검색의 결과는 개요-플러스-상세 타임라인 시각화(overview-plus-detail timeline visualization)로 제시되는 시스템.
제5항에 있어서, 시간에 대한 검색 히트(hits)의 분포를 보여주는 요약 보기(summary view)를 더 제공하는 시스템.
제5항에 있어서, 개개의 검색 결과에 대한 검사(inspection)를 허용하는 상세 보기(detailed view)를 더 제공하는 시스템.
제7항에 있어서, 회신된 아이템(returned items)에 아이콘 및/또는 짧은 설명으로 주석을 다는(annotate) 시스템.
제1항에 있어서, 상기 랜드마크 컴포넌트는 공공의(public) 랜드마크 및/또는 개인의(personal) 랜드마크를 부가함으로써 기본 시간 보기(basic time view)를 확장하는 시스템.
제1항에 있어서, 문맥을 통한 검색을 지원하기 위해 문맥 정보를 이용하는 시스템.
제1항에 있어서, 공공의 및/또는 개인의 랜드마크 이벤트를 이용하여 검색의타임라인 기반 프리젠테이션을 앵커링(anchoring)하는 시스템.
제1항에 있어서, 빠르고 쉽게 컨텐트를 검색할 수 있도록 사용자에게 노출된 아이템들의 텍스트 및/또는 메타데이터에 인덱스를 달 수 있는 인덱싱 컴포넌트를 더 포함하는 시스템.
제1항의 컴포넌트들이 저장된 컴퓨터 판독 가능한 미디어.
컴퓨터 기반 검색을 용이하게 하는 방법에 있어서,

정보 검색에 관한 정보를 수신하는 단계와;

상기 정보 검색을 용이하게 하기 위해 컨텐트 기반 랜드마크 정보를 이용하는 단계 -상기 랜드마크 정보는 검색의 발신자에게 기억할 만한 이벤트(들)에 관한 문맥 정보에 대응함- 와;

상기 문맥 정보의 부분 집합의 인덱스에 적어도 일부분 기초하여 검색 결과의 타임라인 시각화를 제공하는 단계

를 포함하는 방법.
제14항에 있어서, 상기 랜드마크 정보를 결정하기 위해 하나 이상의 기억도 모델(memorability models)을 이용하는 단계를 더 포함하는 방법.
제15항에 있어서, 상기 기억도 모델은, 투표(voting) 모델, 발견적(heuristic) 모델, 규칙(rules) 모델, 통계적(statistical) 모델, 추론(inference) 모델, 및 컴플리먼터리(complimentary) 모델 중 적어도 하나를 포함하는 방법.
제16항에 있어서, 상기 컴플리먼터리 모델은 건망증의 패턴에 기초하는 방법.
제14항에 있어서, 브라우저 인터페이스에서 상기 랜드마크 정보를 이용하는 단계를 더 포함하되, 상기 브라우저 인터페이스는 상기 랜드마크 정보에 관한 하나 이상의 이벤트를 상기 브라우저에 의해 검색 가능한(retrievable) 하나 이상의 아이템에 관련시키는 것인 방법.
컴퓨터 기반 검색을 용이하게 하는 시스템에 있어서,

정보 검색에 관한 정보를 수신하기 위한 수단과;

상기 정보 검색을 용이하게 하기 위해 컨텐트 기반 랜드마크 정보를 이용하기 위한 수단 -상기 랜드마크 정보는 검색의 발신자에게 기억할 만한 이벤트(들)에 관한 문맥 정보에 대응함- 과;

상기 문맥 정보의 부분 집합의 인덱스에 적어도 일부분 기초하여 검색 결과의 타임라인 시각화를 제공하기 위한 수단

을 포함하는 시스템.
기억도 모델(memorability models)을 이용하는 시스템에 있어서,

이벤트들을 시간상의 랜드마크로서 인식할 수 있는 사람의 능력을 자동적으로 포착하는 하나 이상의 기억도 모델과;

상기 이벤트들에 따라서 정보의 프로세스를 용이하게 하기 위해 상기 기억도 모델을 이용하는 애플리케이션

을 포함하는 시스템.
제20항에 있어서, 상기 기억도 모델은, 정보를 프로세스, 수신, 및/또는 통신하는 데 있어서 사용자들을 돕기 위해 다양한 컴퓨터 기반 애플리케이션에 의해 이용될 수 있는 이벤트들에 기억할 만한 것의 척도(a measure of memorability)를 할당하기 위한 절차(procedures) 및 정책(policies)을 포함하는 시스템.
제21항에 있어서, 상기 이벤트들은, 약속(appointments), 사용자의 달력 내의 주석(annotations), 휴일, 시간에 걸친 뉴스 스토리, 및 이미지 중 적어도 하나를 포함할 수 있는 시스템.
제20항에 있어서, 상기 기억도 모델은 시간상의 랜드마크를 포함하는 개인화된 인덱스를 제공하기 위해 이용되고, 상기 인덱스는 정보의 디렉토리들을 브라우징(browsing)하는 것에 관한 적어도 하나의 애플리케이션에서 및 검색 엔진의 결과를 리뷰하는 것에서 이용되는 시스템.
제20항에 있어서, 상기 기억도 모델은, 투표(voting) 모델, 발견적(heuristic) 모델, 규칙(rules) 모델, 통계적(statistical) 모델, 및 패턴에 기초하는 컴플리먼터리(complimentary) 모델 중 적어도 하나를 포함할 수 있는 시스템.
제24항에 있어서, 상기 투표 모델은, 공공의 이벤트들의 기억할 만한 것에 대해 점수(score)를 매기기 위하여, 하나의 사용자 집합에 대해 자동적으로 여론 조사를 하는(poll a set of users) 시스템.
제25항에 있어서, 상기 점수(score)는, 전체 뉴스 스토리로부터 취득된 뉴스 스토리들의 중요점과 하나의 사용자 집합에게 문의하여 값을 할당하는 것 중 적어도 하나를 포함하는 기억할 만한 것의 스컬러 척도에 기초하는 시스템.
제24항에 있어서, 상기 발견적 모델은, 메시지의 특성을 이용하고 그 특성의 함수에 기초하여 기억할 만한 것의 점수 또는 결정적인 카테고리를 할당하는 비공식 정책을 생성하는 시스템.
제27항에 있어서, 이벤트들의 기억할 만한 것에 긍정적으로 영향을 끼침에 따라서 달력 상의 상기 이벤트들의 증가하는 지속 기간(duration)을 분석하는 발견적 함수(heuristic function)를 더 포함하는 시스템.
제28항에 있어서, 상기 발견적 함수는, 이미지들의 하나 이상의 속성에 기초하여 상기 이벤트에서 취득된 이미지 집합들 중 가장 기억할 만한 것으로서 역할을 하는 이미지 집합으로부터의 이미지 부분 집합들 또는 이미지들에 적용되는 시스템.
제29항에 있어서, 상기 속성은, 화면 내의 물체들의 합성, 컬러 히스토그램, 인지되는 얼굴들, 그림들 사이의 연속 및 일시적 관계(sequence and temporal relationships)를 포함하는 특징, 짧은 그림간 간격과 관련된 그림, 이벤트들의 국면에 관한 사진가의 흥분의 포착, 및 이미지에 관한 사용자의 활동을 나타내는 속성 중 적어도 하나를 포함하는 시스템.
제30항에 있어서, 상기 사용자의 활동은, 보다 길거나 보다 짧은 드웰 시간(dwell time)을 갖는 상기 이미지를 검사하거나 디스플레이하고, 상기 이미지를 편집하고, 상기 이미지를 잘라내고(cropping), 개명하는(renaming) 것을 포함하는 시스템.
제30항에 있어서, 초점(focus) 및 방위(orientation)를 포함하는 이미지 품문의 자동화된 분석을 더 포함하는 시스템.
제24항에 있어서, 상기 규칙 모델은, 뉴스 스토리의 수, 미디어에서의 지속성(persistence), 사상자의 수, 상기 뉴스 스토리와 관련된 달러 손실값, 놀라운(surprise) 또는 전형적이지 않은(atypical)의 치수를 포착하는 특징, 및 상기 이벤트의 사용자에의 근접(proximity) 중 적어도 하나에 관한 속성을 포함하는 뉴스 스토리들에 기억할 만한 것의 척도를 자동적으로 할당하기 위한 규칙을 포함하는 시스템.
제33항에 있어서, 상기 통계적 모델은, 아이템들의 기억할 만한 것을 예측하는 모델들을 제공하는 기계 학습 방법을 이용하고, 상기 통계적 모델은, (베이지언(Bayesian) 네트워크와 같은) 베이지언 의존 모델, 원시적 베이지언 분류자(naive Bayesian classifiers), 및 지원 벡터 기계(SVMs: Support Vector Machines) 중 적어도 하나를 발생시킬 수 있는 베이지언 학습의 이용을 포함하는 시스템.
제24항에 있어서, 랜드마크 아이템 또는 망각된 아이템의 명시된 예(explicit examples)를 취득하는 트레이너 컴포넌트(trainer component)를 더 포함하는 시스템.
제35항에 있어서, 상기 트레이너에는 암시적 트레이닝(implicit training)을 통하여 식별된 예들이 공급되는 시스템.
제24항에 있어서, 상기 컴플리먼터리 모델은, 사용자가 곧 다가오는 이벤트를 상기하지 못할 가능성을 추론하는 것에 초점이 맞추어지는 기억할 만한 것의 변형들의 이용을 기술하는 시스템.
제37항에 있어서, 상기 컴플리먼터리 모델은, 사용자가 망각하기 쉬운 정보를 시각적으로 두드러지도록 선택적으로 돋보이게 하기(highlight) 위하여, 또는 정보가 기억되지 않을 가능성에 따라서 정보의 타이밍 또는 경보(alerting)를 변화시키기 위하여 애플리케이션에서 추론(inferences)을 이용하는 시스템.
제37항에 있어서, 상기 컴플리먼터리 모델은, 문맥에 민감한 비용(context-sensitive costs) 및 정보를 전송하고 망각될 가능성이 있는 정보에 관하여 사용자에게 경보하는 이익을 포함하는 메시징 및 리마인딩 시스템과 결합되는 시스템.
제20항에 있어서, 임계치 조정을 더 포함하되, 이 조정의 설정에 따라서, 사용자의 달력으로부터, 기억할 만한 것이 되는 임계치(a threshold of being memorable)보다 더 큰 가능성을 갖는 랜드마크 이벤트들이 디스플레이되도록 하는임계치 조정을 더 포함하는 시스템.
제40항에 있어서, 랜드마크가 되는 가능성이 점진적으로 낮아지는 이벤트들을 점진적으로 밝게 하는 디스플레이를 더 포함하는 시스템.
제41항에 있어서, 랜드마크가 되는 가능성의 서로 다른 범위들 내에서 이벤트의 멤버쉽의 함수로서 강도(intensity)를 할당하는 단계를 더 포함하는 시스템.
제20항에 있어서, 수년에 걸쳐서(over the years) 사용자의 달력 약속의 파일을 불러오고(fetch) 약속이 메모리 랜드마크로서 역할을 하는지 여부를 사용자가 디스플레이할 수 있게 하는 트레이닝 인터페이스(training interface)를 더 포함하는 시스템.
제43항에 있어서, 상기 트레이닝 인터페이스는, 사용자의 달력상의 이벤트들의 다수의 속성을 취하고 각각의 이벤트가 랜드마크 이벤트일 가능성을 예측하는 통계적 분류자를 생성하는 트레이닝 버튼을 더 포함하는 시스템.
제44항에 있어서, 상기 가능성은, 다음의 수학식: p(메모리 랜드마크｜ E1 ... En)에 기초하고, 여기서 p는 확률이고, E1 ... En은 하나 이상의 이벤트 속성에 관한 증거인 시스템.
제20항에 있어서, 동료들이 미팅에 있는지 여부, 요일, 시간, 미팅 기간, 그 미팅이 정기적인 것인지 여부, 미팅에 관하여 조기 리마인딩을 위해 설정된 시간, 사용자의 역할, 그 미팅이 별명(alias)을 통하여 왔는지 또는 사람에게서 왔는지, 그 미팅에 얼마나 많은 출석자(attendees)가 있는지, 그 미팅에 사용자의 직접 보고, 관리자, 또는 관리자의 관리자가 있는지, 누가 그 미팅의 주최자(organizer)인지, 그 미팅의 주제, 그 미팅의 장소(location), 및 사용자가 그 미팅 요청에 응답하였는지 중 적어도 하나를 포함하는 기억할 만한 것 변수(memorability variables)를 프로세스하기 위한 추론 모델을 더 포함하는 시스템.
제46항에 있어서, 사용자의 약속 저장부(appointment store)로부터 계산되고 이벤트 또는 약속의 속성의 희귀성(rarity) 즉 "어타이피아"(atypia)를 포착하는 "주최자 어타이피아", "장소 어타이피아", 및 "출석자 어타이피아" 중 적어도 하나를 프로세스하는 것을 더 포함하는 시스템.
제47항에 있어서, 장소, 주최자, 및 출석자에 대한 특징성(typicality)을 빈도의 범위에 기초한 상태들로 분리시키는(discretizing) 것을 더 포함하는 시스템.
제20항에 있어서, 이벤트들이 언제 어떻게 디스플레이되는지를 제어하기 위하여 사용자에 의해 선택되는 하나 이상의 제어를 더 포함하는 시스템.
기억할 만한 것 정보를 적용하기 위한 방법에 있어서,

아이템이 상기되거나, 랜드마크로서 인지되거나, 또는 이벤트 또는 시간을 가장 대표하는 것이 될 가능성의 척도에 따라서 이벤트 또는 아이템에 수치적 또는 분류별 라벨을 자동적으로 붙이는 라벨링(labeling) 단계와;

정보 관리 애플리케이션들에 상기 라벨링을 적용하는 단계

를 포함하는 방법.
제50항에 있어서, 상기되거나, 랜드마크로서 인지되거나, 또는 가장 대표적인 이벤트 또는 시간으로서 이벤트 또는 아이템의 중요점의 스컬러 척도를 할당하는 수학적 함수를 이용하는 단계를 더 포함하는 방법.
제51항에 있어서,

암시적으로 트레이닝되는 기계 학습 방법을 통하여 또는 명시된 트레이닝 시스템을 이용하여 기억할 만한 것의 통계적 모델을 적용하는 단계와;

상기되거나, 랜드마크로서 인지되거나, 또는 이벤트 또는 시간을 가장 대표하는 것으로서의 이벤트 또는 아이템의 가능성에 관하여 실시간 추론 또는 분류를 제공하는 기억할 만하거나 또는 기억할 만하지 않은 이벤트 또는 아이템의 샘플에 관한 정보를 수집하는 단계와;

상기 이벤트 또는 아이템의 서로 다른 등급들(different degrees)에 걸쳐서확률 분포를 제공하는 단계

중 적어도 하나를 더 포함하는 방법.
제50항에 있어서, 일생 이벤트들의 로그(log of lifetime events)를 위하여 이벤트들을 선택적으로 저장하기 위하여, 이질적 이벤트 또는 컨텐트의 스트림을 자동적으로 필터링하는 단계를 더 포함하는 방법.
제50항에 있어서, 이질적 이벤트 및 컨텐트의 로그를 계층적으로 브라우징하거나 또는 시간 정확도(temporal precision)의 서로 다른 레벨에서 데이터를 브라우징하는 단계를 더 포함하는 방법.
제50항에 있어서, 그림 라이브러리로부터 그려진 그림들의 주위 디스플레이(ambient display)를 위한 그림들을 선택적으로 고르기 위해 대표적인 랜드마크 및 기억할 만한 것을 이용하는 단계를 더 포함하는 방법.
제50항에 있어서, 사용자가 보이고자 하는 슬라이드의 총수가 제한된 상황에서, 하나 이상의 이벤트들에 관하여 시간에 걸쳐서 또는 서로 다른 시점들(different points in time)에서 슬라이드 쇼에서 그림들의 집합을 선택적으로 고르기 위하여 대표적인 메모리 랜드마크 및 기억할 만한 것을 이용하는 단계를 더 포함하는 방법.
제50항에 있어서, 전체 아이템의 컨텐트를 요약하거나 또는 그 속성을 나타내기 위한 아이템들의 집합을 선택적으로 고르기 위해 대표적인 메모리 랜드마크 및 기억할 만한 것을 이용하는 단계를 더 포함하는 방법.
제57항에 있어서, 상기 아이템들은, 이미지, 사진 라이브러리, 파일이나 아이템 또는 문서 폴더 상에 디스플레이된 그래픽 또는 사진 이미지들의 섬네일(thumbnails) 중 적어도 하나를 포함하는 방법.
제50항에 있어서, 상기 정보 관리 애플리케이션들은, 아이템이 상기되고 이해될 것인가에 관한 기억할 만한 것 애플리케이션, 아이템이 시간상의 이정표로서 보여질 것인가에 관한 기억할 만한 것 랜드마크, 및 아이템이 일정 기간의 시간이나 이벤트 또는 이벤트들의 순서를 대표하는가에 관한 대표적인 랜드마크 중 적어도 하나에 적용되는 방법.
리마인더를 결정하기 위한 방법에 있어서,

데이터로부터 모델들을 자동적으로 트레이닝시키는 단계와;

망각될 가능성이 있는 아이템들에 관하여 추론을 수행하는 단계

를 포함하는 방법.
제60항에 있어서,

아이템이 망각될 가능성을 추론하는 단계와;

그 아이템에 관하여 사용자에게 리마인드하는 기대치의 비용 편익 분석(cost-benefit analysis)을 수행하는 단계

를 포함하는 방법.
제60항에 있어서, 중단 비용(a cost of an interruption)을 고려하여 아이템 타입 및 문맥이 주어지면 사용자가 망각하기 쉬운 어떤 것에 관하여 사용자에게 자진해서 리마인드할 것인지와 언제 그렇게 할 것인지에 관하여 결정하는 기대 효용 결정(expected-utility decision)을 수행하는 단계를 더 포함하는 방법.
제60항에 있어서, 전송 비용 및 분열(disruptiveness)의 통합을 통하여 데스크탑 애플리케이션 또는 모바일 기기에서 리마인더에 관하여 경보하는 것을 제어하는 단계를 더 포함하는 방법.
제60항에 있어서, 기억 착오(memory aberrancies)를 일으킬 수 있는 다양한 인식 부족을 갖는 환자들을 자동적으로 돕는 단계를 더 포함하는 방법.
제64항에 있어서, 알츠하이머 병을 가진 환자가 그 병의 특별한 단계에 있을 가능성을 자동적으로 예측하는 단계를 더 포함하는 방법.
제65항에 있어서, 사용자들에게 시청각 신호를 자동적으로 제공하는 단계와 이상적인 리마인더를 자동적으로 제공하는 단계 중 적어도 하나를 더 포함하는 방법.