KR20130058336A - 사용자의 행위 로그를 이용한 모바일 어플리케이션의 사용성 분석 장치 및 방법 - Google Patents

사용자의 행위 로그를 이용한 모바일 어플리케이션의 사용성 분석 장치 및 방법 Download PDF

Info

Publication number
KR20130058336A
KR20130058336A KR1020110124293A KR20110124293A KR20130058336A KR 20130058336 A KR20130058336 A KR 20130058336A KR 1020110124293 A KR1020110124293 A KR 1020110124293A KR 20110124293 A KR20110124293 A KR 20110124293A KR 20130058336 A KR20130058336 A KR 20130058336A
Authority
KR
South Korea
Prior art keywords
behavior
user
usability
mobile application
actual
Prior art date
Application number
KR1020110124293A
Other languages
English (en)
Other versions
KR101312446B1 (ko
Inventor
박수용
서기원
박수진
변정원
Original Assignee
서강대학교산학협력단
주식회사 포커스원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 서강대학교산학협력단, 주식회사 포커스원 filed Critical 서강대학교산학협력단
Priority to KR1020110124293A priority Critical patent/KR101312446B1/ko
Publication of KR20130058336A publication Critical patent/KR20130058336A/ko
Application granted granted Critical
Publication of KR101312446B1 publication Critical patent/KR101312446B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16ZINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS, NOT OTHERWISE PROVIDED FOR
    • G16Z99/00Subject matter not provided for in other main groups of this subclass
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/3003Monitoring arrangements specially adapted to the computing system or computing system component being monitored
    • G06F11/302Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system component is a software system
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1423Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display
    • G06F3/1431Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display using a single graphics controller
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00Arrangements for software engineering
    • G06F8/70Software maintenance or management
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality

Abstract

본 발명은 사용자의 행위 로그를 이용한 모바일 어플리케이션의 사용성 분석 장치 및 방법에 관한 것으로, 본 발명의 일 실시예에 따른 모바일 어플리케이션의 사용성을 분석하는 방법은, 사용자로부터 복수 개의 서로 다른 행위가 예측되는 상기 모바일 어플리케이션의 UI(user interface)를 논쟁점(argue point)으로 설정하고, 설정된 논쟁점에 대한 사용자의 행위 로그(behavior log)를 입력받고, 논쟁점에 대해 미리 설정된 예상 행위와 행위 로그로부터 추출된 실제 행위를 논쟁점과 연계하여 저장하며, 논쟁점별로 연계된 예상 행위와 실제 행위를 비교하여 모바일 어플리케이션에 대한 사용성을 판별한다.

Description

사용자의 행위 로그를 이용한 모바일 어플리케이션의 사용성 분석 장치 및 방법{Analysis apparatus and method for usability of mobile application using user bebavior log}
본 발명은 모바일 어플리케이션의 사용성을 분석하는 기술에 관한 것으로, 특히 모바일 어플리케이션을 사용하는 사용자의 행위 로그를 이용하여 모바일 어플리케이션이 적정하게 설계되었는지, 사용자에게 효율적으로 서비스를 제공하고 있는지 여부를 나타내는 사용성을 분석할 수 있는 장치, 방법 및 그 방법을 기록한 기록매체에 관한 것이다.
오늘날 스마트폰의 보급 확산으로 터치, 위치정보 서비스, 음성인식, 증강현실, 소셜네트워크(SNS) 등 그 동안 상상에서만 그려왔던 서비스들이 사용자들에게 제공되고 있다. 하지만, 이와 같은 최신 기술이 적용된 어플리케이션들은 기술 중심적으로 설계된 경향이 있어 소프트웨어 품질 측면에서 개선해야할 점이 많다고 지적되고 있다.
이에 따라, 이하에서 인용되는 비특허문헌 1에 의하면 ISO/IEC 9126에서는 소프트웨어의 품질 요소를 기능성, 신뢰성, 유용성, 효율성, 유지보수성, 이식성으로 정의하고 있다. 이 중 사용성의 경우 언제 어디서나 사용 할 수 있는 모바일 어플리케이션의 특성상 다른 도메인의 어플리케이션과 차별성을 가질 수 있는 요소이다. 또한 스마트폰의 다양한 센서들로 인해 기존 프로그램에서 사용되던 UI(User Interface)방식에서 벗어나 흔들기, 슬라이딩 터치, 사용자 행동 인식 등과 같은 Ux(User Experience)개념으로 바뀌면서 사용성의 폭넓은 확장이 가능해졌으며 스마트폰의 다양한 센서들의 복합적인 상호 작용을 이용해 독특한 서비스를 제공하는 어플리케이션들이 만들어 지고 있고 이를 이용한 많은 비즈니스 활동들이 활발히 이루어지고 있다. 특히, 비특허문헌 2를 참조하면, TAM(Technology Acceptance Model)에서는 이러한 새로운 서비스가 사용자들에게 받아들여질 때 가장 큰 영향을 미치는 요소가 사용성(Usability)이라 한다. 하지만 비특허문헌 3을 통해 최근 닐슨 노만(Nielsen Norman) 그룹이 발표한 스마트폰 어플리케이션의 사용성 조사 보고서에 의하면 많은 스마트폰 어플리케이션이 다양한 센서를 통해 디자인 측면에서 사용자의 많은 호감을 얻고 있지만, 스마트폰의 고유한 특성을 제대로 활용하지 못한 채 어플리케이션 별로 일관성이 결여된 사용자 인터페이스를 제공함으로써 사용자의 혼란을 유발시키고 있다고 발표했다.
따라서, 다양한 모바일 어플리케이션을 기획, 개발, 사용하는 일련의 과정 속에서, 해당 어플리케이션이 적정하게 설계되었는지, 이를 사용하는 사용자의 사용 방법이 최초의 기획 의도에 부합하고 있는지를 나타낼 수 있는 객관적인 평가 및 분석 방법의 개발이 요구되고 있다.
ISO/IEC 9126 Information technology - Software Product Evaluation : Quality characteristics and guidelines for their use, 1991. Venkatesh, V.; Davis, F. D., "A theoretical extension of the technology acceptance model: Four longitudinal field studies", Management Science 46(2): 186-204, 2000. Nielsen Norman Group Report, Usability of iPad Apps and Websites: First Research Findings, 2010.
본 발명이 해결하고자 하는 기술적 과제는 종래의 소프트웨어 사용성 분석을 위해 해당 소프트웨어에 대한 직접적인 사용자로부터 설문을 수집하는 주관적이고 정서적인 방식에만 의존하는 한계를 극복하고, 이러한 사용성 분석 기술이 특정 도메인이나 어플리케이션에 특화된 방안들이 아니라 지극히 일반적인 수준에서만 이루어지고 있을 뿐만 아니라, 해당 어플리케이션의 배포 후 지속적으로 사용성 향상을 관리할 수 있는 실질적인 기술적 수단이 존재하지 않는다는 문제점을 극복하고자 한다.
상기 기술적 과제를 해결하기 위하여, 본 발명의 일 실시예에 따른 모바일 어플리케이션의 사용성을 분석하는 방법은, 사용자로부터 복수 개의 서로 다른 행위가 예측되는 상기 모바일 어플리케이션의 UI(user interface)를 논쟁점(argue point)으로 설정하는 단계; 상기 설정된 논쟁점에 대한 상기 사용자의 행위 로그(behavior log)를 입력받는 단계; 상기 논쟁점에 대해 미리 설정된 예상 행위와 상기 행위 로그로부터 추출된 실제 행위를 상기 논쟁점과 연계하여 저장하는 단계; 및 상기 논쟁점별로 연계된 상기 예상 행위와 상기 실제 행위를 비교하여 상기 모바일 어플리케이션에 대한 사용성을 판별하는 단계;를 포함한다.
상기된 모바일 어플리케이션의 사용성 분석 방법에서, 상기 모바일 어플리케이션에 대한 사용성을 판별하는 단계는, 상기 모바일 어플리케이션의 객체 내의 제어 식별자를 이용하여 상기 실제 행위로부터 상기 사용자의 행위 리스트를 식별하는 단계; 상기 식별된 행위 리스트 내에 상기 논쟁점을 통해 연계된 상기 예상 행위가 존재하는지 여부를 검사하는 단계; 및 상기 검사 결과에 따라 상기 모바일 어플리케이션에 대한 설계의 적정성 정도를 산출함으로써 상기 사용성을 판별하는 단계;를 포함한다. 특히, 상기 모바일 어플리케이션에 대한 사용성을 판별하는 단계는, 상기 예상 행위와 상기 실제 행위를 비교하여 양자의 차이를 나타내는 사용성 지수를 산출함으로써 상기 모바일 어플리케이션에 대한 사용자의 사용성을 평가할 수 있다.
또한, 상기된 모바일 어플리케이션의 사용성 분석 방법에서, 상기 사용자의 행위는, 상기 모바일 어플리케이션의 제어 단위를 식별하는 제어 요소와 상기 제어 요소에 대한 사용자의 응답을 나타내는 제스처 요소를 포함하고, 상기 제어 요소는 상기 모바일 어플리케이션 상에서 소정 행위가 발생한 화면을 나타내는 화면 식별자와 상기 모바일 어플리케이션을 구성하는 제어 객체를 나타내는 제어 식별자를 포함하며, 상기 제스처 요소는 상기 제어 요소에 대한 사용자 응답을 나타내는 트리거 이벤트(triggered event), 상기 사용자 응답의 지향을 나타내는 방향 정보 및 상기 사용자 응답의 발생 시간을 나타내는 타임스탬프(time stamp) 중 적어도 하나를 포함한다.
나아가, 상기된 모바일 어플리케이션의 사용성 분석 방법은, 상기 판별된 사용성에 따라 상기 예상 행위와 상기 실제 행위의 차이가 발생한 지점을 시각적으로 표시하는 단계;를 더 포함할 수 있을 뿐만 아니라, 상기 사용성 판별 결과를 이용하여 수정된 상기 모바일 어플리케이션에 대해 상기 분석 과정을 반복적으로 수행하고, 각각의 수행에 따른 문제 증상 및 변화 정도를 시계열적으로 저장하는 단계;를 더 포함할 수 있다.
한편, 이하에서는 상기 기재된 모바일 어플리케이션의 사용성을 분석하는 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체를 제공한다.
상기 기술적 과제를 해결하기 위하여, 본 발명의 일 실시예에 따른 모바일 어플리케이션의 사용성을 분석하는 장치는, 사용자로부터 복수 개의 서로 다른 행위가 예측되는 상기 모바일 어플리케이션의 UI를 논쟁점으로 설정함으로써 상기 설정된 논쟁점에 대해 수집된 상기 사용자의 행위 로그를 입력받는 입력부; 상기 논쟁점에 대해 미리 설정된 예상 행위와 상기 행위 로그로부터 추출된 실제 행위를 상기 논쟁점과 연계하여 저장하는 저장부; 및 상기 논쟁점별로 연계된 상기 예상 행위와 상기 실제 행위를 비교하여 상기 모바일 어플리케이션에 대한 사용성을 판별하는 처리부;를 포함한다.
상기된 모바일 어플리케이션의 사용성 분석 장치에서, 상기 처리부는, 상기 모바일 어플리케이션의 객체 내의 제어 식별자를 이용하여 상기 실제 행위로부터 상기 사용자의 행위 리스트를 식별하고, 상기 식별된 행위 리스트 내에 상기 논쟁점을 통해 연계된 상기 예상 행위가 존재하는지 여부를 검사하며, 상기 검사 결과에 따라 상기 모바일 어플리케이션에 대한 설계의 적정성 정도를 산출함으로써 상기 사용성을 판별한다. 특히, 상기 처리부는, 상기 예상 행위와 상기 실제 행위를 비교하여 양자의 차이를 나타내는 사용성 지수를 산출함으로써 상기 모바일 어플리케이션에 대한 사용자의 사용성을 평가할 수 있다.
또한, 상기된 모바일 어플리케이션의 사용성 분석 장치에서, 상기 사용자의 행위는, 상기 모바일 어플리케이션의 제어 단위를 식별하는 제어 요소와 상기 제어 요소에 대한 사용자의 응답을 나타내는 제스처 요소를 포함하고, 상기 제어 요소는, 상기 모바일 어플리케이션 상에서 소정 행위가 발생한 화면을 나타내는 화면 식별자와 상기 모바일 어플리케이션을 구성하는 제어 객체를 나타내는 제어 식별자를 포함하며, 상기 제스처 요소는, 상기 제어 요소에 대한 사용자 응답을 나타내는 트리거 이벤트, 상기 사용자 응답의 지향을 나타내는 방향 정보 및 상기 사용자 응답의 발생 시간을 나타내는 타임스탬프 중 적어도 하나를 포함한다.
나아가, 상기된 모바일 어플리케이션의 사용성 분석 장치는, 상기 사용성 분석 장치의 처리 결과를 표시하는 디스플레이부;를 더 포함하고, 상기 처리부는 상기 판별된 사용성에 따라 상기 예상 행위와 상기 실제 행위의 차이가 발생한 지점을 판별하여 상기 디스플레이부에 시각적으로 표시할 수 있을 뿐만 아니라, 상기 처리부는 상기 사용성 판별 결과를 이용하여 수정된 상기 모바일 어플리케이션에 대해 상기 분석 과정을 반복적으로 수행하고, 상기 저장부는 각각의 수행에 따른 문제 증상 및 변화 정도를 시계열적으로 저장할 수 있다.
본 발명의 실시예들은 사용자에 의해 서로 다른 다양한 반응 행위가 예측되는 논쟁점을 설정하고 설정된 논쟁점에 대한 사용자 로그로부터 추출된 실제 행위와 미리 설정된 예상 행위를 비교함으로써 사용자 행위에 대한 객관적이고 수치화된 분석 결과를 산출할 수 있고, 특히 모바일 어플리케이션의 특징을 고려한 제어 요소와 제스처 요소를 고려하여 사용성을 판별함으로써 문제 증상과 사용자 행위를 보다 정확하게 식별, 분석할 수 있으며, 어플리케이션의 업데이트에 따른 사용자 행위의 변화를 시계열적으로 추적함으로써 해당 어플리케이션의 배포 후 지속적으로 사용성 향상을 관리할 수 있다.
도 1은 본 발명의 실시예들이 구현되는 모바일 어플리케이션 구동 환경 하에서 해당 어플리케이션의 행위와 그 행위 시나리오를 설명하기 위한 도면이다.
도 2는 본 발명의 일 실시예에 따른 사용자 행위 로그를 이용한 모바일 어플리케이션의 사용성을 분석하는 방법을 도시한 흐름도이다.
도 3은 본 발명의 실시예들이 활용하고 있는 사용자 행위 로그를 구성하는 데이터 객체를 분류하여 각각의 데이터들을 예시한 도면이다.
도 4는 본 발명의 실시예들이 채택하고 있는 논쟁점의 설정을 설명하기 위한 예시도이다.
도 5는 본 발명의 실시예들에 따른 사용자 행위를 판별하기 위한 사용성 지수를 산출하는 방법을 설명하기 위한 도면이다.
도 6은 본 발명의 실시예들에 따른 모바일 어플리케이션의 사용을 분석하는 방법에서 각각의 컨트롤별로 사용자 행위를 분석하는 방법을 예시한 도면이다.
도 7은 본 발명의 실시예들에서 예상 행위와 실제 행위를 비교함으로써 차이(gap)를 발견하고 이에 기초하여 사용성을 저해하는 문제 증상을 식별하는 방법을 예시한 도면이다.
도 8은 본 발명의 일 실시예에 따른 사용자 행위 시나리오 기반의 사용성 분석의 일례를 도시한 도면이다.
도 9는 본 발명의 일 실시예에 따른 특정 사용자 행위 시나리오의 비교 대상을 선정하는 방법의 일례를 도시한 도면이다.
도 10은 본 발명의 다른 실시예에 따른 어플리케이션 업데이트에 따른 반복적인 분석 과정을 통해 식별된 어플리케이션의 문제 증상을 비교하여 도시한 도면이다.
도 11은 본 발명의 일 실시예에 따른 사용자 행위 로그를 이용한 모바일 어플리케이션의 사용성을 분석하는 장치를 도시한 블록도이다.
본 발명의 실시예들을 설명하기에 앞서 본 발명의 실시예들이 구현, 활용되는 환경에 대해 간략히 소개하고, 실시예들이 활용되는 환경에서 발생하고 있는 문제점을 제시하고자 한다.
사용성에 대한 국제 표준인 ISO 9241-11에서는 사용성을 '특정 사용자가 어느 제품을 사용하여 주어진 상황에서 효과적, 효율적으로 만족스럽게 주어진 작업을 달성할 수 있는 정도'라고 정의 하고 있다. 이러한 사용성의 정의는 다분히 추상적이기 때문에 사용성을 높이는데 있어 여러 문제들이 존재한다. 먼저, 어플리케이션 개발 시 사용성에 관한 정답의 부재로 개발자들 간의 회의나 개인의 공학적 테크닉으로 해결 불가능하다는 점이다. 어플리케이션에서 특정 기능을 제공할 시 어떻게 효과적인 방법으로 사용자로부터 데이터를 획득하고 기능을 제공할 것인지에 대한 정답이 없기 때문에 이에 대한 수많은 논쟁이 발생한다. 이 외에도 사용성은 정량적 측정의 어려움이 있다. 사용성을 구성하고 있는 여러 요소들의 경우 이를 측정하기 위한 기준이나 측정 방법에 대해서 연구가 미비한 실정이기 때문에 현재까지도 사용성은 여전히 추상적인 요소로 자리 잡고 있다. 또한, 사용자들은 실제로 제품을 사용해보기 전까지는 진정 원하는 것이 무엇인지 모른다는 문제점이 있다. 이러한 문제점을 해결하기 위해 기존의 연구에서는 프로토타입, 스토리보드 방식을 이용하여 사용자의 설문을 통해 사용성 측정 및 향상을 위한 접근방안들이 제안되어 왔다. 그러나, 이러한 종래의 연구들은 설문 방식의 한계점을 극복하지 못했을 뿐 아니라 특정 도메인이나 어플리케이션에 특화된 방안들이 아니라 일반적인 프로세스를 제안하고 있을 뿐이며, 실제 어플리케이션의 배포 후 지속적인 사용성 향상에 대한 관리 수단이 없다는 점이 문제점으로 지적되었다.
따라서, 이하에서 제안된 본 발명의 실시예들은 사용성을 향상시키기 위한 방안으로 특정 스마트폰 어플리케이션 안에서 기록된 로그를 기반으로 어플리케이션을 사용한 사용자의 행위를 비교, 분석하고 이를 기반으로 문제 증상을 식별하고, 식별된 문제 증상을 해결할 수 있는 방안을 제시하는 기법을 제안함으로써 사용자가 직접 사용하면서 행동으로 표출한 특정 어플리케이션만의 문제점을 파악하고 이를 개선하기 위한 실천적인 해결 방안을 마련할 수 있도록 한다.
즉, 본 발명의 실시예들은 어플리케이션의 배포 후 해당 어플리케이션을 사용한 사용자의 행위를 분석하는 기법을 제안함으로써 지속적인 사용성 향상을 위한 프로세스을 제시하며, 사용자 행위를 분석하기 위해 스마트폰 어플리케이션에서의 사용자 행위를 보다 구체적으로 정의하고 이를 비교하기 위한 객관적인 기준안을 제시한다. 또한, 이를 기반으로 스마트폰 어플리케이션에서 나타나는 문제 증상을 미리 정의하여 이를 중심으로 문제 증상을 분석하고 해결 방안을 마련한다. 이하에서는 첨부된 도면을 참조하여 본 발명의 실시예들을 구체적으로 설명한다.
도 1은 본 발명의 실시예들이 구현되는 모바일 어플리케이션 구동 환경 하에서 해당 어플리케이션의 행위와 그 행위 시나리오를 설명하기 위한 도면이다.
실사용자의 시스템 사용 행위를 기록한 로그 분석을 통해 사용자의 행위를 분석하기에 앞서, 모바일 어플리케이션 설계자는 설계 시 고려한 사용자의 예상 행위를 시나리오 단위로 기술한다. 사용자의 행위 시나리오란, 사용자가 특정 서비스를 제공받기 위해 거쳐야 할 어플리케이션의 대상 화면과 화면상에서 발생하는 제스처들을 시간 순으로 나열한 일련의 시퀀스를 의미하며, 도 1의 (a)와 같이 도식화할 수 있다. 시나리오 기술시 시간 정보는 각 대상화면에 머무르는 시간 혹은 제스처 발생 간의 시점 차이를 설명하며, 로그 상에 기록된 각 행위 간의 선후 관계를 설명할 수 있는 요소이다.
즉, 본 실시예들이 채택하고 있는 사용성 분석 기법은 이와 같이 기술된 설계자가 예상한 사용자의 행위와 실제 사용자가 스마트폰 어플리케이션 상에서 발생시키는 행위를 비교하여 그 차이를 분석하고, 이를 통해 설계자가 예상하지 못한 사용자의 니즈(Needs)를 파악하여 어플리케이션의 유용성을 높일 수 있는 해결방안을 제시하고자 한다.
여기서, 설계자가 예상한 사용자의 행위와 실제 사용자가 어플리케이션 상에서 발생시키는 행위를 비교하기 위해서는 특정 행위를 규정짓는 정보의 틀에 대한 정의가 필요하다. 도 1의 (b)를 통해 도시된 바와 같이 본 분석 기법에서 제안하는 사용자의 행위는 몇 가지의 요소로 표현 가능하다.
먼저, 행위가 발생한 화면에 대한 식별자인 'View_ID'(이하 '화면 식별자'라고 하자.), 그리고 라벨(Label), 뷰(View), 버튼(Button) 등의 어플리케이션을 구성하는 특정 컨트롤의 식별자인 'Control_ID'd이하, '제어 식별자'라고 하자.)를 지정하여야 하며, 지칭된 컨트롤에 행해지는 탭(Tab), 흔들기(Shaking), 슬라이딩 터치(Sliding Touch) 등의 각종 제스처 등은 'Triggered_Event'(이하, '트리거 이벤트'라고 하자.)로 식별된다. 해당 이벤트의 제스처가 방향에 따라 의미가 달라지는 경우, 방향성(direction) 정보까지 식별하여야 한다. 또한 특정 행위가 발생한 시간에 'TimeStamp'(이하 '타임 스탬프'라고 하자.)를 찍어 기록해 사용자가 해당 행동을 취하기 위한 경과 시간을 계산할 수 있다. 사용자가 행동을 결정하는데 걸린 경과 시간에 따라 해당 행위의 의미가 달라질 수 있으므로 이는 행위를 분석하는데 중요한 요소이다. 이제, 행위의 요소를 고려해 행위를 표현하면 다음의 예시와 같다. "사용자는 상품 소개 화면(View)에서 특정 상품 사진을 3초(TimeStamp)동안 본 후, 다음 상품 사진(Control)을 보기 위해 오른쪽에서 왼쪽으로(Direction) 슬라이드(Triggered_Event)를 행한다." 이와 같이 특정 컨트롤에 특정 제스처를 행한 것을 하나의 원자적 행위라 할 수 있는 것이다.
요약하건대, 이하에서 기술될 본 발명의 실시예들에서, 사용자의 행위는, 모바일 어플리케이션의 제어 단위를 식별하는 제어 요소와 제어 요소에 대한 사용자의 응답을 나타내는 제스처 요소를 포함한다. 이 때, 제어 요소는, 모바일 어플리케이션 상에서 특정 행위가 발생한 화면을 나타내는 화면 식별자와 모바일 어플리케이션을 구성하는 제어 객체를 나타내는 제어 식별자를 포함할 수 있다. 또한, 제스처 요소는, 제어 요소에 대한 사용자 응답을 나타내는 트리거 이벤트(triggered event), 사용자 응답의 지향을 나타내는 방향 정보 및 사용자 응답의 발생 시간을 나타내는 타임스탬프(time stamp) 중 적어도 하나를 포함할 수 있다.
도 2는 본 발명의 일 실시예에 따른 사용자 행위 로그를 이용한 모바일 어플리케이션의 사용성을 분석하는 방법을 도시한 흐름도로서 다음과 같은 단계들을 포함한다.
210 단계에서, 모바일 어플리케이션의 사용성 분석 장치는 사용자로부터 복수 개의 서로 다른 행위가 예측되는 모바일 어플리케이션의 UI(user interface)를 논쟁점(argue point)으로 설정한다. 여기서, 논쟁점이란 최초에 모바일 어플리케이션의 UI를 설계, 디자인하는 단계에서 사용자에게 다수의 대체될 수 있는 행위/결정이 이루어질 수 있다고 예상되었던 부분으로서, 사용자 행위 로그 분석을 통해 사용자의 행위에 대한 관찰과 분석이 요구되는 디자인 결정 포인트(design decicion point)를 의미한다. 즉, 본 발명의 실시예들은 모바일 어플리케이션에서 발생할 수 있는 모든 사용자 행위를 모니터링(monitoring)하는 것이 아니라, 사용자에 의해 행위 결정에 혼란이 야기될 우려가 있는 부분을 사전에 논쟁점으로 설정하여 놓고, 해당 논쟁점을 중심으로 사용자의 실제 행위가 어떠한 방식으로 나타나는지를 관찰하게 된다.
220 단계에서, 사용성 분석 장치는 210 단계를 통해 설정된 논쟁점에 대한 사용자의 행위 로그(behavior log)를 입력받는다. 실제 사용자 행위에 대한 모니터링은 각각의 개별 사용자가 사용하는 모바일 기기를 통해 이루어지며, 해당 모바일 기기에 설치된 모니터링 소프트웨어를 통해 사용자의 행위가 기록된 후, 본 실시예에 따른 사용성 분석 장치로 전달되어 입력된다. 이러한 전달 과정은 모바일 기기와 사용성 분석 장치간에 데이터 통신을 위해 활용될 수 있는 모든 통신 수단이 활용될 수 있다. 예를 들어, 무선 통신이나 유선 통신을 이용해 기록, 수집된 사용자 행위 로그를 사용성 분석 장치로 전달할 수도 있을 것이며, 별도의 저장 매체를 직접 사용성 분석 장치에 연결하여 사용자 행위 로그를 전달할 수도 있을 것이다.
230 단계에서, 사용성 분석 장치는 논쟁점에 대해 미리 설정된 예상 행위와 행위 로그로부터 추출된 실제 행위를 논쟁점과 연계하여 저장한다. 앞서 설명한 바와 같이 논쟁점은 사용자의 행위 결정에 혼란이 야기될 우려가 있는 부분에 해당하므로, 이러한 논쟁점을 중심으로 최초의 어플리케이션 설계자가 의도했던 예상 행위와 실제 수집된 사용자의 행위를 연결하여 분석에 활용하도록 한다.
240 단계에서, 사용성 분석 장치는 논쟁점별로 연계된 예상 행위와 실제 행위를 비교하여 모바일 어플리케이션에 대한 사용성을 판별한다. 보다 구체적으로, 모바일 어플리케이션에 대한 사용성을 판별하는 단계는, 모바일 어플리케이션의 객체 내의 제어 식별자를 이용하여 실제 행위로부터 사용자의 행위 리스트를 식별하고, 식별된 행위 리스트 내에 논쟁점을 통해 연계된 예상 행위가 존재하는지 여부를 검사하며, 검사 결과에 따라 모바일 어플리케이션에 대한 설계의 적정성 정도를 산출함으로써 사용성을 판별한다. 보다 구체적인 사용성 판별 방법은 이후에 다시 도 5 내지 도 6을 통해 설명하도록 한다.
한편, 이상에서 기술된 일련의 사용성 분석 과정은 적어도 하나의 프로세서(processor)를 구비한 사용성 분석 장치를 통해 구현될 수 있다. 또한, 일련의 연산을 수행하는 과정에서 데이터를 임시로 적재하는 메모리(memory) 내지 각각의 하드웨어를 제어하는 컨트롤러(controller)가 활용될 수도 있다. 물론, 이상의 하드웨어들을 제어하기 위한 프로그램 코드로 구현된 소프트웨어가 부가될 수 있음은 당연하다. 따라서, 본 발명의 실시예들이 속하는 기술 분야에서 본 발명의 실시예들이 구현되는 환경의 특성을 이해하는 통상의 기술자들은 이상의 사용성 분석 장치가 물리적인 하드웨어와 이를 제어하는 소프트웨어의 결합으로서 구현될 수 있음을 알 수 있다.
나아가, 250 단계에서 사용성 분석 장치는 240 단계를 통해 판별된 사용성에 따라 예상 행위와 실제 행위의 차이가 발생한 지점을 시각적으로 표시할 수 있다. 이러한 과정은 반복적인 어플리케이션 업데이트에 따른 문제 증상의 개선 상황을 사용자가 쉽게 인지하기 위한 것으로서, 필요에 따라 선택적으로 수행될 수 있다.
이를 위해, 260 단계에서는 240 단계의 사용성 판별 결과를 이용하여 수정된 모바일 어플리케이션에 대해 이상의 일련의 분석 과정(210 단계 내지 240 단계)을 반복적으로 수행하고, 각각의 수행에 따른 문제 증상 및 변화 정도를 시계열적으로 저장하는 것이 바람직하다. 이렇게 반복적으로 누적된 데이터는 250 단계를 통해 사용자에게 표시되게 된다.
도 3은 본 발명의 실시예들이 활용하고 있는 사용자 행위 로그를 구성하는 데이터 객체를 분류하여 각각의 데이터들을 예시한 도면으로서, 앞서 도 1을 통해 정의하였던 사용자 행위의 개별 요소에 따른 것이다.
도 3에서 'views'는 행위가 발생한 화면을 식별할 수 있는 화면 식별자 리스트를 표시하고 있고, 'controls'는 해당 화면에서 제어의 대상이 되는 개체들을 나타내는 제어 식별자 리스트를 표시하고 있으며, 'triggered event'는 해당 제어 객체에서 특정 컨트롤에 행해지는 각종 제스처 리스트를 표시하고 있다. 즉, 본 발명의 실시예들은 모니터링하고자 하는 대상을 도 3에 예시된 바와 같은 계층적인 데이터 구조를 이용해 식별하고 그 변화를 기록하여 사용자 행위 로그를 생성할 수 있다.
도 4는 본 발명의 실시예들이 채택하고 있는 논쟁점의 설정을 설명하기 위한 예시도이다.
사용자가 모바일 어플리케이션 상에서 발생시키는 행위를 로그로 기록하기 위해 어플리케이션을 구성하는 컨트롤들의 이벤트 핸들러(event handler)에 관련 소스 코드를 삽입하게 된다. 하지만, 모든 컨트롤에 이 같은 소스 코드를 삽입하게 되면 어플리케이션의 반응 속도가 늦어져 오히려 사용성을 저하시키는 요인이 될 수 있다. 따라서, 본 발명의 실시예들에서는 어플리케이션 설계 시 설계자들 사이에서 사용성과 관련하여 논쟁이 된 부분(논쟁점)과 관련된 컨트롤들만 사용자 행위 로그를 기록하도록 하였다.
도 4는 로그인 화면에 대해 설계자들 사이에서 발생한 논쟁점(Argue Point)을 나타내고 있다. 사용자들은 로그인 시에 보안규정에 대한 동의를 해야 하는데 이에 대한 화면 구성으로 한 화면에 모두 표기하자는 의견이 있었고 다른 의견으로 로그인 버튼 클릭 후 알림 창으로 표기하자는 의견이 제시되었다. 두 가지 선택안 중에서 첫째 안에 따라 초기 버전의 어플리케이션이 배포되었다. 그리고 논쟁점이 되었던 로그인 화면은 논쟁점 "ADI_01 : 보안규정의 표시방식"으로 등록되어 이와 관련된 컨트롤들에서 일어난 사용자의 모든 행위들은 로그로 기록하도록 하였다. 도 4에는 'ADI_01'과 관련한 화면 식별자(410)와 제어 식별자(420)가 연계되어 관리되고 있음을 예시하고 있다.
도 5는 본 발명의 실시예들에 따른 사용자 행위를 판별하기 위한 사용성 지수를 산출하는 방법을 설명하기 위한 도면이다.
앞서 도 1을 통해 규정하는 요소에 의해 표현 가능한 스마트폰 상에서 발생하는 사용자의 행위를 비교 분석하기 위해서는 사용자가 발생시키는 행위가 설계자가 예측한 행위와 비교하여 동일한 것인지 아닌지 여부를 판별하기 위한 규칙이 필요한 데, 이는 도 5의 수식과 같다.
판단은 크게 두 가지 기준으로 이루어지는데, ① '시간'과 ② '시간이 아닌 요소'가 바로 그것이다. 보다 구체적으로, 본 발명의 실시예들에서 행위의 원자적 요소 중 시간을 제외한 나머지 요소가 하나라도 다를 경우에 양자(측정된 실제 행위와 예상 행위를 의미한다.)는 다른 행위로 판별되며, 모두 동일한 경우라 하더라도 해당 행위를 수행하는 데 소요된 시간에 따라 동일한 행위인지 아닌지가 결정된다. 만약 실제 사용자가 행한 행위가 설계자가 예상한 소요 시간보다 많은 시간이 결렸을 경우, 나머지 요소가 모두 일치한다 하더라도 해당 어플리케이션 사용성에 문제가 있음을 의미하므로, 도 5의 수식이 의미하는 바와 같이 두 행위간의 일치 정도는 설계자의 예측 소요시간 대비 사용자의 예측 소요시간의 비율에 따라 결정된다.
요약하건대, 모바일 어플리케이션에 대한 사용성 판별은 예상 행위와 실제 행위를 비교하여 양자의 차이를 나타내는 사용성 지수를 산출함으로써 모바일 어플리케이션에 대한 사용자의 사용성을 평가하게 된다. 이 때, 사용성 지수는, 예상 행위와 실제 행위의 개별 구성 요소가 일치하는지 여부에 따라 산출되며, 예상 행위에 대해 설정된 임계 시간과 실제 행위가 발생한 시간을 고려하여 차등적으로 값을 갖는다.
도 5에서 확인할 수 있듯이, ① 예상 행위와 실제 행위가 일치하고 실제 행위가 예상 행위에 대해 설정된 임계 시간 내에 발생한 경우, 사용성 지수는 최대값(도 5에서는 '1'로 설정하였다.)으로 설정된다. ② 예상 행위와 실제 행위가 일치하나 실제 행위가 예상 행위에 대해 설정된 임계 시간을 도과하여 발생한 경우, 도과된 시간에 반비례하여 설정된다. 즉, 임계 시간을 많이 도과할수록 사용성 지수는 낮게 산출된다. ③ 예상 행위와 실제 행위가 일치하지 않는 경우, 최저값(도 5에서는 '0'으로 설정하였다.)으로 설정된다.
도 6은 본 발명의 실시예들에 따른 모바일 어플리케이션의 사용을 분석하는 방법에서 각각의 컨트롤별로 사용자 행위를 분석하는 방법을 예시한 도면이다.
설계자는 설정된 논쟁점과 관련된 모든 컨트롤에 대해 예상되는 사용자의 행위를 설정할 수 있다. 이를 위해 먼저, 설계자는 자신이 예상한 사용자의 행위 그대로 어플리케이션을 사용한다. 설계자가 행한 행위로 인해 생성된 로그 파일은 사용자로부터 얻은 로그 파일을 분석할 때 대조군으로 쓰인다. 모든 논쟁점에 대해 이와 같은 대조군을 형성한 후, 어플리케이션을 배포하고 실사용자들에게 설정된 논쟁점과 관련된 모든 행위가 기록된 로그 파일을 획득한다. 그런 후, 이 둘을 비교 분석해 문제 증상을 파악하고 해결 방안을 마련한다.
도 6의 로그는 설계자가 예상한 수많은 사용자 행위 중 앞서 예시한 도 4에서 제시하고 있는 로그인 화면의 보안 규정 동의 버튼에 대한 설계자 예상 사용자 행위이다. 해당 로그 파일을 보면, 로그인 화면(VID_L_01)의 보안 규정 동의 버튼(Ctrl_Agree_Button)은 탭(Tab) 제스처가 사용 가능하며, 사용자에게 3초 이내(즉, 설정된 임계 시간은 3초이다.) 식별되어야 한다는 사실을 알 수 있다.
논쟁점과 관련된 모든 컨트롤에서 일어나는 사용자 행위를 기록한 로그 파일들이 획득되면 이를 이용해 설계자가 예상한 사용자의 행위 혹은 행위 시나리오와 비교 분석하여 문제 증상을 식별한다. 문제 증상 식별을 위한 분석 방법은 분석 대상 범위에 따라 컨트롤별 행위 분석과 사용자 시나리오별 행위 분석으로 분류될 ㅅ수 있다. 이하에서는 우선 컨트롤별 행위 분석 기법에 대해 설명한다.
컨트롤별 행위 분석 기법은 행위의 관계를 고려하지 않고 특정 컨트롤에서 발생할 수 있는 행위 각각을 분석함으로써 문제증상을 식별하는 기법이다. 앞서 언급한 도 6의 로그와 관련해 실제 사용자의 행위가 기록된 로그 파일들을 분석한 결과 보안 규정 동의 버튼과 관련된 실제 사용자의 행위가 도 6의 (b)와 같이 3가지 종류(610, 620, 630)가 발견되었다.
우선, 첫 번째 행위(610)를 보면 'View_ID'와 'Control_ID'를 통해 보안 규정 동의 버튼와 관련된 행위라는 사실을 알 수 있고, 설계자가 예상한 'TAB' 이벤트를 행했으며, 이전 행위를 기준으로 2초 간격을 두고 해당 행위를 행한 사실을 알 수 있다. 이를 앞서 도 5를 통해 제시한 행위 판별법(사용성 지수 산출 방법)에 적용시켜 보면, 설계자가 예상한 사용자 행위와 일치한다는 결과가 도출된다.
두 번째 행위(620)의 경우, 사각 표시된 'Direction'과 'Triggered_Event' 요소에서 설계자 예상 행위와 다름이 판별된다. 이를 분석해 보면, 해당 컨트롤을 사용자가 사용하는데 있어 설계자가 예상하지 못했던 행위이기 때문에 특정 컨트롤을 사용하는 과정에서 설계자가 예상하지 못한 행위가 발견되었을 때 식별되는 "Wrong Expected Gesture"가 문제 증상으로 진단 내려진다. 이에 대해 "[VID_L_01 : Ctrl_Agree_Button]에 [Slide : RightToLeft]와(과) 같은 제스처가 발생 가능성이 있으니 해당 제스처에 대한 기능 추가하거나 오해 요소 제거 요망."과 같은 해결 방안이 제시될 수 있다.
마지막으로 세 번째 로그(630)에 기록된 'TimeStamp' 값은 5로서 설계자가 해당 화면에 머무르는 예상 시간인 2초를 초과한 것을 파악할 수 있다. 즉, 사용자가 설계자가 예상한 동작은 수행하였으나, 특정 컨트롤에 정의된 행위를 수행하는데 오랜 시간이 걸렸으므로 사용자의 관점에서는 제공된 화면을 이해하는 데 많은 시간이 소요된 것을 의미하여, 화면 디자인에 대한 "Low Readability"문제가 발생함을 알 수 있다. 이렇게 진단한 각각의 타입별 문제에 대해서는 "[VID_L_01 : Ctrl_Agree_Button]의 위치를 변경하거나 해당 컨트롤을 다른 방식으로 표현하기를 추천함."과 같은 해결 방안을 정의하였다. 앞서 언급한 2개의 문제 증상 외에도 "Wrong Default Value"와 같이 설계자가 컨트롤의 기본값(Default Value)을 잘못 예상하여 사용자가 자주 수정할 때 나타나는 문제 증상의 타입을 추가적으로 식별하였으며, 이에 대응하는 해결방안을 정의하였다.
설계자가 예상한 행위와 다른 행동 양식을 보이는 사용자의 로그가 한 건 존재한다고 해서 모두 문제 증상으로 식별되지는 않는다. 수집한 로그의 양에 대비하여 적정한 한계점(Threshold)를 초과하는 사용자의 행위가 설계시의 예상 행위와 상이한 것으로 분석될 경우 위와 같은 문제 증상을 진단하도록 한다. 예를 들어, 검증 과정에서 그 한계점은 50%를 적용할 수 있을 것이다. 즉, 반 이상의 행위가 설계 행위와 상이할 경우 문제 증상으로 식별함을 의미한다. 한계점 수치는 어플리케이션의 특성을 고려하여 해당 개발 조직에서 설정하는 것이 바람직하다.
도 7은 본 발명의 실시예들에서 예상 행위와 실제 행위를 비교함으로써 차이(gap)를 발견하고 이에 기초하여 사용성을 저해하는 문제 증상을 식별하는 방법을 예시한 도면이다.
앞서 소개한 바와 같이 설계자의 예상 행위와 사용자의 실제 행위 간의 비교를 통해 발견된 차이(gap)는 사용성 정도를 낮추기 위한 도구로서 활용될 수 있다. 즉, 발견된 차이를 기반으로 사용성을 저해하는 징후(symptom) 내지 문제 증상을 식별하는 것이 가능하다. 이러한 징후 내지 문제 증상은 도 7에 예시된 바와 같이 'navigated views'(사용자의 행위에 의해 표시된 화면), 'focused controls'(포커스된 제어 객체), 'triggered event'(트리거 이벤트), 'elapsed time'(임계 시간을 넘겨 도과된 시간), 'provided information'(설계자에 의해 결정된 정보)의 측면을 고려하여 식별될 수 있다.
이하에서는 사용자 행위 시나리오 기반 분석 기법을 설명하도록 한다.
도 8은 본 발명의 일 실시예에 따른 사용자 행위 시나리오 기반의 사용성 분석의 일례를 도시한 도면이며, 도 9는 본 발명의 일 실시예에 따른 특정 사용자 행위 시나리오의 비교 대상을 선정하는 방법의 일례를 도시한 도면이다.
사용자 행위 시나리오 기반 분석 기법은 논쟁점과 관련된 컨트롤들을 조작하여 특정 서비스를 받는데 있어 설계자가 예상하는 사용자의 행위 시나리오와 실제 사용자가 행한 행위 시퀀스를 비교 분석하여 문제증상을 찾아내는 기법이다.
도 8은 앞서 도 4를 통해 언급한 로그인 화면에 대한 사용자 행위 시나리오 기반 분석의 예를 나타내고 있다. 먼저, 도 8의 (a)와 같이 로그인을 하는데 있어 설계자는 예상되는 사용자 행위 그대로 어플리케이션을 사용하여 분석 시 사용될 대조군을 만든다. 그런 다음, 사용자가 행한 수많은 행위가 기록된 로그를 수집한다. 로그가 수집되면 가장 먼저, 앞서 설계자가 만든 대조군과 비교하여 분석할 대상을 도 9와 같은 방법으로 선정한다. 먼저, 도 9의 (b)와 같이 로그에 기록된 수많은 행위 중 도 9의 (a)에서 첫 번째 행위인 1번 행위와 일치한 행위를 찾는다. 다음으로 도 9의 (b)에서 찾은 1번 행위보다 늦게 기록된 행위 중 도 9의 (a)의 마지막 행위인 6번 행위와 일치하는 행위를 찾는다. 마지막으로 선정된 도 9의 (b)의 1번 행위와 6번 행위 사이에 있는 모든 행위가 도 9의 (a)에 나타나있는 2, 3, 5행위를 포함하는지 확인한다. 만약, 포함된다면 해당 범위의 행위들이 도 9의 (a)에 나타난 사용자 행위 시나리오와 비교 분석할 대상이 된다. 이와 같은 방법으로 사용자의 행위 중 도 8의 (b)의 행위들이 도 8의 (a)의 사용자 행위 시나리오와의 분석 대상으로 선정되었다.
로그인을 하는데 있어서 설계자는 도 8의 (a)에서 나타나 있듯이 먼저, 아이디와 패스워드를 입력한 후, 보안 규정에 동의를 하고 로그인을 하도록 설계하였다. 하지만, 분석 대상으로 선정된 도 8의 (b)에서 나타난 사용자 행위를 보면, 사용자는 보안 규정 동의 버튼을 식별하지 못한 채 로그인 버튼을 클릭하고 알림 메시지를 통해 보안 규정 동의에 대한 사실을 알게 되는 모습을 볼 수 있다.
이와 같이 한 화면 내에서 설계자가 예상한 사용자의 행위 흐름과 실제 사용자가 행한 행위 흐름이 다를 때는 "Wrong Designed Work-flow"와 같은 문제 증상이 식별된다. 해당 문제 증상을 식별하기 위해 먼저, 행위 시나리오를 구성하는 행위들과 분석 대상으로 지정된 실제 행위들이 모두 한 화면과 관련된 행위인지를 확인한다. 모두 한 화면과 관련되어 있고 설계자가 예상한 행위 시나리오의 행위 수보다 분석 대상으로 지정된 행위의 수가 많으면, 사용자 행위 시나리오를 기반으로 행위들을 정점으로 설정하여 시나리오의 행위 시퀀스대로 방향 그래프를 만들어 표현한 후, 분석 대상으로 지정된 실제 사용자의 행위들을 해당 그래프와 대조하여 설계자가 예상하지 못한 첫 행위(6번)와 바로 전 행위(2번) 그리고 행위 시나리오에서 이와 연결된 행위(3번)를 식별한다. 식별된 3개의 행위의 요소 정보에 따라 문제 증상이 식별되면 이에 대해 다음과 같은 해결방안이 제시될 수 있다.
■ "[VID_L_01 : Ctrl_Pw_Text]의 [Tab]행위와 [VID_L_01 : Ctrl_LogIn_Button]의 [Tab]행위를 연결하기위한 Action을 고려하기 바람."
■ "[VID_L_01 : Ctrl_Pw_Text]의 [Tab]행위와 [VID_L_01]의 [Slide:Up]행위를 연결하기 위한 Action을 고려하기 바람."
이외에도 화면간의 흐름이 잘못되어 식별되는 "Wrong Designed Navigation Map"과 특정 화면의 정보가 사용자의 기대와 다를 때 식별되는 "Wrong Expected Result"그리고 특정 컨트롤의 위치가 적절하지 않아 불필요한 컨트롤의 로그가 다수 존재할 때 식별되는 "Wrong Position of Control" 이 사용자 행위 시나리오 기반의 분석 기법으로 식별될 수 있도록 정의한 문제 증상들이다.
도 10은 본 발명의 다른 실시예에 따른 어플리케이션 업데이트에 따른 반복적인 분석 과정을 통해 식별된 어플리케이션의 문제 증상을 비교하여 도시한 도면이다.
도 10에서는 실험을 통해 현재 상용 중인 특정 브랜드 백화점의 쇼핑 정보를 제공하는 어플리케이션을 대상으로 사용자의 로그를 받아 문제 증상을 파악하여 해당 프로세스의 효용성을 밝히고자 하였다. 해당 어플리케이션에서 6개의 논쟁점에 대한 32개의 로그 파일을 추출하여 분석하였다. 초기 분석 결과 총 4가지의 문제 증상들이 발견하였으며 각 리비전 마다 로그 파일에서 식별된 문제 증상의 횟수를 도 10에서 볼 수 있다.
도 10에 나타난 문제 증상 중 가장 많은 수가 발견된 "Wrong Expected Gesture"에 대해 분석한 결과, 백화점 점포명을 표기하는 라벨과 점포 이미지 그리고 '홈으로 가기 버튼'에서 예상하지 못한 사용자의 행위가 발견되었다. 먼저, 해당 백화점 점포명을 표시하고 있던 라벨에 대해 설계자는 어떠한 행위도 기대하지 않았는데 반해, 105건의 문제 행위가 발견되었으며 이 중 93건의 탭 제스처와 12건의 슬라이드 제스처가 발생한 것으로 조사되었다. 이에 대해 1.2 버전에서는 라벨을 버튼으로 변경하여 클릭 시 점포 변경이 가능하도록 수정하였다. 두 번째로 단순히 각층의 매장 카테고리 정보를 알려주기 위해 어떠한 행위도 예상하지 않았던 이미지 화면에 대해 529건의 문제 행위가 발견된 것이다. 이 중 466건이 탭 제스처, 63건이 슬라이드 제스처였다. 따라서, 1.3 버전에서 각층 매장 카테고리 이미지를 버튼으로 변경하고 해당 버튼을 클릭 시 해당 층과 관련된 브랜드 상품을 열람할 수 있는 기능을 추가하여 466건의 탭 제스처에 반응하도록 하였다. 마지막으로 설계자는 홈 화면에서 '홈으로 가기' 버튼의 어떠한 조작도 기대하지 않은 반면, 실제 사용자는 10번의 탭 제스처를 취한 것으로 나타났다. 이에 대해 1.4 버전에서 홈 화면에서는 해당 버튼을 삭제시켜 이러한 잘못된 사용의 가능성을 제거하였다.
해당 어플리케이션은 초기 화면에 탭바 형식의 메뉴를 숨기고 있다가 하드웨어적으로 제공되는 메뉴 버튼을 클릭시 메뉴가 나타나는 형식으로 구성되어 있다. "Low Readability"를 분석한 결과 93건 중 68건이 메뉴를 식별하는데 걸린 시간이었다. 따라서, 1.2 버전에서는 메뉴를 숨기지 않고 초기 화면에 기본적으로 보이도록 수정하였다. 그리고 3건의 경우 앞서 언급한 점포명을 나타내고 있던 라벨에 대한 문제 증상이었다. 따라서, 이는 라벨을 버튼으로 수정하면서 함께 해결되었다. 1.3에서 1.4으로 변경 시 2건이 줄어든 이유는 2건이 '홈으로 가기' 버튼과 관계된 문제 증상이었기 때문이다. 이는 해당 버튼을 제거하면서 같이 문제 증상이 사라졌다.
54건의 "Wrong Default Value"의 경우 로그인 화면에서 발생했는데 로그인 할 때 마다 아이디와 패스워드를 입력해야만 했던 것에서 식별된 것이다. 따라서, 1.4 버전에서 아이디와 패스워드를 저장할 수 있게끔 수정함으로써 그 수를 감소시켰다. 마지막으로 90건의 "Wrong Designed Navigation Map"은 사용자가 점포 지역변경과 같이 점포와 관련된 설정을 하기 위해 점포정보 화면으로 이동했다가 발생한 것으로 분석되었다. 따라서, 1.2 버전에서 설정메뉴를 따로 만들었으며 1.3 버전과 1.4 버전에서는 다른 메뉴에 섞여있던 설정과 관련된 메뉴들을 설정 메뉴에 통합시켰다.
도 10에서 "Wrong Expected Gesture"를 일으킨 행위들을 고려해 각 리비전 마다 하나씩 수정해 감으로써 644건이었던 문제증상의 수가 551, 85, 75와 같이 줄어드는 모습을 볼 수 있었다. 이와 같이 로그를 이용해 사용자의 행위를 분석함으로써 설계자는 자신이 미처 예상하지 못했던 인터페이스 측면에서의 모호성과 잘못된 설계를 식별할 수 있고 이를 수정해 나감으로써 사용자의 행동에 어플리케이션의 인터페이스를 맞추어 나갈 수 있게 되었다. 이는 최종적으로 해당 어플리케이션의 사용성을 향상시키는 요인으로 작용한다.
도 11은 본 발명의 일 실시예에 따른 사용자 행위 로그를 이용한 모바일 어플리케이션의 사용성을 분석하는 장치(200)를 도시한 블록도로서, 각각의 구성 요소들은 앞서 도 2를 통해 기술된 사용성 분석 방법의 개별 단계들에 대응된다. 따라서, 설명의 중복을 피하기 위해 여기서는 각 구성의 개요만을 간략하게 약술하도록 한다.
입력부(10)는 사용자(모바일 기기)(100)로부터 복수 개의 서로 다른 행위가 예측되는 모바일 어플리케이션의 UI를 논쟁점으로 설정함으로써 설정된 논쟁점에 대해 수집된 사용자의 행위 로그를 입력받는다.
저장부(20)는 논쟁점에 대해 미리 설정된 예상 행위와 행위 로그로부터 추출된 실제 행위를 논쟁점과 연계하여 저장한다.
처리부(30)는 논쟁점별로 연계된 예상 행위와 실제 행위를 비교하여 모바일 어플리케이션에 대한 사용성을 판별한다. 이 때, 처리부(30)는, 모바일 어플리케이션의 객체 내의 제어 식별자를 이용하여 실제 행위로부터 사용자의 행위 리스트를 식별하고, 식별된 행위 리스트 내에 논쟁점을 통해 연계된 예상 행위가 존재하는지 여부를 검사하며, 검사 결과에 따라 모바일 어플리케이션에 대한 설계의 적정성 정도를 산출함으로써 사용성을 판별한다. 특히, 처리부(30)는, 예상 행위와 실제 행위를 비교하여 양자의 차이를 나타내는 사용성 지수를 산출함으로써 모바일 어플리케이션에 대한 사용자의 사용성을 평가하게 된다.
한편, 디스플레이부(40)는 사용성 분석 장치(200)의 처리 결과를 표시하는 수단으로서, 처리부(30)를 통해 판별된 사용성에 따라 예상 행위와 실제 행위의 차이가 발생한 지점을 판별하여 디스플레이부(40)에 시각적으로 표시하게 된다.
나아가, 처리부(30)는 사용성 판별 결과를 이용하여 수정된 모바일 어플리케이션에 대해 이상의 일련의 분석 과정을 반복적으로 수행하고, 이와 더불어 저장부(20)는 각각의 수행에 따른 문제 증상 및 변화 정도를 시계열적으로 저장하는 것이 바람직하다.
상기된 본 발명의 실시예들에 따르면, 사용자에 의해 서로 다른 다양한 반응 행위가 예측되는 논쟁점을 설정하고 설정된 논쟁점에 대한 사용자 로그로부터 추출된 실제 행위와 미리 설정된 예상 행위를 비교함으로써 사용자 행위에 대한 객관적이고 수치화된 분석 결과를 산출할 수 있고, 특히 모바일 어플리케이션의 특징을 고려한 제어 요소와 제스처 요소를 고려하여 사용성을 판별함으로써 문제 증상과 사용자 행위를 보다 정확하게 식별, 분석할 수 있으며, 어플리케이션의 업데이트에 따른 사용자 행위의 변화를 시계열적으로 추적함으로써 해당 어플리케이션의 배포 후 지속적으로 사용성 향상을 관리할 수 있다.
스마트폰의 특유 성격인 휴대성으로 인해 많은 부분에서 제약이 따르고, 이를 극복하기 위해 다양한 센서를 통한 다양한 입/출력방식이 고안되었다. 하지만, 이 같은 다양한 방식은 일관성 없이 쓰이고 있어 사용자들의 많은 혼란을 초래한다. 하지만, 설계자들 역시 이에 대한 정답의 부재로 많은 어려움을 겪고 있다. 따라서, 이상의 본 발명의 실시예들에서는 설계 시 설계자들 사이에서 논쟁이 되는 부분을 중심으로 사용자의 행위을 로그로 기록하고 이를 분석하여 해당 어플리케이션이 사용자의 행위에 맞추어진 업데이트가 가능하도록 하였다.
한편, 본 발명의 실시예들은 컴퓨터로 읽을 수 있는 기록 매체에 컴퓨터가 읽을 수 있는 코드로 구현하는 것이 가능하다. 이 때, 컴퓨터가 읽을 수 있는 기록 매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록 장치를 포함한다.
컴퓨터가 읽을 수 있는 기록 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있으며, 또한 캐리어 웨이브(예를 들어 인터넷을 통한 전송)의 형태로 구현하는 것을 포함한다. 또한, 컴퓨터가 읽을 수 있는 기록 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산 방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다. 그리고 본 발명을 구현하기 위한 기능적인(functional) 프로그램, 코드 및 코드 세그먼트들은 본 발명이 속하는 기술 분야의 프로그래머들에 의하여 용이하게 추론될 수 있다.
이상에서 본 발명에 대하여 그 다양한 실시예들을 중심으로 살펴보았다. 본 발명에 속하는 기술 분야에서 통상의 지식을 가진 자는 본 발명이 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다. 그러므로 개시된 실시예들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 본 발명의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 본 발명에 포함된 것으로 해석되어야 할 것이다.
100 : 모바일 단말기
200 : 모바일 어플리케이션의 사용성 분석 장치
10 : 입력부 20 : 저장부
30 : 처리부 40 : 디스플레이부

Claims (17)

  1. 적어도 하나의 프로세서(processor)를 이용하여 모바일 어플리케이션의 사용성을 분석하는 방법에 있어서,
    사용자로부터 복수 개의 서로 다른 행위가 예측되는 상기 모바일 어플리케이션의 UI(user interface)를 논쟁점(argue point)으로 설정하는 단계;
    상기 설정된 논쟁점에 대한 상기 사용자의 행위 로그(behavior log)를 입력받는 단계;
    상기 논쟁점에 대해 미리 설정된 예상 행위와 상기 행위 로그로부터 추출된 실제 행위를 상기 논쟁점과 연계하여 저장하는 단계; 및
    상기 논쟁점별로 연계된 상기 예상 행위와 상기 실제 행위를 비교하여 상기 모바일 어플리케이션에 대한 사용성을 판별하는 단계;를 포함하는 방법.
  2. 제 1 항에 있어서,
    상기 모바일 어플리케이션에 대한 사용성을 판별하는 단계는,
    상기 모바일 어플리케이션의 객체 내의 제어 식별자를 이용하여 상기 실제 행위로부터 상기 사용자의 행위 리스트를 식별하는 단계;
    상기 식별된 행위 리스트 내에 상기 논쟁점을 통해 연계된 상기 예상 행위가 존재하는지 여부를 검사하는 단계; 및
    상기 검사 결과에 따라 상기 모바일 어플리케이션에 대한 설계의 적정성 정도를 산출함으로써 상기 사용성을 판별하는 단계;를 포함하는 방법.
  3. 제 1 항에 있어서,
    상기 모바일 어플리케이션에 대한 사용성을 판별하는 단계는,
    상기 예상 행위와 상기 실제 행위를 비교하여 양자의 차이를 나타내는 사용성 지수를 산출함으로써 상기 모바일 어플리케이션에 대한 사용자의 사용성을 평가하는 것을 특징으로 하는 방법.
  4. 제 3 항에 있어서,
    상기 사용성 지수는,
    상기 예상 행위와 상기 실제 행위의 개별 구성 요소가 일치하는지 여부에 따라 산출되며,
    상기 예상 행위에 대해 설정된 임계 시간과 상기 실제 행위가 발생한 시간을 고려하여 차등적으로 값을 갖는 것을 특징으로 하는 방법.
  5. 제 3 항에 있어서,
    상기 사용성 지수는,
    상기 예상 행위와 상기 실제 행위가 일치하고 상기 실제 행위가 상기 예상 행위에 대해 설정된 임계 시간 내에 발생한 경우, 최대값으로 설정되고,
    상기 예상 행위와 상기 실제 행위가 일치하나 상기 실제 행위가 상기 예상 행위에 대해 설정된 임계 시간을 도과하여 발생한 경우, 도과된 시간에 반비례하여 설정되며,
    상기 예상 행위와 상기 실제 행위가 일치하지 않는 경우, 최저값으로 설정되는 것을 특징으로 하는 방법.
  6. 제 1 항에 있어서,
    상기 사용자의 행위는,
    상기 모바일 어플리케이션의 제어 단위를 식별하는 제어 요소와 상기 제어 요소에 대한 사용자의 응답을 나타내는 제스처 요소를 포함하는 것을 특징으로 하는 방법.
  7. 제 6 항에 있어서,
    상기 제어 요소는,
    상기 모바일 어플리케이션 상에서 소정 행위가 발생한 화면을 나타내는 화면 식별자와 상기 모바일 어플리케이션을 구성하는 제어 객체를 나타내는 제어 식별자를 포함하는 것을 특징으로 하는 방법.
  8. 제 6 항에 있어서,
    상기 제스처 요소는,
    상기 제어 요소에 대한 사용자 응답을 나타내는 트리거 이벤트(triggered event), 상기 사용자 응답의 지향을 나타내는 방향 정보 및 상기 사용자 응답의 발생 시간을 나타내는 타임스탬프(time stamp) 중 적어도 하나를 포함하는 것을 특징으로 하는 방법.
  9. 제 1 항에 있어서,
    상기 판별된 사용성에 따라 상기 예상 행위와 상기 실제 행위의 차이가 발생한 지점을 시각적으로 표시하는 단계;를 더 포함하는 방법.
  10. 제 9 항에 있어서,
    상기 사용성 판별 결과를 이용하여 수정된 상기 모바일 어플리케이션에 대해 상기 분석 과정을 반복적으로 수행하고, 각각의 수행에 따른 문제 증상 및 변화 정도를 시계열적으로 저장하는 단계;를 더 포함하는 방법.
  11. 제 1 항 내지 제 10 항 중에 어느 한 항의 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체.
  12. 모바일 어플리케이션의 사용성을 분석하는 장치에 있어서,
    사용자로부터 복수 개의 서로 다른 행위가 예측되는 상기 모바일 어플리케이션의 UI를 논쟁점으로 설정함으로써 상기 설정된 논쟁점에 대해 수집된 상기 사용자의 행위 로그를 입력받는 입력부;
    상기 논쟁점에 대해 미리 설정된 예상 행위와 상기 행위 로그로부터 추출된 실제 행위를 상기 논쟁점과 연계하여 저장하는 저장부; 및
    상기 논쟁점별로 연계된 상기 예상 행위와 상기 실제 행위를 비교하여 상기 모바일 어플리케이션에 대한 사용성을 판별하는 처리부;를 포함하는 장치.
  13. 제 12 항에 있어서,
    상기 처리부는,
    상기 모바일 어플리케이션의 객체 내의 제어 식별자를 이용하여 상기 실제 행위로부터 상기 사용자의 행위 리스트를 식별하고,
    상기 식별된 행위 리스트 내에 상기 논쟁점을 통해 연계된 상기 예상 행위가 존재하는지 여부를 검사하며,
    상기 검사 결과에 따라 상기 모바일 어플리케이션에 대한 설계의 적정성 정도를 산출함으로써 상기 사용성을 판별하는 것을 특징으로 하는 장치.
  14. 제 12 항에 있어서,
    상기 처리부는, 상기 예상 행위와 상기 실제 행위를 비교하여 양자의 차이를 나타내는 사용성 지수를 산출함으로써 상기 모바일 어플리케이션에 대한 사용자의 사용성을 평가하고,
    상기 사용성 지수는, 상기 예상 행위와 상기 실제 행위가 일치하고 상기 실제 행위가 상기 예상 행위에 대해 설정된 임계 시간 내에 발생한 경우 최대값으로 설정되고, 상기 예상 행위와 상기 실제 행위가 일치하나 상기 실제 행위가 상기 예상 행위에 대해 설정된 임계 시간을 도과하여 발생한 경우 도과된 시간에 반비례하여 설정되며, 상기 예상 행위와 상기 실제 행위가 일치하지 않는 경우 최저값으로 설정되는 것을 특징으로 하는 장치.
  15. 제 12 항에 있어서,
    상기 사용자의 행위는, 상기 모바일 어플리케이션의 제어 단위를 식별하는 제어 요소와 상기 제어 요소에 대한 사용자의 응답을 나타내는 제스처 요소를 포함하고,
    상기 제어 요소는, 상기 모바일 어플리케이션 상에서 소정 행위가 발생한 화면을 나타내는 화면 식별자와 상기 모바일 어플리케이션을 구성하는 제어 객체를 나타내는 제어 식별자를 포함하며,
    상기 제스처 요소는, 상기 제어 요소에 대한 사용자 응답을 나타내는 트리거 이벤트, 상기 사용자 응답의 지향을 나타내는 방향 정보 및 상기 사용자 응답의 발생 시간을 나타내는 타임스탬프 중 적어도 하나를 포함하는 것을 특징으로 하는 장치.
  16. 제 12 항에 있어서,
    상기 사용성 분석 장치의 처리 결과를 표시하는 디스플레이부;를 더 포함하고,
    상기 처리부는 상기 판별된 사용성에 따라 상기 예상 행위와 상기 실제 행위의 차이가 발생한 지점을 판별하여 상기 디스플레이부에 시각적으로 표시하는 것을 특징으로 하는 장치.
  17. 제 16 항에 있어서,
    상기 처리부는 상기 사용성 판별 결과를 이용하여 수정된 상기 모바일 어플리케이션에 대해 상기 분석 과정을 반복적으로 수행하고,
    상기 저장부는 각각의 수행에 따른 문제 증상 및 변화 정도를 시계열적으로 저장하는 것을 특징으로 하는 장치.
KR1020110124293A 2011-11-25 2011-11-25 사용자의 행위 로그를 이용한 모바일 어플리케이션의 사용성 분석 장치 및 방법 KR101312446B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020110124293A KR101312446B1 (ko) 2011-11-25 2011-11-25 사용자의 행위 로그를 이용한 모바일 어플리케이션의 사용성 분석 장치 및 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020110124293A KR101312446B1 (ko) 2011-11-25 2011-11-25 사용자의 행위 로그를 이용한 모바일 어플리케이션의 사용성 분석 장치 및 방법

Publications (2)

Publication Number Publication Date
KR20130058336A true KR20130058336A (ko) 2013-06-04
KR101312446B1 KR101312446B1 (ko) 2013-09-27

Family

ID=48857632

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020110124293A KR101312446B1 (ko) 2011-11-25 2011-11-25 사용자의 행위 로그를 이용한 모바일 어플리케이션의 사용성 분석 장치 및 방법

Country Status (1)

Country Link
KR (1) KR101312446B1 (ko)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101422180B1 (ko) * 2014-01-23 2014-07-22 주식회사 비디 어플리케이션 사용성 측정 방법, 이를 수행하는 어플리케이션 사용성 측정 서버 및 이를 저장하는 기록매체
KR101423030B1 (ko) * 2013-12-31 2014-07-23 주식회사 비디 컴퓨터 실행 가능한 어플리케이션 객체 분석 방법, 이를 수행하는 어플리케이션 객체 분석 서버 및 이를 저장하는 기록매체
WO2015102233A1 (ko) * 2014-01-06 2015-07-09 주식회사 앤벗 사용성 측정 장치 및 방법
KR20190081109A (ko) * 2017-12-29 2019-07-09 (주)씽크포비엘 사용성 확보를 위한 후속작업 시뮬레이션 방법 및 장치
US10709989B2 (en) 2018-01-11 2020-07-14 Electronics And Telecommunications Research Institute System and method for analyzing game update effect according to change of gamer action sequence
CN114003474A (zh) * 2021-10-12 2022-02-01 浙江传媒学院 一种基于手机日志的用户行为分析方法
KR20230140682A (ko) 2022-03-30 2023-10-10 이수진 리지회귀, 라소회귀 복합추정 딥러닝에 기반한 앱 사용 성향분석에 따른 사용자 예측 시스템 및 방법

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107682178A (zh) * 2017-08-30 2018-02-09 国信优易数据有限公司 一种移动用户上网操作行为预测方法和装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102010026187A1 (de) * 2010-07-06 2011-01-27 Geib, Uwe, Dipl.-Wirt. Ing. (FH) Verfahren und Vorrichtung zur Verbesserung des Schmelzprozesses

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101423030B1 (ko) * 2013-12-31 2014-07-23 주식회사 비디 컴퓨터 실행 가능한 어플리케이션 객체 분석 방법, 이를 수행하는 어플리케이션 객체 분석 서버 및 이를 저장하는 기록매체
WO2015102233A1 (ko) * 2014-01-06 2015-07-09 주식회사 앤벗 사용성 측정 장치 및 방법
KR101422180B1 (ko) * 2014-01-23 2014-07-22 주식회사 비디 어플리케이션 사용성 측정 방법, 이를 수행하는 어플리케이션 사용성 측정 서버 및 이를 저장하는 기록매체
KR20190081109A (ko) * 2017-12-29 2019-07-09 (주)씽크포비엘 사용성 확보를 위한 후속작업 시뮬레이션 방법 및 장치
US10709989B2 (en) 2018-01-11 2020-07-14 Electronics And Telecommunications Research Institute System and method for analyzing game update effect according to change of gamer action sequence
CN114003474A (zh) * 2021-10-12 2022-02-01 浙江传媒学院 一种基于手机日志的用户行为分析方法
KR20230140682A (ko) 2022-03-30 2023-10-10 이수진 리지회귀, 라소회귀 복합추정 딥러닝에 기반한 앱 사용 성향분석에 따른 사용자 예측 시스템 및 방법

Also Published As

Publication number Publication date
KR101312446B1 (ko) 2013-09-27

Similar Documents

Publication Publication Date Title
KR101312446B1 (ko) 사용자의 행위 로그를 이용한 모바일 어플리케이션의 사용성 분석 장치 및 방법
CA2940752C (en) Intelligent visualization munging
Wagner et al. Measuring algorithmically infused societies
Singh et al. Decision provenance: Harnessing data flow for accountable systems
Daniel B ig D ata and analytics in higher education: Opportunities and challenges
US20170076321A1 (en) Predictive analytics in an automated sales and marketing platform
US20110016452A1 (en) Method and system for identifying regression test cases for a software
US11016477B2 (en) Devices, methods, and systems for a distributed rule based automated fault detection
US10459835B1 (en) System and method for controlling quality of performance of digital applications
US9910487B1 (en) Methods, systems and computer program products for guiding users through task flow paths
KR101423030B1 (ko) 컴퓨터 실행 가능한 어플리케이션 객체 분석 방법, 이를 수행하는 어플리케이션 객체 분석 서버 및 이를 저장하는 기록매체
US9983965B1 (en) Method and system for implementing virtual users for automated test and retest procedures
CN107430590B (zh) 用于数据比较的系统和方法
US9164746B2 (en) Automatic topology extraction and plotting with correlation to real time analytic data
Ntoa et al. UXAmI observer: an automated user experience evaluation tool for ambient intelligence environments
Meyer et al. Detecting developers’ task switches and types
CN110276183B (zh) 反向图灵验证方法及装置、存储介质、电子设备
US11775419B2 (en) Performing software testing with best possible user experience
CN104428757A (zh) 在开发环境中集成诊断信息
Carrera-Rivera et al. Exploring the transformation of user interactions to Adaptive Human-Machine Interfaces
Ferreira et al. AnyMApp framework: anonymous digital twin human-app interactions
Marrella et al. An approach to identifying what has gone wrong in a user interaction
Andrei et al. Data-driven modelling and probabilistic analysis of interactive software usage
Romeiro et al. Guidelines' Parametrization to Assess AAL Ecosystems' Usability.
JP2008009819A (ja) セキュリティ診断システム

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20160726

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20170901

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20180921

Year of fee payment: 6