KR101781705B1 - 원격 사이트 모니터링용 방법 및 장치 - Google Patents
원격 사이트 모니터링용 방법 및 장치 Download PDFInfo
- Publication number
- KR101781705B1 KR101781705B1 KR1020157012745A KR20157012745A KR101781705B1 KR 101781705 B1 KR101781705 B1 KR 101781705B1 KR 1020157012745 A KR1020157012745 A KR 1020157012745A KR 20157012745 A KR20157012745 A KR 20157012745A KR 101781705 B1 KR101781705 B1 KR 101781705B1
- Authority
- KR
- South Korea
- Prior art keywords
- site
- data
- metric
- risk
- clinical
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 36
- 238000012544 monitoring process Methods 0.000 title claims abstract description 32
- 238000011160 research Methods 0.000 claims abstract description 46
- 230000004931 aggregating effect Effects 0.000 claims abstract description 5
- 238000013456 study Methods 0.000 claims description 83
- 238000009826 distribution Methods 0.000 claims description 34
- 230000002776 aggregation Effects 0.000 claims description 20
- 238000004220 aggregation Methods 0.000 claims description 20
- 238000003860 storage Methods 0.000 claims description 6
- 230000001131 transforming effect Effects 0.000 abstract 1
- 238000012502 risk assessment Methods 0.000 description 26
- 238000013523 data management Methods 0.000 description 18
- 238000004422 calculation algorithm Methods 0.000 description 17
- 238000012216 screening Methods 0.000 description 15
- 239000003814 drug Substances 0.000 description 14
- 229940079593 drug Drugs 0.000 description 13
- 238000013516 source data verification Methods 0.000 description 12
- 238000004458 analytical method Methods 0.000 description 11
- 230000004044 response Effects 0.000 description 10
- 230000000875 corresponding effect Effects 0.000 description 8
- 238000012360 testing method Methods 0.000 description 8
- 238000012552 review Methods 0.000 description 7
- 230000000694 effects Effects 0.000 description 6
- 230000008569 process Effects 0.000 description 6
- 238000013442 quality metrics Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000002474 experimental method Methods 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 210000003813 thumb Anatomy 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000002146 bilateral effect Effects 0.000 description 3
- 238000004590 computer program Methods 0.000 description 3
- 238000013479 data entry Methods 0.000 description 3
- 230000008520 organization Effects 0.000 description 3
- 238000005096 rolling process Methods 0.000 description 3
- 230000001225 therapeutic effect Effects 0.000 description 3
- 238000012384 transportation and delivery Methods 0.000 description 3
- 230000001413 cellular effect Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000012790 confirmation Methods 0.000 description 2
- 238000013481 data capture Methods 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 230000007717 exclusion Effects 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000000737 periodic effect Effects 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 230000001105 regulatory effect Effects 0.000 description 2
- 230000002411 adverse Effects 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 238000012550 audit Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 239000003124 biologic agent Substances 0.000 description 1
- 230000033228 biological regulation Effects 0.000 description 1
- 230000036772 blood pressure Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 229940121657 clinical drug Drugs 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000005194 fractionation Methods 0.000 description 1
- 238000011065 in-situ storage Methods 0.000 description 1
- 230000014759 maintenance of location Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012806 monitoring device Methods 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 238000012913 prioritisation Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000013518 transcription Methods 0.000 description 1
- 230000035897 transcription Effects 0.000 description 1
- 229960005486 vaccine Drugs 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
- G06Q50/22—Social work or social welfare, e.g. community support activities or counselling services
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/10—Office automation; Time management
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/30—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for calculating health indices; for individual health risk assessment
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H70/00—ICT specially adapted for the handling or processing of medical references
- G16H70/40—ICT specially adapted for the handling or processing of medical references relating to drugs, e.g. their side effects or intended usage
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H40/00—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
- G16H40/60—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
- G16H40/67—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for remote operation
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H80/00—ICT specially adapted for facilitating communication between medical practitioners or patients, e.g. for collaborative diagnosis, therapy or health monitoring
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Business, Economics & Management (AREA)
- Medical Informatics (AREA)
- Public Health (AREA)
- Strategic Management (AREA)
- Human Resources & Organizations (AREA)
- Entrepreneurship & Innovation (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Primary Health Care (AREA)
- Epidemiology (AREA)
- Tourism & Hospitality (AREA)
- Economics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Business, Economics & Management (AREA)
- Physics & Mathematics (AREA)
- Marketing (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Biomedical Technology (AREA)
- Databases & Information Systems (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Pathology (AREA)
- Chemical & Material Sciences (AREA)
- Toxicology (AREA)
- Pharmacology & Pharmacy (AREA)
- Medicinal Chemistry (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Child & Adolescent Psychology (AREA)
- Investigating Or Analysing Biological Materials (AREA)
Abstract
원격 사이트 모니터링용 방법은 데이터 사이트로부터 데이터를 수신하는 단계, 그들 데이터를 메트릭 위험 프로파일을 사용하여 사이트-수준 품질 점수로 변환하는 단계, 및 사이트-수준 품질 점수에 기초하여 위험 지표를 계산하는 단계를 포함한다. 메트릭 위험 프로파일은 이력 데이터 및 연구 데이터에 기초할 수 있는데, 여기서 연구 데이터는 복수의 데이터 사이트들로부터 수신된다. 일부 실시예들에서, 데이터를 변환하는 단계는 메트릭의 값에 메트릭 위험 프로파일을 적용함으로써 메트릭의 값을 정규화하는 단계, 및 사이트-수준 품질 점수를 계산하기 위해 정규화된 메트릭 값들을 집계하는 단계를 포함한다. 원격 사이트 모니터링용 장치가 또한 기술된다.
Description
유사한 유형의 작업(task)들을 수행하는 지리적으로 분산된 다수의 유사한 사이트(site)들로 이루어진 분산형 시스템(distributed system)들이 존재한다. 이들 시스템의 예는 프랜차이즈 시스템, 회사의 영업 사무소, 및 약물 임상 시험이다. 작업의 균일성 및 데이터의 무결성을 보장하기 위해 이들 사이트에서 발생된 데이터를 모니터링하는 것이 바람직할 수 있다. 그러한 품질 모니터링이 현장에서 또는 원격으로 수행될 수 있다.
그러한 분산형 시스템의 일례로서 약물 임상 시험을 살펴보면, 미국 및 다른 국가들에서, 의약품 및 의료 디바이스에 대한 마케팅 승인은 전형적으로 인간에 대한 실험을 필요로 한다. 임상 시험을 포함하는 실험 과정을 통해, 실험되는 약물 또는 디바이스의 안전성, 효능뿐만 아니라 다른 중요한 속성들에 관한 임상 데이터가 전형적으로 미국 FDA(Food and Drug Administration) 또는 다른 규제 기관에 제출하기 위해 수집된다. 미국에서만, 수백만명의 지원자들을 필요로 하는 수만건의 임상 시험들이 매년 행해진다. 이 지원자들은 일반적으로 임상 사이트(clinical site)라고 알려진 다양한 장소들에서 실험되고, 각각의 사이트는 연구 중인 약물 또는 디바이스에 관한 데이터뿐만 아니라 실험 과정 자체에 관한 데이터를 생성한다.
너무 많은 분산된 실험 사이트들이 있기 때문에, 사이트들 및 임상 시험에 걸쳐 데이터 무결성을 보장하기 위해 사이트들이 대체로 모니터링된다. 보통 각각의 사이트에 수없이 방문하는 것을 수반하는 임상 시험의 현장 모니터링이 제약 회사의 임상 시험 예산의 30% 초과를 사용할 수 있기 때문에, 현장 모니터링은 임상 연구에서의 최대 원가 동인(cost driver)들 중 하나를 나타낸다.
도 1은 본 발명의 일 실시예에 따른, 위험 평가 장치를 포함하는 시스템의 블록도.
도 2a 내지 도 2d는 도 1에 예시된 위험 평가 장치의 동작을 도시하는 블록도.
도 3a 내지 도 3c는 본 발명의 실시예들에 따른, 메트릭 위험 프로파일(metric risk profile)들을 예시하는 도면.
도 4a 내지 도 4c는 본 발명의 일 실시예에 따른 위험 평가 장치의 전반적인 동작을 예시하는 플로우차트.
도 5는 본 발명의 일 실시예에 따른 사이트-수준 데이터를 표시하기 위한 그래픽 인터페이스를 예시하는 도면.
도 6은 본 발명의 일 실시예에 따른 사이트-수준 데이터의 다른 뷰(view)를 표시하기 위한 그래픽 인터페이스를 예시하는 도면.
도 7은 본 발명의 일 실시예에 따른 국가 수준의 데이터를 표시하기 위한 그래픽 인터페이스를 예시하는 도면.
도 8은 본 발명의 일 실시예에 따른 전체 연구 데이터를 표시하기 위한 그래픽 인터페이스를 예시하는 도면.
적절하다고 간주되는 경우, 대응하거나 유사한 요소들을 나타내기 위해 도면들 간에 참조 부호들이 반복될 수 있다. 더욱이, 도면들에 도시된 블록들 중 일부가 단일의 기능으로 조합될 수 있다.
도 2a 내지 도 2d는 도 1에 예시된 위험 평가 장치의 동작을 도시하는 블록도.
도 3a 내지 도 3c는 본 발명의 실시예들에 따른, 메트릭 위험 프로파일(metric risk profile)들을 예시하는 도면.
도 4a 내지 도 4c는 본 발명의 일 실시예에 따른 위험 평가 장치의 전반적인 동작을 예시하는 플로우차트.
도 5는 본 발명의 일 실시예에 따른 사이트-수준 데이터를 표시하기 위한 그래픽 인터페이스를 예시하는 도면.
도 6은 본 발명의 일 실시예에 따른 사이트-수준 데이터의 다른 뷰(view)를 표시하기 위한 그래픽 인터페이스를 예시하는 도면.
도 7은 본 발명의 일 실시예에 따른 국가 수준의 데이터를 표시하기 위한 그래픽 인터페이스를 예시하는 도면.
도 8은 본 발명의 일 실시예에 따른 전체 연구 데이터를 표시하기 위한 그래픽 인터페이스를 예시하는 도면.
적절하다고 간주되는 경우, 대응하거나 유사한 요소들을 나타내기 위해 도면들 간에 참조 부호들이 반복될 수 있다. 더욱이, 도면들에 도시된 블록들 중 일부가 단일의 기능으로 조합될 수 있다.
하기의 상세한 설명에서, 본 발명의 실시예들의 완전한 이해를 제공하기 위해 다수의 구체적인 상세사항들이 기재된다. 그러나, 당업자는 본 발명의 실시예들이 이들 구체적인 상세사항 없이 실시될 수 있다는 것을 이해할 것이다. 다른 경우들에서, 본 발명을 모호하게 하지 않기 위해 잘 알려진 방법들, 절차들, 구성요소들 및 회로들이 상세히 기술되어 있지 않다.
본 발명의 실시예들은 다양한 응용들에서 사용될 수 있다. 본 발명이 이 점에서 제한되지 않지만, 본 명세서에 개시된 시스템들 및 방법들은 임상 약물 또는 디바이스 시험, 판매 활동 및 제휴사의 모니터링, 소매 서비스 및 장소의 모니터링, 그리고 사용자들이 다양한 소스들로부터 오는 데이터의 품질을 신속히 평가하고자 할 수 있는 다른 데이터 집약형 응용들에서 또는 그와 함께 사용될 수 있다. 예를 들어, 본 발명이 중앙 사무소 또는 규칙들에 따라 또는 그와 협력하여 원격 사무소들 또는 개인들에 의해 생성된 데이터의 품질이 모니터링 또는 평가될 수 있는 판매, 소매, 또는 프랜차이즈 조직에서 이용될 수 있다는 것을 알 수 있다.
임상 시험(임상 연구, 개입 연구(interventional study), 또는 본 명세서에서 사용되는 바와 같이, 연구 또는 시험이라고 또한 불림)은 전형적으로 특정의 치료 분야에 관한 것이고, 단계별로 분류될 수 있다. 단계 I의 임상 연구에서, 안전성 및 투여량에 관한 임상 데이터를 수집하기 위해, 약물 또는 디바이스가 약 20 내지 100명의 지원자(환자 또는 대상(subject)이라고 또한 알려짐)에 대해 실험될 수 있고; 단계 II에서, 효능 및 부작용에 관한 임상 데이터를 수집하기 위해, 약 100 내지 500명의 지원자로부터 임상 데이터가 수집될 수 있으며; 단계 III에서, 안전성 및 효능의 결정적 증거를 수집하여 약물 또는 디바이스의 마케팅 승인을 획득하기 위해 대략 500 내지 3000명 이상의 지원자로부터 임상 데이터가 수집될 수 있다.
제약 회사, 학술 연구 센터, 연방 기관, 또는 임상 연구 센터가 전형적으로 임상 시험을 후원한다. 후원자 또는 그의 임상시험위탁기관(Contract Research Organization, CRO)(후원자의 시험 관련 직무들 및 기능들 중 하나 이상을 수행하기 위해 후원자와 계약을 맺은 사람 또는 조직 - 상업적, 학술적 등등 -)은 일반적으로 임상 연구가 수행될, 연구 사이트("사이트")라고 알려진 장소를 선택한다. 사이트는 전형적으로 병원, 클리닉, 대학, 의원, 연구 기관, 또는 회사의 시험 장소일 수 있다. 임상 연구의 진행에 걸쳐, 사이트에 있는 시험 책임자(Principal Investigator, PI) 또는 다른 직원은 전형적으로 대상에 관한 정보 및 임상 데이터를 포함한 데이터를 기록하는 일을 맡고 있다. PI 또는 다른 사이트 직원에 의해 포착된 데이터는 CRF(case report form)에 또는 EDC(electronic data capture) 시스템에서 호스팅되는 eCRF(electronic CRF)에 수동으로 입력된다. 그러나, 임상 시험의 목적을 위해 수집된 임상 데이터는, 임상 시험을 위해 이용되는 EDC 시스템 내로 전사(transcribe)되기 전에, 전형적으로 먼저 종이 기반 환자 차트 또는 전자 의료 기록 시스템과 같은 사이트-특정 소스에 기록된다. 그러한 수동 전사(manual transcription)는 우발적인 데이터 오류로 이어질 수 있다. 게다가, 사이트는 부정확한 임상 데이터를 부정하게 입력하거나, 그렇지 않으면 임상 시험 관리 기준(good clinical practice)으로부터 또는 연구 계획서(study protocol)로부터 일탈하고 있을 수 있다.
따라서, 후원자 및 CRO가 임상 시험 데이터의 무결성을 보장하는 것이 바람직하고, 이들은 전형적으로 또한 임상 연구가 임상 연구의 계획서에 따라, 뿐만 아니라 GCP(Good Clinical Practice) 및 다른 규제 요건에 따라 수행되고 있다는 것을 보장한다. 임상시험 전문요원(Clinical Research Associate, CRA) 또는 사이트 모니터(Site Monitor)라고 알려진 직원에 의한 주기적인 직접 방문을 통해, 후원자 및 CRO는 전형적으로 또한 기록 및 보고되고 있는 임상 데이터의 무결성뿐만 아니라 환자 안전성의 보호를 보장한다. 후원자들은 종종 사이트 모니터링 활동을 위해 그들의 임상 시험 예산의 30% 이상을 소비한다.
보다 상세하게는, 일단 사이트가 대상들을 모집하기 시작하면, CRA(또는 사이트 모니터)는, 데이터가 정확하게 입력되었다는 것, 모든 관련 소스 데이터가 EDC 시스템으로 전사되었다는 것, 그리고 데이터가 환자의 차트에 있는 소스 데이터에 의해 뒷받침된다는 것을 확인하기 위해, 전형적으로 주기적인 모니터링 방문을 수행한다. 그러한 모니터링 방문은 수 개의 단계들 및 과정들을 수반할 수 있다. CRA는 전형적으로 PI 및 연구 조정자와 회합을 갖고, 피험자 동의서(informed consent form)를 검토하며, SDV(Source Data Verification)를 수행하고, CRF/eCRF를 검토하며, 모니터링 질의를 제기하고, 안전성 데이터(이상 반응(Adverse Event) 및 중대한 이상 반응(Severe Adverse Event))를 검토하며, CRF를 수집하고(CRF가 종이 형태로 되어 있는 경우), 계획서 일탈 및 위반을 식별하고 기록하며, 사이트 파일을 검토하고, 약물 공급 및 약물 취급을 검토하며, 선별 기록(screening log)을 검토하고, 연구에 관여된 모든 부서들을 방문한다. CRA는 감사 보고서와 유사한 출장 보고서에 방문을 기록할 수 있다. 이 보고서는 이어서 CRA의 관리자에 의한 검토 및 승인 과정을 거칠 수 있다. CRA가 CRO를 위해 일을 하는 경우, 그 CRO는 완성된 방문 보고서들을 주기적으로 통합하여 이들을 후원자에게 제출할 수 있다.
CRA에 의해 수행되는 모든 작업들 중에서, SDV(Source Data Verification)가 가장 자원 집약적이고 비용이 많이 들 수 있다. 100% SDV라고 알려진, 모든 CRF/eCRF 데이터의 CRA 검증이 산업 규범이었지만, 이는 현재의 규정에 의해 요구되지는 않는다. 현재의 FDA 지침 초안(Draft Guidance)은 모니터링이 중앙 모니터링(centralized monitoring)(예컨대, 이하에 기술된 데이터 검사에 의함)과 현장 모니터링(on-site monitoring)의 혼합을 포함해야 한다고 명시하고 있다. 이러한 혼합 시도는, 임상 데이터 품질을 손상시킴이 없이 모니터링 관련 시간 및 비용을 감소시킬 수 있다.
모니터링의 비용을 해결하고 데이터의 정확성을 보장하기 위해 수 개의 시스템들이 사용되어 왔다. 메디데이터 솔루션즈(Medidata Solutions)의 레이브(Rave)(등록상표)와 같은 EDC 시스템은 소정의 데이터 오류에 대한 자동 검사 능력을 갖는다. 예를 들어, EDC 시스템은 대상의 나이를 요구하는 필드(field)에 비-숫자 값과 같은 부적절하게 입력된 데이터를 자동으로 플래깅하도록 설정될 수 있다. 메디데이터 솔루션즈의 레이브(등록상표) TSDV(Targeted Source Data Verification) 시스템과 같은 다른 시스템은 현장 모니터링 방문 동안에 SDV를 위한 데이터를 사전 선택하기 위해 중요 데이터의 우선순위 부여 및/또는 랜덤 샘플링의 사용을 허용한다. 예를 들어, 임상 대상들의 상이한 블록들이 상이한 TSDV 계획들에 할당될 수 있음으로써, 제1 대상 블록은 모든 소스 데이터가 검출되게 할 수 있지만, 제2 대상 블록은 대상들의 소스 데이터의 100% 미만이 검증되게 할 것이다. 제2 대상 블록은, 임상 시험의 책임자 또는 계획자의 요청 시에, 검증되는 소정의 데이터 수집 양식 또는 필드를 위한 소스 데이터만을 요구할 수 있다. 그러한 시스템은 모니터링 요건을 감소시킬 수 있지만, 고비용의 현장 모니터링의 필요성을 추가로 감소시키게 될 원격, 중앙 모니터링과 같은 능력이 결여될 수 있다. 이러한 TSDV 계획은 정적이고, 따라서 연구 전체에 걸쳐 계속 효력을 가질 것이다 - 다시 말하면, 연구가 시작되기 전에 모든 환자가 겪게 될 SDV의 정도가 결정될 것이다. 대조적으로, 본 발명의 동적 위험 기반 시스템에서, 연구로부터 새로 얻어진 데이터가 장래의 환자들에 대해 수행될 SDV의 정도를 수정하는 데 사용될 수 있다. 이러한 결정은 각각의 사이트에 대해 드러나는 위험의 측정에 기초할 것이다.
발명자들은 하나 이상의 사이트 도출 품질 메트릭들의 원격 및 중앙 모니터링이, 100% SDV와 연관된 전통적으로 높은 자원 비용을 초래함이 없이, 임상 시험에서 모든 사이트들에 걸쳐 높은 품질을 보장할 수 있다는 것을 알았다. 그들 메트릭을 위험 지표들과 연관시킴으로써, 임상 시험의 수행에서 품질 문제들을 가질 가능성(즉, 위험)이 보다 높은 사이트 또는 사이트들이 선제적으로 식별되고 결점 또는 결점들이 교정될 수 있다. 이들 결점은 TSDV 변경을 통해서뿐만 아니라 그의 시험 수행의 결점있는 측면을 검토 및 정정하는 것 등을 위해 사이트와의 전화 통화와 같은 SDV보다 덜 자원 집약적인 수단을 통해 부분적으로 해결될 수 있다.
그를 위해, 본 발명의 실시예들은 사이트 수준에서의 임상 시험 수행에 관한 메트릭들의 개발을 포함하고, 이들 메트릭이 연관된 위험 수준을 결정하고 그러한 위험 수준을 이용하여 연관된 사이트-수준 품질 점수(site-level quality score)를 결정하기 위해, 데이터에서의 경향을 보다 신속히 식별하여 보다 면밀한 검토를 필요로 할 수 있는 영역, 직원, 및/또는 조직을 식별하기 위해 그룹화, 정규화, 또는 집계될 수 있다. 다른 실시예들은, 후원자 또는 CRO가 임의의 식별된 품질 문제를 해결하는 데 적절한 내부 자원을 신속하게 식별하게 하기 위해, 사이트-수준 데이터를 지리적으로, 예를 들어 도시 수준, 주(state) 수준, 지방 수준, 국가 수준, 또는 전세계 연구 수준으로(즉, 주어진 연구 내의 모든 사이트들에 걸쳐), 또는 조직적으로, 예를 들어 공통 요소를 갖는 CRA 또는 다른 그룹별로 집계할 수 있다.
이들 실시예의 목적은 주어진 사이트가 주어진 품질 메트릭에 대한 결정된 또는 예상된 범위로부터 중대한 품질 문제를 나타낼 수 있는 정도만큼 일탈한 때를 결정하는 것이다. 다른 목적은 사용자가 하나 이상의 임상 시험 사이트들에서 수행되는 임상 시험의 정확성 및 신뢰성을 측정하고 점수화하게 하는 것이다. 또 다른 목적은 원격 사이트 데이터 품질 모니터링 시스템을 제공함으로써, 그러한 시스템의 사용자는 거의 실시간을 포함한 다양한 기간들에 걸쳐 잠재적인 사이트 데이터 품질 문제를 통지받을 수 있다.
본 발명의 일 실시예에 따른, 위험 평가 장치(10)를 포함하는 시스템(100)의 블록도인 도 1을 이제 참조한다. 시스템(100)은 데이터를 생성하여 그러한 데이터를 연결부(15, 25)들을 통해 네트워크(20)로 그리고 연결부(35)를 통해 위험 평가 장치(10)로 전송하는 다수의 사이트들을 포함할 수 있다. 사이트(112, 114, 116; 122, 124, 126)들은 다양한 국가(110, 120)들 또는 다른 지리적으로 구별되는 영역들(또는 공통 요소를 갖는 사이트들의 다른 그룹들)에 위치될 수 있다. 3개의 사이트들 및 2개의 국가들이 도 1에 예시되어 있지만, 본 발명은 임의의 수의 국가들에서의 임의의 수의 사이트들의 사용을 고려한다. 네트워크(20)는 데이터 및 다른 정보를 송신 및 수신하기 위해 위험 평가 장치(10)가 사이트들과 상호작용하는 것을 용이하게 하는 공중 또는 사설 전화(예컨대, 셀룰러, 공중 교환 등) 네트워크, 및/또는 LAN(local area network), WAN(wide area network), 또는 인터넷 또는 인트라넷과 같은 컴퓨터 네트워크를 비롯한 임의의 유형의 통신 네트워크일 수 있다. 연결부(15, 25 및/또는 35)는 유선 또는 무선 연결부, 또는 심지어 사이트들로부터의 데이터를 수용하는 파일 전달 시스템, 예를 들어 CD, DVD, 또는 썸(thumb) 또는 플래시 드라이브 등일 수 있다.
데이터가 약물 또는 의료 디바이스에 대한 임상 시험과 연관될 수 있거나, 상이한 장소들에 있는 판매 제휴사들의 성과 또는 프랜차이즈를 비롯한 소매 장소들의 성과를 포함하지만 이로 한정되지 않는, 사이트에서의 작업을 평가할 수 있는 임의의 다른 유형의 데이터일 수 있다. 이하에서 더 상세히 기술되는 바와 같이, 위험 평가 장치(10)는 다양한 사이트들로부터 수신된 연구 데이터(60), 및 임의의 데이터 소스로부터 수신된 이력 또는 산업 또는 다른 데이터(70)에 기초하여 하나 이상의 품질 점수(80)들 및 위험 지표(90)들을 계산할 수 있다. 품질 점수(80)들 및 위험 지표(90)들은 이어서 각각의 사이트, 사이트들의 그룹들, 또는 연구 전체를 평가하는 데 사용될 수 있다. 위험 평가 장치(10)는 개인용, 랩톱, 태블릿, 또는 메인프레임 컴퓨터, 휴대폰, 또는 PDA(personal digital assistant)를 포함하지만 이로 한정되지 않는 임의의 유형의 컴퓨팅 디바이스 상에 존재하는 임의의 유형의 컴퓨팅 프로그램 또는 애플리케이션 상에서 구현될 수 있다.
도 2a 내지 도 2d는 위험 평가 장치(10)의 동작을 보다 상세히 도시하는 블록도이다. 도 2a는 본 발명의 실시예에 따른, 위험 평가 장치(10)의 주요 시스템 블록들을 도시하고, 도 2b는 본 발명의 일 실시예에 따른, 사이트-수준 품질 점수들 및 위험 지표들이 어떻게 결정될 수 있는지를 나타내며, 도 2c 및 도 2d는 본 발명의 일 실시예에 따른, 사이트 수준 이상의 품질 점수들 및 위험 지표들이 어떻게 결정될 수 있는지를 나타낸다.
도 2a는 사이트-수준 분석 블록(201) 및 다중-사이트 분석 블록(202)을 나타낸다. 사이트-수준 분석 블록(201)은 연구 데이터(60) 및 이력 데이터(70)를 취할 수 있고, 사이트-수준 품질 점수들, 사이트-메트릭 위험 지표들, 및 사이트 품질 위험 지표들을 결정할 수 있다. 사이트-수준 분석 블록(201)이 도 2b에 부분적으로 개략 도시되어 있다. 다중-사이트 분석 블록(202)은 사이트-수준 분석 블록(201)으로부터 사이트-메트릭 위험 지표들을 취할 수 있고, 다중-사이트 품질 점수들 및 다중-사이트 위험 지표들을 결정할 수 있다. 다중-사이트 분석 블록(202)은 도 2c 및 도 2d에 부분적으로 개략 도시되어 있다.
도 2b에서, 사이트-수준 분석 블록(201)은 사이트 데이터 필터(210), 사이트-메트릭 프로세서(221 내지 226)들, 메트릭 위험 프로파일러(231 내지 235)들, 집계기(aggregator)(241 내지 246)들, 및 사이트 위험 프로파일러(251 내지 256)들을 포함할 수 있다. (도 2a의 가독성의 용이함을 위해, 집계기(242 내지 245)들 및 사이트 위험 프로파일러(252 내지 255)들이 도시되지 않는다.)
사이트 데이터 필터(210)는 연구 데이터(60)를 취하고 각각의 개별 사이트로부터의 데이터를, 예를 들어 사이트(112) 데이터, 사이트(114) 데이터, 사이트(116) 데이터 등으로 분리시킬 수 있다. 대안적으로, 개개의 사이트 데이터가 위험 평가 장치(10)로 개별적으로, 예를 들어 사이트들 자체로부터 직접 또는 CD, DVD 또는 썸 또는 플래시 드라이브와 같은 다른 전달 수단을 통해, 전달되는 경우에, 사이트 데이터 필터(210)가 사이트-수준 분석 블록(201)에 포함되지 않을 수 있다.
사이트-메트릭 프로세서(221 내지 226)들은 개개의 사이트 데이터를 취하고, 개개의 사이트에 대한 하나 이상의 메트릭들 각각의 값들을 결정하기 위해 데이터를 분리시킬 수 있다. 5개의 메트릭들, 즉 Metric1(M1), Metric2(M2) 등이 도 2b에 도시되어 있다. 이들 메트릭은 다수의 척도들 중 임의의 것에 대한 것일 수 있는데, 척도들을 위해 사이트들에서 데이터가 수집된다. 임상 시험의 경우에, 메트릭들은 질의 비율(query rate), 대상 방문으로부터 입력까지의 사이클 시간(subject visit to entry cycle time), 질의 응답 사이클 시간, 선별 실패 비율, 조기 종료 비율, 이상 반응(adverse event, AE) 비율, 중대한 이상 반응(severe adverse even, SAE) 비율, 계획서 일탈 비율, 및/또는 방문 스케줄 일탈 비율뿐만 아니라 당업자가 알 수 있는 다른 메트릭들을 포함할 수 있다. 비록 5개의 메트릭들이 도 2b에 도시되어 있지만, 임의의 수의 메트릭들이 데이터로부터 결정되고 위험 평가 장치(10)에서 사용될 수 있다.
대안적으로, 개개의 사이트-메트릭 데이터 또는 사이트-메트릭들이 위험 평가 장치(10)로 개별적으로, 예를 들어 사이트들 자체로부터 직접 또는 CD, DVD 또는 썸 또는 플래시 드라이브와 같은 다른 전달 수단을 통해, 전달되는 경우, 사이트-메트릭 프로세서(221 내지 226)들이 사이트-수준 분석 블록(201)에 포함되지 않을 수 있다.
하기는 사이트-수준 분석 블록(201)이 임상 시험과 관련하여 지금까지 기술된 시점까지 어떻게 동작할 수 있는지의 일례를 제공한다. 각각의 사이트는 위에서 열거된 메트릭들과 연관된 임상 데이터, 예를 들어 혈압 데이터, 심박수 데이터, 및 신진대사 데이터뿐만 아니라 임상 데이터의 수집과 연관된 메타-데이터 또는 임상 데이터의 수집 또는 처리에 관한 다른 데이터와 같은 모니터링 데이터를 수집한다. 모든 사이트들로부터의 이러한 데이터 전부는 연구 데이터(60)를 구성하고, 위험 평가 장치(10)로 전달된다. 사이트 데이터 필터(210)는 각각의 사이트에 대한 데이터, 예를 들어 사이트(112)에 대한 임상 데이터뿐만 아니라 그 사이트에 대한 모니터링 데이터를 포함할 수 있는 사이트(112) 데이터를 분리시킨다. 사이트-메트릭 프로세서(221)는 사이트(112) 데이터를 취하고, 모니터링 데이터를 식별하며, 질의 횟수, 대상 방문으로부터 입력까지의 사이클 시간, 질의 응답 사이클 시간, 선별 실패 횟수, 및 조기 종료 횟수와 같은 각각의 메트릭 M1 내지 M5에 대응하는 데이터를 분리시킨다. 사이트-메트릭 프로세서(221)는 이어서 분리된 사이트 데이터를 사용하여 메트릭들 M1 내지 M5의 값들, 예컨대 질의 비율, 평균 대상 방문으로부터 입력까지의 사이클 시간, 평균 질의 응답 사이클 시간, 선별 실패 비율, 및 조기 종료 비율을 계산한다. M1 112, M2 112 등으로 표시된 사이트(112)에 대한 메트릭들 M1 내지 M5의 값들은 나중에 메트릭 위험 프로파일러(231 내지 235)들에 이용가능한 하나의 숫자 또는 다른 값일 수 있다.
각각의 메트릭 위험 프로파일러(231 내지 235)는 메트릭들 M1 내지 M5와 연관된 값을 수신하고, 전형적으로 각각의 메트릭 위험 프로파일러(231 내지 235)에 고유한 메트릭 위험 프로파일을 사용하여, 메트릭을 사이트-메트릭 위험 지표, 예컨대 R1 내지 R30(메트릭 위험 지표(R6 내지 R25)들은 도 2b에 나타나 있지 않음)로 계산 또는 정규화 또는 분류할 수 있다. 동일한 메트릭 위험 프로파일이 하나 초과의 메트릭 위험 프로파일러에 적용되는 것이 또한 가능하다. 전형적으로, 특정 양(quantity)의 미리 결정된 사이트-메트릭 위험 지표 명칭들이 있을 것이다. 일 실시예에서, 3개의 사이트-메트릭 위험 지표 명칭들, 예컨대 낮음(L), 중간(M) 및 높음(H)이 있을 수 있다. 실시예가 또한 위험의 시각적 지표들을 포함하는 경우, 낮음, 중간 및 높음 지표들이 색상으로, 예를 들어 녹색, 황색 및 적색으로 각각 표시될 수 있다. 상기 예를 계속하면, 각각의 사이트에 대한 메트릭들 M1 내지 M5의 값들이 메트릭 위험 프로파일러(231 내지 235)들 각각에 고유한 메트릭 위험 프로파일들에 기초하여 L, M 또는 H로 변환될 수 있다. 메트릭 위험 프로파일들은, 이제 보다 상세히 설명될, 전체 연구 데이터(60) 및/또는 이력 데이터(70)를 포함할 수 있다.
도 3a 내지 도 3c는 본 발명의 실시예들에 따른 메트릭 위험 프로파일들의 예시이다. 구체적으로는, 도면들은 이력 및 연구 데이터가 메트릭에 대한 메트릭 위험 프로파일을 생성하는 데 어떻게 사용될 수 있는지를 예시한다. 이하에서 더 기술하는 바와 같이, 위에서 논의된 메트릭들(질의 비율, 대상 방문으로부터 입력까지의 사이클 시간 등) 각각은 전형적으로 특정의 메트릭 위험 프로파일과 연관된다. 이력 또는 산업 데이터(70)는 유사한 치료 분야들에서 또는 유사한 수 또는 유형의 사이트들에 의해 수행된 연구들로부터 또는 유사한 임상 시험 단계들로부터 또는 이러한 인자들의 조합으로부터 올 수 있다.
도 3a는 평균(311) 및 제2, 제5, 제95 및 제98 백분위수(313 내지 316)를 나타내는 이력 데이터의 통계적 정규 분포(310)를 나타낸다. 이들 백분위수는 값들의 하나 이상의 그룹(bracket)들 또는 범위(range)들로서 보여질 수 있고, 이들 각각은 이력 데이터 분포(310)의 평균에 대해 이상치(outlier)인 값들을 포함한다. 예를 들어, 이력적으로 분포(310) 상에서 제5 백분위수와 제95 백분위수 사이에 속하는 특정의 메트릭에 대한 값들은 분포(310)의 "저위험" 영역에 포함되는 것으로 보여질 수 있다. 이력적으로 제2 백분위수와 제98 백분위수 밖에 속했던 메트릭에 대한 값들이 해결되어야 하는 문제를 나타내었다고 또한 결정될 수 있고, 이 경우에 이 영역은 "고위험" 영역으로 불릴 수 있다. 이때, "중간 위험" 영역은 저위험 영역과 고위험 영역 사이에 있을 것이다.
보다 구체적으로는, 이력 평균(311)이 10의 값을 가지는 경우, 이력 제2, 제5, 제95 및 제98 백분위수(313 내지 316)는 값 2, 3, 17 및 18을 갖는 데이터에 대응할 수 있다. 연구 데이터의 수집으로부터, 연구 평균(321)이 20, 즉 이력 평균(311)의 값의 2배라고 결정될 수 있다. 이 비(ratio)는 이어서 이력 분포(310)를 수정하여 수정된 벤치마크 분포(320)를 생성하는 데 사용될 수 있다. 연구에 대한 위험 지표 임계치 값들(위험 영역의 경계를 이루는 지점들)이 연구 평균 대 이력 평균의 동일한 비(이 예에서는, 2)를 사용하여 계산될 것이다. 이 예에서, 수정된 벤치마크 분포(320)에 대한 위험 지표 임계치(323 내지 326)들에 대응하는 이력 데이터 분포(310)에서의 값들은 각각 4, 6, 34, 및 36으로 2배만큼 증가될 것이다. 따라서, 값들 4 및 36은 고위험 지표 임계치(323, 326)("H"로 표시됨)들로 될 것이고, 값들 6 및 34는 중간 위험 지표 임계치(324, 325)("M"으로 표시됨)들로 될 것이다. 위험 지표 임계치(324)와 위험 지표 임계치(325) 사이의 값들은 수정된 벤치마크 분포(320) 상에서 저위험 영역에 대응할 것이다.
도 3b는 양측 메트릭 위험 프로파일(double-sided metric risk profile)(302)로서의 수정된 벤치마크 분포(320)의 다른 뷰를 나타낸다. 도 3a에서와 같이, 연구 평균(321)의 값은 20이고, 값들 4 및 36은 고위험 지표 임계치(323, 326)들에 대응하고, 값들 6 및 34는 중간 위험 지표 임계치(324, 325)들에 대응한다. 저위험 영역(330)은 위험 지표 임계치(324)와 위험 지표 임계치(325) 사이에 있고, 중간 위험 영역(340a, 340b)들은 각각 위험 지표 임계치(323, 324)들과 위험 지표 임계치(325, 326)들 사이에 있고, 고위험 영역(350a, 350b)들은 각각 위험 지표 임계치(323, 326)들 밖에 있다.
일부 메트릭들은 단측 메트릭 위험 프로파일(single-sided metric risk profile)(예컨대 최저치 및 그 최저치 밖에 단지 하나 이상의 위험 지표 임계치들을 가짐)을 사용할 수 있다. 단측 메트릭 위험 프로파일은 양측 메트릭 위험 프로파일의 특수한 경우로 간주될 수 있다. 도 3c는 최저치로서 0을 가질 수 있는 단측 메트릭 위험 프로파일(301)을 나타낸다. 따라서, 저위험 영역(360)은, 예를 들어 메트릭의 값 45 아래쪽에 있을 수 있고, 중간 위험 영역(370)은 45의 값과 63의 값 사이에 있을 수 있으며, 고위험 영역(380)은 63보다 큰 값을 가질 수 있다.
양측 메트릭 위험 프로파일에서와 같이, 값들 45 및 63에 대응하는 위험 지표 임계치들은, 도 3a에 나타낸 바와 같이, 특정의 이력 분포 백분위수들을 수정함으로써 결정될 수 있다. 예를 들어, 이력 평균이 20일 수 있고, 이때 제95 및 제98 백분위수들은 값들 40 및 56에 대응한다. 연구 평균이 22.5인 경우, 이력 평균에 대한 연구 평균의 비는 1.125이고, 중간 위험 지표 임계치에 대응하는 값은 40*1.125 = 45로서 계산될 수 있으며, 고위험 지표 임계치에 대응하는 값은 56*1.125 = 63으로서 계산될 수 있다.
일반적으로, 도 3a 내지 도 3c에 나타낸 메트릭 위험 프로파일들은 벤치마크 및 벤치마크로부터의 편차와 관련하여 결정될 수 있는 위험 영역들을 포함한다. (이와 관련하여, 위험 없음의 영역이 "위험 영역"으로 간주될 수 있다.) 벤치마크는 이력 평균 또는 메디안(median), 산업 평균 또는 메디안, 연구 평균 또는 메디안, 또는 이들의 조합들일 수 있다. 벤치마크는 또한 (0과 같은) 최저치 또는 최고치일 수 있다. 벤치마크로부터의 편차는 통계적 분포 내에서의 백분위수(예컨대, 제2, 제5, 제95, 제98), 표준 편차, 표준 편차의 일부분(예컨대, 표준 편차의 1/2, 3.5 표준 편차), 벤치마크로부터의 퍼센트 편차(예컨대, 5% 및 10% 편차), 범위의 분율(fraction), 또는 통계적 유의성의 다른 값들에 기초하여 결정될 수 있다. 더욱이, 위험 지표 임계치들이 벤치마크를 중심으로 대칭일 필요도 없고 통계적 정규 분포의 일부일 필요도 없다.
도 3a 내지 도 3c는 3개의 위험 지표 영역들을 나타내고 있지만, 사용자(예컨대, 후원자 또는 CRO) 또는 위험 평가 장치 설계자가 원하는 세분화 정도(granularity)에 따라 더 많거나 더 적은 수의 위험 지표 명칭들이 있을 수 있다. 예를 들어, 아주 많은 수의 위험 지표 명칭들을 채용하는 시스템 또는 방법과 마찬가지로, 2개의 위험 지표 명칭들을 이용하는 시스템 또는 방법이 본 발명의 이점들을 달성하는 것으로 이해될 것이다.
일단 메트릭 위험 프로파일(301 또는 302)이 생성되면, 사이트-메트릭 위험 지표들이 결정될 수 있다. 도 3b에서, 사이트에 대한 메트릭의 값(345)은 5.5이다. 이 값이 중간 위험 영역(340a) 내에 속하기 때문에, 그 사이트에서의 그 메트릭에 대한 대응하는 사이트-메트릭 위험 지표가 "중간" 또는 다른 명칭으로 결정되고, 이 사이트-메트릭 위험 지표는 이어서 사이트-수준 품질 점수, 예컨대 281을 생성하는 데 이용될 수 있다. 도 3c에서, 사이트에 대한 메트릭의 값(365)은 30이다. 이 값이 저위험 영역(360) 내에 속하기 때문에, 그 사이트에서의 그 메트릭에 대한 위험 지표가 "낮음" 또는 다른 명칭으로 간주될 수 있고, 이 사이트-메트릭 위험 지표는 마찬가지로 사이트-수준 품질 점수를 생성하는 데 사용될 수 있다. 개개의 사이트들에 대한 사이트-메트릭 위험 지표들을 결정하는 것에 더하여, 본 발명의 실시예들은, 예를 들어 도시, 지방, 주, 국가, 대륙, 또는 전체 연구, 또는 지리(geography)에 관계되지 않은 다른 사이트 그룹들과 같은 사이트 그룹들에 대한 위험 지표를 결정할 수 있다.
도 2b를 참조하면, 사이트(예컨대, 사이트(112))에 대한 메트릭들 전부가 사이트-메트릭 위험 지표(예컨대, R1 내지 R5)들로 그룹화, 정규화 또는 집계된 후에, 집계기(241)와 같은 집계기는 집계 알고리즘(2401)과 같은 집계 알고리즘을 사용하여 사이트-메트릭 위험 지표(R1 내지 R5)들을 사이트-수준 품질 점수(281)로 집계한다. 비슷한 메트릭들을 사용하여 집계가 수행될 수 있도록, 사이트-수준 품질 점수를 계산하기 위해 집계되는 사이트-메트릭 위험 지표들 전부가 동일한 수의 위험 영역들을 사용하여 결정되는 것(예컨대, R1 내지 R5 모두가 L, M 또는 H 명칭들을 가지는 것)이 바람직하다.
다양한 집계 알고리즘들이 사용될 수 있다. 하나의 집계 알고리즘은 하기일 수 있다:
[수학식 1]
사이트-수준 품질 점수 =
여기서, L, M 및 H는 각각 낮음, 중간 또는 높음 명칭들을 갖는, 연구의 하나의 사이트에 대응하는 메트릭 값들의 양이다. 수학식 1을 사용하면, 사이트-수준 품질 점수(281)는 0부터 100까지의 범위일 수 있다. 수학식 2를 산출하기 위해 수학식 1이 일반화될 수 있다:
[수학식 2]
사이트-수준 품질 점수 =
여기서 a, b, 및 c는 3개의 상이한 위험 지표 명칭들의 영향을 가중하는 0과 1 사이의 계수들이다. a = 1, b = 0.5, 그리고 c = 0일 때, 수학식 1 = 수학식 2라는 것에 주목한다. 수학식 3을 산출하기 위해 수학식 2가 추가로 일반화될 수 있다:
[수학식 3]
사이트-수준 품질 점수 =
여기서 a, b, 및 c는 3개의 상이한 위험 명칭들의 영향을 가중하는 계수들이고, 값 K는 점수의 범위를 결정한다.
일단 사이트-수준 품질 점수(281)가 결정되면, 사이트-수준 위험 지표(291)가 이어서 사이트 위험 프로파일러(251)를 사용하여 결정될 수 있다. 사이트 위험 프로파일러(251)는, 이력 데이터를 사용하거나 사용함이 없이, 사이트-수준 메트릭 값들이라기보다는 사이트-수준 품질 점수들에 대한 연산에 의해, 위에서 기술된 메트릭 위험 프로파일러(231 내지 235)들과 유사하게 동작할 수 있다. 사용될 수 있는 하나의 사이트 위험 프로파일은 95 이상(즉, 95와 100 사이)의 사이트-수준 품질 점수에 대해 저위험이 표시되고, 85 내지 95의 사이트-수준 품질 점수에 대해 중간 위험이 표시되며, 85 미만(즉, 0과 85 사이)의 사이트-수준 품질 점수에 대해 고위험이 표시되는 단측 프로파일이다. 물론, 3개보다 더 많거나 더 적은 수의 사이트-수준 위험 명칭들이 있을 수 있고, 위험 지표 임계치들이 85 및 95일 필요는 없지만, 사이트-수준 품질 점수의 범위 내(예컨대, 0과 100 사이 또는 더 일반적으로는 수학식 3에서의 최고치 "K"와 최저치 사이)의 임의의 숫자들일 수 있다. 위험 명칭들 및 위험 지표 임계치들의 양의 선택은 위험 분석의 원하는 세분화 정도에 그리고 가능한 위험에 대한 허용오차(tolerance)에 의존할 수 있다. 더욱이, 위에서 기술된 메트릭 위험 프로파일들에서와 같이, 사이트 위험 프로파일들이 실제의 연구 데이터에 기초하여 수정될 수 있어, 실제의 사이트 및/또는 연구 위험에 관한 필요한 정보를 전달하기 위해 위험 지표 임계치들이 변할 수 있게 한다.
표 1은 5개의 메트릭들 Metric1 내지 Metric5의 그룹 그리고 85 및 95의 위험 지표 임계치들을 갖는 사이트 위험 프로파일에 대한 사이트-수준 품질 점수(site-level quality score, SLQS) 및 사이트-수준 위험 지표(site-level risk indicator, SLRI)의 가능한 값들의 예를 제공한다. 사이트-수준 품질 점수들은 수학식 1을 사용하여 계산된다. 일부 경우에, 메트릭 값 또는 사이트-메트릭 위험 지표를 결정하기 위한 특정 척도들에 대한 충분한 데이터가 없을 수 있다는 것에 주목한다. 이는 사이트-수준 품질 점수를 계산하는 데 5개보다 적은 수의 메트릭 값들이 사용되게 한다.
[표 1]
표 1은 또한 사이트-수준 품질 점수들이 일의적(unique)일 필요가 없다는 것을 나타낸다.
사이트(112)에 대한 사이트-수준 품질 점수(281) 및 사이트-수준 위험 지표(291)가 어떻게 생성될 수 있는지를 나타내는 것에 더하여, 도 2b는 사이트(126)에 대한 사이트-수준 품질 점수(286) 및 사이트-수준 위험 지표(296)를 생성하는 것에 대한 유사한 상세사항들을 나타낸다. 그 경우에, 사이트(126) 데이터는 사이트 데이터 필터(210)를 사용하여 연구 데이터(60)로부터 분리될 수 있고, 이어서 사이트-메트릭 프로세서(226)는 사이트(126)에 대한 Metric1 내지 Metric5에 대한 데이터를 분리시키고, 이어서 사이트(126)에 대한 Metric1 내지 Metric5에 대한 값들인 M1 126, M2 126 등을 계산할 수 있다. 메트릭 값들은 이어서 메트릭들을 사이트-메트릭 위험 지표(예컨대, 낮음, 중간, 또는 높음)(R26 내지 R30)로 정규화하기 위해 메트릭 위험 프로파일러(231 내지 235)들에 의해 이용가능하다. 집계기(246)는 이어서 집계 알고리즘(2401)과 동일하거나 상이할 수 있는 집계 알고리즘(2406)을 사용하여 사이트(126) 메트릭 위험 지표(R26 내지 R30)들을 사이트-수준 품질 점수(286)로 집계한다. 일단 사이트-수준 품질 점수(286)가 결정되면, 사이트 위험 프로파일러(251)와 동일하거나 상이할 수 있는 사이트 위험 프로파일러(256)를 사용하여 사이트-수준 위험 지표(296)가 결정될 수 있다. 다른 사이트(114, 116, 122, 124)들에 대한 사이트-수준 품질 점수들 및 사이트-수준 위험 지표들이 사이트(112, 126)들에 대해 나타낸 것과 동일한 방식으로 결정될 수 있다(도 2b에 상세히 도시되지 않음).
도 2c는 주어진 특정 메트릭에 대해 다수의 사이트들에 걸쳐 품질 점수들 및 위험 지표들이 어떻게 결정될 수 있는지를 나타낸다. 사이트들로부터의, 이 예에서는 Metric1(M1), M1 112, M1 114 등인 메트릭의 값들이 메트릭 위험 프로파일러(231)에 입력된다. 사이트-수준 메트릭 위험 지표(R1, R6, R11, R16, R21, R26)(예컨대, 낮음, 중간, 높음)들이 각각의 사이트의 Metric1 값, 예컨대 M1 112, M1 114, M1 116,.., M1 126에 기초하여 결정될 수 있다. 얻어진 사이트-메트릭 위험 지표들은 이어서 집계 알고리즘(2408)을 사용하여 집계기(248)에서 집계된다. 집계 알고리즘(2408)은 집계 알고리즘(2401 내지 2406)들과 동일하거나 상이할 수 있다. 집계기(248)는 이어서 Metric1에 대한 다수의 사이트들에 대한(즉, 6개의 사이트들의 그룹에 대한) 품질 점수(288)를 생성한다. Metric1에 대한 다수의 사이트들에 대한 위험 지표(298)가 이어서 사이트 위험 프로파일러(251 내지 256)들과 유사하거나 상이한 위험 프로파일을 가질 수 있는 위험 프로파일러(258)를 사용하여 결정될 수 있다.
도 2c의 일례로서, 연구가 17개의 사이트들에서 수행되고 있으며, 각각의 사이트가 Metric1에 대한 정보를 가지며, 집계 알고리즘(2408)이 상기 수학식 1과 동일한 것으로 가정한다. 사이트들 중 15개가 저위험 지표(L)를 갖고, 하나의 사이트가 중간 위험 지표(M)를 가지며, 하나의 사이트가 고위험 지표(H)를 가지는 경우, 17개의 사이트에 대한 Metric1에 대한 품질 점수 = 
= 100 * (15+0.5*(1))/17 = 91.18이다. 위험 프로파일러(258)에서 이용되는 위험 프로파일이 상기 예에서의 사이트 위험 프로파일러(251)에서 사용되는 것과 동일한 경우(여기서, 위험 지표 임계치들은 85 및 95에 있음), 이때 17개의 사이트에 대한 위험 지표(298)는 85와 95 사이에 있기 때문에, 중간으로 지정될 것이다.
도 2d는, 예를 들어 국가 수준의 또는 연구 수준에서, 다수의 사이트들에 대해 그리고 다수의 메트릭들에 대해 전체 품질 점수(289)들 및 전체 위험 수준(299)들을 결정하기 위해, 이러한 값들이 어떻게 결정될 수 있는지를 나타낸다. 집계되고 있는 사이트들 각각으로부터의 메트릭 값들 M1 112 내지 M1 126, M2 112 내지 M2 126 등이 이들 각자의 메트릭 위험 프로파일러들에 의해 이용가능하게 된다. 보다 상세하게는, 사이트들 각각으로부터의 Metric1에 대한 값들은 메트릭 위험 프로파일러(231)에 입력되고, 사이트들로부터의 Metric2 값들은 메트릭 위험 프로파일러(232)에 입력되며, Metric3, Metric4, 및 Metric5 값들에 대해 기타 등등이다. 5개의 메트릭들 및 6개의 사이트들에 대하여, (사이트에 특정 메트릭에 대해 불충분한 데이터가 있지 않다면) 30개의 사이트-메트릭 위험 지표(R1 내지 R30)들이 생성될 수 있다. 30개의 위험 지표들이 이어서 집계 알고리즘(2401 내지 2406, 2408)과 동일하거나 상이할 수 있는 집계 알고리즘(2409)을 사용하여 집계기(249)에서 집계될 수 있다. 집계기(249)는 이어서 대응하는 다수의 사이트들 및 다수의 메트릭들에 대한 전체 품질 점수(289)를 생성한다. 다수의 사이트들 및 다수의 메트릭들에 대한 전체 위험 수준(299)이 이어서 사이트 위험 프로파일러(251 내지 256, 258)들과 유사하거나 상이한 위험 프로파일을 가질 수 있는 위험 프로파일러(259)를 사용하여 결정될 수 있다.
도 2d의 일례로서, 국가 1에 대한 17개의 사이트들이 있고, 각각의 사이트가 5개의 메트릭들 Metric1 내지 Metric5를 가지며, 집계 알고리즘(2409)이 상기 수학식 1과 동일한 것으로 다시 가정한다. 데이터의 표가 하기에 있다:
[표 2]
표 2는 총 85(17*5)개의 사이트-메트릭 위험 지표들을 나타낸다. (일부 사이트들에서 일부 메트릭들에 대해 불충분한 데이터가 있는 경우, 85개보다 적은 수의 사이트-메트릭 위험 지표들이 있을 수 있다.) 메트릭들 각각이 도 2c에 따라 계산된 점수를 가질 수 있지만, 85개의 사이트-메트릭 위험 지표들 전부가 집계되어 국가에 대해 92.94의 전체 품질 점수를 산출한다. 전체 품질 점수가 85와 95 사이에 있는 경우, 국가에 대한 전체 위험 지표는 중간일 것이다.
연구 수준의 점수 및 위험 지표가 거의 동일한 방식으로 생성될 수 있는데, 여기서 모든 사이트들에 대한 모든 메트릭 값들이 사용된다.
국가 또는 연구 수준에서 전체 품질 점수를 생성하기 위해 연구에서 모든 사이트들에 대한 모든 사이트-메트릭 위험 지표들을 집계하는 것 대신에, 상이한 집계가 수행될 수 있다. 17개의 사이트들 각각이 5개의 메트릭들을 가지는 상기 국가-수준 예를 취하면, 85개의 사이트-메트릭 위험 지표들을 집계하는 것 대신에, 17개의 사이트들에 걸친 5개의 메트릭 위험 지표들이 집계될 수 있는데, 여기서 각각의 메트릭 위험 지표는 도 2c에 따라 생성된다. 대안적으로, 도 2b에서 사이트-수준 위험 지표(291 내지 296)들을 생성하기 위해 행해진 것과 같이, 5개의 메트릭들 전부에 대하여 각각의 사이트에 대해 위험 지표들이 생성될 수 있고, 이어서 전체 품질 점수 및/또는 위험 지표를 생성하기 위해 17개의 사이트들에 걸쳐 그 위험 지표들이 집계될 수 있다.
도 1 및 도 2a 내지 도 2d에 도시된 부분들 및 블록들은 시스템(100) 및 위험 평가 장치(10)를 포함할 수 있는 부분들의 예이고, 시스템(100) 및 위험 평가 장치(10)에 포함되거나 그에 연결되거나 그와 연관될 수 있는 부분들 또는 모듈들을 제한하지 않는다. 예를 들어, 앞서 언급된 바와 같이, 사이트 데이터 필터(210) 및 사이트-메트릭 프로세서(221 내지 226)들은, 그 블록들의 특정 데이터 출력들이 다른 방식으로, 예를 들어 사이트들로부터 직접 전달되거나 CD, DVD, 또는 썸 또는 플래시 드라이브와 같은 매체를 통해 위험 평가 장치(10)에 직접 제시되는 방식으로, 위험 평가 장치(10)에 이용가능한 경우, 사용되지 않을 수 있다. 다른 실시예들에서, 사이트 데이터 필터(210) 및 사이트-메트릭 프로세서(221 내지 226)들이 다른 물리적 "박스들" 또는 디바이스들에 존재할 수 있고, 이들 사이의 연결부들은 유선 또는 무선이거나, 물리적으로 근접한 연결부를 통하거나, 연결부(35)와 유사한 방식으로 네트워크를 거칠 수 있다. 더욱이, 메트릭 위험 프로파일러(231 내지 235)들이 개별적인 블록들로서 도시되어 있지만, 이들이 동일한 하드웨어 또는 소프트웨어 루틴의 일부일 수 있지만 메트릭 위험 프로파일들 자체를 결정하는 상이한 입력 변수들만을 가질 수 있다. 유사하게, 사이트-메트릭 프로세서(221 내지 226)들이 개별적인 블록들로서 도시되어 있지만, 이들이 동일한 하드웨어 또는 소프트웨어 루틴의 일부일 수 있지만 필요한 메트릭 값들을 결정하기 위해 들어오는 사이트 데이터를 어떻게 처리할지를 결정하는 상이한 처리 규칙들만을 가질 수 있다.
본 발명의 일 실시예에 따른, 위험 평가 장치(10)를 포함하는 시스템의 일반 동작을 예시하는 플로우차트인 도 4a 내지 도 4c를 이제 참조한다. 도 4a에서, 데이터가 다양한 사이트들에서 생성될 수 있다(동작(405)). 동작(410)에서, 데이터가 다양한 사이트들에서 EDC(electronic data capture) 프로그램에 입력될 수 있다. 동작(415)에서, 데이터가 사이트들로부터 위험 평가 장치(10)와 같은 원격 또는 중앙 모니터링 장치로 전송될 수 있다. 동작(420)에서, 위험 평가 장치(10)는 연구 데이터로부터 각각의 사이트의 데이터를 필터링할 수 있고, 이어서 동작(425)에서, 메트릭 값들을 결정하기 위해 사이트들에 대한 메트릭 데이터를 처리한다. 동작(430)에서, 메트릭 값들이 메트릭 위험 프로파일들에 기초하여 정규화될 수 있다. 전형적으로, 각각의 메트릭 값이 특정의 메트릭 위험 프로파일에 의해 정규화될 것이지만, 동일한 메트릭 위험 프로파일이 하나 초과의 메트릭 값을 정규화하는 데 사용되는 것이 또한 가능하다. 동작(435)에서, 정규화된 사이트-메트릭 위험 지표들이 집계 알고리즘에 따라 각각의 사이트에 대한 사이트-수준 품질 점수로 집계될 수 있다. 동작(440)에서, 사이트-수준 품질 점수가 사이트-수준 위험 지표를 생성하는 데 사용될 수 있다. 본 발명의 다른 실시예와 관련하여 이하에서 추가로 기술될 동작(450)은 사이트에의 사이트 모니터 방문에 의한 또는 사이트 자체에서 취해지는 조치 또는 단계에 의한 실제의 품질 또는 위험 문제의 존재 여부의 확인을 제공할 수 있다.
도 4b 및 도 4c의 플로우차트들은 상위 수준의 품질 점수들이 동작(430)에서 계산된 사이트-수준 메트릭 위험 지표들에 기초하여 어떻게 생성될 수 있는지를 예시한다. "상위 수준"은, 이 경우에, 사이트 수준보다 더 포괄적인 그룹 또는 지리(예컨대, 지방 수준, 주 수준, 국가 수준, 연구 수준 등)를 지칭한다. 지리적 영역에 의한 그룹은 예시적이지만, 공통의 요소를 갖는 임의의 관련 그룹들이 적용될 수 있다. 예를 들어, 연구에서 각각의 CRA에 의해 관리되는 사이트 그룹들에 대해 상위 수준의 사이트 품질 점수들이 생성될 수 있다. 도 4b는 복수의 사이트들로부터의 특정 메트릭, 예컨대 Metric1에 대해 품질 점수 및 위험 지표가 계산될 수 있는 도 2c와 일반적으로 연관된 프로세스를 예시한다. 동작(455)에서, 메트릭 값들을 결정하기 위해 사이트들 각각에 대해 Metric1에 대한 데이터가 처리된다. 동작(460)에서, Metric1 위험 프로파일에 기초하여 메트릭 값들이 사이트-메트릭 위험 지표들로 정규화될 수 있다. 동작(465)에서, 사이트-메트릭 위험 지표들이 다수의 사이트들에 대한 품질 점수로 조합되거나 집계될 수 있다. 동작(470)에서, Metric1에 대한 다수의 사이트들에 대한 위험 지표가 품질 점수로부터 계산될 수 있다.
도 4c는 복수의 사이트들로부터의 다수의 메트릭들, 예컨대 Metric1, Metric2,.., Metric5에 대해 품질 점수 및 위험 지표가 계산될 수 있는 도 2d와 일반적으로 연관된 프로세스를 예시한다. 동작(475)에서, 메트릭 값들을 결정하기 위해 사이트들 각각에 대해 메트릭들에 대한 데이터가 처리될 수 있다. 동작(480)에서, 메트릭들이 특정 메트릭 위험 프로파일들에 기초하여 사이트-메트릭 위험 지표들로 정규화될 수 있다. 동작(485)에서, 사이트-메트릭 위험 지표들이 다수의 사이트들 및 메트릭들에 대한 전체 품질 점수로 조합되거나 집계될 수 있다. 동작(490)에서, 다수의 사이트들 및 메트릭들에 대한 전체 위험 지표가 전체 품질 점수로부터 계산될 수 있다.
도 4a 내지 도 4c에 도시된 동작들 이외에, 품질 점수들 및 위험 지표들을 계산하기 위해 다른 동작들 또는 일련의 동작들이 사용될 수 있다. 더욱이, 플로우차트에서의 동작들의 실제의 순서가 중요하지 않을 수 있다.
위험 평가 장치(10)는 연구 및 사이트 데이터 및 위험 지표들을 표시하기 위한 그래픽 인터페이스를 가질 수 있다. 도 5는 하나의 연구에서 10개의 사이트들에 대한 품질 데이터 점수들 및 위험 지표들의 사이트-수준 뷰의 일례를 도시한다. 도 5에 예시된 실시예에서, 인터페이스는 4개의 주요 부분(510, 520, 530, 540)들을 포함할 수 있다. 부분(510)은 각각의 위험 지표 명칭 내에 속하는 사이트들의 퍼센트(512, 514, 516) 또는 전체 품질 점수에 대한 불충분한 데이터를 갖는 사이트들의 퍼센트(518)를 한눈에 보여주는 파이 차트(pie chart)이다. 부분(520)은 각각의 사이트에 대한 소정의 메트릭(이 경우에, 대상 방문으로부터 eCRF 입력까지의 시간)에 대한 값들을 보여줄 수 있고, 또한 그 메트릭에 대한 위험 지표 임계치들을 보여줄 수 있다. 이 예에서, 22 미만의 값들은 저위험이고, 22와 40 사이의 값들은 중간 위험이며, 40 초과의 값들은 고위험이다. 부분(530)은 연구에서 사이트들 각각에 대한 5개의 메트릭들 각각에 대한 값들 및 품질 점수들뿐만 아니라, 그 연구에 대한 5개의 메트릭들에 대한 메트릭 위험 지표들의 조합인 각각의 사이트에 대한 사이트-수준 품질 점수("사이트 품질 점수")를 수치로 보여줄 수 있다. 부분(530)은 또한 메트릭 위험 지표들 및 사이트 품질 점수를 위험 지표에 따라 패턴화 또는 색상 코딩할 수 있다. 부분(530)은 또한 각각의 사이트 내의 대상들의 수에 관한 정보를 포함할 수 있다. 부분(540)은 필터 영역일 수 있으며, 이에 의해 사용자는 국가, 사이트 이름, 및 메트릭 이름과 같은 특정의 기준들을 충족시키는 데이터를 선택할 수 있고, 부분(510, 520, 530)들에 보여지는 정보는 그들 필터에 기초하여 변할 수 있다.
도 5에 도시된 예에서, 미국이 필터 '국가'로서 선택되고, 미국 내에 10개의 사이트들이 있다. 부분(510)에서, 10개의 사이트들 중 6개(60%)는 저위험이고, 2개는 중간 위험이며, 하나는 고위험이고, 하나는 평가될 충분한 데이터를 갖지 않는다. 부분(530)은 5개의 메트릭들의 값들, 자동 질의 비율, DM(data management) 질의 답변 대기 시간, 대상 방문으로부터 eCRF 입력까지의 시간, 선별 실패 비율, 및 조기 종료 비율을, 그 메트릭들에 대한 메트릭 위험 지표들 및 사이트들에 대한 사이트-수준 품질 점수들과 함께, 보여준다(그렇지만, 단지 7개의 사이트들에 대한 데이터가 실제로 나타나 있음). 부분(520)은 10개의 사이트들 전부에 대한 메트릭들 중 하나(대상 방문으로부터 eCRF 입력까지의 시간)의 값들을 보여주고, 그 메트릭에 대한 각각의 사이트에 대한 위험 지표를 포함한다.
도 6은 도 5에서의 10개의 사이트들에 대한 품질 데이터 점수들 및 위험 지표들의 다른 사이트-수준 뷰를 나타낸다. 도 6에 예시된 실시예에서, 인터페이스는 3개의 주요 부분(610, 620, 630)들을 포함할 수 있다. 부분(610)은 각각의 사이트에 대한 위험 지표를 한눈에 보여주는 모든 사이트들의 패턴 코딩된(다른 대안으로서, 색상 코딩된) 차트이다. 부분(620)에서 보이도록 선택된 특정의 사이트(여기서, 그린포트 메모리얼 병원(Greenport Memorial Hospital))를 나타내기 위해 부가의 패턴/색상이 사용될 수 있다. 부분(610)에서의 직사각형들의 크기는 특정의 연구의 규모(예컨대, 대상들의 수)를 나타낼 수 있다. 부분(620)은 부분(610)에서 선택된 특정의 사이트에 대한 메트릭들의 값들 및 그 값들이 어느 위험 영역들에 속하는지를 보여줄 수 있다. 부분(620)은 또한 각각의 메트릭에 대한 위험 지표 임계치들을 보여줄 수 있다. 부분(630)은 필터 영역일 수 있으며, 이에 의해 사용자는 국가, 사이트 이름, 및 메트릭 이름과 같은 특정의 기준들을 충족시키는 데이터를 선택할 수 있고, 부분(610, 620)들에 보여지는 정보는 그들 필터에 기초하여 변할 수 있다.
도 6에 나타낸 예는 도 5에 나타낸 것의 연속이어서, 미국이 필터 국가로서 선택되고 미국 내의 사이트들 중 10개 모두가 부분(610)에 표시된다. 그린포트 메모리얼 병원이, 그 사이트를 위한 상이한 패턴에 의해 나타낸 바와 같이, 부분(610)에서 선택되어 있다. 5개의 메트릭들, 즉 자동 질의 비율, DM(data management) 질의 답변 대기 시간, 대상 방문으로부터 eCRF 입력까지의 시간, 선별 실패 비율, 및 조기 종료 비율의 값들이, 그 사이트에 대한 그 메트릭들에 대한 위험 지표 임계치들과 함께, 부분(620)에 표시된다. 자동 질의 비율, 선별 실패 비율, 및 조기 종료 비율은 도 3b에 도시된 메트릭 위험 프로파일(302)과 같은 양측 메트릭 위험 프로파일들을 갖는데, 여기서 중간 위험 지표 임계치들 및 고위험 지표 임계치들 둘 모두는 메트릭 벤치마크의 위와 아래에 있다(도 6에 구체적으로 도시되어 있지 않음). 도 6의 예에서, 자동 질의 비율의 값은 저위험인 23이고, 2개의 중간 위험 지표 임계치들은 70 및 18이며, 2개의 고위험 지표 임계치들은 120 및 12이다. 이전과 같이, 본 발명의 다른 실시예들은 3개보다 더 많거나 적은 수의 위험 지표 명칭들을 가질 수 있고, 연구, 사용자(예컨대, 후원자 또는 CRO) 또는 위험 평가 장치 설계자에 따라, 위험 지표 임계치들이 이 값들과 상이할 수 있다.
도 7은 하나의 연구에 대한 품질 점수들 및 위험 지표들의 국가 수준의 뷰를 나타낸다. 도 7에 예시된 실시예에서, 인터페이스는 3개의 주요 부분(710, 720, 730)들을 포함할 수 있다. 부분(710)은 패턴 또는 문자 또는 색상 코딩에 기초한 국가 수준의 위험을 한눈에 보여줄 수 있는 세계 지도를 포함할 수 있다. 부분(720)은 연구에서 국가들 각각에 대한 5개의 메트릭들 각각에 대한 품질 점수들을 숫자로 보여줄 수 있는데, 그 각각은 도 2c에 예시된 바와 같은 사이트-메트릭 위험 지표들의 집계이다. 부분(720)은 또한, 도 2d에 예시된 바와 같이, 그 연구에 대한 사이트-메트릭 위험 지표들의 집계인, 각각의 국가에 대한 전체 품질 점수를 보여줄 수 있다. 부분(720)은 또한 메트릭 품질 점수들 및 전체 품질 점수를 위험 지표에 따라 패턴화 또는 색상 코딩할 수 있다. 부분(720)은 또한 각각의 국가에 대한 사이트들의 수에 관한 정보를 포함할 수 있다. 부분(730)은 필터 영역일 수 있으며, 이에 의해 사용자는 국가, 사이트 이름, 및 메트릭 이름과 같은 특정의 기준들을 충족시키는 데이터를 선택할 수 있고, 부분(710, 720)들에 보여지는 정보는 그들 필터에 기초하여 변할 수 있다.
도 7에 도시된 예에서, 85 이하의 메트릭 품질 점수 또는 전체 품질 점수는 고위험 지표를 생성하고, 85와 95 사이의 점수는 중간 위험 지표를 생성하며, 95 초과의 점수는 저위험 지표를 생성한다. 이전과 같이, 본 발명의 다른 실시예들은 3개보다 더 많거나 적은 수의 위험 지표 명칭들을 가질 수 있고, 연구, 사용자(예컨대, 후원자 또는 CRO) 또는 위험 평가 장치 설계자에 따라, 위험 지표 임계치들이 85 및 95와 상이할 수 있다.
도 8은 몇개의 연구에 대한 품질 점수들 및 위험 지표들의 "실행(executive)" 또는 전체 뷰를 나타낸다. 도 8에 예시된 실시예에서, 인터페이스는 3개의 주요 부분(810, 820, 830)들을 포함할 수 있다. 부분(810)은 막대 그래프를 포함할 수 있는데, 여기서 전체 연구 수준의 품질 점수는 위험 지표 임계치들에 대해 나타나 있고, 그래프의 막대들은 위험 지표에 따라 패턴화 또는 색상 코딩될 수 있다. 부분(820)은 도 2c에 예시된 바와 같이 도출될 수 있는, 5개의 연구 S1 내지 S5에 대한 5개의 메트릭들 각각에 대한 품질 점수들뿐만 아니라, 도 2d에 예시된 바와 같이 도출될 수 있는, 그 연구에 대한 사이트-메트릭 위험 지표들의 집계일 수 있는 각각의 연구에 대한 전체 품질 점수를 숫자로 보여줄 수 있다. 부분(820)은 또한 메트릭 품질 점수들 및 전체 품질 점수를 위험 지표에 따라 패턴화 또는 색상 코딩할 수 있다. 부분(820)은 또한 각각의 연구에 대한 사이트들의 수, 연구가 어느 임상 시험 단계에서 수행되었는지, 및 연구가 어느 치료 분야로 분류되었는지에 관한 정보를 포함할 수 있다. 부분(830)은 필터 영역이고, 이에 의해 사용자는 임상 시험 단계, 치료 분야, 또는 약물/연구 이름과 같은 특정의 기준들을 충족시키는 연구들을 선택할 수 있고, 부분(810, 820)에 보여지는 정보는 그들 필터에 기초하여 변할 수 있다.
도 8에 도시된 예에서, 85 이하의 전체 연구 품질 점수는 고위험 지표를 생성하고, 85와 95 사이의 점수는 중간 위험 지표를 생성하며, 95 초과의 점수는 저위험 지표를 생성한다. 이전과 같이, 본 발명의 다른 실시예들은 3개보다 더 많거나 적은 수의 위험 지표 명칭들을 가질 수 있고, 연구, 사용자(예컨대, 후원자 또는 CRO) 또는 위험 평가 장치 설계자에 따라, 위험 지표 임계치들이 85 및 95와 상이할 수 있다.
사이트 품질 메트릭들의 예를 보다 상세히 기술하는 것을 이제 참조한다. 이들은 자동 질의 비율, DM(data management) 질의 답변 대기 시간, 대상 방문으로부터 eCRF(electronic case report form) 입력까지의 시간, 선별 실패 비율, 및 조기 종료 비율을 포함한다.
임상의, 연구 코디네이터, 또는 다른 사이트 직원에 의해 EDC 시스템에 입력된 임상 데이터가, 그 데이터의 품질에 대한 그리고 또한 임상 시험을 수행하는 사이트의 품질에 대한 문제를 식별하기 위해, 원격적으로 분석될 수 있다. 게다가, EDC 시스템에 입력된 임상 데이터와 관련하여 생성된 메타데이터가, 그 자체적으로 또는 임상 데이터와 관련하여, 임상 시험을 수행하는 사이트의 품질에 대한 문제를 식별하는 데 또한 유용할 수 있다. 임상 데이터 및/또는 그의 연관된 메타데이터를 이용하는 것의 유용함의 예는 사이트 품질 메트릭들의 이하의 발명 예들에서 명백하게 될 것이다.
자동 질의 비율. 임상 시험에서, "질의"가 다수의 방식들로, 예컨대 임상 사이트 직원에 의해 행해진 데이터 입력 오류를 포착하기 위해 또는 데이터점(datapoint)들("데이터점"은 전형적으로 임의의 데이터 입력 기회임)의 값 또는 유효성을, 그들의 값들에만 또는 다른 입력된 데이터 점들(실제 오류일 수 있거나 그렇지 않을 수 있음)에 대한 그들의 값에 기초하여, 질문하기 위해, 생성될 수 있다. 본 명세서에서 논의된 바와 같이, EDC 프로그램들은 이러한 입력들을 인식할 수 있고, 이러한 질의들을 자동으로 로그(log)하고 사이트 직원에게 입력을 정정하라고 요청할 수 있다. 예를 들어, 대상의 나이가 입력되어야 하는 경우, 입력된 나이가 너무 적거나 너무 많거나 숫자가 아니면 질의가 자동으로 생성되도록 구성될 수 있다.
EDC 프로그램에 의한 질의 대상 데이터 생성(data subject to query generation)이 사용자(예컨대, 후원자 또는 CRO)에 의해 또는 EDC 공급업체에 의해 프로그램될 수 있기 때문에, 생성된 질의들의 유형들이 연구마다 다를 수 있다. 더욱이, 모든 데이터점 또는 모든 데이터 입력 오류가 질의를 생성하는 것은 아니다. 어느 경우든지, EDC 프로그램은 데이터 입력 동안 생성되는 자동 질의의 횟수를 추적하도록 구성될 수 있고, 이 자동 생성된 질의들(또는 "자동 질의들")의 비율을 결정할 수 있다. 본 발명의 실시예들은, 의미있는 자동 질의 비율, 즉 최소 수, 예컨대 300개의 데이터점들이 수집된 후에 생성되는 자동 질의 비율에 기초하여, 데이터 품질 문제들을 식별하고 해결할 수 있다. 다시 말하면, 주어진 사이트에 대한 자동 질의 비율이 다른 사이트의 자동 질의 비율과 의미있게 비교되기 위해서는, 그 사이트들에 대한 자동 질의 비율이 최소 분량의 데이터점들을 초과하는 것이 바람직할 수 있다. 게다가, 새로 발생하는 문제들의 보다 민감한 식별을 가능하게 하기 위해 롤링 방식으로(on a rolling basis) 보다 새로운 데이터(예컨대, 마지막 1000개의 데이터점들)가 일반적으로 고려될 수 있다. 그렇지 않다면, 자동 질의 비율의 최근의 변화가, 사이트에 대한 모든 데이터와 결합되면, 식별하기가 더 어려울 수 있다.
본 발명의 일 실시예에서, 자동 질의 비율은 도 3b에 도시된 프로파일(302)과 유사한 양측 메트릭 위험 프로파일의 영향을 받을 수 있다. 선택된 벤치마크는 이력적일 수 있고, 이 경우에 그 벤치마크는 특정 치료 분야 또는 임상 시험 단계에서의 임상 시험들에 대한 이력 데이터에 기초하거나 현재의 연구 이전의 다른 데이터에 기초할 수 있다. 종종 선택되는 하나의 벤치마크는 (자동 질의들의 분포가 통계적으로 정규 분포인 경우에) 전형적으로 제50 백분위수인 이력 평균일 수 있다. 도 3a에 기술된 바와 같이, 제2, 제5, 제95, 및 제98 백분위수들을 포함하는 이력 데이터 분포가 설정될 수 있다. 도 3a 내지 도 3c와 관련하여 기술되는 바와 같이, 벤치마크가 연구 평균이도록 수정될 수 있고, 수정된 분포에 대한 위험 지표 임계치들은 이력 평균에 대한 연구 평균의 비가 곱해진 이력의 제2, 제5, 제95, 및 제98 백분위수들에 대한 값들일 수 있다.
자동 질의 비율과 연관된 3개의 위험 지표 명칭들(낮음, 중간, 및 높음)이 있는 경우, 본 발명의 일 실시예에서, 저위험 영역은 수정된 제5 백분위수와 제95 백분위수 사이일 수 있고, 중간 위험 영역은 하단에서의 수정된 제2 백분위수와 제5 백분위수 사이 그리고 상단에서의 수정된 제95 백분위수와 제98 백분위수 사이일 수 있으며, 고위험 영역은 하단에서의 수정된 제2 백분위수 미만 그리고 상단에서의 수정된 제98 백분위수 초과일 수 있다.
자동 질의 비율에 대한 사이트-수준 메트릭은 하기와 같이 계산될 수 있다: 이는 롤링 메트릭(rolling metric)일 수 있기 때문에, 사이트에 있는 대상들 각각으로부터의 마지막 1000개의 데이터점들로부터 생성된 자동 질의들의 수를 나눈다. 이 기간에 10명의 대상들 및 500개의 자동 질의들이 있는 경우, 자동 질의 비율 = 500/10,000 = 5%이다. 주어진 사이트에 대한 자동 질의 비율에 대한 적절한 위험 지표를 결정하기 위해, 이 숫자가 수정된 분포에서의 수정된 제2, 제5, 제95, 및 제98 백분위수 값들과 비교될 것이다. (이 예에서, 5% 자동 질의 비율이 데이터 분포의 제5 백분위수와 동일하지 않음에 주목한다.)
DM 질의 답변 대기 시간. 전형적인 임상 시험에서, 데이터 관리자로서 알려진 소정의 직원은 EDC 프로그램에 입력된 데이터를 검토할 수 있다. 데이터 관리자가 입력된 데이터에서 모순(inconsistency) 또는 부족(deficiency)과 같은 문제를 식별하는 경우에, 입력된 데이터에 관한 질의를 EDC 프로그램에 수동으로 입력할 수 있다. EDC 프로그램은 사이트 직원이 응답할 그 수동 질의들에 플래깅할 수 있다. EDC 프로그램은 사이트 직원이 데이터 관리자의 질의에 응답하는 데 걸리는 평균 시간을 추적할 수 있다.
본 발명의 일 실시예에서, DM 질의 답변 대기 시간은 도 3c에 도시된 프로파일(301)과 유사한 단측 메트릭 위험 프로파일의 영향을 받을 수 있다. 자동 질의 비율에서와 같이, DM 질의 답변 대기 시간에 대해 선택된 벤치마크는 이력적, 예컨대 이력 평균일 수 있고, 벤치마크 및 메트릭 위험 프로파일이 현재의 연구 데이터에 의해 수정될 수 있다. 자동 질의 비율에서와 같이, 동일하거나 상이한 백분위수 할당을 갖는, 저위험, 중간 위험, 및 고위험 지표 명칭들이 선택될 수 있다. 이러한 메트릭에 대한 실제 계산은 평균 DM 질의 답변 대기 시간을 포함할 수 있다.
일 실시예에서, 평균 DM 질의 답변 대기 시간은 실제로 답변된 질의들 및 (짧은 지속기간의 질의들을 보류시키는 것에 의해 야기된 결과들을 왜곡시키지 않기 위해) 소정의 일수, 예컨대 15일 초과 동안 보류되고 있는 미답변된 질의들에 대해서만 계산될 수 있다. 후자의 경우에, DM 질의 답변 대기 시간은, 질의가 답변될 때(이때, 질의는 실제 값을 가짐)까지의 보류 일수로 설정될 수 있다. 의미있는 메트릭을 갖기 위해, 자동 질의 비율과 관련하여 언급되었던 바와 같이, 새로 발생하는 문제들을 식별하기 위해, 최소 10개의 답변된 질의들이 부과될 수 있을 뿐만 아니라, 단지 20개의 가장 최근에 답변된 질의들을 살펴본다. (15일의 보류 일수, 최소 10개의 답변된 질의, 및 20개의 가장 최근에 답변된 질의라는 선택들은 단지 예이며, 이들은 보다 낮거나 보다 높은 수들로 변경될 수 있다.) 이 메트릭의 일례로서, 20개의 가장 최근에 답변된 질의 대기 시간들의 분포가 4일이 3개, 6일이 4개, 7일이 8개, 8일이 2개, 그리고 아직 답변되지 않았지만 18일 동안 보류되고 있는 것이 3개인 경우에, 평균 DM 질의 답변 대기 시간은 (3*4 + 4*6 + 8*7 + 2*8 + 3*18)/20 = 8.1일이다.
DM 질의 답변 대기 시간에 대한 연구 수준의 메트릭은 하기와 같이 계산될 수 있다: DM 질의 답변 대기 시간에 대한 사이트-수준 메트릭들의 메디안을 구한다. 사이트-수준 데이터에 대해 선택될 수 있는 "평균" 대신에 "메디안"이 연구 수준의 데이터에 대해 선택될 수 있는데, 그 이유는 메디안 대신에 평균이 취해지면 극단의 이상치 값들(예컨대, > 150일)이 연구 수준의 메트릭에 더 큰 영향을 미칠 수 있기 때문이다. 그러나, 특정 사이트에서의 이상치들이 식별되어야만 하지만, 사이트 수준에서 평균 대신에 메디안이 사용되면 이상치들이 마스킹될 수 있다.
대상 방문으로부터 eCRF 입력까지의 시간. 사이트 품질 메트릭 DM 질의 답변 대기 시간과 유사하게, 대상 방문으로부터 eCRF 입력까지의 시간은, 대상 방문 날짜가 입력될 때 기록되는 메타데이터 타임스탬프에 의해 반영되는 바와 같이, 대상 방문 날짜부터 대상 방문이 EDC 프로그램에 입력된 날짜까지의 지연을 나타낸다. 이 메트릭에 대한 값을 계산하기에 충분한 데이터를 갖는 모든 사이트에 대해 평균 값이 결정될 수 있다.
본 발명의 일 실시예에서, DM 질의 답변 대기 시간처럼, 대상 방문으로부터 eCRF 입력까지의 시간이 또한 도 3c에 도시된 프로파일(301)과 유사한 단측 메트릭 위험 프로파일의 영향을 받을 수 있다. DM 질의 답변 대기 시간에서와 같이, 대상 방문으로부터 eCRF 입력까지의 시간에 대해 선택된 벤치마크는 이력적, 예컨대 이력 평균일 수 있고, 벤치마크 및 메트릭 위험 프로파일이 현재의 연구 데이터에 의해 수정될 수 있다. DM 질의 답변 대기 시간에서와 같이, 동일하거나 상이한 백분위수 할당을 갖는, 저위험, 중간 위험, 및 고위험 지표 명칭들이 선택될 수 있다. 이 메트릭에 대한 실제 계산은 평균 대상 방문으로부터 eCRF 입력까지의 시간을 포함할 수 있다.
일 실시예에서, 보다 의미있는 데이터를 갖기 위해, 평균 대상 방문으로부터 eCRF 입력까지의 시간은 적어도 3회의 환자 방문을 가지는 사이트들에 대해서만 계산될 수 있고, 15개의 가장 최근의 방문이 롤링 방식으로 사용될 수 있다. (최소 3회의 방문 및 15개의 가장 최근의 방문이라는 선택들은 단지 예이고, 이들은 보다 낮거나 보다 높은 수들로 변경될 수 있다.) 이러한 메트릭의 일례로서, 15개의 가장 최근의 방문들의 분포가 4일이 3개, 6일이 4개, 그리고 7일이 8개인 경우에, 평균 대상 방문으로부터 eCRF 입력까지의 시간은 (3*4 + 4*6 + 8*7)/15 = 6.13일이다.
대상 방문으로부터 eCRF 입력까지의 시간에 대한 연구 수준의 메트릭은, 연구 수준의 DM 질의 답변 대기 시간에 대해 행해졌던 바와 같이, 대상 방문으로부터 eCRF 입력까지의 시간에 대한 사이트-수준 메트릭들의 메디안을 사용하여 계산될 수 있다. 이전과 같이, 연구 수준의 데이터에 대해 평균 대신에 메디안이 선택될 수 있는데, 그 이유는 사이트 내의 이상치들이 (평균을 사용하여) 인지되어야 하지만, 연구 전체에서의 사이트 이상치가 그만큼 중요하지 않기 때문이어서, 메디안이 사용될 수 있다.
선별 실패 비율. 선별 실패 비율은 처음에는 연구에 적격인 것으로 결정되었지만 나중에 무작위 추출되기 전에 연구로부터 탈락된 대상들의 백분율을 반영한다. 대상이 처음으로 임상 시험을 위해 고려되고 EDC 프로그램에 입력될 때 선별이 시작될 수 있다. 사이트는 연구의 포함 및 제외 기준들에 의해 결정된 바와 같이 대상이 연구에 적격인 채로 있는지를 수 주일에 걸쳐 확인할 수 있다. 높은 선별 실패 비율은 사이트 품질 문제를 나타낼 수 있는데, 사이트는 선별 동안의 절차 및 보호(care)를 위해 후원자의 지불을 이용할 수 있다. 연구에서의 다른 사이트들과 비교하여 특히 너무 높은 선별 실패 비율은 사이트가 너무 광범위하게 선별하고 있을 수 있고 선별할 환자들을 식별하는 것과 관련하여 연구 계획서대로 따르지 않고 있을 수 있다는 것을 암시한다. 너무 낮은 선별 실패 비율은 적격성을 결정하는 데 사용되는 그 변수들이 충분히 그리고/또는 정확히 식별되고 있지 않다는 표시일 수 있다.
본 발명의 일 실시예에서, 높은 선별 실패 비율 및 낮은 선별 실패 비율 둘 모두가 하위 품질 데이터를 나타낼 수 있기 때문에, 이러한 메트릭은 도 3b에 도시된 프로파일(302)과 유사한 양측 메트릭 위험 프로파일의 영향을 받을 수 있다. 자동 질의 비율에서와 같이, 동일하거나 상이한 백분위수 할당을 갖는, 저위험, 중간 위험, 및 고위험 지표 명칭들이 선택될 수 있다. 그러나, 이전의 메트릭들과는 달리, 선별 실패 비율에 대해 선택된 벤치마크는 전형적으로 이력적이 아니다. 대신에, 벤치마크는 통계적 "p-값"과 유사한 사이트-수준 "p-점수"일 수 있다. 사이트-수준 p-점수는, 선별 실패가 현재의 연구 수준의 비율과 동일한 비율로 일어날 것으로 예상되는 것으로 가정하여, 사이트의 선별 실패 비율이 현재 사이트의 선별 실패 비율보다 작을 확률을 나타낼 수 있다. 사이트-수준 p-점수는 0부터 100까지의 값을 가지는데, 여기서 연구 수준의 비율과 같은 선별 실패 비율을 갖는 사이트들은 50의 p-점수 값을 가질 것이고, 높은 선별 실패 비율을 갖는 사이트들은 100에 근접한 p-점수를 가질 것이며, 낮은 선별 실패 비율을 갖는 사이트들은 0에 근접한 p-점수를 가질 것이다. 사이트-수준 p-점수는 이항 분포(binomial distribution)에 대한 정규 근사(normal approximation)를 사용할 수 있다.
선별 실패 비율에 대한 연구 수준의 메트릭은 하기와 같이 계산될 수 있다:
[수학식 4]
일례로서, 사이트에 1명의 환자가 있고 그 1명의 환자가 탈락되는 경우, 선별 실패 비율은 100%일 것이다. 모두가 탈락된 10명의 환자들을 갖는 제2 사이트는 역시 100% 선별 실패 비율을 가질 것이다. p-점수가 선별 실패 비율만이 아니라 그 비율에 기여하는 환자들의 수도 고려하기 때문에, p-점수의 사용은 이들 사이트를 상이하게 평가할 것이다. 이러한 예에서, 10명의 환자들을 갖는 사이트는 단지 1명의 환자를 갖는 사이트보다 더 극단의 p-점수를 가질 것이다.
조기 종료 비율: 조기 종료 비율은 대상들이 연구에 무작위 추출되었다가 연구가 완료되기 전에 탈락한 비율을 나타낸다. 낮은 조기 종료 비율은 사이트가 연구의 포함 또는 제외 기준들을 충족시키지 않는 대상들을 유지하기 위해 부적절하게 행동을 취하고 있다는 것을 나타낼 수 있다. 높은 조기 종료 비율은 사이트가, 예를 들어 연구 요건들에 관해 대상들에게 통보하지 않는 것에 의해, 연구 과정의 초기 단계들에서 대상들을 잘못 관리하고 있다는 것을 나타낼 수 있다.
조기 종료 비율은 메트릭 위험 프로파일(양측), 위험 지표 명칭들의 수, 및 백분위수 할당의 면에서, 선별 실패 비율과 유사하게 처리될 수 있다. 조기 종료 비율은 또한 그의 벤치마크를 위해 이력 데이터 대신에 사이트-수준 p-점수를 사용할 수 있다. 선별 실패 비율에서와 같이, 사이트-수준 p-점수는 이항 분포에 대한 정규 근사를 사용할 수 있다.
선별 실패 비율에 대한 연구 수준의 메트릭은 하기와 같이 계산될 수 있다:
[수학식 5]
선별 실패 비율과 유사하게, 이러한 메트릭은 사이트에 대한 관찰된 비율의 값 및 그 비율에 기여하는 환자들의 수 둘 모두에 민감할 것이다.
다른 실시예에서, 각각의 메트릭이 얼마나 중요한지의 동적 척도를 제공하고 이어서 그에 따라 메트릭들을 가중하기 위해, 다양한 메트릭들의 원격 모니터링이 현장 모니터링 또는 사이트 기반 피드백과 조합될 수 있다. 예를 들어, 메트릭, 사이트 품질 점수 또는 다른 상위 수준의 품질 점수가 중간 또는 고위험 지표 내에 속하는 경우, 그 위험 지표와 사이트에서 실제 품질 또는 위험 문제 사이의 상관 관계가 품질 또는 위험 문제의 존재와 같은 실제 사이트 조건들의 확인을 통해 결정될 수 있다. 그러한 확인은 사이트에의 사이트 모니터 방문에 의해 또는 사이트 자체에 의해 취해지는 조치 또는 단계에 의해 제공될 수 있다(도 4a의 동작(450)을 참조). 동작(450)은 또한 사이트에의 사이트 모니터 방문에 의한 또는 사이트 자체에서 취해지는 조치 또는 단계에 의한 실제의 품질 또는 위험 문제의 부존재의 확인을 포함할 수 있다. 그러한 확인은, 거짓 양성(false positive) 및 거짓 음성(false negative) 둘 모두가 식별될 수 있도록, 위험 지표들과 사이트 사이의 상관 관계를 제공할 수 있다. 게다가, 중간 또는 고위험 지표를 야기하는 그들 메트릭이 식별되고 상관될 수 있다.
위험 지표와 증가된 위험의 존재 사이의 상관 관계 및/또는 중간 또는 고위험 지표를 야기하는 메트릭들에 관한 충분한 데이터를 수집한 후에, 그들 특정 메트릭이 집계 알고리즘에서 가중될 수 있다. 앞서 기술된 실시예들에서, 모든 사이트들로부터의 모든 메트릭들이 집계 알고리즘에서 (충분한 데이터가 없는 것들을 제외하고) 동일하게 가중되었다. 집계 알고리즘이 하기와 같이 수정될 수 있다: 
대신에, 분자에 있는 항들이 어느 메트릭이 어느 위험 지표를 가지는지에 따라 변할 수 있다. 예를 들어, Metric3이 아주 중요한 것으로 결정되지만, Metric1이 그의 절반만큼만 중요한 것으로 결정되는 경우, Metric3과 연관된 L, M, 및 H는 최대 가중치(예컨대, 분자에 있는 
)를 가질 것이지만, Metric1과 연관된 L, M, 및 H는 그의 절반(예컨대, 분자에 있는 
)만큼만 고려될 것이다. 이러한 수정된 집계는 보다 일반적으로 하기로서 다시 쓰여질 수 있다:
[수학식 6]
여기서, mi는 제i 메트릭에 대한 가중치이다.
종종, 임상 시험에서 일하는 사람들은 임상 시험 사이트의 품질을 판단하는 신속한 방법을 필요로 한다. 점수는 임상 시험 사이트의 품질을 신속히 판단하는 하나의 그러한 방법일 것이다. 그러한 점수는 광범위한 데이터 및 무수한 상세사항들을 취하고 그 정보를 시험 사이트, 시험 사이트들의 지역 등에 적용될 수 있는 단일의 점수로 요약시킬 수 있다. 그 점수는 임상 시험의 품질의 신속한 개요를 단번에 책임자에게 제공할 것이다.
임상 시험이 연구되고 있는 약물에 관한 그리고 수백 또는 수천개의 임상 시험 사이트들에 관한 수천개의 데이터점들을 수집한다는 사실로 인해 모니터링 작업이 훨씬 더 어렵게 될 수 있다. 사이트 모니터가 본 명세서에 기술된 지능적인 방법 및 장치 없이 이러한 데이터 전부를 추적하는 것은 불가능하다.
요약하면, 사이트-수준 품질 점수를 결정하기 위해 데이터 사이트-메트릭들을 정규화하고 복수의 메트릭들을 조합하는 데 사용될 수 있는 방법들 및 장치들이 기술된다. 메트릭 위험 프로파일들을 메트릭들에 적용함으로써 정규화가 달성될 수 있다. 이 방법들은 임상 시험 책임자가 다수의 임상 시험들 및 임상 시험 사이트들로부터의 데이터를 검토하고 시험 사이트가 위험할 수 있는지 또는 불량 데이터를 제공하고 있을 수 있는지를 단번에 결정하게 한다. 그러한 문제 사이트들이 가능한 한 신속하고 효율적으로 해결될 수 있다. 이 방법들은, 모니터의 관심을 필요한 만큼 좋은 성과를 내지 못하고 있을 수 있는 그 사이트들에만 집중시키기 때문에, 임상 시험을 모니터링하는 비용을 감소시킨다. 본 명세서에 기술된 방법들 및 장치들이 약물에 대한 임상 시험과 관련하여 기술되어 있지만, 이들이 의료 디바이스, 백신, 및 생물제제와 같은 다른 아이템들에 대한 임상 시험에 적용가능함에 주목한다. 이들은 또한 데이터를 수집하는 분산된 사이트들을 가지는 그리고 데이터의 무결성 및 사이트들이 모니터링될 수 있는 임상 시험 이외의 시스템들에 적용가능하다.
전술된 기법들은 모니터가 적절한 또는 보다 양호한 성과를 내고 있는 사이트들을 방문하느라 여전히 에너지 및 시간을 소비하고 있는 전체 소스 데이터 검증 시스템(total source data verification system) 및 축소된 소스 데이터 검증 시스템(reduced source data verification system) 둘 모두를 개선시킨다. 그들 시스템과는 달리, 이 기법들은 모니터링되고 있는 시스템과 연관된 위험의 중앙집중식 원격 식별을 제공한다. 임상 시험 응용 분야에서, 이 기법들은 문제있는 임상 사이트들을 선제적으로 식별하기 위해 사이트에 의해 수행된 시험들의 품질의 면에서 각각의 임상 시험 사이트의 전체적(holistic)이고 정량적이며 공평한 프로파일을 임상 시험 후원자에게 제공한다.
본 발명의 태양들은 시스템, 방법, 또는 컴퓨터 프로그램 제품의 형태로 구현될 수 있다. 유사하게, 본 발명의 태양들은 하드웨어, 소프트웨어, 또는 이 둘의 조합으로서 구현될 수 있다. 본 발명의 태양들은 그에 구현된 컴퓨터 판독가능 프로그램 코드의 형태로 하나 이상의 컴퓨터 판독가능 매체 상에 저장된 컴퓨터 프로그램 제품으로서 구현될 수 있다.
예를 들어, 컴퓨터 판독가능 매체는 컴퓨터 판독가능 신호 매체 또는 컴퓨터 판독가능 저장 매체일 수 있다. 컴퓨터 판독가능 저장 매체는, 예를 들어 전자, 광, 자기, 전자기, 적외선, 또는 반도체 시스템, 장치, 또는 디바이스, 또는 이들의 임의의 조합일 수 있다.
컴퓨터 판독가능 신호 매체는 컴퓨터 판독가능 프로그램 코드가 내부에 구현된 전파되는 데이터 신호를, 예를 들어 기저대역에서 또는 반송파의 일부로서 포함할 수 있다. 그러한 전파되는 신호는 전자기, 광, 또는 이들의 임의의 적합한 조합을 포함하지만 이로 한정되는 않는 다양한 형태들 중 임의의 것을 취할 수 있다. 컴퓨터 판독가능 신호 매체는 컴퓨터 판독가능 저장 매체가 아니고 명령어 실행 시스템, 장치, 또는 디바이스에서 또는 그와 관련하여 사용하기 위한 프로그램을 전달하거나, 전파하거나, 전송할 수 있는 임의의 컴퓨터 판독가능 매체일 수 있다.
본 발명의 실시예들에서의 컴퓨터 프로그램 코드는 임의의 적합한 프로그래밍 언어로 작성될 수 있다. 프로그램 코드는 단일의 컴퓨터 상에서 또는 복수의 컴퓨터들 상에서 실행될 수 있다. 컴퓨터는 컴퓨터 사용가능 매체와 통신하는 처리 유닛을 포함할 수 있고, 컴퓨터 사용가능 매체는 명령어들의 세트를 포함하고, 처리 유닛은 명령어들의 세트를 수행하도록 설계된다.
이상의 논의는 본 발명의 원리들 및 다양한 실시예들을 예시하고자 한다. 상기 개시 내용이 완전히 이해되면 수많은 변형 및 수정이 당업자에게는 명백하게 될 것이다. 하기의 청구범위가 모든 그러한 변형들 및 수정들을 포함하는 것으로 해석되는 것이 의도된다.
Claims (29)
- 컴퓨터 구현 방법으로서,
컴퓨터의 사이트 데이터 필터에 의해, 임상 모니터링 데이터(clinical monitoring data)를 포함하는 사이트 데이터(site data)를 하나 이상의 임상 사이트들로부터 수신하는 단계와,
컴퓨터의 프로세서에 의해, 적어도 하나의 단측(single-sided) 또는 양측(double-sided) 메트릭 위험 프로파일(metric risk profile)을 사용하여, 상기 사이트 데이터를 적어도 2개의 메트릭에 기초하는 사이트-수준 데이터 품질 점수(site-level data quality score)로 변환하는 단계로서, 상기 적어도 하나의 메트릭 위험 프로파일은 적어도 임상 연구 데이터 및 이력 임상 연구 데이터에 기초하며, 상기 임상 연구 데이터는 복수의 임상 사이트들로부터 수신되고, 상기 이력 임상 연구 데이터는 메트릭에 관계된 통계적 분포 및 벤치마크를 가지는 것인, 상기 변환하는 단계와,
상기 프로세서에 의해, 상기 사이트-수준 데이터 품질 점수에 기초하여 위험 지표(risk indicator)를 계산하는 단계와,
상기 프로세서에 의해, 상기 적어도 하나의 메트릭 위험 프로파일을,
상기 임상 연구 데이터에 기초하여 상기 메트릭 중 적어도 하나에 대한 임상 연구 벤치마크를 계산하는 것과,
상기 이력 임상 연구 데이터의 통계적 분포를 상기 이력 임상 연구 데이터 벤치마크에 대한 상기 임상 연구 벤치마크의 비(ratio)에 의해 자동으로 스케일링하는 것과,
통계적 유의성(statistical significance)의 척도들을 이용하여, 상기 스케일링된 통계적 분포에 위험 영역들을 할당하는 것
에 의해 적어도 실시간으로 생성하는 단계와,
컴퓨터의 출력 구성 요소에 의해, 상기 위험 지표와 상기 사이트-수준 데이터 품질 점수 중 적어도 하나를 출력하는 단계를 포함하는, 컴퓨터 구현 방법. - 제1항에 있어서,
상기 데이터 필터에 의해, 복수의 임상 사이트들로부터 사이트 데이터를 수신하는 단계와,
상기 프로세서에 의해, 상기 복수의 임상 사이트들에 대한 상위 수준(higher-level)의 데이터 품질 점수를 계산하는 단계를 더 포함하는, 컴퓨터 구현 방법. - 제2항에 있어서, 상기 프로세서에 의해, 상기 상위 수준의 데이터 품질 점수에 기초하여 제2 위험 지표를 계산하는 단계를 더 포함하는, 컴퓨터 구현 방법.
- 제2항에 있어서, 상기 복수의 임상 사이트들은 공통의 요소를 갖는 사이트들을 포함하는 것인, 컴퓨터 구현 방법.
- 제2항에 있어서, 상기 복수의 임상 사이트들은 단일의 국가로부터의 사이트들을 포함하는 것인, 컴퓨터 구현 방법.
- 제2항에 있어서, 상기 복수의 임상 사이트들은 데이터 연구 전체(entire data study)로부터의 사이트들을 포함하는 것인, 컴퓨터 구현 방법.
- 제1항에 있어서, 상기 사이트 데이터를 변환하는 단계는,
상기 사이트 데이터로부터 복수의 메트릭 값들을 계산하는 단계와,
대응하는 메트릭 위험 프로파일을 각각의 메트릭 값에 적용함으로써 상기 각각의 메트릭 값을 정규화하는 단계와,
상기 사이트-수준 데이터 품질 점수를 계산하기 위하여 상기 정규화된 메트릭 값들을 집계하는 단계를 포함하는 것인, 컴퓨터 구현 방법. - 제7항에 있어서, 상기 각각의 메트릭 값은, 상기 임상 사이트의 데이터 품질에 대한 상기 메트릭의 유의성(significance)에 기초하여 가중되는 것인, 컴퓨터 구현 방법.
- 제1항에 있어서, 상기 위험 영역들은 상기 비에 의해 수정된 이력 데이터 분포의 백분위수(percentile)들에 대응하는 것인, 컴퓨터 구현 방법.
- 제8항에 있어서, 상기 집계하는 단계는 가중되고 정규화된 메트릭 값들을 조합하는 단계를 포함하는 것인, 컴퓨터 구현 방법.
- 제8항에 있어서, 상기 각각의 메트릭 값에 적용되는 가중은, 실제의 사이트 데이터 품질 조건들에 관한 사이트 기반 피드백으로부터 동적으로 결정되는 것인, 컴퓨터 구현 방법.
- 장치에 있어서,
하나 이상의 임상 사이트들로부터, 임상 모니터링 데이터를 포함하는 사이트 데이터를 수신하도록 구성되는 사이트 데이터 필터와,
프로세서로서,
적어도 하나의 단측 또는 양측 메트릭 위험 프로파일을 사용하여 상기 사이트 데이터를 적어도 2개의 메트릭에 기초하는 사이트-수준 데이터 품질 점수로 변환하고 - 상기 적어도 하나의 메트릭 위험 프로파일은 적어도 임상 연구 데이터 및 이력 임상 연구 데이터에 기초하며, 상기 임상 연구 데이터는 복수의 임상 사이트들로부터 수신되고, 상기 이력 임상 연구 데이터는 메트릭에 관계된 통계적 분포 및 벤치마크를 가지며 -,
상기 사이트-수준 데이터 품질 점수에 기초하여 위험 지표를 계산하고,
상기 적어도 하나의 메트릭 위험 프로파일을,
상기 임상 연구 데이터에 기초하여 상기 메트릭 중 적어도 하나에 대한 임상 연구 벤치마크를 계산하고,
상기 이력 임상 연구 데이터의 통계적 분포를 상기 이력 임상 연구 데이터 벤치마크에 대한 상기 임상 연구 벤치마크의 비에 의해 자동으로 스케일링하고,
통계적 유의성의 척도들을 이용하여, 상기 스케일링된 통계적 분포에 위험 영역들을 할당하는 것
에 의해 적어도 실시간으로 생성하도록 구성되는 것인, 상기 프로세서와,
상기 위험 지표와 상기 사이트-수준 데이터 품질 점수 중 적어도 하나를 출력하도록 구성되는 구성요소
를 포함하는 장치. - 제12항에 있어서, 상기 사이트 데이터 필터는 복수의 임상 사이트들로부터 사이트 데이터를 수신하도록 구성되며,
상기 프로세서는 상기 복수의 임상 사이트들에 대한 상위 수준의 데이터 품질 점수를 계산하도록 구성되는 것인 장치. - 제13항에 있어서, 상기 프로세서는, 상기 상위 수준의 데이터 품질 점수에 기초하여 제2 위험 지표를 계산하도록 구성되는 것인 장치.
- 제13항에 있어서, 상기 복수의 임상 사이트들은 공통의 요소를 갖는 사이트들을 포함하는 것인 장치.
- 제13항에 있어서, 상기 복수의 임상 사이트들은 단일의 국가로부터의 사이트들을 포함하는 것인 장치.
- 제13항에 있어서, 상기 복수의 임상 사이트들은 데이터 연구 전체로부터의 사이트들을 포함하는 것인 장치.
- 제12항에 있어서, 상기 프로세서는 상기 사이트-수준 데이터 품질 점수에 기초하여 상기 위험 지표를 계산하도록 구성된 사이트 위험 프로파일러를 더 포함하는 것인 장치.
- 제12항에 있어서, 상기 프로세서는,
상기 사이트 데이터로부터 복수의 메트릭 값들을 계산하도록 구성되는 사이트 메트릭 프로세서와,
대응하는 메트릭 위험 프로파일을 각각의 메트릭 값에 적용함으로써 상기 각각의 메트릭 값을 정규화하도록 구성되는 메트릭 위험 프로파일러와,
상기 사이트-수준 데이터 품질 점수를 계산하기 위하여 상기 정규화된 메트릭 값들을 집계하도록 구성되는 집계기를 더 포함하는 것인 장치. - 제19항에 있어서, 상기 각각의 메트릭 값은 상기 임상 사이트의 데이터 품질에 대한 상기 메트릭의 유의성에 기초하여 가중되는 것인 장치.
- 제20항에 있어서, 상기 집계는 가중되고 정규화된 메트릭 값들을 조합하는 것을 포함하는 것인 장치.
- 제20항에 있어서, 상기 각각의 메트릭 값에 적용되는 가중은, 실제의 사이트 데이터 품질 조건들에 관한 사이트 기반 피드백으로부터 동적으로 결정되는 것인 장치.
- 제12항에 있어서, 상기 위험 영역들은 상기 비에 의해 수정된 이력 데이터 분포의 백분위수들에 대응하는 것인 장치.
- 임상 모니터링 데이터를 포함하는 사이트 데이터를 하나 이상의 임상 사이트들로부터 수신하는 단계와,
프로세서에 의해, 적어도 하나의 단측 또는 양측 메트릭 위험 프로파일을 사용하여, 상기 사이트 데이터를 적어도 2개의 메트릭에 기초하는 사이트-수준 데이터 품질 점수로 변환하는 단계로서, 상기 적어도 하나의 메트릭 위험 프로파일은 적어도 임상 연구 데이터 및 이력 임상 연구 데이터에 기초하며, 상기 임상 연구 데이터는 복수의 임상 사이트들로부터 수신되고, 상기 이력 임상 이력 데이터는 메트릭에 관계된 통계적 분포 및 벤치마크를 가지는 것인, 상기 변환하는 단계와,
상기 사이트-수준 데이터 품질 점수에 기초하여 위험 지표를 계산하는 단계와,
프로세서에 의해, 상기 적어도 하나의 메트릭 위험 프로파일을,
상기 임상 연구 데이터에 기초하여 상기 메트릭 중 적어도 하나에 대한 임상 연구 벤치마크를 계산하고,
상기 이력 임상 연구 데이터의 통계적 분포를 상기 이력 임상 연구 데이터 벤치마크에 대한 상기 임상 연구 벤치마크의 비에 의해 자동으로 스케일링하고,
통계적 유의성의 척도들을 이용하여, 상기 스케일링된 통계적 분포에 위험 영역들을 할당하는 것
에 의해 적어도 실시간으로 생성하는 단계와,
상기 위험 지표와 상기 사이트-수준 데이터 품질 점수 중 적어도 하나를 출력하는 단계에 대하여,
컴퓨터에 의해 실행될, 내부에 구현된 컴퓨터 실행가능한 명령어를 포함하는 컴퓨터 판독가능한 기억 매체. - 제24항에 있어서,
복수의 임상 사이트들로부터 사이트 데이터를 수신하고,
상기 복수의 임상 사이트들에 대한 상위 수준의 데이터 품질 점수를 계산하기 위하여,
컴퓨터에 의해 실행될, 내부에 구현된 컴퓨터 실행가능한 명령어를 더 포함하는 컴퓨터 판독가능한 기억 매체. - 제25항에 있어서, 상기 상위 수준의 데이터 품질 점수에 기초하여 제2 위험 지표를 계산하기 위하여, 컴퓨터에 의해 실행될, 내부에 구현된 컴퓨터 실행가능한 명령어를 더 포함하는 컴퓨터 판독가능한 기억 매체.
- 제24항에 있어서, 상기 사이트 데이터로부터 복수의 메트릭 값들을 계산하고,
대응하는 메트릭 위험 프로파일을 각각의 메트릭 값에 적용함으로써 상기 각각의 메트릭 값을 정규화하고,
상기 사이트-수준 데이터 품질 점수를 계산하도록, 상기 정규화된 메트릭 값들을 집계하기 위하여,
컴퓨터에 의해 실행될, 내부에 구현되는 컴퓨터 실행가능한 명령어를 더 포함하는 컴퓨터 판독가능한 기억 매체. - 제27항에 있어서, 상기 각각의 메트릭 값은 상기 임상 사이트의 데이터 품질에 대한 상기 메트릭의 유의성에 기초하여 가중되는 것인 컴퓨터 판독가능한 기억 매체.
- 제28항에 있어서, 상기 각각의 메트릭 값에 적용되는 가중은, 실제의 사이트 품질 조건들에 관한 사이트 기반 피드백으로부터 동적으로 결정되는 것인 컴퓨터 판독가능한 기억 매체.
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US13/679,533 US8706537B1 (en) | 2012-11-16 | 2012-11-16 | Remote clinical study site monitoring and data quality scoring |
| US13/679,533 | 2012-11-16 | ||
| PCT/US2013/070138 WO2014078563A1 (en) | 2012-11-16 | 2013-11-14 | Method and apparatus for remote site monitoring |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20150084851A KR20150084851A (ko) | 2015-07-22 |
| KR101781705B1 true KR101781705B1 (ko) | 2017-09-25 |
Family
ID=50481925
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020157012745A KR101781705B1 (ko) | 2012-11-16 | 2013-11-14 | 원격 사이트 모니터링용 방법 및 장치 |
Country Status (6)
| Country | Link |
|---|---|
| US (1) | US8706537B1 (ko) |
| EP (1) | EP2852923A4 (ko) |
| KR (1) | KR101781705B1 (ko) |
| CN (1) | CN104956380B (ko) |
| CA (1) | CA2890822C (ko) |
| WO (1) | WO2014078563A1 (ko) |
Families Citing this family (35)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11392670B1 (en) * | 2011-12-09 | 2022-07-19 | Iqvia Inc. | Systems and methods for streaming normalized clinical trial capacity information |
| AU2013264938B2 (en) | 2012-05-22 | 2017-11-23 | Smith & Nephew Plc | Apparatuses and methods for wound therapy |
| US20140236668A1 (en) * | 2012-11-16 | 2014-08-21 | Medidata Solutions, Inc. | Method and apparatus for remote site monitoring |
| WO2014124210A1 (en) * | 2013-02-08 | 2014-08-14 | Parexel International Corporation | Methods and apparatus for data-driven monitoring |
| CA2902634C (en) | 2013-03-14 | 2023-01-10 | Smith & Nephew Inc. | Systems and methods for applying reduced pressure therapy |
| US9737649B2 (en) | 2013-03-14 | 2017-08-22 | Smith & Nephew, Inc. | Systems and methods for applying reduced pressure therapy |
| US20140375650A1 (en) * | 2013-06-24 | 2014-12-25 | Quintiles Transnational Corporation | Systems and methods for data visualization |
| CA2916901A1 (en) * | 2013-06-28 | 2014-12-31 | Healthtap, Inc. | Systems and methods for evaluating and selecting a healthcare professional |
| US20160275269A1 (en) * | 2015-03-20 | 2016-09-22 | International Drug Development Institute | Methods for central monitoring of research trials |
| US10515099B2 (en) | 2015-04-07 | 2019-12-24 | International Business Machines Corporation | Medical clinical trial site identification |
| WO2017040590A1 (en) * | 2015-09-04 | 2017-03-09 | Remarque Systems, Inc. | Risk-based monitoring of clinical data |
| JP6942698B2 (ja) | 2015-10-07 | 2021-09-29 | スミス アンド ネフュー インコーポレイテッド | 減圧療法を施すためのシステムおよび方法 |
| US20170103190A1 (en) * | 2015-10-09 | 2017-04-13 | Algorithm Inc | System and method for evaluating risks of clinical trial conducting sites |
| CN106713233B (zh) * | 2015-11-13 | 2020-04-14 | 国网智能电网研究院 | 一种网络安全状态的判断与保护方法 |
| US10915849B2 (en) * | 2015-12-14 | 2021-02-09 | Carrier Corporation | Method and system for determining quality level of performance data associated with an enterprise |
| US20170316357A1 (en) * | 2016-04-28 | 2017-11-02 | Honeywell International Inc. | Systems and methods for displaying a dynamic risk level indicator of an atm site or other remote monitoring site on a map for improved remote monitoring |
| CN109069713A (zh) | 2016-05-13 | 2018-12-21 | 史密夫和内修有限公司 | 负压伤口治疗系统中的自动伤口联接检测 |
| JP7063887B2 (ja) | 2016-09-29 | 2022-05-09 | スミス アンド ネフュー インコーポレイテッド | 陰圧創傷治療システムにおける構成要素の構築及び保護 |
| CN108133300B (zh) * | 2016-11-30 | 2021-10-29 | 北京经纬传奇医药科技有限公司 | 一种临床试验质量评估系统及其方法 |
| WO2018165049A1 (en) | 2017-03-07 | 2018-09-13 | Smith & Nephew, Inc. | Reduced pressure therapy systems and methods including an antenna |
| WO2018208936A1 (en) * | 2017-05-09 | 2018-11-15 | Analgesic Solutions | Systems and methods for visualizing clinical trial site performance |
| US11712508B2 (en) | 2017-07-10 | 2023-08-01 | Smith & Nephew, Inc. | Systems and methods for directly interacting with communications module of wound therapy apparatus |
| JP6858105B2 (ja) * | 2017-09-19 | 2021-04-14 | 株式会社富士通アドバンストエンジニアリング | 情報処理プログラム、情報処理方法、及び情報処理装置 |
| US11494680B2 (en) * | 2018-05-15 | 2022-11-08 | Medidata Solutions, Inc. | System and method for predicting subject enrollment |
| EP3573067A1 (en) * | 2018-05-23 | 2019-11-27 | Tata Consultancy Services Limited | Method and system for data driven cognitive clinical trial feasibility program |
| KR102092093B1 (ko) * | 2018-09-11 | 2020-03-23 | 아토리서치(주) | 실시간 다중 메트릭 모니터링 방법 및 시스템 |
| KR102202139B1 (ko) * | 2018-12-17 | 2021-01-12 | 지속가능발전소 주식회사 | 협력업체 공급망 리스크 분석 방법, 이를 수행하기 위한 기록매체 |
| GB201820668D0 (en) | 2018-12-19 | 2019-01-30 | Smith & Nephew Inc | Systems and methods for delivering prescribed wound therapy |
| US11188861B1 (en) | 2019-12-11 | 2021-11-30 | Wells Fargo Bank, N.A. | Computer systems for meta-alert generation based on alert volumes |
| CN111080159A (zh) * | 2019-12-27 | 2020-04-28 | 嘉兴太美医疗科技有限公司 | 临床试验研究中心质量监管的风险监控方法和系统 |
| US11734431B2 (en) * | 2020-04-27 | 2023-08-22 | Saudi Arabian Oil Company | Method and system for assessing effectiveness of cybersecurity controls in an OT environment |
| CN112785021A (zh) * | 2021-01-28 | 2021-05-11 | 联仁健康医疗大数据科技股份有限公司 | 预约请求响应方法、装置、电子设备及存储介质 |
| US20220359048A1 (en) * | 2021-05-05 | 2022-11-10 | Iqvia Inc. | Ai and ml assisted system for determining site compliance using site visit report |
| CN113360798B (zh) * | 2021-06-02 | 2024-02-27 | 北京百度网讯科技有限公司 | 泛滥数据识别方法、装置、设备和介质 |
| US20230110033A1 (en) * | 2021-10-13 | 2023-04-13 | Johnson Controls Tyco IP Holdings LLP | Building system for building equipment with fault based data health operations |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20050182658A1 (en) | 2004-02-18 | 2005-08-18 | Klaus Abraham-Fuchs | Method of improving a clinical study |
| US20060287997A1 (en) * | 2005-06-17 | 2006-12-21 | Sooji Lee Rugh | Pharmaceutical service selection using transparent data |
| US20110077958A1 (en) * | 2009-09-24 | 2011-03-31 | Agneta Breitenstein | Systems and methods for clinical, operational, and financial benchmarking and comparative analytics |
Family Cites Families (70)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| NZ500566A (en) | 1997-05-12 | 2002-05-31 | Mlk Software | Internet based collection of data with data validation at source and centralized database |
| US7353238B1 (en) * | 1998-06-12 | 2008-04-01 | Outcome Sciences, Inc. | Apparatus and methods for determining and processing medical outcomes |
| US7251609B1 (en) * | 1999-04-29 | 2007-07-31 | The Trustees Of Boston University | Method for conducting clinical trials over the internet |
| US7054823B1 (en) * | 1999-09-10 | 2006-05-30 | Schering Corporation | Clinical trial management system |
| US6856973B1 (en) * | 1999-12-29 | 2005-02-15 | General Electric Capital Corporation | Methods and systems for assessing creditworthiness of a country |
| US6912502B1 (en) * | 1999-12-30 | 2005-06-28 | Genworth Financial, Inc., | System and method for compliance management |
| US7006992B1 (en) * | 2000-04-06 | 2006-02-28 | Union State Bank | Risk assessment and management system |
| CA2407649A1 (en) * | 2000-05-17 | 2001-11-22 | The Canadian Institute Of Chartered Accountants | Continuously updated data processing system and method for measuring and reporting on value creation performance |
| US6353767B1 (en) * | 2000-08-25 | 2002-03-05 | General Electric Company | Method and system of confidence scoring |
| US20020078175A1 (en) * | 2000-12-15 | 2002-06-20 | Wallace Thomas Tracy | Scorecard wizard |
| US20020128861A1 (en) | 2001-01-05 | 2002-09-12 | Lau Lee Min | Mapping clinical data with a health data dictionary |
| US6879970B2 (en) * | 2001-04-02 | 2005-04-12 | Invivodata, Inc. | Apparatus and method for prediction and management of subject compliance in clinical research |
| US7415447B2 (en) * | 2001-04-02 | 2008-08-19 | Invivodata, Inc. | Apparatus and method for prediction and management of participant compliance in clinical research |
| US20030014287A1 (en) * | 2001-07-02 | 2003-01-16 | Dell Products, L.P. | Continuity of supply risk and cost management tool |
| US7359865B1 (en) * | 2001-11-05 | 2008-04-15 | I2 Technologies Us, Inc. | Generating a risk assessment regarding a software implementation project |
| US7536405B2 (en) * | 2002-02-26 | 2009-05-19 | Global Asset Protection Services, Llc | Risk management information interface system and associated methods |
| US7441197B2 (en) * | 2002-02-26 | 2008-10-21 | Global Asset Protection Services, Llc | Risk management information interface system and associated methods |
| IE20030139A1 (en) * | 2002-02-27 | 2003-10-01 | Ind Interfaces Ltd | A risk mapping system |
| US20040064341A1 (en) | 2002-09-27 | 2004-04-01 | Langan Pete F. | Systems and methods for healthcare risk solutions |
| US20040064346A1 (en) * | 2002-10-01 | 2004-04-01 | Reto Schneider | Method and system for gathering information relating to risks |
| US7711670B2 (en) * | 2002-11-13 | 2010-05-04 | Sap Ag | Agent engine |
| AU2003303250A1 (en) * | 2002-12-20 | 2004-07-14 | Accenture Global Services Gmbh | Quantification of operational risks |
| US8589273B2 (en) * | 2002-12-23 | 2013-11-19 | Ge Corporate Financial Services, Inc. | Methods and systems for managing risk management information |
| TW200419413A (en) * | 2003-01-13 | 2004-10-01 | I2 Technologies Inc | Master data management system for centrally managing core reference data associated with an enterprise |
| US20040210574A1 (en) * | 2003-04-01 | 2004-10-21 | Amanda Aponte | Supplier scorecard system |
| US8200775B2 (en) * | 2005-02-01 | 2012-06-12 | Newsilike Media Group, Inc | Enhanced syndication |
| US7698148B2 (en) * | 2003-09-12 | 2010-04-13 | Raytheon Company | Web-based risk management tool and method |
| US20050075832A1 (en) * | 2003-09-22 | 2005-04-07 | Ikeguchi Edward F. | System and method for continuous data analysis of an ongoing clinical trial |
| US20050154628A1 (en) * | 2004-01-13 | 2005-07-14 | Illumen, Inc. | Automated management of business performance information |
| US8165907B2 (en) * | 2004-02-03 | 2012-04-24 | Swiss Reinsurance Company Ltd. | System and method for automated risk determination and/or optimization of the service life of technical facilities |
| US8515774B2 (en) * | 2004-02-18 | 2013-08-20 | Siemens Aktiengesellschaft | Method and system for measuring quality of performance and/or compliance with protocol of a clinical study |
| US20070150313A1 (en) * | 2004-02-18 | 2007-06-28 | Klaus Abraham-Fuchs | Method for evaluating the quality of electronically stored, particularly medical, knowledge data |
| US20050182663A1 (en) * | 2004-02-18 | 2005-08-18 | Klaus Abraham-Fuchs | Method of examining a plurality of sites for a clinical trial |
| US20050273367A1 (en) * | 2004-05-14 | 2005-12-08 | Accelere, Inc. | Secure health information connectivity system |
| CN1961321A (zh) * | 2004-05-21 | 2007-05-09 | 西门子医疗健康服务公司 | 为医疗决策提供支持的方法及系统 |
| US8583450B2 (en) * | 2004-07-29 | 2013-11-12 | Ims Health Incorporated | Doctor performance evaluation tool for consumers |
| WO2006099674A1 (en) * | 2005-03-24 | 2006-09-28 | Accenture Global Services Gmbh | Risk based data assessment |
| US8086708B2 (en) * | 2005-06-07 | 2011-12-27 | International Business Machines Corporation | Automated and adaptive threshold setting |
| WO2007005975A2 (en) * | 2005-07-01 | 2007-01-11 | Valen Technologies, Inc. | Risk modeling system |
| US7698188B2 (en) * | 2005-11-03 | 2010-04-13 | Beta-Rubicon Technologies, Llc | Electronic enterprise capital marketplace and monitoring apparatus and method |
| US7937423B2 (en) * | 2005-11-23 | 2011-05-03 | Ultra-Scan Corporation | Systems and methods of conducting clinical research |
| US7532942B2 (en) * | 2006-01-30 | 2009-05-12 | Bruce Reiner | Method and apparatus for generating a technologist quality assurance scorecard |
| US7571109B2 (en) * | 2006-07-14 | 2009-08-04 | Fawls Robert A | System and method for assessing operational process risk and quality by calculating operational value at risk |
| US7644026B2 (en) * | 2006-10-25 | 2010-01-05 | Hewlett-Packard Development Company, L.P. | Ranking systems based on a risk |
| WO2008073431A2 (en) * | 2006-12-11 | 2008-06-19 | Grant Thornton Llp | Method and system for risk evaluation and management |
| US20080154637A1 (en) | 2006-12-22 | 2008-06-26 | Capelli Christopher C | Methods for risk-adjusted performance analysis |
| US7606795B2 (en) * | 2007-02-08 | 2009-10-20 | International Business Machines Corporation | System and method for verifying the integrity and completeness of records |
| US20080270420A1 (en) | 2007-04-27 | 2008-10-30 | Rosenberg Michael J | Method and System for Verification of Source Data in Pharmaceutical Studies and Other Applications |
| US20080270181A1 (en) * | 2007-04-27 | 2008-10-30 | Rosenberg Michael J | Method and system for collection, validation, and reporting of data and meta-data in conducting adaptive clinical trials |
| US20080319726A1 (en) * | 2007-06-19 | 2008-12-25 | Schlumberger Technology Corporation | System and method for performing oilfield simulation operations |
| US8180710B2 (en) * | 2007-09-25 | 2012-05-15 | Strichman Adam J | System, method and computer program product for an interactive business services price determination and/or comparison model |
| US20090138306A1 (en) * | 2007-09-28 | 2009-05-28 | Johnson Controls Technology Company | Facility risk assessment systems and methods |
| US8140383B2 (en) * | 2007-12-17 | 2012-03-20 | Sap Ag | Derived and automated key performance indicator reports |
| US20090276259A1 (en) * | 2008-05-02 | 2009-11-05 | Karol Bliznak | Aggregating risk in an enterprise strategy and performance management system |
| US20100198630A1 (en) * | 2009-01-30 | 2010-08-05 | Bank Of America Corporation | Supplier risk evaluation |
| US8185430B2 (en) * | 2009-01-30 | 2012-05-22 | Bank Of America Corporation | Supplier stratification |
| US20100324936A1 (en) | 2009-04-22 | 2010-12-23 | Suresh-Kumar Venkata Vishnubhatla | Pharmacy management and administration with bedside real-time medical event data collection |
| EP2467819A4 (en) * | 2009-08-20 | 2013-04-03 | Stamford Risk Analytics Llc | RISK DETERMINATION / MEASURING SYSTEM AND RISK-BASED DECISION-ANALYSIS TOOL |
| US8370193B2 (en) * | 2010-02-01 | 2013-02-05 | Bank Of America Corporation | Method, computer-readable media, and apparatus for determining risk scores and generating a risk scorecard |
| US10074147B2 (en) * | 2010-06-16 | 2018-09-11 | Parexel International Corporation | Integrated clinical trial workflow system |
| US7921125B1 (en) * | 2010-07-20 | 2011-04-05 | Numoda Technologies, Inc. | Virtual data room with access to clinical trial status reports based on real-time clinical trial data |
| US20120053995A1 (en) * | 2010-08-31 | 2012-03-01 | D Albis John | Analyzing performance and setting strategic targets |
| US20120096005A1 (en) * | 2010-10-19 | 2012-04-19 | Innovo Commerce, LLC | System and method for remote source data verification |
| US20120226621A1 (en) * | 2011-03-03 | 2012-09-06 | Ecolab Usa Inc. | Modeling risk of foodborne illness outbreaks |
| US20120296694A1 (en) * | 2011-05-19 | 2012-11-22 | Aon Global Risk Research Limited | Risk Portal Including Pricing Data |
| US8606595B2 (en) * | 2011-06-17 | 2013-12-10 | Sanjay Udani | Methods and systems for assuring compliance |
| WO2013006783A1 (en) | 2011-07-07 | 2013-01-10 | Georgetown University | System and method for performing pharmacovigilance |
| US20130060599A1 (en) * | 2011-09-01 | 2013-03-07 | Aon Consulting, Inc. | People Risk Portal |
| US8423388B1 (en) * | 2012-01-17 | 2013-04-16 | Aon Global Risk Research Limited | GUI for risk profiles |
| US20130311196A1 (en) | 2012-05-18 | 2013-11-21 | Medtronic, Inc. | Establishing Risk-Based Study Conduct |
-
2012
- 2012-11-16 US US13/679,533 patent/US8706537B1/en active Active
-
2013
- 2013-11-14 KR KR1020157012745A patent/KR101781705B1/ko active IP Right Grant
- 2013-11-14 EP EP13855172.6A patent/EP2852923A4/en not_active Withdrawn
- 2013-11-14 CN CN201380059790.4A patent/CN104956380B/zh active Active
- 2013-11-14 CA CA2890822A patent/CA2890822C/en active Active
- 2013-11-14 WO PCT/US2013/070138 patent/WO2014078563A1/en active Application Filing
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20050182658A1 (en) | 2004-02-18 | 2005-08-18 | Klaus Abraham-Fuchs | Method of improving a clinical study |
| US20060287997A1 (en) * | 2005-06-17 | 2006-12-21 | Sooji Lee Rugh | Pharmaceutical service selection using transparent data |
| US20110077958A1 (en) * | 2009-09-24 | 2011-03-31 | Agneta Breitenstein | Systems and methods for clinical, operational, and financial benchmarking and comparative analytics |
Also Published As
| Publication number | Publication date |
|---|---|
| CN104956380B (zh) | 2018-06-19 |
| CN104956380A (zh) | 2015-09-30 |
| KR20150084851A (ko) | 2015-07-22 |
| EP2852923A1 (en) | 2015-04-01 |
| WO2014078563A1 (en) | 2014-05-22 |
| US8706537B1 (en) | 2014-04-22 |
| CA2890822C (en) | 2016-11-01 |
| EP2852923A4 (en) | 2016-01-06 |
| CA2890822A1 (en) | 2014-05-22 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR101781705B1 (ko) | 원격 사이트 모니터링용 방법 및 장치 | |
| US20140236668A1 (en) | Method and apparatus for remote site monitoring | |
| US20210042678A1 (en) | Decision support system for hospital quality assessment | |
| US20210012254A1 (en) | Safety risk, auditing, and compliance system and process | |
| US8700415B2 (en) | Method and system for determining effectiveness of a compliance program | |
| US20140375650A1 (en) | Systems and methods for data visualization | |
| US10467379B2 (en) | Near real-time detection of information | |
| Perrenoud et al. | Project risk distribution during the construction phase of small building projects | |
| Love et al. | The nature and severity of workplace injuries in construction: Engendering operational benchmarking | |
| Schreuders et al. | The relationship between nurse staffing and inpatient complications | |
| El-Banna | Patient discharge time improvement by using the six sigma approach: a case study | |
| Shahian et al. | Risk aversion and public reporting. Part 2: mitigation strategies | |
| JP6478267B2 (ja) | 組織改善活動支援装置、組織改善活動支援方法および組織改善活動支援プログラム | |
| Fulcher et al. | Syndromic surveillance using monthly aggregate health systems information data: methods with application to COVID-19 in Liberia | |
| Shakerian et al. | Is ‘invisible gorilla’self-reportedly measurable? Development and validation of a new questionnaire for measuring cognitive unsafe behaviors of front-line industrial workers | |
| Aksezer | Reliability evaluation of healthcare services by assessing the technical efficiency | |
| Badnjević et al. | Medical devices maintenance | |
| Davy et al. | Business intelligence dashboards for patient safety and quality: A narrative literature review | |
| Moran et al. | Comparing the performance of English mental health providers in achieving patient outcomes | |
| Nikolaeva et al. | Patient measurements simulation and event processing in telemedicine systems | |
| Dixon et al. | Why “what data are necessary for this project?” and other basic questions are important to address in public health informatics practice and research | |
| Garrett | Using Box-Jenkins Modeling Techniques to Forecast Future Disease Burden and Identify Disease Aberrations in Public Health Surveillance Report | |
| Hadad et al. | How to correctly perform a work sampling | |
| Tholandi et al. | Approaches to improve and adapt maternal mortality estimations in low‐and middle‐income countries: A scoping review | |
| Vuk | Implementation of ISBT quality indicators in the quality management and haemovigilance systems |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A201 | Request for examination | ||
| A302 | Request for accelerated examination | ||
| E902 | Notification of reason for refusal | ||
| E701 | Decision to grant or registration of patent right | ||
| GRNT | Written decision to grant |