JP5513434B2 - パーペチュアルカレンダページを含むウェブページのトラップ検出及びこれを用いた検索データベース構築方法、システム及びコンピュータ読取可能な記録媒体 - Google Patents
パーペチュアルカレンダページを含むウェブページのトラップ検出及びこれを用いた検索データベース構築方法、システム及びコンピュータ読取可能な記録媒体 Download PDFInfo
- Publication number
- JP5513434B2 JP5513434B2 JP2011086114A JP2011086114A JP5513434B2 JP 5513434 B2 JP5513434 B2 JP 5513434B2 JP 2011086114 A JP2011086114 A JP 2011086114A JP 2011086114 A JP2011086114 A JP 2011086114A JP 5513434 B2 JP5513434 B2 JP 5513434B2
- Authority
- JP
- Japan
- Prior art keywords
- trap
- url
- clustering
- web page
- regular expression
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000001514 detection method Methods 0.000 title claims description 48
- 238000010276 construction Methods 0.000 title description 2
- 230000014509 gene expression Effects 0.000 claims description 62
- 238000000034 method Methods 0.000 claims description 29
- 238000012790 confirmation Methods 0.000 claims description 12
- 238000010606 normalization Methods 0.000 claims description 5
- 230000006870 function Effects 0.000 description 11
- 238000004891 communication Methods 0.000 description 8
- 230000005540 biological transmission Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 230000001788 irregular Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 230000009897 systematic effect Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/332—Query formulation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/51—Indexing; Data structures therefor; Storage structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/53—Querying
- G06F16/532—Query formulation, e.g. graphical querying
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/583—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Library & Information Science (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Software Systems (AREA)
- Information Transfer Between Computers (AREA)
Description
Claims (19)
- クラスタリング手段によって、データベースに格納されたウェブページに対応するURL(Uniform Resource Locator)を所定基準でクラスタリングし、
日付パターン検出手段によって、前記クラスタリングの結果に含まれる日付パターンを分析して正規表現を生成し、
パーペチュアルカレンダトラップ確認手段によって、前記生成された正規表現を用いてパーペチュアルカレンダページを含むウェブページのトラップと疑われるクラスタを検出することを含むことを特徴とするトラップ検出方法。 - 前記クラスタリングは、
前記URLを同一のホスト名を有するURLごとにクラスタリングするホストクラスタリング、それぞれのパスで連結された数字を置換子で置換し、正規化してクラスタリングするパスクラスタリング、又は、それぞれのパラメータの値及び一部のURLのみに含まれたパラメータを除いて正規化してクラスタリングするパラメータクラスタリングのうち少なくとも一つから選択される所定基準を適用することを特徴とする、請求項1に記載のトラップ検出方法。 - 前記正規表現を生成することは、
前記クラスタリングの結果のURLを予め格納された日付パターンと比較して前記URLの日付パターンを予測し、
前記URLの予測された日付パターンを前記クラスタリングの結果の全てのURLに対して適用できるかどうかを決定し、
前記URLの日付パターンが前記クラスタリングの結果の全てのURLに対して適用される場合、前記URLの日付パターンに基づいて正規表現を生成することをさらに含むことを特徴とする、請求項1に記載のトラップ検出方法。 - 前記日付パターンの適用可否を決定することは、
URLのうち年に対応する数字が0より大きい整数で、月に対応する数字が1以上12以下の整数に該当する場合に適用可能であると決定することを特徴とする、請求項3に記載のトラップ検出方法。 - 前記トラップを検出することは、
前記生成された正規表現を用いて任意の日付を示すURLを所定の数だけ生成し、
前記生成されたURLへの接続を試み、
前記生成されたURLへの前記接続を試みて成功した場合、前記正規表現に関連する前記クラスタリングの結果を、パーペチュアルカレンダページを含むウェブページのトラップと疑われるトラップ候補クラスタとして検出することをさらに含むことを特徴とする、請求項1に記載のトラップ検出方法。 - 前記トラップを検出することは、
前記クラスタリングの結果に対応するウェブページを、サイズを基準にしてクラスタリングし、
所定の検出条件を満足するクラスタを前記トラップ候補クラスタとして検出することをさらに含むことを特徴とする、請求項5に記載のトラップ検出方法。 - 前記トラップを検出することは、
前記トラップ候補クラスタに含まれるウェブページのサイズの最小値及び最大値を算出することをさらに含むことを特徴とする、請求項6に記載のトラップ検出方法。 - 前記トラップと疑われるクラスタを検出した後、正規表現適用手段によって、前記正規表現に所定の日付を代入したURLに対応するウェブページ及び/又は前記サイズの最小値から最大値の範囲に含まれるウェブページを、前記データベースから削除することをさらに含むことを特徴とする、請求項7に記載のトラップ検出方法。
- 前記クラスタリングを実行する前に、URLチェック手段によって、前記データベースに格納されたウェブページに対応するURLのうち所定基準を満足しないURLは除外するURLチェックをさらに行うことを特徴とする、請求項1に記載のトラップ検出方法。
- 前記URLチェックを行うことに適用される所定基準は、URLに数字が5個以上含まれ、かつ、4桁以上の連続した数字を有するかどうかであることを特徴とする、請求項9に記載のトラップ検出方法。
- パーペチュアルカレンダページを含むウェブページのトラップを検出するシステムにおいて、
データベースに格納されたウェブページに対応するURLを所定基準でクラスタリングするクラスタリング手段と、
前記クラスタリングの結果に含まれる日付パターンを分析して正規表現を生成する日付パターン検出手段と、
前記生成された正規表現を用いてパーペチュアルカレンダページを含むウェブページのトラップと疑われるクラスタを検出するパーペチュアルカレンダトラップ確認手段と、を含むことを特徴とするトラップ検出システム。 - 前記クラスタリング手段は、
前記URLを同一のホスト名を有するURLごとにクラスタリングするホストクラスタリング、それぞれのパスで連結された数字を置換子で置換し、正規化してクラスタリングするパスクラスタリング、又は、それぞれのパラメータの値及び一部のURLのみに含まれるパラメータを除いて正規化してクラスタリングするパラメータクラスタリングのうち少なくとも一つから選択される所定基準を適用することを特徴とする、請求項11に記載のトラップ検出システム。 - 前記日付パターン検出手段は、
前記クラスタリングの結果のURLを予め格納された日付パターンと比較して前記URLの日付パターンを予測し、前記URLの予測された日付パターンを前記クラスタリングの結果の全てのURLに対して適用できるかどうかを決定し、前記URLの日付パターンが前記クラスタリングの結果の全てのURLに対して適用される場合、前記URLの日付パターンに基づいて正規表現を生成することを特徴とする、請求項11に記載のトラップ検出システム。 - 前記パーペチュアルカレンダトラップ確認手段は、
前記生成された正規表現を用いて任意の日付を示すURLを所定の数だけ生成し、前記生成されたURLへの接続を試みて成功した場合、前記正規表現に関連する前記クラスタリングの結果を、パーペチュアルカレンダページを含むウェブページのトラップと疑われるトラップ候補クラスタとして検出することを特徴とする、請求項11に記載のトラップ検出システム。 - 前記パーペチュアルカレンダトラップ確認手段は、
前記クラスタリングの結果に対応するウェブページを、サイズを基準にしてクラスタリングし、所定の検出条件を満足するクラスタを前記トラップ候補クラスタとして検出することを特徴とする、請求項14に記載のトラップ検出システム。 - 前記パーペチュアルカレンダトラップ確認手段は、
前記トラップ候補クラスタに含まれるウェブページのサイズの最小値及び最大値をさらに算出することを特徴とする、請求項15に記載のトラップ検出システム。 - 前記正規表現に所定の日付を代入したURLに対応するウェブページ及び/又は前記サイズの最小値から最大値の範囲に含まれるウェブページを、前記データベースから削除する正規表現適用手段をさらに含むことを特徴とする、請求項16に記載のトラップ検出システム。
- 前記データベースに格納されたウェブページに対応するURLのうち所定基準を満足しないURLは除外するURLチェック手段をさらに含むことを特徴とする、請求項11に記載のトラップ検出システム。
- 請求項1乃至10のうちいずれか一項に記載されたトラップ検出方法の各ステップをコンピュータ上で遂行するためのプログラムが記録されていることを特徴とするコンピュータ読取可能な記録媒体。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020100060991A KR101130108B1 (ko) | 2010-06-28 | 2010-06-28 | 만년력 형태의 웹문서 트랩 검출 및 이를 이용한 검색 데이터베이스 구축 방법, 시스템 및 컴퓨터 판독 가능한 기록 매체 |
KR10-2010-0060991 | 2010-06-28 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2012009012A JP2012009012A (ja) | 2012-01-12 |
JP5513434B2 true JP5513434B2 (ja) | 2014-06-04 |
Family
ID=45353480
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011086114A Active JP5513434B2 (ja) | 2010-06-28 | 2011-04-08 | パーペチュアルカレンダページを含むウェブページのトラップ検出及びこれを用いた検索データベース構築方法、システム及びコンピュータ読取可能な記録媒体 |
Country Status (3)
Country | Link |
---|---|
US (1) | US9141697B2 (ja) |
JP (1) | JP5513434B2 (ja) |
KR (1) | KR101130108B1 (ja) |
Families Citing this family (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014000130A1 (en) * | 2012-06-29 | 2014-01-03 | Yahoo! Inc. | Method or system for automated extraction of hyper-local events from one or more web pages |
US11257101B2 (en) * | 2012-08-15 | 2022-02-22 | Alg, Inc. | System, method and computer program for improved forecasting residual values of a durable good over time |
EP2907086A4 (en) * | 2012-08-15 | 2016-05-25 | Alg Inc | SYSTEM, METHOD AND COMPUTER PROGRAM FOR PREDICTING THE RESIDUAL VALUE OF A PERMANENT PRODUCT OVER THE TIME |
US10430814B2 (en) * | 2012-08-15 | 2019-10-01 | Alg, Inc. | System, method and computer program for improved forecasting residual values of a durable good over time |
US9589184B1 (en) * | 2012-08-16 | 2017-03-07 | Groupon, Inc. | Method, apparatus, and computer program product for classification of documents |
CN105989151B (zh) * | 2015-03-02 | 2019-09-06 | 阿里巴巴集团控股有限公司 | 网页抓取方法及装置 |
WO2016173327A1 (zh) * | 2015-04-28 | 2016-11-03 | 北京瀚思安信科技有限公司 | 用于检测网站攻击的方法和设备 |
CN106209488B (zh) * | 2015-04-28 | 2021-01-29 | 北京瀚思安信科技有限公司 | 用于检测网站攻击的方法和设备 |
CN106777216A (zh) * | 2016-12-23 | 2017-05-31 | 北京奇虎科技有限公司 | 对url进行聚类的方法及装置 |
US11336668B2 (en) * | 2019-01-14 | 2022-05-17 | Penta Security Systems Inc. | Method and apparatus for detecting abnormal behavior of groupware user |
US11042594B2 (en) | 2019-02-19 | 2021-06-22 | Hearst Magazine Media, Inc. | Artificial intelligence for product data extraction |
US11443273B2 (en) | 2020-01-10 | 2022-09-13 | Hearst Magazine Media, Inc. | Artificial intelligence for compliance simplification in cross-border logistics |
US11544331B2 (en) | 2019-02-19 | 2023-01-03 | Hearst Magazine Media, Inc. | Artificial intelligence for product data extraction |
US11341170B2 (en) | 2020-01-10 | 2022-05-24 | Hearst Magazine Media, Inc. | Automated extraction, inference and normalization of structured attributes for product data |
US11481722B2 (en) | 2020-01-10 | 2022-10-25 | Hearst Magazine Media, Inc. | Automated extraction, inference and normalization of structured attributes for product data |
CN111666286B (zh) * | 2020-05-21 | 2023-06-30 | 微民保险代理有限公司 | 分库分表检测方法、装置、计算机设备和存储介质 |
CN114167515B (zh) * | 2020-09-11 | 2023-03-28 | 中国石油化工股份有限公司 | 一种岩性圈闭有效性识别的方法 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6546380B1 (en) * | 1997-09-24 | 2003-04-08 | Unisys Corporation | Method and apparatus for detecting an endless loop in a rules-based expert system |
JPH11312172A (ja) * | 1998-04-28 | 1999-11-09 | Sharp Corp | 情報処理装置及び方法並びにその制御プログラムを記憶した媒体 |
US6631369B1 (en) * | 1999-06-30 | 2003-10-07 | Microsoft Corporation | Method and system for incremental web crawling |
JP4830637B2 (ja) * | 2006-05-26 | 2011-12-07 | 沖電気工業株式会社 | 電子文書更新通知装置及び電子文書更新通知方法 |
US7827166B2 (en) * | 2006-10-13 | 2010-11-02 | Yahoo! Inc. | Handling dynamic URLs in crawl for better coverage of unique content |
US20090287641A1 (en) | 2008-05-13 | 2009-11-19 | Eric Rahm | Method and system for crawling the world wide web |
CA2782674C (en) * | 2008-12-03 | 2016-02-02 | Mobophiles, Inc. | System and method for providing virtual web access |
CA2702351A1 (en) * | 2010-05-14 | 2010-10-07 | Ibm Canada Limited - Ibm Canada Limitee | Identifying universal resource locator rewriting rules |
-
2010
- 2010-06-28 KR KR1020100060991A patent/KR101130108B1/ko active IP Right Grant
-
2011
- 2011-04-08 JP JP2011086114A patent/JP5513434B2/ja active Active
- 2011-06-02 US US13/152,017 patent/US9141697B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US20110320414A1 (en) | 2011-12-29 |
JP2012009012A (ja) | 2012-01-12 |
KR101130108B1 (ko) | 2012-03-28 |
US9141697B2 (en) | 2015-09-22 |
KR20120000638A (ko) | 2012-01-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5513434B2 (ja) | パーペチュアルカレンダページを含むウェブページのトラップ検出及びこれを用いた検索データベース構築方法、システム及びコンピュータ読取可能な記録媒体 | |
JP6017155B2 (ja) | 改善された類似文書検出方法、装置、及びコンピュータ読み取り可能な記録媒体 | |
CN101971591B (zh) | 分析网址的系统及方法 | |
US8326818B2 (en) | Method of managing websites registered in search engine and a system thereof | |
CN101622621B (zh) | 阻止恶意网络内容的系统和方法 | |
JP2005157965A (ja) | 文書リンク構造情報作成装置及び方法 | |
JP2008533544A (ja) | ソースコード・サーチ・エンジンを操作する方法およびシステム | |
AlNoamany et al. | Access patterns for robots and humans in web archives | |
US8423885B1 (en) | Updating search engine document index based on calculated age of changed portions in a document | |
TW201421395A (zh) | 用以遞迴檢閱網際網路及其他來源以識別、收集、管理、判定及鑑定商業身分與相關資料之系統及方法 | |
Tang et al. | Focused crawling for both topical relevance and quality of medical information | |
US8521746B1 (en) | Detection of bounce pad sites | |
KR101631032B1 (ko) | 비정형 데이터 필터링 및 공통형태 변환을 통한 저장 시스템 및 방법 | |
KR101556714B1 (ko) | 검색결과 제공 방법, 시스템 및 컴퓨터 판독 가능한 기록 매체 | |
CN105989002A (zh) | 网页数据查询、建立网页跳转路径数据库的方法及装置 | |
JP3612185B2 (ja) | 文書情報更新監視装置 | |
JP5462713B2 (ja) | Webページ収集装置、方法及びプログラム | |
Yi et al. | Using metadata to enhance Web information gathering | |
JP5746912B2 (ja) | テキストパターン抽出を用いてWeb文書をリファインするための方法、システム及びコンピュータ読み出し可能記録媒体 | |
Yumnam et al. | Overview: Weblog mining, privacy issues and application of Web Log mining | |
KR101204362B1 (ko) | 검색 결과 제공 방법, 장치 및 컴퓨터 판독 가능한 기록 매체 | |
KR101843494B1 (ko) | 실시간 중복 문서 탐지 방법, 장치 및 컴퓨터 판독 가능한 기록 매체 | |
CN110932928B (zh) | 基于http响应的网站资产失活检测和更新方法 | |
KR101048590B1 (ko) | 검색 엔진에서 등록된 웹사이트를 관리하기 위한 방법 및그 시스템 | |
KR100458458B1 (ko) | 검색 엔진에서 등록된 웹사이트를 관리하기 위한 방법 및그 시스템 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20131022 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20140217 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140225 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20140327 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5513434 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |