JP6340668B2 - ストリーム認識およびフィルタリング - Google Patents
ストリーム認識およびフィルタリング Download PDFInfo
- Publication number
- JP6340668B2 JP6340668B2 JP2014559914A JP2014559914A JP6340668B2 JP 6340668 B2 JP6340668 B2 JP 6340668B2 JP 2014559914 A JP2014559914 A JP 2014559914A JP 2014559914 A JP2014559914 A JP 2014559914A JP 6340668 B2 JP6340668 B2 JP 6340668B2
- Authority
- JP
- Japan
- Prior art keywords
- data stream
- bits
- signature
- block
- synchronization
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000001914 filtration Methods 0.000 title description 2
- 238000000034 method Methods 0.000 claims description 100
- 230000006870 function Effects 0.000 claims description 51
- 238000012545 processing Methods 0.000 claims description 31
- 238000003860 storage Methods 0.000 claims description 28
- 230000000717 retained effect Effects 0.000 claims description 4
- 239000013598 vector Substances 0.000 description 13
- 238000004891 communication Methods 0.000 description 7
- 230000003287 optical effect Effects 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- COCAUCFPFHUGAA-MGNBDDOMSA-N n-[3-[(1s,7s)-5-amino-4-thia-6-azabicyclo[5.1.0]oct-5-en-7-yl]-4-fluorophenyl]-5-chloropyridine-2-carboxamide Chemical compound C=1C=C(F)C([C@@]23N=C(SCC[C@@H]2C3)N)=CC=1NC(=O)C1=CC=C(Cl)C=N1 COCAUCFPFHUGAA-MGNBDDOMSA-N 0.000 description 3
- RYGMFSIKBFXOCR-UHFFFAOYSA-N Copper Chemical compound [Cu] RYGMFSIKBFXOCR-UHFFFAOYSA-N 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 1
- 239000010949 copper Substances 0.000 description 1
- 229910052802 copper Inorganic materials 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 239000012634 fragment Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000002085 persistent effect Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/951—Indexing; Web crawling techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/60—Network streaming of media packets
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1095—Replication or mirroring of data, e.g. scheduling or transport for data synchronisation between network nodes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/83—Generation or processing of protective or descriptive data associated with content; Content structuring
- H04N21/835—Generation of protective data, e.g. certificates
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Computer Networks & Wireless Communication (AREA)
- Computer Security & Cryptography (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
- Signal Processing For Digital Recording And Reproducing (AREA)
- Storage Device Security (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
[項目1]
ソフトウェアと組み合わせたハードウェアにより実装されるコンピュータ実装方法であって、前記方法は、
データ項目における複数の同期ポイントを判定する段階と、
前記複数の同期ポイントのそれぞれについて、前記データ項目中の複数のビットのブロックを判定する段階と、
ビットの各ブロックについて、複数のビットの前記ブロックにハッシュ関数またはメッセージダイジェスト関数を適用して対応するブロックシグネチャを判定する段階と、
前記複数の同期ポイントのそれぞれを、複数のビットの前記対応するブロックの前記対応するブロックシグネチャに関連付けてデータ項目シグネチャを形成する段階とを備え、
前記データ項目は、複数のビットの任意のシーケンスからなり、各同期ポイントは前記データ項目中の複数のビットのシーケンスからなる方法。
[項目2]
各特定の同期ポイントの複数のビットの前記対応するブロックは、前記特定の同期ポイントに直接に隣接する、項目1に記載の方法。
[項目3]
前記ハッシュ関数は、SHAおよびMD5を含む複数の関数から選択される、項目1または2に記載の方法。
[項目4]
各同期ポイントは、32ビットからなる、項目1〜3のいずれか一項に記載の方法。
[項目5]
複数のビットの各ブロックは、256バイトからなる、項目1〜4のいずれか一項に記載の方法。
[項目6]
項目1〜5のいずれか一項に記載の方法を実装するためのハードウェアおよびソフトウェアを備えるデバイス。
[項目7]
ソフトウェアと組み合わせたハードウェアにより実装されるコンピュータ実装方法であって、前記方法は、
(A)第1のデータ項目に対する第1のデータ項目シグネチャを取得する段階と、
(B)第2のデータ項目において複数の同期ポイントのうち1つの同期ポイントを発見することを試みる段階と、
(C)前記第2のデータ項目において前記複数の同期ポイントのうち1つの同期ポイントを発見した場合に、
(C)(1)前記第2のデータ項目において複数のビットの対応するブロックのブロックシグネチャを判定する段階と、
(C)(2)前記第2のデータ項目の前記同期ポイントおよび前記対応するブロックシグネチャが前記第1のデータ項目シグネチャにおける同期ポイントおよびブロックシグネチャに対応するか否かを確認する段階と、
(C)(3)前記第2のデータ項目の前記同期ポイントおよび前記対応するブロックシグネチャが前記第1のデータ項目シグネチャ中のある同期ポイントおよびブロックシグネチャに対応する場合に、対応関係を示す情報を保持する段階と、
(D)前記第2のデータ項目のうち少なくともいくつかが依然として未処理である間、前記第2のデータ項目の予め定められた数の複数の同期ポイントおよび対応する複数のブロックシグネチャが前記第1のデータ項目シグネチャ中の複数の同期ポイントおよび対応する複数のブロックシグネチャに一致するまで、段階(B)および(C)を反復する段階と、
(E)前記第2のデータ項目の前記予め定められた数の複数の同期ポイントおよび前記対応する複数のブロックシグネチャが前記第1のデータ項目シグネチャ中の複数の同期ポイントおよび対応する複数のブロックシグネチャに一致する場合に、前記第1のデータ項目と前記第2のデータ項目との間の一致を示す段階とを備え、
前記第1のデータ項目シグネチャは、前記第1のデータ項目における複数の同期ポイントと対応する複数のブロックシグネチャとの間の関連性を含み、
前記第2のデータ項目における複数のビットの前記対応するブロックにハッシュ関数またはメッセージダイジェスト関数を適用して前記ブロックシグネチャを判定する方法。
[項目8]
前記第2のデータ項目の複数の異なる部分について段階(B)および(C)を並行して反復する、項目7に記載の方法。
[項目9]
(F)段階(E)において判定したとき前記第1のデータ項目と前記第2のデータ項目との間で一致する場合に、前記第2のデータ項目へのアクセスを選択的に拒否する段階を更に備える、
項目7または8に記載の方法。
[項目10]
(G)段階(E)において判定したとき前記第1のデータ項目と前記第2のデータ項目との間で一致する場合、前記第2のデータ項目についての情報を保持する段階を更に備える、
項目7〜9のいずれか一項に記載の方法。
[項目11]
処理の少なくともいくつかは、特定のデバイスにおいて行われ、保持される前記情報は前記特定のデバイスについての情報を含む、項目10に記載の方法。
[項目12]
前記デバイスは、ネットワーク内のルータである、項目11に記載の方法。
[項目13]
複数のパケットを取得する段階と、
前記複数のパケットからペイロード情報を抽出して前記第2のデータ項目の少なくともいくつかを取得する段階とを更に備える、
項目7〜12のいずれか一項に記載の方法。
[項目14]
(H)段階(E)において判定したとき前記第1のデータ項目と前記第2のデータ項目との間で一致する場合、前記第1のデータ項目と同一であるかを判定するべく、前記第2のデータ項目に追加のチェックを受けさせる段階を更に備える、
項目7〜13のいずれか一項に記載の方法。
[項目15]
それぞれの特定の同期ポイントの複数のビットの前記対応するブロックは、前記特定の同期ポイントに直接隣接する、項目7〜14のいずれか一項に記載の方法。
[項目16]
前記ハッシュ関数は、SHAおよびMD5を含む複数の関数から選択される、項目7〜15のいずれか一項に記載の方法。
[項目17]
各同期ポイントは、32ビットからなる、項目7〜16のいずれか一項に記載の方法。
[項目18]
複数のビットの各ブロックは、256バイトからなる、項目7〜17のいずれか一項に記載の方法。
[項目19]
ソフトウェアと組み合わせたハードウェアにより実装されるコンピュータ実装方法であって、前記方法は、
(A)複数のデータ項目のそれぞれに対する少なくとも1つのシグネチャである複数のデータ項目シグネチャを取得する段階と、
(B)第2のデータ項目において複数のデータ項目シグネチャの同期ポイントを発見することを試みる段階と、
(C)前記第2のデータ項目において前記複数のデータ項目シグネチャの同期ポイントを発見した場合に、
(C)(1)前記第2のデータ項目において複数のビットの対応するブロックのブロックシグネチャを判定する段階と、
(C)(2)前記第2のデータ項目の前記同期ポイントおよび前記対応するブロックシグネチャが前記複数のデータ項目シグネチャのいずれかにおける同期ポイントおよびブロックシグネチャに対応するか否かを確認する段階と、
(C)(3)前記第2のデータ項目の前記同期ポイントおよび前記対応するブロックシグネチャが前記複数のデータ項目シグネチャの1または複数における同期ポイントおよびブロックシグネチャに対応する場合に、対応関係を示す情報を保持する段階と、
(D)前記第2のデータ項目のうち少なくともいくつかが依然として未処理である間、前記第2のデータ項目の予め定められた数の複数の同期ポイントおよび対応する複数のブロックシグネチャが前記複数のデータ項目シグネチャのうち少なくとも1つにおける複数の同期ポイントおよび対応する複数のブロックシグネチャに一致するまで、段階(B)および(C)を反復する段階と、
(E)前記第2のデータ項目の前記予め定められた数の複数の同期ポイントおよび前記対応する複数のブロックシグネチャが前記複数のデータ項目の第1のデータ項目シグネチャにおいて前記予め定められた数の同期ポイントおよび前記複数のブロックシグネチャに一致する場合に、前記第1のデータ項目と前記第2のデータ項目との間の一致を示す段階とを備え、
前記データ項目のそれぞれの特定のデータ項目に対する前記複数のデータ項目シグネチャは、前記特定のデータ項目における複数の同期ポイントと前記特定のデータ項目に対する対応する複数のブロックシグネチャとの間の関連性を含み、
前記第2のデータ項目における複数のビットの前記対応するブロックにハッシュ関数またはメッセージダイジェスト関数を適用して前記ブロックシグネチャを判定する方法。
Claims (19)
- 格納媒体内のソフトウェアからの1つ又は複数のソフトウェア命令と組み合わせた、少なくとも1つのプロセッサおよび前記格納媒体を含むハードウェアにより実装されるコンピュータ実装方法であって、前記コンピュータ実装方法は、前記1つ又は複数のソフトウェア命令を実行する前記少なくとも1つのプロセッサにより、
データストリームにおける複数の同期ポイントを判定し、
前記複数の同期ポイントのそれぞれについて、前記データストリーム中の複数のビットの対応するブロックを判定し、
複数のビットの各ブロックについて、複数のビットの前記ブロックにハッシュ関数またはメッセージダイジェスト関数を適用して対応するブロックシグネチャを判定し、
前記複数の同期ポイントのそれぞれを、複数のビットの前記対応するブロックの前記対応するブロックシグネチャに関連付けてデータストリームシグネチャを前記格納媒体内に形成すること
を備え、
前記データストリームは、複数のビットの任意のシーケンスからなり、各同期ポイントは前記データストリーム中の複数のビットのシーケンスからなり、
前記データストリームにおける各同期ポイントの位置は、前記データストリームにおける複数のビットの各ブロックの位置とは異なり、
前記データストリームシグネチャが前記複数の同期ポイントおよび前記対応する複数のブロックシグネチャを含み、前記データストリームシグネチャ内の前記複数の同期ポイントおよび前記対応する複数のブロックシグネチャは、前記データストリームに他のデータストリームが一致するか否かを判断するために用いられる
方法。 - 格納媒体内のソフトウェアからの1つ又は複数のソフトウェア命令と組み合わせた、少なくとも1つのプロセッサおよび前記格納媒体を含むハードウェアにより実装されるコンピュータ実装方法であって、前記コンピュータ実装方法は、前記1つ又は複数のソフトウェア命令を実行する前記少なくとも1つのプロセッサにより、
(A)(1)第1のデータストリームにおける複数の同期ポイントを判定し、
(A)(2)前記複数の同期ポイントのそれぞれについて、前記第1のデータストリーム中の複数のビットの対応するブロックを判定し、
(A)(3)複数のビットの各ブロックについて、複数のビットの前記ブロックにハッシュ関数またはメッセージダイジェスト関数を適用して対応するブロックシグネチャを判定し、
(A)(4)前記第1のデータストリームにおける前記複数の同期ポイントのそれぞれを、複数のビットの前記対応するブロックの前記対応するブロックシグネチャに関連付けて、前記第1のデータストリームに対する第1のデータストリームシグネチャを前記格納媒体内に形成し、
(A)(5)前記第1のデータストリームに対する前記第1のデータストリームシグネチャを取得し、
(B)第2のデータストリームにおいて複数の同期ポイントのうち1つの同期ポイントを発見することを試み、
(C)前記第2のデータストリームにおいて前記複数の同期ポイントのうち1つの同期ポイントを発見した場合に、
(C)(1)前記第2のデータストリームにおいて複数のビットの対応するブロックのブロックシグネチャを判定し、
(C)(2)前記第2のデータストリームの前記同期ポイントおよび前記対応するブロックシグネチャが前記第1のデータストリームシグネチャ中の同期ポイントおよびブロックシグネチャに対応するか否かを確認し、
(C)(3)前記第2のデータストリームの前記同期ポイントおよび前記対応するブロックシグネチャが前記第1のデータストリームシグネチャ中の同期ポイントおよびブロックシグネチャに対応する場合に、対応関係を示す情報を保持し、
(D)前記第2のデータストリームのうち少なくともいくつかが依然として未処理である間、前記第2のデータストリームの予め定められた数の複数の同期ポイントおよび対応する複数のブロックシグネチャが前記第1のデータストリームシグネチャ中の複数の同期ポイントおよび対応する複数のブロックシグネチャに一致するまで、段階(B)および(C)を反復し、
(E)前記第2のデータストリームの前記予め定められた数の複数の同期ポイントおよび前記対応する複数のブロックシグネチャが前記第1のデータストリームシグネチャ中の複数の同期ポイントおよび対応する複数のブロックシグネチャに一致する場合に、前記第1のデータストリームと前記第2のデータストリームとの間の一致を示すこと
を備え、
前記第1のデータストリームシグネチャは、前記第1のデータストリームにおける前記複数の同期ポイントおよび前記対応するブロックの前記対応する複数のブロックシグネチャを含み、
前記第2のデータストリームにおける複数のビットの前記対応するブロックにハッシュ関数またはメッセージダイジェスト関数を適用して前記ブロックシグネチャが判定され、
前記第1のデータストリームが複数のビットの任意のシーケンスからなり、各同期ポイントが前記第1のデータストリーム中の複数のビットのシーケンスからなり、
前記第1のデータストリームにおける各同期ポイントの位置は、前記第1のデータストリームにおける複数のビットの各ブロックの位置とは異なる、
方法。 - 前記第2のデータストリームの複数の異なる部分について段階(B)および(C)を並行して反復する、
請求項2に記載の方法。 - 前記1つ又は複数のソフトウェア命令を実行する前記少なくとも1つのプロセッサにより、(F) (E)において判定したとき前記第1のデータストリームと前記第2のデータストリームとの間で一致する場合に、前記第2のデータストリームへのアクセスを選択的に拒否することを更に備える、
請求項2または3に記載の方法。 - 前記1つ又は複数のソフトウェア命令を実行する前記少なくとも1つのプロセッサにより、(G) (E)において判定したとき前記第1のデータストリームと前記第2のデータストリームとの間で一致する場合、前記第2のデータストリームについての情報を保持すること
を更に備える、請求項2から4のいずれか一項に記載の方法。 - 処理の少なくともいくつかは、特定のデバイスにおいて行われ、保持される前記情報は前記特定のデバイスについての情報を含む、
請求項5に記載の方法。 - 前記デバイスは、ネットワーク内のルータである、
請求項6に記載の方法。 - 前記1つ又は複数のソフトウェア命令を実行する前記少なくとも1つのプロセッサにより、
複数のパケットを取得し、
前記複数のパケットからペイロード情報を抽出して前記第2のデータストリームの少なくともいくつかを取得すること
を更に備える、請求項2から7のいずれか一項に記載の方法。 - 前記1つ又は複数のソフトウェア命令を実行する前記少なくとも1つのプロセッサにより、(H) (E)において判定したとき前記第1のデータストリームと前記第2のデータストリームとの間で一致する場合、前記第1のデータストリームと同一であるかを判定するべく、前記第2のデータストリームに追加のチェックを受けさせることを更に備える、
請求項2から8のいずれか一項に記載の方法。 - 格納媒体内のソフトウェアからの1つ又は複数のソフトウェア命令と組み合わせた、少なくとも1つのプロセッサおよび前記格納媒体を含むハードウェアにより実装されるコンピュータ実装方法であって、前記コンピュータ実装方法は、前記1つ又は複数のソフトウェア命令を実行する前記少なくとも1つのプロセッサにより、
(A)(1)複数のデータストリームにおける複数の同期ポイントを判定し、
(A)(2)前記複数の同期ポイントのそれぞれについて、前記複数のデータストリーム中の複数のビットの対応するブロックを判定し、
(A)(3)複数のビットの各ブロックについて、複数のビットの前記ブロックにハッシュ関数またはメッセージダイジェスト関数を適用して対応するブロックシグネチャを判定し、
(A)(4)前記複数のデータストリームにおける前記複数の同期ポイントのそれぞれを、複数のビットの前記対応するブロックの前記対応するブロックシグネチャに関連付けて、前記複数のデータストリームに対する複数のデータストリームシグネチャを前記格納媒体内に形成し、
(A)(5)前記複数のデータストリームシグネチャを取得し、
(B)第2のデータストリームにおいて前記複数のデータストリームシグネチャの同期ポイントを発見することを試み、
(C)前記第2のデータストリームにおいて前記複数のデータストリームシグネチャの同期ポイントを発見した場合に、
(C)(1)前記第2のデータストリームにおいて複数のビットの対応するブロックのブロックシグネチャを判定し、
(C)(2)前記第2のデータストリームの前記同期ポイントおよび前記対応するブロックシグネチャが前記複数のデータストリームシグネチャのいずれかの中の同期ポイントおよびブロックシグネチャに対応するか否かを確認し、
(C)(3)前記第2のデータストリームの前記同期ポイントおよび前記対応するブロックシグネチャが前記複数のデータストリームシグネチャの1または複数の中の同期ポイントおよびブロックシグネチャに対応する場合に、対応関係を示す情報を保持し、
(D)前記第2のデータストリームのうち少なくともいくつかが依然として未処理である間、前記第2のデータストリームの予め定められた数の複数の同期ポイントおよび対応する複数のブロックシグネチャが前記複数のデータストリームシグネチャのうち少なくとも1つの中の複数の同期ポイントおよび対応する複数のブロックシグネチャに一致するまで、段階(B)および(C)を反復し、
(E)前記第2のデータストリームの前記予め定められた数の複数の同期ポイントおよび前記対応する複数のブロックシグネチャが前記複数のデータストリームのうちの第1のデータストリームに対する第1のデータストリームシグネチャ中の前記予め定められた数の同期ポイントおよび前記複数のブロックシグネチャに一致する場合に、前記第1のデータストリームと前記第2のデータストリームとの間の一致を示すこと
を備え、
前記複数のデータストリームに対する前記複数のデータストリームシグネチャは、前記複数のデータストリームにおける前記複数の同期ポイントおよび前記対応する複数のブロックシグネチャを含み、
前記第2のデータストリームにおける複数のビットの前記対応するブロックにハッシュ関数またはメッセージダイジェスト関数を適用して前記ブロックシグネチャが判定され、
前記複数のデータストリームが複数のビットの任意のシーケンスからなり、各同期ポイントが前記複数のデータストリーム中の複数のビットのシーケンスからなり、
前記複数のデータストリームのそれぞれにおいて、各同期ポイントの位置が、複数のビットの各ブロックの位置とは異なり、
前記複数のデータストリームのそれぞれに対して少なくとも1つのデータストリームシグネチャがある、
方法。 - それぞれの特定の同期ポイントの複数のビットの前記対応するブロックは、前記特定の同期ポイントに直接隣接する、
請求項1から10のいずれか一項に記載の方法。 - 前記ハッシュ関数は、SHAおよびMD5を含む複数の関数から選択される、
請求項1から11のいずれか一項に記載の方法。 - 各同期ポイントは、32ビットからなる、
請求項1から12のいずれか一項に記載の方法。 - 複数のビットの各ブロックは、256バイトからなる、
請求項1から13のいずれか一項に記載の方法。 - 請求項1から14のいずれか一項に記載の方法を実装するためのハードウェアおよびソフトウェアを備えるデバイス。
- 少なくとも1つのプロセッサおよび格納媒体を含むデバイスであって、前記格納媒体内のソフトウェアからの1つ又は複数のソフトウェア命令を実行する前記少なくとも1つのプロセッサにより、
データストリームにおける複数の同期ポイントを判定し、
前記複数の同期ポイントのそれぞれについて、前記データストリーム中の複数のビットの対応するブロックを判定し、
複数のビットの各ブロックについて、複数のビットの前記ブロックにハッシュ関数またはメッセージダイジェスト関数を適用して対応するブロックシグネチャを判定し、
前記複数の同期ポイントのそれぞれを、複数のビットの前記対応するブロックの前記対応するブロックシグネチャに関連付けてデータストリームシグネチャを形成することを実行し、
前記データストリームは、複数のビットの任意のシーケンスからなり、各同期ポイントは前記データストリーム中の複数のビットのシーケンスからなり、
前記データストリームにおける各同期ポイントの位置は、前記データストリームにおける複数のビットの各ブロックの位置とは異なり、
前記データストリームシグネチャが前記複数の同期ポイントおよび複数の前記対応するブロックシグネチャを含み、前記データストリームシグネチャ内の前記複数の同期ポイントおよび前記対応する複数のブロックシグネチャは、前記データストリームに他のデータストリームが一致するか否かを判断するために用いられる
デバイス。 - 少なくとも1つのプロセッサおよび格納媒体を含むデバイスであって、前記格納媒体内のソフトウェアからの1つ又は複数のソフトウェア命令を実行する前記少なくとも1つのプロセッサにより、
(A)(1)第1のデータストリームにおける複数の同期ポイントを判定し、
(A)(2)前記複数の同期ポイントのそれぞれについて、前記第1のデータストリーム中の複数のビットの対応するブロックを判定し、
(A)(3)複数のビットの各ブロックについて、複数のビットの前記ブロックにハッシュ関数またはメッセージダイジェスト関数を適用して対応するブロックシグネチャを判定し、
(A)(4)前記第1のデータストリームにおける前記複数の同期ポイントのそれぞれを、複数のビットの前記対応するブロックの前記対応するブロックシグネチャに関連付けて、前記第1のデータストリームに対する第1のデータストリームシグネチャを前記格納媒体内に形成し、
(A)(5)前記第1のデータストリームに対する前記第1のデータストリームシグネチャを取得し、
(B)第2のデータストリームにおいて複数の同期ポイントのうち1つの同期ポイントを発見することを試み、
(C)前記第2のデータストリームにおいて前記複数の同期ポイントのうち1つの同期ポイントを発見した場合に、
(C)(1)前記第2のデータストリームにおいて複数のビットの対応するブロックのブロックシグネチャを判定し、
(C)(2)前記第2のデータストリームの前記同期ポイントおよび前記対応するブロックシグネチャが前記第1のデータストリームシグネチャ中の同期ポイントおよびブロックシグネチャに対応するか否かを確認し、
(C)(3)前記第2のデータストリームの前記同期ポイントおよび前記対応するブロックシグネチャが前記第1のデータストリームシグネチャ中の同期ポイントおよびブロックシグネチャに対応する場合に、対応関係を示す情報を保持し、
(D)前記第2のデータストリームのうち少なくともいくつかが依然として未処理である間、前記第2のデータストリームの予め定められた数の複数の同期ポイントおよび対応する複数のブロックシグネチャが前記第1のデータストリームシグネチャ中の複数の同期ポイントおよび対応する複数のブロックシグネチャに一致するまで、(B)および(C)を反復し、
(E)前記第2のデータストリームの前記予め定められた数の複数の同期ポイントおよび前記対応する複数のブロックシグネチャが前記第1のデータストリームシグネチャ中の複数の同期ポイントおよび対応する複数のブロックシグネチャに一致する場合に、前記第1のデータストリームと前記第2のデータストリームとの間の一致を示すことを実行し、
前記第1のデータストリームシグネチャは、前記第1のデータストリームにおける前記複数の同期ポイントおよび前記対応するブロックの前記対応する複数のブロックシグネチャを含み、
前記第2のデータストリームにおける複数のビットの前記対応するブロックにハッシュ関数またはメッセージダイジェスト関数を適用して前記ブロックシグネチャが判定され、
前記第1のデータストリームが複数のビットの任意のシーケンスからなり、各同期ポイントが前記第1のデータストリーム中の複数のビットのシーケンスからなり、
前記第1のデータストリームにおける各同期ポイントの位置は、前記第1のデータストリームにおける複数のビットの各ブロックの位置とは異なる、
デバイス。 - 少なくとも1つのプロセッサおよび格納媒体を含むデバイスであって、前記格納媒体内のソフトウェアからの1つ又は複数のソフトウェア命令を実行する前記少なくとも1つのプロセッサにより、
(A)(1)複数のデータストリームにおける複数の同期ポイントを判定し、
(A)(2)前記複数の同期ポイントのそれぞれについて、前記複数のデータストリーム中の複数のビットの対応するブロックを判定し、
(A)(3)複数のビットの各ブロックについて、複数のビットの前記ブロックにハッシュ関数またはメッセージダイジェスト関数を適用して対応するブロックシグネチャを判定し、
(A)(4)前記複数のデータストリームにおける前記複数の同期ポイントのそれぞれを、複数のビットの前記対応するブロックの前記対応するブロックシグネチャに関連付けて、前記複数のデータストリームに対する複数のデータストリームシグネチャを前記格納媒体内に形成し、
(A)(5)前記複数のデータストリームシグネチャを取得し、
(B)第2のデータストリームにおいて前記複数のデータストリームシグネチャの同期ポイントを発見することを試み、
(C)前記第2のデータストリームにおいて前記複数のデータストリームシグネチャの同期ポイントを発見した場合に、
(C)(1)前記第2のデータストリームにおいて複数のビットの対応するブロックのブロックシグネチャを判定し、
(C)(2)前記第2のデータストリームの前記同期ポイントおよび前記対応するブロックシグネチャが前記複数のデータストリームシグネチャのいずれかの中の同期ポイントおよびブロックシグネチャに対応するか否かを確認し、
(C)(3)前記第2のデータストリームの前記同期ポイントおよび前記対応するブロックシグネチャが前記複数のデータストリームシグネチャの1または複数の中の同期ポイントおよびブロックシグネチャに対応する場合に、対応関係を示す情報を保持し、
(D)前記第2のデータストリームのうち少なくともいくつかが依然として未処理である間、前記第2のデータストリームの予め定められた数の複数の同期ポイントおよび対応する複数のブロックシグネチャが前記複数のデータストリームシグネチャのうち少なくとも1つの中の複数の同期ポイントおよび対応する複数のブロックシグネチャに一致するまで、(B)および(C)を反復し、
(E)前記第2のデータストリームの前記予め定められた数の複数の同期ポイントおよび前記対応する複数のブロックシグネチャが前記複数のデータストリームのうちの第1のデータストリームに対する第1のデータストリームシグネチャ中の前記予め定められた数の同期ポイントおよび前記複数のブロックシグネチャに一致する場合に、前記第1のデータストリームと前記第2のデータストリームとの間の一致を示すことを実行し、
前記複数のデータストリームに対する前記複数のデータストリームシグネチャは、前記複数のデータストリームにおける前記複数の同期ポイントおよび前記対応する複数のブロックシグネチャを含み、
前記第2のデータストリームにおける複数のビットの前記対応するブロックにハッシュ関数またはメッセージダイジェスト関数を適用して前記ブロックシグネチャが判定され、
前記複数のデータストリームが複数のビットの任意のシーケンスからなり、各同期ポイントが前記複数のデータストリーム中の複数のビットのシーケンスからなり、
前記複数のデータストリームのそれぞれにおいて、各同期ポイントの位置が、複数のビットの各ブロックの位置とは異なり、
前記複数のデータストリームのそれぞれに対して少なくとも1つのデータストリームシグネチャがある、
デバイス。 - コンピュータに、請求項1から14のいずれか一項に記載の方法を実行させるためのプログラム。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201261604859P | 2012-02-29 | 2012-02-29 | |
US61/604,859 | 2012-02-29 | ||
US201261607021P | 2012-03-06 | 2012-03-06 | |
US61/607,021 | 2012-03-06 | ||
PCT/US2013/026264 WO2013130281A1 (en) | 2012-02-29 | 2013-02-15 | Stream recognition and filtering |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015515770A JP2015515770A (ja) | 2015-05-28 |
JP6340668B2 true JP6340668B2 (ja) | 2018-06-13 |
Family
ID=49083160
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014559914A Expired - Fee Related JP6340668B2 (ja) | 2012-02-29 | 2013-02-15 | ストリーム認識およびフィルタリング |
Country Status (8)
Country | Link |
---|---|
US (2) | US9703869B2 (ja) |
EP (1) | EP2820564B1 (ja) |
JP (1) | JP6340668B2 (ja) |
KR (1) | KR20140131333A (ja) |
CN (1) | CN104205089B (ja) |
AU (1) | AU2013226430A1 (ja) |
TW (1) | TWI594626B (ja) |
WO (1) | WO2013130281A1 (ja) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9444726B2 (en) | 2012-07-31 | 2016-09-13 | At&T Intellectual Property I, L.P. | Distributing communication of a data stream among multiple devices |
US9356980B2 (en) | 2012-07-31 | 2016-05-31 | At&T Intellectual Property I, L.P. | Distributing communication of a data stream among multiple devices |
US9491093B2 (en) | 2012-07-31 | 2016-11-08 | At&T Intellectual Property I, L.P. | Distributing communication of a data stream among multiple devices |
US10567489B2 (en) * | 2013-03-15 | 2020-02-18 | Time Warner Cable Enterprises Llc | System and method for seamless switching between data streams |
FR3010606A1 (fr) * | 2013-12-27 | 2015-03-13 | Thomson Licensing | Procede de synchronisation de metadonnees avec un document audiovisuel en utilisant des parties de trames et dispositif de production de telles metadonnees |
EP3356961B1 (en) | 2015-10-02 | 2020-05-27 | Google LLC | Peer-to-peer syncable storage system |
US10437829B2 (en) | 2016-05-09 | 2019-10-08 | Level 3 Communications, Llc | Monitoring network traffic to determine similar content |
CN108021580A (zh) * | 2016-11-04 | 2018-05-11 | 广东亿迅科技有限公司 | 一种数据同步更新方法及其系统 |
JP2019047331A (ja) * | 2017-09-01 | 2019-03-22 | 株式会社リコー | データ生成装置、データ生成方法、プログラム及びデータ記録システム |
Family Cites Families (35)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4658093A (en) | 1983-07-11 | 1987-04-14 | Hellman Martin E | Software distribution system |
WO1995001599A1 (en) | 1993-07-01 | 1995-01-12 | Legent Corporation | System and method for distributed storage management on networked computer systems |
WO1996032685A1 (en) | 1995-04-11 | 1996-10-17 | Kinetech, Inc. | Identifying data in a data processing system |
JP3312105B2 (ja) * | 1997-02-05 | 2002-08-05 | 株式会社東芝 | 動画像インデックス生成方法および生成装置 |
US6807632B1 (en) | 1999-01-21 | 2004-10-19 | Emc Corporation | Content addressable information encapsulation, representation, and transfer |
US6717694B1 (en) * | 1998-07-31 | 2004-04-06 | Canon Kabushiki Kaisha | Data transmission apparatus, system and method, and recording medium |
US6574657B1 (en) * | 1999-05-03 | 2003-06-03 | Symantec Corporation | Methods and apparatuses for file synchronization and updating using a signature list |
US6819337B2 (en) * | 2000-06-28 | 2004-11-16 | Sun Microsystems, Inc. | Initializing a series of video routers that employ source-synchronous signaling |
JP4219086B2 (ja) * | 2000-12-21 | 2009-02-04 | 株式会社リコー | 抄本データ作成方法、抄本データ作成装置、そのための装置、及び記録媒体 |
US20040199786A1 (en) * | 2002-12-02 | 2004-10-07 | Walmsley Simon Robert | Randomisation of the location of secret information on each of a series of integrated circuits |
JP2004234641A (ja) * | 2003-01-08 | 2004-08-19 | Kddi Corp | コンテンツファイル制作者の認証方式およびそのプログラム |
US7809154B2 (en) | 2003-03-07 | 2010-10-05 | Technology, Patents & Licensing, Inc. | Video entity recognition in compressed digital video streams |
US7373520B1 (en) * | 2003-06-18 | 2008-05-13 | Symantec Operating Corporation | Method for computing data signatures |
US7519726B2 (en) | 2003-12-12 | 2009-04-14 | International Business Machines Corporation | Methods, apparatus and computer programs for enhanced access to resources within a network |
US8549177B2 (en) * | 2004-03-02 | 2013-10-01 | Divinetworks Ltd. | Communication server, method and systems, for reducing transportation volumes over communication networks |
JP4901164B2 (ja) * | 2005-09-14 | 2012-03-21 | ソニー株式会社 | 情報処理装置、情報記録媒体、および方法、並びにコンピュータ・プログラム |
US8271403B2 (en) | 2005-12-09 | 2012-09-18 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Method and apparatus for automatic comparison of data sequences using local and global relationships |
US7627641B2 (en) * | 2006-03-09 | 2009-12-01 | Watchguard Technologies, Inc. | Method and system for recognizing desired email |
JP5022025B2 (ja) * | 2006-12-27 | 2012-09-12 | インターナショナル・ビジネス・マシーンズ・コーポレーション | コンテンツのデータ・ストリームとメタデータを同期するための方法および装置。 |
JP2008211022A (ja) * | 2007-02-27 | 2008-09-11 | Toshiba Corp | 不揮発性半導体記憶装置及びその製造方法 |
CN101796835B (zh) * | 2007-07-02 | 2012-08-08 | Lg电子株式会社 | 数字广播系统和数据处理方法 |
US8732236B2 (en) * | 2008-12-05 | 2014-05-20 | Social Communications Company | Managing network communications between network nodes and stream transport protocol |
US20090109840A1 (en) | 2007-10-31 | 2009-04-30 | Hallse Brian L | Fault-resistant digital-content-stream AV packet switch |
US7925708B2 (en) | 2008-01-04 | 2011-04-12 | Yahoo! Inc. | System and method for delivery of augmented messages |
JP5337411B2 (ja) | 2008-06-13 | 2013-11-06 | 京セラドキュメントソリューションズ株式会社 | 情報秘匿化方法および情報秘匿化装置 |
US8135930B1 (en) * | 2008-07-14 | 2012-03-13 | Vizioncore, Inc. | Replication systems and methods for a virtual computing environment |
US8400566B2 (en) * | 2008-08-21 | 2013-03-19 | Dolby Laboratories Licensing Corporation | Feature optimization and reliability for audio and video signature generation and detection |
US20100138414A1 (en) * | 2008-12-01 | 2010-06-03 | Andrew Newman | Methods and systems for associative search |
JP2009151798A (ja) * | 2009-01-19 | 2009-07-09 | Sony Corp | 画像処理装置および方法 |
JP5291523B2 (ja) * | 2009-04-21 | 2013-09-18 | 株式会社データ変換研究所 | 類似データ検索装置及びそのプログラム |
US9419801B2 (en) * | 2009-05-12 | 2016-08-16 | Infrascale Inc. | System and method for transmitting needed portions of a data file between networked computers |
JP5297297B2 (ja) * | 2009-08-11 | 2013-09-25 | Kddi株式会社 | 動画コンテンツ検出装置 |
US8325276B2 (en) * | 2009-08-26 | 2012-12-04 | Samsung Electronics Co., Ltd. | System and method for real-time video content sharing with synchronization via closed-caption metadata |
US8910202B2 (en) * | 2009-12-08 | 2014-12-09 | Harmonic, Inc. | Modification and distribution of video content |
US20120176386A1 (en) * | 2011-01-10 | 2012-07-12 | Hutchins Edward A | Reducing recurrent computation cost in a data processing pipeline |
-
2013
- 2013-02-15 WO PCT/US2013/026264 patent/WO2013130281A1/en active Application Filing
- 2013-02-15 CN CN201380011606.9A patent/CN104205089B/zh not_active Expired - Fee Related
- 2013-02-15 JP JP2014559914A patent/JP6340668B2/ja not_active Expired - Fee Related
- 2013-02-15 KR KR1020147024179A patent/KR20140131333A/ko not_active Application Discontinuation
- 2013-02-15 EP EP13754088.6A patent/EP2820564B1/en active Active
- 2013-02-15 AU AU2013226430A patent/AU2013226430A1/en not_active Abandoned
- 2013-02-26 TW TW102106683A patent/TWI594626B/zh not_active IP Right Cessation
-
2014
- 2014-08-05 US US14/452,465 patent/US9703869B2/en active Active
-
2015
- 2015-03-27 US US14/671,695 patent/US10068017B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
WO2013130281A1 (en) | 2013-09-06 |
US20140351280A1 (en) | 2014-11-27 |
CN104205089A (zh) | 2014-12-10 |
US20150248485A1 (en) | 2015-09-03 |
US9703869B2 (en) | 2017-07-11 |
KR20140131333A (ko) | 2014-11-12 |
AU2013226430A1 (en) | 2014-09-04 |
EP2820564A4 (en) | 2015-11-25 |
US10068017B2 (en) | 2018-09-04 |
EP2820564B1 (en) | 2019-04-10 |
EP2820564A1 (en) | 2015-01-07 |
TWI594626B (zh) | 2017-08-01 |
TW201340689A (zh) | 2013-10-01 |
JP2015515770A (ja) | 2015-05-28 |
CN104205089B (zh) | 2018-10-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6340668B2 (ja) | ストリーム認識およびフィルタリング | |
US8954392B2 (en) | Efficient de-duping using deep packet inspection | |
US8078593B1 (en) | Dictionary architecture and methodology for revision-tolerant data de-duplication | |
US7504969B2 (en) | Locality-based stream segmentation for data deduplication | |
NL2011817C2 (en) | A method of generating a reference index data structure and method for finding a position of a data pattern in a reference data structure. | |
WO2005101292A3 (fr) | Procédé de recherche de contenu, notamment d'extraits communs entre deux fichiers informatiques | |
CN111767364B (zh) | 数据处理方法、装置和设备 | |
US10339124B2 (en) | Data fingerprint strengthening | |
AU2021287730A1 (en) | Systems and methods for compression and encryption of data | |
WO2017171574A1 (en) | Backup server selection based on data commonality | |
US8868584B2 (en) | Compression pattern matching | |
JP2012164130A (ja) | データ分割プログラム | |
WO2014089802A1 (zh) | 一种数据处理方法及装置 | |
US20170048303A1 (en) | On the fly statistical delta differencing engine | |
KR102187938B1 (ko) | Ip 주소의 국가 정보를 처리하는 데이터 처리 방법 및 장치 | |
US20170039212A1 (en) | Method and system for managing client data replacement | |
US9189488B2 (en) | Determination of landmarks | |
NL2015248B1 (en) | Method and system for managing client data replacement. | |
Lei | Forensic analysis of unallocated space | |
KR20210002066A (ko) | Ip 주소의 국가 정보를 처리하는 데이터 처리 방법 및 장치 | |
CN111880970A (zh) | 一种快捷远程文件备份方法 | |
JP2021057887A (ja) | データ構造 | |
US20170048302A1 (en) | Static statistical delta differencing engine | |
JP2009521756A (ja) | 階層式セグメント化巡回冗長検査による遠隔地でのファイルの修復 | |
JP2008211524A (ja) | パケット制御装置、パケット制御方法及びパケット制御プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160215 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20160215 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20160314 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160510 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20160720 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20161109 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170214 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170511 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20170808 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20171208 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20180126 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180403 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20180425 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180425 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20180426 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6340668 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |