JP2023515804A - 人工知能ベースのベースコールのためのデータ圧縮 - Google Patents

人工知能ベースのベースコールのためのデータ圧縮 Download PDF

Info

Publication number
JP2023515804A
JP2023515804A JP2022549987A JP2022549987A JP2023515804A JP 2023515804 A JP2023515804 A JP 2023515804A JP 2022549987 A JP2022549987 A JP 2022549987A JP 2022549987 A JP2022549987 A JP 2022549987A JP 2023515804 A JP2023515804 A JP 2023515804A
Authority
JP
Japan
Prior art keywords
spatial
cycle
sequencing
temporal
compressed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022549987A
Other languages
English (en)
Other versions
JPWO2021168356A5 (ja
Inventor
ジェリー・ベッセル
ギャヴィン・デレク・パーナビー
アニンディタ・ダッタ
ドルナ・カシフハギギ
キショール・ジャガナタン
アミラリ・キア
Original Assignee
イルミナ インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by イルミナ インコーポレイテッド filed Critical イルミナ インコーポレイテッド
Publication of JP2023515804A publication Critical patent/JP2023515804A/ja
Publication of JPWO2021168356A5 publication Critical patent/JPWO2021168356A5/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • C—CHEMISTRY; METALLURGY
    • C12—BIOCHEMISTRY; BEER; SPIRITS; WINE; VINEGAR; MICROBIOLOGY; ENZYMOLOGY; MUTATION OR GENETIC ENGINEERING
    • C12Q—MEASURING OR TESTING PROCESSES INVOLVING ENZYMES, NUCLEIC ACIDS OR MICROORGANISMS; COMPOSITIONS OR TEST PAPERS THEREFOR; PROCESSES OF PREPARING SUCH COMPOSITIONS; CONDITION-RESPONSIVE CONTROL IN MICROBIOLOGICAL OR ENZYMOLOGICAL PROCESSES
    • C12Q1/00—Measuring or testing processes involving enzymes, nucleic acids or microorganisms; Compositions therefor; Processes of preparing such compositions
    • C12Q1/68—Measuring or testing processes involving enzymes, nucleic acids or microorganisms; Compositions therefor; Processes of preparing such compositions involving nucleic acids
    • C12Q1/6869—Methods for sequencing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/23—Clustering techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G06V10/443—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
    • G06V10/449—Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters
    • G06V10/451—Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters with interaction between the filter responses, e.g. cortical complex cells
    • G06V10/454—Integrating the filters into a hierarchical structure, e.g. convolutional neural networks [CNN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/762—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using clustering, e.g. of similar faces in social networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/7715—Feature extraction, e.g. by transforming the feature space, e.g. multi-dimensional scaling [MDS]; Mappings, e.g. subspace methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16B—BIOINFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR GENETIC OR PROTEIN-RELATED DATA PROCESSING IN COMPUTATIONAL MOLECULAR BIOLOGY
    • G16B30/00—ICT specially adapted for sequence analysis involving nucleotides or amino acids
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16B—BIOINFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR GENETIC OR PROTEIN-RELATED DATA PROCESSING IN COMPUTATIONAL MOLECULAR BIOLOGY
    • G16B30/00—ICT specially adapted for sequence analysis involving nucleotides or amino acids
    • G16B30/20—Sequence assembly
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16B—BIOINFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR GENETIC OR PROTEIN-RELATED DATA PROCESSING IN COMPUTATIONAL MOLECULAR BIOLOGY
    • G16B40/00—ICT specially adapted for biostatistics; ICT specially adapted for bioinformatics-related machine learning or data mining, e.g. knowledge discovery or pattern finding
    • G16B40/10—Signal processing, e.g. from mass spectrometry [MS] or from PCR
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16B—BIOINFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR GENETIC OR PROTEIN-RELATED DATA PROCESSING IN COMPUTATIONAL MOLECULAR BIOLOGY
    • G16B40/00—ICT specially adapted for biostatistics; ICT specially adapted for bioinformatics-related machine learning or data mining, e.g. knowledge discovery or pattern finding
    • G16B40/20—Supervised data analysis

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Chemical & Material Sciences (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Biotechnology (AREA)
  • Proteomics, Peptides & Aminoacids (AREA)
  • Analytical Chemistry (AREA)
  • Organic Chemistry (AREA)
  • Public Health (AREA)
  • Bioethics (AREA)
  • Epidemiology (AREA)
  • Wood Science & Technology (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Zoology (AREA)
  • Neurology (AREA)
  • Signal Processing (AREA)
  • Biochemistry (AREA)

Abstract

開示された技術は、ベースコールの人工知能ベースの方法に関する。具体的には、開示された技術は、シーケンシングランのシーケンシングサイクルの第１のウィンドウに対して、ニューラルネットワークベースのベースコーラーの空間ネットワークを介して、サイクルごとの分析物チャネルセットの第１のウィンドウを処理し、シーケンシングサイクルの第１のウィンドウにおけるそれぞれのシーケンシングサイクルに対して、空間出力セットのそれぞれのシーケンスを生成することと、ニューラルネットワークベースのベースコーラーの圧縮ネットワークを介して、空間出力セットのそれぞれのシーケンス内のそれぞれの最終空間出力セットを処理し、シーケンシングサイクルの第１のウィンドウにおけるそれぞれのシーケンシングサイクルに対して、それぞれの圧縮された空間出力セットを生成することと、それぞれの圧縮された空間出力セットに基づいて、シーケンシングサイクルの第１のウィンドウにおいて、１つ以上のシーケンシングサイクルに対するベースコール予測を生成することと、に関する。

Description

開示される技術は、人工知能タイプコンピュータ及びデジタルデータ処理システム、並びに知能のエミュレーションのための対応するデータ処理方法及び製品（すなわち、知識ベースシステム、推論システム、及び知識獲得システム）に関し、開示される技術は、不確実性下で推論するためのシステム（例えば、ファジィ論理システム）、適応型システム、機械学習システム、及び人工ニューラルネットワークを含む。具体的には、開示される技術は、データを分析するための深層畳み込みニューラルネットワークなどの深層ニューラルネットワークを使用することに関する。
（優先権出願）
本ＰＣＴ出願は、２０２０年２月２０日に出願された「ＤＡＴＡ ＣＯＭＰＲＥＳＳＩＯＮ ＦＯＲ ＡＲＴＩＦＩＣＩＡＬ ＩＮＴＥＬＬＩＧＥＮＣＥ－ＢＡＳＥＤ ＢＡＳＥ ＣＡＬＬＩＮＧ」と題する米国仮特許出願第６２／９７９，４１１号（代理人整理番号ＩＬＬＭ １０２９－１／ＩＰ－１９６４－ＰＲＶ）、及び２０２１年２月１８日に出願された「ＤＡＴＡ ＣＯＭＰＲＥＳＳＩＯＮ ＦＯＲ ＡＲＴＩＦＩＣＩＡＬ ＩＮＴＥＬＬＩＧＥＮＣＥ－ＢＡＳＥＤ ＢＡＳＥ ＣＡＬＬＩＮＧ」と題する米国特許出願第１７／１７９，３９５号（代理人整理番号ＩＬＬＭ１０２９－２／ＩＰ－１９６４－ＵＳ）の優先権及び利益を主張する。優先権出願は、本明細書に完全に記載されているかのように、全ての目的のために参照により本明細書に組み込まれる。
本ＰＣＴ出願は、２０２０年２月２０日に出願された「ＳＱＵＥＥＺＩＮＧ ＬＡＹＥＲ ＦＯＲ ＡＲＴＩＦＩＣＩＡＬ ＩＮＴＥＬＬＩＧＥＮＣＥ－ＢＡＳＥＤ ＢＡＳＥ ＣＡＬＬＩＮＧ」と題する米国仮特許出願第６２／９７９，３９９号（代理人整理番号、ＩＬＬＭ１０３０－１／ＩＰ－１９８２－ＰＲＶ）、及び２０２１年２月１９日に出願された「ＳＰＬＩＴ ＡＲＣＨＩＴＥＣＴＵＲＥ ＦＯＲ ＡＲＴＩＦＩＣＩＡＬ ＩＮＴＥＬＬＩＧＥＮＣＥ－ＢＡＳＥＤ ＢＡＳＥ ＣＡＬＬＥＲ」と題する米国特許出願第１７／１８０，４８０号（代理人整理番号ＩＬＬＭ１０３０－２／ＩＰ－１９８２－ＵＳ）の優先権及び利益を主張する。優先権出願は、本明細書に完全に記載されているかのように、全ての目的のために参照により本明細書に組み込まれる。
本ＰＣＴ出願は、２０２１年２月１９日に出願された「ＢＵＳ ＮＥＴＷＯＲＫ ＦＯＲ ＡＲＴＩＦＩＣＩＡＬ ＩＮＴＥＬＬＩＧＥＮＣＥ－ＢＡＳＥＤ ＢＡＳＥ ＣＡＬＬＥＲ」と題する米国特許出願第１７／１８０，５１３号（代理人整理番号ＩＬＬＭ１０３１－２／ＩＰ－１９６５－ＵＳ）の優先権及び利益を主張する。優先権出願は、本明細書に完全に記載されているかのように、全ての目的のために参照により本明細書に組み込まれる。
（組み込み）
以下の文献は、本明細書に完全に記載されているかのように、参照により組み込まれる：
２０２０年２月２０日に出願された「ＡＲＴＩＦＩＣＩＡＬ ＩＮＴＥＬＬＩＧＥＮＣＥ－ＢＡＳＥＤ ＢＡＳＥ ＣＡＬＬＩＮＧ ＯＦ ＩＮＤＥＸ ＳＥＱＵＥＮＣＥＳ」と題する米国仮特許出願第６２／９７９，３８４号（代理人整理番号ＩＬＬＭ １０１５－１／ＩＰ－１８５７－ＰＲＶ）、
２０２０年２月２０日に出願された「ＡＲＴＩＦＩＣＩＡＬ ＩＮＴＥＬＬＩＧＥＮＣＥ－ＢＡＳＥＤ ＭＡＮＹ－ＴＯ－ＭＡＮＹ ＢＡＳＥ ＣＡＬＬＩＮＧ」と題する米国仮特許出願第６２／９７９，４１４号（代理人整理番号ＩＬＬＭ １０１６－１／ＩＰ－１８５８－ＰＲＶ）、
２０２０年２月２０日に出願された「ＫＮＯＷＬＥＤＧＥ ＤＩＳＴＩＬＬＡＴＩＯＮ－ＢＡＳＥＤ ＣＯＭＰＲＥＳＳＩＯＮ ＯＦ ＡＲＴＩＦＩＣＩＡＬ ＩＮＴＥＬＬＩＧＥＮＣＥ－ＢＡＳＥＤ ＢＡＳＥ ＣＡＬＬＥＲ」と題する米国仮特許出願第６２／９７９，３８５号（代理人整理番号ＩＬＬＭ １０１７－１／ＩＰ－１８５９－ＰＲＶ）、
２０２０年８月２８日に出願された「ＤＥＴＥＣＴＩＮＧ ＡＮＤ ＦＩＬＴＥＲＩＮＧ ＣＬＵＳＴＥＲＳ ＢＡＳＥＤ ＯＮ ＡＲＴＩＦＩＣＩＡＬ ＩＮＴＥＬＬＩＧＥＮＣＥ－ＰＲＥＤＩＣＴＥＤ ＢＡＳＥ ＣＡＬＬＳ」と題する米国仮特許出願第６３／０７２，０３２号（代理人整理番号ＩＬＬＭ １０１８－１／ＩＰ－１８６０－ＰＲＶ）、
２０２０年２月２０日に出願された「ＭＵＬＴＩ－ＣＹＣＬＥ ＣＬＵＳＴＥＲ ＢＡＳＥＤ ＲＥＡＬ ＴＩＭＥ ＡＮＡＬＹＳＩＳ ＳＹＳＴＥＭ」と題する米国仮特許出願第６２／９７９，４１２号（代理人整理番号ＩＬＬＭ １０２０－１／ＩＰ－１８６６－ＰＲＶ）、
２０２０年３月２０日に出願された「ＴＲＡＩＮＩＮＧ ＤＡＴＡ ＧＥＮＥＲＡＴＩＯＮ ＦＯＲ ＡＲＴＩＦＩＣＩＡＬ ＩＮＴＥＬＬＩＧＥＮＣＥ－ＢＡＳＥＤ ＳＥＱＵＥＮＣＩＮＧ」と題する米国非仮特許出願第１６／８２５，９８７号（代理人整理番号ＩＬＬＭ １００８－１６／ＩＰ－１６９３－ＵＳ）、
２０２０年３月２０日に出願された「ＡＲＴＩＦＩＣＩＡＬ ＩＮＴＥＬＬＩＧＥＮＣＥ－ＢＡＳＥＤ ＧＥＮＥＲＡＴＩＯＮ ＯＦ ＳＥＱＵＥＮＣＩＮＧ ＭＥＴＡＤＡＴＡ」と題する米国非仮特許出願第１６／８２５，９９１号（代理人整理番号ＩＬＬＭ １００８－１７／ＩＰ－１７４１－ＵＳ）、
２０２０年３月２０日に出願された「ＡＲＴＩＦＩＣＩＡＬ ＩＮＴＥＬＬＩＧＥＮＣＥ－ＢＡＳＥＤ ＢＡＳＥ ＣＡＬＬＩＮＧ」と題する米国非仮特許出願第１６／８２６，１２６号（代理人整理番号ＩＬＬＭ １００８－１８／ＩＰ－１７４４－ＵＳ）、
２０２０年３月２０日に出願された「ＡＲＴＩＦＩＣＩＡＬ ＩＮＴＥＬＬＩＧＥＮＣＥ－ＢＡＳＥＤ ＱＵＡＬＩＴＹ ＳＣＯＲＩＮＧ」と題する米国非仮特許出願第１６／８２６，１３４号（代理人整理番号ＩＬＬＭ １００８－１９／ＩＰ－１７４７－ＵＳ）、及び
２０２０年３月２１日に出願された「ＡＲＴＩＦＩＣＩＡＬ ＩＮＴＥＬＬＩＧＥＮＣＥ－ＢＡＳＥＤ ＳＥＱＵＥＮＣＩＮＧ」と題する米国非仮特許出願第１６／８２６，１６８号（代理人整理番号ＩＬＬＭ １００８－２０／ＩＰ－１７５２－ＰＲＶ－ＵＳ）。
このセクションで考察される主題は、単にこのセクションにおける言及の結果として、先行技術であると想定されるべきではない。同様に、このセクションで言及した問題、又は背景として提供された主題と関連付けられた問題は、先行技術において以前に認識されていると想定されるべきではない。このセクションの主題は、単に、異なるアプローチを表し、それ自体はまた、特許請求される技術の実施態様に対応し得る。
計算能力の急速な改善により、近年、多くのコンピュータビジョンタスクにおいて、深層畳み込みニューラルネットワーク（convolution neural network、ＣＮＮ）が、著しく改善された精度で、大成功を収めることが可能となった。推論段階の間、多くのアプリケーションは、厳密な電力消費要件を伴う、１つの画像の低遅延の処理を必要とし、これにより、グラフィックス処理ユニット（graphics processing unit、ＧＰＵ）及び他の汎用プラットフォームの効率が低下し、そのことは、特定のアクセレレーションハードウェア、例えば、フィールドプログラマブルゲートアレイ（Field Programmable Gate Array、ＦＰＧＡ）にとっては、深層学習アルゴリズムの推論に特に効果的となるようにデジタル回路をカスタマイズすることによって、好機をもたらすこととなる。しかしながら、携帯型及び埋め込み式システムにＣＮＮを配備することは、大きなデータ量、集中的な計算、様々なアルゴリズム構造、及び頻繁なメモリアクセスのために依然として困難である。
畳み込みが、ＣＮＮにおけるほとんどの演算を提供するので、畳み込みアクセレレーションスキームが、ハードウェアＣＮＮアクセラレータの効率及び性能に大きく影響することになる。畳み込みは、カーネル及び特徴マップに沿ってスライドする４つのレベルのループを伴う、積和（multiply and accumulate、ＭＡＣ）演算を含む。第１のループレベルは、１つのカーネルウィンドウ内のピクセルのＭＡＣを計算する。第２のループレベルは、様々な異なる入力特徴マップにわたるＭＡＣの積の和を累積する。第１及び第２のループレベルを完了した後、バイアスを追加することにより、最終出力ピクセルが得られる。第３のループレベルは、入力特徴マップ内で、カーネルウィンドウをスライドさせる。第４のループレベルは、様々な異なる出力特徴マップを生成する。
ＦＰＧＡは、特に、推論タスクを加速化するために、より多くの関心を集め、より広く普及してきた。それは、ＦＰＧＡが、（１）再構成可能性が高く、（２）ＣＮＮの急速な進化にキャッチアップするために必要な開発時間の速さという点で、特定用途向け集積回路（application specific integrated circuit、ＡＳＩＣ）と比較して優れており、（３）良好な性能を有し、（４）ＧＰＵと比較して、エネルギー効率が優れている、ということに起因する。ＦＰＧＡの高い性能及び高い効率性は、特定の計算のためにカスタマイズされた回路を合成して、カスタマイズされたメモリシステムで数十億回の演算を直接処理することによって実現することができる。例えば、現代のＦＰＧＡにおける数百から数千のデジタル信号処理（digital signal processing、ＤＳＰ）ブロックは、コア畳み込み演算、例えば、高度の並列処理を伴う積和演算をサポートする。外部オンチップメモリとオンチッププロセッシングエンジン（processing engine、ＰＥ）と間の専用データバッファは、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）チップ上に、数十メガバイトのオンチップブロックランダムアクセスメモリ（block random access memory、ＢＲＡＭ）を構成することにより、優先データフローを実現するように設計することができる。
高性能を達成するためにリソース利用を最大化しながら、データ通信を最小限に抑えるために、ＣＮＮアクセレレーションの効率的なデータフロー及びハードウェアアーキテクチャが望まれている。アクセレレーションハードウェア上の様々なＣＮＮアルゴリズムの推論プロセスを加速化し、高い性能、高い効率、及び高い柔軟性を実現するための方法論及びフレームワークを設計するための好機が生じることとなる。
ベースコールの人工知能ベースの方法であって、前記方法が、
シーケンシングランのシーケンシングサイクルに対して生成されたサイクルごとの分析物チャネルセットのシリーズにアクセスすることと、
ニューラルネットワークベースのベースコーラーの空間ネットワークを介して、前記シーケンシングランのシーケンシングサイクルの第１のウィンドウに対する、前記シリーズ内のサイクルごとの分析物チャネルセットの第１のウィンドウを処理し、前記シーケンシングサイクルの第１のウィンドウにおけるそれぞれのシーケンシングサイクルに対する空間出力セットのそれぞれのシーケンスを生成することと、
前記ニューラルネットワークベースのベースコーラーの圧縮ネットワークを介して、前記空間出力セットのそれぞれのシーケンス内のそれぞれの最終空間出力セットを処理し、前記シーケンシングサイクルの第１のウィンドウにおける前記それぞれのシーケンシングサイクルに対するそれぞれの圧縮空間出力セットを生成することと、
前記それぞれの圧縮空間出力セットに基づいて、前記シーケンシングサイクルの第１のウィンドウにおける１つ以上のシーケンシングサイクルに対するベースコール予測を生成することと、を含む。
図面では、同様の参照文字は、概して、異なる図全体を通して同様の部分を指す。また、図面は必ずしも縮尺どおりではなく、その代わりに、開示された技術の原理を例示することを強調している。以下の説明では、開示される技術の様々な実施態様が、以下の図面を参照して説明される。
ベースコールの第１の反復のための圧縮空間マップセットを生成する、開示された圧縮ロジックの一実施態様を示す。 開示された時間ロジックによって圧縮空間マップセットを処理して、時間マップセットを生成する一実施態様を示す。 開示された出力ロジックによって時間マップセットを処理して、ベースコール分類データを生成する一実施態様を示す。 対象シーケンシングサイクルに対するサイクルごとの画像パッチの処理に応答して、空間畳み込み層のカスケードによって連続的に生成された特徴マップボリュームのシーケンスの一例を示す。 １×１の畳み込みが特徴マップをどのように圧縮するかを示す一例を示す。 開示された圧縮ロジックによって達成される圧縮比が、開示された圧縮ロジックによって適用される圧縮フィルタの数の関数であることを示す。 例示的なソフトマックス関数を示す。 開示された技術によって生成されたクラスタごと、サイクルごとの確率四分位数の例を示す。 ベースコールの２回目の反復中に、空間マップと対応する圧縮空間マップが、重なり合わないシーケンシングサイクル６に対してのみ生成されることを示す。 ベースコールの第１の反復中に生成された圧縮空間マップセットが、ベースコールの第２の反復中に生成された圧縮空間マップセットと併せて使用されて、中央シーケンシングサイクル４に対するベースコールを生成することを示す。 出力層が、ベースコールの第２の反復中に生成された最終時間マップセットを処理し、中央シーケンシングサイクル４のベースコールを生成することを示す。 ベースコールの３回目の反復中に、空間マップと対応する圧縮空間マップが、重なり合わないシーケンシングサイクル７に対してのみ生成されることを示す。 ベースコールの第１及び第２の反復中に生成された圧縮空間マップセットが、ベースコールの第３の反復中に生成された圧縮空間マップセットと併せて使用されて、中央シーケンシングサイクル５のベースコールを生成することを示す。 出力層が、ベースコールの第３の反復中に生成された最終時間マップセットを処理し、中央シーケンシングサイクル５のベースコールを生成することを示す。 中央シーケンシングサイクル１６をベースコールするためのベースコールの第１４の反復を示す。 シーケンシングサイクル１～２９に対して以前に生成された圧縮空間マップを使用して、中央シーケンシングサイクル１６をベースコールするための最終時間マップセットを生成することを示す。 出力層が、ベースコールの第１４の反復中に生成された最終時間マップセットを処理し、中央シーケンシングサイクル１６のベースコールを生成することを示す。 フィルタリングロジックを使用して、それぞれのシーケンシングサイクル１、２、３、４、及び５に対する圧縮空間マップセットをフィルタリングして、ベースコールの第１の反復中に、それぞれのフィルタリングされた圧縮空間マップを生成する一実施態様を示す。 出力層が、ベースコールの第１の反復中に生成された、フィルタリングされた最終時間マップセットを処理し、中央シーケンシングサイクル３のベースコールを生成することを示す。 フィルタリングロジックを使用して、それぞれのシーケンシングサイクル２、３、４、５、及び６の圧縮空間マップセットをフィルタリングして、ベースコールの第２の反復中に、それぞれのフィルタリングされた圧縮空間マップを生成する一実施態様を示す。 出力層が、ベースコールの第２の反復中に生成された、フィルタリングされた最終時間マップセットを処理し、中央シーケンシングサイクル４のベースコールを生成することを示す。 フィルタリングロジックを使用して、それぞれのシーケンシングサイクル３、４、５、６、及び７の圧縮空間マップセットをフィルタリングして、ベースコールの第３の反復中に、それぞれのフィルタリングされた圧縮空間マップを生成する一実施態様を示す。 出力層が、ベースコールの第３の反復中に生成された、フィルタリングされた最終時間マップセットを処理し、中央シーケンシングサイクル５のベースコールを生成することを示す。 圧縮ロジックによって、ベースコールの第１の反復中に生成された時間特徴マップのセットを処理して、圧縮時間特徴マップのそれぞれのセットを生成する一実施態様を示す。 出力層が、ベースコールの第１の反復中に生成された、最終圧縮時間マップセットを処理し、中央シーケンシングサイクル３のベースコールを生成することを示す。 第１のベースコール反復中に生成された圧縮時間マップセットが、ベースコールの第２の反復中に生成された圧縮時間マップセットと併せて使用されて、中央シーケンシングサイクル４のベースコールを生成することを示す。 出力層が、ベースコールの第２の反復中に生成された、最終圧縮時間マップセットを処理し、中央シーケンシングサイクル４のベースコールを生成することを示す。 第１及び第２のベースコール反復中に生成された圧縮時間マップセットが、ベースコールの第３の反復中に生成された圧縮時間マップセットと併せて使用されて、中央シーケンシングサイクル５のベースコールを生成することを示す。 出力層が、ベースコールの第３の反復中に生成された、最終圧縮時間マップセットを処理し、中央シーケンシングサイクル５のベースコールを生成することを示す。 圧縮ロジックによって、ベースコールの第１の反復中に生成された、フィルタリングされた時間特徴マップのセットを処理して、フィルタリングされた圧縮時間特徴マップのそれぞれのセットを生成する一実施態様を示す。 出力層が、ベースコールの第１の反復中に生成された、フィルタリングされた最終圧縮時間マップセットを処理し、中央シーケンシングサイクル３のベースコールを生成することを示す。 第１のベースコールの反復中に生成された、フィルタリングされた圧縮時間マップセットが、ベースコールの第２の反復中に生成されたフィルタリングされた圧縮時間マップセットと併せて使用されて、中央シーケンシングサイクル４のベースコールを生成することを示す。 出力層が、ベースコールの第２の反復中に生成された、フィルタリングされた最終圧縮時間マップセットを処理し、中央シーケンシングサイクル４のベースコールを生成することを示す。 第１及び第２のベースコールの反復中に生成された、フィルタリングされた圧縮時間マップセットが、ベースコールの第３の反復中に生成された、フィルタリングされた圧縮時間マップセットと併せて使用されて、中央シーケンシングサイクル５のベースコールを生成することを示す。 出力層が、ベースコールの第３の反復中に生成された、フィルタリングされた最終圧縮時間マップセットを処理し、中央シーケンシングサイクル５のベースコールを生成することを示す。 本明細書に開示されるニューラルネットワークベースのベースコーラーの、第１の例示的なアーキテクチャを示す。 本明細書に開示されるニューラルネットワークベースのベースコーラーの、第２の例示的なアーキテクチャを示す。 本明細書に開示されるニューラルネットワークベースのベースコーラーの、第３の例示的なアーキテクチャを示す。 本明細書に開示されるニューラルネットワークベースのベースコーラーの、第４の例示的なアーキテクチャを示す。 入力データ内のチャネルの数に応じて、圧縮層内の畳み込みフィルタの数（又は大きな数）を構成する、フィルタ構成ロジックの一実施態様を示す。 シーケンシングシステムの一実施態様を示す。 シーケンシングシステムの一実施態様を示す。シーケンシングシステムは、構成可能なプロセッサを含む。 ベースコールセンサ出力などの、シーケンシングシステムからのセンサデータの、分析のためのシステムの簡略ブロック図である。 ホストプロセッサによって実行される実行時プログラムの機能を含む、ベースコール動作の態様を示す簡略図である。 構成可能なプロセッサの構成の簡略図である。 オフチップメモリ（例えば、オフチップのＤＲＡＭ、ホストＲＡＭ、ホスト高帯域幅メモリ（high bandwidth memory、ＨＢＭ））から、第２のベースコール反復の間に利用可能な、第１のベースコール反復中に生成された圧縮空間マップを作成する、開示されたデータフローロジックの別の実施態様を示している。 オンチップメモリ（例えば、オンチップのＤＲＡＭ、オンチップのＳＲＡＭ、オンチップのＢＲＡＭ、相互接続を介してプロセッサに取り付けられたＤＲＡＭ）から、第２のベースコール反復中に利用可能な、第１のベースコール反復中に生成された圧縮空間マップを作成する、開示されたデータフローロジックの一実施態様を示す。 開示されたニューラルネットワークベースのベースコーラーの、いわゆる分割アーキテクチャの一実施態様を示す。 特徴マップ付加を介して、以前の情報を下流に再度注入する、残留接続を示す。 残留ブロック及びスキップ接続の一実施態様を示す。 空間畳み込み層がスキップ接続で残留ブロックにグループ化される、ニューラルネットワークベースのベースコーラーの残留アーキテクチャを示す。 本明細書に記載のニューラルネットワークベースのベースコーラーの開示されたバスネットワークの詳細を示す。 開示されたバスネットワークの例示的な動作を示す。 開示されたバスネットワークの次元適合性ロジックの一実施態様を示す。 開示されたバスネットワークの別の例を示す。 開示されたバスネットワークの更に別の例を示す。 開示されたバスネットワークのスケーリングロジックの一実施態様を示す。 時間ネットワークの時間畳み込み層間のスキップ接続の一実施態様を示す。 圧縮ロジックで構成されたネットワークネットワークベースのベースコーラー（ｓｑｚ２ベースコーラー）によるベースコール性能を、圧縮ロジックを有しないネットワークネットワークベースのベースコーラーと、Ｉｌｌｕｍｉｎａの非ニューラルネットワークベースのベースコーラーリアルタイム分析（Real-Time Analysis、ＲＴＡ）ソフトウェアとに対して、比較するグラフである。 開示された圧縮ロジックの使用によってもたらされるＲＡＭ及びＤＲＡＭの使用の節約を示す。 分割及びスキップアーキテクチャ（ｓｐｌｉｔ＿ｒｅｓ）で構成されたネットワークネットワークベースのベースコーラーによるベースコール性能を、ＲＴＡベースコーラーに対して、かつ分割及びスキップアーキテクチャを伴わない（ディスティルド）ネットワークネットワークベースのベースコーラーの別のバージョンに対して比較するグラフである。 開示される技術を実装するように使用され得るコンピュータシステムである。
以下の考察は、開示された技術を当業者が作製及び使用することを可能にするために提示され、特定の用途及びその要件に関連して提供される。開示される実施態様に対する様々な修正は、当業者には容易に明らかとなり、本明細書で定義される一般原理は、開示される技術の趣旨及び範囲から逸脱することなく、他の実施態様及び用途に適用され得る。したがって、開示される技術は、示される実施態様に限定されることを意図するものではなく、本明細書に開示される原理及び特徴と一致する最も広い範囲を与えられるものである。
シーケンス画像
ベースコールは、シーケンスのヌクレオチド組成を決定するプロセスである。ベースコールは、ＩｌｌｕｍｉｎａのｉＳｅｑ、ＨｉＳｅｑＸ、ＨｉＳｅｑ３０００、ＨｉＳｅｑ４０００、ＨｉＳｅｑ２５００、ＮｏｖａＳｅｑ６０００、ＮｅｘｔＳｅｑ５５０、ＮｅｘｔＳｅｑ１０００、ＮｅｘｔＳｅｑ２０００、ＮｅｘｔＳｅｑＤｘ、ＭｉＳｅｑ、及びＭｉＳｅｑＤｘなどのシーケンシング機器によって行われる、シーケンシングラン（又はシーケンシング反応）中に生成された画像データ、すなわちシーケンス画像の分析を伴う。
以下の説明は、一実施態様に従って、シーケンス画像がどのように生成されるか、及びそれらの画像が何を描いているのかを概説する。
ベースコールは、シーケンス画像にコード化された強度データを、ヌクレオチドシーケンスにデコードする。一実施態様では、Ｉｌｌｕｍｉｎａのシーケンシングプラットフォームは、ベースコールのための循環可逆的ターミネーション（Cyclic Reversible Termination、ＣＲＴ）化学を採用する。このプロセスは、新たに添加された各ヌクレオチドの放出信号を追跡しながら、蛍光標識されたヌクレオチドを有するテンプレート鎖に相補的な、成長しつつある新生ストランドに依存する。蛍光標識されたヌクレオチドは、ヌクレオチド型のフルオロフォアシグナルをアンカーする、３’の取り外し可能なブロックを有する。
シーケンシングは、反復サイクルで行われ、反復サイクルの各々は、以下の３つのステップを含む：（ａ）蛍光標識ヌクレオチドを添加することによる新生鎖の伸長、（ｂ）シーケンシング機器の光学システムの１つ以上のレーザを使用したフルオロフォアの励起と、光学システムの異なるフィルタを通した画像化による、シーケンス画像の生成、並びに（ｃ）フルオロフォアの切断及び次のシーケンシングサイクルの準備における、３’ブロックの除去。組み込み及び撮像サイクルを、最大で指定された数のシーケンシングサイクルで繰り返し、読み取り長さを規定する。このアプローチを使用して、各サイクルはテンプレートストランドに沿って新しい位置を問い合わせる。
Ｉｌｌｕｍｉｎａシーケンサの途方もないパワーは、ＣＲＴ反応を受ける数百万のクラスタ又は更には数十億のクラスタ（分析物）を同時に実行及び感知する能力に起因する。クラスタどうしはサイズ及び形状が異なるが、１つのクラスタには、テンプレートストランドの約千個の同一のコピーが含まれる。クラスタは、シーケンシングラン前に、入力ライブラリのブリッジ増幅又は排除増幅によって、テンプレートストランドから成長させる。増幅及びクラスタ成長の目的は、撮像装置が単一のストランドのフルオロフォアシグナルを確実に感知するということができないため、放出されるシグナルの強度を増大させることにある。しかしながら、クラスタ内のストランドどうしの物理的距離は小さいため、撮像装置は、単一のスポットとしてストランドのクラスタを知覚する。
シーケンシングは、フローセル（又はバイオセンサ）、すなわち、入力ストランドを保持する小さなガラススライドにおいて行われる。フローセルは、光学システムに接続され、その光学システムは、顕微鏡撮像装置、励起レーザ装置、及び蛍光フィルタを含む。フローセルは、レーンと呼ばれる複数のチャンバを含む。レーンどうしは、互いに物理的に分離され、異なるタグ付けされたシーケンシングライブラリを含んでもよく、試料の交差汚染なしで区別可能である。いくつかの実施態様では、フローセルは、パターン化された表面を含む。「パターン化された表面」は、固体支持体の露出層内又はその上における、異なる領域の配置を指す。
撮像装置（例えば、電荷結合素子（Charge-Coupled Device、ＣＣＤ）又は相補的金属酸化物半導体（Complementary Metal-Oxide-Semiconductor、ＣＭＯＳ）センサなどのソリッドステート撮像素子）は、レーンに沿った複数の場所で、タイルと呼ばれる一連の重なり合わない領域において、スナップショットを取る。例えば、レーン当たり６４個又は９６個のタイルが存在し得る。タイルは数十万～数百万個のクラスタを保持する。
シーケンシングランの出力は、シーケンス画像である。シーケンス画像は、ピクセル化ユニット（例えば、ピクセル、スーパーピクセル、サブピクセル）のグリッド（又はアレイ）を使用するクラスタ及びそれらの周囲の背景の強度放射を示す。強度放射は、ピクセル化ユニットの強度値として記憶される。シーケンス画像は、ピクセル化ユニットのグリッドの、ｗ個×ｈ個の寸法を有し、ここで、ｗ（幅）及びｈ（高さ）は、１～１００，０００の範囲の任意の数（例えば、１１５×１１５、２００×２００、１８００×２０００、２２００×２５０００、２８００×３６００、４０００×４００）である。いくつかの実施態様では、ｗ及びｈは同じである。他の実施態様では、ｗ及びｈは異なる。シーケンス画像は、シーケンシングラン中にヌクレオチドシーケンスにヌクレオチドを組み込む結果として生成される強度放射を示す。強度放射は、関連するクラスタ及びそれらの周囲の背景に由来するものである。
ニューラルネットワークベースのベースコール
以下の考察は、本明細書に記載のニューラルネットワークベースのベースコーラー１００に焦点を当てている。まず、一実施態様による、ニューラルネットワークベースのベースコーラー１００への入力が説明される。次いで、ニューラルネットワークベースのベースコーラー１００の構造及び形態の例が提供される。最後に、一実施態様による、ニューラルネットワークベースのベースコーラー１００の出力が説明される。
データフローロジックは、ベースコールのために、ニューラルネットワークベースのベースコーラー１００にシーケンス画像を提供する。ニューラルネットワークベースのベースコーラー１００は、パッチごとに（又はタイルごとに）シーケンス画像にアクセスする。パッチのそれぞれは、シーケンス画像を形成するピクセル化されたユニットのグリッド内のピクセル化ユニットのサブグリッド（又はサブアレイ）である。パッチは、ピクセル化ユニットのサブグリッドのｑ個×ｒ個の寸法を有し、ｑ（幅）及びｒ（高さ）は、１～１００００の範囲の任意の数である（例えば、３×３、５×５、７×７、１０×１０、１５×１５、２５×２５、６４×６４、７８×７８、１１５×１１５）。いくつかの実施態様では、ｑ及びｒは同じである。他の実施態様では、ｑ及びｒは互いに異なる。いくつかの実施態様では、１つのシーケンス画像から抽出されたパッチは、同じサイズである。他の実施態様では、パッチは、異なるサイズのものである。いくつかの実施態様では、パッチどうしは、（例えば、エッジの上で）重なり合うピクセル化ユニットを有することができる。
シーケンシングにより、対応するｍ個の画像チャネルに対して、シーケンシングサイクルごとに、ｍ個のシーケンス画像を生成する。すなわち、シーケンス画像の各々は、１つ以上の画像（又は強度）チャネル（カラー画像の赤、緑、青（ＲＧＢ）のチャネルと類似）を有する。一実施態様では、各画像チャネルは、複数のフィルタ波長帯域のうちの１つに対応する。別の実施態様では、各画像チャネルは、１つのシーケンシングサイクルで複数の撮像イベントのうちの１つに対応する。更に別の実施態様では、各画像チャネルは、特定のレーザを用いた照明と特定の光学フィルタを通した撮像との組み合わせに対応する。画像パッチは、特定のシーケンシングサイクルについて、ｍ個の画像チャネルの各々からタイリング（又はアクセス）される。４－、２－、及び１－チャネル化学などの異なる実施態様では、ｍは、４又は２である。他の実施態様では、ｍは、１、３、又は４よりも大きい。
例えば、シーケンシングランが、２つの異なる画像化チャネル、すなわち、青色チャネルと緑色チャネルとを使用して実施されると考えてみる。すると、各シーケンシングサイクルにおいて、シーケンシングランは、青色画像及び緑色画像を生成する。このようにして、シーケンシングランのｋ個のシーケンシングサイクルのシリーズについて、ｋ対の青色画像及び緑色画像のシーケンスが出力として生成され、シーケンス画像として記憶される。したがって、ｋ対の青色及び緑色画像パッチのシーケンスが、ニューラルネットワークベースのベースコーラー１００によるパッチレベル処理に対して生成される。
ベースコールの反復１回（又はフォワードパス又は単一の順方向横断の１つのインスタンス）に対する、ニューラルネットワークベースのベースコーラー１００への入力画像データは、複数のシーケンシングサイクルを含む１つのスライドウィンドウに対するデータを含む。スライドウィンドウは、例えば、現在のシーケンシングサイクル、１つ以上の先行するシーケンシングサイクル、及び１つ以上の後続のシーケンシングサイクルを含むことができる。
一実施態様では、入力画像データは、３回のシーケンシングサイクルのデータを含み、ベースコールされる現在の（時間ｔ）シーケンシングサイクルのデータは、（ｉ）左側の隣接／コンテキスト／以前の／先行する／前の（時間ｔ－１）シーケンシングサイクルのデータ、及び（ｉｉ）右側の隣接／コンテキスト／次の／後続の／その後の（時間ｔ＋１）シーケンシングサイクルのデータを伴う。
別の実施態様では、入力画像データは、５回のシーケンシングサイクルのデータを含み、ベースコールされる現在の（時間ｔ）シーケンシングサイクルのデータは、（ｉ）第１の左側の隣接／コンテキスト／以前の／先行する／前の（時間ｔ－１）シーケンシングサイクルについてのデータと、（ｉｉ）第２の左側の隣接／コンテキスト／以前の／先行する／前の（時間ｔ－２）シーケンシングサイクルについてのデータと、（ｉｉｉ）第１の右側の隣接／コンテキスト／次の／後続の／その後の（時間ｔ＋１）シーケンシングサイクルについてのデータと、（ｉｖ）第２の右側の隣接／コンテキスト／次の／後続の／その後の（時間ｔ＋２）シーケンシングサイクルについてのデータと、を伴う。
更に別の実施態様では、入力画像データは、７回のシーケンシングサイクルのデータを含み、ベースコールされる現在の（時間ｔ）シーケンシングサイクルのデータは、（ｉ）第１の左側の隣接／コンテキスト／以前の／先行する／前の（時間ｔ－１）シーケンシングサイクルについてのデータと、（ｉｉ）第２の左側の隣接／コンテキスト／以前の／先行する／前の（時間ｔ－２）シーケンシングサイクルについてのデータと、（ｉｉｉ）第３の左側の隣接／コンテキスト／以前の／先行する／前の（時間ｔ－３）シーケンシングサイクルについてのデータと、（ｉｖ）第１の右側の隣接／コンテキスト／次の／後続の／その後の（時間ｔ＋１）シーケンシングサイクルについてのデータと、（ｖ）第２の右側の隣接／コンテキスト／次の／後続の／その後の（時間ｔ＋２）シーケンシングサイクルについてのデータと、（ｖｉ）第３の右側の隣接／コンテキスト／次の／後続の／その後の（時間ｔ＋３）シーケンシングサイクルについてのデータと、を伴う。他の実施態様では、入力画像データは、１回のシーケンシングサイクルのデータを含む。更に他の実施態様では、入力画像データは、１０回、１５回、２０回、３０回、５８回、７５回、９２回、１３０回、１６８回、１７５回、２０９回、２２５回、２３０回、２７５回、３１８回、３２５回、３３０回、５２５回、又は６２５回のシーケンシングサイクルのデータを含む。
１つの実施態様によれば、ニューラルネットワークベースのベースコーラー１００は、その畳み込み層を介して画像パッチを処理し、代替表現を生成する。次いで、その代替表現は、出力層（例えば、ソフトマックス層）によって使用され、現在のシーケンシングサイクル（時間ｔ）、又はシーケンシングサイクルの各々（すなわち、現在のシーケンシングサイクル（時間ｔ）、第１及び第２の先行するシーケンシングサイクル（時間ｔ－１、時間ｔ－２）、及び第１及び第２の後続のシーケンシングサイクル（時間ｔ＋１、時間ｔ＋２））のいずれかに対するベースコールを生成する。得られたベースコールは、シーケンシングリードを形成する。
一実施態様では、ニューラルネットワークベースのベースコーラー１００は、特定のシーケンシングサイクルに対する単一のターゲットクラスタに対するベースコールを出力する。別の実施態様では、ニューラルネットワークベースのベースコーラー１００は、特定のシーケンシングサイクルで複数のターゲットクラスタ内の各ターゲットクラスタに対するベースコールを出力する。更に別の実施態様では、ニューラルネットワークベースのベースコーラー１００は、複数のシーケンシングサイクル内の各シーケンシングサイクルで、複数のターゲットクラスタ内の各ターゲットクラスタに対するベースコールを出力し、それによって、各ターゲットクラスタに対するベースコールシーケンスを生成する。
一実施態様では、ニューラルネットワークベースのベースコーラー１００は、多層パーセプトロン（Multilayer Perceptron、ＭＬＰ）である。別の実施態様では、ニューラルネットワークベースのベースコーラー１００は、フィードフォワードニューラルネットワークである。更に別の実施態様では、ニューラルネットワークベースのベースコーラー１００は、完全に接続されたニューラルネットワークである。更なる実施態様では、ニューラルネットワークベースのベースコーラー１００は、完全畳み込みニューラルネットワークである。なお更なる実施態様では、ニューラルネットワークベースのベースコーラー１００は、セマンティックセグメンテーションニューラルネットワークである。なお別の更なる実施態様では、ニューラルネットワークベースのベースコーラー１００は、敵対的生成ネットワークニューラルネットワーク（generative adversarial network、ＧＡＮ）である。
一実施態様では、ニューラルネットワークベースのベースコーラー１００は、複数の畳み込み層を有する畳み込みニューラルネットワーク（ＣＮＮ）である。別の実施態様では、ニューラルネットワークベースのベースコーラー１００は、長い短期メモリネットワーク（long short-term memory network、ＬＳＴＭ）、双方向ＬＳＴＭ（bi-directional LSTM、Ｂｉ－ＬＳＴＭ）、又はゲートされた反復単位（gated recurrent unit、ＧＲＵ）などの反復ニューラルネットワーク（recurrent neural network、ＲＮＮ）である。更に別の実施態様では、ニューラルネットワークベースのベースコーラー１００は、ＣＮＮ及びＲＮＮの両方を含む。
更に他の実施態様では、ニューラルネットワークベースのベースコーラー１００は、１Ｄ畳み込み、２Ｄ畳み込み、３Ｄ畳み込み、４Ｄ畳み込み、５Ｄ畳み込み、拡張又は膨張畳み込み、転置畳み込み、奥行分離可能な畳み込み、点ごとの畳み込み、１×１の畳み込み、グループ畳み込み、扁平畳み込み、空間及びクロスチャネルの畳み込み、シャッフルされたグループ化畳み込み、空間的な分離可能な畳み込み、並びに逆畳み込みを使用することができる。ニューラルネットワークベースのベースコーラー１００は、ロジスティック回帰／対数損失、多クラスクロスエントロピー／ソフトマックス損失、二値クロスエントロピー損失、平均二乗誤差損失、Ｌ１損失、Ｌ２損失、平滑Ｌ１損失、及びＨｕｂｅｒ損失などの、１つ以上の損失機能を使用することができる。ニューラルネットワークベースのベースコーラー１００は、ＴＦＲｅｃｏｒｄ、圧縮符号化（例えば、ＰＮＧ）、シャープ化、マップ変換に対する平行コール、バッチング、プリフェッチ、モデル並列、データ並列、及び同期／非同期確率的勾配降下法（stochastic gradient descent、ＳＤＧ）のような、任意の並列、効率、及び圧縮方式を使用することができる。ニューラルネットワークベースのベースコーラー１００は、アップサンプリング層、ダウンサンプリング層、反復接続、ゲート及びゲートされたメモリユニット（ＬＳＴＭ又はＧＲＵなど）、残留ブロック、残留接続、ハイウェイ接続、スキップ接続、ピープホール接続、活性化関数（例えば、非線形変換関数（正規化線形ユニット（rectifying linear unit、ＲｅＬＵ）、リーキーＲｅＬＵ，指数関数的ライナーユニット（exponential liner unit、ＥＬＵ）、シグモイド、及び双曲線正接（ｔａｎｈ））など）、バッチ正規化層、規則化層、ドロップアウト、プール層（例えば、最大又は平均プール）、グローバル平均プール層、及び注意機構のような非線形変換機能を含み得る。
ニューラルネットワークベースのベースコーラー１００は、逆伝播ベースの勾配更新技術を使用して学習する。ニューラルネットワークベースのベースコーラー１００が学習するために使用することができる例示的な勾配降下技術としては、確率的勾配降下、バッチ勾配降下、及びミニバッチ勾配降下が挙げられる。ニューラルネットワークベースのベースコーラー１００が学習するために使用され得る勾配降下最適化アルゴリズムのいくつかの例としては、Ｍｏｍｅｎｔｕｍ、Ｎｅｓｔｏｒｖ加速勾配、Ａｄａｇｒａｄ、Ａｄａｄｅｌｔａ、ＲＭＳｐｒｏｐ、Ａｄａｍ、ＡｄａＭａｘ、Ｎａｄａｍ、及びＡＭＳＧｒａｄが挙げられる。
一実施態様では、ニューラルネットワークベースのベースコーラー１００は、異なるシーケンシングサイクルに対するデータの処理を分離するために、専用のアーキテクチャを使用する。上記の専用のアーキテクチャを使用する動機をまず説明する。上述のように、ニューラルネットワークベースのベースコーラー１００は、現在のシーケンシングサイクル、１つ以上の先行するシーケンシングサイクル、及び１つ以上の後続のシーケンシングサイクルに対する画像パッチを処理する。追加のシーケンシングサイクルに対するデータは、シーケンスごとに固有のコンテキストを提供する。ニューラルネットワークベースのベースコーラー１００は、学習中にシーケンスごとに固有のコンテキストを学習し、それらをベースコールする。更に、事前及び事後シーケンシングサイクルに対するデータは、プレフェージング及びフェージング信号の２次の寄与を現在のシーケンシングサイクルに提供する。
しかしながら、異なるシーケンシングサイクルで、かつ異なる画像チャネル内に捕捉される画像は、位置合わせ不良であり、互いに残留位置合わせ誤差を有する。この位置合わせ不良を考慮するために、専用アーキテクチャは、シーケンシングサイクルどうしの間では情報を混合せず、同一のシーケンシングサイクル内でのみ情報を混合する、空間畳み込み層を含む。
空間畳み込み層（又は空間ロジック）は、畳み込みの「専用の非共有」シーケンスを介して複数のシーケンシングサイクルの各々に対して独立してデータを処理することによって分離を操作する、いわゆる「分離された畳み込み」を使用する。分離された畳み込みは、任意の他のシーケンシングサイクルのデータ及び得られた特徴マップ上で畳み込むことなく、所与のシーケンシングサイクル、すなわち、サイクル内のみのデータ及び得られた特徴マップ上で畳み込む。
例えば、入力画像データが、（ｉ）ベースコールされる現在の（時間ｔ）シーケンシングサイクルに対する現在の画像パッチ、（ｉｉ）以前の（時間ｔ－１）シーケンシングサイクルに対する以前の画像パッチ、及び（ｉｉｉ）次の（時間ｔ＋１）シーケンシングサイクルに対する次の画像パッチと、を含むと考えてみる。次いで、専用アーキテクチャは、３つの別個の畳み込みパイプライン、すなわち、現在の畳み込みパイプライン、以前の畳み込みパイプライン、及び次の畳み込みパイプラインを開始する。現在のデータ処理パイプラインは、現在の（時間ｔ）シーケンシングサイクルに対する現在の画像パッチを入力として受信し、複数の空間畳み込み層を介して独立してそれを処理して、最終空間畳み込み層の出力としていわゆる「現在の空間畳み込み表現」を生成する。以前の畳み込みパイプラインは、以前の（時間ｔ－１）シーケンシングサイクルに対する以前の画像パッチを入力として受信し、複数の空間畳み込み層を介して独立してそれを処理して、最終空間畳み込み層の出力としていわゆる「以前の空間畳み込み表現」を生成する。次の畳み込みパイプラインは、次の（時間ｔ＋１）シーケンシングサイクルに対する次のデータを入力として受信し、複数の空間畳み込み層を介して独立してそれを処理して、最終空間畳み込み層の出力としていわゆる「次の空間畳み込み表現」を生成する。
いくつかの実施態様では、現在、以前、及び次の畳み込みパイプラインは、並行して実行される。いくつかの実施態様では、空間畳み込み層は、専用アーキテクチャ内の空間畳み込みネットワーク（又はサブネットワーク）の一部である。
ニューラルネットワークベースのベースコーラー１００は、シーケンシングサイクル間、すなわち、サイクル間で情報を混合する時間畳み込み層（又は時間ロジック）を更に含む。時間畳み込み層は、空間畳み込みネットワークからそれらの入力を受信し、それぞれのデータ処理パイプラインに対して最終空間畳み込み層によって生成される空間畳み込み表現で動作する。
時間畳み込み層のサイクル間動作性自由度は、空間畳み込みネットワークへの入力として供給される画像データ内に存在する位置合わせ不良特性が、空間畳み込み層のシーケンスによって実行される、分離された畳み込みのスタック又はカスケードによって空間畳み込み表現からパージされるという事実から生じる。
時間畳み込み層は、スライドウィンドウベースでの後続の入力で入力チャネル上でグループごとに畳み込む、いわゆる「組み合わせ畳み込み」を使用する。一実施態様では、後続の入力は、以前の空間畳み込み層又は以前の時間畳み込み層によって生成される後続の出力である。
いくつかの実施態様では、時間畳み込み層は、専用アーキテクチャ内の時間畳み込みネットワーク（又はサブネットワーク）の一部である。時間畳み込みネットワークは、空間畳み込みネットワークからその入力を受信する。一実施態様では、時間畳み込みネットワークの第１の時間畳み込み層は、シーケンシングサイクル間の空間畳み込み表現をグループごとに組み合わせる。別の実施態様では、時間畳み込みネットワークの後続の時間畳み込み層は、以前の時間畳み込み層の後続する出力を組み合わせる。最終時間畳み込み層の出力は、出力を生成する出力層に供給される。出力は、１つ以上のシーケンシングサイクルで１つ以上のクラスタをベースコールするために使用される。
ニューラルネットワークベースのベースコーラー１００に関する追加の詳細は、参照により本明細書に組み込まれる、２０１９年３月２１日に出願された「ＡＲＴＩＦＩＣＩＡＬ ＩＮＴＥＬＬＩＧＥＮＣＥ－ＢＡＳＥＤ ＳＥＱＵＥＮＣＩＮＧ」と題する米国仮特許出願第６２／８２１，７６６号（代理人整理番号ＩＬＬＭ１００８－９／ＩＰ－１７５２－ＰＲＶ）に見出すことができる。
圧縮ネットワーク
上述のように、ニューラルネットワークベースのベースコーラー１００の専用アーキテクチャは、対応するシーケンシングサイクルの画像パッチのスライドウィンドウを処理する。後続のスライドウィンドウのシーケンシングサイクルどうしの間には重複が存在する。これにより、ニューラルネットワークベースのベースコーラー１００は、重なり合うシーケンシングサイクルの画像パッチを冗長に処理することになる。これにより、計算リソースの無駄が生じる。例えば、一実施態様では、ニューラルネットワークベースのベースコーラー１００の各空間畳み込み層は、ほぼ１億回の乗算操作を有する。次いで、５つのシーケンシングサイクル及び７つの空間畳み込み層のカスケード（又はシーケンス）のウィンドウに対して、空間畳み込みニューラルネットワークは、約６億２千万回の乗算操作を実行する。更に、時間畳み込みニューラルネットワークは、約１千万回の乗算操作を実行する。
現在のスライドウィンドウ（又はベースコールの現在の反復）におけるサイクルＮ－１に対する画像データは、以前のスライドウィンドウ（又はベースコールの以前の反復）におけるサイクルＮとして処理されるため、現在のスライドウィンドウで行われた処理の中間結果と、後続のウィンドウで行われた処理の中間結果を記憶して、それによって、後続のスライドウィンドウどうしの間で重なり合うシーケンシングサイクルに対する、入力画像データの冗長処理（又は再処理）を回避する（又は不要にする）という機会がもたらされる。
しかしながら、中間結果は、実用的とは言えない容量のストレージを必要とする数テラバイトのデータである。この技術的問題を克服するために、開示された技術は、中間結果を、その中間結果が最初にニューラルネットワークベースのベースコーラー１００によって生成される際に圧縮し、その後のスライドウィンドウでその圧縮された中間結果を再目的化して利用して冗長な計算を回避し、それによって、中間結果を再生成しない（又は、一度だけ生成する）ということを提案する。いくつかの実施態様では、開示される技術は、ニューラルネットワークベースのベースコーラー１００の空間ネットワークにおいて約８０％の畳み込みを節約する。一実施態様では、８０％の節約は、その後のシーケンシングサイクルにおいて、圧縮ロジック及び圧縮特徴マップの再目的化しての利用が５回のシーケンシングサイクルの入力ウィンドウ（例えば、サイクルＮ、サイクルＮ＋１、サイクルＮ－１、サイクルＮ＋２、及びサイクルＮ－２）に対して使用されるときに、空間畳み込みにおいて観察される。別の実施態様では、その後のシーケンシングサイクルにおける圧縮ロジック及び圧縮特徴マップの再目的化しての利用が、１０回のシーケンシングサイクルの入力ウィンドウ（例えば、サイクルＮ、サイクルＮ＋１、サイクルＮ－１、サイクルＮ＋２、サイクルＮ－２、サイクルＮ＋３、及びサイクルＮ－３）に使用される場合、空間畳み込みにおいて９０％の節約が観察される。すなわち、ウィンドウサイズが大きいほど、圧縮ロジックの使用及び圧縮特徴マップの再目的化からの節約が大きくなり、ウィンドウサイズが大きいほど、追加の隣接サイクルからのより大きなコンテキストの組み込みによるベースコール性能が良好である。より大きなウィンドウに対するより大きな節約は、所与の計算能力に対する全体的な性能を改善する。
圧縮ロジックによってもたらされる計算効率及びコンパクトな計算フットプリントは、中央演算処理装置（Central Processing Unit、ＣＰＵ）、グラフィック処理ユニット（Graphics Processing Unit、ＧＰＵ）、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、粗粒度再構成可能アーキテクチャ（Coarse-Grained Reconfigurable Architecture、ＣＧＲＡ）、特定用途向け集積回路（ＡＳＩＣ）、特定用途向け命令セットプロセッサ（Application Specific Instruction-set Processor、ＡＳＩＰ）、及びデジタル信号プロセッサ（ＤＳＰ）のようなリソース制約プロセッサ上のニューラルネットワークベースのベースコーラー１００のハードウェア実装を容易にする。
圧縮ロジックによって節約された計算は、ニューラルネットワークベースのベースコーラー１００により多くの畳み込み演算子を組み込むことを可能にする。例としては、空間畳み込み層及び時間畳み込み層により多くの畳み込みフィルタを追加すること、畳み込みフィルタのサイズを増加させること、空間畳み込み層及び時間畳み込み層の数を増加させることが挙げられる。追加の畳み込み演算は、ニューラルネットワークベースのベースコーラー１００の強度パターン検出及び全体的なベースコール精度を改善する。
圧縮ロジックによって節約された計算はまた、対象スライドウィンドウの入力画像データを拡張して、より多くのシーケンシングサイクルを含むようにすることを可能にする。拡張されたスライドウィンドウは、追加の隣接するシーケンシングサイクルから余剰画像パッチをもたらすことによって、ベースコールコンテキストを広げる。
更に、元の中間結果とは対照的に、圧縮された中間結果の使用によって生じ得る精度のいかなる低下も、追加の畳み込み演算子の組み込み及びスライドウィンドウの拡張によって補償される。
図１Ａは、ベースコールの第１の反復のための圧縮空間マップセットを生成する、開示された圧縮ロジックの一実施態様を示す。図示の例では、シーケンシングサイクルの第１のウィンドウは、シーケンシングサイクル１、２、３、４、及び５を含む。それぞれのシーケンシングサイクル１、２、３、４、及び５に対するそれぞれの画像パッチ１０２、１１２、１２２、１３２、及び１４２（又はサイクルごとの分析物チャネルセット）は、空間ロジック１０４（又は空間ネットワーク若しくは空間サブネットワーク若しくは空間畳み込みニューラルネットワーク）によって別々に処理されて、それぞれのシーケンシングサイクル１、２、３、４、及び５のそれぞれの空間マップ１０６、１１６、１２６、１３６、及び１４６（又は中間結果若しくは空間出力セット若しくは空間特徴マップセット）を生成する。空間畳み込みネットワーク１０４は、１Ｄ、２Ｄ、又は３Ｄ畳み込みを使用することができる。
空間ロジック１０４は、空間畳み込み層のシーケンス（又はカスケード）を含む。各空間畳み込み層は、分離された畳み込みを実装する複数の空間畳み込みフィルタを有するフィルタバンクを有する。したがって、各空間畳み込み層は、複数の空間特徴マップを出力として生成する。ある対象のサブジェクト空間畳み込み層によって生成される空間特徴マップの数は、その対象の空間畳み込み層に構成された空間畳み込みフィルタの数の関数である。例えば、対象の空間畳み込み層が１４個の空間畳み込みフィルタを有する場合、対象の空間畳み込み層は１４個の空間特徴マップを生成する。集合的観点から、１４個の空間特徴マップは、１４個のチャネル（又は深さ次元＝１４）との空間特徴マップの体積（又はテンソル）と見なすことができる。
更に、対象の空間畳み込み層に続く次の空間畳み込み層も、１４個の空間畳み込みフィルタで構成することができる。そのような場合、次の空間畳み込み層は、入力として、１４個の空間特徴マップを処理して、対象の空間畳み込み層を生成し、その対象の空間畳み込み層自体が、１４個の新しい空間特徴マップを出力として生成する。図１Ａは、それぞれのシーケンシングサイクル１、２、３、４、及び５に対して、空間ネットワーク１０４の最終空間畳み込み層によって生成された、５つの空間特徴マップセット１０６、１１６、１２６、１３６、及び１４６を示す。図示の例では、５つの空間特徴マップセット１０６、１１６、１２６、１３６、及び１４６の各々は、１４個の特徴マップを有する。
図１Ｄは、空間ネットワーク１０４の７つの空間畳み込み層のカスケードによって生成された７つの空間特徴マップセット１９６ａ、１９６ｂ、１９６ｃ、１９６ｄ、１９６ｅ、１９６ｆ、及び１９６ｇのシーケンスを示す。対象のシーケンシングサイクルｉに対する、サイクルごとの入力パッチデータ１９４は、空間次元数が１１５×１１５であり、（元のシーケンス画像内の２つの画像チャネルによる）深さ次元数が２である。一実施態様では、７つの空間畳み込み層の各々は、後続の空間特徴マップボリュームの空間次元数を２だけ、例えば、１０×１０から８×８に低減する、３×３の畳み込みを使用する。
第１の空間特徴マップボリューム１９６ａは、１１３×１１３の空間次元（すなわち、第１の空間畳み込み層の３×３の畳み込みによって１１５×１１５から減少したもの）と、１４の深さ次元（すなわち、第１の空間畳み込み層内の１４個の空間畳み込みフィルタによる、１４個の特徴マップ又は１４個のチャネル）と、を有する。第２の空間特徴マップボリューム１９６ｂは、１１１×１１１の空間次元（すなわち、第２の空間畳み込み層の３×３の畳み込みによって１１３×１１３から減少したもの）と、１４の深さ次元（すなわち、第２の空間畳み込み層内の１４個の空間畳み込みフィルタによる１４個の特徴マップ又は１４個のチャネル）と、を有する。第３の空間特徴マップボリューム１９６ｃは、１０９×１０９の空間次元（すなわち、第３の空間畳み込み層の３×３の畳み込みによって１１１×１１１から減少したもの）と、１４の深さ次元（すなわち、第３の空間畳み込み層内の１４個の空間畳み込みフィルタによる１４個の特徴マップ又は１４個のチャネル）と、を有する。第４の空間特徴マップボリューム１９６ｄは、１０７×１０７の空間次元（すなわち、第４の空間畳み込み層の３×３の畳み込みによって１０９×１０９から減少したもの）と、１４の深さ次元（すなわち、第４の空間畳み込み層内の１４個の空間畳み込みフィルタによる１４個の特徴マップ又は１４個のチャネル）と、を有する。第５の空間特徴マップボリューム１９６ｅは、１０５×１０５の空間次元（すなわち、第５の空間畳み込み層の３×３の畳み込みによって１０７×１０７から減少したもの）と、１４の深さ次元（すなわち、第５の空間畳み込み層内の１４個の空間畳み込みフィルタによる１４個の特徴マップ又は１４個のチャネル）と、を有する。第６の空間特徴マップボリューム１９６ｆは、１０３×１０３の空間次元（すなわち、第６の空間畳み込み層の３×３の畳み込みによって１０５×１０５から減少したもの）と、１４の深さ次元（すなわち、第６の空間畳み込み層内の１４個の空間畳み込みフィルタによる１４個の特徴マップ又は１４個のチャネル）と、を有する。第７の空間特徴マップボリューム１９６ｇは、１０１×１０１の空間次元（すなわち、第７の空間畳み込み層の３×３の畳み込みによって１０３×１０３から減少したもの）と、１４の深さ次元（すなわち、第７の空間畳み込み層内の１４個の空間畳み込みフィルタによる１４個の特徴マップ又は１４個のチャネル）と、を有する。
図１Ａに示されるマルチサイクルの例に類似して、５回のシーケンシングサイクル１、２、３、４、及び５と、サイクルごとの５つの画像パッチ１０２、１１２、１２２、１３２、及び１４２とに対して、空間ロジック１０４は、７つの空間特徴マップボリューム１９６ａ、１９６ｂ、１９６ｃ、１９６ｄ、１９６ｅ、１９６ｆ、及び１９６ｇの、５つのそれぞれのシーケンスを別々に生成する。なお、図１Ａの空間マップ１０６、１１６、１２６、１３６、及び１４６が、図１Ｄの最終空間特徴マップボリューム１９６ｇの５つの別個のインスタンスに同等である。
圧縮ロジック１０８（又は圧縮ネットワーク若しくは圧縮サブネットワーク若しくは圧縮層若しくはスクイーズ層）は、空間ロジック１０４の出力を処理し、出力の圧縮表現を生成する。一実施態様では、圧縮ネットワーク１０８は、空間ネットワーク１０４によって生成された特徴マップの深さ次元数を低減する圧縮畳み込み層を備える。
例えば、図１Ａでは、空間マップ１０６、１１６、１２６、１３６、及び１４６の深さ次元数は１４である（すなわち、空間出力当たり１４個の特徴マップ又は１４個のチャネル）。圧縮ネットワーク１０８は、空間マップ１０６、１１６、１２６、１３６、及び１４６を、それぞれのシーケンシングサイクル１、２、３、４、及び５に対するそれぞれの圧縮空間マップセット１１０、１２０、１３０、１４０、及び１５０に減縮させる。圧縮空間マップセット１１０、１２０、１３０、１４０、及び１５０のそれぞれは、深さ次元数（すなわち、圧縮空間出力当たり２つの特徴マップ、又は２つのチャネル）が２である。他の実施態様では、圧縮空間マップセット１１０、１２０、１３０、１４０、及び１５０は、深さ次元数（すなわち、圧縮空間出力当たり、３つ若しくは４つの特徴マップ、又は３つ若しくは４つのチャネル）が３又は４であってもよい。更に他の実施態様では、圧縮空間マップセット１１０、１２０、１３０、１４０、及び１５０は、深さ次元数（すなわち、圧縮空間出力あたり１つの特徴マップ、又は１つのチャネル）が１であってもよい。一実施態様では、圧縮層１０８は、ＲｅＬＵのような活性化関数を含まない。他の実施態様では、圧縮層１０８は、活性化関数を含むことができる。他の実施態様では、圧縮ロジック１０８は、対応する圧縮空間マップセットを、各々が４つより多くの特徴マップを有するように構成することができる。
ここで、圧縮ロジック１０８が圧縮出力をどのように生成するかを論じる。
一実施態様では、圧縮ロジック１０８は、非線形性を導入しながら、特徴マップの数（すなわち、深さ次元、又はチャネルの数）を減少させるために１×１の畳み込みを使用する。１×１の畳み込みは、１のカーネルサイズを有する。１×１の畳み込みは、空間次元を変化させることなく、体積深さを別のスクイーズされた又は拡張された表現に変換することができる。１×１の畳み込みは、入力チャネルにわたる、完全接続線形層のように動作する。これは、多くのチャネルを有する特徴マップから、より少数の特徴マップにマッピングするのに有用である。図１Ｅでは、単一の１×１の畳み込みが、２つの特徴マップを有する入力テンソルに適用される。１×１の畳み込みは、２チャネル入力を単一チャネルの出力に圧縮する。
圧縮層１０８によって生成された圧縮出力（又は圧縮特徴マップ若しくは圧縮空間マップ若しくは圧縮時間マップ）の数は、圧縮層１０８内に構成された１×１の畳み込みフィルタ（又は圧縮畳み込みフィルタ若しくは圧縮フィルタ）の数の関数である。図１Ｆでは、圧縮層１０８は、２つの１×１の畳み込みフィルタ１９８ａ及び１９８ｂを有する。第１の１×１の畳み込みフィルタ１９８ａは、１４個の特徴マップを有する空間特徴ボリューム１９６ｇを処理し、１０１×１０１の空間次元数を保存しながら第１の特徴マップ１９９ａを生成する。第２の１×１の畳み込みフィルタ１９８ｂはまた、１４個の特徴マップを有する空間特徴ボリューム１９６ｇを処理し、１０１×１０１の空間次元数を保存しながら第２の特徴マップ１９９ｂを生成する。したがって、圧縮層１０８は、１４個の特徴マップを有する空間特徴ボリューム１９６ｇを、２つの空間特徴マップ１９９ａ及び１９９ｂを有する圧縮出力（すなわち、圧縮比＝７）に減縮する。
時系列の観点から、シーケンシングサイクル５は、中央シーケンシングサイクル（Ｎ）であり、シーケンシングサイクル１及び２は、左側隣接シーケンシングサイクル（Ｎ－１、Ｎ－２）であり、シーケンシングサイクル４及び５は、左側隣接シーケンシングサイクル（Ｎ＋１、Ｎ＋２）である。したがって、中央の圧縮出力１３０は、中央シーケンシングサイクル（Ｎ）に対して生成され、左側隣接圧縮出力１２０は、左側隣接シーケンシングサイクル（Ｎ－１）に対して生成され、更なる左側隣接圧縮出力１１０は、更なる左側隣接シーケンシングサイクル（Ｎ－２）に対して生成され、右側隣接圧縮出力１４０は、右側隣接シーケンシングサイクル（Ｎ＋１）に対して生成され、更なる右側隣接圧縮出力１５０は、更なる右側隣接シーケンシングサイクル（Ｎ＋２）に対して生成される。
パイプラインの観点から、ニューラルネットワークベースのベースコーラー１００は、（例えば、データ並列処理に基づくマルチスレッド実行又はマルチクラスタ化実行として）空間ロジック１０４及び圧縮ロジック１０８によって、画像パッチ１０２、１１２、１２２、１３２、及び１４２をそれぞれ処理する、５つの並列で独立のパイプラインを実行する。したがって、５つの圧縮出力１１０、１２０、１３０、１４０、及び１５０は、別々に、同時に、かつ独立して、ニューラルネットワークベースのベースコーラー１００によって生成される。
いくつかの実施態様では、圧縮層１０８は、空間ネットワーク１０４の最終空間畳み込み層と見なすことができる。他の実施態様では、圧縮ネットワーク１０８は、ニューラルネットワークベースのベースコーラー１００の専用アーキテクチャ内又はその外側の、別個のネットワークと見なすことができる。
図１Ｂは、ニューラルネットワークベースのベースコーラー１００の時間ロジック１６０（又は時間ネットワーク若しくは時間サブネットワーク若しくは時間畳み込みニューラルネットワーク）を介して圧縮空間マップセット１１０、１２０、１３０、１４０、及び１５０を処理する一実施態様を示す。時間ロジック１６０は、スライドウィンドウベースで、連続した圧縮空間マップセットのグループを処理する。例えば、図１Ｂでは、時間ロジック１６０は、シーケンシングサイクル１、２、及び３にそれぞれ対する圧縮空間マップセット１１０、１２０、及び１３０の第１のグループ／ウィンドウを処理し、出力として、時間マップ１７２（又は時間マップセット若しくは時間特徴マップ若しくは時間特徴マップセット）を生成する。時間ロジック１６０は、それぞれのシーケンシングサイクル２、３、及び４に対する圧縮空間マップセット１２０、１３０、及び１４０の第２のグループ／ウィンドウを処理し、出力として、時間マップ１７４を生成する。時間ロジック１６０は、それぞれのシーケンシングサイクル３、４、及び５に対する圧縮空間マップセット１３０、１４０、及び１５０の第３のグループ／ウィンドウを処理し、出力として、時間マップ１７６を生成する。時間畳み込みネットワーク１６０は、１Ｄ、２Ｄ、又は３Ｄ畳み込みを使用することができる。
図１Ｂに示される時間ロジック１６０の３つのインスタンスは、時間ネットワーク１６０の第１の時間畳み込み層の３つのフィルタバンクを表す。第１のフィルタバンクは、圧縮空間マップ１１０、１２０、及び１３０の第１のグループに、時間畳み込みフィルタの第１のセットを適用し、時間マップの第１のセット１７２を生成する。第２のフィルタバンクは、圧縮空間マップ１２０、１３０、及び１４０の第２のグループに、時間畳み込みフィルタの第２のセットを適用し、時間マップの第２のセット１７４を生成する。第３のフィルタバンクは、圧縮空間マップ１３０、１４０、及び１５０の第３のグループに、時間畳み込みフィルタの第３のセットを適用し、時間マップの第３のセット１７６を生成する。
時間マップの第１のセット１７２、第２のセット１７４、及び第３のセット１７６は、時間ロジック１６０によってグループとして処理されて、時間マップ１８２を生成する。図１Ｂに示される時間ロジック１６０の第４のインスタンスは、時間ネットワーク１６０の第２の時間畳み込み層を表し、この第２の時間畳み込み層は、全てのシーケンシングサイクル１、２、３、４、及び５に対する出力を生成し、この全てのシーケンシングサイクル１、２、３、４、及び５に対して、サイクルごとの画像パッチ対が、図１Ａのニューラルネットワークベースのベースコーラー１００への入力として供給された。
時間ネットワーク１６０は、時間畳み込み層のカスケード（例えば、シーケンスに配置された２つ、３つ、４つ、５つ以上の時間畳み込み層）を有する。時間畳み込み層のカスケードは、異なるレベルのグループ化を有する階層形式でデータを処理する。すなわち、所与のレベルでは、スライドウィンドウアプローチが、その所与のレベルでの入力をグループ式で処理して、出力を生成し、この出力は、その後、スライドウィンドウ様式の次のレベルで、グループ式で処理されるものである。
時間畳み込み層は、組み合わせ畳み込みを実装する時間畳み込みフィルタを用いて構成される。組み合わせ畳み込みは、複数のシーケンシングサイクルにわたる特徴マップどうしの間で、情報を混合する。組み合わせ畳み込みは、時間ネットワーク１６０内の現在のレベルの、対象のグループ／ウィンドウにおける後続のシーケンシングサイクルどうしの間で、データを組み合わせる。例えば、第１の時間畳み込み層は、第１のグループのシーケンシングサイクル１、２、及び３に対する、第１のグループの圧縮空間マップ１１０、１２０、及び１３０を組み合わせて、時間マップの第１のセット１７２を生成し、第１の時間畳み込み層は更に、第２のグループのシーケンシングサイクル２、３、及び４に対する、第２のグループの圧縮空間マップ１２０、１３０、及び１４０を組み合わせて、時間マップの第２のセット１７４を生成し、更に、第１の時間畳み込み層は、第３のグループのシーケンシングサイクル３、４、及び５に対する、第３のグループの圧縮空間マップ１３０、１４０、及び１５０を組み合わせて、時間マップの第３のセット１７６を生成する。
組み合わせ畳み込みはまた、時間ネットワーク１６０内の現在のレベルの、対象のグループ／ウィンドウにおける、シーケンシングサイクルの連続するグループどうしの間で、データを組み合わせる。例えば、第２の時間畳み込み層は、時間マップの第１のセット１７２、第２のセット１７４、及び第３のセット１７６を組み合わせて、時間マップの最終的なセット１８２にする。レベル２では、レベル１からのシーケンシングサイクルの第１、第２、及び第３のグループ／ウィンドウが、シーケンシングサイクル１、２、３、４、及び５の第１のグループ／ウィンドウにグループ化される。
組み合わせ畳み込みは、組み合わされる入力の数と同じ数のカーネルを有して構成されている（すなわち、時間畳み込みフィルタの深さカラム又はファイバは、現在のレベルでの対象のグループ／ウィンドウにおける入力の数と一致する）。例えば、時間畳み込み層が３つの圧縮空間マップを組み合わせる場合、その時間畳み込み層は、３つの圧縮空間マップの深さ全体を通して要素ごとの乗算及び和算を実行する３つのカーネルを各々有する、複数の時間畳み込みフィルタを使用する。
時間マップの最終セット１８２は、時間ネットワーク１６０の最終的な（又は最後の）時間畳み込み層によって生成される。図１Ｃは、開示された出力ロジック１９０（又は出力層若しくは出力ネットワーク若しくは出力サブネットワーク）を介して、最終時間マップセット１８２を処理して、ベースコール分類データを生成する一実施態様を示す。一実施態様では、複数のクラスタが、１つ以上のシーケンシングサイクルに対して、同時にベースコールされる。図１Ｃに示される例では、ベースコール１９２は、中央シーケンシングサイクル３に対してのみ多くのクラスタについて生成される。他の実施態様では、開示された技術により、出力ロジック１９０は、所与の入力ウィンドウに対して、中央のシーケンシングサイクルだけでなく、隣接するシーケンシングサイクル（オプションの点線で示される）に対しても、１つの実施態様によってベースコールを生成する。例えば、一実施態様では、開示される技術は、所与の入力ウィンドウに対して、サイクルＮ、サイクルＮ＋１、サイクルＮ－１、サイクルＮ＋２、サイクルＮ－２などに対するベースコールを、同時に生成する。すなわち、ニューラルネットワークベースのベースコーラー１０２の、１回の順方向伝播／トラバース／ベースコール反復では、シーケンシングサイクルの入力ウィンドウにおける複数のシーケンシングサイクルに対するベースコールが生成され、これは本明細書では「多対多のベースコール」と呼ばれる。
出力層１９０の例としては、ソフトマックス関数、ｌｏｇ－ｓｏｆｔｍａｘ関数、アンサンブル出力平均関数、多層パーセプトロン不確実関数、ベイズガウス分布関数、及びクラスタ強度関数が挙げられる。一実施態様では、出力層１９０は、各クラスタに対して、かつ各シーケンシングサイクルに対して、クラスタごと、サイクルごとの確率四分位数を生成する。
以下の考察は、一例としてソフトマックス関数を使用して、クラスタごと、サイクルごとの確率四分位数に焦点を当てている。最初に、ソフトマックス関数、次いでクラスタごと、サイクルごとの確率四分位数を説明する。
ソフトマックス関数は、マルチクラス分類のための好ましい関数である。ソフトマックス関数は、全ての可能な標的クラスにわたって各標的クラスの確率を計算する。ソフトマックス関数の出力範囲はゼロと１との間であり、全ての確率の合計は１に等しい。ソフトマックス関数は、所与の入力値の指数及び全ての入力値の指数値の合計を計算する。入力値の指数と指数値の合計との比は、本明細書で「指数正規化」と称されるソフトマックス関数の出力である。
形式的には、いわゆるソフトマックス分類子を学習することは、クラスではなくむしろ各クラスの確率の信頼性予測を返すため、真の分類子よりもむしろクラス確率への回帰である。ソフトマックス関数は、ある種類の値を取り、合計で１になる確率にそれらを変換する。ソフトマックス関数は、任意の実数値のｎ次元ベクトルを０～１の範囲内の実数値のｎ次元ベクトルに押し込む。したがって、ソフトマックス関数を使用することは、出力が有効で、指数関数的に正規化された確率質量関数（非負及び合計１になる）であることを保証する。
直感的に、ソフトマックス関数は、最大関数の「ソフト」バージョンである。「ソフト」という用語は、ソフトマックス関数が連続的であり微分可能であるという事実に由来する。１つの最大要素を選択する代わりに、最大入力要素が比例してより大きな値を取得し、他方が値の割合が少なくなるように、ベクトルを全体の部分に分解する。確率分布を出力する特性は、分類タスクにおける確率的解釈に適したソフトマックス関数をもたらす。
ソフトマックス層への入力のベクトルとして、ｚを考慮するとしよう。ソフトマックス層ユニットは、ソフトマックス層内のノードの数であり、したがって、ｚベクトルの長さは、ソフトマックス層内のユニットの数である（１０個の出力ユニットを有する場合、１０個のｚ要素がある）。
ｎ－次元ベクトルＺ＝［ｚ１，ｚ２，．．．ｚｎ］の場合、ソフトマックス関数は、指数正規化（ｅｘｐ）を使用して、その和が１になる、範囲［０，１］の範囲内の正規化された値を有する別のｎ－次元ベクトルｐ（Ｚ）を生成する。
Figure 2023515804000002
図１Ｇは、例示的なソフトマックス関数を示す。ソフトマックス関数は、
Figure 2023515804000003
 として３つのクラスに適用される。３つの出力は常に、合計１になることに留意されたい。したがって、それらは、離散確率質量関数を定義する。
特定のクラスタごと、サイクルごとの確率四分位数は、特定のシーケンシングサイクルで特定のクラスタに組み込まれた塩基である、Ａ、Ｃ、Ｔ、及びＧの確率を識別する。ニューラルネットワークベースのベースコーラー１００の出力層がソフトマックス関数を使用する場合、クラスタごとの確率、サイクルごとの確率四分位数は、合計すると１になる、指数的に正規化された分類スコアである。図１Ｈは、クラスタ１（１２１、茶色で示される）に対する、かつシーケンシングサイクル１～Ｓ（１２２）に対するソフトマックス関数によって生成された、クラスタごと、サイクルごとの確率四分位数１２３の例を示す。言い換えれば、シーケンシングサイクルの第１のサブセットは、Ｓ個のシーケンシングサイクルを含む。
信頼できないクラスタ識別子１２５は、クラスタ、サイクルごとの確率四分位数から、フィルタ値を生成することに基づいて、信頼できないクラスタを識別する。本出願では、クラスタごと、サイクルごとの確率四分位数は、ベースコール分類スコア又は正規化ベースコール分類スコア又は初期ベースコール分類スコア又は正規化された初期ベースコール分類スコア又は初期ベースコールとも呼ばれる。
フィルタ計算機１２７は、それが識別する確率に基づいて、クラスタごと、サイクルごとの確率四分位数に対するフィルタ値を決定し、それによって各クラスタのフィルタ値のシーケンスを生成する。フィルタ値のシーケンスは、フィルタ値１２４として記憶される。
クラスタごと、サイクルごとの確率四分位数に対するフィルタ値は、確率のうちの１つ以上を含む計算に基づいて決定される。一実施態様では、フィルタ計算機１２７によって使用される計算は減算である。例えば、図１Ｈに示す実施態様では、クラスタごと、サイクルごとの確率四分位数に対するフィルタ値は、確率のうちの最も高い確率（マゼンタ色で示される）から確率の２番目に高い確率（青色に示される）を差し引くことによって決定される。
別の一実施態様では、フィルタ計算機１１６によって使用される計算は除算である。例えば、クラスタごと、サイクルごとの確率四分位数に対するフィルタ値は、確率のうちの最も高い確率（マゼンタ色に示されている）の確率のうちの２番目に高い確率（青色で示される）に対する比として決定される。更に別の一実施態様では、フィルタ計算機１２７によって使用される計算は、加算である。なお更なる実施態様では、フィルタ計算機１２７によって使用される計算は、乗算である。
一実施態様では、フィルタ計算機１２７は、フィルタリング関数を使用してフィルタ値１２４を生成する。一例では、フィルタリング関数は、最も明るいベース強度を、最も明るいベース強度と２番目に明るいベース強度との合計で割った比として、チャスティティを定義するチャスティフィルタである。別の例では、フィルタリング関数は、最大対数確率関数、最小二乗誤差関数、平均信号対雑音比（signal-to-noise ratio、ＳＮＲ）、及び最小絶対誤差関数のうちの少なくとも１つである。
信頼できないクラスタ識別子１２５は、フィルタ値１２４を使用して、複数のクラスタ内のいくつかのクラスタを、信頼できないクラスタ１２８として識別する。信頼できないクラスタ１２８を識別するデータは、コンピュータ可読形式又は媒体にあり得る。信頼できないクラスタは、器具ＩＤ、機器上のラン番号、フローセルＩＤ、レーン番号、タイル番号、クラスタのＸ座標、クラスタのＹ座標、及び固有の分子識別子（unique molecular identifier、ＵＭＩ）によって識別することができる。信頼できないクラスタ識別子１２５は、複数のクラスタ内の、フィルタ値のシーケンスが閾値「Ｈ」を下回る「Ｇ」数のフィルタ値を含むクラスタを、信頼できないクラスタとして、識別する。一実施態様では、「Ｇ」は１～５の範囲である。別の一実施態様では、「Ｈ」は０．５～０．９９の範囲である。一実施態様では、信頼できないクラスタ１２８は、信頼できないクラスタに対応する（すなわちその強度放射を描く）ピクセルを識別する。このようなピクセルは、本出願において後述するように、フィルタリングロジック５０２によってフィルタリングされ取り除かれる。
信頼できないクラスタは、所望の信号を、バックグラウンド信号と比較して有意ではない量しか発しない、低品質クラスタである。信頼できないクラスタの信号対雑音比は、実質的に低く、例えば、１未満である。いくつかの実施態様では、信頼できないクラスタは、所望の信号を全く生成しない場合がある。他の実施態様では、信頼できないクラスタは、バックグラウンドと比較して非常に少ない量の信号しか生成しない場合があり得る。一実施態様では、信号は、光信号であり、例えば、蛍光、発光、散乱、又は吸収信号を含むことを意図する。信号レベルとは、所望又は所定の特性を有する検出されたエネルギー又は符号化された情報の量を意味する。例えば、光信号は、強度、波長、エネルギー、周波数、電力、輝度などのうちの１つ以上によって定量化することができる。他の信号は、電圧、電流、電界強度、磁場強度、周波数、電力、温度などの特性に従って定量化することができる。信頼できないクラスタにおける信号の不在は、ゼロの信号レベル、又はノイズとは有意に区別されない信号レベルであると理解される。
信頼できないクラスタの不十分な品質の信号には、多くの潜在的な理由がある。信頼できないクラスタ中の約１０００個の分子のうちの相当大きな割合が、特定の位置で異なる塩基を含むように、コロニー増幅におけるポリメラーゼ連鎖反応（polymerase chain reaction、ＰＣＲ）エラーが存在する場合、２つの塩基に対する信号を観察し得るが、これは、不十分な品質のしるしとして解釈され、フェーズエラーと称される。フェーズエラーは、信頼できないクラスタ内の個々の分子が、（例えば、フェージングと呼ばれる、３’ターミネーターの不完全な除去を原因として）いくつかのサイクルでヌクレオチドを組み込まず、他の分子よりも遅れてしまう場合、又は（例えば、プリフェージングと呼ばれる、効果的な３’ブロックなしでヌクレオチドの組み込みを原因として）個々の分子が単一のサイクルで２つ以上のヌクレオチドを組み込んでいる場合に生じる。これにより、シーケンスコピーの読み出しにおける、同期の喪失がもたらされる。信頼できないクラスタにおける、フェージング及びプレフェージングによって影響を受けるシーケンスの割合は、サイクル数の増加と共に増加し、読み取りの品質が高いサイクル数で低下する傾向がある主な理由である。
信頼できないクラスタはまた、フェーディングの結果として生じる。フェーディングは、サイクル数の関数としての信頼できないクラスタの信号強度における指数関数的減衰である。シーケンシングランが進行するにつれて、信頼できないクラスタのストランドが過度に洗浄され、反応種を作成するレーザ放出に曝露され、過酷な環境条件に置かれる。これらの全ては、信頼できないクラスタにおいて断片が徐々に失われる結果を招き、それらの信号強度を低下させる。
信頼できないクラスタはまた、発育の十分ではないコロニー、すなわち、パターン形成されたフローセル上に空又は部分的にしか充填されないウェルを生成してしまう、信頼できないクラスタの小さなクラスタサイズにも起因する。すなわち、いくつかの実施態様では、信頼できないクラスタは、パターン化されたフローセル上の、空のウェル、多クローン性ウェル、及び曖昧なウェルを示す。信頼できないクラスタはまた、非排他的な増幅によって引き起こされる、重なり合うコロニーから生じる。信頼できないクラスタはまた、例えば、フローセルの縁部に位置することに起因する、照明不足又は不均一な照明から生じる。信頼できないクラスタはまた、放出された信号を不明確化するフローセル上の不純物から生じる。信頼できないクラスタはまた、複数のクラスタが同一のウェルに堆積される場合に生じる、多クローン性クラスタも含む。
シーケンシングサイクルの第１のウィンドウは、シーケンシングサイクル１、２、３、４、及び５を含み、ベースコールの第１の反復は、中央シーケンシングサイクル３に対するベースコール１９２を生成する。シーケンシングサイクルの第２のウィンドウは、シーケンシングサイクル２、３、４、５、及び６を含み、ベースコールの第２の反復は、中央シーケンシングサイクル４に対するベースコール２９２を生成する。したがって、シーケンシングサイクル２、３、４、及び５は、第１のウィンドウと第２のウィンドウとの間の、又はベースコールの第２の反復と第３の反復との間の、重なり合うシーケンシングサイクルである。
開示されたベースコーリングシステム及び技術は、シーケンシングサイクル２、３、４、及び５のベースコールの第１の反復中に生成される圧縮空間マップセット１２０、１３０、１４０、及び１５０を、メモリ（例えば、オンチップＤＲＭ、オンチップＳＲＡＭ又はＢＲＡＭ、オフチップＤＲＡＭ）に格納する。ベースコールの第２の反復中、開示されたベースコールシステム及び技術は、重なり合うサイクル２、３、４、及び５に対するそれぞれの入力画像パッチ１１２、１２２、１３２、及び１４２を、空間ネットワーク１０４を介して再処理しない。その代わりに、開示されたベースコールシステム及び技術は、ベースコールの第２の反復中に、それぞれの入力画像パッチ１１２、１２２、１３２、及び１４２に替えて、以前に生成された圧縮空間マップセット１２０、１３０、１４０、及び１５０を再利用する。
圧縮ロジックは、圧縮空間マップセット１２０、１３０、１４０、及び１５０、並びにそれぞれの入力画像パッチ１１２、１２２、１３２、及び１４２が、同じ数のサイクル特徴マップ／チャネルを有することを求めるように、更に設定されている。これにより、圧縮空間マップセット１２０、１３０、１４０、及び１５０が、それぞれの入力画像パッチ１１２、１２２、１３２、及び１４２の損失のない表現であることを保証する。すなわち、それぞれの入力画像パッチ１１２、１２２、１３２、及び１４２が、各々２つの特徴マップ／チャネルを有する場合、圧縮ロジック１０８は、圧縮空間マップセット１２０、１３０、１４０、及び１５０も、２つの特徴マップ／チャネルを有するように設定する。同様に、それぞれの入力画像パッチ１１２、１２２、１３２、及び１４２が、各々３つの特徴マップ／チャネルを有する場合、圧縮ロジック１０８は、圧縮空間マップセット１２０、１３０、１４０、及び１５０も、３つの特徴マップ／チャネルを有するように設定する。同じ様に、それぞれの入力画像パッチ１１２、１２２、１３２、及び１４２が、各々４つの特徴マップ／チャネルを有する場合、圧縮ロジック１０８は、圧縮空間マップセット１２０、１３０、１４０、及び１５０も、４つの特徴マップ／チャネルを有するように設定する。
図２Ａは、ベースコールの第２の反復中に、空間ロジック１０４及び圧縮ロジック１０８によって入力画像データ２２２を処理することによって、重なり合わないシーケンシングサイクル６に対してのみ、空間マップ２２６及び対応する圧縮空間マップ２３０が生成されることを示す。したがって、重なり合うサイクル２、３、４、及び５に対する入力画像パッチ１１２、１２２、１３２、及び１４２（凡例中の灰色の網掛けで強調表示される）は、重なり合う畳み込みを回避するため、再度処理されることはない。
図２Ｂは、ベースコールの第１の反復中に生成された圧縮空間マップセット１２０、１３０、１４０、及び１５０が、ベースコールの第２の反復中に生成された圧縮空間マップセット２３０と併せて使用されて、中央シーケンシングサイクル４に対するベースコール２９２を生成することを示す。図２Ｂでは、時間マップセット１７４、１７６、及び２７８が、図１Ｂに関して上で論じたものと同様の方法で、時間ネットワーク１６０の第１の時間畳み込み層によって生成される。時間マップセット２８２は、図１Ｂに関して上述したものと同様の方法で、時間ネットワーク１６０の第２のかつ最後の時間畳み込み層によって生成される。図２Ｃは、出力層１９０が、ベースコールの第２の反復中に生成された最終時間マップセット２８２を処理し、中央シーケンシングサイクル４に対するベースコール２９２を生成することを示す。
シーケンシングサイクルの第３のウィンドウは、シーケンシングサイクル３、４、５、６、及び７を含み、ベースコールの第３の反復は、中央シーケンシングサイクル５に対するベースコール３９２を生成する。したがって、シーケンシングサイクル３、４、５、及び６は、第２のウィンドウと第３のウィンドウとの間の、又はベースコールの第２の反復と第３の反復との間の、重なり合うシーケンシングサイクルである。
開示されたベースコーリングシステム及び技術は、それぞれのシーケンシングサイクル３、４、及び５に対するベースコールの第１の反復中に生成される圧縮空間マップセット１３０、１４０、及び１５０と、シーケンシングサイクル６に対するベースコールの第２の反復中に生成される圧縮空間マップセット２３０とを、メモリ（例えば、オンチップＤＲＭ、オンチップＳＲＡＭ又はＢＲＡＭ、オフチップＤＲＡＭ）に格納する。ベースコールの第３の反復中、開示されたベースコールシステム及び技術は、重なり合うサイクル３、４、５、及び６に対するそれぞれの入力画像パッチ１２２、１３２、１４２、及び２２２を、空間ネットワーク１０４を介して再処理しない。その代わりに、開示されたベースコールシステム及び技術は、ベースコールの第３の反復中に、それぞれの入力画像パッチ１２２、１３２、１４２、及び２２２に替えて、以前に生成された圧縮空間マップセット１３０、１４０、１５０、及び２３０を再利用する。
図３Ａは、ベースコールの第３の反復中に、空間ロジック１０４及び圧縮ロジック１０８によって入力画像データ３２２を処理することによって、重なり合わないシーケンシングサイクル７に対してのみ、空間マップ３２６及び対応する圧縮空間マップ３３０が生成されることを示す。したがって、重なり合うサイクル３、４、５、おび６に対する入力画像パッチ１２２、１３２、１４２、及び２２２（凡例中の灰色の網掛けで強調表示される）は、重なり合う畳み込みを回避するため、再度処理されることはない。
図３Ｂは、ベースコールの第１及び第２の反復中に生成された圧縮空間マップセット１３０、１４０、１５０、及び２３０が、ベースコールの第３の反復中に生成された圧縮空間マップセット３３０と併せて使用されて、中央シーケンシングサイクル５に対するベースコール３９２を生成することを示す。図３Ｂでは、時間マップセット１７６、２７８、及び３７８は、図１Ｂに関して上述したものと同様の方法で、時間ネットワーク１６０の第１の時間畳み込み層によって生成される。時間マップセット３８２は、図１Ｂに関して上述したものと同様の方法で、時間ネットワーク１６０の第２のかつ最後の時間畳み込み層によって生成される。図３Ｃは、出力層１９０が、ベースコールの第３の反復中に生成された最終時間マップセット３８２を処理し、中央シーケンシングサイクル５に対するベースコール３９２を生成することを示す。
ひとたび圧縮空間マップセットが、所与のシーケンシングサイクルに対して生成されると、その圧縮空間マップセットは、任意の後続のシーケンシングサイクルをベースコールするために再度利用され得る。図４Ａは、中央シーケンシングサイクル１６をベースコールするためのベースコールの第１４の反復を示す。図４Ｂは、シーケンシングサイクル１～２９に対して以前に生成された圧縮空間マップを使用して、中央シーケンシングサイクル１６をベースコールするための最終時間マップセット４８２を生成することを示す。図４Ｃは、出力層１９０が、ベースコールの第１４の反復中に生成された最終時間マップセット４８２を処理し、中央シーケンシングサイクル１６のベースコール４９２を生成することを示す。
図５Ａは、フィルタリングロジック５０２を使用して、それぞれのシーケンシングサイクル１、２、３、４、及び５に対する圧縮空間マップセット１１０、１２０、１３０、１４０、及び１５０をフィルタリングして、ベースコールの第１の反復中に、それぞれのフィルタリングされた圧縮空間マップ５１０、５２０、５３０、５４０、及び５５０（信頼性の高いクラスタのみを示す）を生成する一実施態様を示す。上で論じたように、信頼性の低いクラスタデータ１２８は、空間マップ及び圧縮された空間マップのうちの、信頼性のないクラスタに対応するそれらの部分（例えば、ピクセル）を識別する。そのようなピクセルは、例えば、信頼できないクラスタの位置座標に基づいて識別することができる。
フィルタリングロジック５０２は、信頼できないクラスタを識別するデータ１２８を使用して、圧縮空間マップセット１１０、１２０、１３０、１４０、及び１５０から、信頼できないクラスタに対応する（すなわち、その強度放射を描く）ピクセルをフィルタリングして取り除く（又は廃棄する若しくは除去する）。いくつかの実施態様では、これは、圧縮空間マップセットから破棄されたピクセルの７５％をもたらし、それによって多くの非生産的な畳み込みを防止する。
図５Ａでは、中央シーケンシングサイクル３をベースコールするために、フィルタリング処理された時間マップセット５７２、５７４、及び５７６（信頼性の高いクラスタのみを示す）が、フィルタリングされた圧縮空間マップ５１０、５２０、５３０、５４０、及び５５０から生成される。フィルタリングされた時間マップセット５７２、５７４、及び５７６（信頼性の高いクラスタのみを示す）は、図１Ｂに関して上述したものと同様の方法で、時間ネットワーク１６０の第１の時間畳み込み層によって生成される。フィルタリングされた時間マップセット５８２（信頼性の高いクラスタのみを示す）は、図１Ｂに関して上述したものと同様の方法で、時間ネットワーク１６０の第２のかつ最後の時間畳み込み層によって生成される。図５Ｂは、出力層１９０が、ベースコールの第１の反復中に生成された、フィルタリングされた最終時間マップセット５８２を処理し、中央シーケンシングサイクル３のベースコール５９２を生成することを示す。
図６Ａは、フィルタリングロジック５０２を使用して、それぞれのシーケンシングサイクル２、３、４、５、及び６に対する圧縮空間マップセット１２０、１３０、１４０、１５０、及び２３０をフィルタリングして、ベースコールの第２の反復中に、それぞれのフィルタリングされた圧縮空間マップ５２０、５３０、５４０、５５０、及び６５０（信頼性の高いクラスタのみを示す）を生成する一実施態様を示す。フィルタリングロジック５０２は、信頼できないクラスタを識別するデータ１２８を使用して、圧縮空間マップセット１２０、１３０、１４０、１５０、及び２３０から、信頼できないクラスタに対応する（すなわち、その強度放射を描く）ピクセルをフィルタリングして取り除く（又は廃棄する若しくは除去する）。
図６Ａでは、中央シーケンシングサイクル４をベースコールするために、フィルタリング処理された時間マップセット５７４、５７６、及び６７６（信頼性の高いクラスタのみを示す）が、フィルタリングされた圧縮空間マップ５２０、５３０、５４０、５５０、及び６５０から生成される。フィルタリングされた時間マップセット５７４、５７６、及び６７６（信頼性の高いクラスタのみを示す）は、図１Ｂに関して上述したものと同様の方法で、時間ネットワーク１６０の第１の時間畳み込み層によって生成される。フィルタリングされた時間マップセット６８２（信頼性の高いクラスタのみを示す）は、図１Ｂに関して上述したものと同様の方法で、時間ネットワーク１６０の第２のかつ最後の時間畳み込み層によって生成される。図６Ｂは、出力層１９０が、ベースコールの第２の反復中に生成された、フィルタリングされた最終時間マップセット６８２を処理し、中央シーケンシングサイクル４のベースコール６９２を生成することを示す。
図７Ａは、フィルタリングロジック５０２を使用して、それぞれのシーケンシングサイクル３、４、５、６、及び７に対する圧縮空間マップセット１３０、１４０、１５０、２３０、及び３３０をフィルタリングして、ベースコールの第３の反復中に、それぞれのフィルタリングされた圧縮空間マップ５３０、５４０、５５０、６５０、及び７５０（信頼性の高いクラスタのみを示す）を生成する一実施態様を示す。フィルタリングロジック５０２は、信頼できないクラスタを識別するデータ１２８を使用して、圧縮空間マップセット１３０、１４０、１５０、２３０、及び３３０から、信頼できないクラスタに対応する（すなわち、その強度放射を描く）ピクセルをフィルタリングして取り除く（又は廃棄する若しくは除去する）。
図７Ａでは、中央シーケンシングサイクル５をベースコールするために、フィルタリング処理された時間マップセット５７６、６７６、及び７７６（信頼性の高いクラスタのみを示す）が、フィルタリングされた圧縮空間マップ５３０、５４０、５５０、６５０、及び７５０から生成される。フィルタリングされた時間マップセット５７６、６７６、及び７７６（信頼性の高いクラスタのみを示す）は、図１Ｂに関して上述したものと同様の方法で、時間ネットワーク１６０の第１の時間畳み込み層によって生成される。フィルタリングされた時間マップセット７８２（信頼性の高いクラスタのみを示す）は、図１Ｂに関して上述したものと同様の方法で、時間ネットワーク１６０の第２のかつ最後の時間畳み込み層によって生成される。図７Ｂは、出力層１９０が、ベースコールの第３の反復中に生成された、フィルタリングされた最終時間マップセット７８２を処理し、中央シーケンシングサイクル５のベースコール７９２を生成することを示す。
他の実施態様では、圧縮ロジック１０８は、対応する圧縮時間マップセットを、各々が４つより多くの特徴マップを有するように設定することができる。
空間特徴マップに関して上述した圧縮ロジック１０８は、時間ロジック１６０によって生成された時間特徴マップの圧縮に同等に適用される。ひとたび生成された圧縮空間特徴マップを、後続のシーケンシングサイクルにおいて再使用することはまた、ひとたび生成された圧縮された時間特徴マップを、その後のシーケンシングサイクルにおいて再使用することにも同等に適用される。
いくつかの実施態様では、圧縮された時間特徴マップを再使用することは、その結果、圧縮された時間特徴マップが、処理パイプラインのより後の段階で、圧縮空間特徴マップから生成されるため、圧縮空間特徴マップを再使用するよりも、１００倍以上の効率性及びコンピューティングの節約をもたらす。更なる処理エンジン（すなわち、時間ネットワーク１６０）から中間結果の再目的化することにより、スキップされ得る、先行する処理ステップの数を増加させる。すなわち、圧縮空間特徴マップを再使用することは、空間ネットワーク１０４を介した、元の画像データの冗長処理を排除するが、時間ネットワーク１６０を介した、圧縮空間特徴マップを冗長に処理することを含む可能性がある。対照的に、圧縮時間特徴マップを再使用することは、空間ネットワーク１０４を介した、元の画像データの冗長処理と、時間ネットワーク１６０を介した、圧縮空間特徴マップの冗長処理と、の両方を排除する。
図８Ａは、圧縮ロジック１０８によって、ベースコールの第１の反復中に生成された時間特徴マップのセット１７２、１７４、及び１７６を処理して、圧縮時間特徴マップのそれぞれのセット８０２、８０４、及び８０６を生成する一実施態様を示す。圧縮時間特徴マップセット８０２、８０４、及び８０６は、図１Ｅ及び図１Ｆに関して上述したものと同様の方法で、圧縮ロジック１０８によって生成される。すなわち、例えば、第１の時間特徴マップセット１７２が、例えば２１個の特徴マップを有する（又はチャネル若しくは深さが２１である）場合、圧縮ロジック１０８は、対応する圧縮時間特徴マップセット８０２を、１つ、２つ、３つ、又は４つの特徴マップを有するように設定することができる。圧縮時間特徴マップのセット８０２、８０４、及び８０６は、図１Ｂに関して上述したものと同様の方法で、時間ネットワーク１６０の第２の時間畳み込み層によって処理されて、最終圧縮時間特徴マップセット８１４を生成する。図８Ｂは、出力層１９０が、ベースコールの第１の反復中に生成された最終圧縮時間特徴マップセット８１４を処理し、中央シーケンシングサイクル３のベースコール８９２を生成することを示す。
図９Ａは、第２のベースコール反復において、第１のベースコール反復で生成された圧縮時間マップを再利用する一実施態様を示す。すなわち、圧縮時間マップの第１及び第２のセット８０４及び８０６は、第１のベースコール反復のために図８Ａで生成され、現在、図９Ａ及び図９Ｂに示される第２のベースコール反復では再目的化される。
圧縮時間マップの第１及び第２のセット８０４及び８０６は、時間マップの第１及び第２のセット１７２及び１７４から図８Ａで生成されたということに留意されたい。更に、時間マップの第１及び第２のセット１７２及び１７４は、図１Ｂでは、圧縮空間マップ１１０、１２０、１３０、及び１４０から生成され、圧縮空間マップ１１０、１２０、１３０、及び１４０は、図１Ａでは、それぞれ対応する空間マップ１０６、１１６、１２６、及び１３６から生成され、空間マップ１０６、１１６、１２６、及び１３６は、図１Ａでは、それぞれ対応する画像パッチ１０２、１１２、１２２、及び１３２から生成されたものである。
重なり合う時間マップ１７２、１７４、及び１７６を、冗長に生成する図１Ｂ、図２Ｂ、及び図３Ｂとは異なり、図９Ａでは、重なり合う時間マップ１７４及び１７６（点線及び薄い文字で図９Ａに示される）は、図８Ａ（第１のベースコール反復）から図９Ａ（第２のベースコール反復）まで冗長に生成されることはない。これが起こるのは、圧縮ロジック１０８が時間ネットワーク１６０に組み込まれて、第１のベースコール反復において、圧縮時間マップの第１及び第２のセット８０４及び８０６を生成し、これらが第２のベースコール反復において、重なり合う時間マップ１７４及び１７６を置き換えるためである。圧縮時間マップは、メモリ（例えば、オンチップＤＲＭ、オンチップＳＲＡＭ、又はＢＲＡＭ、オフチップＤＲＡＭ）に格納することができる。
図９Ａはまた、圧縮ロジック１０８によって、重なり合わない時間マップ２７８（すなわち、第１のベースコール反復と第２のベースコール反復との間で重なり合わない）を処理し、圧縮ロジックマップ９０６を生成することを示す。圧縮時間マップセット８０４、８０６、及び９０６は、図１Ｂに関して上述したものと同様の方法で、時間ネットワーク１６０の第２の時間畳み込み層によって処理されて、最終圧縮時間特徴マップセット９１４を生成する。図９Ｂは、出力層１９０が、ベースコールの第２の反復中に生成された最終圧縮時間特徴マップセット９１４を処理し、中央シーケンシングサイクル４のベースコール９９２を生成することを示す。
重なり合う時間マップ１７４、１７６、及び２７８を、冗長に生成する図１Ｂ、図２Ｂ、及び図３Ｂとは異なり、図１０Ａでは、重なり合う時間マップ１７６及び２７８（点線及び薄い文字で図１０Ａに示される）は、図９Ａ（第２のベースコール反復）から図１０Ａ（第３のベースコール反復）まで冗長に生成されることはない。これが起こるのは、圧縮ロジック１０８が時間ネットワーク１６０に組み込まれて、第１及び第２のベースコール反復において、圧縮時間マップの第１及び第２のセット８０６及び９０６を生成し、これらが第３のベースコール反復において、重なり合う時間マップ１７６及び２７８を置き換えるためである。圧縮時間マップは、メモリ（例えば、オンチップＤＲＭ、オンチップＳＲＡＭ、又はＢＲＡＭ、オフチップＤＲＡＭ）に格納することができる。
図１０Ａはまた、圧縮ロジック１０８によって、重なり合わない時間マップ３７８（すなわち、第２のベースコール反復と第３のベースコール反復との間で重なり合わない）を処理し、圧縮ロジックマップ１００６を生成することを示す。圧縮時間マップセット８０６、９０６、及び１００６は、図１Ｂに関して上述したものと同様の方法で、時間ネットワーク１６０の第２の時間畳み込み層によって処理されて、最終圧縮時間特徴マップセット１０１４を生成する。図１０Ｂは、出力層１９０が、ベースコールの第３の反復中に生成された最終圧縮時間特徴マップセット１０１４を処理し、中央シーケンシングサイクル５のベースコール１０９２を生成することを示す。
図１１Ａは、圧縮ロジック１０８によって、ベースコールの第１の反復中に生成されたフィルタリングされた時間特徴マップのセット５７２、５７４、及び５７６を処理して、フィルタリングされた圧縮時間特徴マップのそれぞれのセット１１０２、１１０４、及び１３０６を生成する一実施態様を示す。フィルタリングされた圧縮時間特徴マップセット１１０２、１１０４、及び１１０６（信頼性の高いクラスタのみを示す）は、図１Ｅ及び図１Ｆに関して上述したものと同様の方法で、圧縮ロジック１０８によって生成される。すなわち、例えば、第１のフィルタリングされた時間特徴マップセット５７２が、例えば２１個の特徴マップを有する（又はチャネル又は深さが２１である）場合、圧縮ロジック１０８は、対応する、フィルタリングされた圧縮時間特徴マップセット１１０２を、１つ、２つ、３つ、又は４つの特徴マップを有するように構成することができる。フィルタリングされた圧縮時間特徴マップのセット１１０２、１１０４、及び１１０６は、図１Ｂに関して上述したものと同様の方法で、フィルタリングされた時間ネットワーク１６０の第２のフィルタリングされた時間畳み込み層によって処理されて、フィルタリングされた最終圧縮時間特徴マップセット１１１４を生成する。図８Ｂは、出力層１９０が、ベースコールの第１の反復中に生成された、フィルタリングされた最終圧縮時間特徴マップセット１１１４を処理し、中央シーケンシングサイクル３のベースコール１１９２を生成することを示す。
他の実施態様では、圧縮ロジック１０８は、対応する圧縮特徴マップセットを、各々が４つより多くの特徴マップを有するように設定することができる。
図１２Ａは、第２のベースコール反復において、第１のベースコール反復で生成された、フィルタリングされた圧縮時間マップを再利用する一実施態様を示す。すなわち、フィルタリングされた圧縮時間マップの第１及び第２のセット１１０４及び１１０６は、第１のベースコール反復のために図１１Ａで生成され、現在、図１２Ａ及び図２Ｂに示される第２のベースコール反復では再目的化される。
フィルタリングされた圧縮時間マップの第１及び第２のセット１１０４及び１１０６は、フィルタリングされた時間マップの第１及び第２のセット５７２及び５７４から図１１Ａで生成されたということに留意されたい。更に、フィルタリングされた時間マップの第１及び第２のセット５７２及び５７４は、図５Ａでは、フィルタリングされた圧縮空間マップ５１０、５２０、５３０及び５４０から生成され、フィルタリングされた圧縮空間マップ５１０、５２０、５３０及び５４０は、図５Ａでは、それぞれ対応する圧縮空間マップ１１０、１２０、１３０、及び１４０から生成され、圧縮空間マップ１１０、１２０、１３０、及び１４０は、図１Ａでは、それぞれ対応する空間マップ１０６、１１６、１２６、及び１３６から生成され、空間マップ１０６、１１６、１２６、及び１３６は、図１Ａでは、それぞれ対応する画像パッチ１０２、１１２、１２２、及び１３２から生成されたものである。
フィルタリングされた、重なり合う時間マップ５７２、５７４、及び５７６を、冗長に生成する図５Ａ、６Ａ、及び７Ａとは異なり、図１２Ａでは、フィルタリングされた、重なり合う時間マップ５７４及び５７６（点線及び薄い文字で図１２Ａに示される）は、図１１Ａ（第１のベースコール反復）から図１２Ａ（第２のベースコール反復）へは、重複して生成されることはない。これが起こるのは、圧縮ロジック１０８がフィルタリングされた時間ネットワーク１６０に組み込まれて、第１のベースコール反復において、フィルタリングされた圧縮時間マップの第１及び第２のセット１１０４及び１１０６を生成し、これらが第２のベースコール反復において、フィルタリングされた、重なり合う時間マップ５７４及び５７６を置き換えるためである。フィルタリングされた圧縮時間マップは、メモリ（例えば、サイト、オンチップＤＲＭ、オンチップＳＲＡＭ、又はＢＲＡＭ、オフチップＤＲＡＭ）に格納することができる。
図１２Ａはまた、圧縮ロジック１０８によって、フィルタリングされた重なり合わない時間マップ６７６（すなわち、第１のベースコール反復と第２のベースコール反復との間で重なり合わない）を処理し、フィルタリングされた圧縮ロジックマップ１２０６（信頼性の高いクラスタのみを示す）を生成することを示す。フィルタリングされた圧縮時間マップのセット１１０４、１１０６、及び１２０６は、図１Ｂに関して上述したものと同様の方法で、時間ネットワーク１６０の第２のフィルタリングされた時間畳み込み層によって処理されて、フィルタリングされた最終圧縮時間特徴マップセット１２１４を生成する。図１２Ｂは、出力層１９０が、ベースコールの第２の反復中に生成された、フィルタリングされた最終圧縮時間特徴マップセット１２１４を処理し、中央シーケンシングサイクル４のベースコール１２９２を生成することを示す。
フィルタリングされた、重なり合う時間マップ５７４、５７６、及び６７６を、冗長に生成する図５Ａ、６Ａ、及び７Ａとは異なり、図１３Ａでは、フィルタリングされた、重なり合う時間マップ５７６及び６７６（点線及び薄い文字で図１３Ａに示される）は、図１２Ａ（第２のベースコール反復）から図１３２Ａ（第３のベースコール反復）へは、重複して生成されることはない。これが起こるのは、圧縮ロジック１０８がフィルタリングされた時間ネットワーク１６０に組み込まれて、第１及び第２のベースコール反復において、フィルタリングされた圧縮時間マップの第１及び第２のセット１１０６及び１２０６を生成し、これらが第３のベースコール反復において、フィルタリングされた、重なり合う時間マップ５７６及び６７６を置き換えるためである。フィルタリングされた圧縮時間マップは、メモリ（例えば、サイト、オンチップＤＲＭ、オンチップＳＲＡＭ、又はＢＲＡＭ、オフチップＤＲＡＭ）に格納することができる。
図１３Ａはまた、圧縮ロジック１０８によって、フィルタリングされた重なり合わない時間マップ７７６（すなわち、第２のベースコール反復と第３のベースコール反復との間で重なり合わない）を処理し、フィルタリングされた圧縮ロジックマップ１３０６（信頼性の高いクラスタのみを示す）を生成することを示す。フィルタリングされた圧縮時間マップのセット１１０６、１２０６、及び１３０６は、図１Ｂに関して上述したものと同様の方法で、時間ネットワーク１６０の第２のフィルタリングされた時間畳み込み層によって処理されて、フィルタリングされた最終圧縮時間特徴マップセット１３１４を生成する。図１３Ｂは、出力層１９０が、ベースコールの第３の反復中に生成された、フィルタリングされた最終圧縮時間特徴マップセット１３１４を処理し、中央シーケンシングサイクル５のベースコール１３９２を生成することを示す。
図１４は、ニューラルネットワークベースのベースコーラー１００の第１の例示的なアーキテクチャを示す。図示の実施態様では、ニューラルネットワークベースのベースコーラー１００は、空間ネットワーク１０４、圧縮ネットワーク１０８、及び時間ネットワーク１６０を含む。空間ネットワーク１０４は、７つの空間畳み込み層を含む。圧縮ネットワーク１０８は、圧縮層を備える。時間ネットワーク１６０は、２つの時間畳み込み層を含む。
７つの空間畳み込み層の各々は、同じ数の畳み込みフィルタを有することができるか、又は異なる数の畳み込みフィルタを有することができる。第１の空間畳み込み層は、Ｓ１という数のフィルタを有することができ、Ｓ１は、例えば、７、１４、２１、６４、１２８、又は２５４であり得る。第２の空間畳み込み層は、Ｓ２という数のフィルタを有することができ、Ｓ２は、例えば、７、１４、２１、６４、１２８、又は２５４であり得る。第３の空間畳み込み層は、Ｓ３という数のフィルタを有することができ、Ｓ３は、例えば、７、１４、２１、６４、１２８、又は２５４であり得る。第４の空間畳み込み層は、Ｓ４という数のフィルタを有することができ、Ｓ４は、例えば、７、１４、２１、６４、１２８、又は２５４であり得る。第５の空間畳み込み層は、Ｓ５という数のフィルタを有することができ、Ｓ５は、例えば、７、１４、２１、６４、１２８、又は２５４であり得る。第６の空間畳み込み層は、Ｓ６という数のフィルタを有することができ、Ｓ６は、例えば、７、１４、２１、６４、１２８、又は２５４であり得る。第７の空間畳み込み層は、Ｓ７という数のフィルタを有することができ、Ｓ７は、例えば、７、１４、２１、６４、１２８、又は２５４であり得る。
圧縮層は、Ｃ１という数のフィルタを有することができ、Ｃ１は、例えば、１、２、３、４、又はそれ以上であり得る。
２つの時間畳み込み層の各々は、同じ数の畳み込みフィルタを有することができるか、又は異なる数の畳み込みフィルタを有することができる。第１の時間畳み込み層は、Ｔ１という数のフィルタを有することができ、Ｔ１は、例えば、７、１４、２１、６４、１２８、又は２５４であり得る。第２の時間畳み込み層は、Ｔ２という数のフィルタを有することができ、Ｔ２は、例えば、７、１４、２１、６４、１２８、又は２５４であり得る。図１４はまた、ニューラルネットワークベースのベースコーラー１００の層の各々によって生成された特徴マップ１４１２を示す。
図１５は、ニューラルネットワークベースのベースコーラー１００の第２の例示的なアーキテクチャを示す。図１５は、ニューラルネットワークベースのベースコーラー１００の一部としてのフィルタリングロジック５０２を示す。他の実施態様では、フィルタリングロジック５０２は、ニューラルネットワークベースのベースコーラー１００の一部ではない。圧縮特徴マップＣ１は、Ｐ１×Ｐ２の空間次元数を有する。フィルタリングロジック５０２は、圧縮特徴マップＣ１内の、信頼できないクラスタに対応するピクセルをフィルタリングして除外し、Ｐ３×Ｐ４の空間次元数を有する、フィルタリングされた圧縮特徴マップＦ１を生成する。フィルタリングされた圧縮特徴マップＦ１は、信頼できるクラスタのみを示す。一実施態様では、フィルタリングロジック５０２は、圧縮特徴マップＣ１内のピクセルの７５％を廃棄するため、Ｐ３は、Ｐ１の２５％であり、Ｐ４は、Ｐ２の２５％である。図１５はまた、ニューラルネットワークベースのベースコーラー１００の層の各々によって生成された特徴マップ１５１２を示す。
図１６は、ニューラルネットワークベースのベースコーラー１００の第３の例示的なアーキテクチャを示す。図１６は、圧縮ネットワーク１０８が、空間ネットワーク１０４の出力及び時間ネットワーク１６０の出力を圧縮するために使用されることを示す。図１６はまた、ニューラルネットワークベースのベースコーラー１００の層の各々によって生成された特徴マップ１６１２を示す。
図１７は、ニューラルネットワークベースのベースコーラー１００の第４の例示的なアーキテクチャを示す。図１７は、フィルタリングロジック５０２が、空間ネットワーク１０４の圧縮出力に適用されて、時間ネットワーク１６０からの圧縮及びフィルタリングされた時間出力を生成することを示す。図１７はまた、ニューラルネットワークベースのベースコーラー１００の層の各々によって生成された特徴マップ１７１２を示す。
図１８は入力データ内のチャネルの数に応じて、圧縮層１０８内の畳み込みフィルタの数（又は大きな数）を構成する、フィルタ構成ロジック１８０４の一実施態様を示す。これにより、圧縮特徴マップは、入力データの損失のない表現であることを可能にする。いくつかの実施態様では、入力データは、その後のシーケンシングサイクルで再利用するために、対応する圧縮表現を用いてメモリに上書きすることができる。
一実施態様では、サイクルごとの入力の各々（例えば、１つの画像チャネルのみ）に、１つのチャネル１８１２のみを含む入力データの場合、フィルタ構成ロジック１８０４は、圧縮層１０８を、シーケンシングサイクルごとに１つの圧縮特徴マップ１８１８のみを生成する１つの畳み込みフィルタ１８１６のみを有するように構成する。別の実施態様では、サイクルごとの入力の各々（例えば、青色及び緑色レーザに対応するシーケンス画像内の青色及び緑色の画像チャネルのような２つの画像チャネル）に、２つのチャネル１８２２を含む入力データの場合、フィルタ構成ロジック１８０４は、圧縮層１０８を、シーケンシングサイクルごとに２つの圧縮特徴マップ１８２８を生成する２つの畳み込みフィルタ１８２６を用いて構成する。更に別の実施態様では、サイクルごとの入力の各々（例えば、３つの画像チャネルのみ）に、３つのチャネル１８３２のみを含む入力データの場合、フィルタ構成ロジック１８０４は、圧縮層１０８を、シーケンシングサイクルごとに３つの圧縮特徴マップ１８３８を生成する３つの畳み込みフィルタ１８３６を有するように構成する。なお更なる実施態様では、サイクルごとの入力の各々（例えば、ヌクレオチドＡ、Ｃ、Ｔ、及びＧに対応する、シーケンス画像内のＡ、Ｃ、Ｔ、及びＧチャネルのような４つの画像チャネル）に、４つのチャネル１８４２を含む入力データの場合、フィルタ構成ロジック１８０４は、圧縮層１０８を、シーケンシングサイクルごとに４つの圧縮特徴マップ１８４８を生成する４つの畳み込みフィルタ１８４６を用いて構成する。他の実施態様では、圧縮ロジック１０８は、対応する圧縮特徴マップセットを、各々が４つより多くの特徴マップを有し、それゆえに圧縮層１０８に対して４つより多くのフィルタを選択するように構成することができる。
図１９Ａ及び図１９Ｂは、シーケンシングシステム１９００Ａの一実施態様を示す。シーケンシングシステム１９００Ａは、構成可能プロセッサ１９４６を含む。構成可能プロセッサ１９４６は、本明細書に開示されるベースコール技術を実施する。シーケンシングシステムは、「シーケンサ」とも称される。
シーケンシングシステム１９００Ａは、生物学的物質又は化学物質のうちの少なくとも１つに関連する任意の情報又はデータを得ることができる。いくつかの実施態様では、シーケンシングシステム１９００Ａは、ベンチトップデバイス又はデスクトップコンピュータと同様であり得るワークステーションである。例えば、所望の反応を実施するためのシステム及び構成要素の大部分（又は全て）は、共通のハウジング１９０２内にあってもよい。
特定の実施態様では、シーケンシングシステム１９００Ａは、Ｄｅ Ｎｏｖｏシーケンシング、全ゲノム又は標的ゲノム領域の再配列、及びメタゲノミクスを含むがこれらに限定されない、様々な用途のために構成された核酸シーケンシングシステムである。シーケンサはまた、ＤＮＡ又はＲＮＡ分析に使用されてもよい。いくつかの実施態様では、シーケンシングシステム１９００Ａはまた、バイオセンサ内に反応部位を生成するように構成されてもよい。例えば、シーケンシングシステム１９００Ａは、サンプルを受容し、サンプル由来のクロノウイルス増幅核酸の表面結合クラスタを生成するように構成され得る。各クラスタは、バイオセンサ内の反応部位を構成するか、又はその一部であってもよい。
例示的なシーケンシングシステム１９００Ａは、バイオセンサ１９１２と相互作用して、バイオセンサ１９１２内で所望の反応を行うように構成されたシステム受け部又はインターフェース１９１０を含んでもよい。図１９Ａに関して以下の説明では、バイオセンサ１９１２はシステム受け部１９１０内に装填される。しかしながら、バイオセンサ１９１２を含むカートリッジは、システム受け部１９１０に挿入されてもよく、一部の状態では、カートリッジは一時的又は永久的に除去され得ることが理解される。上述のように、カートリッジは、とりわけ、流体制御及び流体貯蔵構成要素を含んでもよい。
特定の実施態様では、シーケンシングシステム１９００Ａは、バイオセンサ１９１２内で多数の平行反応を行うように構成されている。バイオセンサ１９１２は、所望の反応が生じ得る１つ以上の反応部位を含む。反応部位は、例えば、バイオセンサの固体表面に固定化されてもよく、又はバイオセンサの対応する反応チャンバ内に位置するビーズ（又は他の可動基材）に固定化されてもよい。反応部位は、例えば、クローン的に増幅された核酸のクラスタを含むことができる。バイオセンサ１９１２は、固体撮像装置（例えば、ＣＣＤ又はＣＭＯＳイメージャ）及びそれに取り付けられたフローセルを含んでもよい。フローセルは、シーケンシングシステム１９００Ａから溶液を受容し、溶液を反応部位に向けて方向付ける１つ以上の流路を含んでもよい。任意選択的に、バイオセンサ１９１２は、熱エネルギーを流路の内外に伝達するための熱要素と係合するように構成することができる。
シーケンシングシステム１９００Ａは、相互に相互作用して、生物学的又は化学的分析のための所定の方法又はアッセイプロトコルを実行する、様々な構成要素、アセンブリ、及びシステム（又はサブシステム）を含んでもよい。例えば、シーケンシングシステム１９００Ａは、システムコントローラ１９０６を含み、そのシステムコントローラ１９０６は、シーケンシングシステム１９００Ａの様々な構成要素、アセンブリ、及びサブシステムと、またバイオセンサ１９１２とも通信し得る。例えば、システム受け部１９１０に加えて、シーケンシングシステム１９００Ａはまた、シーケンシングシステム１９００Ａ及びバイオセンサ１９１２の流体ネットワーク全体にわたる流体の流れを制御するための流体制御システム１９０８と、バイオアッセイシステムによって使用され得る全ての流体（例えば、気体又は液体）を保持するように構成されている流体貯蔵システム１９１４と、流体ネットワーク、流体貯蔵システム１９１４、及び／又はバイオセンサ１９１２内の流体の温度を調整し得る温度制御システム１９０４と、バイオセンサ１９１２を照明するように構成されている照明システム１９１６と、を備え得る。上述のように、バイオセンサ１９１２を有するカートリッジがシステム容器１９１０内に装填される場合、カートリッジはまた、流体制御及び流体貯蔵構成要素を含んでもよい。
また、シーケンシングシステム１９００Ａは、ユーザーと対話するユーザーインターフェース１９１８を含んでもよい。例えば、ユーザーインターフェース１９１８は、ユーザーから情報を表示又は要求するディスプレイ１９２０と、ユーザー入力を受け取るためのユーザー入力デバイス１９２２とを含むことができる。いくつかの実施態様では、ディスプレイ１９２０及びユーザー入力デバイス１９２２は、同一のデバイスである。例えば、ユーザーインターフェース１９１８は、個々のタッチの存在を検出し、またディスプレイ上のタッチの場所を識別するように構成されたタッチ感知ディスプレイを含んでもよい。しかしながら、マウス、タッチパッド、キーボード、キーパッド、ハンドヘルドスキャナー、音声認識システム、動き認識システムなどの他のユーザー入力デバイス１９２２が使用されてもよい。以下でより詳細に説明するように、シーケンシングシステム１９００Ａは、所望の反応を実施するために、バイオセンサ１９１２（例えば、カートリッジの形態）を含む様々な構成要素と通信してもよい。シーケンシングシステム１９００Ａはまた、バイオセンサから得られたデータを分析して、ユーザーに所望の情報を提供するように構成されてもよい。
システムコントローラ１９０６は、マイクロコントローラ、縮小命令セットコンピュータ（Reduced Instruction Set Computer、ＲＩＳＣ）、特定用途向け集積回路（Application Specific Integrated Circuit、ＡＳＩＣ）、フィールドプログラマブルゲートアレイ（Field Programmable Gate Array、ＦＰＧＡ）、粗粒度再構成可能構造（Coarse-Grained Reconfigurable Architecture、ＣＧＲＡ）、論理回路、及び本明細書に記載される機能を実行することができる任意の他の回路又はプロセッサと、を備える。上記の実施例は、例示的なものに過ぎず、したがって、システムコントローラという用語の定義及び／又は意味を制限することを意図するものではない。例示的実施態様では、システムコントローラ１９０６は、検出データを取得し分析する少なくとも１つのために、１つ以上の記憶要素、メモリ、又はモジュール内に記憶された命令のセットを実行する。検出データは、ピクセル信号の複数のシーケンスを含むことができ、それにより、数百万個のセンサ（又はピクセル）のそれぞれからのピクセル信号のシーケンスを、多くのベースコールサイクルにわたって検出することができる。記憶要素は、シーケンシングシステム１９００Ａ内の情報源又は物理メモリ要素の形態であってもよい。
命令セットは、本明細書に記載される様々な実施態様の方法及びプロセスなどの特定の動作を実行するようにシーケンシングシステム１９００Ａ又はバイオセンサ１９１２に指示する様々なコマンドを含んでもよい。命令のセットは、有形の非一時的コンピュータ可読媒体又は媒体の一部を形成し得るソフトウェアプログラムの形態であってもよい。本明細書で使用するとき、用語「ソフトウェア」及び「ファームウェア」は互換可能であり、ＲＡＭメモリ、ＲＯＭメモリ、ＥＰＲＯＭメモリ、ＥＥＰＲＯＭメモリ、及び不揮発性ＲＡＭ（ＮＶＲＡＭ）メモリを含むコンピュータによって実行されるメモリに記憶された任意のコンピュータプログラムを含む。上記メモリタイプは、例示的なものに過ぎず、したがって、コンピュータプログラムの記憶に使用可能なメモリの種類に限定されない。
ソフトウェアは、システムソフトウェア又はアプリケーションソフトウェアなどの様々な形態であってもよい。更に、ソフトウェアは、別個のプログラムの集合、又はより大きいプログラム内のプログラムモジュール若しくはプログラムモジュールの一部分の形態であってもよい。ソフトウェアはまた、オブジェクト指向プログラミングの形態のモジュール式プログラミングを含んでもよい。検出データを取得した後、検出データは、ユーザー入力に応じて処理されたシーケンシングシステム１９００Ａによって自動的に処理されてもよく、又は別の処理マシン（例えば、通信リンクを介したリモート要求）によって行われる要求に応じて処理されてもよい。図示の別の実施態様では、システムコントローラ１９０６は分析モジュール１９４４を含む。他の別の実施態様では、システムコントローラ１９０６は分析モジュール１９４４を含まず、代わりに分析モジュール１９４４へのアクセスを有する（例えば、分析モジュール１９４４は、クラウド上で別個にホスティングされ得る）。
システムコントローラ１９０６は、通信リンクを介して、バイオセンサ１９１２及びシーケンシングシステム１９００Ａの他の構成要素に接続されてもよい。システムコントローラ１９０６はまた、オフサイトシステム又はサーバに通信可能に接続されてもよい。通信リンクは、配線、コード、又は無線であってもよい。システムコントローラ１９０６は、ユーザーインターフェース１９１８及びユーザー入力デバイス１９２２からユーザー入力又はコマンドを受信してもよい。
流体制御システム１９０８は、流体ネットワークを含み、流体ネットワークを通る１つ以上の流体の流れを方向付けるように構成されている。流体ネットワークは、バイオセンサ１９１２及び流体貯蔵システム１９１４と流体連通していてもよい。例えば、流体貯蔵システム１９１４から流体を選択し、制御された方法でバイオセンサ１９１２に向けてもよく、又は流体は、バイオセンサ１９１２から引き出され、例えば、流体貯蔵システム１９１４内の廃棄物リザーバに向けられてもよい。図示されていないが、流体制御システム１９０８は、流体ネットワーク内の流体の流量又は圧力を検出する流量センサを含んでもよい。センサは、システムコントローラ１９０６と通信してもよい。
温度制御システム１９０４は、流体ネットワーク、流体貯蔵システム１９１４及び／又はバイオセンサ１９１２の異なる領域における流体の温度を調節するように構成されている。例えば、温度制御システム１９０４は、バイオセンサ１９１２と相互作用し、バイオセンサ１９１２内の反応部位に沿って流れる流体の温度を制御する熱循環器を含んでもよい。温度制御システム１９０４はまた、シーケンシングシステム１９００Ａ又はバイオセンサ１９１２の固体要素又は構成要素の温度を調節してもよい。図示されていないが、温度制御システム１９０４は、流体又は他の構成要素の温度を検出するためのセンサを含んでもよい。センサは、システムコントローラ１９０６と通信してもよい。
流体貯蔵システム１９１４は、バイオセンサ１９１２と流体連通しており、所望の反応を行うために使用される様々な反応成分又は反応物質を貯蔵してもよい。流体貯蔵システム１９１４はまた、流体ネットワーク及びバイオセンサ１９１２を洗浄又はクリーニングし、反応物質を希釈するための流体を貯蔵してもよい。例えば、流体貯蔵システム１９１４は、試料、試薬、酵素、他の生体分子、緩衝液、水性、及び非極性溶液などを保存するための様々なリザーバを含んでもよい。更に、流体貯蔵システム１９１４はまた、バイオセンサ１９１２から廃棄物を受容するための廃棄物リザーバを含んでもよい。カートリッジを含む実施態様形態では、カートリッジは、流体貯蔵システム、流体制御システム、又は温度制御システムのうちの１つ以上を含み得る。したがって、これらのシステムに関する本明細書に記載される構成要素のうちの１つ以上は、カートリッジハウジング内に収容され得る。例えば、カートリッジは、サンプル、試薬、酵素、他の生体分子、緩衝液、水性及び非極性溶液、廃棄物などを保存するための様々なリザーバを有し得る。したがって、流体貯蔵システム、流体制御システム、又は温度制御システムのうちの１つ以上は、カートリッジ又は他のバイオセンサを介してバイオアッセイシステムと取り外し可能に係合され得る。
照明システム１９１６は、バイオセンサを照明するための光源（例えば、１つ以上の発光ダイオード（Light-Emitting Diode、ＬＥＤ））及び複数の光学構成要素を含んでもよい。光源の例としては、レーザ、アークランプ、ＬＥＤ、又はレーザダイオードを挙げることができる。光学構成要素は、例えば、反射器、偏光板、ビームスプリッタ、コリメータ、レンズ、フィルタ、ウェッジ、プリズム、鏡、検出器などであってもよい。照明システムを使用する実施態様では、照明システム１９１６は、励起光を反応部位に向けるように構成されてもよい。一例として、蛍光団は、緑色の光の波長によって励起されてもよく、そのため、励起光の波長は約１９３２ｎｍであり得る。一実施態様では、照明システム１９１６は、バイオセンサ１９１２の表面の表面法線に平行な照明を生成するように構成されている。別の実施態様では、照明システム１９１６は、バイオセンサ１９１２の表面の表面法線に対してオフアングルである照明を生成するように構成されている。更に別の実施態様では、照明システム１９１６は、いくつかの平行照明及びある程度のオフアングル照明を含む複数の角度を有する照明を生成するように構成されている。
システム受け部又はインターフェース１９１０は、機械的、電気的、及び流体的な方法のうちの少なくとも１つにおいてバイオセンサ１９１２と係合するように構成される。システム受け部１９１０は、バイオセンサ１９１２を所望の配向に保持して、バイオセンサ１９１２を通る流体の流れを容易にすることができる。システム受け部１９１０はまた、バイオセンサ１９１２と係合するように構成された電気接点を含んでもよく、それにより、シーケンシングシステム１９００Ａは、バイオセンサ１９１２と通信してもよく、及び／又はバイオセンサ１９１２に電力を供給することができる。更に、システム受け部１９１０は、バイオセンサ１９１２と係合するように構成された流体ポート（例えば、ノズル）を含んでもよい。いくつかの実施態様では、バイオセンサ１９１２は、機械的に、電気的に、また流体方式で、システム受け部１９１０に取り外し可能に連結される。
加えて、シーケンシングシステム１９００Ａは、他のシステム若しくはネットワークと、又は他のバイオアッセイシステム１９００Ａと、遠隔で通信してもよい。バイオアッセイシステム１９００Ａによって得られた検出データは、リモートデータベースに記憶されてもよい。
図１９Ｂは、図１９Ａのシステムで使用することができるシステムコントローラ１９０６のブロック図である。一実施態様では、システムコントローラ１９０６は、互いに通信することができる１つ以上のプロセッサ又はモジュールを含む。プロセッサ又はモジュールのそれぞれは、特定のプロセスを実行するためのアルゴリズム（例えば、有形及び／又は非一時的コンピュータ可読記憶媒体上に記憶された命令）又はサブアルゴリズムを含んでもよい。システムコントローラ１９０６は、モジュールの集合として概念的に例示されるが、専用ハードウェアボード、ＤＳＰ、プロセッサなどの任意の組み合わせを利用して実装されてもよい。あるいは、システムコントローラ１９０６は、単一のプロセッサ又は複数のプロセッサを備えた既製のＰＣを使用して実装されてもよく、機能動作はプロセッサ間に分散される。更なる選択肢として、以下に記載されるモジュールは、特定のモジュール式機能が専用ハードウェアを利用して実施されるハイブリッド構成を利用して実装されてもよく、残りのモジュール式機能は、既製のＰＣなどを利用して実施される。モジュールはまた、処理ユニット内のソフトウェアモジュールとして実装されてもよい。
動作中、通信ポート１９５０は、バイオセンサ１９１２（図１９Ａ）及び／又はサブシステム１９０８、１９１４、１９０４（図１９Ａ）に情報（例えば、コマンド）を送信してもよく、あるいはそれらから情報（例えば、データ）を受信してもよい。あるいくつかの実施態様では、通信ポート１９５０は、ピクセル信号の複数のシーケンスを出力することができる。通信リンク１９３４は、ユーザーインターフェース１９１８からユーザー入力を受信してもよく（図１９Ａ）、ユーザーインターフェース１９１８にデータ又は情報を送信してもよい。バイオセンサ１９１２又はサブシステム１９０８、１９１４、１９０４からのデータは、バイオアッセイセッション中に、システムコントローラ１９０６によってリアルタイムで処理されてもよい。追加的に又は代替的に、データは、バイオアッセイセッション中にシステムメモリ内に一時的に記憶され、リアルタイムよりも遅いタイミングで、又はオフライン操作で処理されてもよい。
図１９Ｂに示すように、システムコントローラ１９０６は、中央演算処理装置（Central Processing Unit、ＣＰＵ）１９５２と共に、主制御モジュール１９２４と通信する複数のモジュール１９２６～１９４８を含んでもよい。主制御モジュール１９２４は、ユーザーインターフェース１９１８と通信してもよい（図１９Ａ）。モジュール１９２６～１９４８は、主制御モジュール１９２４と直接通信するものとして示されているが、モジュール１９２６～１９４８はまた、互いに、ユーザーインターフェース１９１８と、及びバイオセンサ１９１２と直接通信してもよい。また、モジュール１９２６～１９４８は、他のモジュールを介して主制御モジュール１９２４と通信してもよい。
複数のモジュール１９２６～１９４８は、サブシステム１９０８、１９１４、１９０４及び１９１６とそれぞれ通信するシステムモジュール１９２８～１９３２、１９２６を含む。流体制御モジュール１９２８は、流体ネットワークを通る１つ以上の流体の流れを制御するために、流体制御システム１９０８と通信して、流体ネットワークの弁及び流量センサを制御してもよい。流体貯蔵モジュール１９３０は、流体の貯蔵量が低い場合、又は廃棄物リザーバが容量一杯にある又はその容量一杯近くにあるときにユーザーに通知することができる。流体貯蔵モジュール１９３０はまた、流体が所望の温度で貯蔵され得るように、温度制御モジュール１９３２と通信してもよい。照明モジュール１９２６は、所望の反応（例えば、結合事象）が生じた後など、プロトコル中に指定された時間で反応部位を照明するために、照明システム１９１６と通信してもよい。いくつかの実施態様では、照明モジュール１９２６は、照明システム１９１６と通信して、指定された角度で反応部位を照明することができる。
複数のモジュール１９２６～１９４８はまた、バイオセンサ１９１２と通信する装置モジュール１９３６と、バイオセンサ１９１２に関連する識別情報を判定する識別モジュール１９３８とを含んでもよい。装置モジュール１９３６は、例えば、システム受け部１９１０と通信して、バイオセンサがシーケンシングシステム１９００Ａとの電気的及び流体的接続を確立したことを確認することができる。識別モジュール１９３８は、バイオセンサ１９１２を識別する信号を受信してもよい。識別モジュール１９３８は、バイオセンサ１９１２の識別情報を使用して、他の情報をユーザーに提供してもよい。例えば、識別モジュール１９３８は、ロット番号、製造日、又はバイオセンサ１９１２で実行することが推奨されるプロトコルを決定し、その後表示してもよい。
複数のモジュール１９２６～１９４８はまた、バイオセンサ１９１２から信号データ（例えば、画像データ）を受信及び分析する分析モジュール１９４４（信号処理モジュール又は信号プロセッサとも呼ばれる）も含む。分析モジュール１９４４は、検出／画像データを記憶するためのメモリ（例えば、ＲＡＭ又はフラッシュ）を含む。検出データは、ピクセル信号の複数のシーケンスを含むことができ、それにより、数百万個のセンサ（又はピクセル）のそれぞれからのピクセル信号のシーケンスを、多くのベースコールサイクルにわたって検出することができる。信号データは、その後の分析のために記憶されてもよく、又はユーザーインターフェース１９１８に送信されて、所望の情報をユーザーに表示することができる。いくつかの実施態様では、信号データは、分析モジュール１９４４が信号データを受信する前に、固体撮像素子（例えば、ＣＭＯＳ画像センサ）によって処理され得る。
分析モジュール１９４４は、複数のシーケンシングサイクルのそれぞれにおいて、光検出器から画像データを取得するように構成される。画像データは、光検出器によって検出される発光信号から導出され、ニューラルネットワークベースのベースコーラー１００を介して、複数のシーケンシングサイクルの各々に対して画像データを処理し、複数のシーケンシングサイクルの各々で分析物のうちの少なくともいくつかに対するベースコールを生成する。光検出器は、１つ以上のオーバーヘッドカメラ（例えば、バイオセンサ１９１２上のクラスタの画像を上から撮影するＩｌｌｕｍｉｎａのＧＡＩＩｘのＣＣＤカメラ）の一部であってもよく、又はバイオセンサ１９１２自体の一部（例えば、バイオセンサ１９１２上のクラスタの下にあり、底部からのクラスタの画像を取るＩｌｌｕｍｉｎａのｉＳｅｑのＣＭＯＳ画像センサ）であってもよい。
光検出器の出力は、それぞれクラスタの強度放射及びそれらの周囲背景を示すシーケンス画像である。シーケンス画像は、シーケンシング中にシーケンスにヌクレオチドを組み込む結果として生成される強度放射を示す。強度放射は、関連する分析物及びそれらの周囲の背景からのものである。シーケンス画像は、メモリ１９４８に記憶される。
プロトコルモジュール１９４０及び１９４２は、メイン制御モジュール１９２４と通信して、所定のアッセイプロトコルを実施する際にサブシステム１９０８、１９１４及び１９０４の動作を制御する。プロトコルモジュール１９４０及び１９４２は、所定のプロトコルに従って特定の動作を実行するようにシーケンシングシステム１９００Ａに命令するための命令セットを含み得る。図示のように、プロトコルモジュールは、シーケンシングごとの合成プロセスを実行するための様々なコマンドを発行するように構成された、合成によるシーケンシング（Sequencing-By-Synthesis、ＳＢＳ）モジュール１９４０であってもよい。ＳＢＳにおいて、核酸テンプレートに沿った核酸プライマーの伸長を監視して、テンプレート中のヌクレオチドシーケンスを決定する。基礎をなす化学プロセスは、重合（例えば、ポリメラーゼ酵素により触媒される）又はライゲーション（例えば、リガーゼ酵素により触媒される）であり得る。特定のポリマー系ＳＢＳの実施態様では、プライマーに付加されるヌクレオチドの順序及び種類の検出を使用してテンプレートのシーケンスを決定することができるように、蛍光標識ヌクレオチドをテンプレート依存様式でプライマー（それによってプライマーを伸長させる）に添加する。例えば、第１のＳＢＳサイクルを開始するために、１つ以上の標識されたヌクレオチド、ＤＮＡポリメラーゼなどを、核酸テンプレートのアレイを収容するフローセル内に／それを介して送達することができる。核酸テンプレートは、対応する反応部位に位置してもよい。プライマー伸長が、組み込まれる標識ヌクレオチドを、撮像事象を通して検出することができる、これらの反応部位が検出され得る。撮像イベントの間、照明システム１９１６は、反応部位に励起光を提供することができる。任意選択的に、ヌクレオチドは、ヌクレオチドがプライマーに付加されると、更なるプライマー伸長を終結する可逆的終結特性を更に含むことができる。例えば、可逆的ターミネーター部分を有するヌクレオチド類似体をプライマーに付加して、デブロッキング作用因子が送達されてその部分を除去するまで、その後の伸長が起こらないようにすることができる。したがって、可逆終端を使用する別の実施態様では、フローセルにデブロッキング試薬を、（検出前又は検出後に）送達するために、コマンドを与えることができる。１つ以上のコマンドは、様々な送達工程間の洗浄（複数可）をもたらすために与えられ得る。次いで、サイクルをｎ回繰り返してプライマーをｎ個のヌクレオチド分だけ延長し、それによって長さｎのシーケンスを検出することができる。例示的なシーケンシング技術は、例えば、Ｂｅｎｔｌｅｙ ｅｔ ａｌ．，Ｎａｔｕｒｅ ４１９６：１９３－１９９（２００１９）、国際特許出願公開第０４／０１１９４９７号、米国特許第７，０１９７，０２６号、国際特許出願公開第９１／０６６７１９号、国際特許出願公開第０７／１２３７４４号、米国特許第７，３２９，４９２号、米国特許第７，２１１，４１４号、米国特許第７，３１１９，０１９号、米国特許第７，４０１９，２１９１号、及び米国特許出願公開第２００１９／０１４７０１９０１９２号に記載されており、これらの各々は、参照により本明細書に組み込まれる。
ＳＢＳサイクルのヌクレオチド送達工程では、単一の種類のヌクレオチドのいずれかを一度に送達することができ、又は複数の異なるヌクレオチドタイプ（例えば、Ａ、Ｃ、Ｔ、及びＧ）を送達することができる。一度に単一の種類のヌクレオチドのみが存在するヌクレオチド送達構成では、異なるヌクレオチドは、個別化された送達に固有の時間的分離に基づいて区別することができるため、異なるヌクレオチドは別個の標識を有する必要はない。したがって、シーケンシング方法又は装置は、単一の色検出を使用することができる。例えば、励起源は、単一の波長又は単一の波長範囲の励起のみを提供する必要がある。ある時点で、送達がフローセル内に存在する複数の異なるヌクレオチドをもたらすヌクレオチド送達構成では、異なるヌクレオチドタイプを組み込む部位は、混合物中のそれぞれのヌクレオチドタイプに結合された異なる蛍光標識に基づいて区別することができる。例えば、４つの異なる蛍光団のうちの１つをそれぞれ有する４つの異なるヌクレオチドを使用することができる。一実施態様では、４つの異なるフルオロフォアは、スペクトルの４つの異なる領域における励起を使用して区別することができる。例えば、４つの異なる励起放射線源を使用することができる。あるいは、４つ未満の異なる励起源を使用することができるが、単一源からの励起放射線の光学的濾過を使用して、フローセルにおいて異なる励起放射線の範囲を生成することができる。
いくつかの実施態様では、４つ未満の異なる色を、４つの異なるヌクレオチドを有する混合物中で検出することができる。例えば、ヌクレオチドの対は、同じ波長で検出することができるが、対のうちの１つのメンバーに対する強度の差に基づいて、又は、対の他の部材について検出された信号と比較して明らかなシグナルを出現又は消失させる、対の１つのメンバーへの変化（例えば、化学修飾、光化学修飾、又は物理的改質を行うことを介して）に基づいて区別され得る。４個未満の色の検出を使用して４個の異なるヌクレオチドを区別するための例示的な装置及び方法が、例えば、米国特許出願第６１／１９３１９，２９４号及び同第６１／６１９，１９７１９号に記載されており、それらの全体が参照により本明細書に組み込まれる。２０１２年９月２１日に出願された米国特許出願第１３／６２４，２００号もまた、その全体が参照により組み込まれる。
複数のプロトコルモジュールはまた、バイオセンサ１９１２内の製品を増幅するための流体制御システム１９０８及び温度制御システム１９０４に命令を発行するように構成された試料調製（又は生成）モジュール１９４２を含んでもよい。例えば、バイオセンサ１９１２は、シーケンシングシステム１９００Ａに係合されてもよい。増幅モジュール１９４２は、バイオセンサ１９１２内の反応チャンバに必要な増幅成分を送達するために、流体制御システム１９０８に命令を発行することができる。他の実施態様では、反応部位は、テンプレートＤＮＡ及び／又はプライマーなどの増幅のためのいくつかの成分を既に含有していてもよい。増幅成分を反応チャンバに送達した後、増幅モジュール１９４２は、既知の増幅プロトコルに従って異なる温度段階を通して温度制御システム１９０４にサイクルするように指示し得る。いくつかの実施態様では、増幅及び／又はヌクレオチドの取り込みは、等温的に実施される。
ＳＢＳモジュール１９４０は、クローン性アンプリコンのクラスタがフローセルのチャネル内の局所領域上に形成されるブリッジＰＣＲを実行するコマンドを発行することができる。ブリッジＰＣＲを介してアンプリコンを生成した後、アンプリコンを「線形化」して、一本鎖テンプレートＤＮＡを作製してもよく、ｓｓｔＤＮＡ及びシーケンシングプライマーは、関心領域に隣接する普遍シーケンスにハイブリダイズされてもよい。例えば、合成方法による可逆的ターミネーター系シーケンシングを、上記のように又は以下のように使用することができる。
各ベースコール又はシーケンシングサイクルは、例えば、修飾ＤＮＡポリメラーゼ及び４種類のヌクレオチドの混合物を使用することによって達成することができる単一の塩基によってｓｓｔＤＮＡを延長することができる。異なる種類のヌクレオチドは、固有の蛍光標識を有することができ、各ヌクレオチドは、各サイクルにおいて単一塩基の組み込みのみが生じることを可能にする可逆的ターミネーターを更に有し得る。単一の塩基をｓｓｔＤＮＡに添加した後、励起光が反応部位に入射し、蛍光発光を検出することができる。検出後、蛍光標識及びターミネーターは、ｓｓｔＤＮＡから化学的に切断され得る。別の同様のベースコール又はシーケンシングサイクルが、後に続いてもよい。そのようなシーケンシングプロトコルでは、ＳＢＳモジュール１９４０は、バイオセンサ１９１２を通る試薬及び酵素溶液の流れを方向付けるように流体制御システム１９０８に指示することができる。本明細書に記載される装置及び方法と共に利用することができる例示的な可逆性ターミネーターベースのＳＢＳ方法は、米国特許出願公開第２００７／０１６６７０１９（Ａ１）号、米国特許出願公開第２００６／０１１９６＊３９０１（Ａ１）号、米国特許第７，０１９７，０２６号、米国特許出願公開第２００６／０２４０４３９（Ａ１）号、米国特許出願公開第２００６／０２１９１４７１４７０９（Ａ１）号、国際特許出願公開第０１９／０６１９５１４号、米国特許出願公開第２００１９／０１４７００９００（Ａ１）号、国際特許出願公開第０６／０１９Ｂ１９９号及び国際特許出願公開第０７／０１４７０２１９１号（それぞれ参照によりその全体が本明細書に組み込まれる）に記載されている。可逆的ターミネーター系ＳＢＳの例示的な試薬は、米国特許第７，１９４１，４４４号、米国特許第７，０１９７，０２６号、米国特許第７，４１４，１４７１６号、米国特許第７，４２７，６７３号、米国特許第７，１９６６，１９３７号、米国特許第７，１９９２，４３１９号、国際特許出願公開第０７／１４１９３１９３６１９号に記載され、これらの文書のそれぞれ全体が、参照により本明細書に組み込まれる。
いくつかの実施態様では、増幅及びＳＢＳモジュールは、単一のアッセイプロトコルで動作してもよく、例えば、テンプレート核酸は増幅され、続いて同じカートリッジ内でシーケンスされる。
シーケンシングシステム１９００Ａはまた、ユーザーがアッセイプロトコルを再構成することを可能にし得る。例えば、シーケンシングシステム１９００Ａは、決定されたプロトコルを修正するために、ユーザーインターフェース１９１８を通じてユーザーにオプションを提供することができる。例えば、バイオセンサ１９１２が増幅のために使用されると判定された場合、シーケンシングシステム１９００Ａは、アニーリングサイクルの温度を要求し得る。更に、シーケンシングシステム１９００Ａは、選択されたアッセイプロトコルに対して一般的に許容されないユーザー入力をユーザーが提供した場合に、ユーザーに警告を発行し得る。
実施態様形態では、バイオセンサ１９１２は、数百万個のセンサ（又はピクセル）を含み、それらのそれぞれは、後続のベースコールサイクルにわたって複数のピクセル信号のシーケンスを生成する。分析モジュール１９４４は、センサのアレイ上のセンサの行方向及び／又は列方向の位置に従って、ピクセル信号の複数のシーケンスを検出し、それらを対応するセンサ（又はピクセル）に属させる。
図１９Ｃは、ベースコールセンサ出力などのシーケンシングシステム１９００Ａからのセンサデータの分析のためのシステムの簡略ブロック図である。図１９Ｃの例では、システムは、構成可能プロセッサ１９４６を含む。構成可能プロセッサ１９４６は、中央演算処理装置（ＣＰＵ）１９５２（すなわち、ホストプロセッサ）によって実行される実行時プログラム／ロジック１９８０と協調して、ベースコーラー（例えば、ニューラルネットワークベースのベースコーラー１００）を実行することができる。シーケンシングシステム１９００Ａは、バイオセンサ１９１２及びフローセルを含む。フローセルは、遺伝物質のクラスタが、遺伝物質中の塩基を識別するためにクラスタ内の反応を引き起こすために使用される一連の分析物フローに曝露される１つ以上のタイルを含み得る。センサは、タイルデータを提供するために、フローセルの各タイルにおけるシーケンスの各サイクルの反応を検知する。遺伝的シーケンシングはデータ集約的操作であり、このデータ集約的動作は、ベースコールセンサデータを、ベースコール動作中に感知された各遺伝物質群のベースコールのシーケンスに変換する。
本実施例のシステムは、ベースコール動作を調整するための実行時プログラム／ロジック１９８０を実行するＣＰＵ１９５２と、タイルデータのアレイのシーケンスを記憶するメモリ１９４８Ｂと、ベースコール動作によって生成されたベースコールリードと、ベースコール動作で使用される他の情報とを記憶する。また、この図では、システムは、構成ファイル（又は複数の構成ファイル）、例えば、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）ビットファイル、及び構成可能プロセッサ１９４６を構成及び再構成し、ニューラルネットワークを実行するために使用されるモデルパラメータを記憶するためのメモリ１９４８Ａを含む。シーケンシングシステム１９００Ａは、構成可能プロセッサを構成するためのプログラムを含むことができ、いくつかの実施態様では、ニューラルネットワークを実行する再構成可能なプロセッサを含み得る。
シーケンシングシステム１９００Ａは、バス１９８９によって構成可能プロセッサ１９４６に結合される。バス１９８９は、一例では、ＰＣＩ－ＳＩＧ規格（PCI Special Interest Group）によって現在維持及び開発されているＰＣＩｅ規格（Peripheral Component Interconnect Express）と互換性のあるバス技術などの高スループット技術を使用して実装することができる。また、この例では、メモリ１９４８Ａは、バス１９９３によって構成可能プロセッサ１９４６に結合される。メモリ１９４８Ａは、構成可能プロセッサ１９４６を有する回路基板上に配置されたオンボードメモリであってもよい。メモリ１９４８Ａは、ベースコール動作で使用される作業データの構成可能プロセッサ１９４６による高速アクセスに使用される。バス１９９３はまた、ＰＣＩｅ規格と互換性のあるバス技術などの高スループット技術を使用して実装することもできる。
フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、粗粒度再構成可能アレイＣＧＲＡ、並びに他の構成可能かつ再構成可能なデバイスを含む構成可能なプロセッサは、コンピュータプログラムを実行する汎用プロセッサを使用して達成され得るよりも、より効率的に又はより高速に様々な機能を実装するように構成することができる。構成可能なプロセッサの構成は、時にはビットストリーム又はビットファイルと称される構成ファイルを生成するために機能的な説明を編集することと、構成ファイルをプロセッサ上の構成可能要素に配布することと、を含む。構成ファイルは、データフローパターンを設定するように回路を構成することにより、分散メモリ及び他のオンチップメモリリソースの使用、ルックアップテーブルコンテンツ、構成可能な論理ブロックの動作、及び構成可能な論理ブロックの動作、及び構成可能なアレイの構成可能な相互接続及び他の要素のような構成可能な実行ユニットとを含む。構成ファイルがフィールド内で変更され得る場合、ロードされた構成ファイルを変更することによって構成ファイルを変更することができる場合に再構成可能である。例えば、構成ファイルは、揮発性ＳＲＡＭ要素内に、不揮発性読み書きメモリ素子内に記憶されてもよく、構成可能又は再構成可能なプロセッサ上の構成可能要素のアレイ間に分散されたものであってもよい。様々な市販の構成可能なプロセッサは、本明細書に記載されるようなベースコール動作において使用するのに好適である。例としては、Ｇｏｏｇｌｅのテンソル処理ユニット（ＴＰＵ）（商標）、ＧＸ４ Ｒａｃｋｍｏｕｎｔ Ｓｅｒｉｅｓ（商標）、ＧＸ９ Ｒａｃｋｍｏｕｎｔ Ｓｅｒｉｅｓ（商標）、ＮＶＩＤＩＡ ＤＧＸ－１（商標）、Ｍｉｃｒｏｓｏｆｔ’Ｓｔｒａｔｉｘ Ｖ ＦＰＧＡ（商標）、ＧｒａｐｈｃｏｒｅのＩｎｔｅｌｌｉｇｅｎｔ Ｐｒｏｃｅｓｓｏｒ Ｕｎｉｔ（ＩＰＵ）（商標）、ＱｕａｌｃｏｍｍのＺｅｒｏｔｈ Ｐｌａｔｆｏｒｍ（商標）（Ｓｎａｐｄｒａｇｏｎ ｐｒｏｃｅｓｓｏｒｓ（商標）、ＮＶＩＤＩＡ Ｖｏｌｔａ（商標）、ＮＶＩＤＩＡのドライブＰＸ（商標）、ＮＶＩＤＩＡのＪＥＴＳＯＮ ＴＸ１／ＴＸ２ ＭＯＤＵＬＥ（商標）、Ｉｎｔｅｌ’ｓ ＮｉｒｖａｎａＴＭ、Ｍｏｖｉｄｉｕｓ ＶＰＵ（商標）、Ｆｕｊｉｔｓｕ ＤＰＩ（商標）、アームＤｙｎａｍｉｃＩＱ（商標）、ＩＢＭ ＴｒｕｅＮｏｒｔｈ（商標）、Ｌａｍｂｄａ ＧＰＵ Ｓｅｒｖｅｒ ｗｉｔｈ Ｔｅｓｔａ Ｖ１００ｓ（商標）、Ｘｉｌｉｎｘ Ａｌｖｅｏ（商標）Ｕ２００、Ｘｉｌｉｎｘ Ａｌｖｅｏ（商標）Ｕ２１９０、Ｘｉｌｉｎｘ Ａｌｖｅｏ（商標）Ｕ２８０、Ｉｎｔｅｌ／Ａｌｔｅｒａ Ｓｔｒａｔｉｘ（商標）ＧＸ２８００、Ｉｎｔｅｌ／Ａｌｔｅｒａ Ｓｔｒａｔｉｘ（商標）ＧＸ２８００、及びＩｎｔｅｌ Ｓｔｒａｔｉｘ（商標）ＧＸ１０Ｍ、が含まれる。いくつかの実施例では、ホストＣＰＵは、構成可能プロセッサと同じ集積回路上に実装することができる。
本明細書に記載の実施態様は、構成可能なプロセッサ１９４６を使用して、ニューラルネットワークベースのベースコーラー１００を実装する。構成可能プロセッサ１９４６の構成ファイルは、高レベルの記述言語ＨＤＬ又はレジスタ転送レベルＲＴＬ言語仕様を使用して実行される論理機能を指定することによって実装することができる。本明細書は、選択された構成可能プロセッサが構成ファイルを生成するように設計されたリソースを使用してコンパイルすることができる。構成可能なプロセッサではない場合がある特定用途向け集積回路の設計を生成する目的で、同じ又は類似の仕様をコンパイルすることができる。
したがって、本明細書に記載される全ての実施態様における構成可能プロセッサ構成可能プロセッサ１９４６の代替例は、特定用途向けＡＳＩＣ又は専用集積回路又は集積回路のセットを含む構成されたプロセッサを含み、又はシステムオンチップＳＯＣデバイス、又は本明細書に記載されるようなニューラルネットワークベースのベースコール動作を実行するように構成された、システムオンチップＳＯＣデバイス、又はグラフィック処理ユニット（ＧＰＵ）プロセッサ若しくは粗粒度再構成可能アーキテクチャ（Coarse-Grained Reconfigurable Architecture、ＣＧＲＡ）プロセッサである。
一般に、ニューラルネットワークの動作を実行するように構成された、本明細書に記載の構成可能なプロセッサ及び構成されたプロセッサは、本明細書ではニューラルネットワークプロセッサと称される。
構成可能プロセッサ１９４６は、この例では、ＣＰＵ１９５２によって実行されるプログラムを使用して、又は構成可能要素１９９１のアレイを構成する他のソースによってロードされた構成ファイルによって構成される（例えば、構成論理ブロック（Configuration Logic Block、ＣＬＢ）、例えばルックアップテーブル（Look Up Table、ＬＵＴ）、フリップフロップ、演算処理ユニット（ＰＭＵ）、及び計算メモリユニット（Compute Memory Unit、ＣＭＵ）、構成可能なＩ／Ｏブロック、プログラマブル相互接続）を計算して、ベースコール機能を実行する。この例では、構成は、バス１９８９及び１９９３に結合され、ベースコール動作で使用される要素間でデータ及び制御パラメータを分散する機能を実行するデータフローロジック１９９７を含む。
また、構成可能なプロセッサ１９４６は、データフローロジック１９９７を用いて構成されて、ニューラルネットワークベースのベースコーラー１００を実行する。ロジック１９９７は、マルチサイクル実行クラスタ（例えば、１９７９）を含み、この実施例では、実行クラスタＸを介した実行クラスタ１を含む。多重サイクル実行クラスタの数は、動作の所望のスループットを伴うトレードオフ、及び構成可能プロセッサ１９４６上の利用可能なリソースに従って選択することができる。
多重サイクル実行クラスタは、構成可能なプロセッサ１９４６上の構成可能な相互接続及びメモリリソースを使用して実装されるデータ流路１９９９によってデータフローロジック１９９７に結合される。また、マルチサイクル実行クラスタは、構成可能な相互接続及びメモリリソースを使用して、例えば構成可能プロセッサ１９４６上で実施される制御経路１９９５によってデータフローロジック１９９７に結合されている。それは、利用可能な実行クラスタを示す制御信号を提供し、ニューラルネットワークベースのベースコーラー１００の動作の実行のための入力ユニットを利用可能な実行クラスタに提供する準備ができており、ニューラルネットワークベースのベースコーラー１００の学習されたパラメータを提供する準備ができており、ベースコール分類データの出力パッチ、並びにニューラルネットワークベースのベースコーラー１００の実行に使用される他の制御データを提供する準備ができている。
構成可能プロセッサ１９４６は、学習されたパラメータを使用してニューラルネットワークベースのベースコーラー１００のランを実行して、ベースコール動作の検知サイクルに関する分類データを生成するように構成されている。ニューラルネットワークベースのベースコーラー１００のランを実行して、ベースコール動作の被験者検知サイクルの分類データを生成する。ニューラルネットワークベースのベースコーラー１００のランは、Ｎ個の検知サイクルのそれぞれの検知サイクルからのタイルデータのアレイの数Ｎを含むシーケンスで動作し、Ｎ個の検知サイクルは、本明細書に記載される例での時間シーケンスにおける動作ごとの１つの塩基位置に対する異なるベースコール動作のためのセンサデータを提供する。任意選択的に、Ｎ個の感知サイクルのうちのいくつかは、実行される特定のニューラルネットワークモデルに従って必要に応じて、シーケンスから出ることができる。数Ｎは、１を超える任意の数であり得る。本明細書に記載されるいくつかの実施例では、Ｎ個の検知サイクルの検知サイクルは、被験者の検知サイクルに先行する少なくとも１つの検知サイクル、及び被験者サイクルの後の少なくとも１回の検知サイクルについての検知サイクルのセットを表す。本明細書では、数Ｎが５以上の整数である、実施例が記載される。
データフローロジック１９９７は、Ｎ個のアレイの空間的に位置合わせされたパッチのタイルデータを含む所与の動作のための入力ユニットを使用して、ニューラルネットワークベースのベースコーラー１００のランのために、メモリ１９４８Ａから構成可能プロセッサ１９４６に、タイルデータ及びモデルパラメータの少なくともいくつかの学習されたパラメータを移動させるように構成されている。入力ユニットは、１回のＤＭＡ動作におけるダイレクトメモリアクセス動作によって、又は、配備されたニューラルネットワークの実行と協調して、利用可能なタイムスロットの間に移動するより小さいユニット内で移動させることができる。
本明細書に記載される感知サイクルのタイルデータは、１つ以上の特徴を有するセンサデータのアレイを含むことができる。例えば、センサデータは、ＤＮＡ、ＲＮＡ、又は他の遺伝物質の遺伝的シーケンスにおける塩基位置で４塩基のうちの１つを識別するために分析される２つの画像を含むことができる。タイルデータはまた、画像及びセンサに関するメタデータを含むことができる。例えば、ベースコール動作の実施態様では、タイルデータは、タイル上の遺伝物質群の中心からのセンサデータのアレイ内の各ピクセルの距離を示す中心情報からの距離などの、クラスタとの画像の位置合わせに関する情報を含むことができる。
以下に記載されるように、ニューラルネットワークベースのベースコーラー１００の実行中に、タイルデータはまた、ニューラルネットワークベースのベースコーラー１００の実行中に生成されるデータも含み得る。それは、ニューラルネットワークベースのベースコーラー１００のラン中に再計算されるのではなく再使用することができる中間データと称される。例えば、ニューラルネットワークベースのベースコーラー１００の実行中に、データフローロジック１９９７は、タイルデータのアレイの所与のパッチのセンサデータの代わりに、中間データをメモリ１９４８Ａに書き込むことができる。このような実施態様は、以下により詳細に記載される。
図示されているように、ベースコール動作の検知サイクルからタイルのセンサデータを含むタイルデータを記憶する実行時プログラム／ロジック１９８０によってアクセス可能なメモリ（例えば、１９４８Ａ）を含む、ベースコールセンサ出力の分析のためのシステムが説明される。また、システムは、メモリへのアクセスを有する構成可能プロセッサ１９４６などのニューラルネットワークプロセッサを含む。ニューラルネットワークプロセッサは、学習されたパラメータを使用してニューラルネットワークのランを実行して、検知サイクルのための分類データを生成するように構成される。本明細書に記載されるように、ニューラルネットワークの動作は、被験者サイクルを含むＮ個の感知サイクルのそれぞれの感知サイクルからタイルデータのＮ個のアレイのシーケンスで動作して、被験者サイクルの分類データを生成する。データフローロジック１９９７は、Ｎ個の感知サイクルのそれぞれの感知サイクルからのＮ個のアレイの空間的に整合されたパッチのデータを含む入力ユニットを使用して、ニューラルネットワークの実行のために、メモリからニューラルネットワークプロセッサにタイルデータ及び学習されたパラメータを移動させるために提供される。
また、ニューラルネットワークプロセッサがメモリへのアクセスを有し、複数の実行クラスタを含み、ニューラルネットワークを実行するように構成された複数の実行クラスタ内の実行クラスタを含むシステムも説明される。データフローロジック１９９７は、メモリへのアクセス、及び複数の実行クラスタ内のクラスタを実行して、複数の実行クラスタ内の利用可能な実行クラスタにタイルデータの入力ユニットを提供し、入力ユニットは、それぞれの感知サイクルからタイルデータのアレイの空間的に整列されたパッチの数Ｎを含む、入力ユニットと、被験者検知サイクルを含み、Ｎ個の空間的に整合されたパッチをニューラルネットワークに適用して、被験者検知サイクルの空間的に整合されたパッチの分類データの出力パッチを生成させるように、実行クラスタに、ニューラルネットワークにＮ個の空間的に位置合わせされたパッチを適用させることと、を含み、Ｎは１より大きい。
図２０Ａは、ホストプロセッサによって実行される実行時プログラム（例えば、実行時ロジック１９８０）の機能を含む、ベースコール動作の態様を示す簡略図である。この図では、フローセルからの画像センサの出力は、ライン２０００上で画像処理スレッド２００１に提供され、画像処理スレッド２００１は、個々のタイルのセンサデータのアレイ内の位置合わせ及び配置、及び画像の再サンプリングなどの画像上のプロセスを実行することができ、フローセル内の各タイルのタイルクラスタマスクを計算するプロセスによって使用することができ、フローセルの対応するタイル上の遺伝子材料のクラスタに対応するセンサデータのアレイ内のピクセルを識別するプロセスによって使用することができる。画像処理スレッド２００１の出力は、ＣＰＵ内のディスパッチロジック２００３に、ライン２００２を介して提供され、それは、高速バス２００４上又は高速バス２００６上のデータキャッシュ２００５（例えば、ＳＳＤ記憶装置）に、ベースコール動作の状態に従って、図１９Ｃの構成可能プロセッサ１９４６などのニューラルネットワークプロセッサハードウェア２００７にタイルデータのアレイを転送する。処理され、変換された画像は、以前に使用されたサイクルを検知するために、データキャッシュ２００５上に記憶され得る。ハードウェア２００７は、ニューラルネットワークによって出力された分類データをディスパッチロジック２００３に返し、ディスパッチロジック２００３は、情報をデータキャッシュ２００５に、又はライン２００８上でスレッド２００９に渡し、分類データを使用してベースコール及び品質スコア計算を実行し、ベースコール読み取りのための標準フォーマットでデータを配置することができる。ベースコール及び品質スコア計算を実行するスレッド２００９の出力は、ベースコールリードを集約するスレッド２０１１に、ライン２０１０上に提供され、データ圧縮などの他の動作を実行し、結果として得られるベースコール出力を顧客による利用のために指定された宛先に書き込む。
いくつかの実施態様では、ホストは、ニューラルネットワークを支持するハードウェア２００７の出力の最終処理を実行する、スレッド（図示せず）を含むことができる。例えば、ハードウェア２００７は、マルチクラスタニューラルネットワークの最終層から分類データの出力を提供することができる。ホストプロセッサは、ベースコール及び品質スコアスレッド２００２によって使用されるデータを設定するために、分類データを超えて、ソフトマックス関数などの出力起動機能を実行することができる。また、ホストプロセッサは、ハードウェア２００７への入力前のタイルデータのバッチ正規化などの入力動作（図示せず）を実行することができる。
図２０Ｂは、図１９Ｃの構成などの構成可能プロセッサ１９４６の構成の簡略図である。図２０Ｂでは、構成可能プロセッサ１９４６は、複数の高速ＰＣＩｅインターフェースを有するＦＰＧＡを含む。ＦＰＧＡは、図１９Ｃを参照して説明されるデータフローロジック１９９７を含むラッパー２０９０を用いて構成されている。ラッパー２０９０は、ＣＰＵ通信リンク２０７７を介して、ＣＰＵ内の実行時プログラムとのインターフェース及び調整を管理し、ＤＲＡＭ通信リンク２０９７を介してオンボードＤＲＡＭ２０９９（例えば、メモリ１４４８Ａ）との通信を管理する。ラッパー２０９０内のデータフローロジック１９９７は、数Ｎサイクルについて、オンボードＤＲＡＭ２０９９上のタイルデータのアレイを横断することによって取得されたパッチデータをクラスタ２０８５に提供し、クラスタ２０８５からプロセスデータ２０８７を取得して、オンボードＤＲＡＭ２０９９に配信する。ラッパー２０９０はまた、タイルデータの入力アレイ、及び分類データの出力パッチの両方について、オンボードＤＲＡＭ２０９９とホストメモリとの間のデータの転送を管理する。ラッパーは、ライン２０８３上のパッチデータを、割り当てられたクラスタ２０８５に転送する。ラッパーは、オンボードＤＲＡＭ２０９９から取得されたクラスタ２０８５にライン２０８１の重み及びバイアスなどの学習されたパラメータを提供する。ラッパーは、ＣＰＵ通信リンク２０７７を介してホスト上の実行時プログラムから提供されるか、又はそれに応答して生成されるクラスタ２０８５に、ライン２０７９上の構成及び制御データを提供する。クラスタはまた、ホストからの制御信号と協働して使用されて、空間的に整列したパッチデータを提供し、クラスタ２０８５のリソースを使用して、パッチデータを介して多重サイクルニューラルネットワークをパッチデータの上で実行するために、ホストからの制御信号と協働して使用されるラッパー２０９０に、ライン２０８９上の状態信号を提供することができる。
上述のように、タイルデータの複数のパッチのうちの対応するパッチ上で実行するように構成されたラッパー２０９０によって管理される単一の構成可能なプロセッサ上に複数のクラスタが存在し得る。各クラスタは、本明細書に記載される複数の感知サイクルのタイルデータを使用して、被験者検知サイクルにおけるベースコールの分類データを提供するように構成することができる。
システムの例では、フィルタ重み及びバイアスのようなカーネルデータを含むモデルデータをホストＣＰＵから構成可能プロセッサに送信することができ、その結果、モデルは、サイクル数の関数として更新され得る。ベースコール動作は、代表的な例では、数百の感知サイクルの順序で含むことができる。ベースコール動作は、いくつかの実施態様では、ペアリングされた端部読み取りを含むことができる。例えば、モデル学習されたパラメータは、２０サイクル（又は他の数のサイクル）ごとに、又は特定のシステム及びニューラルネットワークモデルに実装される更新パターンに従って更新されてもよい。タイル上の遺伝的クラスタ内の所与のストリングのためのシーケンスが、ストリングの第１の端部から下方に（又は上方に）延在する第１の部分と、ストリングの第２の端部から上方に（又は下方に）に延在する第２の部分とを含む、ペアリングされた端部リードを含むいくつかの実施態様では、学習されたパラメータは、第１の部分から第２の部分への遷移で更新され得る。
いくつかの実施例では、タイルのための感知データの複数サイクルの画像データは、ＣＰＵからラッパー２０９０に送信され得る。ラッパー２０９０は、任意選択的に、感知データの一部の前処理及び変換を行い、その情報をオンボードＤＲＡＭ２０９９に書き込むことができる。各感知サイクルの入力タイルデータは、タイル当たり４０００×３０００ピクセル／タイル以上を含むセンサデータのアレイを含むことができ、２つの特徴はタイルの２つの画像の色を表し、１ピクセル当たり１つ又は２つのバイトを含むセンサデータのアレイを含むことができる。数Ｎが、多重サイクルニューラルネットワークの各動作において使用される３回の検知サイクルである実施態様用では、多重サイクルニューラルネットワークの各動作のためのタイルデータのアレイは、タイル当たり数百メガバイトのオーダーで消費することができる。システムのいくつかの実施態様では、タイルデータはまた、タイルごとに１回記憶されたクラスタセンターからの距離（distance-from-cluster center、ＤＦＣ）データのアレイ、又はセンサデータ及びタイルに関する他のタイプのメタデータも含む。
動作中、多重サイクルクラスタが利用可能である場合、ラッパーは、パッチをクラスタに割り当てる。ラッパーはタイルの横断面にタイルデータの次のパッチをフェッチし、適切な制御及び構成情報と共に割り当てられたクラスタに送信する。クラスタは、構成可能プロセッサ上の十分なメモリを用いて構成されて、パッチを含むデータのパッチを、定位置に処理されているいくつかのシステム内で複数サイクルから保持するのに十分なメモリを有するように構成することができ、様々な実施態様では、ピンポンバッファ技術又はラスタ走査技術を使用して処理される。
割り当てられたクラスタが、現在のパッチのニューラルネットワークのその動作を完了し、出力パッチを生成すると、それはラッパーに信号を送る。ラッパーは、割り当てられたクラスタから出力パッチを読み出すか、あるいは割り当てられたクラスタは、データをラッパーにプッシュする。次いで、ラッパーは、ＤＲＡＭ２０９９内の処理されたタイルのための出力パッチを組み立てる。タイル全体の処理が完了し、データの出力パッチがＤＲＡＭに転送されると、ラッパーは、処理された出力アレイを、特定のフォーマットでホスト／ＣＰＵに返送する。いくつかの実施態様では、オンボードＤＲＡＭ２０９９は、ラッパー２０９０内のメモリ管理論理によって管理される。実行時プログラムは、リアルタイム分析を提供するために連続フローで動作する全てのサイクルについての全てのタイルデータのアレイの分析を完了するために、シーケンシング動作を制御することができる。
図２１は、オフチップメモリ（例えば、オフチップのＤＲＡＭ、ホストＲＡＭ、ホスト高帯域幅メモリ（high bandwidth memory、ＨＢＭ））２１１６から、第２のベースコール反復の間に利用可能な、第１のベースコール反復中に生成された圧縮空間マップを作成する、開示されたデータフローロジックの別の実施態様を示している。
一実施態様では、ホストプロセッサ（例えば、ＣＰＵ１９５２）に取り付けられたホストメモリ（例えば、メモリ１９４８Ｂ）は、シーケンシングランが進行するにつれて、シーケンス画像２１０２の進行を受信するように構成されている。構成可能なプロセッサ（例えば、構成可能なプロセッサ１９４６）は、処理ユニットのアレイを有する。処理ユニットのアレイ内の処理ユニットは、ニューラルネットワークベースのベースコーラー１００を実行して、ベースコール予測を生成するように構成される。データフローロジック１９９７は、ホストメモリ、ホストプロセッサ、及び構成可能なプロセッサへのアクセスを有する。第１のベースコール反復に対して、データフローロジック１９９７は、シーケンシングサイクルの第１のウィンドウのシーケンシングサイクル（例えば、図１Ａのシーケンシングサイクル１～５）のシーケンス画像を、ホストメモリから構成可能なプロセッサ上にロードする。
実行時ロジック１９８０は、構成可能プロセッサの処理ユニットをサイクルごとにシーケンス画像２１０２上でニューラルネットワークベースのベースコーラー１００の空間ネットワーク１０４を実行させ、シーケンシングサイクルの第１のウィンドウ内のシーケンシングサイクルの各々について空間特徴マップセット２１０６を生成させるように構成されている。一実施態様では、実行時ロジック１９８０は、並列に、シーケンス画像２１０２からタイリングされたパッチ２１０４上のニューラルネットワークベースのベースコーラー１００の複数の処理クラスタを実行する。複数の処理クラスタは、パッチ２１０４上の空間ネットワーク１０４をパッチごと２１０５に適用する。
実行時ロジック１９８０は、構成可能プロセッサの処理ユニットが、サイクルごとに空間特徴マップセット２１０６上で、ニューラルネットワークベースのベースコーラー１００の圧縮ネットワーク１０８を実行し、圧縮空間特徴マップセット２１０７を生成し、更に、圧縮空間特徴マップセット２１０７を時間ネットワーク１６０及び出力ネットワーク１９０を通じて処理し、シーケンシングサイクルの第１のウィンドウ内の１つ以上のシーケンシングサイクルに対してベースコール予測２１１１を生成するように構成されている。時間ネットワーク１６０は、時間特徴マップ２１０８を生成する。出力ネットワーク１９０は、ベースコール分類スコア２１１０を生成する（例えば、非正規化ベースワイズスコア）。一実施態様では、圧縮空間特徴マップセット２１０７は、オフチップメモリ２１１６上に記憶される。
一実施態様では、データフローロジック１９９７は、圧縮空間特徴マップセット２１０７をホストメモリ２１１６に移動させ、圧縮空間特徴マップセット２１０７でシーケンス画像２１０２の対応するものを上書きするように構成される。他の実施態様では、パッチ２１０４の対応するものは、圧縮空間特徴マップセット２１０７によって置き換えられる。
シーケンシングサイクルの第２のウィンドウ（図２Ａのシーケンシングサイクル２～６）は、シーケンシングサイクルの第１のウィンドウと、１つ以上の重なり合うシーケンシングサイクル（例えば、シーケンシングサイクル２～５）を共有し、かつ少なくとも１つの重なり合わないシーケンシングサイクル（例えば、試験シングサイクル６）を有するが、第２のベースコール反復に対し、かつシーケンシングサイクルの第２のウィンドウに対して、データフローロジック１９９７は、重なり合うシーケンシングサイクルのために圧縮空間特徴マップセット２１６と、重なり合わないシーケンシングサイクルのためにシーケンス画像２１２２（又はパッチ２１２４）とを、構成可能なプロセッサに、ホストメモリからロードするように構成されている。
実行時ロジック１９８０は、構成可能なプロセッサの処理ユニットが、重なり合わないシーケンシングサイクルのシーケンス画像２１２２に対して空間ネットワーク１０４を実行し、重なり合わないシーケンシングサイクルのための空間特徴マップセット２１２６を生成するように構成されている。一実施態様では、複数の処理クラスタは、パッチ２１２４に空間ネットワーク１０４をパッチごと２１２５に適用する。
実行時ロジック１９８０は、構成可能なプロセッサの処理ユニットが、空間特徴マップセット２１２６上で圧縮ネットワーク１０８を実行し、重なり合わないシーケンシングサイクルに対して圧縮空間特徴マップセット２１２７を生成し、重なり合うシーケンシングサイクルに対して、圧縮空間特徴マップセット２１２６を処理し、かつ重なり合わないシーケンシングサイクルに対して、時間ネットワーク１６０及び出力ネットワーク１９０を介して、圧縮空間特徴マップセット２１２７を処理し、かつシーケンシングサイクルの第２のウィンドウ中の１つ以上のシーケンシングサイクルに対してベースコール予測２１３１を生成するように構成されている。時間ネットワーク１６０は、時間特徴マップ２１２８を生成する。出力ネットワーク１９０は、ベースコール分類スコア２１２９を生成する（例えば、非正規化ベースワイズスコア）。一実施態様では、圧縮空間特徴マップセット２１２７は、オフチップメモリ２１１６上に記憶される。
図２２は、オンチップメモリ（例えば、オンチップのＤＲＡＭ、オンチップＳＲＡＭ、オンチップＢＲＡＭ、相互接続を介してプロセッサに取り付けられたＤＲＡＭのようなプロセッサメモリ）２２１６から、第２のベースコール反復中に利用可能な、第１のベースコール反復中に生成された圧縮空間マップを作成する、開示されたデータフローロジックの一実施態様を示す。図２２では、圧縮空間特徴マップセット２１０７及び圧縮空間特徴マップセット２１２７は、オンチップメモリ２２１６に記憶される。また、図２２において、データフローロジック１９９７は、オンチップメモリ２２１６から構成可能なプロセッサ上に、重なり合うシーケンシングサイクルの圧縮空間特徴マップセット２１２６をロードするように構成される。
分割アーキテクチャ
図２３は、ニューラルネットワークベースのベースコーラー１００の、いわゆる分割アーキテクチャの一実施態様を示す。上述のように、空間畳み込みネットワーク１０４は、シーケンシングランのシーケンシングサイクル（サイクルＮ＋２、Ｎ＋１、Ｎ、Ｎ－１、Ｎ－２、）のシリーズに対して、サイクルごとのシーケンス画像セットのウィンドウを、サイクルごとに、空間畳み込み層のそれぞれのシーケンス２３０１、２３０２、２３０３、２３０４、及び２４０５を通じて、それぞれのサイクルごとのシーケンス画像セット別々に畳み込むことによって処理し、それぞれのシーケンシングサイクルに対して、それぞれのサイクルごとの空間特徴マップセットを生成するように構成されている。例えば、空間畳み込み層の５つのシーケンス２３０１、２３０２、２３０３、２３０４、及び２４０５の各々は、７つの空間畳み込み層（すなわち、図２３の層Ｌ１～Ｌ７）を有する。
空間畳み込み層のそれぞれのシーケンス２３０１、２３０２、２３０３、２３０４、及び２４０５は、空間畳み込みフィルタバンクのそれぞれ対応するシーケンスを有する（例えば、空間畳み込み層のシーケンス２３０１に対して、空間畳み込みフィルタバンク２３１０、２３１１、２３１２、２３１３、２３１４、２３１５、及び２３１６を含む）。一実施態様では、空間畳み込みフィルタバンクのそれぞれのシーケンスの空間畳み込みフィルタバンクにおける空間畳み込みフィルタの学習された係数（又は重み）は、空間畳み込み層のそれぞれのシーケンス内の空間畳み込み層のシーケンス間で変化する。
例えば、空間畳み込み層シーケンス２３０１、２３０２、２３０３、２３０４、及び２４０５は、異なる学習された係数を有する畳み込みフィルタを用いて構成される。別の例では、対応するレベルの空間畳み込み層内の畳み込みフィルタは、異なる学習された係数（空間畳み込み層の５つのシーケンス２３０１、２３０２、２３０３、２３０４、及び２４０５の、それぞれの第３の空間畳み込み層内の畳み込みフィルタバンク２３８２、２３８３、２３８４、２３８５、及び２３１２）を有する。
時間畳み込みネットワーク１６０は、サイクルごとの空間特徴マップセットにおけるサイクルごとの空間特徴マップセットのそれぞれの重なり合うグループ（例えばグループ２３６０、２３６１、２３６２）に畳み込むことによって、サイクルごとの空間特徴マップセットをグループごとに処理し、その際、第１の時間畳み込み層２３２０のそれぞれの時間畳み込みフィルタバンク２３２１、２３２２、及び２３２３を用いて、サイクルごとの空間特徴マップセットのそれぞれの重なり合うグループに対する、それぞれのグループごとの時間特徴マップセットを生成するように構成されている。一実施態様では、それぞれの時間畳み込みフィルタバンク内の時間畳み込みフィルタの学習された係数（又は重み）は、それぞれの時間畳み込みフィルタバンク内の時間畳み込みフィルタバンク２３２１、２３２２、及び２３２３どうしの間で変化する。
スキップアーキテクチャ
図２４Ａは、特徴マップ付加を介して、以前の情報を下流に再度注入する、残留（又はスキップ）接続を示す。残留接続は、データ処理フローに沿った情報損失を防止するのに役立つ、過去の出力テンソルを後の出力テンソルに追加することによって、以前の表現をデータの下流の流れに再注入することを含む。残留接続は、任意の大規模な深層学習モデルを悩ませる２つの一般的な問題、勾配の消失と、表現上のボトルネックとに対処するためのものである。
残留接続は、先行する層の出力を、後続の層に入力として利用可能にすることを含み、ショートカットを連続的なネットワーク内で効果的に作成するというものである。先行する出力は、後のアクティブ化に連結されるのではなく、後のアクティブ化と合計される。なお、この場合には、両方のアクティブ化は、同じサイズであると仮定する。それらが異なるサイズの場合、目標の形状への先行のアクティブ化を再成形するために、線形変換を使用することができる。
図２４Ｂは、残留ブロック及びスキップ接続の一実施態様を示す。残留ネットワークは、学習精度の劣化を軽減するために、いくつかの残留ユニットを積み重ねる。残留ブロックは、ディープニューラルネットワークにおける勾配の消失に対抗するための特別な添加スキップ接続を使用する。残留ブロックの開始時に、データフローは２つのストリームに分離される：第１のストリームは、ブロックの変化しない入力を担うが、第２は、重み及び非線形性を適用する。ブロックの終わりに、２つのストリームは、要素ごとの合計を使用してマージされる。そのような構成の主な利点は、勾配がネットワークを介してより容易に流れることを可能にすることである。
残留ネットワークで構成されている場合、いくつかの実施態様では、ニューラルネットワークベースのベースコーラー１００は容易に学習され、画像分類及びオブジェクト検出のために精度が改善され得る。ニューラルネットワークベースのベースコーラー１００は、第ｌ層の出力を第（ｌ＋１）層の入力として接続し、これにより、次の層の移行が可能になる：ｘｌ＝Ｈｌ（ｘｌ－１）。残留ブロックは、識別関数ｘｌ＝Ｈｌ（ｘｌ－１）＋ｘｌ－１により非線形変換を迂回するスキップ接続を追加する。残留ブロックの利点は、勾配が、後の層から前の層まで、識別関数を直接流れることができることである（例えば、空間的及び時間畳み込み層）。識別関数及びＨｌの出力は、合計（追加）によって組み合わされる。
図２４Ｃは、空間畳み込み層がスキップ接続で残留ブロックにグループ化される、ニューラルネットワークベースのベースコーラー１００の残留アーキテクチャを示す。他の実施態様では、ニューラルネットワークベースのベースコーラー１００の時間畳み込み層は、スキップ接続で、残留ブロックにグループ化される。
図２４Ｃに示される実施態様では、第２及び第３の空間畳み込み層は、第１の残留ブロック２４１２にグループ化され、第４及び第５の空間畳み込み層が、第２の残留ブロック２４２２にグループ化され、第６及び第７の空間畳み込み層が、第３の残留ブロック２４３２にグループ化される。
図２５Ａは、ニューラルネットワークベースのベースコーラー１００のバスネットワークの詳細を示す。一実施態様では、バスネットワークの所与の残留ブロック２５８５は、空間畳み込み層２５９０及び２５９２のセットを含む。空間畳み込み層のセット内の第１の空間畳み込み層２５９０は、所与の残留ブロック２５８５（例えば、空間ネットワーク１０４内の第１の空間畳み込み層２５９０に先行するゼロ空間畳み込み層）の一部ではない前の空間畳み込み層によって生成された、先行する出力２５８６を、入力として受信する。第１の空間畳み込み層２５９０は、先行する出力２５８６を処理し、第１の出力２５９１を生成する。空間畳み込み層のセット内の、第１の空間畳み込み層２５９０の後ろに続く第２の空間畳み込み層２５９２は、第１の出力２５９１を受信し、第１の出力２５９１を処理し、第２の出力２５９３を生成する。一実施態様では、第１の空間畳み込み層２５９０は、第１の出力２５９１を生成するＲｅＬＵのような非線形起動関数を有する。別の実施態様では、第２の空間畳み込み層２５９２は、非線形活性化関数を欠いている。
スキップ接続２５８９は、先行する出力２５８６を、加算器２５９４に提供する。加算器２５９４はまた、第２の空間畳み込み層２５９２から第２の出力２５９３を受信する。加算器２５９４は、先行する出力２５８６と第２の出力２５９３とを組み合わせ、合計された出力２５９５を生成する。合計された出力２５９５は、ＲｅＬＵのような非線形起動を通して更に処理されて、最終合計出力２５８７を生成する。次いで、いくつかの実施態様では、最終合計出力２５８７を後続の残留ブロックに入力として供給する。いくつかの実施態様では、先行する出力２５８６は、第２の出力２５９３と次元適合性であるように修正される。例えば、先行する出力２５８６内の特徴マップのエッジはトリミングされて、第２の出力２５９３内の特徴マップと同じ空間次元数を有する特徴マップを生成する。
図２５Ｂは、開示されたバスネットワークの例示的な動作を示す。一実施態様では、バスネットワークは、空間畳み込み層のそれぞれのシーケンス内の空間畳み込み層間でバス（例えば、２５１６、２５２６、２５３６、２６０２、２６０４、２７０２、及び２７１２）を形成するように構成される。バスは、特定のシーケンシングサイクルに対する空間畳み込み層の特定のシーケンス内の２つ以上の空間畳み込み層によって生成されたそれぞれのサイクルの空間特徴マップセットを組み合わせて、組み合わせられた、サイクルごとの空間特徴マップセットを形成し、その組み合わせられた、サイクルごとの空間特徴マップセットを、空間畳み込み層の上記の特定のシーケンス内の別の空間畳み込み層への入力として提供するように構成されている。
例えば、ここで第１の残留ブロック２４１２を取り上げる。ここで、２つ以上の空間畳み込み層は、第１の空間畳み込み層及び第３の空間畳み込み層を含む。第１の空間畳み込み層は、第１のサイクルごとの空間特徴マップセット２５２０を生成する。第１の空間畳み込み層は、第１のサイクルごとの空間特徴マップセット２５２０を、第２の空間畳み込み層への入力として提供する。第２の空間畳み込み層は、第１のサイクルごとの空間特徴マップセット２５２０を処理し、第２のサイクルごとの空間特徴マップセット２５２２を生成する。第２の空間畳み込み層は、第３の空間畳み込み層への入力として、第２のサイクルごとの空間特徴マップセット２５２２を提供する。第３の空間畳み込み層は、第２のサイクルごとの空間特徴マップセット２５２２を処理し、第３のサイクルごとの空間特徴マップセット２５２４を生成する。バス（例えば、スキップバス２５１９）は、第１の空間特徴マップセット２５２０及び第３のサイクルごとの空間特徴マップセット２５２４を結合して（例えば、コンバイナ２５０２によって合計又は連結され）、サイクルごとの空間特徴マップセット２５１８とするように更に構成されている。次いで、別の空間畳み込み層が、空間畳み込み層の特定のシーケンス内の第３の空間畳み込み層の直後に続く、第４の空間畳み込み層である。第４の空間畳み込み層は、入力として、上記の結合された、サイクルごとの空間特徴マップセット２５１８を処理する。同じ考え方が、第２及び第３の残留ブロック２４２２及び２４３２にも適用されるが、２５２６及び２５３６は、スキップバス２５１６のようなスキップバスであり、それぞれのコンバイナ２５１２及び２５３２に、サイクルごとの空間特徴マップセット２５２８及び２５３８を生成させるスキップバスである。
図２５Ｃは、結合前に、スキップバスによって供給される入力特徴マップが修正され（例えば、トリミングされ）、入力される側の特徴マップが、バスネットワークのコンバイナによって結合される受信側の特徴マップと同じ空間次元を有するようされていることを保証する、次元適合性ロジック２５３２の一実施態様を示す。
図２６は、スキップバス２６０２が第１の空間畳み込み層の出力を第１の残留ブロックの出力と組み合わせる、開示されたバスネットワークの別の例を示す。図２６はまた、スキップバス２６０４が、特徴マップを複数の残留ブロックを横断的に結合させることができる、及び非後続的な層を横断的に結合させて（例えば、層１から層５）、結合された表現を生成することができ、この結合された表現は、別の層（例えば、層６）によって処理され得ることを示す。
図２７は、開示されたバスネットワークの更に別の例を示し、この例では、複数の後続の層及び／又は非後続の層からの入力及び結合表現の表現（例えば、層１、コンバイナ２５０２、及びコンバイナ２５１２からのもの）が、例示的なスキップバス２７０２、２６０４、及びコンバイナ２７１２によって組み合わされて、別の層（例えば、層６）によって処理され得る結合表現を生成することができるということを示す。
図２８は、スキップバスによって供給される入来側特徴マップを、それらがバスネットワークのコンバイナによって結合される対象の受け入れ側の特徴マップと結合される前に、スケーリング（調整）を行うという、スケーリングロジック２８３２の一実施態様を示す。スケーリングロジック２８３２によって使用される値は、例えば、０と１とを含む、０～１の間のいずれかの範囲であり得る。スケーリングロジックは、例えば、入来側特徴マップの強度／大きさ／値（例えば、その特徴量（例えば、浮動小数点の値））を減衰又は増幅するために使用することができる。
図２９は、時間ネットワーク１６０の時間的な畳み込み層２９０２、２９１２、２９２２、２９３２、２９４２、２９５２、２９６２、及び２９７２の間のスキップ接続の一実施態様を示す。例えば、スキップ接続２９２２は、第１の時間畳み込み層２９０２から第３の時間畳み込み層２９３２に時間特徴マップを供給する。
図３０は、圧縮ロジック１０８で構成されたネットワークネットワークベースのベースコーラー１００（ｓｑｚ２ベースコーラー）によるベースコール性能を、圧縮ロジック１０８を有しないネットワークネットワークベースのベースコーラー１００（ニューラルモデルのベースラインとして使用）と、Ｉｌｌｕｍｉｎａの非ニューラルネットワークベースのベースコーラーリアルタイム分析（Real-Time Analysis、ＲＴＡ）ソフトウェア（従来型画像処理モデルのベースライン）とに対して、比較するグラフである。図３０のチャートに見られるように、ｓｑｚ２ベースコーラー（紫色フィットライン）は、ＲＴＡベースコーラ（黒フィットライン）よりも低いベースコールエラー率（Ｙ軸上の「エラー％」）を有し、また、圧縮ロジック１０８（赤色及びシアンフィットライン）なしのネットワークネットワークベースのベースコーラー１００の２つの事例よりも低い率を有する。
図３１は、開示された圧縮ロジック１０８の使用によってもたらされるＲＡＭ及びＤＲＡＭの使用の節約を示す。
図３２は、分割及びスキップアーキテクチャ（ｓｐｌｉｔ＿ｒｅｓ）で構成されたネットワークネットワークベースのベースコーラー１００によるベースコール性能を、ＲＴＡベースコーラーに対して、及び分割及びスキップアーキテクチャを伴わない（ディスティルド）ネットワークネットワークベースのベースコーラー１００の別のバージョンに対して比較するグラフである。図３２のチャートに見られるように、ｓｐｌｉｔ＿ｒｅｓベースコーラー（オレンジフィットライン）は、ＲＴＡベースコーラー（青色フィットライン）よりも低いベースコールエラー率（「Ｙ軸上のエラーカウント」）を有する。
本明細書で使用される場合、「ロジック（論理）」（例えば、データフローロジック）は、本明細書に記載の方法ステップを実行するためのコンピュータ使用可能なプログラムコードを備えた非一時的コンピュータ可読記憶媒体を含むコンピュータ製品の形態で実装することができる。「ロジック」は、メモリと、メモリに結合され、例示的な方法ステップを実行するように動作する少なくとも１つのプロセッサとを含む装置の形態で実装することができる。「ロジック」は、本明細書に記載の方法ステップの１つ又は複数を実行するための手段の形で実施することができる。手段は、（ｉ）ハードウェアモジュール（複数可）、（ｉｉ）１つ以上のハードウェアプロセッサ上で実行されるソフトウェアモジュール、又は（ｉｉｉ）ハードウェア及びソフトウェアモジュールの組み合わせを含むことができ、（ｉ）～（ｉｉｉ）のいずれかは、本明細書に記載の特定の技術を実装し、ソフトウェアモジュールは、コンピュータ可読記憶媒体（又は複数のそのような媒体）に記憶される。一実施態様では、ロジックは、データ処理機能を実装する。ロジックは、機能を指定するコンピュータプログラムを伴う、汎用、単一コア又はマルチコアプロセッサであってよく、コンピュータプログラムを備えたデジタル信号プロセッサ、構成ファイルで構成可能なＦＰＧＡなどのロジック、状態機械などの専用回路、又はこれらの任意の組み合わせであってよい。また、コンピュータプログラム製品は、ロジックのコンピュータプログラム及び構成ファイル部分を具現化することができる。
図３３は、本明細書に開示される技術を実施するためにシーケンシングシステム１９００Ａによって使用され得るコンピュータシステム３３００である。コンピュータシステム３３００は、バスサブシステム３３５５を介して多数の周囲デバイスと通信する、少なくとも１つの中央演算処理装置（ＣＰＵ）３３７２を含む。これらの周囲デバイスは、記憶サブシステム３３５８を含むことができ、この記憶サブシステム３３５８は、例えば、メモリデバイス及びファイルストレージサブシステム３３３６、ユーザーインターフェース入力デバイス３３３８、ユーザーインターフェース出力デバイス３３７６、及びネットワークインターフェースサブシステム３３７４を含む。入力及び出力デバイスは、コンピュータシステム３３００とのユーザー対話を可能にする。ネットワークインターフェースサブシステム３３７４は、他のコンピュータシステム内の対応するインターフェースデバイスへのインターフェースを含む外部ネットワークへのインターフェースを提供する。
一実施態様では、システムコントローラ１９０６は、記憶サブシステム３３１０及びユーザーインターフェース入力デバイス３３３８に通信可能にリンクされている。
ユーザーインターフェース入力デバイス３３３８は、キーボードと、マウス、トラックボール、タッチパッド、又はグラフィックスタブレットなどのポインティングデバイスと、スキャナと、ディスプレイに組み込まれたタッチスクリーンと、音声認識システム及びマイクロフォンなどのオーディオ入力デバイス、並びに他のタイプの入力デバイスと、を含んでもよい。一般に、用語「入力デバイス」の使用は、コンピュータシステム３３００に情報を入力するための全ての可能なタイプのデバイス及び方式を含むことを意図している。
ユーザーインターフェース出力デバイス３３７６は、ディスプレイサブシステム、プリンタ、ファックス装置、又はオーディオ出力デバイスなどの非視覚ディスプレイを含むことができる。ディスプレイサブシステムは、ＬＥＤディスプレイ、陰極線管（Cathode Ray Tube、ＣＲＴ）、液晶ディスプレイ（Liquid Crystal Display、ＬＣＤ）などのフラットパネルデバイス、投影デバイス、又は可視画像を作成するための何らかの他の機構を含むことができる。ディスプレイサブシステムはまた、音声出力デバイスなどの非視覚ディスプレイを提供することができる。一般に、用語「出力デバイス」の使用は、コンピュータシステム３３００からユーザー又は別のマシン若しくはコンピュータシステムに情報を出力するための、全ての可能なタイプのデバイス及び方法を含むことを意図している。
記憶サブシステム３３５８は、本明細書に記載されるモジュール及び方法のうちのいくつか又は全ての機能を提供するプログラミング及びデータ構築物を記憶する。これらのソフトウェアモジュールは、概して、深層学習プロセッサ３３７８によって実行される。
深層学習プロセッサ３３７８は、グラフィック処理ユニット（ＧＰＵ）、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、特定用途向け集積回路（ＡＳＩＣ）、及び／又は粗粒度再構成可能構造（ＣＧＲＡ）であり得る。深層学習プロセッサ３３７８は、Ｇｏｏｇｌｅ Ｃｌｏｕｄ Ｐｌａｔｆｏｒｍ（商標）、Ｘｉｌｉｎｘ（商標）及びＣｉｒｒａｓｃａｌｅ（商標）などの深層学習クラウドプラットフォームによってホスティングすることができる。深層学習プロセッサ３３７８の例は、ＧｏｏｇｌｅのＴｅｎｓｏｒ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ（ＴＰＵ）（商標）、ＧＸ４ Ｒａｃｋｍｏｕｎｔ Ｓｅｒｉｅｓ（商標）、ＧＸ３３ Ｒａｃｋｍｏｕｎｔ Ｓｅｒｉｅｓ（商標）のようなラックマウントソリューション、ＮＶＩＤＩＡ ＤＧＸ－１（商標）、Ｍｉｃｒｏｓｏｆｔ’Ｓｔｒａｔｉｘ Ｖ ＦＰＧＡ（商標）、ＧｒａｐｈｃｏｒｅのＩｎｔｅｌｌｉｇｅｎｔ Ｐｒｏｃｅｓｓｏｒ Ｕｎｉｔ（ＩＰＵ）（商標）、Ｓｎａｐｄｒａｇｏｎ ｐｒｏｃｅｓｓｏｒｓ（商標）を有するＱｕａｌｃｏｍｍのＺｅｒｏｔｈ Ｐｌａｔｆｏｒｍ（商標）、ＮＶＩＤＩＡのＶｏｌｔａ（商標）、ＮＶＩＤＩＡのＤＲＩＶＥ ＰＸ（商標）、ＮＶＩＤＩＡのＪＥＴＳＯＮ ＴＸ１／ＴＸ２ ＭＯＤＵＬＥ（商標）、ＩｎｔｅｌのＮｉｒｖａｎａ（商標）、Ｍｏｖｉｄｉｕｓ ＶＰＵ（商標）、Ｆｕｊｉｔｓｕ ＤＰＩ（商標）、ＡＲＭのＤｙｎａｍｉｃＩＱ（商標）、ＩＢＭ ＴｒｕｅＮｏｒｔｈ（商標）、Ｔｅｓｔａ Ｖ１００ｓ（商標）を有するＬａｍｂｄａ ＧＰＵ Ｓｅｒｖｅｒ、ＳａｍｂａＮｏｖａ’ｓ Ｒｅｃｏｎｆｉｇｕｒａｂｌｅ Ｄａｔａｆｌｏｗ Ｕｎｉｔ（ＲＤＵ）（商標）、及び他のものを含む。
記憶サブシステム３３５８で使用されるメモリサブシステム３３２２は、プログラム実行中に命令及びデータを記憶するためのメインランダムアクセスメモリ（ＲＡＭ）３３３２と、固定命令が記憶された読み取り専用メモリ（ＲＯＭ）３３３４とを含む多数のメモリを含むことができる。ファイル記憶サブシステム３３３６は、プログラム及びデータファイルのための永続的な記憶装置を提供することができ、ハードディスクドライブ、関連する取り外し可能な媒体、ＣＤ－ＲＯＭドライブ、光学ドライブ、又は取り外し可能な媒体カートリッジを含むことができる。特定の実施態様の機能を実装するモジュールは、ファイル記憶サブシステム３３３６によって、ストレージサブシステム３３５８内に、又はプロセッサによってアクセス可能な他のマシン内に記憶され得る。
バスサブシステム３３５５は、コンピュータシステム３３００の様々な構成要素及びサブシステムを、意図されるように互いに通信させるための機構を提供する。バスサブシステム３３５５は、単一のバスとして概略的に示されているが、バスサブシステムの代替実施態様は、複数のバスを使用することができる。
コンピュータシステム３３００自体は、パーソナルコンピュータ、ポータブルコンピュータ、ワークステーション、コンピュータ端末、ネットワークコンピュータ、テレビ、メインフレーム、サーバファーム、緩く分散した一組の緩くネットワーク化されたコンピュータ、又は任意の他のデータ処理システム若しくはユーザーデバイスを含む様々なタイプのものであり得る。コンピュータ及びネットワークは絶え間なく変化する性質のものであるため、図３３に示されるコンピュータシステム３３００の説明は、本発明の好ましい実施態様を例示する目的のための特定の例としてのみ意図される。コンピュータシステム３３００の多くの他の構成は、図３３に示されるコンピュータシステムよりも多く又は少ない構成要素を有することができる。
項目
本発明者らは、以下の項目を開示する。
圧縮（スクイーズ）
１．ベースコールの人工知能ベースの方法であって、方法が、
シーケンシングランのシーケンシングサイクルに対して生成された、サイクルごとの分析物チャネルセットのシリーズにアクセスすることと、
ニューラルネットワークベースのベースコーラーの空間ネットワークを介して、シーケンシングランのシーケンシングサイクルの第１のウィンドウに対するシリーズ内のサイクルごとの分析物チャネルセットの第１のウィンドウを処理し、かつシーケンシングサイクルの第一のウィンドウでのそれぞれのシーケンシングサイクルに対するそれぞれの空間出力セットそれぞれのシーケンスを生成することと、
ニューラルネットワークベースのベースコーラーの圧縮ネットワークを介して、空間出力セットのそれぞれのシーケンス内のそれぞれの最終空間出力セットを処理し、かつシーケンシングサイクルの第１のウィンドウ内のそれぞれのシーケンシングサイクルに対するそれぞれの圧縮空間出力セットを生成することと、
それぞれの圧縮空間出力セットに基づいて、シーケンシングサイクルの第１のウィンドウ内の１つ以上のシーケンシングサイクルに対するベースコール予測を生成することと、を含む、人工知能ベースの方法。
２．それぞれの最終空間出力セットが、Ｍ個のチャネル（特徴マップ）を有し、それぞれの圧縮空間出力セットが、Ｎ個のチャネル（特徴マップ）を有し、かつＭがＮより大きい、項目１に記載の人工知能ベースの方法。
３．シーケンシングサイクルの第１のウィンドウと、空間ネットワークが、以前に空間出力セットを生成した１つ以上の重なり合うシーケンシングサイクルと、空間ネットワークが、まだ空間出力セットを生成していない少なくとも１つの重なり合わないシーケンシングサイクルと、を共有するシーケンシングランのシーケンシングサイクルの第２のウィンドウに対して、
空間ネットワークを介して、重なり合わないシーケンシングサイクルのみに対するサイクルごとの分析物チャネルセットを処理し、重なり合わないシーケンシングサイクルのための空間出力セットのシーケンスを生成し、それによって、空間ネットワークを介して重なり合うシーケンシングサイクルに対するそれぞれのサイクルごとの分析物チャネルセットの再処理を回避することと、
圧縮ネットワークを介して、空間出力セットのシーケンス内の最終空間出力セットを処理し、重なり合わないシーケンシングサイクルのための圧縮空間出力セットを生成することであって、最終空間出力が、Ｍ個のチャネル（特徴マップ）を有し、圧縮空間出力が、Ｎ個のチャネル（特徴マップ）を有し、ＭがＮより大きい、ことと、
シーケンシングサイクルの第１のウィンドウ及び圧縮空間出力セットに対して以前に生成された重なり合うシーケンシングサイクルのためのそれぞれの圧縮空間出力セットに基づいて、シーケンシングサイクルの第２のウィンドウ内の１つ以上のシーケンシングサイクルについてのベースコール予測を生成し、それによって、重なり合うシーケンシングサイクルに対するそれぞれの圧縮された空間出力セットを、重なり合うシーケンシングサイクルに対するそれぞれのサイクルごとの分析物チャネルセットに置換することと、を更に含む、項目１に記載の人工知能ベースの方法。
４．シーケンシングサイクルの第１及び第２のウィンドウと、空間ネットワークが、以前に空間出力セットを生成した、１つ以上の重なり合うシーケンシングサイクルと、空間ネットワークが、まだ空間出力セットを生成していない少なくとも１つの重なり合わないシーケンシングサイクルと、を共有するシーケンシングランのシーケンシングサイクルの第３のウィンドウに対して、
空間ネットワークを介して、重なり合わないシーケンシングサイクルのみに対するサイクルごとの分析物チャネルセットを処理し、重なり合わないシーケンシングサイクルのための空間出力セットのシーケンスを生成し、それによって、空間ネットワークを介して重なり合うシーケンシングサイクルに対するそれぞれのサイクルごとの分析物チャネルセットの再処理を回避することと、
圧縮ネットワークを介して、空間出力セットのシーケンス内の最終空間出力セットを処理し、重なり合わないシーケンシングサイクルのための圧縮空間出力セットを生成することであって、最終空間出力が、Ｍ個のチャネル（特徴マップ）を有し、圧縮空間出力が、Ｎ個のチャネル（特徴マップ）を有し、ＭがＮより大きい、ことと、
シーケンシングサイクルの第１及び第２のウィンドウ及び圧縮空間出力セットに対して以前に生成された重なり合うシーケンシングサイクルのためのそれぞれの圧縮空間出力セットに基づいて、シーケンシングサイクルの第３のウィンドウ内の１つ以上のシーケンシングサイクルについてのベースコール予測を生成し、それによって、重なり合うシーケンシングサイクルに対するそれぞれの圧縮された空間出力セットを、重なり合うシーケンシングサイクルに対するそれぞれのサイクルごとの分析物チャネルセットに置換することと、を更に含む、項目３に記載の人工知能ベースの方法。
５．シリーズ内の各サイクルごとの分析物チャネルセットが、シーケンシングランにおける対応するシーケンシングサイクルでの分析物へのヌクレオチド取り込みに応答して登録された強度を示す、項目１に記載の人工知能ベースの方法。
６．空間ネットワークが、シーケンシングランのシーケンシングサイクルの特定のウィンドウのためのシリーズにおけるサイクルごとの分析物チャネルセットの特定のウィンドウにおける各サイクルごとの分析物チャネルセットを、別々に処理する、空間畳み込み層のシーケンスを有し、シーケンシングサイクルの特定のウィンドウ内の各シーケンシングサイクルに対して、空間出力セットのシーケンスを生成し、シーケンシングサイクルの特定のウィンドウ内の異なるシーケンシングサイクルの、サイクルごとの分析物チャネルセットどうしの間ではなく、対象のシーケンシングサイクルの、１つの、サイクルごとの分析物チャネルセット内でのみ、強度を組み合わせる、第１空間畳み込み層から開始することと、先行する空間畳み込み層の空間出力を、シーケンシングサイクルの特定のウィンドウ内の異なるシーケンシングサイクル間ではなく、対象のシーケンシングサイクル内でのみ組み合わせる、後続の空間畳み込み層により引き続き行うことと、を含む、項目５に記載の人工知能ベースの方法。
７．空間畳み込み層のシーケンス内のそれぞれの空間畳み込み層が、異なる数の畳み込みフィルタを有し、空間畳み込み層のシーケンス内の最終空間畳み込み層が、Ｍ個の畳み込みフィルタを有し、Ｍが、４より大きい整数である、項目６に記載の人工知能ベースの方法。
８．空間畳み込み層のシーケンス内のそれぞれの空間畳み込み層が、同じ数の畳み込みフィルタを有し、その同じ数がＭであり、Ｍが、４より大きい整数である、項目７に記載の人工知能ベースの方法。
９．空間ネットワーク内の畳み込みフィルタが、２次元（two-dimensional、２Ｄ）の畳み込みを使用する、項目８に記載の人工知能ベースの方法。
１０．空間ネットワーク内の畳み込みフィルタが、３次元（three-dimensional、３Ｄ）の畳み込みを使用する、項目８に記載の人工知能ベースの方法。
１１．ニューラルネットワークベースのベースコーラーが、時間ネットワークを有し、時間ネットワークが、シーケンシングサイクルの特定のウィンドウ内の後続のシーケンシングサイクルのウィンドウに対するそれぞれの圧縮空間出力セットをグループ化して処理する時間畳み込み層のシーケンスを有し、シーケンシングサイクルの特定のウィンドウに対する時間出力セットのシーケンスを生成し、シーケンシングサイクルの特定のウィンドウ内の異なるシーケンシングサイクルどうしの間で圧縮空間出力セットを組み合わせる第１の時間畳み込み層から開始することと、先行する時間畳み込み層の後続する時間出力を組み合わせる後続の時間畳み込み層により引き続き行うことと、を含む、項目６に記載の人工知能ベースの方法。
１２．シーケンシングサイクルの第１のウィンドウに対して、
時間ネットワークの時間畳み込み層のシーケンスで第１の時間畳み込み層を介して、シーケンシングサイクルの第１のウィンドウ内の後続のシーケンシングサイクルのウィンドウに対するそれぞれの圧縮空間出力セットを処理し、シーケンシングサイクルの第１のウィンドウに対する複数の時間出力セットを生成することと、
圧縮ネットワークを介して、複数の時間出力セットを処理し、複数の時間出力セット内のそれぞれの時間出力セットのためのそれぞれの圧縮時間出力セットを生成することであって、それぞれの時間出力セットが、Ｍ個のチャネル（特徴マップ）を有し、それぞれの圧縮時間出力セットが、Ｎ個のチャネル（特徴マップ）を有し、ＭがＮより大きい、ことと、
時間ネットワークの時間畳み込み層のシーケンスにおける最終時間畳み込み層を介して、それぞれの圧縮時間出力セットを処理し、シーケンシングサイクルの第１のウィンドウに対する最終時間出力セットを生成することと、
最終時間出力セットに基づいて、シーケンシングサイクルの第１のウィンドウ内の１つ以上のシーケンシングサイクルに対するベースコール予測を生成することと、を更に含み、
出力層が、最終時間出力セットを処理し、シーケンシングサイクルの第１のウィンドウに対する最終出力を生成し、ベースコール予測は、最終出力に基づいて生成される、項目１１に記載の人工知能ベースの方法。
１３．シーケンシングサイクルの第１のウィンドウと、第１の時間畳み込み層が以前に時間出力セットを生成した後続のシーケンシングサイクルの１つ以上の重なり合うウィンドウと、第１の時間畳み込み層がまだ時間出力セットを生成していない後続のシーケンシングサイクルの少なくとも１つの重なり合わないウィンドウを共有するシーケンシングサイクルの第２のウィンドウに対して、
第１の時間畳み込み層を介して、後続のシーケンシングサイクルの重なり合わないウィンドウにおけるそれぞれのシーケンシングサイクルに対してのみ、それぞれの圧縮空間出力セットを処理し、後続のシーケンシングサイクルの重なり合わないウィンドウに対する時間出力セットを生成し、それによって、後続のシーケンシングサイクルの重なり合うウィンドウ内のそれぞれのシーケンシングサイクルに対する、第１の時間畳み込み層を通じた、それぞれの圧縮空間出力セットの再処理を回避することと、
圧縮ネットワークを介して、時間出力セットを処理し、後続のシーケンシングサイクルの重なり合わないウィンドウに対する圧縮時間出力セットを生成することであって、時間出力セットが、Ｍ個のチャネル（特徴マップ）を有し、圧縮時間出力が、Ｎ個のチャネル（特徴マップ）を有し、ＭがＮより大きい、ことと、
最終時間畳み込み層を介して、シーケンシングサイクルの第１のウィンドウ及び圧縮時間出力セットに対して以前に生成された、後続のシーケンシングサイクルの重なり合うウィンドウに対するそれぞれの圧縮時間出力セットを処理し、シーケンシングサイクルの第２のウィンドウのための最終時間出力セットを生成し、それによって、後続のシーケンシングサイクルの重なり合うウィンドウに対するそれぞれの圧縮時間出力セットを、後続のシーケンシングサイクルの重なり合うウィンドウに対するそれぞれのサイクルごとの分析物チャネルセットに置換することと、
最終時間出力セットに基づいて、シーケンシングサイクルの第２のウィンドウ内の１つ以上のシーケンシングサイクルに対するベースコール予測を生成することと、を更に含み、
出力層が、最終時間出力セットを処理し、シーケンシングサイクルの第２のウィンドウに対する最終出力を生成し、ベースコール予測は、最終出力に基づいて生成される、項目１２に記載の人工知能ベースの方法。
１４．シーケンシングサイクルの第１及び第２のウィンドウと、第１の時間畳み込み層が以前に時間出力セットを生成した後続のシーケンシングサイクルの１つ以上の重なり合うウィンドウ、及び第１の時間畳み込み層がまだ時間出力セットを生成していない後続のシーケンシングサイクルの少なくとも１つの重なり合わないウィンドウを共有するシーケンシングサイクルの第３のウィンドウに対して、
第１の時間畳み込み層を介して、後続のシーケンシングサイクルの重なり合わないウィンドウにおけるそれぞれのシーケンシングサイクルに対してのみ、それぞれの圧縮空間出力セットを処理し、後続のシーケンシングサイクルの重なり合わないウィンドウに対する時間出力セットを生成し、それによって、後続のシーケンシングサイクルの重なり合うウィンドウ内のそれぞれのシーケンシングサイクルに対する、第１の時間畳み込み層を介する、それぞれの圧縮空間出力セットの再処理を回避することと、
圧縮ネットワークを介して、時間出力セットを処理し、後続のシーケンシングサイクルの重なり合わないウィンドウに対する圧縮時間出力セットを生成することであって、時間出力セットが、Ｍ個のチャネル（特徴マップ）を有し、圧縮時間出力が、Ｎ個のチャネル（特徴マップ）を有し、ＭがＮより大きい、ことと、
最終時間畳み込み層を介して、シーケンシングサイクルの第１及び第２のウィンドウ及び圧縮時間出力セットに対して以前に生成された、後続のシーケンシングサイクルの重なり合うウィンドウに対するそれぞれの圧縮時間出力セットを処理し、シーケンシングサイクルの第３のウィンドウのための最終時間出力セットを生成し、それによって、後続のシーケンシングサイクルの重なり合うウィンドウに対するそれぞれの圧縮時間出力セットを、後続のシーケンシングサイクルの重なり合うウィンドウに対するそれぞれのサイクルごとの分析物チャネルセットに置換することと、
最終時間出力セットに基づいて、シーケンシングサイクルの第３のウィンドウ内の１つ以上のシーケンシングサイクルに対するベースコール予測を生成することと、を更に含み、
出力層が、最終時間出力セットを処理し、シーケンシングサイクルの第３のウィンドウに対する最終出力を生成し、ベースコール予測は、最終出力に基づいて生成される、項目１３に記載の人工知能ベースの方法。
１５．時間ネットワークの時間畳み込み層のシーケンス内のそれぞれの時間畳み込み層が、異なる数の畳み込みフィルタを有し、第１の時間畳み込み層が、Ｍ個の畳み込みフィルタを有し、Ｍが４より大きい整数である、項目１１に記載の人工知能ベースの方法。
１６．時間ネットワークの時間畳み込み層のシーケンス内のそれぞれの時間畳み込み層が、同じ数の畳み込みフィルタを有し、その同じ数がＭであり、Ｍが４より大きい整数である、項目１１に記載の人工知能ベースの方法。
１７．時間ネットワーク内の畳み込みフィルタが１次元（１Ｄ）畳み込みを使用する、項目１６に記載の人工知能ベースの方法。
１８．圧縮ネットワークが、１×１の畳み込みを使用して、圧縮空間出力セット内の圧縮空間出力の数を制御し、圧縮ネットワークはＮ個の畳み込みフィルタを有し、Ｎは４以下の整数である、項目１に記載の人工知能ベースの方法。
１９．信頼できない分析物を識別するデータを使用して、信頼できない分析物に対応する圧縮空間出力セット内の圧縮空間出力の部分を除去し、フィルタリングされた圧縮空間出力セットを生成して、圧縮空間出力セットを置換し、信頼できない分析物ではないそれらの分析物に対してのみベースコール予測を生成することを更に含む、項目１に記載の人工知能ベースの方法。
２０．フィルタリングされた圧縮空間出力セットを、対応する圧縮空間出力セットの代わりに、時間ネットワークを介して処理することを更に含む、項目１９に記載の人工知能ベースの方法。
２１．フィルタリングされた圧縮空間出力セットから圧縮時間出力セットを生成することを更に含む、項目２０に記載の人工知能ベースの方法。
２２．信頼できない分析物を識別するデータが、信頼できないクラスタの強度を示すピクセルを識別する、項目１９に記載の人工知能ベースの方法。
２３．信頼できない分析物を識別するデータが、いかなる強度も示さないピクセルを識別する、項目１９に記載の人工知能ベースの方法。
２４．圧縮空間出力セットが、対応するフィルタリングされた圧縮空間出力セットの合計ピクセル数の４～９倍の数の合計ピクセル数を有する、項目２０に記載の人工知能ベースの方法。
２５．フィルタリングされた圧縮空間出力セットにより、時間ネットワークが７５％少ないピクセルで動作し、それにより、時間ネットワークの計算操作、メモリアクセス、及びメモリ占有を７５％削減する、項目２４に記載の人工知能ベースの方法。
２６．空間ネットワークを介した再処理を回避することが、時間ネットワークに対する計算動作、メモリアクセス、及びメモリ占有を８０％低減させる、項目５に記載の人工知能ベースの方法。
２７．時間ネットワークを介した再処理を回避することが、時間ネットワークの計算動作、メモリアクセス、及びメモリ占有を低減する、項目１４に記載の人工知能ベースの方法。
２８．空間ネットワーク及び時間ネットワークにおける補足的な畳み込みフィルタの追加に、圧縮ネットワークによって利用可能とされた計算リソースを再度割り当てることを更に含む、項目２７に記載の人工知能ベースの方法。
２９．特定のシーケンシングサイクルに対するベースコール予測を生成するために使用されるサイクルごとの分析物チャネルセットの各ウィンドウ内の補足的なサイクルごとの分析物チャネルセットの追加に、圧縮ネットワークによって利用可能とされた計算リソースを再度割り当てることを更に含む、項目２７に記載の人工知能ベースの方法。
３０．圧縮ネットワークによって利用可能とされた計算リソースを、空間ネットワーク内の補足的な空間畳み込み層の追加に再度割り当てることを更に含む、項目２７に記載の人工知能ベースの方法。
３１．圧縮ネットワークによって利用可能とされた計算リソースを、時間ネットワーク内の補足的な時間畳み込み層の追加に再度割り当てることを更に含む、項目２７に記載の人工知能ベースの方法。
３２．シーケンシングサイクルの現在のウィンドウに対して生成された１つ以上の圧縮空間出力セットと併せて、シーケンスサイクルの１つ以上の先行するウィンドウに対して生成された１つ以上の圧縮空間出力セットを使用して、シーケンスサイクルの現在のウィンドウにおける１つ以上のシーケンシングサイクルに対するベースコール予測を生成することを更に含む、項目１に記載の人工知能ベースの方法。
３３．シーケンスサイクルの現在のウィンドウに対して生成された１つ以上の圧縮空間出力セットと併せて、シーケンスサイクルの１つ以上の後続ウィンドウに対して生成された１つ以上の圧縮空間出力セットを使用して、シーケンシングサイクルの現在のウィンドウにおける１つ以上のシーケンシングサイクルに対するベースコール予測を生成することを更に含む、項目１に記載の人工知能ベースの方法。
３４．シーケンスサイクルの現在のウィンドウに対して生成された１つ以上の圧縮時間出力セットと併せて、シーケンスサイクルの１つ以上の先行するウィンドウに対して生成された１つ以上の圧縮時間出力セットを使用して、シーケンシングサイクルの現在のウィンドウにおける１つ以上のシーケンシングサイクルに対するベースコール予測を生成することを更に含む、項目１に記載の人工知能ベースの方法。
３５．シーケンスサイクルの現在のウィンドウに対して生成された１つ以上の圧縮時間出力セットと併せて、シーケンスサイクルの１つ以上の後続のウィンドウに対して生成された１つ以上の圧縮時間出力セットを使用して、シーケンシングサイクルの現在のウィンドウにおける１つ以上のシーケンシングサイクルに対するベースコール予測を生成することを更に含む、項目１に記載の人工知能ベースの方法。
３６．サイクルごとの分析物チャネルセットが、シーケンシングラン中にシーケンシングされた分析物の分析物データをコード化する、項目１に記載の人工知能ベースの方法。
３７．分析物データが、分析物から収集された強度放射を識別する画像データである、項目３６に記載の人工知能ベースの方法。
３８．画像データが、複数の画像チャネル（画像）を有する、項目３７に記載の人工知能ベースの方法。
３９．画像チャネル（画像）が、（ｉ）特定のレーザでの照明及び（ｉｉ）特定の光学フィルタを介した撮像の組み合わせによって生成される、項目３８に記載の人工知能ベースの方法。
４０．分析物データが、分析物活性に基づいて検出された電流及び／又は電圧データである、項目３６に記載の人工知能ベースの方法。
４１．分析物データが、分析物活性に基づいて検出されたｐＨスケールデータである、項目３６に記載の人工知能ベースの方法。
４２．直列に設定された各サイクルごとの分析物チャネル内のチャネルの数が、圧縮ネットワーク内の畳み込みフィルタの数、したがって圧縮空間出力セット及び圧縮時間出力セット内のチャネルの数を決定する、項目１に記載の人工知能ベースの方法。
４３．圧縮空間出力セット、圧縮フィルタ空間出力セット、及び圧縮時間出力セットが、量子化された形態で格納される、項目１に記載の人工知能ベースの方法。
４４．システムであって、
ホストプロセッサに取り付けられ、シーケンシングランの進行としてシーケンス画像の進行を受信するように構成されたホストメモリと、
処理ユニットのアレイを有する構成可能なプロセッサであって、処理ユニットのアレイ内の処理ユニットが、ニューラルネットワークベースのベースコーラーを実行してベースコール予測を生成するように構成されている、構成可能なプロセッサと、
ホストメモリ、ホストプロセッサ、及び構成可能なプロセッサへのアクセスを有し、ホストメモリから構成可能なプロセッサ上のシーケンシングサイクルの第１のウィンドウ内のシーケンシングサイクルに対してシーケンス画像をロードするように構成されたデータフローロジックと、
処理ユニットに、ニューラルネットワークベースのベースコーラーの空間ネットワークを、サイクルごとに、シーケンシングサイクルの第１のウィンドウにおけるシーケンシングサイクルのシーケンス画像に対して実行させ、シーケンシングサイクルの第１のウィンドウ内のシーケンシングサイクルの各々に対して空間特徴マップセットを生成するように構成された実行時ロジックであって、
処理ユニットに、ニューラルネットワークベースのベースコーラーの圧縮ネットワークを、サイクルごとに空間特徴マップセットに対して実行させ、圧縮空間特徴マップセットを生成し、圧縮空間特徴マップセットを、時間ネットワーク及び出力ネットワークを介して処理して、シーケンシングサイクルの第１のウィンドウ内の１つ以上のシーケンシングサイクルのためのベースコール予測を生成させるように構成された、実行時ロジックと、を備え、
データフローロジックが、圧縮空間特徴マップセットをホストメモリに移動させ、圧縮空間特徴マップセットでシーケンス画像を上書きするように構成され、
１つ以上の重なり合うシーケンシングサイクルを、シーケンシングサイクルの第１のウィンドウと共有し、少なくとも１つの重なり合わないシーケンシングサイクルを有する、シーケンシングサイクルの第２のウィンドウに対して、データフローロジックが構成可能なプロセッサ上にホストメモリから、重なり合うシーケンシングサイクルに対して圧縮空間特徴マップセットをロードし、重なり合わないシーケンシングサイクルに対してシーケンス画像をロードするように構成され、
実行時ロジックが、重なり合わないシーケンシングサイクルのシーケンス画像上で処理ユニットに空間ネットワークを実行させ、重なり合わないシーケンシングサイクルのための空間特徴マップセットを生成させるように構成され、
実行時ロジックが、処理ユニットが、空間特徴マップセット上で圧縮ネットワークを実行し、重なり合わないシーケンシングサイクルに対して圧縮空間特徴マップセットを生成し、重なり合うシーケンシングサイクルに対して、圧縮空間特徴マップセットを処理し、かつ重なり合わないシーケンシングサイクルに対して、時間ネットワーク及び出力ネットワークを介して、圧縮空間特徴マップセットを処理し、かつシーケンシングサイクルの第２のウィンドウ中の１つ以上のシーケンシングサイクルに対してベースコール予測を生成するように構成されている、システム。
４５．システムであって、
ホストプロセッサに取り付けられ、シーケンシングランの進行としてシーケンス画像の進行を受信するように構成されたホストメモリと、
プロセッサメモリに取り付けられた処理ユニットのアレイを有する構成可能なプロセッサであって、処理ユニットのアレイ内の処理ユニットが、ニューラルネットワークベースのベースコーラーを実行して、ベースコール予測を生成するように構成された、構成可能なプロセッサと、
ホストメモリ、ホストプロセッサ、構成可能なプロセッサ、及びプロセッサメモリへのアクセスを有し、ホストメモリから構成可能なプロセッサ上のシーケンシングサイクルの第１のウィンドウ内のシーケンシングサイクルに対してシーケンス画像をロードするように構成されたデータフローロジックと、
処理ユニットに、ニューラルネットワークベースのベースコーラーの空間ネットワークを、サイクルごとに、シーケンシングサイクルの第１のウィンドウにおけるシーケンシングサイクルのシーケンス画像に対して実行させ、シーケンシングサイクルの第１のウィンドウ内のシーケンシングサイクルの各々に対して空間特徴マップセットを生成させるように構成された実行時ロジックであって、
処理ユニットに、ニューラルネットワークベースのベースコーラーの圧縮ネットワークを、サイクルごとに空間特徴マップセットに対して実行させ、圧縮空間特徴マップセットを生成し、圧縮空間特徴マップセットを、時間ネットワーク及び出力ネットワークを介して処理して、シーケンシングサイクルの第１のウィンドウ内の１つ以上のシーケンシングサイクルのためのベースコール予測を生成させるように構成された、実行時ロジックと、を備え、
データフローロジックが、圧縮空間特徴マップセットをプロセッサメモリに移動させるように構成され、
１つ以上の重なり合うシーケンシングサイクルをシーケンシングサイクルの第１のウィンドウと共有し、少なくとも１つの重なり合わないシーケンシングサイクルを有する、シーケンシングサイクルの第２のウィンドウに対して、データフローロジックが構成可能なプロセッサ上にプロセッサメモリから、重なり合うシーケンシングサイクルに対して圧縮空間特徴マップセットをロードし、重なり合わないシーケンシングサイクルに対してシーケンス画像をホストメモリからロードするように構成され、
実行時ロジックが、重なり合わないシーケンシングサイクルのシーケンス画像上で処理ユニットに空間ネットワークを実行させ、重なり合わないシーケンシングサイクルのための空間特徴マップセットを生成させるように構成され、
実行時ロジックが、処理ユニットが、空間特徴マップセット上で圧縮ネットワークを実行し、重なり合わないシーケンシングサイクルに対して圧縮空間特徴マップセットを生成し、重なり合うシーケンシングサイクルに対して、圧縮空間特徴マップセットを処理し、かつ重なり合わないシーケンシングサイクルに対して、時間ネットワーク及び出力ネットワークを介して、圧縮空間特徴マップセットを処理し、かつシーケンシングサイクルの第２のウィンドウ中の１つ以上のシーケンシングサイクルに対してベースコール予測を生成するように構成されている、システム。
４６．システムであって、
ニューラルネットワークグラフの第１の横断を実行して、第１の処理ロジックを介して第１の入力セット内のそれぞれの入力を独立して処理し、第１の入力セット内のそれぞれの入力どうしの間で情報を混合することなく、第１の入力セット内のそれぞれの入力のそれぞれの代替表現を生成し、第１の入力セット内のそれぞれの入力のそれぞれの代替表現に基づいて、第１の横断の出力を生成するように構成されたニューラルネットワークロジックであって、
ニューラルネットワークグラフの第２の横断を実行して、第１の処理ロジックを介して第２の入力セット内のそれぞれの入力を独立して処理し、第２の入力セット内のそれぞれの入力どうしの間で情報を混合することなく、第２の入力セット内のそれぞれの入力のそれぞれの代替表現を生成し、第２の入力セット内のそれぞれの入力のそれぞれの代替表現に基づいて、第２の横断の出力を生成するように構成され、第１及び第２の入力セットが、１つ以上の重なり合う入力、及び少なくとも１つの重なり合わない入力を有する、ニューラルネットワークロジックと、
ニューラルネットワークロジックとともに、第１の横断を実行して、第１の入力セット内のそれぞれの入力のそれぞれの代替表現を生成して、第１の入力セット内のそれぞれの入力のそれぞれの代替表現を、メモリに、圧縮された形式で記憶し、第１の入力セット内のそれぞれの入力の圧縮された形式のそれぞれの代替表現に基づいて、第１の横断に対する出力を生成するように構成された実行時ロジックであって、
第２の横断を実行して、第１の処理ロジックを介して重なり合わない入力のみを処理し、重なり合わない入力の代替表現を生成して、その重なり合わない入力の代替表現を、圧縮された形式でメモリに記憶して、第１の横断中に生成された重なり合う入力の、圧縮した形式のそれぞれの代替的表現を読み出して、第２の横断における重なる入力のそれぞれの代替表現の冗長な生成を回避する補償とし、かつ重なり合う入力の圧縮された形式のそれぞれの代替表現及び重なり合わない入力の、圧縮された形式の代替表現に基づいて、第２の横断に対する出力を生成するように構成された、実行時ロジックと、を備える、システム。
４７．メモリが、オンチップメモリである、項目４６に記載のシステム。
４８．メモリが、オフチップメモリである、項目４６に記載のシステム。
４９．圧縮形態のチャネルの数が、第１及び第２の入力セット内の入力のチャネルの数に対応する、項目４６に記載のシステム。
５０．ベースコールの人工知能ベースの方法であって、方法が、
シーケンシングランのシーケンシングサイクルのために生成された、サイクルごとの分析物チャネルセットのシリーズにアクセスすることであって、対象のサイクルごとの分析物チャネルセットが、シーケンシングランの対象のシーケンシングサイクルにおいて、分析物に対して検知された分析物データをコード化する、ことと、
ニューラルネットワークの第１の処理モジュールを介して対象のサイクルごとの分析物チャネルセットを処理し、Ｍ個の特徴マップを有する、対象のサイクルごとの分析物チャネルセットの中間表現を生成することと、
ニューラルネットワークの第２の処理モジュールを介して中間表現を処理し、Ｎ個（ただしＮはＭより小さい）の特徴マップを有する、対象のサイクルごとの分析物チャネルセットの中間表現をより少ない数で生成することと、
対象のサイクルごとの分析物チャネルセットの、より少ない数の中間表現を使用して、対象のシーケンシングサイクル及び／又はシーケンシングランの他のシーケンシングサイクルでの、分析物に対するベースコール予測を生成することと、を含む、人工知能ベースの方法。
５１．第１の処理モジュールが、Ｍ個の畳み込みフィルタを備えた畳み込み層である、項目５０に記載の人工知能ベースの方法。
５２．第２の処理モジュールが、Ｎ個の畳み込みフィルタを備えた畳み込み層である、項目５０に記載の人工知能ベースの方法。
５３．ベースコールの人工知能ベースの方法であって、方法が、
連続するスライドウィンドウが互いに重なり合うシーケンシングサイクルを有するように、スライドウィンドウベースのニューラルネットワークベースのベースコーラーを介して、シーケンシングランのシーケンシングサイクルに対して生成されたサイクルごとの分析物チャネルセットの進行を処理することと、
１つ以上の先行するシーケンシングサイクル、中央シーケンシングサイクル、及び１つ以上の後続シーケンシングサイクルを含むシーケンシングサイクルの現在のウィンドウに対して、
サイクルごとの分析物チャネルセットの現在のウィンドウにニューラルネットワークベースのベースコーラーを、適用することに基づいて、先行するシーケンシングサイクル、中央シーケンシングサイクル、及び後続シーケンシングサイクルの各々に対して、空間中間表現及び圧縮中間表現を生成することであって、空間中間表現が、Ｍ個のチャネルを有し、圧縮中間表現が、Ｎ個のチャネルを有し、ＭがＮより大きい、ことと、
先行するシーケンシングサイクル、中央シーケンシングサイクル、及び後続シーケンシングサイクルに対して生成された圧縮中間表現に基づいて、少なくとも中央シーケンシングサイクルをベースコールすることと、
先行するシーケンシングサイクル、中央シーケンシングサイクル、及び後続シーケンシングサイクルに対して生成された圧縮中間表現を使用して、シーケンシングサイクルの次のウィンドウ内の少なくとも中央シーケンシングサイクルでベースコールすることと、を含む、人工知能ベースの方法。
５４．ベースコールの人工知能ベースのシステムであって、システムが、
ホストプロセッサと、
ホストプロセッサによってアクセス可能であり、シーケンシングランのシーケンシングサイクルに対する分析物データを記憶するメモリと、
メモリへのアクセスを有する構成可能なプロセッサあって、
複数の実行クラスタであって、ニューラルネットワークを実行するように構成された複数の実行クラスタ内の実行クラスタと、
メモリへのアクセス及び複数の実行クラスタ内の実行クラスタへのアクセスを有するデータフローロジックであって、複数の実行クラスタ内の利用可能な実行クラスタに、分析物データを提供し、実行クラスタが、分析物データをニューラルネットワークに適用し、分析データの中間表現と圧縮された中間表現を現在のベースコールステップで使用するように生成し、圧縮された中間表現をメモリにフィードバックして、将来のベースコールステップにおいて、分析データに替えて用いられるように構成され、中間表現はＭ個のチャネルを有し、圧縮された中間表現はＮ個のチャネルを有し、ＭはＮよりも大きい、データフローロジックと、を含む、プロセッサと、を備える、人工知能ベースのシステム。
５５．システムであって、
ベースコーラーの第１の反復を実行して、入力を処理し、入力の中間表現を生成するように構成された実行時ロジックと、
中間表現を処理し、入力の圧縮中間表現を生成するように構成された圧縮ロジックと、を備え、
実行時ロジックが、ベースコーラーの後続の反復における入力の代わりに圧縮中間表現を使用するように構成されている、システム。
５６．システムであって、
ベースコーラーの第１の反復を実行して、入力を処理し、入力の中間表現を生成するように構成された実行時ロジックと、
中間表現を処理し、圧縮中間表現を生成するように構成された圧縮ロジックであって、圧縮中間表現が、入力と同じ数のチャネルを有するように構成されている、圧縮ロジックと、を備え、
実行時ロジックが、ベースコーラーの後続の反復における入力の代わりに圧縮中間表現を使用するように構成されている、システム。
５７．チャネルが、特徴マップに対応する、項目５６に記載のシステム。
５８．チャネルが、深さ寸法に対応する、項目５６に記載のシステム。
５９．チャネルが、空間寸法に対応する、項目５６に記載のシステム。
分割
１．システムであって、
空間畳み込み層のそれぞれのシーケンスを介して、サイクルごとのシーケンス画像セットのウィンドウ内の、それぞれのサイクルごとのシーケンス画像セットを別々に畳み込むことによって、サイクルごとに、シーケンシングランのシーケンシングサイクルのシリーズに対して、サイクルごとのシーケンス画像セットのウィンドウを処理して、シーケンシングサイクルのシリーズ内のそれぞれのシーケンシングサイクルに対して、それぞれのサイクルごとの空間特徴マップセットを生成するように構成されている空間畳み込みネットワークであって、
空間畳み込み層のそれぞれのシーケンスが、空間畳み込みフィルタバンクのそれぞれのシーケンスを有し、空間畳み込みフィルタバンクのそれぞれのシーケンスの空間畳み込みフィルタバンク内の空間畳み込みフィルタを、空間畳み込み層の学習された係数それぞれのシーケンス内の空間畳み込み層のシーケンス間で変化させる、空間畳み込みネットワークと、
第１の時間畳み込み層のそれぞれの時間畳み込みフィルタバンクを用いて、サイクルごとの空間特徴マップセットにおけるサイクルごとの空間特徴マップセットのそれぞれの重なり合うグループに畳み込むことによって、サイクルごとの空間特徴マップセットをグループごとに処理して、サイクルごとの空間特徴マップセットの、それぞれ重なり合うグループに対する、それぞれのグループごとの時間特徴マップセットを生成するように構成されている時間畳み込みネットワークであって、
それぞれの時間畳み込みフィルタバンク内の時間畳み込みフィルタの学習された係数を、それぞれの時間畳み込みフィルタバンク内の時間畳み込みフィルタバンク間で変化させる、時間畳み込みネットワークと、を備える、システム。
２．空間畳み込みフィルタが、サイクル内の分割された畳み込みを使用する、項目１に記載のシステム。
３．時間畳み込みフィルタが、サイクル間の組み合わせ畳み込みを使用する、項目１に記載のシステム。
４．それぞれのサイクルごとの空間特徴マップセットを、それぞれの圧縮畳み込み層を介して、別々に畳み込んで、それぞれのシーケンシングサイクルに対する、それぞれのサイクルごとの圧縮空間特徴マップセットを生成する圧縮ネットワークを備えるように更に構成されている、項目１に記載のシステム。
５．それぞれの圧縮畳み込み層内の圧縮畳み込みフィルタの学習された係数が、それぞれの圧縮畳み込み層内の圧縮畳み込み層間で変化する、項目４に記載のシステム。
６．時間畳み込みネットワークが、グループごとの時間特徴マップセットにおけるグループごとの時間特徴マップセットのそれぞれの重なり合うグループに、第２の時間畳み込み層のそれぞれの時間畳み込みフィルタバンクを使用して、畳み込みを行うことによって、グループごとにグループごとの時間特徴マップセットを処理し、グループごとの時間特徴マップセットのそれぞれの重なり合うグループに対してそれぞれの更なるグループごとの時間特徴マップセットを生成するように更に構成されている、項目５に記載のシステム。
７．最終時間畳み込み層によって生成された最終時間特徴マップセットを処理して最終出力を生成する、出力ネットワークを備えるように更に構成されている、項目６に記載のシステム。
８．最終出力に基づいて、シーケンシングサイクルのシリーズにおいて、１つ以上のシーケンシングサイクルのためのベースコール予測を生成するように更に構成されている、項目７に記載のシステム。
９．システムであって、
空間畳み込み層のそれぞれのシーケンスを介して、サイクルごとのシーケンス画像セットのウィンドウ内の、それぞれのサイクルごとのシーケンス画像セットを別々に畳み込むことによって、サイクルごとに、シーケンシングランのシーケンシングサイクルのシリーズに対して、サイクルごとのシーケンス画像セットのウィンドウを処理して、シーケンシングサイクルのシリーズ内のそれぞれのシーケンシングサイクルに対して、それぞれのサイクルごとの空間特徴マップセットを生成するように構成されている空間畳み込みネットワークであって、
それぞれの時間畳み込みフィルタバンクを用いて、サイクルごとの空間特徴マップセットのそれぞれの重なり合うグループに畳み込むことによって、サイクルごとの空間特徴マップセットをグループごとに処理して、サイクルごとの空間特徴マップセットの、サイクルごとの空間特徴マップセットにおけるそれぞれ重なり合うグループに対する、それぞれのグループごとの時間特徴マップセットを生成するように構成されている時間畳み込みネットワークであって、
それぞれの時間畳み込みフィルタバンク内の時間畳み込みフィルタの学習された係数それぞれの時間畳み込みフィルタバンク内の時間畳み込みフィルタバンク間で変化する、時間畳み込みネットワークと、を備える、システム。
１０．空間畳み込み層のそれぞれのシーケンスが、空間畳み込みフィルタバンクのそれぞれのシーケンスを有し、空間畳み込みフィルタバンクのそれぞれのシーケンスの空間畳み込みフィルタバンク内の空間畳み込みフィルタのが、空間畳み込み層の学習された係数それぞれのシーケンス内の空間畳み込み層のシーケンス間で共有される、項目９に記載のシステム。
１１．それぞれのサイクルごとの空間特徴マップセットを、それぞれの圧縮畳み込み層を介して、別々に畳み込んで、それぞれ対応するシーケンシングサイクルに対する、それぞれのサイクルごとの圧縮空間特徴マップセットを生成する圧縮ネットワークを備えるように更に構成され、それぞれの圧縮畳み込み層内の圧縮畳み込みフィルタの、が、学習された係数それぞれの圧縮畳み込み層内の圧縮畳み込み層間で変化する、項目９に記載のシステム。
１２．ベースコールの人工知能ベースの方法であって、方法が、
空間畳み込み層のそれぞれのシーケンスを介して、サイクルごとのシーケンス画像セットのウィンドウ内の、それぞれのサイクルごとのシーケンス画像セットを別々に畳み込むことによって、空間畳み込みネットワークを介して、サイクルごとに、シーケンシングランのシーケンシングサイクルのシリーズに対するサイクルごとのシーケンス画像セットのウィンドウを処理し、シーケンシングサイクルのシリーズ内のそれぞれのシーケンシングサイクルに対して、それぞれのサイクルごとの空間特徴マップセットを生成することであって、
空間畳み込み層のそれぞれのシーケンスが、空間畳み込みフィルタバンクのそれぞれのシーケンスを有し、空間畳み込みフィルタバンクのそれぞれのシーケンスの空間畳み込みフィルタバンク内の空間畳み込みフィルタを、空間畳み込み層の学習された係数それぞれのシーケンス内の空間畳み込み層のシーケンス間で変化する、ことと、
第１の時間畳み込み層のそれぞれの時間畳み込みフィルタバンクを用いて、サイクルごとの空間特徴マップセットにおけるサイクルごとの空間特徴マップセットのそれぞれの重なり合うグループに畳み込むことによって、時間畳み込みネットワークを介して、サイクルごとの空間特徴マップセットをグループごとに処理し、サイクルごとの空間特徴マップセットのそれぞれ重なり合うグループに対する、それぞれのグループごとの時間特徴マップセットを生成することであって、
それぞれの時間畳み込みフィルタバンク内の時間畳み込みフィルタの学習された係数は、それぞれの時間畳み込みフィルタバンク内の時間畳み込みフィルタバンク間で変化する、ことと、を含む、人工知能ベースの方法。
１３．それぞれのサイクルごとの空間特徴マップセットを、圧縮ネットワークのそれぞれの圧縮畳み込み層を介して別々に畳み込み、それぞれのシーケンシングサイクルに対し、サイクルごとの圧縮空間特徴マップセットを生成することを更に含む、項目１２に記載の人工知能ベースの方法。
１４．それぞれの圧縮畳み込み層内の圧縮畳み込みフィルタの学習された係数が、それぞれの圧縮畳み込み層内の圧縮畳み込み層間で変化する、項目１３に記載の人工知能ベースの方法。
１５．グループごとの時間特徴マップセットにおけるグループごとの時間特徴マップセットのそれぞれの重なり合うグループに、第２の時間畳み込み層のそれぞれの時間畳み込みフィルタバンクを使用して、畳み込みを行うことによって、時間畳み込みネットワークを介して、グループごとにグループごとの時間特徴マップセットを処理し、グループごとの時間特徴マップセットのそれぞれの重なり合うグループに対してそれぞれの更なるグループごとの時間特徴マップセットを生成することと、を更に含む、項目１４に記載の人工知能ベースの方法。
１６．出力ネットワークを介して、最終時間畳み込み層によって生成された最終時間特徴マップセットを処理し、最終出力を生成することを更に含む、項目１５に記載の人工知能ベースの方法。
１７．最終出力に基づいて、シーケンシングサイクルのシリーズにおいて、１つ以上のシーケンシングサイクルに対するベースコール予測を生成することを更に含む、項目１６に記載の人工知能ベースの方法。
１８．ベースコールの人工知能ベースの方法であって、方法が、
空間畳み込み層のそれぞれのシーケンスを介して、サイクルごとのシーケンス画像セットのウィンドウ内の、それぞれのサイクルごとのシーケンス画像セットを別々に畳み込むことによって、空間畳み込みネットワークを介して、サイクルごとに、シーケンシングランのシーケンシングサイクルのシリーズに対するサイクルごとのシーケンス画像セットのウィンドウを処理し、シーケンシングサイクルのシリーズ内のそれぞれのシーケンシングサイクルに対して、それぞれのサイクルごとの空間特徴マップセットを生成することであって、
第１の時間畳み込み層のそれぞれの時間畳み込みフィルタバンクを用いて、サイクルごとの空間特徴マップセットにおけるサイクルごとの空間特徴マップセットのそれぞれの重なり合うグループに畳み込むことによって、時間畳み込みネットワークを介して、サイクルごとの空間特徴マップセットをグループごとに処理し、サイクルごとの空間特徴マップセットのそれぞれ重なり合うグループに対する、それぞれのグループごとの時間特徴マップセットを生成することであって、
それぞれの時間畳み込みフィルタバンク内の時間畳み込みフィルタの学習された係数は、それぞれの時間畳み込みフィルタバンク内の時間畳み込みフィルタバンク間で変化する、人工知能ベースの方法。
１９．空間畳み込み層のそれぞれのシーケンスが、空間畳み込みフィルタバンクのそれぞれのシーケンスを有し、空間畳み込みフィルタバンクのそれぞれのシーケンスの空間畳み込みフィルタバンク内の空間畳み込みフィルタのが、空間畳み込み層の学習された係数それぞれのシーケンス内の空間畳み込み層のシーケンス間で共有される、項目１８に記載の人工知能ベースの方法。
２０．それぞれのサイクルごとの空間特徴マップセットを、圧縮ネットワークのそれぞれの圧縮畳み込み層を介して別々に畳み込み、それぞれのシーケンシングサイクルに対し、サイクルごとの圧縮空間特徴マップセットを生成することを更に含み、それぞれの圧縮畳み込み層内の圧縮畳み込みフィルタのが、学習された係数それぞれの圧縮畳み込み層内の圧縮畳み込み層間で変化する、項目１８に記載の人工知能ベースの方法。
２１．システムであって、
サイクルごとのシーケンス画像のウィンドウ内のそれぞれのサイクルごとのシーケンス画像に空間畳み込み層のそれぞれのシーケンスを適用するように構成された空間畳み込みネットワークを備え、
空間畳み込み層のそれぞれのシーケンスが、空間畳み込み層のシーケンスごとに異なっている空間畳み込みフィルタバンクのそれぞれのシーケンスを有する、システム。
２２．システムであって、
時間畳み込みフィルタのそれぞれのセットを、空間特徴マップのそれぞれのスライドウィンドウに適用するように構成された第１の時間畳み込み層で構成された時間畳み込みネットワークを備え、
第１の時間畳み込み層内の時間畳み込みフィルタのそれぞれのセットが、時間畳み込みフィルタのセットごとに異なっている時間畳み込みフィルタを有する、システム。
２３．時間畳み込みネットワークが、第１の時間畳み込み層の後に続く第２の時間畳み込み層で構成され、第２の畳み込み層は、時間特徴マップのそれぞれのスライドウィンドウにそれぞれのセットの時間畳み込みフィルタを適用するように構成され、第２の時間畳み込み層内の時間畳み込みフィルタのそれぞれのセットが、時間畳み込みフィルタのセットごとに異なる時間畳み込みフィルタを有する、項目２２に記載のシステム。
スキップ
１．システムであって、
シーケンシングランのシーケンシングサイクルのシリーズに対して、サイクルごとのシーケンス画像セットのウィンドウを、それぞれの空間処理パイプラインを介して、サイクルごとのシーケンス画像セットのウィンドウ内の、それぞれのサイクルごとのシーケンス画像セットを、サイクルごとに別々に処理することによって処理し、それぞれの空間処理パイプラインは、それぞれのサイクルごとのシーケンス画像セットを、空間畳み込み層のそれぞれのシーケンスを介して、畳み込むように構成され、シーケンシングサイクルのシリーズ内のそれぞれのシーケンシングサイクルに対して、それぞれのサイクルごとの空間特徴マップセットを生成するように構成されている空間畳み込みネットワークと
空間畳み込みネットワークに接続され、かつ空間畳み込み層の空間特徴マップそれぞれのシーケンス内の空間畳み込み層間でバスを形成するように構成されたバスネットワークであって、バスが、特定のシーケンシングサイクルに対する空間畳み込み層の特定のシーケンス内の２つ以上の空間畳み込み層によって生成されたそれぞれのサイクルごとのセットを組み合わせて、組み合わせられた、サイクルごとの空間特徴マップセットを形成し、組み合わせられた、サイクルごとの空間特徴マップセットを、空間畳み込み層の特定のシーケンス内の別の空間畳み込み層への入力として提供するように構成されている。バスネットワークと、を備える、システム。
２．２つ以上の空間畳み込み層が、第１の空間畳み込み層及び第３の空間畳み込み層を含み、第１の空間畳み込み層が、第１のサイクルごとの空間特徴マップセットを生成し、第１の空間畳み込み層は、第１のサイクルごとの空間特徴マップセットを、第２の空間畳み込み層への入力として提供し、第２の空間畳み込み層は、第１のサイクルごとの空間特徴マップセットを処理し、第２のサイクルごとの空間特徴マップセットを生成し、
第２の空間畳み込み層は、第３の空間畳み込み層への入力として、第２のサイクルごとの空間特徴マップセットを提供し、第３の空間畳み込み層は、第２のサイクルごとの空間特徴マップセットを処理し、第３のサイクルごとの空間機能マップセットを生成する、項目１に記載のシステム。
３．バスが、第１の空間特徴マップセット及び第３のサイクルごとの空間特徴マップセットを、組み合わせて、組み合わせられた、サイクルごとの空間特徴マップセットになるように更に構成されている、項目２に記載のシステム。
４．別の空間畳み込み層が、空間畳み込み層の特定のシーケンス内の第３の空間畳み込み層の直後に続く第４の空間畳み込み層であり、第４の空間畳み込み層は、組み合わせられた、サイクルごとの空間特徴マップセットを入力として処理する、項目３に記載のシステム。
５．２つ以上の空間畳み込み層が、第１の空間畳み込み層及び第７の空間畳み込み層を含み、第３の空間畳み込み層が、第３のサイクルごとの空間特徴マップセットを、第４の空間畳み込み層への入力として提供し、第４の空間畳み込み層は、第３のサイクルごとの空間特徴マップセットを処理し、第４のサイクルごとの空間特徴マップセットを生成し、第４の空間畳み込み層は、第５の空間畳み込み層への入力として、第４のサイクルごとの空間特徴マップセットを提供し、第５の空間畳み込み層は、第４のサイクルごとの空間特徴マップセットを処理し、第５のサイクルごとの空間機能マップセットを生成する、項目２に記載のシステム。
６．バスが、第１の空間特徴マップセット及び第５の空間特徴マップセットを、組み合わせて、組み合わせられた、サイクルごとの空間特徴マップセットになるように更に構成されている、項目５に記載のシステム。
７．別の空間畳み込み層が、空間畳み込み層の特定のシーケンス内の第５の空間畳み込み層の直後に続く第６の空間畳み込み層であり、第６の空間畳み込み層が、組み合わせられた、サイクルごとの空間特徴マップセットを入力として処理する、項目６に記載のシステム。
８．２つ以上の空間畳み込み層が、第１の空間畳み込み層、第３の空間畳み込み層、及び第５の空間畳み込み層を含み、バスが、第１のサイクルごとの空間特徴マップセット、第３のサイクルごとの空間特徴マップセット、及び第５のサイクルごとの空間特徴マップセットを組み合わせて、組み合わせられた、サイクルごとの空間特徴マップセットにするように更に構成されている、項目５に記載のシステム。
９．別の空間畳み込み層が、入力として、組み合わせられた、サイクルごとの空間特徴マップセットを処理する第６の空間畳み込み層である、項目８に記載のシステム。
１０．バスが、特定のシーケンシングサイクルに対するサイクルごとのシーケンス画像セットを、第１の空間畳み込み層への入力として提供し、第３のサイクルごとの空間特徴マップセットを組み合わせて、組み合わせられた、サイクルごとの空間特徴マップセットにするように更に構成されている、項目１に記載のシステム。
１１．別の空間畳み込み層が、入力として、組み合わせられた、サイクルごとの空間特徴マップセットを処理する第４の空間畳み込み層である、項目１０に記載のシステム。
１２．バスネットワークが、受け入れ側のサイクルごとの空間特徴マップセットと組み合わされる、入来するサイクルごとの空間特徴マップセットの空間及び深度次元数を修正するように構成された次元適合性ロジックを含み、組み合わせられたサイクルごとの空間特徴マップセットを生成するように更に構成されている、項目１に記載のシステム。
１３．次元適合性ロジックが、畳み込み、プール、又は平均化を含む次元数削減動作である、項目１２に記載のシステム。
１４．バスネットワークが、受け入れ側のサイクルごとの空間特徴マップセットと組み合わされる、入来するサイクルごとの空間特徴マップセットの特徴値をスケールするように構成されたスケーリングロジックを含み、サイクルごとの空間特徴マップセットを生成するように更に構成されている、項目１２に記載のシステム。
１５．第１の時間畳み込み層のそれぞれの時間畳み込みフィルタバンクを用いて、サイクルごとの空間特徴マップセットにおけるサイクルごとの空間特徴マップセットのそれぞれの重なり合うグループに畳み込むことによって、サイクルごとの空間特徴マップセットをグループごとに処理して、サイクルごとの空間特徴マップセットの、それぞれ重なり合うグループに対する、それぞれのグループごとの時間特徴マップセットを生成するように構成されている時間畳み込みネットワークを含むように更に構成されている、項目１に記載のシステム。
１６．時間畳み込みネットワークに接続され、かつ時間畳み込み層のそれぞれのシーケンス内の時間畳み込み層間でバスを形成するように構成されたバスネットワークであって、バスが、特定のシーケンシングサイクルに対する時間畳み込み層の特定のシーケンス内の２つ以上の時間畳み込み層によって生成されたそれぞれのサイクルごとの時間特徴マップセットを組み合わせて、組み合わせられた、サイクルごとの時間特徴マップセットを形成し、組み合わせられた、サイクルごとの時間特徴マップセットを、時間畳み込み層の特定のシーケンス内の別の時間畳み込み層への入力として提供するように構成されているバスネットワークを備えるように更に構成されている、項目１５に記載のシステム。
１７．人工知能ベースの方法であって、
シーケンシングランのシーケンシングサイクルのシリーズに対して、サイクルごとのシーケンス画像セットのウィンドウを、サイクルごとのシーケンス画像セットのウィンドウ内の、それぞれのサイクルごとのシーケンス画像セットを、サイクルごとに、それぞれの空間的処理パイプラインを通じて別々に処理することによって、空間畳み込みネットワークを介して処理することであって、それぞれのサイクルごとのシーケンス画像セットを、空間畳み込み層のそれぞれのシーケンスを介して、畳み込んで、シーケンシングサイクルのシリーズ内のそれぞれのシーケンシングサイクルに対して、それぞれのサイクルごとの空間特徴マップセットを生成することを含む、ことと、
特定のシーケンシングサイクルに対する空間畳み込み層の特定のシーケンス内の２つ以上の空間畳み込み層によって生成されたそれぞれのサイクルごとの空間特徴マップセットを組み合わせ、組わせられた、サイクルごとの空間特徴マップセットを形成し、組わせられた、サイクルごとの空間特徴マップセットを、空間畳み込み層の特定のシーケンス内の別の空間畳み込み層への入力として提供することと、を含む、人工知能ベースの方法。
１８．２つ以上の空間畳み込み層が、第１の空間畳み込み層及び第３の空間畳み込み層を含み、第１の空間畳み込み層が、第１のサイクルごとの空間特徴マップセットを生成し、第１の空間畳み込み層が、第１のサイクルごとの空間特徴マップセットを、第２の空間畳み込み層への入力として提供し、第２の空間畳み込み層が、第１のサイクルごとの空間特徴マップセットを処理し、第２のサイクルごとの空間特徴マップセットを生成し、
第２の空間畳み込み層が、第３の空間畳み込み層への入力として、第２のサイクルごとの空間特徴マップセットを提供し、第３の空間畳み込み層が、第２のサイクルごとの空間特徴マップセットを処理し、第３のサイクルごとの空間機能マップセットを生成する、項目１７に記載の人工知能ベースの方法。
１９．バスが、第１の空間特徴マップセット及び第３のサイクルごとの空間特徴マップセットを、組み合わせて、組み合わせられた、サイクルごとの、空間特徴マップセットになるように更に構成されている、項目１８に記載の人工知能ベースの方法。
２０．別の空間畳み込み層が、空間畳み込み層の特定のシーケンス内の第３の空間畳み込み層の直後に続く第４の空間畳み込み層であり、第４の空間畳み込み層が、組み合わせられた、サイクルごとの空間特徴マップセットを入力として処理する、項目１９に記載の人工知能ベースの方法。
上で説明される方法の他の実施態様は、上述の方法のいずれかを実行するためにプロセッサによって実行可能な命令を記憶する非一時的コンピュータ可読記憶媒体を含むことができる。このセクションで説明される方法の更に別の実施態様は、メモリと、メモリ内に記憶された命令を実行するように動作可能な１つ以上のプロセッサとを含むシステムを含むことができ、上記の方法のいずれかを実行することができる。
１９０６ システムコントローラ
３３００ コンピュータシステム
３３１０ 記憶サブシステム
３３３２ ランダムアクセスメモリ
３３３４ 読み取り専用メモリ
３３３６ ファイルストレージサブシステム
３３３８ ユーザーインターフェース入力デバイス
３３５５ バスサブシステム
３３７２ 中央演算処理装置
３３７４ ネットワークインターフェースサブシステム
３３７６ ユーザーインターフェース出力デバイス
３３７８ 深層学習プロセッサ

Claims (20)

  1. ベースコールの人工知能ベースの方法であって、前記方法が、
    シーケンシングランのシーケンシングサイクルに対して生成されたサイクルごとの分析物チャネルセットのシリーズにアクセスすることと、
    ニューラルネットワークベースのベースコーラーの空間ネットワークを介して、前記シーケンシングランのシーケンシングサイクルの第１のウィンドウに対する、前記シリーズ内のサイクルごとの分析物チャネルセットの第１のウィンドウを処理し、前記シーケンシングサイクルの第１のウィンドウにおけるそれぞれのシーケンシングサイクルに対する空間出力セットのそれぞれのシーケンスを生成することと、
    前記ニューラルネットワークベースのベースコーラーの圧縮ネットワークを介して、前記空間出力セットのそれぞれのシーケンス内のそれぞれの最終空間出力セットを処理し、前記シーケンシングサイクルの第１のウィンドウにおける前記それぞれのシーケンシングサイクルに対するそれぞれの圧縮空間出力セットを生成することと、
    前記それぞれの圧縮空間出力セットに基づいて、前記シーケンシングサイクルの第１のウィンドウにおける１つ以上のシーケンシングサイクルに対するベースコール予測を生成することと、を含む、人工知能ベースの方法。
  2. 前記それぞれの最終空間出力セットが、Ｍ個のチャネルを有し、前記それぞれの圧縮空間出力セットが、Ｎ個のチャネルを有し、ＭがＮより大きい、請求項１に記載の人工知能ベースの方法。
  3. 前記シーケンシングサイクルの第１のウィンドウと、前記空間ネットワークが以前に空間出力セットを生成した１つ以上の重なり合うシーケンシングサイクル、及び少なくとも１つの重なり合わないシーケンシングサイクルを共有する、前記シーケンシングランのシーケンシングサイクルの第２のウィンドウに対して、
    前記空間ネットワークを介して、前記重なり合わないシーケンシングサイクルに対してのみサイクルごとの分析物チャネルセットを処理し、前記重なり合わないシーケンシングサイクルのための空間出力セットのシーケンスを生成することと、
    前記圧縮ネットワークを介して、前記空間出力セットのシーケンス内の最終空間出力セットを処理し、前記重なり合わないシーケンシングサイクルのための圧縮空間出力セットを生成することであって、前記最終空間出力が、Ｍ個のチャネルを有し、前記圧縮空間出力が、Ｎ個のチャネルを有し、ＭがＮより大きい、ことと、
    前記シーケンシングサイクルの第１のウィンドウに対して以前に生成された前記重なり合うシーケンシングサイクルのためのそれぞれの圧縮空間出力セット、及び前記圧縮空間出力セットに基づいて、前記シーケンシングサイクルの第２のウィンドウにおける１つ以上のシーケンシングサイクルに対するベースコール予測を生成することと、を更に含む、請求項１に記載の人工知能ベースの方法。
  4. 前記シーケンシングサイクルの第１及び第２のウィンドウと、前記空間ネットワークが以前に空間出力セットを生成した１つ以上の重なり合うシーケンシングサイクル、及び少なくとも１つの重なり合わないシーケンシングサイクルを共有する前記シーケンシングランのシーケンシングサイクルの第３のウィンドウに対して、
    前記空間ネットワークを介して、前記重なり合わないシーケンシングサイクルに対してのみサイクルごとの分析物チャネルセットを処理し、前記重なり合わないシーケンシングサイクルのための空間出力セットのシーケンスを生成することと、
    前記圧縮ネットワークを介して、前記空間出力セットのシーケンス内の最終空間出力セットを処理し、前記重なり合わないシーケンシングサイクルのための圧縮空間出力セットを生成することであって、前記最終空間出力が、Ｍ個のチャネルを有し、前記圧縮空間出力が、Ｎ個のチャネルを有し、ＭがＮより大きい、ことと、
    前記シーケンシングサイクルの第１及び第２のウィンドウに対して以前に生成された前記重なり合うシーケンシングサイクルのためのそれぞれの圧縮空間出力セット、及び前記圧縮空間出力セットに基づいて、前記シーケンシングサイクルの第３のウィンドウにおける１つ以上のシーケンシングサイクルに対するベースコール予測を生成することと、を更に含む、請求項３に記載の人工知能ベースの方法。
  5. 前記シリーズ内の各サイクルごとの分析物チャネルセットが、前記シーケンシングランにおける対応するシーケンシングサイクルでの分析物におけるヌクレオチド取り込みに応答して登録された強度を示す、請求項１に記載の人工知能ベースの方法。
  6. 前記空間ネットワークが、前記シーケンシングランのシーケンシングサイクルの特定のウィンドウのための前記シリーズにおけるサイクルごとの分析物チャネルセットの特定のウィンドウにおける各サイクルごとの分析物チャネルセットを、別々に処理する空間畳み込み層のシーケンスを有し、前記シーケンシングサイクルの特定のウィンドウ内の各シーケンシングサイクルに対して、空間出力セットのシーケンスを生成し、前記シーケンシングサイクルの特定のウィンドウ内の異なるシーケンシングサイクルの、サイクルごとの分析物チャネルセット間ではなく、対象のシーケンシングサイクルのサイクルごとの分析物チャネルセット内でのみ、強度を組み合わせる第１の空間畳み込み層から始めることと、前記シーケンシングサイクルの特定のウィンドウ内の前記異なるシーケンシングサイクル間ではなく、対象のシーケンシングサイクル内でのみ、先行する空間畳み込み層の空間出力を組み合わせる後続の空間畳み込み層により引き続き行うことと、を含む、請求項５に記載の人工知能ベースの方法。
  7. 前記空間畳み込み層のシーケンス内のそれぞれの空間畳み込み層が、異なる数の畳み込みフィルタを有し、前記空間畳み込み層のシーケンス内の最終空間畳み込み層が、Ｍ個の畳み込みフィルタを有し、Ｍが４より大きい整数である、請求項６に記載の人工知能ベースの方法。
  8. 前記空間畳み込み層のシーケンス内のそれぞれの空間畳み込み層が、同じ数の畳み込みフィルタを有し、前記同じ数がＭであり、Ｍが４より大きい整数である、請求項７に記載の人工知能ベースの方法。
  9. 前記空間ネットワーク内の前記畳み込みフィルタが、２次元（２Ｄ）の畳み込みを使用する、請求項８に記載の人工知能ベースの方法。
  10. 前記空間ネットワーク内の前記畳み込みフィルタが、３次元（３Ｄ）の畳み込みを使用する、請求項８に記載の人工知能ベースの方法。
  11. 前記ニューラルネットワークベースのベースコーラーが、時間ネットワークを有し、前記時間ネットワークが、前記シーケンシングサイクルの特定のウィンドウ内の後続のシーケンシングサイクルのウィンドウに対するそれぞれの圧縮空間出力セットをグループ化して処理する時間畳み込み層のシーケンスを有し、前記シーケンシングサイクルの特定のウィンドウに対する時間出力セットのシーケンスを生成し、前記シーケンシングサイクルの特定のウィンドウ内の前記異なるシーケンシングサイクル間で圧縮空間出力セットを組み合わせる第１の時間畳み込み層から開始することと、先行する時間畳み込み層の後続する時間出力を組み合わせる後続の時間畳み込み層により引き続き行うことと、を含む、請求項６に記載の人工知能ベースの方法。
  12. 前記シーケンシングサイクルの第１のウィンドウに対して、
    前記時間ネットワークの前記時間畳み込み層のシーケンスにおける第１の時間畳み込み層を介して、前記シーケンシングサイクルの第１のウィンドウ内の後続のシーケンシングサイクルのウィンドウに対する前記それぞれの圧縮空間出力セットを処理し、前記シーケンシングサイクルの第１のウィンドウに対する複数の時間出力セットを生成することと、
    前記圧縮ネットワークを介して、前記複数の時間出力セットを処理し、前記複数の時間出力セット内のそれぞれの時間出力セットのためのそれぞれの圧縮時間出力セットを生成することであって、前記それぞれの時間出力セットが、Ｍ個のチャネルを有し、前記それぞれの圧縮時間出力セットが、Ｎ個のチャネルを有し、ＭがＮより大きい、ことと、
    前記時間ネットワークの前記時間畳み込み層のシーケンスにおける最終時間畳み込み層を介して、前記それぞれの圧縮時間出力セットを処理し、前記シーケンシングサイクルの第１のウィンドウに対する最終時間出力セットを生成することと、
    前記最終時間出力セットに基づいて、前記シーケンシングサイクルの第１のウィンドウにおける１つ以上のシーケンシングサイクルに対する前記ベースコール予測を生成することと、を更に含み、
    出力層が、前記最終時間出力セットを処理し、前記シーケンシングサイクルの第１のウィンドウに対する最終出力を生成し、前記ベースコール予測が、前記最終出力に基づいて生成される、請求項１１に記載の人工知能ベースの方法。
  13. 前記シーケンシングサイクルの第１のウィンドウと、前記第１の時間畳み込み層が以前に時間出力セットを生成した後続のシーケンシングサイクルの１つ以上の重なり合うウィンドウ、及び前記第１の時間畳み込み層がまだ時間出力セットを生成していない後続のシーケンシングサイクルの少なくとも１つの重なり合わないウィンドウを共有するシーケンシングサイクルの第２のウィンドウに対して、
    前記第１の時間畳み込み層を介して、前記後続のシーケンシングサイクルの重なり合わないウィンドウ内のそれぞれのシーケンシングサイクルに対してのみ、それぞれの圧縮空間出力セットを処理し、前記後続のシーケンシングサイクルの重なり合わないウィンドウに対する時間出力セットを生成することと、
    前記圧縮ネットワークを介して、前記時間出力セットを処理し、前記後続のシーケンシングサイクルの重なり合わないウィンドウに対する圧縮時間出力セットを生成することであって、前記時間出力セットが、Ｍ個のチャネルを有し、前記圧縮時間出力が、Ｎ個のチャネルを有し、ＭがＮより大きい、ことと、
    前記最終時間畳み込み層を介して、前記シーケンシングサイクルの第１のウィンドウ及び前記圧縮時間出力セットに対して以前に生成された前記後続のシーケンシングサイクルの重なり合うウィンドウに対するそれぞれの圧縮時間出力セットを処理し、前記シーケンシングサイクルの第２のウィンドウに対する最終時間出力セットを生成することと、
    前記最終時間出力セットに基づいて、前記シーケンシングサイクルの第２のウィンドウにおける１つ以上のシーケンシングサイクルに対する前記ベースコール予測を生成することと、を更に含み、
    出力層が、前記最終時間出力セットを処理し、前記シーケンシングサイクルの第２のウィンドウに対する最終出力を生成し、前記ベースコール予測が、前記最終出力に基づいて生成される、請求項１２に記載の人工知能ベースの方法。
  14. 前記シーケンシングサイクルの第１及び第２のウィンドウと、前記第１の時間畳み込み層が以前に時間出力セットを生成した後続のシーケンシングサイクルの１つ以上の重なり合うウィンドウ、及び後続のシーケンシングサイクルの少なくとも１つの重なり合わないウィンドウを共有するシーケンシングサイクルの第３のウィンドウに対して、
    前記第１の時間畳み込み層を介して、前記後続のシーケンシングサイクルの重なり合わないウィンドウ内のそれぞれのシーケンシングサイクルに対してのみ、それぞれの圧縮空間出力セットを処理し、前記後続のシーケンシングサイクルの重なり合わないウィンドウに対する時間出力セットを生成することと、
    前記圧縮ネットワークを介して、前記時間出力セットを処理し、前記後続のシーケンシングサイクルの重なり合わないウィンドウに対する圧縮時間出力セットを生成することであって、前記時間出力セットが、Ｍ個のチャネルを有し、前記圧縮時間出力が、Ｎ個のチャネルを有し、ＭがＮより大きい、ことと、
    前記最終時間畳み込み層を介して、前記シーケンシングサイクルの第１及び第２のウィンドウ並びに前記圧縮時間出力セットに対して以前に生成された前記後続のシーケンシングサイクルの重なり合うウィンドウに対するそれぞれの圧縮時間出力セットを処理し、前記シーケンシングサイクルの第３のウィンドウの最終時間出力セットを生成することと、
    前記最終時間出力セットに基づいて、前記シーケンシングサイクルの第３のウィンドウにおける１つ以上のシーケンシングサイクルに対する前記ベースコール予測を生成することと、を更に含み、
    出力層が、前記最終時間出力セットを処理し、前記シーケンシングサイクルの第３のウィンドウに対する最終出力を生成し、前記ベースコール予測が、前記最終出力に基づいて生成される、請求項１３に記載の人工知能ベースの方法。
  15. 前記時間ネットワークの前記時間畳み込み層のシーケンス内のそれぞれの時間畳み込み層が、異なる数の畳み込みフィルタを有し、前記第１の時間畳み込み層が、Ｍ個の畳み込みフィルタを有し、Ｍが４より大きい整数である、請求項１１に記載の人工知能ベースの方法。
  16. 前記時間ネットワークの前記時間畳み込み層のシーケンス内のそれぞれの時間畳み込み層が、同じ数の畳み込みフィルタを有し、前記同じ数がＭであり、Ｍが４より大きい整数である、請求項１１に記載の人工知能ベースの方法。
  17. 前記時間ネットワーク内の前記畳み込みフィルタが、１次元（１Ｄ）の畳み込みを使用する、請求項１６に記載の人工知能ベースの方法。
  18. 前記圧縮ネットワークが、１×１の畳み込みを使用して、圧縮空間出力セット内の圧縮空間出力の数を制御し、前記圧縮ネットワークが、Ｎ個の畳み込みフィルタを有し、Ｎは４以下の整数である、請求項１に記載の人工知能ベースの方法。
  19. 信頼できない分析物を識別するデータを使用して、前記信頼できない分析物に対応する圧縮空間出力セット内の圧縮空間出力の部分を除去し、フィルタリングされた圧縮空間出力セットを生成して、前記圧縮空間出力セットを置換し、前記信頼できない分析物ではないそれらの分析物に対してのみベースコール予測を生成することを更に含む、請求項１に記載の人工知能ベースの方法。
  20. システムであって、
    ベースコーラーの第１の反復を実行して、入力を処理し、前記入力の中間表現を生成するように構成された実行時ロジックと、
    前記中間表現を処理し、前記入力の圧縮中間表現を生成するように構成された圧縮ロジックと、を備え、
    前記実行時ロジックが、前記ベースコーラーの後続の反復における前記入力の代わりに前記圧縮中間表現を使用するように構成されている、システム。
JP2022549987A 2020-02-20 2021-02-19 人工知能ベースのベースコールのためのデータ圧縮 Pending JP2023515804A (ja)

Applications Claiming Priority (11)

Application Number Priority Date Filing Date Title
US202062979411P 2020-02-20 2020-02-20
US202062979399P 2020-02-20 2020-02-20
US62/979,399 2020-02-20
US62/979,411 2020-02-20
US17/179,395 US20210265016A1 (en) 2020-02-20 2021-02-18 Data Compression for Artificial Intelligence-Based Base Calling
US17/179,395 2021-02-18
US17/180,513 2021-02-19
US17/180,480 US20210264266A1 (en) 2020-02-20 2021-02-19 Split Architecture for Artificial Intelligence-Based Base Caller
PCT/US2021/018913 WO2021168356A1 (en) 2020-02-20 2021-02-19 Data compression for artificial intelligence-based base calling
US17/180,480 2021-02-19
US17/180,513 US20210264267A1 (en) 2020-02-20 2021-02-19 Bus Network for Artificial Intelligence-Based Base Caller

Publications (2)

Publication Number Publication Date
JP2023515804A true JP2023515804A (ja) 2023-04-14
JPWO2021168356A5 JPWO2021168356A5 (ja) 2024-02-29

Family

ID=77366219

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2022549984A Pending JP2023515500A (ja) 2020-02-20 2021-02-19 人工知能ベースのベースコーラーのための分割アーキテクチャ
JP2022549987A Pending JP2023515804A (ja) 2020-02-20 2021-02-19 人工知能ベースのベースコールのためのデータ圧縮
JP2022549996A Pending JP2023515092A (ja) 2020-02-20 2021-02-19 人工知能ベースのベースコーラーのためのバスネットワーク

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2022549984A Pending JP2023515500A (ja) 2020-02-20 2021-02-19 人工知能ベースのベースコーラーのための分割アーキテクチャ

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2022549996A Pending JP2023515092A (ja) 2020-02-20 2021-02-19 人工知能ベースのベースコーラーのためのバスネットワーク

Country Status (11)

Country Link
US (3) US20210265016A1 (ja)
EP (3) EP4107740A1 (ja)
JP (3) JP2023515500A (ja)
KR (3) KR20220144374A (ja)
CN (3) CN115280418A (ja)
AU (3) AU2021224873A1 (ja)
BR (2) BR112022016495A2 (ja)
CA (1) CA3168731A1 (ja)
IL (3) IL295584A (ja)
MX (2) MX2022010272A (ja)
WO (3) WO2021168360A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11210554B2 (en) 2019-03-21 2021-12-28 Illumina, Inc. Artificial intelligence-based generation of sequencing metadata
US11887277B2 (en) * 2021-02-23 2024-01-30 Adobe Inc. Removing compression artifacts from digital images and videos utilizing generative machine-learning models
US20230004318A1 (en) * 2021-07-01 2023-01-05 Samsung Electronics Co., Ltd. Systems and methods for reordering data in a storage device based on data access patterns
WO2023049215A1 (en) * 2021-09-22 2023-03-30 Illumina, Inc. Compressed state-based base calling
CN115514375B (zh) * 2022-11-18 2023-03-24 江苏网进科技股份有限公司 一种缓存数据压缩方法

Family Cites Families (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US197026A (en) 1877-11-13 Improvement in fasteners for meeting-rails of sashes
US741921A (en) 1903-02-04 1903-10-20 John Henry Miller Hopple for cows.
US1414716A (en) 1919-12-12 1922-05-02 Charles G Trosien Gear lock for automobiles
US7319019B1 (en) 1991-04-10 2008-01-15 Acorda Therapeutics, Inc. Glial mitogenic factors lacking an N-terminal signal sequence
WO1996019514A1 (en) 1994-12-21 1996-06-27 Shell Internationale Research Maatschappij B.V. Novel epoxy-functional polyethers
US6698020B1 (en) 1998-06-15 2004-02-24 Webtv Networks, Inc. Techniques for intelligent video ad insertion
JP3821267B2 (ja) 1999-01-18 2006-09-13 富士通株式会社 文書画像結合装置、文書画像結合方法及び文書画像結合プログラムを記録した記録媒体
EP1368460B1 (en) 2000-07-07 2007-10-31 Visigen Biotechnologies, Inc. Real-time sequence determination
EP1354064A2 (en) 2000-12-01 2003-10-22 Visigen Biotechnologies, Inc. Enzymatic nucleic acid synthesis: compositions and methods for altering monomer incorporation fidelity
US6794578B2 (en) 2001-03-14 2004-09-21 Sabritec, Inc. Quadrax to twinax conversion apparatus and method
US7057026B2 (en) 2001-12-04 2006-06-06 Solexa Limited Labelled nucleotides
JP3861770B2 (ja) 2002-08-21 2006-12-20 ソニー株式会社 信号符号化装置及び方法、信号復号装置及び方法、並びにプログラム及び記録媒体
US7620648B2 (en) 2003-06-20 2009-11-17 International Business Machines Corporation Universal annotation configuration and deployment
GB0321306D0 (en) 2003-09-11 2003-10-15 Solexa Ltd Modified polymerases for improved incorporation of nucleotide analogues
US7197026B2 (en) 2003-12-23 2007-03-27 Nokia Corporation Method and system for RLP optimization
CN100583987C (zh) 2004-07-14 2010-01-20 松下电器产业株式会社 用于认证和执行应用程序的方法
US7700206B2 (en) 2004-08-17 2010-04-20 Lg Electronics Inc. Fuel cell system
US7255419B2 (en) 2004-12-06 2007-08-14 Silverbrook Research Pty Ltd Inkjet printer with arcuately moveable duplex printhead assembly and capping/purging mechanism
US7332023B2 (en) 2005-03-07 2008-02-19 Hewlett-Packard Development Company, L.P. Dye-based ink compositions
US7188578B2 (en) 2005-03-29 2007-03-13 Derosa Robert James Cover plate removal tool
WO2007002191A2 (en) 2005-06-22 2007-01-04 Biocryst Pharmaceuticals, Inc. Methods for the preparation of 9-deazapurine derivatives
GB2428533B (en) 2005-06-24 2007-08-22 Hewlett Packard Development Co Determining data flows in a network
US8231669B2 (en) 2005-09-22 2012-07-31 Boston Scientific Scimed, Inc. Tether guided stent side branch
JP4320657B2 (ja) 2005-12-26 2009-08-26 ソニー株式会社 信号処理装置
SG170802A1 (en) 2006-03-31 2011-05-30 Solexa Inc Systems and devices for sequence by synthesis analysis
WO2007141931A1 (ja) 2006-05-29 2007-12-13 Panasonic Corporation 複数チップ構成半導体装置、及び半導体検査方法
JP4481332B2 (ja) 2006-06-06 2010-06-16 三菱電機株式会社 ロールオーバ判定装置
US7279891B1 (en) 2006-06-15 2007-10-09 Honeywell International Inc. Permalloy bridge with selectable wafer-anistropy using multiple layers
US7966937B1 (en) 2006-07-01 2011-06-28 Jason Stewart Jackson Non-newtonian projectile
US7414716B2 (en) 2006-10-23 2008-08-19 Emhart Glass S.A. Machine for inspecting glass containers
CN201354430Y (zh) 2008-12-09 2009-12-02 博西华电器（江苏）有限公司 干衣机的冷凝装置
US10204084B2 (en) 2016-06-10 2019-02-12 Microsoft Technology Licensing, Llc Activity modeling in email or other forms of communication
US10242113B2 (en) 2016-10-13 2019-03-26 International Business Machines Corporation Modifying messages to be more discoverable on a social network
GB201707138D0 (en) * 2017-05-04 2017-06-21 Oxford Nanopore Tech Ltd Machine learning analysis of nanopore measurements
CN107178938B (zh) 2017-07-25 2023-02-03 远大空调有限公司 一种自动抽排气系统
WO2019061951A1 (zh) 2017-09-28 2019-04-04 崔泽昊 一种洁面仪及其控制方法
WO2019147904A1 (en) * 2018-01-26 2019-08-01 Quantum-Si Incorporated Machine learning enabled pulse and base calling for sequencing devices
US11829517B2 (en) 2018-12-20 2023-11-28 Intel Corporation Method and apparatus for trust domain creation and destruction

Also Published As

Publication number Publication date
WO2021168356A1 (en) 2021-08-26
WO2021168360A1 (en) 2021-08-26
US20210265016A1 (en) 2021-08-26
AU2021222050A1 (en) 2022-09-08
KR20220144373A (ko) 2022-10-26
EP4107739A1 (en) 2022-12-28
CA3168731A1 (en) 2021-08-26
WO2021168358A1 (en) 2021-08-26
US20210264266A1 (en) 2021-08-26
JP2023515092A (ja) 2023-04-12
CN115443508A (zh) 2022-12-06
EP4107740A1 (en) 2022-12-28
IL295584A (en) 2022-10-01
EP4107738A1 (en) 2022-12-28
AU2021224873A1 (en) 2022-09-08
AU2021224872A1 (en) 2022-09-08
JP2023515500A (ja) 2023-04-13
CN115398549A (zh) 2022-11-25
KR20220144374A (ko) 2022-10-26
IL295585A (en) 2022-10-01
BR112022016416A2 (pt) 2022-10-11
US20210264267A1 (en) 2021-08-26
BR112022016495A2 (pt) 2022-10-11
IL295587A (en) 2022-10-01
KR20220144375A (ko) 2022-10-26
CN115280418A (zh) 2022-11-01
MX2022010272A (es) 2022-09-19
MX2022010273A (es) 2022-09-19

Similar Documents

Publication Publication Date Title
JP2023515804A (ja) 人工知能ベースのベースコールのためのデータ圧縮
US20210265015A1 (en) Hardware Execution and Acceleration of Artificial Intelligence-Based Base Caller
US11749380B2 (en) Artificial intelligence-based many-to-many base calling
US20220067489A1 (en) Detecting and Filtering Clusters Based on Artificial Intelligence-Predicted Base Calls
US20220319639A1 (en) Artificial intelligence-based base caller with contextual awareness
US20230005253A1 (en) Efficient artificial intelligence-based base calling of index sequences
CA3183578A1 (en) Artificial intelligence-based base caller with contextual awareness

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220823

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240219

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240219