JP2010518459A - 配布オーディオファイル編集用ウェブポータル - Google Patents

配布オーディオファイル編集用ウェブポータル Download PDF

Info

Publication number
JP2010518459A
JP2010518459A JP2009549729A JP2009549729A JP2010518459A JP 2010518459 A JP2010518459 A JP 2010518459A JP 2009549729 A JP2009549729 A JP 2009549729A JP 2009549729 A JP2009549729 A JP 2009549729A JP 2010518459 A JP2010518459 A JP 2010518459A
Authority
JP
Japan
Prior art keywords
music
portal
network
audio
score
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2009549729A
Other languages
English (en)
Inventor
ロバート ディー. タウブ,
ジェイ. アレキサンダー キャバニラ,
ジョージ トゥアテロット,
Original Assignee
ミューズアミ, インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ミューズアミ, インコーポレイテッド filed Critical ミューズアミ, インコーポレイテッド
Publication of JP2010518459A publication Critical patent/JP2010518459A/ja
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H1/00Details of electrophonic musical instruments
    • G10H1/0033Recording/reproducing or transmission of music for electrophonic musical instruments
    • G10H1/0041Recording/reproducing or transmission of music for electrophonic musical instruments in coded form
    • G10H1/0058Transmission between separate instruments or between individual components of a musical system
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2210/00Aspects or methods of musical processing having intrinsic musical character, i.e. involving musical theory or musical parameters or relying on musical knowledge, as applied in electrophonic musical tools or instruments
    • G10H2210/031Musical analysis, i.e. isolation, extraction or identification of musical elements or musical parameters from a raw acoustic signal or from an encoded audio signal
    • G10H2210/066Musical analysis, i.e. isolation, extraction or identification of musical elements or musical parameters from a raw acoustic signal or from an encoded audio signal for pitch analysis as part of wider processing for musical purposes, e.g. transcription, musical performance evaluation; Pitch recognition, e.g. in polyphonic sounds; Estimation or use of missing fundamental
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2210/00Aspects or methods of musical processing having intrinsic musical character, i.e. involving musical theory or musical parameters or relying on musical knowledge, as applied in electrophonic musical tools or instruments
    • G10H2210/031Musical analysis, i.e. isolation, extraction or identification of musical elements or musical parameters from a raw acoustic signal or from an encoded audio signal
    • G10H2210/076Musical analysis, i.e. isolation, extraction or identification of musical elements or musical parameters from a raw acoustic signal or from an encoded audio signal for extraction of timing, tempo; Beat detection
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2210/00Aspects or methods of musical processing having intrinsic musical character, i.e. involving musical theory or musical parameters or relying on musical knowledge, as applied in electrophonic musical tools or instruments
    • G10H2210/031Musical analysis, i.e. isolation, extraction or identification of musical elements or musical parameters from a raw acoustic signal or from an encoded audio signal
    • G10H2210/086Musical analysis, i.e. isolation, extraction or identification of musical elements or musical parameters from a raw acoustic signal or from an encoded audio signal for transcription of raw audio or music data to a displayed or printed staff representation or to displayable MIDI-like note-oriented data, e.g. in pianoroll format
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2220/00Input/output interfacing specifically adapted for electrophonic musical tools or instruments
    • G10H2220/155User input interfaces for electrophonic musical instruments
    • G10H2220/441Image sensing, i.e. capturing images or optical patterns for musical purposes or musical control purposes
    • G10H2220/451Scanner input, e.g. scanning a paper document such as a musical score for automated conversion into a musical file format
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2240/00Data organisation or data communication aspects, specifically adapted for electrophonic musical tools or instruments
    • G10H2240/171Transmission of musical instrument data, control or status information; Transmission, remote access or control of music data for electrophonic musical instruments
    • G10H2240/175Transmission of musical instrument data, control or status information; Transmission, remote access or control of music data for electrophonic musical instruments for jam sessions or musical collaboration through a network, e.g. for composition, ensemble playing or repeating; Compensation of network or internet delays therefor
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2240/00Data organisation or data communication aspects, specifically adapted for electrophonic musical tools or instruments
    • G10H2240/171Transmission of musical instrument data, control or status information; Transmission, remote access or control of music data for electrophonic musical instruments
    • G10H2240/281Protocol or standard connector for transmission of analog or digital data to or from an electrophonic musical instrument
    • G10H2240/295Packet switched network, e.g. token ring
    • G10H2240/305Internet or TCP/IP protocol use for any electrophonic musical instrument data or musical parameter transmission purposes
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2240/00Data organisation or data communication aspects, specifically adapted for electrophonic musical tools or instruments
    • G10H2240/171Transmission of musical instrument data, control or status information; Transmission, remote access or control of music data for electrophonic musical instruments
    • G10H2240/281Protocol or standard connector for transmission of analog or digital data to or from an electrophonic musical instrument
    • G10H2240/311MIDI transmission
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2250/00Aspects of algorithms or signal processing methods without intrinsic musical character, yet specifically adapted for or used in electrophonic musical processing
    • G10H2250/131Mathematical functions for musical analysis, processing, synthesis or composition
    • G10H2250/215Transforms, i.e. mathematical transforms into domains appropriate for musical signal processing, coding or compression
    • G10H2250/235Fourier transform; Discrete Fourier Transform [DFT]; Fast Fourier Transform [FFT]
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/02Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
    • G11B27/031Electronic editing of digitised analogue information signals, e.g. audio or video signals
    • G11B27/034Electronic editing of digitised analogue information signals, e.g. audio or video signals on discs

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Electrophonic Musical Instruments (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Indexing, Searching, Synchronizing, And The Amount Of Synchronization Travel Of Record Carriers (AREA)
  • Management Or Editing Of Information On Record Carriers (AREA)

Abstract

ネットワーク経由で楽曲寄与を共同処理する方法、システムおよび装置について記載される。本発明の実施形態はポータルを提供し、ポータルは複数のワークステーションによってネットワーク経由でアクセス可能であり、楽曲構成要素を編集する編集能力の組を提供するよう構成されている。楽曲寄与はポータルにおいて受信されてもよい。楽曲寄与の少なくとも一部は楽曲構成要素を含む。特定の実施形態では、楽曲構成要素はオーディオ信号または楽譜画像から分解されたものである。いくつかの共同制作リクエストがネットワーク経由でポータルにおいて受信されてもよい。いくつかの共同制作リクエストは第1のワークステーションから生じてもよく、他の共同制作リクエストは第2のワークステーションから生じてもよい。共同制作リクエストのうちの少なくとも1つに応答して、楽曲構成要素の少なくとも一部がポータルの編集能力を使用して編集されてもよい。

Description

(相互参照)
本願は、同時係属中の米国仮特許出願第60/889,816号(名称「COLLABORATIVE MUSIC SHARING」、2007年2月14日出願、代理人整理番号026287−000300US)および同時係属中の米国仮特許出願第60/889,821号(名称「MUSIC−BASED SEARCH ENGINE」、2007年2月14日出願、代理人整理番号026287−000400US)の優先権の利益を主張し、これらの出願は、全ての目的のために、その全体が本明細書に記載されているように参考として援用される。本願は、Robert D.Taubらに対する米国仮特許出願第61/028,490号(名称「MUSIC SCORE DECONSTRUCTION」、2008年2月13日出願、代理人整理番号026287−000500US)の優先権の利益を主張する。仮出願日の優先権が主張され、仮出願の開示は、全ての目的のために本明細書に参考として援用される。
本願は、さらに同時係属中の米国特許出願第_______号(名称「MUSIC−BASED SEARCH ENGINE」、2008年2月14日出願、代理人整理番号026287−000410US)と関連し、この出願は本願とともに出願され、全ての目的のために、その全体が本明細書に記載されているように参考として援用される。
本発明は、全般的にオーディオアプリケーションに関し、特に共同での楽曲作成に関する。
いくつかの理由から、楽曲の作成および体験を共同で行うことが望ましいと考えられる。1つの理由は、音楽家が種々の楽器のパフォーマンス、楽曲解釈、音楽理論、作曲、作詞、管弦楽編曲法、および制作を含む、音楽の多数の側面において、様々なレベルの技能を有するということである。別の理由は、音楽家はそれぞれ、独特の影響、経歴、好み、および芸術的構想力に影響する他の特性を有すると考えられるということである。さらに別の理由は、音楽家が遠く離れた複数の場所から連携したいこともあるということである。
比較的進歩した楽曲共同制作環境であっても、多数の便利な方法で楽曲寄与(music contribution)を処理する能力を欠くことから、機能性が限られていることが多い。例えば、いくつかの既存環境は、寄与者がオーディオファイルを複数のトラックとしてアップロードできるようにする。再生するためには、このトラックがレイヤ状にされてもよい。一部には、信号の振幅の変更(例えばフェーディングのため)のような、一定の限られた信号処理能力、または信号のセクションの切り取り、コピーもしくは貼り付けを行う能力さえも提供できるものもある。
しかし、特定の種類の楽曲共同制作では、より基本的なレベル(例えば、個々の音符、調、テンポ、コード変更、モチーフ、パターン、音色など)での楽曲寄与の処理が望まれることもある。例えば、寄与者が、トラックの楽器編成を変更したいことも、メロディのセクションを入れ換えたいことも、個々の音符を挿入したいことも、特定の寄与のコード進行を分析したいことも、複数の寄与者からの寄与を同期させたいことも、その他多数の能力にアクセスしたいこともある。こういった能力の多くの提供には、オーディオ信号から特定の種類の基本的な情報を抽出するために楽曲寄与が処理される必要があると考えられる。
少なくともこういった理由から、基本的なレベルにおいて、改善された能力を楽曲共同制作に提供することが望ましいと考えられる。
特に、複数の寄与者からの楽曲寄与を共同で作成し、処理する方法、システムおよび装置について記載する。
本発明の実施形態は、複数の共同制作者からの楽曲寄与を共同で処理することを促す。一側面において、本発明の技術は、ウェブポータルなどのネットワークサイトとして実装可能である。ウェブポータルは、オーディオ信号処理、楽譜記号(music character)認識技術、および楽譜書き起こし(music transcription)技術を利用して、楽曲プロジェクト用の共同環境を提供することができる。したがって、本発明の実施形態は、共同開発の取り組みに携わっている複数のユーザをホストするネットワークサイトを提供することができる。
ポータルは、様々な特徴および機能を提供することができる。特定の実施形態では、ポータルは、オーディオ編集の機能をサポートしてもよく、この機能には、オーディオファイルの編集、オーディオファイルの開始、オーディオファイルの共有、オーディオファイルの公開、プリントファイルの開始、オーディオファイルのカスタマイズ(着信音など)、着信音およびオーディオファイルのポータルオークションまたはマーケットプレイスのサポート、ならびにビデオファイルへの楽曲およびオーディオの追加が含まれる。他の実施形態では、ポータルは、会議開催(例えばテキスト、オーディオ、またはビデオによる)、およびアクセス制限(例えばポータルの特定領域、特定ファイル、または特定機能への)を含む、ネットワーク作りおよび共同制作の機能をサポートしてもよい。さらに他の実施形態では、ポータルは、共同プロジェクトの楽譜およびオーディオ出力の生成を含む、制作機能をサポートしてもよい。
本発明のその他の特徴および利点が、以下の、本発明の原理を一例として示す好適な実施形態の説明から明らかとなるはずである。
以下の図面を参照することによって、本発明の性質および利点のさらなる理解が実現されると考えられる。添付の図面では、同様のコンポーネントまたは特徴が、同じ参照ラベルを有することもある。さらに、類似したコンポーネント間を区別するダッシュと第2のラベルとが参照ラベルに続くことによって、同じ種類の様々なコンポーネントが区別されることもある。本明細書内で、第1の参照ラベルのみが使用されていれば、その説明は、第2の参照ラベルに関係なく、同じ第1参照ラベルを有する類似コンポーネントのうち任意のものに適用できる。
図1は、本発明に従い構成された、楽曲寄与を共同処理するシステムの簡略化した上位ブロック図である。 図2は、本発明による、楽曲寄与を共同処理する例示的方法のフロー図である。 図3は、本発明による、楽曲寄与を生成する、実例となる様々な種類の楽曲入力である。 図4Aは、本発明による、楽曲入力データを分解する方法のフロー図である。 図4Bは、本発明による、楽曲の小さな構成要素を分解する方法の実施形態である。 図4Cは、本発明による、楽曲の大きな構成要素を分解する方法の実施形態である。 図5Aは、本発明による、楽曲構成要素の生成のためにオーディオ信号入力を分解する例示的システムの簡略化したブロック図である。 図5Bは、本発明によるオーディオ分解ユニットの一実施形態の下位ブロック図である。 図6Aは、光学式文字認識(OCR:optical character recognition)機能を提供するために、本発明に従って楽曲画像データを処理する例示的システムである。 図6Bは、OCR処理装置への入力として提供される、図6Aに示されているキャプチャ装置からつくり出された例示的画像データである。 図7は、本発明による共同制作ポータルの実施形態の中に組み込まれてもよい様々なモジュールの例示的一構成である。 図8Aは、共同制作プロジェクトの一部の、位置合わせされた3つのビューを含むビューイング機能の実例となる実施形態である。 図8Bは、特定の音符に焦点を合わせた、図8Aに示されているビューイング機能の拡大ビューの実例となる実施形態である。 図9は、本発明による共同制作ポータルのGUIの実施形態である。 図10は、本発明の特定の実施形態を実装する計算システムのブロック図である。 図11は、本発明による製品の実例となる実施形態を、ハンドヘルドコンシューマ電子装置として示す。 図12は、図11に示されているものに類似した装置の実施形態の動作を示す簡略化したプロセスフロー図である。
この説明は、実施例としての実施形態のみを提供するものであり、本発明の範囲、適用性、または構成を限定しようとするものではない。それどころか、続く実施形態の説明は、本発明の実施形態を実装できるようにする説明を当業者に提供する。本発明の意図および範囲から逸脱することなく、構成要素の機能および配置に様々な変更が加えられてよい。
したがって、様々な実施形態が、必要に応じて、様々な手順またはコンポーネントを省略、置換、または追加してもよい。例えば、当然のことながら、代替の実施形態では、記載されたものとは異なる順序で方法が実行されてもよく、様々なステップが追加、省略されても、または組み合わされてもよい。さらに、特定の実施形態に関して記載される特徴が、他の様々な実施形態に組み合わされてもよい。実施形態の種々の側面および構成要素が、同様の形で組み合わされてもよい。
さらに、当然のことながら、以下のシステム、方法およびソフトウェアは、個別に、または集合的に、より大きなシステムのコンポーネントであってもよく、その利用により他の手順が優先しても、またはそうでなければ他の手順がその利用に変更を加えてもよい。さらに、いくつかのステップが、以下の実施形態の前、後、またはそれと同時に必要な場合もある。
(概説)
本発明の実施形態は、複数の共同制作者からの楽曲寄与の共同処理を促す。一側面において、本発明の技術は、ウェブポータルなどのネットワークサイトとして実装可能である。ウェブポータルは、オーディオ信号処理、楽譜記号認識技術、および楽譜書き起こし技術を利用して、楽曲プロジェクトの共同環境を提供することができる。したがって、本発明の実施形態は、共同開発の取り組みに携わっている複数のユーザをホストするネットワークサイトを提供する。
ポータルは、様々な特徴および機能性を提供することができる。特定の実施形態では、ポータルは、オーディオ編集機能をサポートしてもよく、この機能には、オーディオファイルの編集、オーディオファイルの開始、オーディオファイルの共有、オーディオファイルの公開、プリントファイルの開始、オーディオファイルのカスタム設計(着信音など)、着信音およびオーディオファイルのポータルオークションまたはマーケットプレイスのサポート、ならびにビデオファイルへの楽曲およびオーディオの追加が含まれる。他の実施形態では、ポータルは、会議開催(例えばテキスト、オーディオ、またはビデオによる)、およびアクセス制限(例えばポータルの特定領域、特定ファイル、または特定機能への)を含む、ネットワーク作りおよび共同制作の機能をサポートしてもよい。さらに他の実施形態では、ポータルは、共同プロジェクトの楽譜およびオーディオ出力の生成を含む、制作機能をサポートしてもよい。
図1は、本発明に従い構成された、楽曲寄与を共同処理するシステム100の簡略化した上位ブロック図を示す。システム100は、ネットワーク110を介していくつかのワークステーション104に接続されたポータル160を含む。ネットワーク110は、このいくつかのワークステーション104間の通信を促す任意のものであってもよい。例えば、ネットワーク110は、インターネットまたはローカルエリアネットワーク(LAN:local area network)としてもよい。
ワークステーション104は、ネットワーク110との通信と、楽曲寄与102の受信とを行うよう構成されている任意の装置またはシステムであってもよい。いくつかの実施形態では、ワークステーション104は多目的装置である。例えば、ワークステーション104は、コンピュータ(例えばラップトップ、デスクトップなど)またはハンドヘルド装置(例えば携帯情報端末、セルラー電話など)であってもよい。他の実施形態では、ワークステーション104は専用装置である。例えば、ワークステーション104のうちの1つは、楽曲寄与102の受信およびネットワーク110との通信を含む、共同環境の提供専用に開発された専用携帯装置であってもよい。特定の実施形態では、ワークステーション104は、楽曲寄与装置のネットワークインターフェースである。例えば、ワークステーション104のうちの1つは、エレキギターまたはデジタルオーディオコンポーネントの直接ネットワークインターフェースであってもよい。
当然のことながら、本発明よれば、ワークステーション104が楽曲寄与102を受信する方法は数多くある。例えば、楽曲寄与102は、内蔵マイクロホンまたは外付けマイクロホン、ラインレベルオーディオポート、ファイル転送(例えば固定もしくは取り外し可能データ記憶装置から、またはネットワーク経由で)、楽譜画像キャプチャ装置などによって受信されてもよい。楽曲入力の実施形態については、下記により詳しく記載する。
いくつかの実施形態では、ワークステーション104は、楽曲出力106を生成するよう構成されている。一実施形態では、楽曲出力106は、スピーカを通じてプレイされるよう構成されたオーディオ出力を含む。別の実施形態では、楽曲出力106は、ネットワーク経由で格納、プレイおよび/または共有されるよう構成されたオーディオファイルを含む。さらに別の実施形態では、楽曲出力106は、互換性のある他のシステムが使用するための楽曲構成要素データ(例えばピッチ、音程、テンポ、調、振幅など)を含む。さらに別の実施形態では、楽曲出力106は楽譜表現データを含み、これは、楽譜編集ソフトウェアによって使用されるよう、文書編集もしくは公開システムに送信されるよう、または印刷されるよう構成されている。
楽曲寄与102の種類、および共同制作者が楽曲寄与102をどう使用したいかにもよるが、楽曲寄与102から楽曲構成要素を分解することが望ましいことがある。様々な実施形態において、共同制作者は、一部の楽曲寄与102を分解されていない(例えば信号レベルの)形で使用することを希望することもあり、他の楽曲寄与102を分解された(例えば楽譜レベルの)形で使用したいと希望することもある。例えば、第1の楽曲寄与102が特異な音(例えば、高張力ケーブルをハンマーでたたく)の記録済みのサンプルを含み、第2の楽曲寄与102が記録済みのドラムビートパフォーマンスを含むと仮定する。共同制作者は、ドラムビートを分解してテンポおよび拍子に関係する楽曲構成要素情報を抽出し、その楽曲構成要素を使用して、特異な音のサンプルを特定のリズム位置に同期させることを希望するかもしれない(すなわち、特異な音のサンプルからは楽曲構成要素を抽出せずに)。楽曲の分解については、以下により詳しく記載する。
いくつかの実施形態では、システム100は、楽曲分解機能を提供する1つ以上の楽曲分解ユニット120を含む。特定の実施形態では、楽曲分解ユニット120はワークステーション104上にある。例えば、楽曲分解ユニット120はクライアントレベルのソフトウェアとして実装されてもよい。こうした実施形態では、楽曲寄与102は、ネットワーク110経由でポータル160へ送信される前に楽曲構成要素に分解されてもよい。他の実施形態では、楽曲分解ユニット120は、ポータル160の一部として提供されてもよい(例えば構成要素120−3)。楽曲寄与102が、ワークステーション104において受信され、ネットワーク110経由でポータル160へ送信され、次にポータル160において楽曲構成要素に分解されてもよい。
特定の実施形態では、ポータル160は、1つ以上のデータ記憶装置115と動作的に通信(operative communication)してもよい。いくつかの実施形態では、ポータル160は、データ記憶装置115とネットワーク110経由で通信する。他の実施形態では、ポータル160はデータ記憶装置115と直接通信する。データ記憶装置115は、楽曲寄与102または楽曲出力106に関係する1種類以上の情報を格納するよう構成されてもよい。例えば、データ記憶装置115は、生のオーディオファイル(例えばデジタル化オーディオ信号データを含んだファイル)、符号化オーディオファイル(例えば、ファイルコンテンツデータまたはオーディオ信号データに関係するメタデータを含んだファイル)、楽曲構成要素情報(例えば、楽曲構成要素の各楽曲寄与に関連付けされて、多次元リレーショナルデータベースに格納されている、分解済みの楽曲構成要素)、編集データ(例えば、1つ以上の楽曲寄与に対して行われた編集のログもしくは記録、または楽曲寄与の複数のコピーを保存することなく編集を効率的に記録するための特定のポインタおよびタイムスタンプデータ)などを格納するよう構成されてもよい。
当然のことながら、特定の種類のデータ保護が、本発明の実施形態において望まれる場合もある。いくつかの実施形態では、データ記憶装置115は、特定の種類のデータ保護(例えば、暗号化、パスワード保護など)を使用してデータを格納するよう設定されている。他の実施形態では、システム100の様々なコンポーネント間の物理的および仮想的通信リンクが安全である(例えば、セキュアソケットレイヤ暗号化による)。例えば、ポータル160とワークステーション104との間、またはポータル160とデータ記憶装置115との間のネットワーク通信が安全であってもよい。さらに他の実施形態では、楽曲出力106が保護され、コピー、削除などが防止されてもよい。例えば、特定のデジタル著作権管理(DRM:digital rights management)技術が用いられて、楽曲出力106ファイルの不正コピーまたは共有が制限されてもよい。
いくつかの実施形態では、ポータル160は、ネットワークインターフェースユニット150を介してネットワーク110と通信する。ネットワークインターフェースユニット150の特定の実施形態は、特定の種類のネットワーク機能を提供することによって、ポータル160とネットワーク110との間の通信を促す。例えば、ネットワークインターフェースユニット150は、効果的な共同制作、ファイル転送およびポータル160のその他の能力を可能にするために、ネットワークトラフィックのルーティングおよび/または解釈を行う。
ネットワークインターフェースユニット150の様々な実施形態が、強化された能力を提供する。いくつかの実施形態では、ネットワークインターフェースユニット150は、ネットワーク110を介してワークステーション104からログイン情報を受信して処理するよう構成されている。一実施形態では、ログイン情報は、ワークステーション104のユーザを検証して、ポータル160に対するユーザのアクセス権を判断するために使用される。アクセス権は、例えば、そのユーザがポータル160に入ることができるかどうか、どのファイルにそのユーザがアクセスしてよいか、ポータル160のどの機能をユーザが使用してよいかなどを決定してもよい。
当然のことながら、本発明によれば、ポータル160の多数の実施形態が可能である。いくつかの実施形態では、ポータル160は、ウェブブラウザを介して使用されるよう構成されており、ネットワークアドレスに配置可能である。こうした実施形態のうちのいくつかでは、ポータル160は、異なる多数のブラウジング環境に拡張できるよう構成されている(例えば、XML、HTML、または別の拡張可能マークアップ言語で書かれることによる)。他の実施形態では、ポータル160は、ワークステーション104上にあるクライアント側アプリケーションとして実装される。こうした実施形態では、特定の機能がサーバ上に実装され(例えばファイル管理)、その一方で、共同処理の大部分がクライアントワークステーション104上で行われる。さらに別の実施形態では、ポータル160は、ローカルエリアネットワーク用の別個のネットワークサーバ上にあってもよく、または、ワークステーション104が、ネットワークにアプリケーションを供給するために使用されてもよい。
ポータル160の実施形態は、共同インターフェースユニット130を含む。様々な実施形態において、共同インターフェースユニット130は、ポータル160の中心的機能を実行するよう構成されている。この機能には、共同制作機能(例えば、仮想会議、変更およびファイル管理など)、楽曲ビューイング機能(例えば、楽譜ビュー、信号ビュー、ピアノロールビュー、音色グラフ、音符の包絡線グラフ、ヒストグラムなどの表示)、および楽曲編集機能(例えば、同期化、トラック編集、音符編集、信号編集、楽器編成編集など)が含まれる。共同インターフェースユニット130の実施形態および機能については、下記により詳しく記載する。
ポータル160の実施形態は、出力生成ユニット140をさらに含む。いくつかの実施形態では、出力生成ユニット140は、共同インターフェースユニット130から共同制作による出力を受信して出力データを生成するよう構成されてもよい。出力生成ユニット140によって生成されたデータは、データ記憶装置115に(例えば、直接もしくはネットワーク110経由で、またはワークステーション104に伝達されてもよい。いくつかの実施形態では、出力生成ユニット140によって生成される出力データは、楽曲出力106であってもよい。他の実施形態では、出力生成ユニット140によって生成される出力データは、楽曲出力106を生成するためにワークステーション104によって使用可能であってもよい。
図2は、本発明による、楽曲寄与を共同処理する例示的方法200のフロー図を示す。方法200のいくつかの実施形態は、図1に示されているシステム100のようなシステムを使用して実行されてもよい。方法200は、ブロック202においてユーザを認証するためにログイン情報を受信することによって開始する。方法200は、ブロック210で、ユーザがポータルに対するアクセス権を有するかどうかをログイン情報に基づいて判断する。ユーザが十分なアクセス権を有しなければ、ブロック220においてポータルへのアクセスは拒否されてもよい。ユーザが十分なアクセス権を有すれば、ブロック230において、ポータルへのアクセスが提供されてもよい。
ブロック232において、ポータルは楽曲寄与を受信してもよい。いくつかの楽曲寄与が、ポータルにログインしたユーザから、または別のユーザから受信されてもよい(例えば、ユーザのワークステーションを介してネットワーク経由で)。他の楽曲寄与は、1つ以上のデータ記憶装置から受信されてもよい。場合によって、ブロック232において受信された楽曲寄与のうちの一部または全部が、ブロック234において楽曲構成要素へと分解されてもよい。以下にさらに記載されるように、分解は、目的に応じて1つまたは複数のレベルで実行されてもよい。
ブロック236において、ポータルは、1人以上のユーザから共同制作リクエストを受信してもよい。共同制作リクエストは、ユーザ間の共同制作の処理、ファイル管理の処理、楽曲寄与の編集、コンパイル、ビューイングの処理などに関する任意のリクエストを含んでもよい。一実施形態では、共同制作リクエストは、ポータル上の楽曲寄与を編集するリクエストを含む。ブロック238において、共同制作リクエストに応答して、かつ少なくとも部分的に共同制作リクエストに基づいて、楽曲寄与が編集される。次に、ブロック240において出力データが生成される。例えば、ブロック240において生成される出力データは、ブロック238において実行された編集に関する情報を含んでもよい。
当然のことながら、図1および2に関して記載された実施形態は、本発明の例示的構造および例示的機能の概要を提供することを目的としている。よって、上記で与えられた説明は、本発明の範囲を限定するものと解釈されるべきではない。さらに明瞭にするために、特定の機能のさらなる説明が、以下でさらに論じられる。
(楽曲入力)
楽曲寄与を生成するために、多数の異なる種類の楽曲入力が考えられる。図3は、本発明による、楽曲寄与を生成するための、実例となる様々な種類の楽曲入力を示す。当然のことながら、図3に示されている楽曲入力装置は、考えられる多数の楽曲入力装置のうちのいくつかのみを提供するものであり、本発明の可能性を制限するものと解釈されるべきではない。
楽曲入力の一実施形態には、生のオーディオファイル302が含まれる。生のオーディオファイル302は、デジタル信号表現へとデジタル化されたオーディオ信号データを含んでもよい。例えば、デジタル信号情報は、タイムスタンプおよび電圧レベルをそれぞれ有する複数のサンプルを含んでもよく、このサンプルは、オーディオ信号のアナログバージョンを表すものである。他の例では、デジタル信号情報が、オーディオ信号を計算手順で表すために符号化されてもよい(例えば、誤り訂正情報、コーデック情報などを含む)。
楽曲入力の別の実施形態には、強化されたオーディオファイル304が含まれる。強化されたオーディオファイル304は、生のオーディオファイル302に存在するデータを補完する、またはそれに取って代わる情報を含んでもよい。特定の実施形態では、強化されたオーディオファイル304は、ファイルのコンテンツについてのメタデータ、その形式、またはその他有用な情報を含んでもよい。例えば、メタデータは、トラック名、アルバム名、アーティスト名、ジャンルなどを含めて、オーディオファイルについて手動で入力された情報を含んでもよい。別の例では、メタデータは、他のシステムに対応してもよい(例えば、曲のアルバム製造番号およびトラック番号がメタデータ内に提供され、特定のデータベース検索が、曲のタイトルのような、その曲についての他の情報を返せるようにしてもよい)。
強化されたオーディオファイル304のいくつかの実施形態は、生のオーディオファイル302を、エンコーダ330に通すことによってつくられる。例えば、強化されたオーディオファイル304は、MPEG−7エンコーダによって生成されてもよい。MPEG−7エンコーダは、メタデータを格納し、メタデータを、強化されたオーディオファイル304内の特定のタイムスタンプに結びつけるために、XMLを使用することができる。他の実施形態では、強化されたオーディオファイル304は、生のオーディオファイル302を、オーディオ分解器320に通すことによって生成されてもよい。オーディオ分解器320は、生のオーディオファイル302から楽曲構成要素を分解し(下記により詳しく記載するように)、それを強化されたオーディオファイル304に格納してもよい。
楽曲入力のさらに別の実施形態には、互換性のある楽器306からのデジタル化された出力を含む。一実施形態では、楽器デジタル・インターフェース(MIDI:Musical Instrumental Digital Interface)楽器(例えばキーボード)が、MIDIデータ生成に使用される。MIDIデータは、楽曲構成要素を含んでもよい。場合によっては、含まれる楽曲構成要素が、他の楽曲構成要素の生成に使用されてもよい。例えば、MIDIデータは、音符のピッチを複数含むと考えられ、これを分析して調を判断することができる。他の実施形態では、互換性のある楽器306は、使用可能な形式でデータを出力するよう動作可能であってもよい。例えば、キーボードは、デジタル同軸、光学または他の種類の出力を有してもよく、この出力は、他のコンポーネントに対応してもよい。
楽曲入力のさらに別の実施形態には、センサ308からのアナログ出力が含まれる。一実施形態では、1つ以上の楽器により生成される圧力波を検出して、それをアナログオーディオ信号に変換するために、1つ以上のマイクロホンが使用される。別の実施形態では、エレキギターのスチール弦の動きをアナログオーディオ信号に変換するために電磁ピックアップが使用される。
楽曲入力のさらに別の実施形態には、編集可能楽譜ファイル310が含まれる。編集可能楽譜ファイル310は、編集可能な楽譜データを含む任意の種類のファイルであってもよい。例えば、編集可能楽譜ファイル310は、楽譜編集ソフトウェア340を使用して生成されたものでもよい。楽曲入力のいくつかの実施形態には、楽譜画像312が含まれる。楽譜画像312の実施形態は、任意の種類の使用可能なデジタル画像を含んでもよい。一実施形態では、楽譜画像312は、印刷されている楽譜を画像キャプチャ装置(例えばスキャナ、デジタルスチルまたはビデオカメラなど)によってデジタル画像に変換してつくられる、楽譜の物理的なプリントアウト(例えばシートミュージック)のデジタル化表現である。他の実施形態では、楽譜画像312は、楽譜画像312を楽譜分解器350に通すことによって編集可能楽譜ファイル310へと変換される。下記により詳しく記載するように、楽譜分解器350は、楽譜画像312から楽曲構成要素を分解するよう動作可能であってもよい。
特定の実施形態では、エンコーダ330、オーディオ分解器320、楽譜分解器350、楽譜エディタ340、またはその他のアプリケーションは、ワークステーション104(またはサーバコンピュータ)上にあってもよい。他の実施形態では、楽曲入力は、共同制作のための楽曲寄与102においてあってもよく、または、それを生成するために使用されてもよい。したがって寄与102は、ワークステーション104、ネットワーク110、または共同制作の機能を提供するのに便利なその他任意の場所に伝達されてもよい。
(オーディオ分解)
本発明のいくつかの実施形態では、オーディオ信号データおよび楽譜画像データのような楽曲入力データからの楽曲構成要素の分解を実現することが望ましいと考えられる。当然のことながら、様々な種類の楽曲入力データから楽曲構成要素を分解する方法が多数ある。場合によっては、データが、分解しやすい形でオーディオファイルに格納されることもある。例えば、楽曲構成要素データは、強化されたオーディオファイルにヘッダ情報として格納されることもある。しかし、他の場合には、特定の種類の楽曲構成要素を楽曲入力データから抽出するのが簡単でないこともある。
図4Aは、本発明による、楽曲入力データを分解する方法400のフロー図を示す。方法400は、ブロック402において楽曲入力データを受信することによって開始する。いくつかの実施形態では、ブロック402において受信された楽曲入力は、共同制作のための楽曲寄与を含んでもよい。
ブロック410において、楽曲の小さな構成要素が楽曲入力から分解される。一例として、楽曲の小さな構成要素は、音符のピッチおよび音価(note value)、タイムスタンプ、音符の包絡線および音色、調、テンポ、ならびにその他同様の構成要素を含み得る。特定の実施形態では、楽曲の小さな構成要素は、楽曲の他の小さな構成要素のグループを複数含んでもよい(例えば、タイで連結された音符、3連符、トラックまたは楽器によってグループ分けされた音符、小節によってグループ分けされた音符、寄与者によってグループ分けされた音符など)。他の実施形態では、楽曲の小さな構成要素は、楽曲の他の小さな構成要素のコンポーネントを含んでもよい(例えば符幹(stem)、符尾(flag)、付点など)。
ブロック450において、楽曲の大きな構成要素が分解される。一例として、楽曲の大きな構成要素は、楽曲の小さな構成要素のグループおよびパターンの分析から生成される情報を含んでもよい。いくつかの実施形態では、楽曲の大きな構成要素は、楽曲の小さな構成要素の複数のグループに関する部分的または全体的なパターン情報を含む(例えば、リズム記号、反復モチーフ、コード/調の変更、形式(例えばA−B−A、またはコーラス−ヴァース−ヴァース−コーラス)など)。その他の実施形態では、楽曲の大きな構成要素は、楽曲の小さな構成要素の複数組から算出される統計情報を含む(例えば音符またはリズムパータンのヒストグラムなど)。続いて、楽曲の小さな構成要素および大きな構成要素が、ブロック490において出力されてもよい。
図4Bは、本発明による、楽曲の小さな構成要素を分解する方法410の実施形態を示す。方法410は、ブロック402において楽曲入力信号を受信することによって開始する。いくつかの実施形態では、楽曲入力信号の前処理が行われてもよい。例えば、オーディオ信号のアナログからデジタルへの変換、より低いサンプルレートへのダウンコンバート、特定のエンコーダまたはデコーダとの互換性のためのトランスコード、モノフォニックオーディオトラックへの解析、またはその他任意の有用な前処理が行われてもよい。
いくつかの実施形態では、ブロック412においてピッチ情報が抽出され、音符開始(note onset)事象がブロック414において抽出される。方法410のいくつかの実施形態では、ブロック412において抽出されたピッチ情報およびブロック414において抽出された音符開始事象が、ブロック402において受信されたオーディオ信号から他の情報を抽出して処理するために使用される。
特定の実施形態では、この情報は、ブロック416において音符の持続時間を判断するため、ブロック418において休符を判断するため、ブロック420において複数の時間ウィンドウ(time window)にわたるテンポを判断するため、ブロック424において複数のウィンドウにわたる調を判断するため、さらにブロック428において楽器編成を判断するために使用される。他の実施形態では、ブロック416において判断された音符の持続時間、ブロック418において判断された休符、ブロック420において判断されたテンポが、ブロック422において、音価を判断するために使用される。ブロック424において判断された調は、ブロック426において調のピッチ指示(pitch designation)を判断するために使用される。ブロック428において判断された楽器編成は、ブロック430においてトラックを判断するために使用される。様々な実施形態において、ブロック412〜430の出力は、ブロック490−1において、楽曲の小さな構成要素としての出力を生成するために使用されるよう構成されている。
図4Cは、本発明による、楽曲の大きな構成要素を分解する方法450の実施形態を示す。方法450は、ブロック452において楽曲の小さな構成要素を受信することによって開始する(例えば、図4Bの方法410から)。楽曲の小さな構成要素は、いくつかの種類の、楽曲の大きな構成要素を生成するために使用されてもよい。
いくつかの実施形態では、楽曲の小さな構成要素は、ブロック454において曲の形式を判断し(例えば、イントロ−ヴァース−コーラス−ヴァース−ブリッジ−コーラス−コーラス−アウトロ)、ブロック456においてジャンルを判断し(例えば、ロック、クラシック、ジャズ、インドの古典楽曲など)、ブロック458においてリズム記号を判断し(例えば、第1楽章は4/4拍子で90ビート毎秒(bpm:beats per minute)のテンポ、第2楽章は3/4拍子で120bpmのテンポ、さらに第3楽章は4/4拍子に戻るが120bpmのテンポのまま)、ブロック460において音調曲線を判断し(例えば、曲が比較的低音量かつ速いテンポでドラムおよびベースのみで開始し、1分後、その曲が、中音量かつより遅いテンポでクリーンなギターラインを追加する)、ブロック462において、調の変更を判断し(例えば、その曲がハ長調という調で始まり、ヘ長調に転調してすぐにニ短調、ト長調と転調し、ハ長調に戻る)、ブロック464においてコード変更を判断するため(例えば、その曲の一部がAmからDmへ、Gmへ、Cへ、Fへと変化する、またはその曲がiiiからviへ、iiへ、Vへ、Iへと変化する)に使用される。様々な実施形態において、ブロック454〜464の出力は、ブロック490−2において、楽曲の大きな構成要素として出力を生成するために使用されるよう構成されている。
当然のことながら、本発明によれば、その他多数の種類の、楽曲の小さな構成要素および楽曲の大きな構成要素が可能である。さらに、共同制作に必要な楽曲構成要素の種類に応じて、楽曲入力信号は、多数の異なるレベルで分解されてもよい。例えば、仮のドラムトラックが、リズム情報を提供するためだけに使用されてもよい。その場合、ピッチ、音色、調などに関係する楽曲構成要素を分解または保存しても、リソースの無駄であると考えられる。別の例では、ボーカルラインが、曲のセクション全体にわたるピッチ変化の音調曲線の大まかな方向付けを提供するために使用されてもよい。その場合、正確なピッチ、音符の持続時間などを分解することは重要でないと考えられる。むしろ、ピッチ変動の大まかな指示のみを、近似のピッチ値および持続時間を用いて抽出するほうがより効率的であると考えられる。
さらに、当然のことながら、利用可能な楽曲データの種類および様々な用途のニーズに応じて、楽曲入力から楽曲構成要素を分解する多数の方法があると考えられる。図5Aは、本発明の実施形態による楽曲構成要素を生成するためにオーディオ信号入力を分解する例示的システムの簡略化したブロック図を示す。図のように、入力102が、楽曲分解ユニット120によって受信され、楽曲分解ユニット120は、入力102を分解して分解済み出力570を生成する。
いくつかの実施形態では、入力102は、オーディオ受信器ユニット506にある楽曲分解ユニット120により受信される。一実施形態では、作品が、マイクロホンまたはマイクロホン配列によってリアルタイムで受信され、さらに、オーディオ受信器ユニット506によって受信されるよう、アナログ電気入力102に変換される。他の実施形態では、入力102は、再生に適した記録済み楽曲ファイルなどのデジタルデータを含んでもよい。入力102がアナログ信号であれば、信号処理装置ユニット510、音符処理装置ユニット530、および楽譜処理装置ユニット550によるデジタル信号処理に備えて、オーディオ受信器ユニット506によってデジタル表現に変換されてもよい。入力102がリアルタイムで受信される場合、入力102の全長をあらかじめ判断する方法はないと考えられる。よって、入力102は、所定間隔(例えば、経過時間、デジタルサンプルの数、メモリ使用量など)で受信および格納され、それに合わせて処理されてもよい。別の実施形態では、記録済みのサウンドクリップが、オーディオ受信器506により受信されてデジタル化され、それによって固定の時間間隔を有するものになる。
楽曲分解ユニット120の一実施形態の下位ブロック図が、図5Bに示されている。1つ以上のオーディオソース502が、楽曲入力信号102を生成するために使用されてもよい。オーディオソース502は、楽曲入力信号102をオーディオ受信器506に提供することができる任意のものであってもよい。いくつかの実施形態では、1つ以上のマイクロホン、トランスデューサ、および/またはその他のセンサが、オーディオソース502として使用される。マイクロホンが、生のパフォーマンス(または記録されたパフォーマンスの再生)からの圧力波または電磁波を、楽曲入力信号102として使用される電気信号へと変換してもよい。例えば、生のオーディオパフォーマンスでは、歌い手からのオーディオの検知および変換を行うためにマイクロホンが使用されてもよく、その一方で、ギターおよびベースからのオーディオの検知および変換を行うために電磁「ピックアップ」が使用されてもよい。他の実施形態では、オーディオソース502は、楽曲入力信号102、または楽曲入力信号102を読み取ることができるオーディオファイルを提供するよう構成されたアナログまたはデジタル装置を含んでもよい。例えば、デジタル化オーディオファイルは、オーディオ形式でストレージ媒体上に格納され、そのストレージ媒体によって、楽曲入力信号102としてオーディオ受信器506に提供されてもよい。
当然のことながら、オーディオソース502次第で、楽曲入力信号102は異なる特性を有してもよい。楽曲入力信号102は、モノフォニックであってもポリフォニックであってもよく、複数のトラックのオーディオデータを含んでもよく、多数の種類の楽器からのオーディを含んでもよく、特定のファイルフォーマットなどを含んでもよい。同じく、当然のことながら、オーディオ受信器506は楽曲入力信号102を受信することができる任意のものであってもよい。さらに、オーディオ受信器506は、オーディオソース502と接続し、音楽入力信号102を受信または解釈するために必要な1つ以上のポート、デコーダ、またはその他のコンポーネントを含んでもよい。
オーディオ受信器506は、さらなる機能を提供してもよい。一実施形態では、オーディオ受信器506は、アナログ楽曲入力信号102をデジタル楽曲入力信号102に変換する。別の実施形態では、オーディオ受信器506は、楽曲入力信号102を、より低いサンプルレートにダウンコンバートして、システム500に対する計算負荷を軽減するよう構成されている。一実施形態では、楽曲入力信号102は約8〜9kHzにダウンサンプリングされる。これは、楽曲入力信号102のより高い周波数分解能を提供することができ、システム500の設計に対するいくらかの制約(例えばフィルタの規格)を軽減することができる。
さらに別の実施形態では、オーディオ受信器506は、オーディオレベルが一定の閾値を超えたことの検出に基づき、楽曲入力信号102の受信を開始する(例えば記録を開始する)よう設定された、閾値検出コンポーネントを含む。例えば、閾値検出コンポーネントは、特定の期間にわたってオーディオを分析して、楽曲入力信号102の振幅が或る一定時間、所定の閾値より上にとどまるかどうかを検出してもよい。閾値検出コンポーネントは、楽曲入力信号102の振幅が一定時間、所定の閾値未満に下がると、楽曲入力信号102の受信を中断する(例えば記録を中断する)ようさらに設定されてもよい。さらに別の実施形態では、閾値検出コンポーネントは、楽曲入力信号102の受信を実際に開始または終了するのではなく、楽曲入力信号102の振幅が、或る時間の間、閾値を超えた状態かまたは閾値未満に下がった状態を表す、システム500のフラグを生成するために使用されてもよい。
図5Bによれば、オーディオ受信器506は、楽曲入力信号102を信号処理装置ユニット510に渡す。信号処理装置ユニット510は、振幅抽出ユニット512および周波数抽出ユニット514を含む。振幅抽出ユニット512は、楽曲入力信号102から振幅関連情報を抽出するよう構成されている。周波数抽出ユニット514は、楽曲入力信号102から周波数関連情報を抽出するよう構成されている。
一実施形態では、周波数抽出ユニット514は、変換アルゴリズムを使用して時間領域からの信号を周波数領域に変換する。例えば、時間領域では、楽曲入力信号102は経時的な振幅の変化として表されてもよい。一方、高速フーリエ変換(FFT)アルゴリズムを適用した後、同じ楽曲入力信号102は、その周波数成分それぞれの振幅のグラフとして表されてもよい(例えば、倍音系列のような、信号が処理される周波数範囲内の各周波数帯の相対的強度または相対的寄与率)。処理を効率化するには、このアルゴリズムを一定の周波数範囲に限定することが望ましいこともある。例えば、周波数範囲は可聴スペクトル(例えば約20Hz〜20kHz)のみにわたってもよい。
様々な実施形態において、信号処理装置ユニット510は、周波数関連情報を他の方法で抽出してもよい。例えば、多数の変換アルゴリズムは、固定幅の線形周波数「バケット(buckets)」において信号を出力する。これは、特にオーディオ信号が事実上本質的に(線形ではなく)対数的かもしれないということを考えると、可能な周波数分解能または変換の効果を制限する可能性がある。当該技術分野では、楽曲入力信号102から周波数関連情報を抽出するための多数のアルゴリズムが既知となっている。
続いて、振幅抽出ユニット512により抽出された振幅関連情報と、周波数抽出ユニット514により抽出された周波数関連情報とが、音符処理ユニット530の様々なコンポーネントによって使用されてもよい。いくつかの実施形態では、音符処理ユニット530は、音符開始検出器ユニット532、音符持続時間検出器ユニット534、ピッチ検出器ユニット536、休符検出器ユニット544、包絡線検出器ユニット538、音色検出器ユニット540、および音符強弱検出器ユニット542のうちの全部または一部を含む。
音符開始検出器ユニット532は、音符開始を検出するよう構成されている。音符の開始(すなわち始まり)は、典型的には、楽曲の中でピッチの変化として(例えばスラー)、振幅の変化として(例えば包絡線の、アタッチ部(attach portion))、またはピッチおよび振幅の変化の何らかの組み合わせとして現れる。よって、音符開始検出器ユニット532は、周波数(すなわちピッチ)および/または振幅に特定の種類の変化があるときは常に音符開始事象を生成するよう設定されてもよい。
音符は、その持続時間(例えば、秒またはサンプル数での、音符が続く時間)によって特徴づけられてもよい。いくつかの実施形態では、音符処理ユニット530は、音符開始事象によりマークされた音符の持続時間を検出するよう構成されている音符持続時間検出器ユニット534を含む。
なお、楽曲の一部の特性は、単に信号の物理的特質ではなく、心理音響的なものである。例えば、周波数は信号の物理的特性である(例えば、正弦波が伝わるサイクル数/秒を表す)が、ピッチはより複雑な心理音響的現象である。1つの理由は、楽器から出る単一のピッチの音符は、通常、振幅のそれぞれ異なるいくつかの周波数で構成されているということであり、これは音色として知られる。脳は、それらの周波数のうち1つ(例えば、典型的には基本周波数)を「ピッチ」として感知し、他の周波数は、単にその音符に対して「調和した音色」を加えるものとして感知すると考えられる。場合によっては、聴き手が体験する音符のピッチは、ほとんどまたは完全に、信号にない周波数であることもある。
いくつかの実施形態では、音符処理ユニット530は、音符開始事象によりマークされた音符のピッチを検出するよう構成されているピッチ検出器ユニット536を含む。他の実施形態では、ピッチ検出器ユニット536は、個々の音符のピッチを追跡する代わりに(またはそれに加えて)、楽曲入力信号102のピッチを追跡するよう設定されている。当然のことながら、場合によって、ピッチ検出器ユニット536は、閾値を超える楽曲入力信号102のピッチの変化を判断するために音符開始検出器ユニット532により使用されてもよい。
音符処理ユニット530のいくつかの実施形態は、楽曲入力信号102中の休符の存在を検出するよう構成されている休符検出器ユニット544を含む。休符検出器ユニット544の一実施形態は、振幅抽出ユニット512によって抽出された振幅関連情報と、ピッチ検出器ユニット536によって生成された信頼情報とを使用する。例えば、振幅関連情報は、楽曲入力信号102の振幅が、或る時間ウィンドウにわたって相対的に低い(例えば、ノイズフロアにあるか、またはそれに近い)ことを明らかにしてもよい。ピッチ検出器ユニット536は、同じ時間ウィンドウにわたって、特定ピッチの存在の信頼度が非常に低いと判断してもよい。この情報および他の情報を使用して、休符検出器ユニット544は、休符の存在と、休符が開始したと思われる時間位置とを検出する。
いくつかの実施形態では、音符処理ユニット530は、音色検出器ユニット540を含む。振幅抽出ユニット512によって抽出された振幅関連情報と、周波数抽出ユニット514によって抽出された周波数関連情報とが、音色検出器ユニット540によって、楽曲入力信号102の一部の音色情報を検出するために使用されてもよい。オーディオ信号102のこの部分の倍音構成(harmonic composition)を、音色情報が明らかにしてもよい。いくつかの実施形態では、音色検出器ユニット540は、音符開始事象から開始する特定の音符に関する音色情報を検出してもよい。
音色検出器ユニット540の一実施形態では、ガウシアンフィルタを用いて振幅関連情報および周波数関連情報の畳み込みが行われ、フィルタ処理されたスペクトルが生成される。続いて、フィルタ処理されたスペクトルは、ピッチ検出器ユニット536によって検出されたピッチの周りに包絡線を生成するために使用されてもよい。この包絡線は、当該ピッチの音符の音色に対応してもよい。
いくつかの実施形態では、音符処理ユニット530は、包絡線検出器ユニット538を含む。振幅抽出ユニット512によって抽出された振幅関連情報が、包絡線検出器ユニット538によって、楽曲入力信号102の一部の包絡線情報を検出するために使用されてもよい。例えば、ピアノを打鍵すると、ハンマーに弦の組をたたかせることができ、アタック振幅の大きなオーディオ信号をもたらす。この振幅は、急速なディケイを経て、弦が共振する若干の定常状態振幅でのサステイン状態に至る(当然、弦のエネルギーが消耗されるにつれ、包絡線のこの部分にわたって振幅は徐々に小さくなると考えられる)。最後に、ピアノの鍵がリリースされると、ダンパーが弦の上に降り振幅が急速にゼロに落ちる。この種類の包絡線は、典型的には、ADSR(attack,decay,sustain,release:アタック、ディケイ、サステイン、リリース)包絡線と呼ばれる。包絡線検出器ユニット538は、ADSR包絡線の各部分の一部もしくは全部、またはその他任意の種類の有用な包絡線情報を検出するよう設定されてもよい。
様々な実施形態において、音符処理ユニット530は、音符強弱検出器ユニット542も含む。特定の実施形態では、音符強弱検出器ユニット542は、特定の音符開始事象から開始する特定の音符に対して、包絡線検出器ユニット538に似た機能を提供する。他の実施形態では、音符強弱検出器ユニット542は、包絡線検出器ユニット538によって検出されている包絡線のパターンに関して、基準からはずれているか、または或る所定のパターンに適合する音符包絡線を検出するよう構成されている。例えば、スタッカートの音符は、そのADSR包絡線の鋭いアタック部分と、短いサステイン部分とを特徴とすると考えられる。別の例では、アクセントのある音符は、周囲の音符のアタック振幅よりも著しく大きいアタック振幅を特徴とすると考えられる。
当然のことながら、音符強弱検出器ユニット542および他の音符処理ユニットは、分解済み出力570の一部として望ましいと思われる、音符の他の特質を複数特定するために使用されてもよい。例えば、音符は、スラー、アクセント、スタッカート、装飾音符などとして記号を付けられることもある。その他多数の音符の特性が、本発明により抽出されてもよい。
複数の音符または音符開始事象(休符を含む)に関する情報が、他の情報の生成に使用されてもよい。図5Bの実施形態によれば、音符処理ユニット530の様々なコンポーネントが、楽譜処理ユニット550の様々なコンポーネントと動作的に通信してもよい。楽譜処理ユニット550は、テンポ検出ユニット552、拍子検出ユニット554、調検出ユニット556、楽器同定ユニット558、トラック検出ユニット562、および全体的強弱検出ユニット564のうちの全部または一部を含んでもよい。
いくつかの実施形態では、楽譜処理ユニット550は、時間ウィンドウにわたる楽曲入力信号102のテンポを検出するよう構成されているテンポ検出ユニット552を含む。典型的には、楽曲の一部分のテンポ(例えば、音響心理学的に楽曲が進むように思われる速度)は、ある程度、音符および休符の存在および持続時間による影響を受けると思われる。よって、テンポ検出ユニット552の特定の実施形態は、音符開始検出器ユニット532、音符持続時間検出器ユニット534、および休符検出器ユニット544からの情報を使用して、テンポを判断する。テンポ検出ユニット552の他の実施形態は、判断されたテンポをさらに使用して、音価(例えば、4分音符、8分音符など)を音符および休符に割り当てる。
拍子は、楽曲の各小節にいくつの拍があり、どの音価を1拍と見なすかを規定する。例えば、4/4という拍子は、各小節が4拍(分子)を有し、1拍が4分音符(分母)で表されるということを表す。このため、拍子は、音符および縦線の場所、さらに有用な分解済み出力570を提供するために必要となり得る他の情報を判断する助けとなると考えられる。いくつかの実施形態では、楽譜処理ユニット550は、楽曲入力信号102の拍子を検出するよう構成されている拍子検出ユニット554を含む。
いくつかの実施形態では、単純拍子は、テンポ情報、およびテンポ検出ユニット552により抽出された音価、ならびにその他の情報(例えば、音符強弱検出器ユニット542により抽出された音符強弱情報)から推測される。しかし通常、拍子の判断は、複雑なパターン認識を伴う複雑なタスクである。
例えば、楽曲入力信号102から、4分音符、4分音符、8分音符、8分音符、8分音符、8分音符という音価の並びが抽出されると仮定する。この単純な並びは、4/4の1小節、2/4の2小節、1/4の4小節、8/8の1小節、またはその他多数の拍子として表すことができるであろう。最初の4分音符および最初の8分音符にアクセント(例えば増大したアタック振幅)があったと仮定すれば、これによって、この並びは、2/4の2小節、4/8の2小節、または4/4の1小節である可能性がより高くなる。さらに、4/8が非常にまれな拍子であるということを前提とすると、推測として4/8を除外するのに十分であると思われる。さらに、楽曲入力信号102のジャンルがフォークソングであるという認識によって、4/4が最も適当な拍子候補である可能性がより高くなることもある。
上記の例は、非常に単純な音価の並びによってさえ含まれる複雑性を明らかにするものである。多くの音符の並びはより一層複雑であり、音価の異なる多数の音符、複数の小節にわたる複数の音符、付点音符および装飾音符、シンコペーション、ならびに拍子の解釈における他の難点を伴う。このため、従来の計算アルゴリズムでは、正確に拍子を判断するのが困難なこともある。よって、拍子検出ユニット554の様々な実施形態は、そうした複雑なパターンを検出するよう訓練された人工ニューラルネットワーク(ANN)560を使用する。ANN560は、異なる拍子の多数のサンプルと、サンプル毎に精緻化されるコスト関数とを、ANN560に提供することによって訓練されてもよい。いくつかの実施形態では、ANN560は、学習パラダイムを使用して訓練される。この学習パラダイムは、例えば、教師あり学習、教師なし学習、または強化学習アルゴリズムを含んでもよい。
当然のことながら、テンポと拍子情報とのいずれかまたは両方を使用することによって、楽曲構成要素または分解済み出力570として使用される多数の有用な種類の情報が生成されてもよい。例えば、その情報は、符尾で音符を個々に指定するのではなく複数の音符を棒でまとめるべきところ(例えば、8分音符の組として)の判断、音符を2小節にわたって分割するべきときと、タイで連結するべきときとの判断、または複数音符の組を3連符(またはさらに高次の組)、装飾音符、トリルもしくはモルデント、グリッサンドとして指定するべきときの判断などを可能にしてもよい。
楽曲構成要素または分解済み出力570を生成するのに有用となり得る情報のもう1つの組は、楽曲入力信号102の或るセクションの調に関係する。調情報は、例えば、特定された根音のピッチおよび関連するモダリティを含んでもよい。例えば、「イ短調」は、調の根音のピッチが「A音」であり、モダリティが短調であることを表す。それぞれの調は、調号によって特徴づけられる。調号は、「調内の」音符(例えば調に関連する全音階の一部)および「調外の」音符(例えば調の枠組みにおける変化音)を特定する。例えば、「イ短調」は、シャープもフラットも含まないが、「ニ長調」は、2つのシャープを含み、フラットは含まない。
いくつかの実施形態では、楽譜処理ユニット550は、楽曲入力信号102の調を検出するよう構成されている調検出ユニット556を含む。調検出ユニット556のいくつかの実施形態は、ピッチの並びとコスト関数の組との比較に基づいて調を判断する。例えば、コスト関数は、規定の時間ウィンドウにわたる楽曲の一部分において、変化音の数を最小限にしようとしてもよい。他の実施形態では、調検出ユニット556は、複雑な調判断を行うため、または精緻化するために、人工ニューラルネットワークを使用してもよい。さらに他の実施形態では、調判断を精緻化するために、一連の調変更がコスト関数に対して評価されてもよい。さらに他の実施形態では、調検出ユニット556によって得られた調情報が、特定の調のピッチ指示により音符(または音符開始事象)に属性を与えるために使用されてもよい。例えば、ヘ長調の「B音」は、「Bナチュラル」と表されてもよい。当然、調情報は、調号または楽曲楽譜表現についての他の情報を生成するために使用されてもよい。いくつかの実施形態では、調情報はさらに、コードまたはその他の倍音情報を生成するために使用されてもよい。例えば、ギターのコードがタブラチュア形式で生成されてもよく、またはジャズコードが提供されてもよい。
他の実施形態では、楽譜処理ユニット550は、楽曲入力信号102でプレイされている楽器を特定するよう構成された、楽器同定ユニット558も含む。楽器は、特定の音色を有するといわれることが多い。しかし、プレイされている音符または音符のプレイの仕方次第で、単一の楽器に関しても音色の違いがあると考えられる。例として、例えばバイオリンを構成するのに使用されている素材、演奏者の弾き方、プレイされている音符(例えば、開放弦でプレイされる音符は、指で押さえた弦でプレイされる同じ音符とは音色が異なり、バイオリンの音域において低い音符は、高音域の音符とは音色が異なる)、音符が弓で弾かれるかはじかれるかなどに基づき、あらゆるバイオリンの音色が異なる。しかしそれでも、バイオリンの音符間には、ほかの楽器とは別ものとしてそれをバイオリンであると特定するのに十分な類似点があると考えられる。
楽器同定ユニット558の実施形態は、単一または複数の音符の特性を比較して、楽曲入力信号102の、或る楽器でプレイされているように考えられるピッチの範囲、そうしたピッチそれぞれにおいてその楽器からつくり出される音色、および/またはその楽器でプレイされている音符の振幅包絡線を判断するよう構成されている。一実施形態では、音色の違いを使用し、複数の楽器サンプルの典型的な音色の特徴と、楽曲入力信号102から検出された音色とを比較することによって種々の楽器を検出する。例えば、同じ音符を同じ音量で同じ持続時間プレイしても、サックスとピアノとは、それらの異なる音色が理由で、全く異なって聞こえると考えられる。当然、上記のように、音色のみに基づく同定は、正確さが限られる可能性がある。
別の実施形態では、種々の楽器を検出するためにピッチ範囲が使用される。例えば、チェロは、典型的には、中央Cより約2オクターブ下から、中央Cの約1オクターブ上の範囲の音符が出ると考えられる。一方、バイオリンは、中央Cのすぐ下から、中央Cの約4オクターブ上の範囲の音符が出ると考えられる。したがって、バイオリンとチェロとは似た音色を持つとはいえ(どちらも擦弦楽器である)、それらのピッチ範囲は、同定に使用するには十分異なる。当然、ある程度は範囲が重複することから、誤りは起こり得ると考えられる。さらに、他の楽器(例えばピアノ)はより広い範囲を有し、その範囲は多数の楽器と重複し得る。
さらに別の実施形態では、包絡線検出が、種々の楽器を特定するために使用される。例えば、打楽器(例えばピアノ)でプレイされる音符は、木管(例えばフルート)、リード(例えばオーボエ)、金管(例えばトランペット)、または弦(例えばバイオリン)楽器でプレイされる同じ音符とは異なって聞こえると考えられる。しかし、各楽器は、どのように音符がプレイされるかによって、多数の異なる種類の包絡線を作り出せることもある。例えば、バイオリンは、はじかれること、もしくは弓で弾かれることもあり、または、音符がレガートでプレイされることも、スタッカートでプレイされることもある。
少なくとも上記の問題が理由で、正確な楽器同定には、場合によっては複数の音符にわたる楽曲入力信号102の複数の特性を含む、複雑なパターンの検出が必要なこともある。よって、楽器同定ユニット558のいくつかの実施形態は、こういった複雑なパターンの組み合わせを検出するよう訓練された人工ニューラルネットワーク560を利用する。
楽譜処理ユニット550のいくつかの実施形態は、楽曲入力信号102の中からオーディオトラックを特定するよう構成されているトラック検出ユニット562を含む。場合によっては、楽曲入力信号102は、既にトラックを単位として分かれた形式となっていることもある。例えば、いくつかのデジタルオーディオテープ(DAT:Digital Audio Tape)上のオーディオは、8つの別々のデジタルオーディオトラックとして格納されることもある。こうした場合には、トラック検出ユニット562は、単に個々のオーディオトラックを同定するように構成されていればよい。
一方、他の場合には、複数のトラックが、単一の楽曲入力信号102に格納されており、その楽曲入力信号から特定のデータを抽出することによって特定する必要があることもある。よって、トラック検出ユニット562のいくつかの実施形態は、楽曲入力ファイル102から抽出された情報を使用して、別々のオーディオトラックを同定するよう構成されている。例えば、パフォーマンスが、同時に鳴っている5つの楽器を含むもある(例えばジャズ五重奏)。その別々の楽器を、別々のトラックとして同定することが望ましいこともある。
トラック検出は、いくつかの異なる方法で実現することができる。一実施形態では、トラック検出ユニット562は、ピッチ検出を使用して、種々の音符の並びが特定のピッチ範囲に限定されているようであるかどうかを判断する。別の実施形態では、トラック検出ユニット562は、楽器同定ユニット558からの楽器同定情報を使用して、異なるトラックを判断する。
多くの楽譜は、作品またはパフォーマンスの全体的な強弱に関する情報も含む。全体的な強弱は、上述の音符強弱とは対照的に、2つ以上の音符にわたる強弱を指す。例えば、作品全体または作品の中のセクションに、フォルテ(強音で)またはピアノ(弱音で)として記号を付けられていることもある。別の例では、音符の並びが、クレッシェンドで徐々に大きくなることもある。この種類の情報を生成するために、楽譜処理ユニット550のいくつかの実施形態は、全体的強弱検出ユニット564を含む。全体的強弱検出ユニット564の実施形態は、場合によっては音符強弱情報および/または包絡線情報を含む振幅情報を使用して、全体的な強弱を検出する。
特定の実施形態では、強弱の判断を助けるために、閾値があらかじめ定められるか、または楽曲入力信号102から適応的に生成される。例えば、ロックのパフォーマンスの平均音量はフォルテと見なされてもよい。その平均をいくらかの量上回る(例えば、閾値、標準偏差などに基づいて)振幅は、フォルティシモと見なされてもよく、その一方で、その平均未満にいくらかの量下がる振幅は、ピアノと見なされてもよい。
特定の実施形態はさらに、強弱の変化が生じる期間を考慮してもよい。例えば、2分間の静かな音符で開始し、突然2分間の、より大きい音符のセクションに切り替わる作品は、ピアノのセクションに続いてフォルテのセクションを有すると見なされてもよい。一方、数個の音符にわたって大きくなっていき、さらに数個の音符の間、その大きい音量のままであり、続いて元の振幅に戻る静かな作品は、クレッシェンドに続いてデクレッシェンドがあると見なされてもよい。
上述の様々な種類の情報すべて、およびその他任意の有用な情報が、楽曲構成要素または分解済み出力570として使用されるよう生成されてもよい。システムの様々なコンポーネントに関連して記載された楽曲構成要素または分解済み出力570に加えて、任意の数の他の楽曲構成要素または分解済み出力570が、同じ情報または他の情報から生成されてもよい。一例において、音符がスタッカートの点の付いた8分音符であると判断されると仮定する。他の楽曲570構成要素は、音符の符頭、符幹、符尾、付点、スタッカートの点、およびその他の音符の特性を含んでもよい。さらに他の楽曲構成要素570は、ディスプレイまたはプリントアウト上での音符表現のスタイルまたは色、符幹の方向(例えば、方向は、デフォルトにされても、または譜表上の音符の位置に基づいて決定されてもよく、または音符が特定の音符の並びの一部であることを示すよう変更されてもよい)、音符の符頭のサイズ(例えば、他の音符と区別するために、または他の何らかの理由で、読みやすいようにサイズ調整されてもよい)、符頭の形(例えば、衝撃音に関しては違う形であってもよい)、またはその他任意の有用な情報を含んでもよい。他の例では、楽曲構成要素または分解済み出力570は、五線、音部記号、小節番号、歌詞、歌詞の位置合わせ、ページタイトル、譜表のタイトル、余白、楽器編成データ、再生データなどを含んでもよい。さらに他の例では、楽曲構成要素または分解済み出力570は、どの共同制作者がファイルの一部を追加もしくは編集したか、他の共同制作者がその編集に賛成したかもしくは反対したか、またはその他有用な共同制作情報に関する情報を含んでもよい。楽曲構成要素または分解済み出力570は保存または出力されてもよい。
当然のことながら、上述の様々なユニットおよびコンポーネントが、本発明から逸脱せずに様々な方法で実装されてもよい。例えば、特定のユニットが、他のユニットのコンポーネントであってもよく、または別のユニットの追加機能として実装されてもよい。さらに、本発明によれば、ユニットは多数の方法で接続可能であり、データはそれらの間を多数の方法で流れることができる。さらに、オーディオ分解に関する様々な実施形態が、2008年2月1日に出願された、Robert D. Taubらの、「MUSIC TRANSCRIPTION」という題の米国特許出願第12/024981号明細書にさらに深く記載されており、これは、あらゆる目的において、参照によって本願明細書に引用したものとする。
(楽譜分解)
場合によっては、オーディオ信号から楽曲構成要素を分解するのに加えて、またはその代わりに、楽譜画像から楽曲構成要素を分解することが望ましいこともある。本発明の各実施形態は、楽譜画像を入力として受け取るよう構成される。当然のことながら、楽譜画像から楽曲構成要素を分解するため、すなわち楽譜分解を実行するための、多数の方法が考えられる。
図6Aは、本発明に従って楽曲画像データを処理し、光学式文字認識(OCR)機能を提供するシステムを示す。OCR処理装置602は、カメラまたはスキャナなどの楽譜キャプチャ装置606を用いて取り込まれる楽曲楽譜604の画像データを受信する。OCR処理装置602は、楽曲楽譜入力に対応するデータを含む楽曲楽譜出力を作り出すが、この出力は様々な用途に用いることができるデジタル形式である。楽曲楽譜のデジタル表現は、次に限定されるものではないが、プリント出力、検索メカニズムによる使用のため、配布および複数ユーザとの共同制作のため、ならびにMIDIコンポーネントなどを用いたオーディオ出力の生成のためを含め、他のシステムによって容易に処理することができる。例えば、図6Aは、楽曲楽譜出力が、印刷機能608、検索機能610、配布機能612、およびオーディオ/MIDI出力614に提供可能であることを示す。
この取り込まれた楽曲楽譜画像は、ウェブカメラ、電話のカメラ、簡単処理のカメラ、ならびにその他より高性能なカメラを含む、任意の画像キャプチャ装置を用いて作り出すことが可能である。楽曲楽譜の画像は、取り込まれると、調節およびさらなる処理のためにOCR処理装置に渡される。
図6Bは、OCR処理装置602への入力として提供される、キャプチャ装置606(図6A)からつくり出された画像データ652を示す。図6Bは、OCR処理装置602が、画像データを受信する画像前処理コンポーネント654を含むことを示す。画像データは、例えば、ビットマップ画像(.bmp)、JPEGデータ、TIFFデータの形式、およびデジタルカメラによって一般に使用される他のファイル形式などとしてもよい。画像前処理コンポーネントは、2値化、画像のスキュー補正、および不適切なバックグラウンド成分の除去を実行する。2値化の動作は、取り込み画像内の明るさおよびコントラストの調節に関係する。スキュー補正の動作は、楽譜の五線が画像の下側の縁に平行にそろう方向から回転している画像を補正することに関係する。不適切なバックグラウンド成分の除去は、ノイズアーチファクトおよびその他不要なバックグラウンド成分を除去することによって、画像をクリーンにする。必要に応じて、前処理動作は、外部の画像処理ルーチンまたはモジュールによって実行することができる。
前処理コンポーネント654は、結果として生じるデータを、ニューラルネットワーク(NN)処理コンポーネント656に提供する。NN処理コンポーネント656は、取り込み画像内の音楽記号体系を特定し、光学画像の認知処理を実行する。すなわち、ニューラルネットワークは、取り込み楽曲画像内の楽曲記号を認識するコンピュータプロセスを実行し、必要に応じて、特定されたシンボルの認知的解釈を入力データから行って推定を行い、取り込み画像内のアーチファクトまたは記号体系に対する適切なラベルを判断する。
NN処理コンポーネント656は、調節された楽曲楽譜画像を受信する訓練されたニューラルネットワークを含む。必要に応じて、訓練されたニューラルネットワークは、その出力をフィードバックの提供に利用して、その動作を調節することができる。そのようなフィードバックは、バックプロパゲーション技術を利用するために、または既に訓練されているニューラルネットワークのネットワークノードの重みを調節するために、因子グラフ演算を伴うこともある。出力をフィードバックとして使用するための他の技術は、当業者には既知である。
NN処理コンポーネント656の出力は、後処理コンポーネント658に提供され、後処理コンポーネント658は、NNの出力を作り出す。次に、後処理コンポーネントの出力は、図6Aに示されている印刷、検索、配布、およびオーディオ機能など、様々な機能に提供することができる。後処理コンポーネントは、NN出力に対して解釈機能を実行して、NNによって特定されたどのアーチファクトの種類が正確である可能性があるか否かを判断する。後処理コンポーネント658による解釈は、NNによりつくり出される信頼値に基づく。当業者であれば、NN信頼値出力データの解釈技術を熟知しているであろう。次に、後処理は、音符情報または特定された楽譜のアーチファクトに対応する他の情報などのOCR処理装置出力を適切な形式で作り出す。例えば、楽曲情報は、MIDI形式などの電子楽器表現の形式、またはその他のデータ形式、またはその他の情報の組み合わせという形式をとってもよい。
当然のことながら、上述の様々なユニットおよびコンポーネントが、本発明から逸脱せずに様々な方法で実装されてもよい。例えば、特定のユニットは、他のユニットのコンポーネントであってもよく、または、別のユニットの追加機能として実装されてもよい。さらに、本発明によれば、ユニットは多数の方法で接続されてよく、データはそれらの間を多数の方法で流れてもよい。さらに、楽譜分解に関する様々な実施形態が、2008年2月13日に出願されたRobert D. Taubらの、「MUSIC SCORE DECONSTRUCTION」という題の米国特許仮出願第61/028,490号明細書にさらに深く記載されており、これは、あらゆる目的において、参照によって本願明細書に引用したものとする。楽曲楽譜キャプチャ技術の他の側面は、2005年12月15日に出願されたRobert D.Taubらの、「SYSTEM AND METHOD FOR MUSIC SCORE CAPTURE AND SYNCHRONIZED AUDIO PERFORMANCE WITH SYNCHRONIZED PRESENTATION」という題の米国特許出願第11/303,812号明細書から入手でき、これは、あらゆる目的において、参照によって本願明細書に引用したものとする。
(共同制作ポータル)
本発明の多数の側面は、共同制作ポータルの機能および/または構造に関係する。いくつかの実施形態では、共同制作ポータルは、図1のポータル160として実装されてもよい。共同制作ポータルの様々な実施形態は、ファイル管理、楽曲ビューイング、楽曲編集、仮想会議、セッション記録、および共同で楽曲を処理することの他の側面に関係する機能を提供してもよい。当然のことながら、グラフィカルユーザインターフェース(「GUI(graphical user interface)」)の設計および実装、共同制作ポータルが可能にするユーザインタラクションのレベル、GUIコントロールの種類、モジュールとコンポーネントとの間の機能上の重複部分および依存関係、ネットワーク設計およびインターフェース、ファイル管理、ならびに共同制作ポータルの他の側面に関して、多数の可能性がある。よって、以下の説明は、本発明のいくつかの例示的実施形態のみの記載を目的としており、当業者には当然のことながら、本発明の範囲は、開示される具体的な実施形態によって限定されることはない。
図7は、本発明による共同制作ポータル700の実施形態の中に組み込まれてもよい様々なモジュールの例示的一構成を示す。いくつかの実施形態では、共同制作ポータル700は、ログインレイヤ702、GUIレイヤ710、および出力生成レイヤ790の3つのプライマリレイヤを含む。当然のことながら、3レイヤへの分割は、共同制作ポータル700の様々な機能の説明を明確にすることのみを目的としており、共同制作ポータル700の実際の実装に影響を与えてもよく、または与えなくてもよい。
ログインレイヤ702は、共同制作ポータル700の様々なメタGUI(meta−GUI)の側面を制御するよう動作可能であってもよい。ログインレイヤ702のいくつかの実施形態は、図1のネットワークインターフェースユニット150として実装される。いくつかの実施形態では、ログインレイヤ702は、ネットワークのルーティングおよび許可を制御するよう動作可能である。様々な理由から、GUIもしくは共同制作プロジェクトの構成要素を保護または管理することが望ましい場合がある。例えば、サーバが、多数の異なる共同制作者の、多数の異なる共同制作プロジェクトに関係するデータを格納すると仮定する。共同制作者は、例えば望ましくない編集または削除からデータを保護するため、望ましくないビューイングまたはコピーからデータを保護するため、誰がファイルを使用しているのか、いつファイルが使用されているのかを知るため、さらにその他の理由で、共同制作ファイルへのアクセスを制限したい場合がある。
いくつかの実施形態では、ログインレイヤ702は、ログイン情報を受信するよう動作可能であり、このログイン情報を用いてユーザのアクセス権を判断する。ユーザは、共同制作ポータル700全体に対して(例えば、共同制作ポータル700は、サブスクリプションサービスとして運営されてもよい)、共同制作ポータル700の特定領域に対して(例えば、種々の価格に応じて異なる機能に対するアクセスを許可する段階的な価格構成である、異なるレベルのユーザが異なる機能にアクセスできる、異なる種類の共同プロジェクトが異なる種類の機能に関連している、などであってもよい)、特定のファイルに対して(例えば、ユーザは所定の共同制作プロジェクトに関連するファイルにのみアクセスできてもよく、ユーザはそのユーザがアップロードまたは寄与したファイルにのみアクセスできてもよく、ユーザはプロジェクトの異なるファイルに対して異なる種類のアクセス(例えば、読み取り、書き込み、編集、削除、コメントなど)ができてもよいなど)、または他の情報に対して(例えば、共同制作者情報に対して、特定のファイル管理機能に対して、特定の公開および/または共有機能に対してなど)制限されたアクセスを有しても、または有しなくてもよい。
他の実施形態では、ログインレイヤ702は、ログインまたはその他の情報を受信して、アクセス権以外のユーザ特性を判断するよう動作可能である。例えば、特定の構成またはプリファレンス情報が、所定のユーザ、ユーザワークステーション、ユーザカテゴリなどと関連してもよい。例えば、所定の共同制作プロジェクトについて、第1組のユーザが共同制作プロジェクトの「所有者」であってもよく(例えば、関連ファイルの全側面に対する完全な権利を有する)、第2組のユーザが「共同制作者」であってもよく(例えば、特定の共同制作および編集機能にアクセスできる)、第3組のユーザが「寄与者」であってもよく(例えば、自分が寄与するファイルのみに対して編集権がある)、第4組のユーザが「ファン」であってもよく(例えば、ファイルのいずれに対しても編集権はないが、公開された出力ファイルを聴くためにアクセスできる)、第5組のユーザが全くアクセスできなくてもよい。別の実施形態では、ログイン情報は、ユーザに関するプロフィールに合うよう共同制作ポータル700のプリファレンスを設定するために使用される。例えば、初心者のユーザと、熟練したユーザとには、異なる機能組およびメニューが提供されてもよい。
さらに他の実施形態では、ログインレイヤ702は、特定の共同制作プロジェクトに対するアクセス権を有しないユーザを含む、特定のユーザの能力またはプリファレンスに関係するログイン情報または他の情報を受信するよう動作可能である。一実施形態では、ユーザは、どの楽器のプレイ法を知っているか、自身の技能レベル、自身の影響力などに関する情報をポータルに提出する。これは、バンドまたは他者が、連絡をとって楽曲寄与または特定の種類のフィードバックを受ける相手となる人々を見つける助けとなり得る。別の実施形態では、ユーザは、リスニングのプリファレンスに関する情報をポータルに提出する。その結果、バンド、制作者、他のユーザ、ならびに他の人々および団体が、その情報を使用して、そうしたユーザに対し、彼らの好みを満たすよう、望ましい可能性があるコンテンツを案内または提案してもよい。
さらに他の実施形態では、ログインレイヤ702は、様々なネットワークトラフィックおよび/またはファイル管理機能を制御してもよい。例えば、ネットワークトラフィックおよび/またはファイルのアップロードおよびダウンロードのフローを、様々なネットワーク特性に基づいてルーティングまたは制御することが望ましいと考えられる(例えば、ユーザのワークステーションの地理的位置、共同制作ポータル700もしくは特定の共同制作プロジェクトにログインしているユーザ数、所定の時間に転送されているデータの量、転送されているデータの種類、使用されている暗号化の種類など。特定の実施形態では、ログインレイヤ702は、特定の種類のネットワーク情報を収集し、その情報を使用して上記の各機能を実行するよう動作可能である。
共同制作ポータル700の例示的使用法の1つでは、ユーザが共同制作プロジェクトを開始してもよい。このユーザは、プロジェクトに関するプリファレンスを組アップすることで開始してもよい。例えば、ユーザは、アクセス権、ファイルの処理のプリファレンス、楽曲作成のプリファレンス、楽譜表現の特権などを設定してもよい。ユーザはさらに、少なくとも1つの楽曲寄与をアップロードして、共同制作プロジェクトの作成を開始してもよい。共同制作ポータル700の別の例示的使用法では、ユーザは、共同制作ポータル700にログインして、既存の共同制作プロジェクトにアクセスしてもよい。続いて、ユーザは追加の楽曲寄与をこのプロジェクトにアップロードしてもよく、この共同制作プロジェクトに関する既存情報を編集しても、または別の方法でこの共同制作プロジェクトとやり取りしてもよい。
GUIレイヤ710は、本発明の実施形態による様々なユーザインターフェース機能を制御するよう動作可能である。単に説明を明確にするために、GUIレイヤ710のいくつかの機能は、楽譜レイヤ720および共同制作レイヤ730という2つのサブレイヤに関して説明することができる。当然のことながら、共同制作ポータル700の実施形態は、こうしたレイヤを使用して実装されても、またはされなくてもよい。
本願明細書に記載される楽譜レイヤ720は、ビュー722、編集724、記録および再生726、ならびに、制作728の機能を含めて、共同制作ポータル700の音楽関連の側面のいずれかまたはすべてを処理してもよい。こうした様々な機能のうちいずれかまたはすべては、いくつかの異なる方法でオーディオおよび関連データを処理してもよい。例えば、ユーザは、信号レベルで、楽譜表現レベルで、またはその他任意の形で、オーディオデータとやり取りしてもよい。さらに、様々な機能は、使用されるデータ表現の種類に応じて、ユーザに利用可能であってもよく、または利用可能でなくてもよい。例えば、音符編集能力は、共同制作ポータル700の楽譜表現モードのみで提供することが望ましと考えられ、その一方で、信号処理機能は、共同制作ポータル700の信号表現モードにおいてのみ提供されてもよい。
当然、共同制作ポータル700はさらに、複数の表現モードで同時に動作するよう動作可能であってもよい。いくつかの実施形態では、ビュー機能722は、図8Aおよび8Bに示されているように、複数のビューを提供するよう動作可能であってもよい。図8Aは、共同制作プロジェクトの一部の位置合わせされた3つのビューを含む、ビュー機能722の実例となる実施形態を示す。図8Bは、特定の音符に焦点を合わせた、図8Aに示されているビュー機能722の拡大ビューの実例となる実施形態を示す。
まず図8Aを参照すると、楽譜表現ビュー810、信号表現ビュー820、およびピアノロール表現ビュー830が示されている。各ビューの時間スケールがそろえられていてもよい。いくつかの実施形態では、様々なビューが、再生または記録が進行すると共にスクロールするよう動作可能であってもよい。特定の実施形態では、再生または記録が進むときに特定の構成要素が適当な位置にとどまり、ビューの体験を強化してもよい。例えば、ビューがスクロールする間に、現在再生位置バー812が、ビューウィンドウの或る位置(例えば中央)にとどまり、どのデータが現在プレイまたは受信されているのかを表してもよい。別の例では、ビューがスクロールする間、音部記号、調号、トラックのタイトル、拍子、およびその他の構成要素は、ビューイングウィンドウの或る位置(例えば左)にとどまってもよい。
楽譜表現ビュー810は、音符、譜表、音部記号、小節番号、歌詞、調号などを含む楽譜(例えばシートミュージック)構成要素に関する情報を提供してもよい。表示される(または表示可能な)楽曲構成要素のいずれかまたはすべてに関する一定の編集能力を、楽譜表現ビュー810において提供することが望ましいと考えられる。例えば、音符が追加、削除または移動される、音符の複数のセクションの置き換え、量子化(例えば最も近い8分音符に)などが行われる、符幹の方向が切り替えられる、表現要素の記号が追加または変更される(例えば、スタッカートの点、スラー、アクセントなど)、音部記号、調号、拍子記号およびその他の情報が変更される、歌詞の追加、変更、位置合わせなどが行われる、反復記号、小節の縦線およびその他の小節処理が追加されるなどしてもよい。
信号表現ビュー820は、振幅、包絡線などを含む、1つ以上のオーディオ信号に関する情報を提供してもよい。表示される(または表示可能な)信号構成要素のいずれかまたはすべてに関する特定の編集能力を、信号表現ビュー820で提供することが望ましいと考えられる。例えば、信号がクリーンアップされる(例えば、フィルタを使用することによって、またはその信号と他の信号データとを比較することによって)、包絡線が生成される、音符開始およびその他の楽曲構成要素情報が分解される(例えば他の分解能で、または他の楽曲寄与からのさらなる情報を使用して再分解される)、信号が正規化される(例えば、複数の楽曲寄与間の平均もしくはピーク音量の差を回避するため、またはクリッピングを回避するために)、複数の部分が再サンプリングされる(例えば、別のサンプリングレートで)、倍音効果(harmonic effects)が加えられる(例えば、歪み、フィルタリング、残響など)、包絡線および関連した効果が加えられる(例えば、パンニング、フェードイン、またはフェードアウトなど)、信号の複数セクションの切り取り、貼り付け、コピーなどが行われるなどしてもよい。
ピアノロール表現ビュー830は、楽譜表現ビュー810で提供されるのと似た、または異なる情報を提供してもよいが、様々な理由で違った形で表現されてもよい。例えば、或るユーザにはシートミュージックの読み方が分からないこともあり、そのユーザにとっては、楽譜表現ビュー810が望ましくない表現スキームとなる可能性がある。別の例では、ユーザは、音符の、表現に富む再生に微妙に影響するよう、しかし楽譜上の音符の位置には影響を与えるほどではなく、音符をわずかに動かしたいこともある。図のように、ピアノロール表現ビュー830は、ピアノの鍵盤に関連する音符のピッチと、経時的な音符の持続時間の棒グラフのような表現とを示す。例えば、小節の縦線を含む、他の情報がさらに提供されてもよい。
当然のことながら、他の多数のビュー機能が提供されてもよい。一実施形態では、各ビューは、選択可能なウィンドウ内に示され、このウィンドウは、その他の複数のウィンドウのうちの一部または全部と整列されてもよく(図のように)、または独立して表示されてもよい(例えば、ディスプレイのより大きな部分へ最大化されてもよい)。様々な実施形態において、メニューおよびコントロールが、ユーザインターフェースの体験をよくするよう提供されてもよい。例えば、特定の表現に関係する様々な機能をユーザが実行できるように、クリック可能な複数のアイコンが提供されてもよい(例えば、楽譜表現ビュー810内に「音符の追加」アイコンが提供されてもよい)。別の例では、コントロールは、アクティブ状態の表現または他のユーザアクションに応じて変化してもよい。例えば、ユーザが信号表現ビュー820内でオーディオ信号の一部を選択すると(例えばマウスでクリックしてドラッグすることによって)、「選択範囲の音符開始を抽出」アイコンが現れてもよい(または選択可能になってもよい)。さらに他の実施形態では、他の表現ビュー内の音符またはその他の楽曲構成要素をユーザが左クリック、右クリック、ダブルクリック、または他の方法で選択すると、ユーザに別のメニューおよびオプションが提供されてもよい。
いくつかの実施形態では、拡大表示機能が提供されてもよい。例えば、オーディオ信号の複数の側面がよりはっきりと確認できるように、信号表現ビュー820を拡大することが望まれることもある。複数のウィンドウが整列された状態で表示されていれば、ウィンドウはすべて一緒に拡大して、その配置が維持されてもよい。ユーザは、例えば、拡大ウィンドウ(例えば、信号表現ビュー820内の信号の或るセクション)を選択することによって、または特定の楽曲構成要素を選択することによって、拡大できてもよい。様々な実施形態において、「拡大表示」ビューは、追加の情報を提供してもよく、別個のウィンドウまたはフレームであっても、またはそうでなくてもよい。
例えば、ユーザは、特定の音符を選択することによって、その音符特有のさらなるビューを提供されてもよい。図8Bは、このシナリオの実施形態を示す。ユーザが、図8Aの楽譜表現ビュー810の音符814を選択する。音符包絡線ビュー840、音符音色ビュー850、および音符情報ビュー860という3つの新たな表現ビューがユーザに提供される。
音符包絡線ビュー840では、この音符に関係するオーディオ信号部分が提供されてもよい。生成された包絡線、包絡線交差(envelope crossings)などを含む他の情報も提供されてもよい。音符音色ビュー850では、この音符に関係するオーディオ信号部分の倍音構成が提供されてもよい。高信頼度で特定された周波数、信頼値、ピーク位置および振幅、基本周波数同定、倍音系列、重ね合わされた楽器音色マップ(例えば、模倣のグランドピアノの倍音構成)、ノイズフロア閾値などを含む他の情報も提供されてもよい。音符情報ビュー860では、選択された音符に関して様々な種類の文字情報が提供されてもよい。例えば、その音符の表現に関する楽曲位置(例えば、トラック、譜表、小節、開始タイムスタンプ、終了タイムスタンプ、持続時間など)、抽出された情報(例えば、抽出された音符開始および音符終了時間、ピーク振幅、ADSR包絡線情報など)、量子化された、または他の方法で測定された情報(例えば、おおよその開始および終了時間、予測される音価、予測されるピッチ、予測される調、予測される楽器編成またはトラックなど)、様々な情報に関する信頼値(例えば、音符が4分音符であるという判断が96%の信頼度のみで下されることなどもある)などに関する情報が提供されてもよい。
図7を参照する。共同制作ポータル700の楽譜レイヤ720の他の機能は、編集機能724に関する。編集機能724は、楽曲寄与の信号レベルに関係しても、楽曲寄与の楽曲構成要素に関係しても、複数の楽曲寄与にわたる、もしくは共同制作プロジェクト全体としての、共有構成要素もしくは特徴に関係しても、または共同制作プロジェクトのその他任意の有用な側面に関係してもよい。いくつかの実施形態では、編集機能724は、共同制作プロジェクトの楽曲構成要素(例えば、音符、テンポ、強弱など)に直接影響を及ぼす。他の実施形態では、編集機能724は、楽曲構成要素の再生に影響を及ぼす(例えば、表現の微妙な違い、効果、楽器編成などに)。さらに他の実施形態では、編集機能724は、楽曲構成要素の表示に影響を及ぼす(例えば、シンコペーションでプレイされる音符であっても、「スイングする」8分音符が8分音符として表示されてもよい)。
編集機能724のいくつかの側面は、オーディオおよび楽譜の分解に関する。オーディオおよび楽譜分解の実施形態は、上記により詳しく記載されている。共同制作ポータル700のいくつかの実施形態では、楽曲寄与が、様々なレベルの分解状態で受信される。全く分解されていない楽曲寄与は、共同制作ポータル700にアップロードされるとき、または共同制作プロジェクトに追加されるときに分解されてもよい。場合によって、楽曲寄与(またはその複数部分)は、まったく分解されないまま共同制作プロジェクトに追加されてもよい。
特定の実施形態では、以前に分解されていない(または以前に特定のレベルで分解されていない)楽曲寄与が、必要に応じて分解されてもよい。例えば、或る発想を試すためにベースラインが共同制作プロジェクトに追加されて、楽曲構成要素に分解されずにオーディオ記録として保持されてもよい。後日、共同制作者が、このベースラインのコンポーネントをさらに試すことを希望するかもしれない。よって、共同制作者は、リズムを分解すること(例えば、別のトラックをこのベースラインのリズムに合わせ直すために、またはテンポを変更するために)、音符のピッチまたは音程を分解すること(例えば、選択範囲を別の調に移調できるように、または楽器編成を変更できるように)などを望むかもしれない。
当然のことながら、特定の機能は信号レベルで実行されてもよいが、楽曲構成要素レベルであれば、それ以上の機能または改善された機能を提供されると考えられる。例えば、最初に音符レベルで特定の楽曲構成要素を抽出せずに信号から調または拍子を判断するのは、非現実的である。別の例では、信号レベルで楽節のテンポを落とすこともできるかもしれないが(例えば、デジタルオーディオ信号への複数サンプルのインテリジェント補間(intelligent interpolation)によって)、望ましくないアーチファクトが加えられる可能性もさる(例えば、エイリアシングが起こるかもしれず、または、時間拡大されると、分解された特定の種類の歪みまたは反響音が奇妙に聞こえるかもしれない)。この結果は、楽曲構成要素を分解した後でテンポを変更することで改善できる(例えば、音符の効果そのものに影響が及ぶことなく、音符の効果が音符に結びついたままとなる)。
共同制作ポータル700の楽譜レイヤ720の他の機能は、記録および再生機能726に関する。いくつかの実施形態は、非共同楽曲作成および処理環境により提供される、従来の種類の記録およびオーディオ再生機能726を提供する。一方、他の実施形態は、共同制作ポータル700の共同性を活用してさらなる機能性を提供する。
様々な実施形態において、楽曲寄与は、アップロードによって、データベースからの追加によって、またはプロジェクトへ直接記録することによってなど、様々な方法で共同制作プロジェクトに追加されてもよい。一実施形態では、寄与者は、共同制作プロジェクトの他の部分と合わせて演奏することで、楽曲寄与をそのプロジェクトに記録する。例えば、寄与者は、共同制作プロジェクトの一部をプレイし、その一方で、再生中にボーカルを同時記録してもよい。別の実施形態では、楽曲寄与はより高度な方法で追加される。例えば、寄与者は、オーディオサンプル(例えば、ビー玉が水飲み用のクリスタルグラスに落ちる音の記録)をアップロードし、共同制作ポータル700に、そのサンプルを2小節おきに1拍目に追加するよう命令してもよい。
いくつかの実施形態では、楽曲寄与は、特定のデータを提供するために記録されてもよい。例えば、ユーザは、メトロノームのトラック(例えば、他のトラックの記録に役立つよう、またはテンポおよび拍子の判断に役立つよう)、基本的な根音位置のコードの組(例えば、調の判断に役立つよう)、話された音節の組(例えば、ギタートラックに適用されるボコーダフィルタの機能を果たすよう)などを記録してもよい。特定の実施形態では、提供されるオーディオ情報は、実質的にリアルタイムで、特定の間隔で、ユーザのリクエストに応じて、またはその他任意の便利な時点で分解されてもよい。
記録および再生機能726の再生機能も、共同制作ポータル700の共同性を活用するよう、様々な方法で実装されてもよい。一実施形態では、ユーザは、共同制作プロジェクトの特定トラックの全部または一部をプレイできてもよい。別の実施形態では、ユーザは、共同制作プロジェクト全体を、そのすべてのコンポーネントトラックおよび楽曲寄与と共にプレイできてもよい。さらに別の実施形態では、ユーザは、特定の特徴(例えば、特定の寄与者または複数の寄与者の組からである、特定のタイムフレームの間に追加または変更された、共同制作者によって考慮対象に出されたなど)を満たすすべての楽曲寄与をプレイできてもよい。さらに他の実施形態では、ユーザは、最近変更された、共同制作プロジェクトの特定部分にジャンプできても、特定のセクションに対して提案されている様々な寄与間を切り替えることができても、またはその他任意の有用な再生機能を実行できてもよい。
当然のことながら、本発明によれば、その他多数の再生および記録機能がさらに提供され得る。例えば、楽曲寄与は、楽曲寄与のロード中にプレイされてもよい(例えば、楽曲寄与はストリームされてもよい)。別の例では、オーディオは、アップロード、記録、再生などが行われている間に処理または分解されてもよい。
共同制作ポータル700の楽譜レイヤ720の他の機能は、制作機能728に関する。場合によって、共同制作者は、様々な種類の制作に関して、共同制作データの形式設定、または共同制作データの追加を希望するかもしれない。一実施形態では、共同制作ポータル700は、歌詞処理機能を含む。例えば、歌詞処理機能は、歌詞を追加および編集すること、歌詞を音符またはその他の楽曲構成要素に整列させること、ならびに歌詞表示の形式を合わせること(例えば、フォント、サイズ、複数の音符にわたる音節または語の処理など)を含んでもよい。
別の実施形態では、制作機能728は、非音楽的(または間接的に音楽的な)楽譜表現情報の処理を含む。例えば、共同制作ポータル700は、ユーザが、小節番号、トラックタイトル、楽譜タイトル、ページのヘッダ、フッタおよび余白、表現および強弱記号、楽譜記号体系(例えば、シグナス(signas)、コーダなど)、楽器特有の記号(例えば、タブラチュアのグリッド、弓の方向または弦をかき鳴らす方向など)、文字情報(例えば、パフォーマンスに関する指示、著作権情報など)、または演奏者またはその他の関係者にとって有用となり得る他の任意のデータを追加できるようにしてもよい。
制作機能728のさらに他の実施形態は、楽譜ではなくオーディオの制作機能を含んでもよい。例えば、共同制作ポータル700は、サンプリング(例えば、サンプルレートを変更するため)、均一化(例えば、トラック特有または寄与者特有のデータを除去するため)、符号化(例えば、特定のコーデックまたはメディアプレイヤー用に)などに関する能力を提供してもよい。他の情報が、共同制作ポータル700の出力生成レイヤ790に対して、または出力生成レイヤ790によって提供されてもよい。
共同制作ポータル700の様々な実施形態では、共同制作レイヤ730に関する機能が提供される。いくつかの実施形態では、共同制作レイヤ730は、ファイル管理機能732および会議機能734を含む。
図9は、共同制作レイヤ730の様々な機能を示す、本発明による共同制作ポータル700用のGUI900の実施形態を示す。GUI900のいくつかの機能は、ファイル管理機能732に関係してもよく、GUI900の他の機能は、会議機能734に関係してもよい。
GUI900は、ビデオ会議領域910、チャット領域920、楽曲領域930、およびいくつかのボタン950を含む、様々な種類およびレベルの機能をそれぞれ提供するいくつかの側面を提供する。ビデオ会議領域910は、ビデオ会議に有用な機能を提供する。例えば、共同制作者全員が「生の」仮想共同制作セッションを開くことができるように、ビデオ会議の時、ビデオウィンドウがオンラインの各共同制作者に提供されてもよい。当然のことながら、様々なオーディオおよびビデオ機能が含まれて、ビデオ会議領域910および本発明による能力を強化してもよい。例えば、オーディオおよびビデオコントロール(例えば、音量、解像度など)、「呼」コントロール(例えば、会議への参加、招待、中断、転送など)、ならびに発呼側コントロールオプション(例えば、画面コントロールを会議の特定の出席者に渡すなど)が提供されてもよい。
様々な実施形態において、チャット領域920は、文字会議またはロギングに有用な様々な機能を含んでもよい。一実施形態では、チャット領域920は、会議セッションの参加者が入力する文字情報を記録して、単に仮想のメモ帳としての機能を果たしてもよい。他の実施形態では、チャット領域920は、ビデオ、オーディオおよびその他のデータを記録および/または表示するよう動作可能である。例えば寄与者は、リフをプレイして、それを「皆さんこれはどう思いますか」というテキストと共にチャット領域920に加えてもよい。さらに他の実施形態では、チャット領域920は、仮想のホワイトボードの機能を果たして、手書きの図およびテキスト(例えば、マウスをペンとして使用して)を受け取ってもよい。さらに他の実施形態では、チャット領域920は、ロギングまたは使いやすさを強化するために情報を変換するよう動作可能であってもよい。例えば、チャット領域920は、オーディオまたはビデオ会議中に話される会話を自動的に書き起こしてもよく、手書きの文章を編集可能なテキストに変換してもよく、またはその他の同様の機能。
楽曲領域930は、共同制作プロジェクトの音楽的な部分を共同で処理するのに有用な任意の機能を提供してもよい。一実施形態では、様々な表現ビューが、楽曲領域930の表現フレーム932内に表示および/または取り込みされてもよい。例えば、図のように、共同制作プロジェクトの一部の楽譜および信号表現が、表現フレーム932内に表示されてもよい。
楽曲領域930はさらに、再生コントロールフレーム634を含んでもよい。図のように、再生コントロールフレーム634は、プレイコントロール(例えば、プレイ、一時停止、停止、記録など)、プログレスバー(例えば、経過した再生時間を示すプログレスインジケータ、ロード中の再生のプログレスインジケータ(例えばストリーミング再生)、章または他のインデックスのインジケータなど)、コメントのインジケータ(例えば、共同制作者がコメントを入力した位置、またはフラグを立てた位置)、およびその他任意の有用なインジケータまたはコントロールを含む、任意の数のコントロールおよびインジケータを含んでもよい。
いくつかの実施形態では、楽曲領域930は、強化された機能を提供する。一実施形態では、共同制作者は、共同制作ファイルの複数の部分にコメント936を提供してもよい。例えば、バンドが、その共同制作ファイルを、ファンが聴いてコメントするようにファンウェブサイトに掲示すると仮定する。そのプロジェクトを聴いている間に、ファン(「John」)が、このファイルにコメント936を加えて、「この楽節は好きですが、彼らのこの前のアルバムにあったもののような、もっとジャズ風のベースリフがあれば、格好よく聞こえるだろうと思います」のように、何かを述べてもよい。その結果、コメント936は、共同制作者または他のファンが見られるように、ファイルの一部として現れてもよい。次に、他のファンが、文字、ビデオ、オーディオまたはその他のコメント936を、Johnのコメントに応えて掲示してもよい。例えば、別のファン(「Mary」)が、「このままが好きです」と述べる返答を掲示してもよい。さらに別のファン(「Steve」)は、その曲によく合うだろうと彼が思う、自分が作成した新たなベースラインのオーディオクリップを含んだ返答を掲示することができるであろう。このように、コメント936は、ブログツールのようなものとなってもよいであろう。図のように、共同制作者は、ビデオ会議セッションの間に、その共同制作プロジェクトを関連のコメント936と共に引き出して、自分たちのプロジェクトに対する反応について議論することができるであろう。
楽曲領域930のもう1つの強化された機能は、共同した形で楽曲領域930内での編集を行う能力であってもよい。様々な実施形態において、共同制作者は、共同制作ポータル700の適用可能な機能すべてに楽曲領域930内からアクセスできる。他の実施形態では、楽曲領域930上に仮想的に「描く」能力のような、さらなる機能が提供される。例えば、ビデオ会議セッションの間、或る共同制作者が、共同制作プロジェクトの再生を一時停止して、嫌いな音符を指摘したいこともある。その共同制作者は、仮想描画機能を使用して、その音符の周りに円を、さらに音符938を指し示す矢印までも、仮想的に描いてもよい。当然のことながら、特定のプリファレンスに応じて、この情報およびその他同様の情報が、会議セッションのログに、この共同制作プロジェクトと関連して格納されてもよく、セッション中一時的に格納されてもよく、またはまったく格納されなくてもよい。
GUI900の実施形態はさらに、任意の数の他のコントロールを提供してもよい。いくつかの実施形態では、いくつかのボタン950が、共同制作ポータル700の他の特定機能に対するアクセス用に提供される。当然のことながら、本発明によれば、ポータルの機能へのアクセスは、メニュー、他のウィンドウおよびモジュールなどの使用によってなど、他の多数の方法で提供され得る。一例として、図9には、「寄与を追加」、「ジャムセッションモード」、「再生切り替え」、「プレイ/記録オプション」、「プリファレンス」、「共同制作メニュー」、「掲示板」および「検索」という8つのボタン950が示されている。
「寄与を追加」ボタンは、GUI900のユーザが、楽曲寄与を共同制作プロジェクトに追加できるようにしてもよい。追加プロセス中、他のオプションがさらに提供されてもよい(例えば、他のメニューを提供することによって)。例えば、楽曲寄与は、新たなトラックとして追加されても、もしくは既存のトラックに追加されてもよく、もしくはそのプロジェクトの或るセクションのいくつかのオプションのうちの1つとして追加されてもよく、追加している間にオーディオが処理されてもよく(例えば、ダウンコンバートまたは分解などによって)、または、オーディオが特定のパラメータに同期もしくは量子化されてもよい(例えば、ドラムトラックに)。
「ジャムセッションモード」ボタンは、ユーザが仮想ジャムセッションに参加できるようにしてもよい。この例示的モードでは、参加者たちは一緒に「ジャミング」(例えば演奏)する間に、共同制作プロジェクトの全部または一部をプレイしてもよい。さらなるオプションは、参加者が、例えば共同制作プロジェクトの複数セクションをループすること(例えば、同じ楽節に関する新たな発想の試みを続けるため、または曲の或るセクションを練習するために)、ジャムセッションの全部または一部を記録すること(例えばリアルタイムで)、ジャムセッションの全部または一部を自動分解すること(例えば、楽曲構成要素をつくるため、楽譜を生成するためなど)などを行えるようにしてもよい。
「再生切り替え」ボタンは、共同制作者が、共同制作プロジェクトの有望な複数の楽節間を切り替えられるようにしてもよい。例えば、異なる3人の寄与者(例えば、2人のファンおよびバンドのメンバー)が全員、ボーカルトラックに関して発想を提示したと仮定する。共同制作プロジェクトの再生中(例えば、ビデオ会議中)、共同制作者は、3つの提示案の間を切り替えて、最も気に入るものがあればそれどれであるかを決定できてもよい。
さらなる機能は、共同制作者が好きな方の楽節を選択できるようにしてもよい。例えば、GUI900のいくつかの実施形態は、共同制作者が特定の提示案に賛成票を投じることができるようにする投票ボタンを、共同制作者に提供してもよい。当然、多数の追加のコントロール、インジケータおよび機能が、この能力をサポートまたは強化することができる。例えば、共同制作ポータル700は、投票の経過を追うこと、統計を生成すること、勝者を判断すること、他の関係者(例えばファン)による投票を可能にすることなどを行うよう動作可能であってもよい。
「プレイ/記録オプション」ボタンは、任意の数のプレイおよび記録オプションへのアクセスを提供してもよい。例えば、このボタンを選択すると、どのトラックをプレイするかを選択するためのオプション、特定のトラックにロックをかけてさらなる編集を防止するかどうかのオプションなどを備えるメニューがGUI900に表示されてもよい。利用可能であってもよい他のプレイおよび記録機能の一部は、上記でさらに説明されている。
「プリファレンス」ボタンは、任意の数のプリファレンスへのアクセスをユーザに提供してもよい。或る実施形態では、多数のプリファレンスが、GUI900の設定に利用可能である。例えば、ユーザは、GUI900によって提供される種々のフレーム、領域、コントロールおよびインジケータのサイズ、利用可能性および機能を選択してもよい。他の実施形態では、プリファレンスは、会議、ユーザプロフィール、および共同制作ポータル700の他の任意の機能を設定するために利用可能である。
「共同制作メニュー」ボタンは、共同制作に関係するオプションを提供してもよい。例えば、このメニューは、会議のオプション(例えば、会議開始、会議終了、出席者の招待、出席者のブロック、出席者情報の表示など)、セキュリティ設定(例えば、デジタル著作権管理、暗号化、ファイルアクセスなどに関係する)、ユーザステータス変更(例えば、特定のユーザに対して特定の許可を与える)、公開オプション(例えば、公開モードに入る、共同制作プロジェクトをファンサイトに公開する、デモトラックを焼くなど)などを提供してもよい。
共同制作メニューのその他の機能は、ファイル管理に関係してもよい。共同制作プロジェクトに関係する楽曲寄与および他のファイルは、種々のソースから生じること、種々の位置に格納されること、種々の形式で格納されること、様々な種類の情報を含むこと、種々のセキュリティ設定を有することなどが可能である。よって、共同制作ポータル700の多数の機能は、特定のユーザがファイル管理を行えるようにすることに関してもよい。さらに、共同環境では、変更管理に関する機能を提供することが望まれることもある。例えば、共同制作者は、それ以上の変更を防止するためにファイルにロックをかけて、変更を特定のユーザ限定にできること、ファイルの以前のバージョンを記録できること(例えば、場合によっては、或る時間にわたる、或る数のバージョンなどに制限される)、および、共同制作プロジェクトに対する変更の、他の種類の制御を行うことを希望するかもしれない。
「掲示板」ボタンは、仮想掲示板へのアクセスを提供してもよく、ここで、ユーザは様々な種類のアイテムを掲示してもよい。例えば、ファンが、バンドについての一般的な発言(例えば、音楽の方向性、最近のコンサートツアー、最新アルバム、メンバーなどについて)、オーディションテープおよび楽曲寄与などを掲示してもよい。共同制作者は、ファンに対する質問、次回のショーの広告、ファンのコメントへの返答などを掲示してもよく、さらにその他任意の有用な情報を掲示してもよい。
「検索」ボタンは、楽曲ベースの検索機能を含む、様々な検索機能に対するアクセスを提供してもよい。一実施形態では、共同制作者は、一定の特性(例えば、或る地理的地域からである、一定の訓練を受けている、一定の影響力を持つなど)を有する音楽家を、バンド、グループ、オーケストラなどに対する寄与者またはそのメンバーの将来的な候補として検索してもよい。別の実施形態では、音楽家は、楽曲「クリップアート」の検索を希望することもある。例えば、音楽家が、7/8拍子で書かれたメロディラインのライブラリを閲覧して、共同制作プロジェクトの一部に関するインスピレーションを得ることを希望することもある。このライブラリは、例えば、分解されたオーディオファイルのデータベースから自動的に生成されること、公開楽曲共有データベースとして寄与されること、販売目的でデータベースに掲示されることなどが可能である。さらに別の実施形態では、音楽家は、作曲作品の潜在的な著作権侵害もしくはその他の不正使用を回避または発見するために、自分たちが書いたものに似た楽節を検索することを希望することもある。楽曲ベースの検索機能の複数の実施形態が、Robert D. Taubらの、「MUSIC−BASED SEARCHING」という題の米国特許出願第 号明細書に提供されており、これは、本願と当時に提出されたものであり、あらゆる目的において、参照によって本願明細書に引用したものとする。
上記の説明は、主にバンドおよび音楽家のグループによるGUI900の使用法に注目したが、当然のことながら、この他に多数の種類のユーザが考えられる。一実施形態では、制作者および技術者が、共同制作ポータル700を使用して最終的な楽曲作品を共同制作することができる。別の実施形態では、マーケティング担当者、ディスクジョッキーおよびその他の人々が、バンドおよび/または他のものと共同し、楽曲についてコメントをすること、楽曲を仕上げる手伝いをすること、または楽曲を試聴することができる。さらに別の実施形態では、音楽家が共同制作ポータルを使用して音楽を学んでもよい。例えば、グループがGUI900内で一緒に練習できてもよく、または、バンドの新たなメンバーまたはメンバー候補が、練習するため、またはオーディションを受けるために複数の曲をプレイできてもよい。
共同制作ポータル700の例示的な一使用法では、生徒が、そのピアノの先生にインターネット上で会って、難しい楽節に関して手助けを得ることを希望してもよい。楽譜が楽曲領域930内に表示され、生徒と先生とがビデオ会議領域910内でビデオ会議を開始してもよい。生徒がプレイするときに、先生は、GUI900の様々な機能を使用して、間違いまたは改善部分を指摘することができてもよい。代わって、生徒が聴けるように、先生がその作品の複数部分をプレイできてもよい。
共同制作ポータル700の別の例示的使用法では、生徒がピアノ作品の練習を希望してもよい。楽譜が楽曲領域930内に表示されてもよく、生徒は練習モードに入ってもよい。生徒がプレイするとき、その楽曲入力は、自動的に複数の楽曲構成要素に分解されてもよい(例えば、少なくとも楽譜表現として表示するのに必要なレベルまで)。生徒のパフォーマンスの楽譜表現も、楽曲領域930内に表示されてもよい。例えば、生徒がプレイするとき、生徒は、楽曲領域930内の元の楽譜に重ねられる自分のパフォーマンスの楽譜表現を見てもよい(例えば、別の色で)。その結果、生徒は、自分のパフォーマンスのどこに間違いがあるかをはっきりと見ることができる(例えば、音符のピッチおよび/または持続時間において)。さらなる機能が、改善部分、さらなる練習が必要な部分、さらなる練習が必要な技、経時的な改善を示す楽譜および追跡、生徒の先生が使用する練習ログおよび記録、ならびにその他任意の有用な情報を、生徒が特定する助けになってもよい。例えば、共同制作ポータル700は、楽曲の中で大きなジャンプが現れると、生徒が必ず誤った音符をプレイすると特定してもよい。その結果、共同制作ポータル700は、生徒がその技を練習するのを助けるよう、課題(または他の作品)の組を生成または特定してもよい。
当然のことながら、共同制作プロジェクトの作成中または作成後に、多数の異なる種類のデータの多数の種類の出力が可能である。図7に示されているように、共同制作ポータル700の他の機能は、出力生成に関係してもよい。いくつかの実施形態では、出力生成は、図1に示されている出力生成ユニット140のような出力生成ユニットによって扱われる。
様々な実施形態において、共同制作プロジェクからの出力は、楽譜表現出力を生成するために使用される。一実施形態では、オーディオもしくは楽譜入力から分解されるか、または別の形で受信された複数の楽曲構成要素が処理されて、楽曲楽譜表現が自動的に生成される。従来のソフトウェアパッケージおよびライブラリが、楽曲楽譜表現からシートミュージックを作り出すのに利用可能であると考えられる。そのような多数のツールが、MIDIまたは同様のものなど、所定形式の作品の表現という形で入力を受け取る。したがって、システムのいくつかの実施形態は、そのような従来のツールとの互換性を確保するために、MIDI規格に実質的に従っている楽曲楽譜表現を生成する。楽曲楽譜表現が作成されると、可能な用途は数倍となる。様々な実施形態において、楽譜は、装置のディスプレイ上に表示されるか、印刷されるか、楽曲公開プログラムにインポートされるか、格納されるか、または他者と共有される(例えば、別の共同楽曲プロジェクト用に)。
他の実施形態において、共同制作プロジェクからの出力は、オーディオ表現出力を生成するために使用される。一実施形態では、オーディオ表現出力は、オーディオストレージおよび/または再生装置に対応している。例えば、オーディオ表現出力は、オーディオコンパクトディスク、MP3ファイル、またはその他任意のプロプライエタリもしくは非プロプライエタリフォーマットに焼くことに対応してもよい。別の実施形態では、オーディオ表現出力は、オーディオ信号処理システムが使用するよう構成されてもよい。さらに他の実施形態では、オーディオ表現出力は、オーディオ再生コンポーネント(例えば、デジタルホームオーディオコンポーネント、スピーカ、サウンドカードなど)によって直接的または間接的にプレイされるよう使用可能であってもよい。
出力生成の他の実施形態、共同制作ポータル700からの表現出力は、後からの使用のために格納されるか、または別のシステムに送信されるよう構成されている。一実施形態では、出力データは、さらなる処理のためにネットワーク経由でクライアントワークステーションへ送信される。例えば、クライアントワークステーションはオーディオ出力を分解するため、オーディオ信号データを再生するため、または共同ポータル700のその他の出力機能のいずれかを実行するために使用されてもよい。
(例示的実装)
上述のシステムおよび方法は、いくつかの形で実装することができる。そのような実装の1つは、様々な電子コンポーネントを含む。例えば、様々なシステムのユニットが、個別または集合的に、ハードウェアに適用可能な機能の一部または全部を実行するようになっている1つ以上の特定用途向け集積回路(ASIC:Application Specific Integrated Circuit)を用いて実装されてもよい。あるいは、各機能は、1つ以上の集積回路上の、他の1つ以上の処理ユニット(またはコア)によって実行されてもよい。他の実施形態では、他の種類の集積回路が使用されてもよく(例えば、構造化/プラットフォームASIC、フィールドプログラマブルゲートアレイ(FPGA:Field Programmable Gate Array)、およびその他のセミカスタムIC)、これは、当技術分野で既知の任意の方法でプログラムされてもよい。各ユニットの機能はさらに、全体的または部分的に、1つ以上の汎用または特定用途向け処理装置によって実行されるよう形式を合わせた、メモリに記録された命令を用いて実装されてもよい。
図10は、本発明の特定の実施形態を実装する計算システム1000のブロック図を示す。一実施形態では、計算システム1000は、図1に示されているポータル160としての機能を果たしてもよい。なお、図10は、様々なコンポーネントの一般化した説明を提供することのみを意図しており、このコンポーネントのいずれかまたはすべてが、必要に応じて利用されてもよい。したがって、図10は、個々のシステム構成要素が、相対的に別々となった形、または相対的により統合された形で、どのように実装され得るかを、広く示す。
バス1026を介して電気的に結合可能な(または、必要に応じて別の方法で通信してもよい)複数のハードウェア構成要素を含む計算システム1000が示されている。ハードウェア構成要素は、1つ以上の汎用処理装置および/または1つ以上の専用処理装置(デジタル信号処理チップ、グラフィックス加速チップ、および/または同様のものなど)を含むがこれに限定されるものではない、1つ以上の処理装置1002と、マウス、キーボードおよび/または同様のものを含むことができるがこれに限定されるものではない、1つ以上の入力装置1004と、ディスプレイ装置、プリンタおよび/または同様のものを含むことができるがこれに限定されるものではない、1つ以上の出力装置1006とを含むことができる。
計算システム1000はさらに、1つ以上のストレージ装置1008を含む(および/またはそれと通信している)とよく、これは、ローカルのおよび/またはネットワークアクセス可能なストレージを含むことができるがこれに限定はされず、および/または、ディスクドライブ、ドライブアレイ、光学式ストレージ装置、ランダムアクセスメモリ(「RAM(random access memory)」)などのソリッドステートストレージ装置、および/または読み取り専用メモリ(「ROM(read−only memory)」)を含むことができるがこれに限定されず、これは、プログラマブル、フラッシュアップデート可能、および/または同様のものとすることができる。計算システム1000はさらに、通信サブシステム1014を含んでもよく、通信サブシステム1014は、モデム、ネットワークカード(無線または有線)、赤外線通信装置、無線通信装置および/またはチップ組(Bluetooth装置、802.11装置、WiFi装置、WiMax装置、セルラー通信機器など)および/または同様のものを含むことができるが、限定されるものではない。通信サブシステム1014は、ネットワーク(一例を挙げると、以下に記載されているネットワークなど)および/または本願明細書に記載される他の任意の装置とのデータ交換を可能にしてもよい。多数の実施形態において、計算システム1000はさらに、ワーキングメモリ1018を含み、これは、上記のようにRAMまたはROM装置を含むことができる。
計算システム1000は、さらに、オペレーティングシステム1024および/または1つ以上のアプリケーションプログラム1022などの他のコードを含めて、現在ワーキングメモリ1018内にあるものとして示されているソフトウェア構成要素を含んでもよく、これは、本発明のコンピュータプログラムを含んでもよく、および/または本願明細書に記載されているように本発明の方法の実装、および/または本発明のシステムの構成を行うよう設計されてもよい。単なる一例として、上記で説明された方法(単数または複数)に関して記載された1つ以上の手順は、コンピュータ(および/またはコンピュータ内の処理装置)によって実行可能なコードおよび/または命令として実装することもできるであろう。一実施形態では、図1のオーディオおよび/または楽譜分解ユニット120、ならびにその他の様々なクライアント側の方法は、計算システム1000によって読み取り可能なアプリケーションプログラム1022として実装される。
こうした命令および/またはコードの組は、コンピュータ読み取り可能ストレージ媒体1010b上に格納されてもよいであろう。いくつかの実施形態では、コンピュータ読み取り可能ストレージ媒体1010bは、上述のストレージ装置(単数または複数)1008である。他の実施形態では、コンピュータ読み取り可能ストレージ媒体1010bは、コンピュータシステム内に組み込まれていてもよいであろう。さらに他の実施形態では、コンピュータ読み取り可能ストレージ媒体1010bは、コンピュータシステムから分離していても(すなわち、コンパクトディスクなどの取り外し可能媒体など)、およびまたは、ストレージ媒体に格納されている命令/コードを用いて汎用コンピュータをプログラムするためにストレージ媒体を使用できるよう、インストールパッケージにおいて提供されてもよいであろう。こうした命令は、計算システム1000によって実行可能な実行コードという形をとっても、および/または、ソースおよび/またはインストール可能コードという形をとてもよいであろう。ソースおよび/またはインストール可能コードは、計算システム1000上でコンパイルおよび/またはインストールされると(例えば、一般に利用可能な様々なコンパイラ、インストールプログラム、圧縮/解凍ユーティリティなどのうちのいずれかを使用して)、その結果実行コードという形をとる。こうした実施形態では、コンピュータ読み取り可能ストレージ媒体1010bは、コンピュータ読み取り可能ストレージ媒体読み取り機1010aによって読み取られてもよい。
当業者には当然のことながら、特有の要件に従って、多くの変形物がつくられてもよい。例えば、カスタマイズされたハードウェアがさらに使用されること、および/または特定の構成要素がハードウェア、ソフトウェア(アプレイットなどの高移植性ソフトウェアなどを含む)もしくは両方に実装されることが可能であろう。さらに、ネットワーク入力/出力装置などの他のコンピューティング・デイバスへの接続が用いられてもよい。
いくつかの実施形態では、入力装置1004のうちの1つ以上は、オーディオインターフェース1030−1と結合してもよい。オーディオインターフェース1030−1は、マイクロホン、楽器、デジタルオーディオ装置、または他のオーディオ信号もしくはファイルのソースと、例えば物理的、光学的、電磁的などの形で、インターフェースで接続することによって、楽曲寄与102−1を受信するよう構成されてもよい。他の実施形態では、入力装置1004のうちの1つ以上は、楽譜インターフェース1030−2と結合してもよい。楽譜インターフェース1030−2は、カメラ、スキャナ、デジタル撮像装置、またはその他のデジタル画像ソースとインターフェースで接続することによって、楽譜寄与102−2を受信するよう構成されてもよい。
さらに、いくつかの実施形態では、出力装置1006のうちの1つ以上は、オーディオ出力装置106−1と結合してもよい。オーディオ出力装置106−1は、本発明の実施形態によって生成されたオーディオ信号データを、例えばスピーカ、オーディオコンポーネント、デジタル−アナログ変換器、コンパクトディスクライターなど、そのデータを処理する能力がある1つ以上のシステムまたは装置に出力するよう構成されてもよい。他の実施形態では、出力装置1006のうちの1つ以上は、楽譜出力装置106−2と結合してもよい。楽譜出力装置106−2は、本発明の実施形態によって生成された楽譜表現データを、例えば楽譜書き起こしソフトウェア、楽譜公開システム、ファイルストレージ装置など、そのデータを処理する能力がある1つ以上のシステムまたは装置に出力するよう構成されてもよい。
一実施形態では、本発明は、本発明の方法を実行するためにコンピュータシステム(計算システム1000など)を用いる。実施形態の組によれば、処理装置1002が、ワーキングメモリ1018に含まれている1つ以上の命令の1つ以上のシーケンス(オペレーティングシステム1024および/またはアプリケーションプログラム1022などのその他のコードに組み込まれることも可能と考えられる)を実行するのに応答して、当該方法の手順の一部または全部が計算システム1000によって実行される。当該の命令は、ストレージ装置(単数または複数)1008(または1010)のうちの1つ以上など、別の機械読み取り可能媒体からワーキングメモリ1018に読み込まれてもよい。単なる一例として、ワーキングメモリ1018に含まれている命令のシーケンスの実行は、処理装置(単数または複数)1002に、本願明細書に記載されている方法の1つ以上の手順を実行させてもよいであろう。
本願明細書で使用される「機械読み取り可能媒体」および「コンピュータ読み取り可能媒体」という用語は、機械を特定の形で動作させるデータの提供に関与する任意の媒体を指す。計算システム1000を使用して実装される実施形態では、様々な機械読み取り可能媒体が、命令/コードを実行用に処理装置(単数または複数)1002に提供するのに関与すること、および/またはそのような命令/コードを(例えば信号として)格納および/または搬送するために使用されることが可能であろう。多数の実装において、コンピュータ読み取り可能媒体は、物理的および/または有形のストレージ媒体である。そのような媒体は、次に限定されるものではないが、不揮発性媒体、揮発性媒体および伝送媒体を含む多数の形態をとり得る。不揮発性媒体は、例えば、ストレージ装置(単数または複数)(1608または1010)などの光ディスクまたは磁気ディスクを含む。揮発性媒体は、ワーキングメモリ1018などのダイナミックメモリを含むがこれに限定されるものではない。伝送媒体は、バス1026を構成するワイヤーを含めて、同軸ケーブル、銅線、光ファイバ、ならびに、通信サブシステム1014の様々なコンポーネント(および/または通信サブシステム1014が他の装置との通信を提供するのに用いる媒体)を含む。したがって、伝送媒体はさらに、波(電波通信および赤外線データ通信中に生成されるものなど、電波、音波、および/または光波を含むがこれに限定されるものではない)という形態をとることができる。
物理的および/または有形のコンピュータ読み取り可能媒体の一般的形態には、例えば、floppy disk(登録商標)、フレキシブルディスク、ハードディスク、磁気テープもしくはその他任意の磁気媒体、CD−ROM、その他任意の光学媒体、パンチカード、紙テープ、穴のパターンを有するその他任意の物理的媒体、RAM、PROM、EPROM、FLASH−EPROM、その他任意のメモリチップもしくはメモリカートリッジ、以下に記載される搬送波、またはコンピュータが命令および/またはコードを読み取ることができるその他任意の媒体が含まれる。
様々な形式の機械読み取り可能媒体が、1つ以上の命令の1つ以上のシーケンスを、実行用に処理装置(単数または複数)1002へ搬送するのに関与してよい。単なる一例として、この命令は、最初にリモートコンピュータの磁気ディスクおよび/または光ディスク上で搬送されてもよい。リモートコンピュータは、命令をダイナミックメモリにロードして、その命令を信号として、計算システム1000によって受信および/または実行される伝送媒体上で送信することもできるであろう。こうした信号は、電磁信号、音響信号、光信号および/または同様のものという形態であってもよいと考えられ、すべて、本発明の様々な実施形態に従って、命令が符号化されることが可能な搬送波の例である。
通信サブシステム1014(および/またはそのコンポーネント)は、通常、この信号を受信することになり、続いてバス1026がこの信号(および/またはこの信号により搬送されるデータ、命令など)を、ワーキングメモリ1018へ搬送してもよいであろう。処理装置(単数または複数)1002は、このワーキングメモリ1018から命令を読み出して実行する。ワーキングメモリ1018によって受信された命令は、任意選択で、処理装置(単数または複数)1002による実行の前または後に、ストレージ装置1008上に格納されてもよい。
当然のことながら、本発明によれば、システムの多数の実装が可能であり、それは、図10に関して記載されるコンポーネントまたは機能を組み込んでも組み込まなくてもよい。いくつかの実施形態では、システムは専用装置として実装される。この装置は、音圧を検知してそれをシステムが使用する楽曲寄与へ変換するよう構成された、1つ以上の内蔵マイクロホンを含んでもよい。代わりに、この装置は、外付けマイクロホン、媒体装置、データ記憶装置、またはその他のオーディオソースとインターフェースで接続するための1つ以上の楽曲入力ポートを含んでもよい。こうした実施形態のうちのいくつかでは、装置は、ハンドヘルドまたは携帯用装置であってもよい。他の実施形態では、このシステムは、多目的または汎用の装置において実装されてもよい(例えば、コンピュータによって実行されるようコンピュータ読み取り可能媒体上に格納されたソフトウェアモジュールとして)。こうした実施形態のいくつかでは、オーディオソースは、サウンドカード、外付けマイクロホン、または格納済みのオーディオファイルであってもよい。その結果、入力が生成されシステムに提供される。
このシステムの他の実施形態は、聴音装置として動作する簡略化バージョンまたはモノラルバージョンとして実装されてもよく、これは、1つのマイクロホンに向かって楽器をプレイするユーザ、または特定の曲またはメロディまたはその一部を歌うユーザから、オーディオを受信する。単一マイクロホンの構成では、このシステムは続いて、1つのマイクロホンから記録された楽曲を対応する楽曲楽譜に変換する。これは、話し言葉および文章をコンピュータ読み取り可能テキストに変換するテキストトゥスピーチソフトウェアの音楽的な等価物を提供してもよい。サウンド−音符変換として、曲またはメロディが、1つの楽器がプレイしているかのように登録されることになる。
当然のことながら、このシステムの他の実装はさらに、ユーザおよび他のシステムとの相性に関係して、他の種類のインターフェースおよび機能を含んでよい。例えば、入力ポートが、回線レベル入力(例えば、ステレオシステムまたはギターアンプから)、マイクロホン入力、ネットワーク入力(例えばインターネットから)、またはその他のデジタルオーディオコンポーネント用に提供されてもよい。同じく、出力ポートも、スピーカ、オーディオコンポーネント、コンピュータおよびネットワークなどへの出力のために提供されてもよい。さらに、いくつかの実装では、システムは、ユーザ入力(例えば、物理的または仮想のキーパッド、スライダー、ノブ、スイッチなど)および/またはユーザ出力(例えば、ディスプレイ、スピーカなど)を提供してもよい。例えば、インターフェース能力が提供されて、記録、またはシステムによってその記録から抽出されたデータを、ユーザが聴くことができるようにしてもよい。
一実施形態では、本発明の機能は、デジタルコンピュータにインストール可能なアプリケーションを含むソフトウェアにおいて実装される。このソフトウェア実装は、演奏者に入力および出力インターフェースを提供することが好ましい。すなわち、このソフトウェアがインストールされているホストコンピュータは、典型的には、演奏者が、歌うため、または演奏者の楽器をプレイするために読むことができる楽曲楽譜の視覚的表現をもたらすディスプレイを含む。このコンピュータはさらに、典型的には、演奏者のセッションを記録するためのマイクロホンなどの入力インターフェースを含み、記録済みのパフォーマンスを演奏者が聴けるように、スピーカなどの出力インターフェースを含む。このコンピュータ実装は、画像キャプチャを含むことができ、譜表上の音符を含む楽曲楽譜が、光学入力手段によってデジタル化され、続いてこのコンピュータに入力されることが可能である。デジタル化された楽曲楽譜は、OCR技術によって解釈することができ、結果として生じる解釈後のデータは、楽譜の合成オーディオ演奏をもたらすよう処理される。これには、適切な場合は、言葉と適切なピッチとを一致させる合成ボーカル演奏が含まれ、その結果オーディオ演奏は、楽譜の視覚的表現と同期される。以下に提供されるさらなる詳細な説明では、コンピュータソフトウェア実装は、「レベルX」実装と呼ばれるか、または「eMuse X」製品と呼ばれる(「eMuse」という名前は、本発明のあらゆる権利の譲受人、Princeton,New Jersey,USAのMuseAmi,Inc.の製品実施形態を指す)。
別の実施形態では、本発明の機能は、ディスプレイ、入力インターフェース、オーディオおよび視覚出力インターフェース、ならびにOCR画像解釈インターフェースを含むことができるハンドヘルド装置において記録される。このハンドヘルド装置実装は、各種の便利なユーザコントロールノブと、装置機能の便利なナビゲーションのための機構とを含む。ディスプレイは、ユーザによる機能選択のためのメニューオプションの視覚的表現をサポートする。
以下でさらに記載されるように、コンピューティング装置は、外部ソースから楽曲楽譜データを受信し、続いてその楽曲楽譜データの合成オーディオ演奏と、楽曲楽譜の同期された視覚的表現とをもたらすことによって、楽曲楽譜データを解釈および処理する。
外部ソースは、楽曲楽譜データをネットワーク接続経由でコンピューティング装置に提供する、ネットワークデータソースで構成されることが可能である。ネットワーク接続は、コンピューティング装置と、ネットワークとの間の、無線接続による通信で構成されることが可能である。
楽曲楽譜データは、記録済み媒体を取り込んでその記録済み媒体から楽曲楽譜データを取得するコンピューティング装置の読み取り機に、記録済み媒体を取り込むことによって、記録済み媒体から読み取られることが可能である。記録済み媒体は、合成楽曲制作のMIDI規格に従った合成オーディオ演奏向けの、十分なデータを含む。すなわち、コンピューティング装置は、楽曲楽譜を特定するデータを受信することができ、選択されたテンポ、音色、音部記号、調号、拍子記号および同様のもので、対応する楽音を生成または合成することができる。記録済み媒体は、フラッシュメモリ装置を含むことができる。
コンピューティング装置には、楽曲楽譜のユーザパフォーマンスを記録して、その記録されたユーザパフォーマンスの再生を提供する能力を提供することができる。ユーザパフォーマンスの再生は、合成楽曲楽譜演奏とは独立して生じること、または同時に生じることが可能である。さらに、ユーザパフォーマンスの再生は、記録済みのユーザパフォーマンスに対応する音符の視覚表現と共に提供されることが可能である。このようにして、「聴音」機能が提供される。
1つの代案では、合成オーディオ演奏と、楽曲楽譜の同期された視覚的表現との両方を生成するために装置によって使用される楽曲楽譜データは、楽曲楽譜のデジタル画像を光学的に取り込み、続いてそのデジタル情報を解釈および処理して、適切な音符を表すデータの集合をつくり出し、そうして楽曲楽譜に対応するデータを生成する装置によって取得されてもよい。
さらに、楽曲楽譜データの合成オーディオ演奏の特性を決定する楽曲文脈情報が提供されることが可能であり、そのすべてがユーザによって調節されてもよい。当該の楽曲文脈情報は、複数の調号、拍子記号音色、テンポ、および、レガート、クレッシェンド、リタルダンドなどの表現用語を含むことができる。
別の代案では、楽曲楽譜データのオーディオ再生と、音符の視覚的表現とを作り出すことは、ネットワークデータソースと通信することで達成される。必要に応じて、ネットワークデータソースは、楽曲楽譜データをコンピューティング装置に提供する。さらに別の代案では、ネットワークデータソースは、コンピューティング装置に、楽曲楽譜データの合成オーディオ演奏の楽曲特性を決定する楽曲文脈情報を提供することができる。さらに、ネットワークデータソースは、楽曲文脈情報を無線接続によって提供することができる。
1つの代案では、楽曲楽譜データの合成オーディオ演奏と、楽曲楽譜の同期された視覚的表現とを作り出すことは、コンピューティング装置の読み取り機に記録済み媒体を挿入することによって達成される。必要に応じて、コンピューティング装置は、記録済み媒体から楽曲楽譜データを取得する。さらに、記録済み媒体は、楽曲楽譜データの合成オーディオ演奏の楽曲特性を決定する楽曲文脈情報も、コンピューティング装置に提供することができる。
1つのオプション機能は、楽曲楽譜の、ユーザの楽器および/またはボーカルパフォーマンスの記録を提供することである。別の代案は、MIDI規格に従って合成オーディオ演奏を作り出すことである。さらに、視覚的表現を作り出すことは、対応する合成オーディオ演奏と同期された楽曲楽譜を表示することから成ってもよい。別のオプションは、楽曲楽譜データの視覚的表現と、オーディオ演奏との両方、および、記録済みユーザパフォーマンスのオーディオコンポーネントと、ユーザパフォーマンスによって生成された楽曲楽譜の同期された対応する視覚表示との両方の再生という、同期化された同時再生を提供することである。
本発明に従って、コンピューティング装置は、楽曲楽譜を光学的にデジタル方式で取り込み、デジタル画像を解釈して、このデジタル方式で取り込まれた楽曲楽譜に対応する楽曲楽譜データをコンピューティング装置用に生成し、楽曲楽譜データの合成オーディオ演奏と、楽曲楽譜の同期された視覚的表現とを作り出すことができる。コンピューティング装置は、楽曲楽譜データの合成オーディオ演奏の楽曲特性を決定するためにこのコンピューティング装置によって使用される、楽曲文脈情報を受信することができる。上述の代わりの実施形態と同様に、楽曲文脈情報は、複数の調号、拍子記号音色、テンポ、および、レガート、クレッシェンド、リタルダンドなどの表現用語などを含むことができる。これらは、ユーザによって、楽曲楽譜データの合成オーディオ演奏の楽曲特性を決定するために選択されることが可能である。オプションとして、コンピューティング装置は、光学的にデジタル方式で取り込まれた楽曲楽譜から楽曲文脈情報を特定し、さらに任意選択で、ネットワークデータソースから楽曲文脈情報を取得することができる。必要に応じて、ネットワークデータソースは、このコンピューティング装置との無線接続によって楽曲文脈情報を提供する。
コンピューティング装置には、合成演奏および/またはユーザによって記録されたパフォーマンスのオーディオ再生用に、この装置所有のラウドスピーカが提供されることが可能である。さらに、この装置は、ヘッドホンまたは外付けラウドスピーカまたは同様のものに接続するための出力ジャックを含むことができ、さらに、装置がオーディオパフォーマンスを無線サウンド再生システム(無線コンポーネント対応となっているホームステレオシステムなど)に伝送できるようにする無線伝送能力が提供されることも可能である。装置は、所定の長さの楽曲楽節を格納可能にするのに十分なコンピューティングメモリを有する。
以下のさらなる詳細な説明は、ハンドヘルド装置実装における機能の様々な実装を参照するが、それぞれ、「レベル1」および「レベル2」または「eMuse1」および「eMuse2」と呼ばれる。
以下の説明では、一連のデジタルコンピューティング装置にインストール可能な楽曲再生ソフトウェアについて記載し、さらに、ハンドヘルドシートミュージック読み取り装置の実施形態についても記載する。本願明細書において、これらは集合的にeMuse製品と呼ばれる。
図11は、ハンドヘルドの電池式「簡単処理」コンシューマ電子装置1100として、製品の実例となる実施形態を示す。この装置は、シートミュージックから、選択された楽曲楽節の画像を、数小節またはページ全体でさえも取り込み、その楽節をデジタル方式で形式設定して符号化し、続いてその選択された楽節をプレイするが、これはすべてリアルタイムで事実上瞬時に行われる。再生サウンドは楽器特有であり、ユーザによって選択された音色(例えば、ピアノ、バイオリン、フルートなどのサウンド)でプレイする。複数の音色を同時にプレイ可能である。装置1100は、調号、拍子、音量およびテンポなどの楽曲の変化を認識し、フォルテ、ピアノ、クレス(cress.)、レガートおよび同様のものなど、音楽の平凡な用語を考慮するよう設計されている。LCD画面1102は、楽曲楽節1104を、それを装置が再生しているときに表示し、プレイされる音符はそれぞれ、残りの楽曲楽譜のからその音符を区別するよう、他と異なる色で強調表示される。
図11の装置1100は、デジタル「音楽カード」機能を組み入れており、これは、1つ以上の記録済みまたはダウンロード済みの楽曲作品を用いて符号化されたデータカード(図示せず)の挿入をサポートし、特定の小節を迅速に参照できるようにする。データカードは、典型的にセルラー電話およびデジタルカメラによって使用されるものなどの記録可能媒体を含むことができる。データカードは、装置1100のカードスロット1106に収容される。装置1100はさらに、符号化された楽曲作品を表すデジタルデータを処理する。ダウンロード済みのファイルは、装置のメモリ内に保存することもできる。符号化された楽曲作品は、豊かなリスニング体験を提供し、楽曲楽譜の特定の小節を迅速に参照できるようにする。
装置1100の記録/再生機能は、ユーザが、記録されたパフォーマンスを、楽曲楽譜を基準として直ちに評価できるようにする。すなわち、装置1100は、楽曲作品のユーザのパフォーマンスを記録して、そのユーザのパフォーマンスを、受信済みの楽曲作品の再生と共に(すなわち同時に)再生することができる。ユーザパフォーマンスの再生は、「聴音」機能を提供する、対応する視覚的表現と共に提供されことが可能である。メトロノームおよび楽曲の音程チューナーの両方の能力も、この装置に組み込まれ、さらに装置は、「ミュージックマイナスワン」機能向けに調節されることが可能である。「ミュージックマイナスワン」機能は、複数譜表または複数パートの楽曲作品で、ユーザが、その作品のどのパート(単数または複数)をMIDIインターフェースによって再生するかを決定できるようにする。これによって、ユーザは、装置に合わせて特定のパートをプレイすること/歌うことができるようになる。
図11は、蓋または上部1108の下面に組み込まれたLCD画面1102を有する押し上げ式の蓋1108を備えた、ハンドヘルド装置としての装置1100を示す。装置はさらに、楽曲再生用のスピーカ1110(図11にはステレオペアが示されている)と、ユーザパフォーマンスを記録するためのマイクロホン1112とを内蔵している。画像キャプチャ能力は、図11に示されているように実装可能である。押し上げ式の蓋1108がカメラシステムを含み、カメラシステムは、押し上げ式の蓋1108の外側表面に取り付けられた光学レンズを含み、画像キャプチャを目的としてレンズシャッターボタン1114によってトリガされる。音量1116、再生テンポ1118、メニューナビゲーション1120、および位置1122の調節用サムホイールとして示されている、様々なユーザインターフェースコントロールが提供される。装置1100には、ネットワークまたは他の装置とより容易に接続できるよう、USBポート1124が提供されることが可能である。オン/オフスイッチ1125は、装置1100をオン・オフする。
図11に示されているように、楽曲楽譜の演奏(合成パフォーマンス)およびユーザのパフォーマンスの再生を含む機能の制御用に複数のコントロールボタンも提供されている。図11は、プレイ/一時停止1126、停止1128、次/リセット1130、および記録1132という機能用の例示的コントロールボタンを示す。図11は、タイミングインジケータを示し再生テンポ1118と関連があるメトロノーム表示ディスプレイ1134も示す。メトロノーム機能、および装置1100のその他の機能の選択は、メニューサムホイール1120および/または位置サムホイール1122の処理と併せて、LCD画面1102のメニューナビゲーションを用いて遂行される。選択は、次/リセットコントロールボタン1130の処理によって実現される。キーボードまたはキーパッド1135は、キーパッド1135の専用ファンクションキーを介した入力、またはキーパッド1135からの英数字入力に使用することができる。LCD画面1102には、楽曲楽節1104からの音符のグラフィック画像が提供され、これは画面中を横断し、各音符がプレイされるときにディスプレイ内に個々の音符が画面上に現れるか、または強調表示される。ディスプレイは、楽曲楽節1104がプレイされるときに、楽曲の所定数の音符または小節が表示されるよう、再生中、引き延ばされた楽曲譜表画像を提供することが好ましい。
装置1100の一実施形態では、デジタルカメラシステム1114が、楽曲楽譜内の楽節の画像(単一の音符、いくつかの小節、またはページ全体さえも)を取り込む。デジタルカメラは、装置1100に内蔵可能であり、当業者には周知であろうレンズと像変換器との組み合わせを含んでもよい。LCD画面1102は、取り込まれる小節をユーザが正確に決定できるようにする。装置は、単一譜表の楽曲ライン、二重奏、三重奏、四重層、または指揮者の総譜でさえ読み取ることができる。装置1100は、同時に数の音色を提供する。
OCRモジュールは、デジタル化画像データを含む、楽曲の抜粋の「写真」を受信してもよい。調号および拍子などの追加の重要な楽曲文脈情報も、楽曲楽譜のデジタル画像を介して、または有効な調号および拍子記号すべてを一覧にした「チートシート」(例えば、ウェブサイトからダウンロードされ、次に無線で、またはUSBポートを介して装置に伝送される――下記参照)を介して、OCRモジュールへ送信される。この「チートシート」はさらに、ユーザがセクションから所望の音色(単数または複数)を選択することができる、またはユーザが所望の音色(単数または複数)を手動で指定(入力)することができるセクションを含んでもよい。
別の実施形態では、装置1100は、MIDIシンセサイザーの機能を提供してもよい。OCRモジュールは、合成サウンドを作り出すMIDIモジュールにサウンド情報を送信してもよい。これは、調節可能な音色を提供する。ユーザは、楽曲の特定の楽節または一部分の、楽器の種類(ピアノ、バイオリン、フルートなど)を指定する。このモジュールはさらに、ユーザが、ピッチの変化なしで、楽譜に示されているメトロノーム(あれば)よりもゆっくりと(または速く)その楽節を聴くことができるように、調節可能なテンポを提供する。装置は、それ自体の小型ラウドスピーカを介して再生するが、さらにヘッドホンおよび/または外付けスピーカ用のヘッドホンジャック1134および無線能力も有する。
様々な実施形態において、装置1100は、特定の視覚表示能力を提供してもよい。例えば、LCD画面1102は、取り込まれている(撮影されている)小節が、聴こうとしている小節であることをユーザが確認する助けになってもよい。カーソル1136を備えたLCD画面1102は、楽節が再生されるとき、ユーザによって撮影された楽節から、または格納済みデータを備える音楽カードから、楽曲楽節1104を表示する。カーソルは、リアルタイムで楽曲楽節1104がプレイされているときに、指定されているテンポには関係なく、プレイされている現在の音符(単数または複数)の楽譜内での正確な楽曲位置を示す。従来の種類の移動するカーソルではなく、代わりに、カーソル1136はプレイされている音符を、その音符を強調表示すること(例えば、その音符をより明るくすること)、またはその音符がプレイされるときに他の音符とは異なる表示色を与えることによって示すことができる。別のオプションは、特に単一ラインの楽曲楽節1104に関して、LCD画面1102が音符1138の名前を示すことである(英語とソルフェージュとの両方で)。楽曲楽節1104が、同時に存在する複数の楽曲ラインから成る場合、ユーザは、音符1138の名前が表示されるラインを指定することができる。
LCD画面1102はさらに、プレイされるよう選択された楽曲楽節1104のインジケータを示してもよい。このインジケータは、楽節マーカー1139と呼ばれる。図11では、楽節マーカー1139が、丸で囲まれた数字「1」として示されている。この数字「1」は、楽曲楽節1104の第1小節が現在表示されていることを示し、丸は、再生が第1小節で開始されたことを示す。再生が次の小節に続くと、「2」が「1」の代わりに表示されるが、この「2」には丸が付かないことになる。
別の実施形態では、装置1100は、記録センサ機能を提供してもよい。例えば、マイクロホン1112は、問題になっている楽曲楽節1104をユーザ自身がプレイする(および/または歌う)のをユーザが記録して、直ちにその記録を再生し、ユーザのパフォーマンスと、装置1100の(すなわち、前もって記録されたか、または合成された演奏の)パフォーマンスとを比較できるように構成されてもよい。この機能は、生徒が音符、調律、リズムおよび強弱を調節する助けとなると考えられる。上述の通り、ユーザのパフォーマンスがマイクロホン1112を介して記録され、「聴音」機能を提供することが可能である。
装置1100のいくつかの実施形態は、無線能力を提供する。例えば、装置1100は、ネットワークおよび他の無線対応装置との無線通信を可能にし、文脈情報を備えた符号化楽曲ファイルのダウンロードを可能にするよう動作可能であってもよい。本願明細書に記載される機能は、例えば、携帯用の音楽インタラクションのために、PDAまたはスマートフォンなどの無線プラットフォームにインストールされたeMuseソフトウェアによって提供されることが可能である。さらに、装置1100は、ホームPCおよび/またはステレオシステム、または別のコンポーネントの計算およびメモリ(およびオーディオ再生)を使用してもよい。
別の実施形態では、ユーザのパフォーマンスが装置1100によって記録され、そのユーザのパフォーマンスが音符解釈処理を受け、ユーザの記録済みパフォーマンスに対応する音符の表示を作り出すもとのデータが生成されてもよい。このようにして、装置は、「聴音」を行うことができ、ユーザによる生のオーディオパフォーマンスを、そのパフォーマンスに対応する楽曲楽譜の視覚表示に変換することができる。したがって、装置の楽曲解釈機能は、光または電子ネットワーク通信によって受信される両方の楽曲楽譜データを処理することができ、マイクロホンによって取り込まれたユーザの生のパフォーマンスによってつくり出される楽曲楽譜データを処理することができる。
本願明細書に記載されているソフトウェアは、様々なプラットフォームで使用可能である。一実施形態では、eMuseの複数の側面が、ハイエンドの携帯電話に組み込まれ、携帯電話のカメラが楽曲楽譜内の特定の楽節を撮影する。次に、取り込み画像は、圧縮されてリモートサーバへ送信され、リモートサーバは、その画像データに対してOCR動作を実行して、画像を対応する音符情報へと解釈する。次に、サーバは、midiファイルおよびグラフィックファイルの両方を送り返し、このバージョンのeMuseが、撮影された楽曲をプレイして、音符がプレイされるときに音符をLCDに表示することができるようにする。
図12は、図11の装置1100の実施形態の動作を示すプロセスフロー図の簡略化した例を提供する。最初の動作で、楽曲楽譜のデジタル表現が装置に提供される。デジタル表現は、装置と共に動作するデジタルカメラなどのデジタル画像キャプチャ装置1204を使用してデジタル方式で取り込まれる印刷されたページなど、装置への視覚的表現1202によって受信されることが可能である。次に、光学入力1206から生じるデジタルデータが、音符データ解釈プロセス1208に提供される。あるいは、楽曲楽譜のデジタル表現は、楽曲楽譜に対応するデジタルデータの無線伝送もしくはネットワーク上でのデータの有線伝送、またはメモリカードもしくは他の媒体などのストレージ媒体を介した入力などによって、電子的に1210提供されることが可能である。次に、楽曲楽譜1210の電子的に受信されたバージョンが、音符データ解釈プロセス1208に提供される。
音符データ解釈プロセス1208は、楽曲楽譜に対応するデジタルデータを受信し、それを処理して、楽曲楽譜を特定して適切なハードウェアによる楽譜の再現を可能にするのに十分な、音符と、付随する情報との組を作り出す。プロセス1208は、楽曲楽譜デジタルデータ1206、1210を認識して適切な変換データを作り出すよう機械学習技術で訓練された処理装置を含む。プロセス1208は、例えば、解釈プロセスの精度を実質的に100%の精度まで上げるために、ニューラルネットワークソフトウェア工学技術を使用して訓練可能である。本発明に従って、入力楽曲楽譜データは、ユーザに対するリアルタイムのオーディオおよび視覚的表現用に作り出す必要がある。したがって、入力楽曲楽譜データの解釈は、リアルタイムでなければならず、100%の精度の解釈(変換)に近づかなくてはならない。プロセス1208は、光学式文字認識(OCR)技術を利用するが、音符の認識およびデジタルデータ(電子または光学スキャンから得られる)を適切な表現に解釈するよう適応している。
解釈プロセス出力1212は、装置のディスプレイ画面1214に提供される楽曲楽譜の視覚的表現、およびさらに、装置のスピーカまたは同様のものを介したオーディオ表現のために適切な装置システムおよびハードウェア1216に提供される楽曲楽譜の合成オーディオ演奏を含む。
(他の能力)
当然のことながら、上述の能力に加えて、他に多数の能力が考えられる。さらなる処理能力の1つの組は、ユーザに提供されるカスタマイズ性を高めることを含む。例えば、実施形態は、本発明の様々なコンポーネントおよび方法の、強化されたカスタマイズ性を可能にしてもよい。
いくつかの実施形態では、様々な理由から、様々な閾値、ウィンドウ、ならびにコンポーネントおよび方法に対するその他の入力はそれぞれ、調節可能とされてもよい。例えば、ユーザは、調判断が頻繁に行われすぎているように思われる場合に、調抽出ウィンドウを調整できてもよい(例えばユーザは、調からの短時間の離脱には、調の変更として楽譜上に現れてほしくないこともある)。別の例として、記録は、記録時のパフォーマンス中に使用される60Hzの電力から生じる背景雑音を含むこともある。ユーザは、この60Hzピッチを楽譜上に低音として表さないよう、様々なフィルタアルゴリズムを調節して、この60Hzピッチを無視することを希望するかもしれない。さらに別の例では、ユーザは、音符のピッチ分解能を調節するために、ピッチが量子化されるミュージックビン(music bins)の分解能を調節してもよい。
他の実施形態では、より低いカスタマイズ性がユーザに提供されてもよい。一実施形態では、ユーザは、表現精度レベルを調節することができてもよい。ユーザは、テンポおよびピッチの様な個々の楽譜表現構成要素の精度の選択を含む1つ以上のパラメータに基づき、システムが精度のより高い楽譜表現を生成するべきか、またはより低い楽譜表現を生成するべきかを入力してもよい(例えば、物理的または仮想スライダー、ノブ、スイッチなどを介して)。
例えば、最小の音価が16分音符となるように、いくつかの内部設定が連携してもよい。表現精度を調節することによって、より長いまたはより短い持続時間が検出され、最小値として表されてもよい。これは、演奏者が厳密に一定の拍で演奏していない場合(例えば、打楽器のセクションがない、メトロノームがないなど)に有用となり得、システムの精度が高すぎると、望ましくない表現(例えば複々付点音符)を生じることもある。別の例として、最小のピッチ変化が半音となる(すなわち、半音階での音符)よう、いくつかの内部設定が連携してもよい。
さらに他の実施形態では、さらに低いカスタマイズ性がユーザに提供されてもよい。一実施形態では、ユーザは、自らが初心者ユーザであるかまたは上級ユーザであるかを入力してもよい。別の実施形態では、ユーザは、システムの感度が高くあるべきかまたは低くあるべきかを入力してもよい。どちらの実施形態でも、多数のコンポーネントまたは方法において、多数の異なるパラメータが、所望のレベルに合うよう共に調節されてもよい。例えば、或る場合には、歌い手が、ピッチと持続時間のあらゆる揺れを正確に書き起こしたいこともある(例えば、間違いを発見するため、または特定のパフォーマンスを、そのすべての、感覚の微妙な違いとともに、忠実に再現するための練習の助けとして)。その一方で、別の場合には、歌い手は、システムに小さなずれを無視させることで、公開用の読みやすい楽譜を生成したいこともある。
特定の実施形態では、カスタマイズ性のレベル、機能の種類、およびシステムまたは方法のその他の側面は、種々の方法で決定されてよい。一実施形態では、ユーザは、そうした側面を決定するために、特定のプリファレンスを選択しても、特定の物理的または仮想コントロールを処理しても、または別の方法でシステムと能動的に対話してもよい。別の実施形態では、システムが、様々な側面を自動的に選択してもよい(例えば、ユーザに関するログインおよび/またはプロフィール情報から、またはユーザのシステムの使用パターンからなど)。
さらなる能力のもう1つの組は、様々な種類の入力を使用して、入力オーディオ信号の処理を精緻化するか、または別の形でこの処理に影響を及ぼすことを含む。一実施形態は、訓練された1つ以上の人工ニューラルネットワーク(ANN)を使用して、特定の判断を精緻化する。例えば、心理音響学的判断(例えば、拍子、調、楽器編成など)は、訓練されたANNを使用するのに適している。
別の実施形態は、ユーザに、複数トラックをレイヤ状にする能力を提供する(例えば、ワンマンバンド)。ユーザが、ドラムトラックを演奏することによって開始してもよく、このトラックは、本発明のシステムを使用してリアルタイムで処理される。次に、ユーザは連続してギタートラック、キーボードトラック、およびボーカルトラックを演奏し、このそれぞれが処理される。場合によっては、ユーザは一緒に処理する複数のトラックを選択してもよく、他の場合には、ユーザは各トラックが別々に処理されるよう選んでもよい。続いて、いくつかのトラックからの情報が、他のトラックの処理を精緻化または指示するために使用されてもよい。例えば、ドラムトラックが独立して処理され、高信頼度のテンポおよび拍子情報が生成されてもよい。次に、テンポおよび拍子情報が、音符の持続時間および音価をより正確に判断するために他のトラックと共に使用されることも可能である。別の例として、ギタートラックは、小さな時間ウィンドウの間に多数のピッチを提供することもあり、これによって、調の判断が容易になることもある。次に、調の判断は、調のピッチの決定をキーボードトラックの各音符に割り当てるために使用されてもよい。さらに別の例として、複数トラックが、1つ以上の次元において位置合わせ、量子化、または正規化されてもよい(例えば、複数トラックが、同じテンポ、平均音量、ピッチの範囲、ピッチ分解能、最小音符持続時間などを有するように正規化されてもよい)。さらに、「ワンマンバンド」のいくつかの実施形態では、ユーザが、1つの楽器を使用してオーディオ信号を生成し、次に、システムまたは方法を使用して、単数または複数の異なる楽器に変換する(例えば、四重奏曲の4つのトラックすべてを、キーボードを使用してプレイして、そのキーボード入力を、システムを使用して弦楽四重奏に変換する)。場合によっては、これには、音色の調節、楽曲ラインの移調、および他の処理が必要となり得る。
さらに別の実施形態は、楽曲入力信号に付帯的な入力を使用して、処理を精緻化または指示する。一実施形態では、ジャンル情報がユーザ、別のシステム(例えばコンピュータシステムもしくはインターネット)、またはデジタルオーディオファイル内のヘッダ情報から受信され、様々なコスト関数を精緻化する。例えば、調のコスト関数は、ブルース、インドの古典音楽、フォークなどによって異なってもよい。または、異なる楽器編成の可能性は異なるジャンルで高くなると考えられる(例えば、「オルガンの様な」サウンドは、讃美歌音楽ではオルガンである可能性が高く、ポルカ音楽ではアコーディオンである可能性がより高いと考えられる)。
さらなる能力のもう1つの組は、複数のコンポーネントまたは方法にわたって情報を使用して、複雑な判断を精緻化することを含む。一実施形態では、楽器同定方法の出力が、特定されている楽器の既知の能力または限界に基づいて判断を精緻化するよう使用される。例えば、楽器同定方法が、楽曲ラインはピアノでプレイされている可能性が高いと判断すると仮定する。一方、ピッチ同定方法は、その楽曲ラインが、速くて浅いビブラート(例えば、検出された調のピッチ指示の1または2半音のみの範囲内でのピッチの震え)を含むと判断する。これは典型的にはピアノで作り出すことができる効果ではないため、システムは、このラインが別の楽器によりプレイされていると判断してもよい(例えば、電子キーボードまたはオルガン)。
さらなる能力のさらにもう1つの組は、システムおよび方法の様々な機能を使用して、着信音(例えば、携帯電話、ボイスオーバーインターネットプロトコル電話、およびその他の装置の)を処理することを含む。一実施形態では、分解された楽曲構成要素が着信音の規格に適合するように処理される。例えば、いくつかの装置は、着信音の帯域幅、ポリフォニーの深さ、および長さに制限があるかもしれない。したがって、場合によっては、システムが、着信音の規格に適合するよう共同制作プロジェクトを自動的に調節してもよく、または、そうした規格に従ってユーザを導くのに望ましい情報または必要な情報を用いて、ユーザにプロンプトで指示を求めてもよい。その結果、ユーザは、例えば着信音を聴くこと、着信音を携帯電話または他の装置(またはストレージ場所)にダウンロードすること、ネットワーク経由で他者と着信音を共有すること、着信音をオークションにかけることまたは販売することなどができると考えられる。
さらなる能力のさらにもう1つの組は、オーディオまたは楽譜出力を、販売またはオークション用の製品として構成することを含む。例えば、共同制作ポータルは、楽曲オークション機能または楽曲ストア機能を含んでもよい。買い物機能は、著作権使用料および価格設定、投票(例えば、所定の期間中で最も人気の高いものを特集する、または勝者がポータル上で特別な特集を得る)、装置または規格での検索、異なる支払い処理、安全な電子商取引、著作権保護およびデジタル著作権管理などに関する能力を含んでもよい。
さらに、さらなる能力のもう1つの組は、分解または受信された楽曲構成要素を使用して、類似の作品を検索し、著作権侵害を回避(または検出)することを含む。この能力は、この特定の結果を求めて検索を調整するために、システムに追加モジュールが組み込まれること、または方法に追加ステップが組み込まれることを必要とすることもある。例えば、いくつかの実施形態では、著作権法およびポリシーに関する情報が提供され、システムおよび方法が、潜在的な侵害があるかどうかを判断する助けになってもよい。
共同制作ポータルのいくつかの実施形態は、この種類および他の種類の検索機能を含んでもよい。例えば、「クリップアート」の音楽的な類似物を提供することが望ましいこともあり、それによって、共同制作者は、特定の種類の楽曲テーマ(例えば、「Hawaii Five−O」ドラムフィルなど)を検索して、プロジェクトに追加することもできる。他の種類の情報がさらに検索されてもよい。例えば、共同制作者は、類似した作品を見つけて楽譜表現を見て、その作品がどのような形でオーケストラ用に編曲されたのかを判断したいことも、または、類似したコードの並びを見て、類似したコードの並びを解釈している任意のジャスボーカルの即興を見つけ、珍しいボーカルラインの考案の助けにしたいこともある。当然のことながら、この機能および他の機能を提供するために、楽曲ベースの検索の多数の方法が考えられる。楽曲ベースの検索のいくつかの実施形態が、Robert D.Taubらの、「MUSIC−BASED SEARCH ENGINE」という題の米国特許出願第 号明細書により詳しく記載されており、これは、本願と当時に提出されたものであり、あらゆる目的において、参照によって本願明細書に引用したものとする。
さらなる能力のさらにもう1つの組は、楽曲をビデオ情報に追加することを含む。いくつかの実施形態では、共同制作ポータルは、ユーザがビデオデータを提供できるようにしてもよい。例えば、ユーザは、共同制作プロジェクトに対するインスピレーション、共同制作プロジェクトに同期させる楽曲ビデオ、共同制作者たちが楽譜を書いているより大きなビデオプロジェクト(例えば映画)の中のセクションなどとして使用するためのビデオクリップを提供してもよい。別の例では、ユーザは、共同オーディオプロジェクトをビデオプロジェクトに同期させる際に共同制作者が使用する、特定のタイムコード情報(例えば、Society of Motion Picture and Television Engineers(「SMPTE」)タイムコード)を提供してもよい。
当然のことながら、本発明によれば、このようなさらなる処理能力が多数考えられる。なお、さらに、上記で説明された方法、システムおよび装置は、単に例であるものとする。様々な実施形態は、必要に応じて様々な手順またはコンポーネントを省略、置換、または追加してよいということを強調しなければならない。例えば、当然のことながら、代わりの実施形態では、本方法が説明とは異なる順序で実行されてもよく、様々なステップが追加、省略されても、または組み合わされてもよい。さらに、特定の実施形態に関して説明された特徴が、他の様々な実施形態に組み合わされてもよい。実施形態の種々の側面および構成要素が、同様の形で組み合わされてもよい。さらに、技術は進化するものであり、したがって、構成要素の多くは例であり、本発明の範囲を制限すると解釈されてはならないということを強調しなくてはならない。
説明の中では、実施形態が完全に理解されるよう具体的な詳細事項が与えられた。しかし、当業者には当然のことながら、実施形態はこれらの具体的な詳細事項を用いずに実践されてもよい。例えば、実施形態を分かりにくくすることを避けるために、周知の回路、プロセス、アルゴリズム、構造および技術を、不必要な詳細事項なしで示してきた。さらに、本願明細書で与えられた見出しは、単に様々な実施形態の説明を明快にするのを助けることを目的としており、本発明の範囲または本発明のいかなる部分の機能も制限するものと解釈されてはならない。例えば、特定の方法またはコンポーネントは、たとえそれらが異なる見出しの下で説明されていても、他の方法またはコンポーネントの一部として実装されてもよい。
なお、さらに、実施形態は、フロー図またはブロック図として示されるプロセスとして記載されていることもある。それぞれ、動作を逐次プロセスとして記載しているかもしれないが、動作の多くは、並行して、または同時に実行可能である。さらに、各動作の順序は配列し直されてもよい。プロセスは、図に含まれていない追加のステップを有してもよい。

Claims (29)

  1. ネットワーク経由で楽曲寄与を共同処理する方法であって、
    楽曲寄与をポータルにおいて受信することであって、該楽曲寄与は、楽曲構成要素の組を含み、該ポータルは、該ネットワーク経由でアクセス可能である、ことと、
    複数の共同制作リクエストを該ネットワーク経由で該ポータルにおいて受信することであって、該複数の共同制作リクエストのそれぞれは、少なくとも部分的に該楽曲寄与に関係しており、
    該複数の共同制作リクエストの少なくとも第1の部分は第1のユーザからであり、該複数の共同制作リクエストの少なくとも第2の部分は第2のユーザからであり、
    少なくとも1つの共同制作リクエストが該楽曲構成要素の組に関係する、ことと、
    該楽曲寄与の少なくとも一部に関連し、該共同制作リクエストのうちの少なくとも1つに応答して、該ポータルにおいて楽曲出力を生成することと
    を含む、方法。
  2. 前記楽曲寄与を前記ポータルにおいて受信することであって、該楽曲寄与はオーディオ信号を含む、ことと、
    前記楽曲構成要素の組の少なくとも一部を生成するために、該オーディオ信号を分解することと
    をさらに含む、請求項1に記載の方法。
  3. 前記楽曲寄与は第1の楽曲寄与であり、前記方法は、
    第2の楽曲寄与を前記ポータルにおいて受信することであって、該第2の楽曲寄与はオーディオ信号を含む、ことをさらに含む、請求項1に記載の方法。
  4. 前記楽曲構成要素の組に少なくとも部分的に基づいて、前記第2の楽曲寄与を編集することをさらに含む、請求項3に記載の方法。
  5. 前記楽曲構成要素の組の少なくとも一部に基づいて、前記第1の楽曲寄与と、前記第2の楽曲寄与とを同期させることをさらに含む、請求項3に記載の方法。
  6. 前記楽曲寄与は、前記複数のワークステーションのうちの1つから、前記ネットワーク経由で前記ポータルにおいて受信される、請求項1に記載の方法。
  7. 前記楽曲寄与は、前記複数のワークステーションに対して遠隔のデータ記憶装置から、前記ポータルにおいて受信される、請求項1に記載の方法。
  8. 前記楽曲寄与と、前記編集ステップの結果とに少なくとも部分的に基づいて、出力データの組を生成することをさらに含む、請求項1に記載の方法。
  9. 前記出力データの組はオーディオ信号データを含む、請求項8に記載の方法。
  10. 前記出力データの組は楽曲構成要素データを含む、請求項8に記載の方法。
  11. 前記出力データの組は楽譜表現データを含む、請求項8に記載の方法。
  12. 前記出力データの組をデータ記憶装置に格納することをさらに含む、請求項8に記載の方法。
  13. ログイン情報を前記ネットワーク経由でユーザから受信することをさらに含み、該ユーザは前記複数のワークステーションのうちの1つを使用する、請求項1に記載の方法。
  14. 前記ログイン情報に少なくとも部分的に基づいて、前記ユーザのアクセス権の組を判断することをさらに含む、請求項13に記載の方法。
  15. 前記ログイン情報に少なくとも部分的に基づいて、前記ユーザのプリファレンスの組を判断することをさらに含む、請求項13に記載の方法。
  16. ネットワーク経由で楽曲寄与を共同処理するシステムであって、該システムは、
    ポータルであって、該ポータルは、複数のユーザによって該ネットワーク経由でアクセス可能であり、かつ、
    共同制作ユニットであって、
    複数の楽曲寄与を受信することであって、該複数の楽曲寄与のうちの少なくとも1つが楽曲構成要素の組を含む、ことと、
    複数の共同制作リクエストを受信および解釈することであって、該複数の共同制作リクエストのうちの少なくとも第1の共同制作リクエストが該ネットワーク経由で第1のユーザから受信され、該複数の共同制作リクエストのうちの少なくとも第2の共同制作リクエストが該ネットワーク経由で第2のユーザから受信される、ことと
    が動作可能である、共同制作ユニットと、
    編集ユニットであって、該複数の共同制作リクエストに少なくとも部分的に基づいて、楽曲構成要素を編集する編集能力の組を提供するよう動作可能である、編集ユニットと、
    出力生成ユニットであって、該楽曲寄与および該複数の共同制作リクエストに少なくとも部分的に基づいて、出力データを生成するよう動作可能である、出力生成ユニットと、
    ネットワークインターフェースユニットであって、複数のワークステーションと該ポータルとの間の該ネットワークを介した通信を促すよう動作可能である、ネットワークインターフェースユニットと
    を含む、ポータルを
    含む、システム。
  17. 楽曲寄与を受信し、該楽曲寄与を楽曲構成要素の組へと分解するよう動作可能である、オーディオ分解ユニットをさらに含む、請求項16に記載のシステム。
  18. 前記オーディオ分解ユニットは、前記複数のワークステーションのうちの少なくとも1つにある、請求項17に記載のシステム。
  19. 楽譜画像を受信し、
    該楽譜画像を楽曲構成要素の組へと分解するよう動作可能である楽譜分解ユニット
    をさらに含む、請求項16に記載のシステム。
  20. 前記楽譜分解ユニットは、前記複数のワークステーションのうちの少なくとも1つにある、請求項17に記載のシステム。
  21. 前記ネットワークインターフェースユニットは、前記ワークステーションのうちの1つのユーザからログイン情報を受信するようさらに動作可能である、請求項16に記載のシステム。
  22. 前記ネットワークインターフェースユニットは、前記ポータルと前記複数のワークステーションとの間に安全な仮想接続を提供するようさらに動作可能である、請求項16に記載のシステム。
  23. 前記ポータルと動作的に通信しており、かつ、オーディオデータ記録の組を格納するよう動作可能であるデータ記憶装置であって、各オーディオデータ記録は前記複数の楽曲寄与のうちの少なくとも1つと関連している、データ記憶装置をさらに含む、請求項16に記載のシステム。
  24. 前記データ記憶装置は、前記ネットワークを介して前記ポータルと動作的に通信している、請求項23に記載のシステム。
  25. 前記ネットワークインターフェースユニットは、前記ポータルと前記データ記憶装置との間に安全な仮想接続を提供するようさらに動作可能である、請求項24に記載のシステム。
  26. 前記出力生成ユニットによって生成される前記出力データは、オーディオデータ、楽曲構成要素、または楽譜表現データのうちの少なくとも1つを含む、請求項16に記載のシステム。
  27. 前記ネットワークはインターネットである、請求項16に記載のシステム。
  28. 前記ネットワークはローカルネットワークである、請求項16に記載のシステム。
  29. ネットワーク経由で楽曲寄与を共同処理するポータルの動作を指示するコンピュータ読み取り可能プログラムがそれに記録されているコンピュータ読み取り可能ストレージ媒体であって、該ポータルは、共同制作ユニットと、編集ユニットと、出力生成ユニットと、ネットワークインターフェースユニットとを含み、該コンピュータ読み取り可能プログラムは、以下の:
    該楽曲寄与をポータルにおいて受信することであって、該楽曲寄与は楽曲構成要素の組を含み、該ポータルは該ネットワーク経由でアクセス可能である、ことと、
    該ネットワーク経由で複数の共同制作リクエストを受信することであって、該複数の共同制作リクエストの少なくとも第1の部分は複数のワークステーションのうちの第1のワークステーションからであり、該複数の共同制作リクエストの少なくとも第2の部分は、該複数のワークステーションのうちの第2のワークステーションからである、ことと、
    該楽曲寄与の少なくとも一部に関係する楽曲出力を、該共同制作リクエストのうちの少なくとも1つに応答して該ポータルにおいて生成することと
    に従う、楽曲寄与の共同処理に関する命令を含む、コンピュータ読み取り可能ストレージ媒体。
JP2009549729A 2007-02-14 2008-02-14 配布オーディオファイル編集用ウェブポータル Withdrawn JP2010518459A (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US88981607P 2007-02-14 2007-02-14
US88982107P 2007-02-14 2007-02-14
US2849008P 2008-02-13 2008-02-13
PCT/US2008/054024 WO2008101126A1 (en) 2007-02-14 2008-02-14 Web portal for distributed audio file editing

Publications (1)

Publication Number Publication Date
JP2010518459A true JP2010518459A (ja) 2010-05-27

Family

ID=39684357

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2009549729A Withdrawn JP2010518459A (ja) 2007-02-14 2008-02-14 配布オーディオファイル編集用ウェブポータル
JP2009550141A Withdrawn JP2010521021A (ja) 2007-02-14 2008-02-14 楽曲ベースの検索エンジン

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2009550141A Withdrawn JP2010521021A (ja) 2007-02-14 2008-02-14 楽曲ベースの検索エンジン

Country Status (5)

Country Link
US (3) US7714222B2 (ja)
EP (2) EP2122510A2 (ja)
JP (2) JP2010518459A (ja)
CN (1) CN102867526A (ja)
WO (2) WO2008101130A2 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012098320A (ja) * 2010-10-29 2012-05-24 Astra:Kk マルチトラックデータ編集システム
JP2012113271A (ja) * 2010-11-29 2012-06-14 Yamaha Corp 音楽情報表示装置
JP2013542480A (ja) * 2010-08-23 2013-11-21 ザ パブリック レコード,インコーポレイテッド 一般人タレントを見出し、展開するバーチャルスタジオ
WO2014189084A1 (ja) * 2013-05-21 2014-11-27 ヤマハ株式会社 演奏記録装置
US9311824B2 (en) 2008-02-20 2016-04-12 Jammit, Inc. Method of learning an isolated track from an original, multi-track recording while viewing a musical notation synchronized with variations in the musical tempo of the original, multi-track recording
JP2016128688A (ja) * 2014-12-31 2016-07-14 ゼネラル・エレクトリック・カンパニイ エンジンノイズを位置特定するためのシステムおよび方法
US9761151B2 (en) 2010-10-15 2017-09-12 Jammit, Inc. Analyzing or emulating a dance performance through dynamic point referencing
US9857934B2 (en) 2013-06-16 2018-01-02 Jammit, Inc. Synchronized display and performance mapping of musical performances submitted from remote locations
JP2018511732A (ja) * 2015-04-01 2018-04-26 ゼネラル・エレクトリック・カンパニイ ノックセンサネットワークシステムおよびノイズを特徴づけるための方法

Families Citing this family (310)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050120870A1 (en) * 1998-05-15 2005-06-09 Ludwig Lester F. Envelope-controlled dynamic layering of audio signal processing and synthesis for music applications
WO2004027577A2 (en) * 2002-09-19 2004-04-01 Brian Reynolds Systems and methods for creation and playback performance
IL165817A0 (en) * 2004-12-16 2006-01-15 Samsung Electronics U K Ltd Electronic music on hand portable and communication enabled devices
US20070005699A1 (en) * 2005-06-29 2007-01-04 Eric Yuan Methods and apparatuses for recording a collaboration session
US7945621B2 (en) * 2005-06-29 2011-05-17 Webex Communications, Inc. Methods and apparatuses for recording and viewing a collaboration session
WO2007010637A1 (ja) * 2005-07-19 2007-01-25 Kabushiki Kaisha Kawai Gakki Seisakusho テンポ検出装置、コード名検出装置及びプログラム
WO2007053917A2 (fr) * 2005-11-14 2007-05-18 Continental Structures Sprl Procede de composition d’une œuvre musicale par un non-musicien
SG170021A1 (en) 2006-02-23 2011-04-29 Novocell Inc Compositions and methods useful for culturing differentiable cells
US20090320669A1 (en) * 2008-04-14 2009-12-31 Piccionelli Gregory A Composition production with audience participation
US7459624B2 (en) 2006-03-29 2008-12-02 Harmonix Music Systems, Inc. Game controller simulating a musical instrument
US7538265B2 (en) 2006-07-12 2009-05-26 Master Key, Llc Apparatus and method for visualizing music and other sounds
WO2008095190A2 (en) 2007-02-01 2008-08-07 Museami, Inc. Music transcription
KR100842733B1 (ko) * 2007-02-05 2008-07-01 삼성전자주식회사 터치스크린을 구비한 멀티미디어 재생장치의 사용자인터페이스 방법
WO2008101130A2 (en) * 2007-02-14 2008-08-21 Museami, Inc. Music-based search engine
US20080216638A1 (en) * 2007-03-05 2008-09-11 Hustig Charles H System and method for implementing a high speed digital musical interface
US20080250431A1 (en) * 2007-04-04 2008-10-09 Research In Motion Limited System and method for displaying media files in a media application for a portable media device
US7932454B2 (en) * 2007-04-18 2011-04-26 Master Key, Llc System and method for musical instruction
WO2008130665A1 (en) 2007-04-19 2008-10-30 Master Key, Llc System and method for audio equalization
US7994409B2 (en) * 2007-04-19 2011-08-09 Master Key, Llc Method and apparatus for editing and mixing sound recordings
WO2008130659A1 (en) * 2007-04-20 2008-10-30 Master Key, Llc Method and apparatus for identity verification
US8018459B2 (en) * 2007-04-20 2011-09-13 Master Key, Llc Calibration of transmission system using tonal visualization components
US7935877B2 (en) * 2007-04-20 2011-05-03 Master Key, Llc System and method for music composition
WO2008130660A1 (en) 2007-04-20 2008-10-30 Master Key, Llc Archiving of environmental sounds using visualization components
WO2008130663A1 (en) * 2007-04-20 2008-10-30 Master Key, Llc System and method for foreign language processing
US7932455B2 (en) * 2007-04-20 2011-04-26 Master Key, Llc Method and apparatus for comparing musical works
WO2008130657A1 (en) * 2007-04-20 2008-10-30 Master Key, Llc Method and apparatus for computer-generated music
US7964783B2 (en) * 2007-05-31 2011-06-21 University Of Central Florida Research Foundation, Inc. System and method for evolving music tracks
US20090075711A1 (en) 2007-06-14 2009-03-19 Eric Brosius Systems and methods for providing a vocal experience for a player of a rhythm action game
US8678896B2 (en) 2007-06-14 2014-03-25 Harmonix Music Systems, Inc. Systems and methods for asynchronous band interaction in a rhythm action game
JP5130809B2 (ja) * 2007-07-13 2013-01-30 ヤマハ株式会社 楽曲を制作するための装置およびプログラム
GB0713649D0 (en) * 2007-07-13 2007-08-22 Anglia Ruskin University Tuning device
US8422999B1 (en) * 2007-08-06 2013-04-16 Harris Technology, Llc Portable camera enabled device applications
US20090106429A1 (en) * 2007-10-22 2009-04-23 Matthew L Siegal Collaborative music network
JP4404130B2 (ja) 2007-10-22 2010-01-27 ソニー株式会社 情報処理端末装置、情報処理装置、情報処理方法、プログラム
JP4424410B2 (ja) 2007-11-07 2010-03-03 ソニー株式会社 情報処理システム、情報処理方法
US7941399B2 (en) 2007-11-09 2011-05-10 Microsoft Corporation Collaborative authoring
US8028229B2 (en) * 2007-12-06 2011-09-27 Microsoft Corporation Document merge
US8825758B2 (en) * 2007-12-14 2014-09-02 Microsoft Corporation Collaborative authoring modes
JP2009153067A (ja) * 2007-12-21 2009-07-09 Canon Inc 画像処理方法及び画像処理装置
US7875787B2 (en) * 2008-02-01 2011-01-25 Master Key, Llc Apparatus and method for visualization of music using note extraction
US20090193959A1 (en) * 2008-02-06 2009-08-06 Jordi Janer Mestres Audio recording analysis and rating
US8494257B2 (en) 2008-02-13 2013-07-23 Museami, Inc. Music score deconstruction
US8797377B2 (en) 2008-02-14 2014-08-05 Cisco Technology, Inc. Method and system for videoconference configuration
US20110000359A1 (en) * 2008-02-15 2011-01-06 Pioneer Corporation Music composition data analyzing device, musical instrument type detection device, music composition data analyzing method, musical instrument type detection device, music composition data analyzing program, and musical instrument type detection program
US8301588B2 (en) * 2008-03-07 2012-10-30 Microsoft Corporation Data storage for file updates
US20090235809A1 (en) * 2008-03-24 2009-09-24 University Of Central Florida Research Foundation, Inc. System and Method for Evolving Music Tracks
IL190660A0 (en) * 2008-04-07 2008-12-29 Amir Ziv Av A method for making a musical creation
US8352870B2 (en) * 2008-04-28 2013-01-08 Microsoft Corporation Conflict resolution
US8429753B2 (en) 2008-05-08 2013-04-23 Microsoft Corporation Controlling access to documents using file locks
US8825594B2 (en) 2008-05-08 2014-09-02 Microsoft Corporation Caching infrastructure
JP4600521B2 (ja) * 2008-06-03 2010-12-15 ソニー株式会社 情報処理装置、情報処理方法、プログラム
JP4596044B2 (ja) * 2008-06-03 2010-12-08 ソニー株式会社 情報処理システム、情報処理方法
JP4596043B2 (ja) * 2008-06-03 2010-12-08 ソニー株式会社 情報処理装置、情報処理方法、プログラム
US8417666B2 (en) 2008-06-25 2013-04-09 Microsoft Corporation Structured coauthoring
US8487173B2 (en) * 2009-06-30 2013-07-16 Parker M. D. Emmerson Methods for online collaborative music composition
US8962964B2 (en) * 2009-06-30 2015-02-24 Parker M. D. Emmerson Methods for online collaborative composition
US10007893B2 (en) * 2008-06-30 2018-06-26 Blog Band, Llc Methods for online collaboration
US20100064219A1 (en) * 2008-08-06 2010-03-11 Ron Gabrisko Network Hosted Media Production Systems and Methods
WO2010024929A1 (en) * 2008-08-30 2010-03-04 All About Choice, Inc. System, apparatus, and method for decision support
US8694658B2 (en) 2008-09-19 2014-04-08 Cisco Technology, Inc. System and method for enabling communication sessions in a network environment
JP5203114B2 (ja) * 2008-09-29 2013-06-05 ローランド株式会社 電子楽器
JP5334515B2 (ja) * 2008-09-29 2013-11-06 ローランド株式会社 電子楽器
US20100131836A1 (en) * 2008-11-24 2010-05-27 Microsoft Corporation User-authored notes on shared documents
US9401937B1 (en) 2008-11-24 2016-07-26 Shindig, Inc. Systems and methods for facilitating communications amongst multiple users
US8902272B1 (en) 2008-11-24 2014-12-02 Shindig, Inc. Multiparty communications systems and methods that employ composite communications
JP5495572B2 (ja) * 2009-01-07 2014-05-21 キヤノン株式会社 プロジェクタ・システム及びこれを含むビデオ会議システム
US8219386B2 (en) * 2009-01-21 2012-07-10 King Fahd University Of Petroleum And Minerals Arabic poetry meter identification system and method
US20130124242A1 (en) * 2009-01-28 2013-05-16 Adobe Systems Incorporated Video review workflow process
US8659637B2 (en) 2009-03-09 2014-02-25 Cisco Technology, Inc. System and method for providing three dimensional video conferencing in a network environment
JP5335501B2 (ja) * 2009-03-18 2013-11-06 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
US9712579B2 (en) 2009-04-01 2017-07-18 Shindig. Inc. Systems and methods for creating and publishing customizable images from within online events
US8779265B1 (en) * 2009-04-24 2014-07-15 Shindig, Inc. Networks of portable electronic devices that collectively generate sound
TWI486871B (zh) 2009-04-27 2015-06-01 Mstar Semiconductor Inc 音樂資料處理方法與應用其之電子裝置
US8826355B2 (en) * 2009-04-30 2014-09-02 At&T Intellectual Property I, Lp System and method for recording a multi-part performance on an internet protocol television network
US8346768B2 (en) 2009-04-30 2013-01-01 Microsoft Corporation Fast merge support for legacy documents
US8026435B2 (en) * 2009-05-29 2011-09-27 Harmonix Music Systems, Inc. Selectively displaying song lyrics
US8080722B2 (en) * 2009-05-29 2011-12-20 Harmonix Music Systems, Inc. Preventing an unintentional deploy of a bonus in a video game
US8659639B2 (en) 2009-05-29 2014-02-25 Cisco Technology, Inc. System and method for extending communications between participants in a conferencing environment
US8465366B2 (en) 2009-05-29 2013-06-18 Harmonix Music Systems, Inc. Biasing a musical performance input to a part
US8449360B2 (en) 2009-05-29 2013-05-28 Harmonix Music Systems, Inc. Displaying song lyrics and vocal cues
US8017854B2 (en) * 2009-05-29 2011-09-13 Harmonix Music Systems, Inc. Dynamic musical part determination
US7982114B2 (en) * 2009-05-29 2011-07-19 Harmonix Music Systems, Inc. Displaying an input at multiple octaves
US8076564B2 (en) * 2009-05-29 2011-12-13 Harmonix Music Systems, Inc. Scoring a musical performance after a period of ambiguity
US8492634B2 (en) * 2009-06-01 2013-07-23 Music Mastermind, Inc. System and method for generating a musical compilation track from multiple takes
US8575465B2 (en) * 2009-06-02 2013-11-05 Indian Institute Of Technology, Bombay System and method for scoring a singing voice
US20100319518A1 (en) * 2009-06-23 2010-12-23 Virendra Kumar Mehta Systems and methods for collaborative music generation
US9213466B2 (en) * 2009-07-20 2015-12-15 Apple Inc. Displaying recently used functions in context sensitive menu
US9082297B2 (en) 2009-08-11 2015-07-14 Cisco Technology, Inc. System and method for verifying parameters in an audiovisual environment
US8889976B2 (en) * 2009-08-14 2014-11-18 Honda Motor Co., Ltd. Musical score position estimating device, musical score position estimating method, and musical score position estimating robot
JP2011043710A (ja) * 2009-08-21 2011-03-03 Sony Corp 音声処理装置、音声処理方法及びプログラム
US9492756B2 (en) * 2009-09-14 2016-11-15 Joytunes Ltd. System and method for analyzing a digitalized musical performance
US9031243B2 (en) * 2009-09-28 2015-05-12 iZotope, Inc. Automatic labeling and control of audio algorithms by audio recognition
US8363796B2 (en) * 2009-10-15 2013-01-29 Avaya Inc. Selection and initiation of IVR scripts by contact center agents
US8358746B2 (en) * 2009-10-15 2013-01-22 Avaya Inc. Method and apparatus for unified interface for heterogeneous session management
WO2011048010A1 (en) 2009-10-19 2011-04-28 Dolby International Ab Metadata time marking information for indicating a section of an audio object
EP2494432B1 (en) 2009-10-27 2019-05-29 Harmonix Music Systems, Inc. Gesture-based user interface
US9981193B2 (en) 2009-10-27 2018-05-29 Harmonix Music Systems, Inc. Movement based recognition and evaluation
CN102074233A (zh) * 2009-11-20 2011-05-25 鸿富锦精密工业(深圳)有限公司 乐曲辨识系统及方法
TWI467567B (zh) * 2009-11-26 2015-01-01 Hon Hai Prec Ind Co Ltd 樂曲辨識系統及方法
US9147385B2 (en) * 2009-12-15 2015-09-29 Smule, Inc. Continuous score-coded pitch correction
US9047286B2 (en) 2009-12-17 2015-06-02 Iheartmedia Management Services, Inc. Program and syndicated content detection
WO2011076960A1 (es) * 2009-12-23 2011-06-30 Peran Estepa Cristobal Método, sistema y plug-in para la gestión colaborativa de creación de contenido
US8049093B2 (en) * 2009-12-30 2011-11-01 Motorola Solutions, Inc. Method and apparatus for best matching an audible query to a set of audible targets
JP2011164171A (ja) * 2010-02-05 2011-08-25 Yamaha Corp データ検索装置
US8731943B2 (en) * 2010-02-05 2014-05-20 Little Wing World LLC Systems, methods and automated technologies for translating words into music and creating music pieces
US8653349B1 (en) * 2010-02-22 2014-02-18 Podscape Holdings Limited System and method for musical collaboration in virtual space
EP2362378B1 (en) * 2010-02-25 2016-06-08 YAMAHA Corporation Generation of harmony tone
US8550908B2 (en) 2010-03-16 2013-10-08 Harmonix Music Systems, Inc. Simulating musical instruments
US9225916B2 (en) 2010-03-18 2015-12-29 Cisco Technology, Inc. System and method for enhancing video images in a conferencing environment
AU2011240621B2 (en) 2010-04-12 2015-04-16 Smule, Inc. Continuous score-coded pitch correction and harmony generation techniques for geographically distributed glee club
US10930256B2 (en) 2010-04-12 2021-02-23 Smule, Inc. Social music system and method with continuous, real-time pitch correction of vocal performance and dry vocal capture for subsequent re-rendering based on selectively applicable vocal effect(s) schedule(s)
US8309834B2 (en) * 2010-04-12 2012-11-13 Apple Inc. Polyphonic note detection
US9601127B2 (en) 2010-04-12 2017-03-21 Smule, Inc. Social music system and method with continuous, real-time pitch correction of vocal performance and dry vocal capture for subsequent re-rendering based on selectively applicable vocal effect(s) schedule(s)
US9313452B2 (en) 2010-05-17 2016-04-12 Cisco Technology, Inc. System and method for providing retracting optics in a video conferencing environment
JP2011242560A (ja) * 2010-05-18 2011-12-01 Yamaha Corp セッション端末及びネットワークセッションシステム
US8884146B2 (en) * 2010-06-01 2014-11-11 Life Empowerment, Inc. Internet system for monitoring progress of a music student
US8633370B1 (en) * 2011-06-04 2014-01-21 PRA Audio Systems, LLC Circuits to process music digitally with high fidelity
CA2802348A1 (en) 2010-06-11 2011-12-15 Harmonix Music Systems, Inc. Dance game and tutorial
US8562403B2 (en) 2010-06-11 2013-10-22 Harmonix Music Systems, Inc. Prompting a player of a dance game
US9358456B1 (en) 2010-06-11 2016-06-07 Harmonix Music Systems, Inc. Dance competition game
JP5569228B2 (ja) * 2010-08-02 2014-08-13 ソニー株式会社 テンポ検出装置、テンポ検出方法およびプログラム
WO2012018681A2 (en) * 2010-08-02 2012-02-09 Be In, Inc. System and method for online interactive recording studio
US8664503B2 (en) 2010-08-13 2014-03-04 Antakamatics, Inc. Musical notation and method of teaching same
US20120050456A1 (en) * 2010-08-27 2012-03-01 Cisco Technology, Inc. System and method for producing a performance via video conferencing in a network environment
US8896655B2 (en) 2010-08-31 2014-11-25 Cisco Technology, Inc. System and method for providing depth adaptive video conferencing
US8599934B2 (en) 2010-09-08 2013-12-03 Cisco Technology, Inc. System and method for skip coding during video conferencing in a network environment
US9024166B2 (en) 2010-09-09 2015-05-05 Harmonix Music Systems, Inc. Preventing subtractive track separation
US8793005B2 (en) * 2010-09-10 2014-07-29 Avid Technology, Inc. Embedding audio device settings within audio files
US8626236B2 (en) * 2010-10-08 2014-01-07 Blackberry Limited System and method for displaying text in augmented reality
US8599865B2 (en) 2010-10-26 2013-12-03 Cisco Technology, Inc. System and method for provisioning flows in a mobile network environment
US8699457B2 (en) 2010-11-03 2014-04-15 Cisco Technology, Inc. System and method for managing flows in a mobile network environment
US8730297B2 (en) 2010-11-15 2014-05-20 Cisco Technology, Inc. System and method for providing camera functions in a video environment
US8902244B2 (en) 2010-11-15 2014-12-02 Cisco Technology, Inc. System and method for providing enhanced graphics in a video environment
US9338394B2 (en) 2010-11-15 2016-05-10 Cisco Technology, Inc. System and method for providing enhanced audio in a video environment
US9143725B2 (en) 2010-11-15 2015-09-22 Cisco Technology, Inc. System and method for providing enhanced graphics in a video environment
US8723914B2 (en) 2010-11-19 2014-05-13 Cisco Technology, Inc. System and method for providing enhanced video processing in a network environment
US20120125180A1 (en) * 2010-11-24 2012-05-24 ION Audio, LLC Digital piano with dock for a handheld computing device
TWI426501B (zh) * 2010-11-29 2014-02-11 Inst Information Industry 旋律辨識方法與其裝置
US9111138B2 (en) 2010-11-30 2015-08-18 Cisco Technology, Inc. System and method for gesture interface control
WO2012084008A1 (en) * 2010-12-20 2012-06-28 Telefonaktiebolaget L M Ericsson (Publ) Method of selecting a composite service from a plurality of composite services
JP5742217B2 (ja) * 2010-12-28 2015-07-01 ヤマハ株式会社 電子端末を制御する制御方法を実現するためのプログラムおよび電子音楽装置
US20120169835A1 (en) * 2011-01-05 2012-07-05 Thomas Woo Multi-party audio/video conference systems and methods supporting heterogeneous endpoints and progressive personalization
JP5296813B2 (ja) * 2011-01-19 2013-09-25 ヤフー株式会社 楽曲レコメンド装置、方法及びプログラム
US8692862B2 (en) 2011-02-28 2014-04-08 Cisco Technology, Inc. System and method for selection of video data in a video conference environment
WO2012123824A2 (en) 2011-03-17 2012-09-20 Moncavage, Charles System and method for recording and sharing music
US8676728B1 (en) * 2011-03-30 2014-03-18 Rawles Llc Sound localization with artificial neural network
JP5765848B2 (ja) * 2011-03-31 2015-08-19 株式会社河合楽器製作所 音再生プログラム及び音再生装置
US9866731B2 (en) 2011-04-12 2018-01-09 Smule, Inc. Coordinating and mixing audiovisual content captured from geographically distributed performers
US8670019B2 (en) 2011-04-28 2014-03-11 Cisco Technology, Inc. System and method for providing enhanced eye gaze in a video conferencing environment
US8786631B1 (en) 2011-04-30 2014-07-22 Cisco Technology, Inc. System and method for transferring transparency information in a video environment
US9035163B1 (en) 2011-05-10 2015-05-19 Soundbound, Inc. System and method for targeting content based on identified audio and multimedia
US8934026B2 (en) 2011-05-12 2015-01-13 Cisco Technology, Inc. System and method for video coding in a dynamic environment
US20120294457A1 (en) * 2011-05-17 2012-11-22 Fender Musical Instruments Corporation Audio System and Method of Using Adaptive Intelligence to Distinguish Information Content of Audio Signals and Control Signal Processing Function
JP5333517B2 (ja) * 2011-05-26 2013-11-06 ヤマハ株式会社 データ処理装置およびプログラム
US8710343B2 (en) 2011-06-09 2014-04-29 Ujam Inc. Music composition automation including song structure
US8768139B2 (en) * 2011-06-27 2014-07-01 First Principles, Inc. System for videotaping and recording a musical group
JP5877973B2 (ja) * 2011-08-08 2016-03-08 アイキューブド研究所株式会社 情報システム、情報再現装置、情報生成方法、およびプログラム
JP2013050530A (ja) 2011-08-30 2013-03-14 Casio Comput Co Ltd 録音再生装置およびプログラム
FR2979465B1 (fr) * 2011-08-31 2013-08-23 Alcatel Lucent Procede et dispositif de ralentissement d'un signal audionumerique
US8962967B2 (en) * 2011-09-21 2015-02-24 Miselu Inc. Musical instrument with networking capability
US9848236B2 (en) * 2011-10-17 2017-12-19 Mediapointe, Inc. System and method for digital media content creation and distribution
US9166976B2 (en) * 2011-10-17 2015-10-20 Stephen Villoria Creation and management of digital content and workflow automation via a portable identification key
US12118594B2 (en) * 2011-10-19 2024-10-15 Yourknow Inc. System and method for managing electronic files and data in a centralized collaborative workspace
US8863014B2 (en) * 2011-10-19 2014-10-14 New Commerce Solutions Inc. User interface for product comparison
US8614388B2 (en) * 2011-10-31 2013-12-24 Apple Inc. System and method for generating customized chords
US8947493B2 (en) 2011-11-16 2015-02-03 Cisco Technology, Inc. System and method for alerting a participant in a video conference
US20130164727A1 (en) * 2011-11-30 2013-06-27 Zeljko Dzakula Device and method for reinforced programmed learning
JP2013117688A (ja) * 2011-12-05 2013-06-13 Sony Corp 音響処理装置、音響処理方法、プログラム、記録媒体、サーバ装置、音響再生装置および音響処理システム
US10389766B2 (en) * 2011-12-16 2019-08-20 Techexcel Inc. Method and system for information sharing
US10496250B2 (en) * 2011-12-19 2019-12-03 Bellevue Investments Gmbh & Co, Kgaa System and method for implementing an intelligent automatic music jam session
US8682087B2 (en) 2011-12-19 2014-03-25 Cisco Technology, Inc. System and method for depth-guided image filtering in a video conference environment
US10007405B2 (en) 2011-12-29 2018-06-26 Brandon E. D'Amore Systems and methods of creative work collaborative systems
WO2013102141A1 (en) * 2011-12-29 2013-07-04 D Amore Brandon Evan Systems and methods of creative work collaborative systems
US20150347971A1 (en) * 2011-12-29 2015-12-03 Brandon E. D'Amore Systems and methods of creative work collaborative systems
JP5610235B2 (ja) * 2012-01-17 2014-10-22 カシオ計算機株式会社 録音再生装置およびプログラム
US9129583B2 (en) * 2012-03-06 2015-09-08 Apple Inc. Systems and methods of note event adjustment
DE112013001340T5 (de) * 2012-03-06 2014-11-20 Apple Inc. Gemeinsame Netzwerk-Musik-Jam-Session und Aufzeichnung davon
US10262644B2 (en) * 2012-03-29 2019-04-16 Smule, Inc. Computationally-assisted musical sequencing and/or composition techniques for social music challenge or competition
US8669456B2 (en) * 2012-04-26 2014-03-11 Avid Technology, Inc. Video export of a digital musical score
US9196242B1 (en) 2012-05-29 2015-11-24 Soundhound, Inc. System and methods for offline audio recognition
US9020923B2 (en) * 2012-06-18 2015-04-28 Score Revolution, Llc Systems and methods to facilitate media search
US20130339853A1 (en) * 2012-06-18 2013-12-19 Ian Paul Hierons Systems and Method to Facilitate Media Search Based on Acoustic Attributes
CN103514182B (zh) 2012-06-19 2017-05-17 国际商业机器公司 音乐搜索方法与装置
US8997008B2 (en) * 2012-07-17 2015-03-31 Pelicans Networks Ltd. System and method for searching through a graphic user interface
US9596386B2 (en) * 2012-07-24 2017-03-14 Oladas, Inc. Media synchronization
US10403252B2 (en) * 2012-07-31 2019-09-03 Fender Musical Instruments Corporation System and method for connecting and controlling musical related instruments over communication network
WO2014022477A2 (en) * 2012-08-01 2014-02-06 Jamhub Corporation Distributed music collaboration
JP5783206B2 (ja) * 2012-08-14 2015-09-24 ヤマハ株式会社 音楽情報表示制御装置およびプログラム
JP5672280B2 (ja) * 2012-08-31 2015-02-18 カシオ計算機株式会社 演奏情報処理装置、演奏情報処理方法及びプログラム
US20140075306A1 (en) * 2012-09-12 2014-03-13 Randy Rega Music search and retrieval system
US9479887B2 (en) * 2012-09-19 2016-10-25 Nokia Technologies Oy Method and apparatus for pruning audio based on multi-sensor analysis
US9681154B2 (en) 2012-12-06 2017-06-13 Patent Capital Group System and method for depth-guided filtering in a video conference environment
US8921677B1 (en) * 2012-12-10 2014-12-30 Frank Michael Severino Technologies for aiding in music composition
CN103885949B (zh) * 2012-12-19 2017-07-07 中国科学院声学研究所 一种基于歌词的歌曲检索系统及其检索方法
KR102212225B1 (ko) * 2012-12-20 2021-02-05 삼성전자주식회사 오디오 보정 장치 및 이의 오디오 보정 방법
US9158760B2 (en) 2012-12-21 2015-10-13 The Nielsen Company (Us), Llc Audio decoding with supplemental semantic audio recognition and report generation
US9195649B2 (en) 2012-12-21 2015-11-24 The Nielsen Company (Us), Llc Audio processing techniques for semantic audio recognition and report generation
WO2014100531A1 (en) * 2012-12-21 2014-06-26 Jamhub Corporation Track trapping and transfer
US9183849B2 (en) 2012-12-21 2015-11-10 The Nielsen Company (Us), Llc Audio matching with semantic audio recognition and report generation
CN104036227A (zh) * 2013-03-05 2014-09-10 联想移动通信科技有限公司 一种生成电子乐谱的方法和移动终端
US9728225B2 (en) * 2013-03-12 2017-08-08 Cyberlink Corp. Systems and methods for viewing instant updates of an audio waveform with an applied effect
US8927846B2 (en) * 2013-03-15 2015-01-06 Exomens System and method for analysis and creation of music
ITTO20130376A1 (it) * 2013-05-10 2014-11-11 Recwon S R L Metodo per la registrazione di una pluralità di file audio
WO2014183196A1 (en) * 2013-05-13 2014-11-20 David Robert Smith System for facilitating the collaborative creation of music
US9843621B2 (en) 2013-05-17 2017-12-12 Cisco Technology, Inc. Calendaring activities based on communication processing
US9224374B2 (en) * 2013-05-30 2015-12-29 Xiaomi Inc. Methods and devices for audio processing
EP2816549B1 (en) * 2013-06-17 2016-08-03 Yamaha Corporation User bookmarks by touching the display of a music score while recording ambient audio
GB201311240D0 (en) * 2013-06-25 2013-08-14 Godleywood Ltd System for providing an enviroment in which performers generate corresponding performances
US9251773B2 (en) * 2013-07-13 2016-02-02 Apple Inc. System and method for determining an accent pattern for a musical performance
US9620169B1 (en) * 2013-07-26 2017-04-11 Dreamtek, Inc. Systems and methods for creating a processed video output
US9372925B2 (en) 2013-09-19 2016-06-21 Microsoft Technology Licensing, Llc Combining audio samples by automatically adjusting sample characteristics
US9257954B2 (en) 2013-09-19 2016-02-09 Microsoft Technology Licensing, Llc Automatic audio harmonization based on pitch distributions
US9798974B2 (en) 2013-09-19 2017-10-24 Microsoft Technology Licensing, Llc Recommending audio sample combinations
US9280313B2 (en) * 2013-09-19 2016-03-08 Microsoft Technology Licensing, Llc Automatically expanding sets of audio samples
CA2929213C (en) * 2013-10-30 2019-07-09 Music Mastermind, Inc. System and method for enhancing audio, conforming an audio input to a musical key, and creating harmonizing tracks for an audio input
US10271010B2 (en) 2013-10-31 2019-04-23 Shindig, Inc. Systems and methods for controlling the display of content
US9519792B1 (en) 2013-11-15 2016-12-13 Google Inc. Copyright protection
US9584567B2 (en) * 2014-03-04 2017-02-28 Victor Janeiro Skinner Method, system and program product for collaboration of video files
US20150254340A1 (en) * 2014-03-10 2015-09-10 JamKazam, Inc. Capability Scoring Server And Related Methods For Interactive Music Systems
US9047854B1 (en) * 2014-03-14 2015-06-02 Topline Concepts, LLC Apparatus and method for the continuous operation of musical instruments
US9711181B2 (en) 2014-07-25 2017-07-18 Shindig. Inc. Systems and methods for creating, editing and publishing recorded videos
US9852216B2 (en) * 2014-10-10 2017-12-26 Harman International Industries, Incorporated Multiple distant musician audio loop recording apparatus and listening method
US10019987B2 (en) * 2014-12-30 2018-07-10 Paypal, Inc. Audible proximity messaging
US20160187219A1 (en) * 2014-12-31 2016-06-30 General Electric Company Methods and systems to characterize noises sensed by a knock sensor
US9773483B2 (en) * 2015-01-20 2017-09-26 Harman International Industries, Incorporated Automatic transcription of musical content and real-time musical accompaniment
US9734410B2 (en) 2015-01-23 2017-08-15 Shindig, Inc. Systems and methods for analyzing facial expressions within an online classroom to gauge participant attentiveness
AU2015200410A1 (en) * 2015-01-28 2016-08-11 Context Systems Llp Online collaboration systems and methods
US11120816B2 (en) * 2015-02-01 2021-09-14 Board Of Regents, The University Of Texas System Natural ear
WO2016128795A1 (en) * 2015-02-11 2016-08-18 Isler Oscar System and method for simulating the conduction of a musical group
US20160314509A1 (en) * 2015-04-24 2016-10-27 Minty Networks, LLC Audio uploading and sharing service
US11488569B2 (en) 2015-06-03 2022-11-01 Smule, Inc. Audio-visual effects system for augmentation of captured performance based on content thereof
CN106547797B (zh) * 2015-09-23 2019-07-05 腾讯科技(深圳)有限公司 音频生成方法和装置
US9721551B2 (en) 2015-09-29 2017-08-01 Amper Music, Inc. Machines, systems, processes for automated music composition and generation employing linguistic and/or graphical icon based musical experience descriptions
US10854180B2 (en) 2015-09-29 2020-12-01 Amper Music, Inc. Method of and system for controlling the qualities of musical energy embodied in and expressed by digital music to be automatically composed and generated by an automated music composition and generation engine
US9715870B2 (en) * 2015-10-12 2017-07-25 International Business Machines Corporation Cognitive music engine using unsupervised learning
US9651921B1 (en) * 2016-03-04 2017-05-16 Google Inc. Metronome embedded in search results page and unaffected by lock screen transition
US9646587B1 (en) * 2016-03-09 2017-05-09 Disney Enterprises, Inc. Rhythm-based musical game for generative group composition
US11042927B2 (en) * 2016-04-21 2021-06-22 Skye Peters Electronic marketplace for creative works
US9959851B1 (en) 2016-05-05 2018-05-01 Jose Mario Fernandez Collaborative synchronized audio interface
US10607586B2 (en) 2016-05-05 2020-03-31 Jose Mario Fernandez Collaborative synchronized audio interface
US10133916B2 (en) 2016-09-07 2018-11-20 Steven M. Gottlieb Image and identity validation in video chat events
CN106446952B (zh) * 2016-09-28 2019-08-16 北京邮电大学 一种乐谱图像识别方法及装置
US10008190B1 (en) * 2016-12-15 2018-06-26 Michael John Elson Network musical instrument
US10380983B2 (en) 2016-12-30 2019-08-13 Google Llc Machine learning to generate music from text
US10008188B1 (en) * 2017-01-31 2018-06-26 Kyocera Document Solutions Inc. Musical score generator
US10199070B2 (en) * 2017-04-03 2019-02-05 Adobe Inc. Digital audio data user interface customization based on user expertise, content type, or testing
US11310538B2 (en) 2017-04-03 2022-04-19 Smule, Inc. Audiovisual collaboration system and method with latency management for wide-area broadcast and social media-type user interface mechanics
CN110692252B (zh) 2017-04-03 2022-11-01 思妙公司 具有用于广域广播的延迟管理的视听协作方法
EP3389028A1 (en) * 2017-04-10 2018-10-17 Sugarmusic S.p.A. Automatic music production from voice recording.
NL2018758B1 (en) 2017-04-20 2018-11-05 Univ Amsterdam Optical music recognition (OMR) assembly for converting sheet music
US9947304B1 (en) * 2017-05-09 2018-04-17 Francis Begue Spatial harmonic system and method
US11157553B2 (en) 2017-05-25 2021-10-26 J.W. Pepper & Son, Inc. Sheet music search and discovery system
US10311843B2 (en) * 2017-07-18 2019-06-04 Vertical Craft Music composition tools on a single pane-of-glass
US10043502B1 (en) * 2017-07-18 2018-08-07 Vertical Craft, LLC Music composition tools on a single pane-of-glass
US10854181B2 (en) * 2017-07-18 2020-12-01 Vertical Craft, LLC Music composition tools on a single pane-of-glass
US10957297B2 (en) * 2017-07-25 2021-03-23 Louis Yoelin Self-produced music apparatus and method
KR101931087B1 (ko) * 2017-09-07 2018-12-20 주식회사 쿨잼컴퍼니 사용자 허밍 멜로디 기반 멜로디 녹음을 제공하기 위한 방법 및 이를 위한 장치
US10182093B1 (en) * 2017-09-12 2019-01-15 Yousician Oy Computer implemented method for providing real-time interaction between first player and second player to collaborate for musical performance over network
US10235898B1 (en) * 2017-09-12 2019-03-19 Yousician Oy Computer implemented method for providing feedback of harmonic content relating to music track
US20200402536A1 (en) * 2017-11-12 2020-12-24 Musico Ltd. Collaborative audio editing tools
US10504498B2 (en) * 2017-11-22 2019-12-10 Yousician Oy Real-time jamming assistance for groups of musicians
WO2019121577A1 (en) * 2017-12-18 2019-06-27 Bytedance Inc. Automated midi music composition server
EP3743912A4 (en) * 2018-01-23 2021-11-03 Synesthesia Corporation AUDIO SAMPLE READING UNIT
CN108319696A (zh) * 2018-02-02 2018-07-24 北京网梯科技发展有限公司 基于琴谱智能识别的音乐播放方法和系统
US10291670B1 (en) 2018-02-25 2019-05-14 CypherLive LLC Virtual cypher enterprise
US10218747B1 (en) * 2018-03-07 2019-02-26 Microsoft Technology Licensing, Llc Leveraging geographically proximate devices to reduce network traffic generated by digital collaboration
CN108805000B (zh) * 2018-04-09 2019-12-17 平安科技(深圳)有限公司 电子装置、基于深度学习的乐谱识别方法及存储介质
US10714065B2 (en) * 2018-06-08 2020-07-14 Mixed In Key Llc Apparatus, method, and computer-readable medium for generating musical pieces
US10911013B2 (en) 2018-07-05 2021-02-02 Comcast Cable Communications, Llc Dynamic audio normalization process
US10991349B2 (en) * 2018-07-16 2021-04-27 Samsung Electronics Co., Ltd. Method and system for musical synthesis using hand-drawn patterns/text on digital and non-digital surfaces
BR112020024621A2 (pt) 2018-08-01 2021-03-02 Beijing Microlive Vision Technology Co., Ltd. método e dispositivo de gravação de vídeo
CN109600562B (zh) * 2018-08-01 2020-04-28 北京微播视界科技有限公司 用于录制视频的方法和装置
US10403251B1 (en) * 2018-08-08 2019-09-03 Joseph Robert Escamilla System and method of collectively producing music
US20220256118A1 (en) 2018-10-05 2022-08-11 Explain Everything, Inc. System and method for recording online collaboration
US11258834B2 (en) * 2018-10-05 2022-02-22 Explain Everything, Inc. System and method for recording online collaboration
CN109727590B (zh) * 2018-12-24 2020-09-22 成都嗨翻屋科技有限公司 基于循环神经网络的音乐生成方法及装置
US20210357445A1 (en) * 2018-12-31 2021-11-18 Audiobyte Llc Multimedia asset matching systems and methods
JP7226709B2 (ja) * 2019-01-07 2023-02-21 ヤマハ株式会社 映像制御システム、及び映像制御方法
US10929092B1 (en) 2019-01-28 2021-02-23 Collabra LLC Music network for collaborative sequential musical production
CN110309349A (zh) * 2019-04-08 2019-10-08 浙江工业大学 一种基于面部表情识别和循环神经网络的音乐生成方法
CN110085263B (zh) * 2019-04-28 2021-08-06 东华大学 一种音乐情感分类和机器作曲方法
US10929684B2 (en) * 2019-05-17 2021-02-23 Adobe Inc. Intelligently generating digital note compilations from digital video
US10607500B1 (en) * 2019-05-21 2020-03-31 International Business Machines Corporation Providing background music tempo to accompany procedural instructions
US10891872B1 (en) * 2019-06-18 2021-01-12 School of Rock, LLC Method and apparatus of music education
US20220319350A1 (en) * 2019-06-18 2022-10-06 School of Rock, LLC System and method of facilitating live jam session with song recommendation engine to recommend a song to be played
US10629176B1 (en) * 2019-06-21 2020-04-21 Obeebo Labs Ltd. Systems, devices, and methods for digital representations of music
CN110517227A (zh) * 2019-07-29 2019-11-29 数字广东网络建设有限公司 图像隐藏信息检测的方法、装置、计算机设备和存储介质
US20220301529A1 (en) * 2019-09-11 2022-09-22 John Nader System and method for distributed musician synchronized performances
CN110795593A (zh) * 2019-10-12 2020-02-14 百度在线网络技术(北京)有限公司 语音包的推荐方法、装置、电子设备和存储介质
US10964299B1 (en) 2019-10-15 2021-03-30 Shutterstock, Inc. Method of and system for automatically generating digital performances of music compositions using notes selected from virtual musical instruments based on the music-theoretic states of the music compositions
US11037538B2 (en) 2019-10-15 2021-06-15 Shutterstock, Inc. Method of and system for automated musical arrangement and musical instrument performance style transformation supported within an automated music performance system
US11024275B2 (en) 2019-10-15 2021-06-01 Shutterstock, Inc. Method of digitally performing a music composition using virtual musical instruments having performance logic executing within a virtual musical instrument (VMI) library management system
US20220398542A1 (en) * 2019-11-26 2022-12-15 Complete Cue Sheets Llc System and Method for Generating Cue Sheets
CN111309961B (zh) * 2020-02-12 2024-04-02 深圳市腾讯计算机系统有限公司 歌曲封面生成方法、装置、计算机可读存储介质和设备
EP4115628A1 (en) * 2020-03-06 2023-01-11 algoriddim GmbH Playback transition from first to second audio track with transition functions of decomposed signals
EP4115630A1 (en) * 2020-03-06 2023-01-11 algoriddim GmbH Method, device and software for controlling timing of audio data
US11086586B1 (en) * 2020-03-13 2021-08-10 Auryn, LLC Apparatuses and methodologies relating to the generation and selective synchronized display of musical and graphic information on one or more devices capable of displaying musical and graphic information
US20210321648A1 (en) * 2020-04-16 2021-10-21 John Martin Acoustic treatment of fermented food products
CN111787353A (zh) * 2020-05-13 2020-10-16 北京达佳互联信息技术有限公司 多方音频的处理方法、装置、电子设备及存储介质
US11546393B2 (en) 2020-07-10 2023-01-03 Mark Goldstein Synchronized performances for remotely located performers
CN112465679B (zh) * 2020-09-28 2023-10-31 青岛大学 一种钢琴学习与创作系统及方法
US11972693B2 (en) 2020-12-02 2024-04-30 Joytunes Ltd. Method, device, system and apparatus for creating and/or selecting exercises for learning playing a music instrument
US11900825B2 (en) 2020-12-02 2024-02-13 Joytunes Ltd. Method and apparatus for an adaptive and interactive teaching of playing a musical instrument
US11893898B2 (en) 2020-12-02 2024-02-06 Joytunes Ltd. Method and apparatus for an adaptive and interactive teaching of playing a musical instrument
US20240054911A2 (en) * 2020-12-02 2024-02-15 Joytunes Ltd. Crowd-based device configuration selection of a music teaching system
CN112529106A (zh) * 2020-12-28 2021-03-19 平安普惠企业管理有限公司 视觉设计原稿的生成方法、装置、设备及存储介质
US20220215819A1 (en) * 2021-01-03 2022-07-07 Mark Lawrence Palmer Methods, systems, apparatuses, and devices for facilitating the interactive creation of live music by multiple users
US20220237541A1 (en) * 2021-01-17 2022-07-28 Mary Elizabeth Morkoski System for automating a collaborative network of musicians in the field of original composition and recording
CN113593502B (zh) * 2021-07-26 2024-04-30 深圳市芒果未来科技有限公司 一种基于音视频演奏示范的交互式乐谱展示方法及系统
US11740862B1 (en) * 2022-11-22 2023-08-29 Algoriddim Gmbh Method and system for accelerated decomposing of audio data using intermediate data

Family Cites Families (152)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4014237A (en) 1972-03-01 1977-03-29 Milde Karl F Jr Musical note detecting apparatus
US4028985A (en) * 1976-02-17 1977-06-14 Merritt Lauren V Pitch determination and display system
US4399732A (en) * 1981-08-28 1983-08-23 Stanley Rothschild Pitch identification device
US4999773A (en) * 1983-11-15 1991-03-12 Manfred Clynes Technique for contouring amplitude of musical notes based on their relationship to the succeeding note
US4665790A (en) * 1985-10-09 1987-05-19 Stanley Rothschild Pitch identification device
US4926737A (en) * 1987-04-08 1990-05-22 Casio Computer Co., Ltd. Automatic composer using input motif information
JPH0196700A (ja) 1987-10-08 1989-04-14 Casio Comput Co Ltd 電子楽器の入力制御装置
JP2712346B2 (ja) * 1987-10-14 1998-02-10 カシオ計算機株式会社 周波数制御装置
US4945804A (en) 1988-01-14 1990-08-07 Wenger Corporation Method and system for transcribing musical information including method and system for entering rhythmic information
US5038658A (en) * 1988-02-29 1991-08-13 Nec Home Electronics Ltd. Method for automatically transcribing music and apparatus therefore
US4960031A (en) 1988-09-19 1990-10-02 Wenger Corporation Method and apparatus for representing musical information
US5020101A (en) * 1989-04-10 1991-05-28 Gregory R. Brotz Musicians telephone interface
JPH03249799A (ja) 1990-02-28 1991-11-07 Yamaha Corp 楽譜認識装置
US5036658A (en) 1990-03-05 1991-08-06 The United States Of America As Represented By The Secretary Of The Army Pressure relief device for solid propellant motors subjected to high external temperatures
JP2890831B2 (ja) 1990-11-28 1999-05-17 ヤマハ株式会社 Midiコード作成装置
US5270475A (en) 1991-03-04 1993-12-14 Lyrrus, Inc. Electronic music system
US5292125A (en) * 1991-05-31 1994-03-08 Hochstein Peter A Apparatus and method for electrically connecting remotely located video games
US5864631A (en) 1992-08-03 1999-01-26 Yamaha Corporation Method and apparatus for musical score recognition with quick processing of image data
US5325423A (en) * 1992-11-13 1994-06-28 Multimedia Systems Corporation Interactive multimedia communication system
JP3507090B2 (ja) * 1992-12-25 2004-03-15 キヤノン株式会社 音声処理装置及びその方法
US5544228A (en) * 1993-09-27 1996-08-06 The Walt Disney Company Method and apparatus for transmission of full frequency digital audio
TW250558B (en) 1993-10-20 1995-07-01 Yamaha Corp Sheet music recognition device
US5569038A (en) 1993-11-08 1996-10-29 Tubman; Louis Acoustical prompt recording system and method
DE4343411C2 (de) 1993-12-18 2001-05-17 Blue Chip Music Gmbh Gitarren-Signalanalyseeinrichtung
US5488196A (en) * 1994-01-19 1996-01-30 Zimmerman; Thomas G. Electronic musical re-performance and editing system
US5704007A (en) * 1994-03-11 1997-12-30 Apple Computer, Inc. Utilization of multiple voice sources in a speech synthesizer
JP3430630B2 (ja) * 1994-05-02 2003-07-28 ヤマハ株式会社 カラオケ演奏用双方向ディジタル通信システム
US5768350A (en) * 1994-09-19 1998-06-16 Phylon Communications, Inc. Real-time and non-real-time data multplexing over telephone lines
US5685775A (en) * 1994-10-28 1997-11-11 International Business Machines Corporation Networking video games over telephone network
US5646361A (en) * 1995-08-04 1997-07-08 Morrow; Michael Laser emitting visual display for a music system
US5792971A (en) * 1995-09-29 1998-08-11 Opcode Systems, Inc. Method and system for editing digital audio information with music-like parameters
TW333644B (en) 1995-10-30 1998-06-11 Victor Company Of Japan The method for recording musical data and its reproducing apparatus
US5695400A (en) * 1996-01-30 1997-12-09 Boxer Jam Productions Method of managing multi-player game playing over a network
US5820463A (en) * 1996-02-06 1998-10-13 Bell Atlantic Network Services, Inc. Method and apparatus for multi-player gaming over a network
JP3424787B2 (ja) 1996-03-12 2003-07-07 ヤマハ株式会社 演奏情報検出装置
US5983280A (en) * 1996-03-29 1999-11-09 Light & Sound Design, Ltd. System using standard ethernet frame format for communicating MIDI information over an ethernet network
US5728960A (en) * 1996-07-10 1998-03-17 Sitrick; David H. Multi-dimensional transformation systems and display communication architecture for musical compositions
US7074999B2 (en) * 1996-07-10 2006-07-11 Sitrick David H Electronic image visualization system and management and communication methodologies
US7423213B2 (en) * 1996-07-10 2008-09-09 David Sitrick Multi-dimensional transformation systems and display communication architecture for compositions and derivations thereof
US7098392B2 (en) 1996-07-10 2006-08-29 Sitrick David H Electronic image visualization system and communication methodologies
US7297856B2 (en) * 1996-07-10 2007-11-20 Sitrick David H System and methodology for coordinating musical communication and display
US6084168A (en) 1996-07-10 2000-07-04 Sitrick; David H. Musical compositions communication system, architecture and methodology
US6067566A (en) * 1996-09-20 2000-05-23 Laboratory Technologies Corporation Methods and apparatus for distributing live performances on MIDI devices via a non-real-time network protocol
DE19649296C2 (de) * 1996-11-28 2002-01-17 Blue Chip Music Gmbh Verfahren zur Tonhöhenerkennung bei zupf- oder schlagerregten Saiteninstrumenten
EP0855697B1 (en) 1996-12-27 2002-02-20 Yamaha Corporation Real time transmission of musical tone information
US5808225A (en) * 1996-12-31 1998-09-15 Intel Corporation Compressing music into a digital format
US6036658A (en) * 1997-07-10 2000-03-14 Leet; Richard A. Cervical tissue sampling device and method
US5886274A (en) * 1997-07-11 1999-03-23 Seer Systems, Inc. System and method for generating, distributing, storing and performing musical work files
US6140568A (en) * 1997-11-06 2000-10-31 Innovative Music Systems, Inc. System and method for automatically detecting a set of fundamental frequencies simultaneously present in an audio signal
US6175872B1 (en) 1997-12-12 2001-01-16 Gte Internetworking Incorporated Collaborative environment for syncronizing audio from remote devices
TW352206U (en) 1997-12-30 1999-02-01 First Int Computer Inc Structure for hidden type image picking apparatus of notebook computer
EP0944033B1 (en) 1998-03-19 2003-05-28 Tomonari Sonoda Melody retrieval system and method
US6201176B1 (en) 1998-05-07 2001-03-13 Canon Kabushiki Kaisha System and method for querying a music database
US6766288B1 (en) * 1998-10-29 2004-07-20 Paul Reed Smith Guitars Fast find fundamental method
US7003120B1 (en) 1998-10-29 2006-02-21 Paul Reed Smith Guitars, Inc. Method of modifying harmonic content of a complex waveform
US6316712B1 (en) 1999-01-25 2001-11-13 Creative Technology Ltd. Method and apparatus for tempo and downbeat detection and alteration of rhythm in a musical segment
JP3582396B2 (ja) * 1999-03-17 2004-10-27 ヤマハ株式会社 楽譜編集装置および記録媒体
US6212534B1 (en) 1999-05-13 2001-04-03 X-Collaboration Software Corp. System and method for facilitating collaboration in connection with generating documents among a plurality of operators using networked computer systems
US6156964A (en) 1999-06-03 2000-12-05 Sahai; Anil Apparatus and method of displaying music
JP3675287B2 (ja) * 1999-08-09 2005-07-27 ヤマハ株式会社 演奏データ作成装置
US6598074B1 (en) 1999-09-23 2003-07-22 Rocket Network, Inc. System and method for enabling multimedia production collaboration over a network
US6423893B1 (en) 1999-10-15 2002-07-23 Etonal Media, Inc. Method and system for electronically creating and publishing music instrument instructional material using a computer network
US6188010B1 (en) 1999-10-29 2001-02-13 Sony Corporation Music search by melody input
US6353174B1 (en) * 1999-12-10 2002-03-05 Harmonix Music Systems, Inc. Method and apparatus for facilitating group musical interaction over a network
US6678680B1 (en) * 2000-01-06 2004-01-13 Mark Woo Music search engine
JP3758450B2 (ja) 2000-01-10 2006-03-22 ヤマハ株式会社 曲データ作成のためのサーバ装置、クライアント装置及び記録媒体
JP3496620B2 (ja) 2000-03-22 2004-02-16 ヤマハ株式会社 楽譜データ表示装置、方法及び記録媒体
US6545209B1 (en) 2000-07-05 2003-04-08 Microsoft Corporation Music content characteristic identification and matching
JP3707364B2 (ja) 2000-07-18 2005-10-19 ヤマハ株式会社 自動作曲装置、方法及び記録媒体
US6323412B1 (en) 2000-08-03 2001-11-27 Mediadome, Inc. Method and apparatus for real time tempo detection
WO2002035516A1 (fr) 2000-10-23 2002-05-02 Ntt Communications Corporation Systeme et procede de reconnaissance d'une composition musicale, support de stockage de programme de composition musicale, procede et systeme de reconnaissance commerciale, et support de stockage de programme de reconnaissance commerciale
JP3552667B2 (ja) 2000-12-19 2004-08-11 ヤマハ株式会社 通信システム及び通信プログラムを記録した記録媒体
US6898637B2 (en) 2001-01-10 2005-05-24 Agere Systems, Inc. Distributed audio collaboration method and apparatus
DE10164686B4 (de) 2001-01-13 2007-05-31 Native Instruments Software Synthesis Gmbh Automatische Erkennung und Anpassung von Tempo und Phase von Musikstücken und darauf aufbauender interaktiver Musik-Abspieler
JP2004534274A (ja) 2001-03-23 2004-11-11 インスティチュート・フォー・インフォコム・リサーチ 内容ベースのマルチメディア情報検索で使用するためデジタル表示で音楽情報を表示する方法およびシステム
DE10117870B4 (de) 2001-04-10 2005-06-09 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Verfahren und Vorrichtung zum Überführen eines Musiksignals in eine Noten-basierte Beschreibung und Verfahren und Vorrichtung zum Referenzieren eines Musiksignals in einer Datenbank
US6482087B1 (en) * 2001-05-14 2002-11-19 Harmonix Music Systems, Inc. Method and apparatus for facilitating group musical interaction over a network
US7223913B2 (en) * 2001-07-18 2007-05-29 Vmusicsystems, Inc. Method and apparatus for sensing and displaying tablature associated with a stringed musical instrument
US7295977B2 (en) * 2001-08-27 2007-11-13 Nec Laboratories America, Inc. Extracting classifying data in music from an audio bitstream
US6747201B2 (en) * 2001-09-26 2004-06-08 The Regents Of The University Of Michigan Method and system for extracting melodic patterns in a musical piece and computer-readable storage medium having a program for executing the method
US6798866B1 (en) 2001-12-12 2004-09-28 Bellsouth Intellectual Property Corp. System and method for verifying central office wiring associated with line sharing
US20050190199A1 (en) 2001-12-21 2005-09-01 Hartwell Brown Apparatus and method for identifying and simultaneously displaying images of musical notes in music and producing the music
US20030140769A1 (en) * 2002-01-30 2003-07-31 Muzik Works Technologies Inc. Method and system for creating and performing music electronically via a communications network
US6653545B2 (en) 2002-03-01 2003-11-25 Ejamming, Inc. Method and apparatus for remote real time collaborative music performance
US6768046B2 (en) 2002-04-09 2004-07-27 International Business Machines Corporation Method of generating a link between a note of a digital score and a realization of the score
US7053291B1 (en) * 2002-05-06 2006-05-30 Joseph Louis Villa Computerized system and method for building musical licks and melodies
US7589271B2 (en) 2002-06-11 2009-09-15 Virtuosoworks, Inc. Musical notation system
US6809246B2 (en) 2002-08-30 2004-10-26 Michael J. Errico Electronic music display device
WO2004027577A2 (en) * 2002-09-19 2004-04-01 Brian Reynolds Systems and methods for creation and playback performance
CN1703734A (zh) * 2002-10-11 2005-11-30 松下电器产业株式会社 从声音确定音符的方法和装置
JP4313563B2 (ja) * 2002-12-04 2009-08-12 パイオニア株式会社 楽曲検索装置及び方法
EP1579343A1 (en) 2002-12-20 2005-09-28 Koninklijke Philips Electronics N.V. Query by indefinite expressions
GB0229940D0 (en) * 2002-12-20 2003-01-29 Koninkl Philips Electronics Nv Audio signal analysing method and apparatus
US6747291B1 (en) 2003-01-10 2004-06-08 The United States Of America As Represented By The Secretary Of The Air Force Ohmic contacts on p-type silicon carbide using carbon films
JP3709991B2 (ja) 2003-01-17 2005-10-26 株式会社河合楽器製作所 楽譜認識装置
US7272551B2 (en) 2003-02-24 2007-09-18 International Business Machines Corporation Computational effectiveness enhancement of frequency domain pitch estimators
US7227072B1 (en) * 2003-05-16 2007-06-05 Microsoft Corporation System and method for determining the similarity of musical recordings
US7323629B2 (en) * 2003-07-16 2008-01-29 Univ Iowa State Res Found Inc Real time music recognition and display system
US7723602B2 (en) 2003-08-20 2010-05-25 David Joseph Beckford System, computer program and method for quantifying and analyzing musical intellectual property
JP4089582B2 (ja) * 2003-09-30 2008-05-28 ヤマハ株式会社 電子音楽装置の設定情報編集システム、編集装置用プログラム、および、電子音楽装置
US20050086052A1 (en) 2003-10-16 2005-04-21 Hsuan-Huei Shih Humming transcription system and methodology
JP4305153B2 (ja) * 2003-12-04 2009-07-29 ヤマハ株式会社 音楽セッション支援方法、音楽セッション用楽器
US8535236B2 (en) 2004-03-19 2013-09-17 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Apparatus and method for analyzing a sound signal using a physiological ear model
DE102004033867B4 (de) 2004-07-13 2010-11-25 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Verfahren und Vorrichtung zur rhythmischen Aufbereitung von Audiosignalen
DE102004033829B4 (de) 2004-07-13 2010-12-02 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Verfahren und Vorrichtung zur Erzeugung einer Polyphonen Melodie
US7371954B2 (en) 2004-08-02 2008-05-13 Yamaha Corporation Tuner apparatus for aiding a tuning of musical instrument
JP4594681B2 (ja) * 2004-09-08 2010-12-08 ソニー株式会社 音声信号処理装置および音声信号処理方法
US7230176B2 (en) * 2004-09-24 2007-06-12 Nokia Corporation Method and apparatus to modify pitch estimation function in acoustic signal musical note pitch extraction
JP2006106818A (ja) * 2004-09-30 2006-04-20 Toshiba Corp 音楽検索装置、音楽検索方法及び音楽検索プログラム
US7193148B2 (en) * 2004-10-08 2007-03-20 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Apparatus and method for generating an encoded rhythmic pattern
US7598447B2 (en) * 2004-10-29 2009-10-06 Zenph Studios, Inc. Methods, systems and computer program products for detecting musical notes in an audio signal
US7297858B2 (en) 2004-11-30 2007-11-20 Andreas Paepcke MIDIWan: a system to enable geographically remote musicians to collaborate
CA2489256A1 (en) * 2004-12-06 2006-06-06 Christoph Both System and method for video assisted music instrument collaboration over distance
JP2008524656A (ja) 2004-12-15 2008-07-10 ミューズアミ,インコーポレイティド 同期化されたプレゼンテーションを伴う楽譜捕捉および同期化されたオーディオパフォーマンス用のシステムおよび方法
KR100659884B1 (ko) * 2005-01-07 2006-12-20 엘지전자 주식회사 음악에서의 비브라토 자동 검출방법
JP4670423B2 (ja) 2005-03-24 2011-04-13 ヤマハ株式会社 音楽情報分析及び表示装置及びプログラム
WO2006132599A1 (en) 2005-06-07 2006-12-14 Matsushita Electric Industrial Co., Ltd. Segmenting a humming signal into musical notes
US20060293089A1 (en) 2005-06-22 2006-12-28 Magix Ag System and method for automatic creation of digitally enhanced ringtones for cellphones
US20070044639A1 (en) * 2005-07-11 2007-03-01 Farbood Morwaread M System and Method for Music Creation and Distribution Over Communications Network
KR100735444B1 (ko) * 2005-07-18 2007-07-04 삼성전자주식회사 오디오데이터 및 악보이미지 추출방법
WO2007010637A1 (ja) * 2005-07-19 2007-01-25 Kabushiki Kaisha Kawai Gakki Seisakusho テンポ検出装置、コード名検出装置及びプログラム
JP4672474B2 (ja) * 2005-07-22 2011-04-20 株式会社河合楽器製作所 自動採譜装置及びプログラム
JP4940588B2 (ja) 2005-07-27 2012-05-30 ソニー株式会社 ビート抽出装置および方法、音楽同期画像表示装置および方法、テンポ値検出装置および方法、リズムトラッキング装置および方法、音楽同期表示装置および方法
US7518051B2 (en) * 2005-08-19 2009-04-14 William Gibbens Redmann Method and apparatus for remote real time collaborative music performance and recording thereof
WO2007023660A1 (ja) * 2005-08-24 2007-03-01 Matsushita Electric Industrial Co., Ltd. 音識別装置
US7518053B1 (en) 2005-09-01 2009-04-14 Texas Instruments Incorporated Beat matching for portable audio
US7774078B2 (en) * 2005-09-16 2010-08-10 Sony Corporation Method and apparatus for audio data analysis in an audio player
US7912232B2 (en) * 2005-09-30 2011-03-22 Aaron Master Method and apparatus for removing or isolating voice or instruments on stereo recordings
CN100370437C (zh) 2005-09-30 2008-02-20 迈世亚(北京)科技有限公司 音乐数据转录的方法
US7853342B2 (en) 2005-10-11 2010-12-14 Ejamming, Inc. Method and apparatus for remote real time collaborative acoustic performance and recording thereof
JP4622808B2 (ja) * 2005-10-28 2011-02-02 日本ビクター株式会社 楽曲分類装置、楽曲分類方法、楽曲分類プログラム
EP1785891A1 (en) * 2005-11-09 2007-05-16 Sony Deutschland GmbH Music information retrieval using a 3D search algorithm
KR100715949B1 (ko) * 2005-11-11 2007-05-08 삼성전자주식회사 고속 음악 무드 분류 방법 및 그 장치
US7834260B2 (en) * 2005-12-14 2010-11-16 Jay William Hardesty Computer analysis and manipulation of musical structure, methods of production and uses thereof
US20070163428A1 (en) * 2006-01-13 2007-07-19 Salter Hal C System and method for network communication of music data
KR100822376B1 (ko) * 2006-02-23 2008-04-17 삼성전자주식회사 곡명을 이용한 음악 주제 분류 방법 및 시스템
US7518052B2 (en) 2006-03-17 2009-04-14 Microsoft Corporation Musical theme searching
US20070245881A1 (en) * 2006-04-04 2007-10-25 Eran Egozy Method and apparatus for providing a simulated band experience including online interaction
US7790975B2 (en) 2006-06-30 2010-09-07 Avid Technologies Europe Limited Synchronizing a musical score with a source of time-based information
JP4672613B2 (ja) 2006-08-09 2011-04-20 株式会社河合楽器製作所 テンポ検出装置及びテンポ検出用コンピュータプログラム
US7645929B2 (en) 2006-09-11 2010-01-12 Hewlett-Packard Development Company, L.P. Computational music-tempo estimation
US8079907B2 (en) * 2006-11-15 2011-12-20 Harmonix Music Systems, Inc. Method and apparatus for facilitating group musical interaction over a network
CN101558441A (zh) * 2006-12-12 2009-10-14 皇家飞利浦电子股份有限公司 乐曲系统和控制乐曲的生成的方法
US7579541B2 (en) 2006-12-28 2009-08-25 Texas Instruments Incorporated Automatic page sequencing and other feedback action based on analysis of audio performance data
WO2008095190A2 (en) 2007-02-01 2008-08-07 Museami, Inc. Music transcription
US7732703B2 (en) 2007-02-05 2010-06-08 Ediface Digital, Llc. Music processing system including device for converting guitar sounds to MIDI commands
WO2008101130A2 (en) * 2007-02-14 2008-08-21 Museami, Inc. Music-based search engine
US7649136B2 (en) * 2007-02-26 2010-01-19 Yamaha Corporation Music reproducing system for collaboration, program reproducer, music data distributor and program producer
AU2008229637A1 (en) * 2007-03-18 2008-09-25 Igruuv Pty Ltd File creation process, file format and file playback apparatus enabling advanced audio interaction and collaboration capabilities
US7674970B2 (en) 2007-05-17 2010-03-09 Brian Siu-Fung Ma Multifunctional digital music display device
WO2009036564A1 (en) * 2007-09-21 2009-03-26 The University Of Western Ontario A flexible music composition engine
US20090171465A1 (en) * 2007-12-28 2009-07-02 Boston Scientific Scimed, Inc. Polymeric Regions For Implantable Or Insertable Medical Devices

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10679515B2 (en) 2008-02-20 2020-06-09 Jammit, Inc. Mixing complex multimedia data using tempo mapping tools
US9311824B2 (en) 2008-02-20 2016-04-12 Jammit, Inc. Method of learning an isolated track from an original, multi-track recording while viewing a musical notation synchronized with variations in the musical tempo of the original, multi-track recording
US11361671B2 (en) 2008-02-20 2022-06-14 Jammit, Inc. Video gaming console that synchronizes digital images with variations in musical tempo
US10192460B2 (en) 2008-02-20 2019-01-29 Jammit, Inc System for mixing a video track with variable tempo music
US9626877B2 (en) 2008-02-20 2017-04-18 Jammit, Inc. Mixing a video track with variable tempo music
JP2013542480A (ja) * 2010-08-23 2013-11-21 ザ パブリック レコード,インコーポレイテッド 一般人タレントを見出し、展開するバーチャルスタジオ
US10170017B2 (en) 2010-10-15 2019-01-01 Jammit, Inc. Analyzing or emulating a keyboard performance using audiovisual dynamic point referencing
US11908339B2 (en) 2010-10-15 2024-02-20 Jammit, Inc. Real-time synchronization of musical performance data streams across a network
US9959779B2 (en) 2010-10-15 2018-05-01 Jammit, Inc. Analyzing or emulating a guitar performance using audiovisual dynamic point referencing
US9761151B2 (en) 2010-10-15 2017-09-12 Jammit, Inc. Analyzing or emulating a dance performance through dynamic point referencing
US11081019B2 (en) 2010-10-15 2021-08-03 Jammit, Inc. Analyzing or emulating a vocal performance using audiovisual dynamic point referencing
JP2012098320A (ja) * 2010-10-29 2012-05-24 Astra:Kk マルチトラックデータ編集システム
JP2012113271A (ja) * 2010-11-29 2012-06-14 Yamaha Corp 音楽情報表示装置
JP2014228628A (ja) * 2013-05-21 2014-12-08 ヤマハ株式会社 演奏記録装置
US9576564B2 (en) 2013-05-21 2017-02-21 Yamaha Corporation Performance recording apparatus
WO2014189084A1 (ja) * 2013-05-21 2014-11-27 ヤマハ株式会社 演奏記録装置
US10789924B2 (en) 2013-06-16 2020-09-29 Jammit, Inc. Synchronized display and performance mapping of dance performances submitted from remote locations
US11004435B2 (en) 2013-06-16 2021-05-11 Jammit, Inc. Real-time integration and review of dance performances streamed from remote locations
US11929052B2 (en) 2013-06-16 2024-03-12 Jammit, Inc. Auditioning system and method
US9857934B2 (en) 2013-06-16 2018-01-02 Jammit, Inc. Synchronized display and performance mapping of musical performances submitted from remote locations
JP2016128688A (ja) * 2014-12-31 2016-07-14 ゼネラル・エレクトリック・カンパニイ エンジンノイズを位置特定するためのシステムおよび方法
JP2018511732A (ja) * 2015-04-01 2018-04-26 ゼネラル・エレクトリック・カンパニイ ノックセンサネットワークシステムおよびノイズを特徴づけるための方法

Also Published As

Publication number Publication date
WO2008101130A2 (en) 2008-08-21
US20080190272A1 (en) 2008-08-14
WO2008101130A3 (en) 2008-10-02
EP2122510A2 (en) 2009-11-25
US8035020B2 (en) 2011-10-11
JP2010521021A (ja) 2010-06-17
US7714222B2 (en) 2010-05-11
US7838755B2 (en) 2010-11-23
EP2122509A1 (en) 2009-11-25
US20100212478A1 (en) 2010-08-26
CN102867526A (zh) 2013-01-09
US20080190271A1 (en) 2008-08-14
WO2008101126A1 (en) 2008-08-21

Similar Documents

Publication Publication Date Title
US7714222B2 (en) Collaborative music creation
US10056062B2 (en) Systems and methods for the creation and playback of animated, interpretive, musical notation and audio synchronized with the recorded performance of an original artist
CN101657816B (zh) 用于分布式音频文件编辑的门户网站
US7601904B2 (en) Interactive tool and appertaining method for creating a graphical music display
JP2008537180A (ja) 音楽作曲装置の運用方法
US20190005929A1 (en) Musical Score Generator
JP2008197678A (ja) オンライン作曲のためのシステム、方法及びコンピュータ読取り可能な記録媒体
Réveillac Electronic Music Machines: The New Musical Instruments
JP5193654B2 (ja) デュエットパート歌唱生成システム
Bacot et al. The creative process of sculpting the air by Jesper Nordin: conceiving and performing a concerto for conductor with live electronics
Fremerey SyncPlayer–a Framework for Content-Based Music Navigation
Blakeley Genre and Influence: Tracing the Lineage of Timbre and Form in Steven Wilson's Progressive Rock
Rando et al. How do Digital Audio Workstations influence the way musicians make and record music?
JP6611633B2 (ja) カラオケシステム用サーバ
Miller “The Sound of Silence”: A Comparative Analysis of the Recordings by Simon and Garfunkel and Disturbed
Han Digitally Processed Music Creation (DPMC): Music composition approach utilizing music technology
Fitzgerald Human Machine Music: An Analysis of Creative Practices Among Australian" Live Electronica" Musicians
CN115064143A (zh) 一种伴奏音频生成方法、电子设备及可读存储介质
Nesi et al. The Interactive-Music Network
Brock GarageBand for iPad

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20110510