JP6562104B2 - 音声生成装置及び方法並びにプログラム - Google Patents

音声生成装置及び方法並びにプログラム Download PDF

Info

Publication number
JP6562104B2
JP6562104B2 JP2018043095A JP2018043095A JP6562104B2 JP 6562104 B2 JP6562104 B2 JP 6562104B2 JP 2018043095 A JP2018043095 A JP 2018043095A JP 2018043095 A JP2018043095 A JP 2018043095A JP 6562104 B2 JP6562104 B2 JP 6562104B2
Authority
JP
Japan
Prior art keywords
voice
pitch
character
repeat
sound
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018043095A
Other languages
English (en)
Other versions
JP2018112748A (ja
Inventor
桂三 濱野
桂三 濱野
一輝 柏瀬
一輝 柏瀬
良朋 太田
良朋 太田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yamaha Corp
Original Assignee
Yamaha Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yamaha Corp filed Critical Yamaha Corp
Publication of JP2018112748A publication Critical patent/JP2018112748A/ja
Application granted granted Critical
Publication of JP6562104B2 publication Critical patent/JP6562104B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H1/00Details of electrophonic musical instruments
    • G10H1/0008Associated control or indicating means
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10GREPRESENTATION OF MUSIC; RECORDING MUSIC IN NOTATION FORM; ACCESSORIES FOR MUSIC OR MUSICAL INSTRUMENTS NOT OTHERWISE PROVIDED FOR, e.g. SUPPORTS
    • G10G1/00Means for the representation of music
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H1/00Details of electrophonic musical instruments
    • G10H1/02Means for controlling the tone frequencies, e.g. attack or decay; Means for producing special musical effects, e.g. vibratos or glissandos
    • G10H1/04Means for controlling the tone frequencies, e.g. attack or decay; Means for producing special musical effects, e.g. vibratos or glissandos by additional modulation
    • G10H1/053Means for controlling the tone frequencies, e.g. attack or decay; Means for producing special musical effects, e.g. vibratos or glissandos by additional modulation during execution only
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00Speech synthesis; Text to speech systems
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00Speech synthesis; Text to speech systems
    • G10L13/02Methods for producing synthetic speech; Speech synthesisers
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00Speech synthesis; Text to speech systems
    • G10L13/02Methods for producing synthetic speech; Speech synthesisers
    • G10L13/033Voice editing, e.g. manipulating the voice of the synthesiser
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00Speech synthesis; Text to speech systems
    • G10L13/02Methods for producing synthetic speech; Speech synthesisers
    • G10L13/033Voice editing, e.g. manipulating the voice of the synthesiser
    • G10L13/0335Pitch control
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00Speech synthesis; Text to speech systems
    • G10L13/08Text analysis or generation of parameters for speech synthesis out of text, e.g. grapheme to phoneme translation, prosody generation or stress or intonation determination
    • G10L13/10Prosody rules derived from text; Stress or intonation
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2220/00Input/output interfacing specifically adapted for electrophonic musical tools or instruments
    • G10H2220/155User input interfaces for electrophonic musical instruments
    • G10H2220/315User input interfaces for electrophonic musical instruments for joystick-like proportional control of musical input; Videogame input devices used for musical input or control, e.g. gamepad, joysticks
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2250/00Aspects of algorithms or signal processing methods without intrinsic musical character, yet specifically adapted for or used in electrophonic musical processing
    • G10H2250/315Sound category-dependent sound synthesis processes [Gensound] for musical use; Sound category-specific synthesis-controlling parameters or control means therefor
    • G10H2250/455Gensound singing voices, i.e. generation of human voices for musical applications, vocal singing sounds or intelligible words at a desired pitch or with desired vocal effects, e.g. by phoneme synthesis

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Electrophonic Musical Instruments (AREA)

Description

本発明は、文字に基づく音声を指定された音高で生成する技術に関し、特に、特定範囲の音声をリピートする技術に関する。
従来、メロディに従って音高を変化させながら歌詞の音声を合成することで歌唱音声を生成する装置が知られている。例えば、特許文献1においては、演奏データ(音高データ)が受信されるのに応じて歌詞データが示す歌詞における歌唱位置の更新制御を行う技術が開示されている。すなわち、鍵盤等の操作部に対するユーザ操作によってメロディ演奏を行い、該メロディ演奏の進行に同期させて歌詞を進行させる技術が開示されている。また、従来より、電子楽器においては種々の形状のコントローラが開発されており、鍵盤楽器の本体から突出させて把持部を設け、該把持部において任意の操作部や適宜の手操作を検出するための検出部を設けることが知られている(例えば、特許文献2,3参照)。
また、例えば、特許文献4には、複数の歌詞を表示手段に表示させ、操作手段の操作により歌詞の任意の区間を選択し、選択した区間を指定されたピッチの歌唱音声として出力する技術が開示されている。また、ユーザがタッチパネルに表示された歌詞の中の1音節を指示し、その後、3回にわたって鍵盤の押鍵を行うと、指示された音節が鍵盤で指定されたピッチで発音される構成が開示されている。
特開2008−170592号公報 特開平01−38792号公報 特開平06−118955号公報 特開2014−10190号公報
従来の、歌唱音声を生成する装置など、文字に基づき音声を生成する装置においては、音声生成によってもたらし得るユーザ表現等、様々な演奏表現の幅が狭かった。具体的には、ライブ演奏等においては、曲の盛り上がりに応じて任意の歌詞部分のフレーズを繰り返したり、同じフレーズの繰り返しであっても各繰り返し毎に歌詞表現及び/又は演奏の抑揚等を適宜変化させるなど、柔軟な歌詞の修正及び/又は音声の発生態様(状態)の制御が行えること、つまり、柔軟なアドリブ演奏が行えること、が望まれる。しかし、従来の装置においては、そのような柔軟なアドリブ演奏を容易に行うことができなかった。例えば、演奏中にユーザが所望する楽曲の部分的範囲を繰り返すように設定したり、同じフレーズを繰り返す際に各繰り返し毎に歌詞や抑揚を変化させるなど、柔軟に音声生成態様を制御することが容易にはできなかった。
また、従来、リピート対象を容易に選択できるようにするための多様な技術の開発が望まれていた。すなわち、上述の特許文献4において歌詞を繰り返すためには、表示手段に表示された歌詞を選択する必要がある。しかし、歌唱音声の出力中に表示手段の視認が必要であり、また、表示された歌詞の選択操作が必要である場合、演奏者の演奏態様が表示手段の視認や選択操作が可能な態様に拘束される。例えば、ライブ中において、演奏者は表示手段を備えた演奏装置を視認することが必須となる。従って、演奏者がブラインドタッチで演奏装置を演奏することは困難になり、演奏者の可動範囲や演奏姿勢等が表示手段の視認や選択操作が可能な範囲や姿勢等に拘束される。
本発明は、上述の点に鑑みてなされたもので、視覚に頼ることなくリピート対象を選択できるようにすることを目的とする。
上述の目的を達成するため、本発明によれば、生成すべき音声の音高を指定する音高指定手段と、前記音高指定手段により音高が指定される毎に、予め規定された文字列中の1または複数文字を順次指定する情報を取得する情報取得部と、前記取得された情報によって指定された1または複数文字に対応する音声を、前記指定された音高で生成する音声生成部と、押し込み操作及び押し込み解除操作に応じて、生成中の音声の任意の範囲をリピート対象として指定する情報を受け付けるリピート対象受付部と、前記リピート対象として指定された範囲の前記音声を前記音声生成部が繰り返し生成するように制御するリピート制御部、を備える音声生成装置が提供される。
本発明によれば、音高指定手段により音高が指定される毎に予め規定された文字列中の1または複数文字を順次指定し、該指定された1または複数文字に対応する音声を前記指定された音高で生成し、生成中の音声の任意の範囲をリピート対象として指定する情報を受け付け、前記リピート対象として指定された範囲の前記音声を繰り返し生成するので、ユーザは、音声生成部によって順次生成される1または複数文字に対応する音声を任意に指定された音高を持つ可聴音として聞くことによって、リアルタイムに生成されている音声がリピート対象として指定するのにふさわしいかどうかを聴感的に素早く判断しかつ指定(選択)することができる。従って、視覚に頼ることなくリピート対象の文字を選択することができる。
本発明の一実施形態にかかるコントローラを備えたシステムとしての鍵盤楽器の模式図。
前記コントローラのグリップが握られた状態を示す図。
前記鍵盤楽器の制御系統を示すブロック図。
文字に基づく音声生成の実例を説明するための図。
文字に基づく音声生成の実例を説明するための図。
文字に基づく音声生成の実例を説明するための図。
文字に基づく音声生成の実例を説明するための図。
文字に基づく音声生成の実例を説明するための図。
文字に基づく音声生成の実例を説明するための図。
音声生成の開始処理の一例を示すフローチャート。
音声生成処理の一例(キーオン処理)を示すフローチャート。
音声生成処理の一例(キーオフ処理)を示すフローチャート。
文字選択処理の一例を示すフローチャート。
音声制御処理の一例を示すフローチャート。
リピート対象選択処理の一例を示すフローチャート。
コントローラのグリップ形状の変更例を示す図。
日本語の歌詞の文字列の一例を示す図。
英語の歌詞の文字列の一例を示す図。
コントローラに設けられる文字セレクタの別の例を示す平面図。
図7の文字セレクタの操作に応じて音節統合処理及び音節分離処理の一例を示す図。
(1)システム構成
図1Aは、本発明の一実施形態にかかるコントローラ10a及び音声生成装置10bを備えたシステムとしての電子的鍵盤楽器10を模式的に示す図である。鍵盤楽器10は、直方体状の本体10bと角柱状のコントローラ10aとを備えている。鍵盤楽器10の本体10bは、任意の楽音及び音声を電子的に生成する音声生成装置の一例として機能するもので、音高セレクタ50と入出力部60とを備えている。音高セレクタ50は演奏すべき楽音又は音声の音高を指定するためにユーザによって操作される操作子であり、例えば白鍵および黒鍵からなる複数の鍵によって構成される。本実施形態における鍵盤楽器10の本体10bの両端の取付位置P1,P2には、図示しないショルダーストラップが接続されるように構成されている。ユーザは、当該ショルダーストラップを肩にかけた状態で鍵盤楽器10を身体の前方に配置し、片手で音高セレクタ(鍵盤)50を操作することで演奏を行うことができる。図1Aにおいては、このような態様でユーザが鍵盤楽器10を演奏する際にユーザから見た上下左右方向を付記してある。以下、本明細書において言及する方向は、鍵盤楽器10を演奏するユーザから見た上下左右前後の方向を言う。なお、音高セレクタ50は、鍵盤タイプの音高指定用演奏操作子に限らず、任意のタイプの演奏操作子を用いてよく、要は、ユーザの操作に応じて何らかの音高を指定することができるような構成からなるものであればよい。
入出力部60は、ユーザからの指示等を入力する入力部とユーザに各種の情報(画像情報や音声情報)を出力する出力部(ディスプレイ及びスピーカ)とを含んでいる。図1Aにおいては、一例として、鍵盤楽器10が備える入力部としての回転スイッチと出力部としてのディスプレイとが破線内に示されている。
コントローラ10aは、本体(音声生成装置)10bの一側面(図1Aの例では左側面)において当該面に略垂直な方向(鍵盤楽器10を演奏するユーザから見た左方向:図1A参照)に突出している。当該コントローラ10aの外形は略柱状である。当該略柱状の部位の外周の大きさはユーザが片手で握れる大きさであり、従って、本体10bから突出するコントローラ10aの部位はグリップGを構成している。当該グリップGの長手方向(図1Aの左右方向)に延びる軸に垂直な方向の断面の形状は、切断位置によらず一定である。なお、後述するように、コントローラ10aは、本体(音声生成装置)10bと一体不可分に結合されていてもよいし、本体(音声生成装置)10bとに対して着脱自在に構成されていてもよいし、あるいは、本体(音声生成装置)10bから分離していて有線又は無線式に本体(音声生成装置)10bと通信可能となっていてもよい。
図1Bは、図1Aに示す左側から右側の方向を視線方向としてコントローラ10aを眺めた状態を示す模式図であり、ユーザがグリップGを握った状態の例を示している。同図1Bに示すように、グリップGの軸に垂直な方向の断面は長方形の角部分を丸くしたような形状である。すなわち、グリップGの前後上下を構成する面は平面であるとともに、各平面の間に曲面又は斜面が形成された状態(面取りされた状態)となっている。
コントローラ10aのグリップGには、鍵盤楽器10の入出力部60の一部として機能し得る文字セレクタ60aと音声制御操作子60bとリピート操作子60cとが設けられている。すなわち、コントローラ10aに設けられた文字セレクタ60a、音声制御操作子60b、リピート操作子60cのいずれかの操作に応じて発生される信号及び/又は情報が、鍵盤楽器10の本体(音声生成装置)10bに伝送され、ユーザによる入力信号及び/又は情報として取り扱われる。文字セレクタ60aは、予め規定された文字列(例えば歌詞)中の1または複数文字を指定するためにユーザによって操作可能なように構成されており、後述するように、押しボタンタイプのスイッチからなる複数の選択ボタンMcf,Mcb,Mpf,Mpbを含む。この文字セレクタ60aは、グリップの上部の面および後部の平面の間に形成された曲面又は斜面(面取りされた部位)に配置される(図1B参照)。このように文字セレクタ60aを配置することにより、グリップGを握った手の親指で該文字セレクタ60aを操作し易いものとなる。
リピート操作子60cは、リピート演奏に関連する入力を行うための操作子である。本実施形態においてはリピート操作子60cも押しボタンタイプのスイッチからなり、グリップGの上部および後部を構成する平面の間に形成された曲面又は斜面(面取りされた部位)にリピート操作子60cが配置される(図1B参照)。本実施形態においては、当該曲面又は斜面(面取りされた部位)上で、文字セレクタ60aの各ボタンMcf,Mcb,Mpf,Mpbとリピート操作子60cのボタンとが該グリップGが延びる方向(図1Aに示す左右方向)に沿って一列に並べられている。
音声制御操作子60bは、音声生成装置10bによって生成される前記音声の状態を制御するためにユーザによって操作可能なように構成されている。一例として、音声制御操作子60bの操作に応じて、生成する音声の音高を制御することができるように構成されている。当該音声制御操作子60bは、グリップGの前方を構成する平面に配置される(図1B参照)。一例として、音声制御操作子60bは、長手状の薄膜状のタッチセンサからなり、操作面に対する検出対象(本実施形態においては指)の接触操作位置(例えば長手方向の1次元的位置)を検出することができるように構成されている。本実施形態において、音声制御操作子60bは、矩形状タッチセンサの短辺が上下方向に平行、矩形の長辺が左右方向に平行になるように(図1A参照)、グリップGの前部の面に取り付けられる。
以上の構成において、ユーザは、コントローラ10aのグリップGを図1Bのように左手で握りながら文字セレクタ60aと音声制御操作子60bとリピート操作子60cとを操作する。具体的には、ユーザは、コントローラ10aのグリップGを左手の手のひらで下から支えながら親指が後方、他の指が前方に配置された状態でグリップGを握る。この状態において、文字セレクタ60aおよびリピート操作子60cがグリップGの後部面と上部面との間の曲面又は斜面に存在するため、図1Bに示すように親指で操作し易い位置に文字セレクタ60aおよびリピート操作子60cが配置される。
また、図1Bに示すようにユーザがグリップGを握った状態において、音声制御操作子60bがグリップGの前部面上に存在するため、図1Bに示すように親指以外の指(人差し指等)で操作し易い位置に音声制御操作子60bが配置される。従って、本実施形態においては、ユーザがグリップGを握りながら親指で文字セレクタ60aやリピート操作子60cを操作した場合に、他の指が配置される部位に音声制御操作子60bが形成されていることになる。
この構成によれば、ユーザは、片手でコントローラ10aのグリップGを握りながら、その手の親指で文字セレクタ60aやリピート操作子60cを操作することが可能であり、かつ、その手の他の指で音声制御操作子60bを操作することができる。このため、片手で容易に音声制御操作子60bと文字セレクタ60(またはリピート操作子60c)とを同時操作することができる。さらに、上述のような片手での音声制御操作子60bに対する操作は、ギターのフレットを押さえるときのような操作に類似しており、ユーザが、ギターのフレットに対する操作と同様の操作で音声制御操作子60bに触れることにより、接触位置に応じて発生態様を制御することができる。さらに、以上の構成において、ユーザがコントローラ10aを握った状態において手とコントローラ10aとが接触する部位は平面または曲面又は斜面であり、手に対して尖った部位が触れることはない。従って、ユーザは、手を痛めることなく音声制御操作子60bの長手方向(図1Aに示す左右方向)に沿って繰り返し手をスライド移動させることができる。なお、文字セレクタ60aと音声制御操作子60bが同時に操作され易くするための配置は、図示例に限定されるものではなく、要は、グリップGを握った手の或る指で文字セレクタ60aと音声制御操作子60bの一方を操作している最中に、他方を該手の別の指で操作できるような配置であればよい。
図1Cは鍵盤楽器10において音声を生成し出力するための構成を示すブロック図である。図1Cに示すように、鍵盤楽器10は、CPU20と不揮発性メモリ30とRAM40と音高セレクタ50と入出力部60と音出力部70とを備える。音出力部70は、音声を出力するための回路およびスピーカー(図1Aには図示せず)を備えていてよい。CPU20は、RAM40を一時記憶領域として利用して不揮発性メモリ30に記録されたプログラムを実行可能である。
また、不揮発性メモリ30には、音声生成プログラム30aと文字情報30bと音声素片データベース30cとが予め記録される。文字情報30bは、歌詞のような予め規定された文字列の情報であり、例えば、該文字列を構成する複数の文字の情報および該文字列における各文字の順序を示す情報を含む。本実施形態において文字情報30bは、文字を示すコードが当該順序に従って記述されたテキストデータである。むろん、不揮発性メモリ30に予め記憶する歌詞のデータは1曲分のみであっても良いし、複数曲分であっても良く、あるいは、曲の一部の1フレーズのみであってもよい。所望の歌唱もしくは文字列の音声を生成しようとする場合に、1曲分すなわち1文字列分の文字情報30bが選択される。音声素片データベース30cは、人の歌声を再現するためのデータであり、本実施形態においては、予め、文字が示す音声が基準の音高で発音される際の音声の波形を収集し、短い期間の音声素片に分割し、当該音声素片を示す波形データをデータベース化することによって生成される。すなわち、音声素片データベース30cは、複数の音声素片を示す波形データで構成されている。当該音声素片を示す波形データを組み合わせると、任意の文字が示す音声を再現することができる。
具体的には、音声素片データベース30cは、CV(子音から母音への遷移部)、VV(母音から他の母音への遷移部)、VC(母音から子音への遷移部)などのような音声の遷移部分(Articulation)や母音Vの伸ばし音(Stationary)などの波形データの集合体である。すなわち、音声素片データベース30cは、歌唱音声の素材となる各種の音声素片を示す音声素片データの集合体である。これらの音声素片データは、実際の人間が発した音声波形から抽出された音声素片に基づいて作成されたデータである。本実施形態においては、任意の文字や任意の文字列が示す音声を再現する際に結合されるべき音声素片データが予め決められており、不揮発性メモリ30に記録されている(図示せず)。CPU20は、文字情報30bが示す任意の文字や文字列に応じて不揮発性メモリ30を参照し、結合すべき音声素片データを選択する。そして、CPU20が選択した音声素片データを結合すると、任意の文字や任意の文字列が示す音声を再現するための波形データが生成される。なお、音声素片データベース30cは、各種の言語用に用意されていても良いし、発音者の性別や音声の特性等に応じて用意されていても良い。また、音声素片データベース30cを構成する波形データは、音声素片の波形を所定のサンプリングレートでサンプリングしたサンプル列を一定時間長のフレームに分割したデータであっても良いし、当該データに対してFFT(高速フーリエ変換)を行うことにより得られたフレーム毎のスペクトルデータ(振幅スペクトルおよび位相スペクトル)であってもよい。ここでは、波形データが後者である例を説明する。
本実施形態において、CPU20は、不揮発性メモリ30に記録された音声生成プログラム30aを実行することができる。音声生成プログラム30aが実行されると、CPU20は、音声生成プログラム30aの処理により、ユーザが音高セレクタ50で指示した音高で、文字情報30bとして定義された文字に対応するの音声信号を生成する。そして、CPU20は、当該生成された音声信号に従って音声を出力する指示を音出力部70に対して出力する。この結果、音出力部70は、当該音声を出力するためのアナログ波形信号を生成し、増幅してスピーカーから音声を出力する。
(2)文字列の一例
本発明において、予め規定された文字列とは、予め所定の楽曲と関連づけられている既存の歌の歌詞に限らず、詩、韻文、通常の文章等、任意の文字列からなるものであってよい。しかし、以下説明する実施例においては、特定の楽曲に関連した歌詞の文字列に対応する音声を生成するものとする。公知のように、楽曲における音符進行と歌詞進行とは予め所定の関係に対応づけられている。その場合、1つの音符は、1音節に対応することもあれば、複数音節に対応することもあり、また、直前の音符に対応して発生した或る音節の持続部分であることもある。公知のように、言語のタイプに応じて、1つの音符に対応づけられ得る文字の単位(数)も異なる。例えば、日本語では、一般に、1音節が1つの仮名文字で表現され得るので、歌詞は1つの仮名文字単位で個々の音符に対応づけられ得る。これに対して、その他の多くの言語、例えば英語、においては、一般に、1音節は1又は複数の文字で表現されるので、1文字単位ではなく音節単位で個々の音符に対応づけられることになり、そして、1音節を構成する文字数は1又は複数であり得る。ここから導き出される概念は、どのような言語体系下の文字にあっても、1音節に対応して生成すべき音声を特定するための文字数は1又は複数である、ということである。この意味で、本発明において、音声生成のために指定される1又はまたは複数文字とは、音声生成のために必要な1又は複数の音節(子音のみの音節も含む)を特定するに足るものである。
一実施例として、音高セレクタ50を用いたユーザの音高指定操作に同期して、文字列(歌詞)中の1または複数文字が該文字列(歌詞)における文字進行順序に従って順次進められる構成が採用される。そのために、該文字列(歌詞)中の各文字が、それが割り当てられる個々の音符に対応づけて、1又は複数文字からなるグループに分けられ、各グループが進行順に順位づけられる。図6A及び6Bは、そのような文字グループの順位付けの一例を示す。図6Aは、日本語の歌詞の文字列の一例を示し、それに対応するメロディの音符を五線譜で示している。図6Bは、英語の歌詞の文字列の一例を示し、それに対応するメロディの音符を五線譜で示している。図6A及び6Bにおいて、歌詞文字列における各文字グループの下段に記された数字は、該各文字グループの順位を示す。前記不揮発性メモリ30に記録された文字情報30bは、このような、歌詞文字列内の各文字を1又は複数文字からなるグループに区分けした状態で読み出し可能に記憶した文字データと、各グループの順位を示す順位データとを含む。例えば、図6Aの例では、順位1,2,3,4,5,6,9,10に対応する各文字グループが1文字からなり、順位7,8に対応する各文字グループが複数文字からなる。また、図6Bの例では、順位1,2,4,5,6,8,9,10,11に対応する各文字グループが複数文字からなり、順位3,7に対応する各文字グループが1文字からなる。なお、本発明においては、楽曲の音符データ(例えばMIDIデータ)を持つ必要はないので、図6A及び6Bの上段に示された楽譜は単なる参考にすぎない。しかし、後述するように、変更例として、楽曲の音符データ(例えばMIDIデータ)を利用することも可能である。
(3)基本的な音声生成処理の一例
図3A〜3Cは、CPU20によって実行される基本的な音声生成処理の一例を示す。図3Aは、音声生成の開始処理の一例を示す。ユーザが入出力部60を操作して音声生成の対象となる曲を選択すると、CPU20は、ステップS100で曲選択がなされたことを判定して、ステップS101に進み、当該選択された曲の歌詞文字列の文字情報30bを不揮発性メモリ30から取得し、RAM40にバッファ記憶する。なお、RAM40にバッファ記憶される前記選択された曲の歌詞文字列の文字情報30bは、前述したように、1又は複数文字からなる各グループ毎の文字データと、該グループの順位を示す順位データとを含む。次に、CPU20は、出力対象の文字グループの順位を指示するためのポインタj(変数)の値を初期値「1」に設定する(ステップS102)。該ポインタjはRAM40において維持される。該ポインタjの値に対応する順位データを持つ前記歌詞文字列中の1文字グループの前記文字データによって示される音声(音節)が、次の発音機会において生成されることになる。次の発音機会とは、ユーザが音高セレクタ50によって所望の音高を指定することである。例えば、該ポインタjの値1が最初の順位1の文字グループ、値2が最初から2番目の順位2の文字グループを示す。
図3Bは、音高指定情報に応じて音声を生成する音声生成処理の一例(キーオン処理)を示す。ユーザが音高セレクタ50を押し込み操作して何らかの音高(好ましくは当該楽曲の楽譜に従う音高)を選択(指定)すると、CPU20は、ステップS103でキーオンと判定して、ステップS104に進み、音高セレクタ50が備えるセンサの出力情報に基づいて、操作状況(該指定された音高を示す音高指定情報及び該操作時のベロシティ若しくは強度等を示す情報)を取得する。次に、CPU20は、前記ポインタjによって指示される出力対象文字グループに対応する音声を、当該指定された音高および音量強度等で、生成する(ステップS105)。具体的には、CPU20は、音声素片データベース30cから該出力対象文字グループが示す音節の音声を再現するための音声素片データを取得する。さらに、CPU20は、取得された音声素片データの中の母音に対応したデータに対して音高変換処理を実行し、音高セレクタ50で指定された音高を持つ母音音声素片データに変換する。さらに、CPU20は、前記出力対象の文字グループが示す音節の音声を再現するための音声素片データの中の母音に対応したデータを、前記音高変換処理後の母音音声素片データに置換し、これらの音声素片データを組み合わせたデータに対して逆FFTを施す。この結果、前記出力対象の文字グループが示す音節の音声を再現する音声信号(時間領域のデジタル音声信号)が合成される。
なお、前記音高変換処理は、特定の音高の音声を他の音高の音声に変換する処理であれば良く、例えば、音高セレクタ50で指示された音高と音声素片データが示す音声における基準の音高との差分を求め、当該差分に相当する周波数だけ音声素片データの波形が示すスペクトル分布を周波数軸方向に移動させる処理等によって実行可能である。むろん、音高変換処理は、他にも種々の処理によって実現可能であり、当該処理は時間軸上で行われてもよい。なお、ステップS105における音声生成処理においては、合成される前記音声の状態(例えば音高)を、前記音声制御操作子60bの操作に従って制御するようにも構成されているが、この点については追って説明する。ステップS105における音声生成処理においては、合成される前記音声の種々の態様(音高、音量、音色等)が調整可能であっても良く、例えばビブラート等を付与する音声制御が実行されても良い。
音声信号が生成されると、CPU20は、当該音声信号を音出力部70に対して出力する。この結果、音出力部70は、当該音声信号をアナログ波形信号に変換し、増幅して出力する。従って、音出力部70から、出力対象の文字グループが示す音節の音声であって、音高セレクタ50で指定された音高及び音量強度等を持つ該音声が出力される。
ステップS106では、前記リピート操作子60cの操作に応じてリピート機能がオンされているか否かを判定する。この詳細については後述する。通常はリピート機能はオフであり、ステップS106のNOからステップS120に進み、ポインタjが1増加される。これにより、ポインタjの値によって指示される出力対象文字グループは、次の発音機会において生成すべき音声に対応するものとなる。
図3Cは、前記音高指定情報に応じて生成された音声の生成を停止する処理(キーオフ処理)の一例を示す。CPU20は、音高セレクタ50が備えるセンサの出力情報に基づいて、キーオフ、つまり音高セレクタ50に対する押し込み操作が解除された、か否かを判定する(ステップS107)。キーオフがなされたと判定された場合、CPU20は、生成中の音声を停止(又は減衰)し、音出力部70から出力される音声信号が消音されるようにする(S108)。この結果、音出力部70からの音声出力が停止する。図3B及び3Cの処理(キーオン処理及びキーオフ処理)により、CPU20は、音高セレクタ50で指定された音高および強度の音声を、音高セレクタ50で指定された期間継続して出力させる。
以上のような処理において、CPU20は、音高セレクタ50が1回操作されるたびに、出力対象文字グループを特定するための変数(ポインタj)をインクリメントする(ステップS120)。本実施形態において、CPU20は、音高セレクタ50で指定された音高で出力対象文字グループに対応する音声を生成及び出力する処理を開始した後、該音声の生成及び出力が停止したか否かにかかわらず、該変数(ポインタj)をインクリメントする。従って、本実施形態において、出力対象文字グループとは、次の発音指示によって生成及び出力されるべき音声に対応する文字グループであり、言い換えると生成及び出力待機中の文字グループである。
(4)音声生成すべき文字の表示
なお、本実施形態において、CPU20は、出力対象文字グループと、少なくともその前方または後方の順序の文字グループを入出力部60のディスプレイに表示するようにしてよい。例えば、入出力部60のディスプレイには、既定の数(例えばm)の文字を表示するための歌詞表示枠が設けられている。CPU20は、RAM40を参照し、文字列の中からポインタjが示す順位の1文字グループを含む、その前及び/又は後の合計m個の文字を取得し、これらの文字を前記ディスプレイの歌詞表示枠内に表示する。
さらに、CPU20は、入出力部60のディスプレイにおいて、出力対象文字グループと他の文字とを区別するための表示を行うようにしてよい。当該表示は、種々の態様によって実現可能であり、出力対象文字グループを強調表示(点滅、色の変更、下線追記等)することや、出力対象文字グループの前または後の文字を明示(点滅、色の変更、下線追記等)すること等を採用可能である。さらにCPU20は、出力対象文字グループが入出力部60のディスプレイに常に表示されるように、表示内容を切り替える。当該切り替えは、種々の態様で実現可能であり、ポインタjの値の変化に伴って出力対象文字グループが変化することに応じてディスプレイの表示内容をスクロールさせることや、複数個の文字を単位にして表示内容を切り替えること等を採用可能である。
(5)文字に基づく音声生成の基本的な実例
図2Aは、文字に基づく音声生成の基本的な実例を示す図である。同図2Aにおいて横軸は時間軸であり、縦軸は音高を示す軸である。図2Aにおいては、ある音階におけるいくつかの階名(ド、レ、ミ、ファ、ソ)に相当する音高が縦軸に示されている。また、図2Aにおいては、音声生成されるべき文字列の1番目の順位の文字グループから7番目の順位の文字グループまでを、符号L1,L2,L3,L4,L5,L6,L7で示している。さらに、同図2Aに示すグラフにおいては、生成及び出力される音声を矩形の領域で示しており、矩形における横方向(時間軸方向)の長さが音声の出力継続期間に相当し、矩形の縦方向の位置が音高に相当する。なお、ここでは、各矩形の縦方向の中央の位置が当該矩形の音高に該当する。
また、図2Aにおいては、時刻t1,t2,t3,t4,t5,t6,t7において、ユーザが階名ド,レ,ミ,ファ,ド,レ,ミの順で音高セレクタ50を操作した場合に生成及び出力される音声が示されている。このような操作が行われると、ユーザがド,レ,ミ,ファ,ド,レ,ミの音高セレクタ50を操作したことに同期して、出力対象文字グループがL1,L2,L3,L4,L5,L6,L7のように順次変化する。従って、図2Aに示す例においては、ユーザがド,レ,ミ,ファ,ド,レ,ミの音高セレクタ50を操作したことに同期して、L1,L2,L3,L4,L5,L6,L7が示す各文字グループに対応する音声がド,レ,ミ,ファ,ド,レ,ミの音高で順次出力されることになる。
以上のような基本的な実例によれば、ユーザは、音高セレクタ50により音声の音高と文字の進行とを制御することができるため、既定の順序の歌詞に従う歌唱音声をユーザの意図通りの音高で生成する(自動的に歌わせる)ことができる。しかし、このような基本例においては、音高セレクタ50に対する操作に同期して文字列内の文字が順序通りに進んでしまうため、音高セレクタ50の操作を誤るなど、実際の曲の進行とは異なる予定外の操作が行われると、曲の進行よりも歌唱音声の進行が早くなったり、または遅くなってしまう。例えば、図6Bの例において、順位1,2,3の歌詞「sometimes I」を歌唱させる小節において、シ、ド、#ド、の3つの音高を順次指定すべきところを、シ、ド、#ド、#ド、と誤操作した場合、「sometimes I won-」と音声合成されてしまい、次の小節の先頭の歌詞音節「won-」が前の小節の末尾で出力されてしまい、以後、歌詞進行が早くなってしまう。音高セレクタ50によって任意の音高を指定することができても、文字の進行を戻したり、進めたりすることはできない。
(6)文字セレクタ60aの具体例
そこで、本実施形態にかかる鍵盤楽器10のコントローラ10aには文字セレクタ60aが設けられており、音高セレクタ50で予定外の操作が行われたとしても、ユーザが文字セレクタ60aを操作することによって、誤操作があつとしても、音声生成すべき出力対象文字グループを本来の楽曲進行に従う文字グループに戻すことができるように構成されている。また、ユーザが意図的に音高セレクタ50と文字セレクタ60aを組み合わせて操作することによって、本来の楽曲進行を適宜変形したアドリブ演奏を行うことができるようにもなっている。
具体的には、図1Aに示すように、文字セレクタ60aは、出力対象文字グループを、該歌詞文字列の進行順序に従って1文字グループ(1順位)だけ進めるための文字前進選択ボタンMcfと、当該進行順序とは逆向きに1文字グループ(1順位)だけ戻すための文字後退選択ボタンMcbとを備え、更に、出力対象文字グループを、該歌詞文字列の進行順序に従って1フレーズ単位で進めるためのフレーズ前進選択ボタンMpfと、当該進行順序とは逆向きにフレーズ単位で戻すためのフレーズ後退選択ボタンMpbとを備えている。なお、フレーズとは、複数の文字の連なりであり、各フレーズの区切りが当該歌詞文字列の文字情報30bにおいて記述されることによって予めフレーズが定義されている。例えば、文字情報30bにおいて、文字列の各文字コードの配列の途中において、フレーズの区切りであることを示すコード(例えば空白を示すコード等)が挿入されている。従って、ポインタjの現在値に関して、その直前のフレーズの先頭の文字グループの順位、及びその直後のフレーズの先頭の文字グループの順位は、当該歌詞文字列の文字情報30bが持つフレーズ定義から容易に判明する。なお、文字前進選択ボタンMcfおよびフレーズ前進選択ボタンMpfは、当該文字列の進行順序に従って1または複数文字だけ進めるための前進セレクタに相当し、文字後退選択ボタンMcbとフレーズ後退選択ボタンMpbは、前記進行順序とは逆向きに1または複数文字だけ戻すための後退セレクタに相当する。
(7)文字選択処理
図3Dに従い、CPU20が音声生成プログラム30aによって実行する文字選択処理の一例を説明する。文字選択処理は、文字セレクタ60aのいずれかの選択ボタンが操作されると(押し込み操作後に押し込み操作の解除が行われると)実行される。文字選択処理において、CPU20は、操作された文字セレクタ60aを判定する(ステップS200)。具体的には、文字セレクタ60aの中の文字前進選択ボタンMcf、文字後退選択ボタンMcb、フレーズ前進選択ボタンMpf、フレーズ後退選択ボタンMpbのいずれかが操作されると、各選択ボタンから操作した選択ボタンの種類および操作内容を示す信号が出力される。そこで、CPU20は、当該信号に基づいて操作された選択ボタンが文字前進選択ボタンMcf、文字後退選択ボタンMcb、フレーズ前進選択ボタンMpf、フレーズ後退選択ボタンMpbのいずれであるのかを判定する。
操作された選択ボタンが文字前進選択ボタンMcfである場合、CPU20は、出力対象文字グループの順位を1順位進める(ステップS205)。すなわち、CPU20は、ポインタjの値を1インクリメントする。操作された操作子が文字後退選択ボタンMcbである場合、CPU20は、出力対象文字グループの順位を1順位戻す(ステップS210)。すなわち、CPU20は、ポインタjの値を1デクリメントする。
操作された操作子がフレーズ前進選択ボタンMpfである場合、CPU20は、出力対象文字グループの順位を1フレーズ進める(ステップS215)。すなわち、CPU20は、当該歌詞文字列の文字情報30bを参照し、現在の出力対象文字グループよりも先(順位を示す数値が大きい)の順位の文字グループ間に存在する最も近いフレーズの区切りを検索する。そして、当該区切りが検出された場合、CPU20は、当該区切りの次に位置する文字グループの順位(つまり、直後のフレーズの先頭の文字グループの順位)を示す数値を、ポインタjにセットする。
操作された操作子がフレーズ後退選択ボタンMpbである場合、CPU20は、出力対象文字グループの順位を1フレーズ戻す(ステップS220)。すなわち、CPU20は、当該歌詞文字列の文字情報30bを参照し、現在の出力対象文字グループよりも前(順位を示す数値が小さい)の順位の文字グループ間に存在する最も近いフレーズの区切りを検索する。そして、当該区切りが検出された場合、CPU20は、当該区切りの次に位置する文字グループの順位(つまり、直前のフレーズの先頭の文字グループの順位)を示す数値を、ポインタjにセットする。
このようにしてユーザによる文字セレクタ60aの操作に応じてポインタjの値を適宜進める又は戻すのとほぼ同時に又はその直後の適切なタイミングで、ユーザが音高セレクタ50を操作することにより適宜の音高を指定すると、CPU20は、前記図3Bの処理を実行し、前記ステップS103においてYESと判定される。これにより、前述したステップS104以降の処理が実行され、前記文字セレクタ60aの操作に応じて指定された文字グループ(1または複数文字)に対応する音声が生成され出力される。すなわち、文字前進選択ボタンMcfが操作された場合は(S205)1順位進められた文字グループの音声が生成され、文字後退選択ボタンMcbが操作された場合は(S210)1順位戻された文字グループの音声が生成され、フレーズ前進選択ボタンMpfが操作された場合は(S215)次のフレーズの先頭の文字グループの音声が生成され、フレーズ後退選択ボタンMpbが操作された場合は(S220)直前のフレーズの先頭の文字グループの音声が生成される。こうして、文字セレクタ60aのユーザ操作に応じて適宜修正された又はアドリブ演奏される歌詞文字の音声が生成される。
(8)誤操作の修正例
このように、音声生成する文字グループの順序を文字セレクタ60aの操作によって修正することができると、音高セレクタ50による音高指定操作を誤った場合であっても、音声生成する文字グループの順序を、楽曲進行に沿う適正な順序に戻すことができる。図2Bは、図2Aと同様の曲を演奏する過程で音高セレクタ50による操作を誤った場合の例及びこの誤操作を修正する例を示している。具体的には、図2Bに示す例においては、時刻t5〜t6の期間においてドの音高音高セレクタ50のみを操作すべきところ、ユーザがドの音高の音高セレクタ50に対する押し込み操作を行った直後(時刻t0)において、ドの音高の音高セレクタ50に対する押し込み操作を解除してレの音高の音高セレクタ50の押し込み操作を行ってしまった場合の例を示している。
このような場合、本実施形態においては音高セレクタ50の操作に同期して出力対象文字グループの順位が変化するため、図2Bに示すように、時刻t5からL5の文字グループに対応する音声の生成が開始された後、時刻t0からはL5の文字グループに対応する音声の生成が終了するとともにL6の文字グループに対応する音声の生成が開始される。従って、誤った音高の音声が出力されるのみならず、以後の歌詞文字が不適切に進行してしまう。しかし、このような場合であっても、本実施例によれば、ユーザが、例えば、時刻tbにおいて文字後退選択ボタンMcbを操作すれば、出力対象文字グループが1順位戻される。従って、ユーザが再度時刻t9においてドの音高セレクタ50を操作すれば、適正なL5の文字グループに対応する音声が適正な音高(ド)で出力される。従って、音高セレクタ50による音高指定操作の誤りを適正に修正することができる。また、前述のように、図6Bの例において、順位1,2,3の歌詞「some- times I」を歌唱させる小節において、シ、ド、#ド、の3つの音高を順次指定すべきところを、シ、ド、#ド、#ド、と誤操作した場合は、すぐに文字後退選択ボタンMcbを1回操作すれば、次の小節の先頭から正しい歌詞音節「won-」が始まるように修正できる。
以上の構成によれば、ユーザは、文字セレクタ60aを操作することにより、文字情報が示す順序に従って1文字グループずつ、または、フレーズ単位で出力対象文字グループを変化させることができる。従って、簡易な構成によって出力対象文字グループを修正することができ、ユーザが歌詞文字列の順序を正しく記憶していれば、ブラインドタッチによって出力対象文字グループの修正を行うことも可能になる。
さらに、以上の構成においては、音高セレクタ50に対する操作に同期して出力対象文字グループに対応する音声が生成され、その後に出力対象文字グループの順位を指示するポインタjがインクリメントされる。従って、音高セレクタ50に対する操作に応じて音声が生成されると、その音声に係る文字グループの次の順位の文字グループが出力対象となる。このため、ユーザは、現時点で出力された音声を聞くことで、歌唱音声の進行状況を把握することができるので、現時点で何らかの文字セレクタ60aを操作した場合、次にどのような歌詞文字の音声を発生させることができるかが容易に把握できる。例えば、文字後退選択ボタンMcbを操作すれば、出力対象文字グループを1順位戻すことにより、現在出力中の音声(または出力が完了した音声の中で最後に出力された音声)に係る文字グループを再度出力対象文字グループとすることができると認識することができる。従って、ユーザは、聴覚によって取得した情報に基づいて文字セレクタ60aを操作することにより出力対象文字グループを変化させることができ、ブラインドタッチによって出力対象文字グループの修正を行うことがより容易になる。
(9)音声制御処理
さらに、本実施形態においては、鍵盤楽器10の楽器としての性能を高めるため、ユーザが音声制御操作子60bを操作することによって、生成される音声の特徴を制御する(例えば音高を調整する)ことができるように構成されている。具体的には、音高セレクタ50の操作に応じた音声の生成中に音声制御操作子60bがユーザの指で操作されると、CPU20は、音声制御操作子60bに対する指の接触位置を取得する。そして、CPU20は、当該接触位置に対して予め対応づけられた補正量を取得する。この補正量に応じて生成中の音声の特徴(音高、音量、音色等のいずれか)を制御する。
図4Aは、CPU20が音声生成プログラム30aによって実行する音声制御処理の一例として、音声制御操作子60bの操作に応じて音高を調整する例を示す。この音声制御処理は、音声制御操作子60bが操作されると(指が接触すると)実行される。音声制御処理において、CPU20は、音声が生成中であるか否かを判定する(ステップS300)。例えば、CPU20は、音高セレクタ50から音高指定のための押し込み操作したことを示す信号が出力されたときから該押し込み操作が解除されたことを示す信号が出力される直前までの間において、音声が生成中であると判定する。ステップS300において音声が生成中であると判定されなかった場合は、制御対象となる音声が存在しないため、CPU20は、音声制御処理を終了する。
ステップS300において、音声が出力中であると判定された場合、CPU20は、接触位置を取得する(ステップS305)。すなわち、CPU20は、音声制御操作子60bから出力される接触位置を示す信号を取得する。次に、CPU20は、補正量を取得する(ステップS310)。すなわち、CPU20は、音高セレクタ50によって指定された音高を基準の音高とし、該基準の音高に対する補正量を音声制御操作子60bに対する指の接触位置に基づいて取得する。
具体的には、音声制御操作子60bは細長い矩形の面を指の接触の検出面として備えるセンサであり、少なくとも1次元的な操作位置(直線位置)を検出するように構成されている。一実施例において、音声制御操作子60bの長辺方向の中央の位置が基準の音高の位置に対応しており、接触位置が音声制御操作子60bの長辺方向の中央の位置から離れるほど音高の補正量が大きくなるように接触位置毎の補正量が予め決められている。また、音声制御操作子60bの中央の位置を挟んで一方側の各接触位置には音高を高くする場合の補正量が対応づけられており、音声制御操作子60bの中央の位置を挟んで他方側の各接触位置には音高を低くする場合の補正量が対応づけられている。
従って、音声制御操作子60bの長辺方向の両端の位置が最も高い音高を示す位置および最も低い音高を示す位置になる。例えば、基準の音高から4半音分の補正を可能にする構成においては、音声制御操作子60bの長辺方向の中央の位置が基準の音高が対応づけられ、長辺方向の一方の端部に基準の音高よりも4半音分高い音高が対応づけられ、当該一方の端部と中央の位置との中間の位置に基準の音高よりも2半音分高い音高が対応づけられる。音声制御操作子60bの長辺方向の他方の端部に基準の音高よりも4半音分低い音高が対応づけられ、当該他方の端部と中央の位置との中間の位置に基準の音高よりも2半音分低い音高が対応づけられる。本実施形態においては、このように接触位置に補正後の音高が対応づけられているため、CPU20が、音声制御操作子60bから接触位置を示す信号を取得すると、CPU20は、当該接触位置に対応する音高と基準の音高との間の周波数の差分を補正量として取得する。
次に、CPU20は、音高変換を行う(ステップS315)。すなわち、CPU20は、押し込み操作中の音高セレクタ50により指定される音高、すなわち、ステップS300において音声生成中の音高を基準の音高とし、ステップS310で取得された補正量に応じて、当該生成中の音声の音高調整(音高変換)を行う。具体的には、CPU20は、基準の音高で音声を出力するための音声素片データの波形が示すスペクトル分布を周波数軸方向に移動させる処理等により、補正後の音高で音声を出力するための音声素片データを生成する音高変換処理を実行する。さらに、CPU20は、音高変換処理後の音声素片データに基づいて音声信号を生成し、音出力部70に対して出力する。この結果、音出力部70から、音高が補正された後の音声が出力される。なお、上記例では、音声生成中に音声制御操作子60bの操作を検出して補正量の取得や音高変換処理を行っているが、音声出力を開始する前に音声制御操作子60bが操作され、その後、音高セレクタ50が操作された場合に、音高セレクタ50の操作に応じた音声の生成中に、当該音声の生成直前の音声制御操作子60bの操作を反映させて補正量の取得や音高変換を行ってもよい。
(10)歌唱アドリブ演奏及び音声制御の実例
図2Cは、図2Aと同様の曲を演奏する過程で、文字セレクタ60aの操作による歌唱アドリブ演奏と音声制御操作子60bの操作による音声制御とを組み合わせて行う例を示している。具体的には、図2Cにおいては、時刻tbにおいて文字セレクタ60aの文字後退選択ボタンMcbに対する操作(押し込みおよび押し込み操作の解除)が2回行われた例を示している。図2Cに示す例においては、時刻t4にてファの音高の音高セレクタ50が操作されると、L4の文字グループに対応する音声がファの音高で生成されるようになり、かつ、ポインタjによって指示される出力対象文字グループはL5となる。その後の時刻tbにおいて文字後退選択ボタンMcbに対する操作が2回繰り返され、これに応じて、出力対象文字グループの順位が2順位戻されて、L3が出力対象文字グループとなる。
従って、次の時刻t5にて音高セレクタ50の操作によりミの音高が指定されると、文字グループL3に対応する音声がミの音高で生成される。この場合、文字グループL3に対応する音声の生成が開始されると、ポインタjによって指示される出力対象文字グループはL3の次の順位のL4に変化する。当該文字グループL3に対応する音声の生成期間は、ミの音高を指定する音高セレクタ50の押し込み操作開始時(時刻t5)から押し込み操作が解除される時(時刻t6)までの期間である。そして、時刻t6にて音高セレクタ50の操作によりファの音高が指定されると、L4の出力対象文字グループに対応する音声がファの音高で生成される。
この例において、曲の構成通りに演奏する場合、時刻t5〜時刻t7の期間において文字グループL5,L6が示す音声をド,レの音高で出力すべきであるが、図2Cに示す例では時刻t5〜時刻t7の期間において文字グループL3,L4が示す音声をミ,ファの音高で出力している。これらの文字グループおよび音高は、その直前の時刻t3〜時刻t5における文字グループおよび音高であり、時刻t5〜時刻t7の期間においても同様の歌詞および音高を繰り返していることになる。このような演奏例は、文字グループL3,L4が示す音声をミ,ファの音高で出力する部分が曲のサビであり、メインボーカルの歌唱に続けて同じ内容を繰り返すコーラスを入れる場合など、演奏の過程で盛り上がった場合等に利用される。このようにして、歌唱アドリブ演奏を適宜行うことができる。
さらに、このような場合、同じ歌詞文字を繰り返しているとしても、最初の時刻t5〜時刻t7の期間において繰り返される歌唱音声の状態が、次の時刻t3〜時刻t5の期間における歌唱音声の状態とは異なる方が演奏の完成度が高まる場合が多い。本実施形態においては、鍵盤楽器10は音声制御操作子60bを備えているため、ユーザは、当該音声制御操作子60bを操作することによって繰り返し演奏の1回目と2回目で歌唱音声の状態を変化させることが容易にできる。
図2Cにおいては、繰り返し演奏である時刻t5〜時刻t7の期間において音高を上下に変化させるビブラートを行っている。すなわち、ユーザは、時刻tc1〜時刻t6の間および、時刻tc2〜時刻t7の間において、音声制御操作子60bに指が触れた状態で音声制御操作子60bの長手方向の中央の位置を中心に接触位置を図1Aに示す左右方向に移動させた。この場合、図2Cに示すように、時刻tc1〜時刻t6の間において、文字グループL3を示す音声がミの音高を中心に上下に揺れ、文字グループL4を示す音声がファの音高を中心に上下に揺れる。従って、ユーザは、繰り返し演奏の1回目と2回目で同一の歌詞部分音声を異なる制御態様で演奏することができる。このように、ユーザは、歌詞の修正と音声の制御とを柔軟に行うことができる。また、同一の歌詞部分を、抑揚を変えて複数回演奏することも可能である。従って、文字に基づく音声の表現の幅を広げることが可能である。
なお、図2Cに示す例においては、アドリブ演奏として行った歌詞の繰り返し部分が終了した場合に歌詞文字の順序を本来の進行位置まで移動する(時刻t7で発音すべき文字グループをL7に設定する)ため、ユーザは、文字前進選択ボタンMcfを操作する必要がある。図2Cにおいては、ユーザが時刻tfにおいて文字前進選択ボタンMcfに対する操作(押し込み操作と押し込み操作の解除)を2回行った例を示している。すなわち、時刻t6における音高セレクタ50の操作で出力対象文字グループはL5になっているため、時刻tfにおいてユーザが文字前進選択ボタンMcfを2回操作すれば出力対象文字グループがL7となる。この結果、ユーザが、時刻t7においてミの音高の音高セレクタ50を操作すれば、文字L7が示す音声がミの音高で出力され、元の歌詞文字の順序および音高に戻って曲を進行させることができる。
なお、時刻tfにおいて、ユーザは、文字前進選択ボタンMcfと音声制御操作子60bとを同時に操作する必要があるが、本実施形態にかかるコントローラ10aを利用すれば、文字前進選択ボタンMcfと音声制御操作子60bとを同時に操作することが容易に行える。すなわち、本実施形態にかかるコントローラ10aにおいては、ユーザから見たグリップの前方の面を構成する平面に音声制御操作子60bが設けられ、グリップの上方および後方を構成する平面の間に文字前進選択ボタンMcfが設けられている。従って、ユーザは、図1Bに示すように、グリップGを片手で握りながら文字前進選択ボタンMcfを親指、音声制御操作子60bを他の指(人差し指等)で操作することができ、両操作子を同時に操作することができる。
なお、以上のように、音声制御操作子60bが設けられていることにより、より多様なバリエーションで歌唱音声を演奏することが可能になる。例えば、本実施形態のように、1個の音高セレクタ50が1回操作されるたびに文字グループの順序が進行する構成であっても、1個の文字グループが示す音声を連続する2以上の音高で生成させることが可能になる。例えば、文字グループL1をド、文字グループL2をレ、文字グループL3をミおよびファ、文字グループL4をド、文字グループL5をレ、文字グループL6をミという順に演奏する歌を想定する。この場合、ユーザは、図2Dに示す時刻t1,t2,t3のそれぞれで、ド,レ,ミの音高セレクタ50を操作し、時刻tcにおいて音声制御操作子60bによって基準の音高であるミの音高を半音分、つまりファまで上昇させる操作を行う。この結果、文字グループL1が示す音声がドの音高で生成され、文字グループL2が示す音声がレの音高で生成され、文字グループL3が示す音声がミの音高で生成された後にファの音高で生成される。この後、ユーザが、時刻t5,t6,t7のそれぞれで、ド,レ,ミの音高セレクタ50を操作すれば、文字グループL4が示す音声がドの音高で出力され、文字グループL5が示す音声がレの音高で出力され、文字グループL6が示す音声がミの音高で出力される。このように、本実施形態によれば、ユーザは、1個の文字グループが示す音声を連続する2以上の音高で出力させることが可能である。なお、以上の構成において、ミからファへの音高の変化は、ユーザが音声制御操作子60bを操作する速度に応じて連続的に行われる。従って、人の声で歌っている場合の音声により近い音声を生成することができる。
以上の構成によれば、ユーザは、コントローラ10aを利用して、文字に基づく音声を多様な表現で生成するように指示することが可能である。さらに、ユーザが鍵盤楽器10を演奏し、音声を出力している過程において、ユーザは曲の盛り上がりに応じてコーラスやサビなどの任意の歌詞を繰り返すとともに抑揚を変化させるなど、歌詞の修正と音声の発生態様の制御とを柔軟に行うことができる。また、歌詞の修正によって同一の歌詞が繰り返される場合において、発生態様を制御することにより、同一の歌詞の抑揚を変化させることも可能である。従って、文字に基づく音声の表現の幅を広げることが可能である。
(11)リピート機能
本実施形態においては、さらに、より多様な手法で容易に歌詞のアドリブ演奏をできるようにするため、ユーザがリピート操作子60cを操作することによって、リピート対象とする文字グループの範囲(開始および終了)を指示できるように構成されている。具体的には、リピート操作子60cに対する押し込み操作が行われると、CPU20は、リピート対象の文字グループの選択を開始する。また、CPU20は、リピート操作子60cに対する押し込み操作が解除されるとリピート対象の文字グループの選択を終了する。CPU20は、リピート操作子60cが押されている間において選択された文字グループの範囲をリピート対象として設定する。
まず、リピート対象を選択する処理の一例について、図4Bを参照して説明する。図4Bに示すリピート対象選択処理は、リピート操作子60cに対する押し込み操作が行われると実行される。図2Eは、図2Aと同様の曲を演奏する過程でリピート対象の文字を設定し、リピート対象の文字を繰り返す演奏が行われた場合の例を示している。具体的には、図2Eにおいては、時刻tsにおいてリピート操作子60cに対する押し込み操作が行われ、時刻teにおいてリピート操作子60cに対する押し込み操作を解除する操作が行われ、時刻ttにおいてリピート操作子60cに対する押し込み操作が行われた例を示している。
以下においては、当該図2Eを参照しながらリピート対象選択処理を説明する。この例においては、時刻tsにおけるリピート操作子60cに対する押し込み操作をトリガにしてリピート対象選択処理の実行が開始される。当該リピート対象選択処理において、CPU20は、リピート機能がオフであるか否かを判定する(ステップS400)。すなわち、CPU20は、RAM40に記録されたリピートフラグを参照し、リピート機能がオフであるか否かを判定する。
ステップS400において、リピート機能がオフであると判定された場合、CPU20は、リピート機能をオンにする(ステップS405)。すなわち、本実施形態においては、リピート機能がオフの状態でユーザがリピート操作子60cの押し込み操作を行うと、CPU20は、リピート機能がオンの状態に切り替えられたと見なし、RAM40に記録されたリピートフラグをリピート機能がオンであることを示す値に書き換える。そして、CPU20は、リピート機能がオンになった後においては、リピート操作子60cの押し込み操作が解除されるまでの期間においてリピート対象となる文字グループの範囲を設定するための処理を行う。
次に、CPU20は、出力対象文字グループをリピート対象の最初の文字グループとして設定する(ステップS410)。すなわち、CPU20は、ポインタjの現在値を取得し、リピート対象の最初の文字グループの順位を示す数値としてRAM40に記録する。ポインタjの現在値によって指示される出力対象文字グループは、次の発音機会(次に音高セレクタ50が操作されたとき)に生成される音声を示す。例えば、図2Eに示す例では、時刻t2における音高セレクタ50への操作によって文字グループL2に対応する音声の生成が開始されるとともに、出力対象文字グループがL3に更新される。従って、時刻tsにおけるリピート操作子60cの押し込み操作に応じてステップS410が実行されると、ポインタjによって指示される文字グループL3がリピート対象の最初の文字グループに設定される。
次に、CPU20は、リピート操作子60cの押し込み操作が解除されたと判定されるまで待機する(ステップS415)。当該待機中であっても、CPU20は、音高セレクタ50に対する操作に応じて上述の音声生成処理(図3B及び図3C)を実行する。従って、音高セレクタ50が操作されると、当該操作に同期して出力対象の文字は文字情報30bが示す順序に従って進行する。例えば、時刻tsより後の時刻t3,t4で音高セレクタが操作されると、出力対象文字グループはL4,L5に変化する。
ステップS415において、リピート操作子60cの押し込み操作が解除されたと判定されると、CPU20は、出力対象文字グループの1個前の文字グループをリピート対象の最後の文字グループとして設定する(ステップS420)。すなわち、CPU20は、ポインタjの現在値を取得し、当該数値から1減じた数値(j−1)を、リピート対象の最後の文字グループの順位を示す数値としてRAM40に記録する。j−1によって指示される出力対象文字グループの1個前の文字グループは、現在生成中の音声または生成済みの最後の音声に対応している。
例えば、図2Eに示す例では、時刻t4における音高セレクタ50への操作によって文字グループL4に対応する音声の生成が開始されるとともに、出力対象文字グループがL5に更新される。従って、時刻teにおけるリピート操作子60cの押し込み操作の解除に応じてステップS420が実行されると、生成中の音声を示す文字グループL4がリピート対象の最後の文字グループとして設定される。従って、図2Eに示す例においては、リピート対象の最初の文字グループがL3であり、リピート対象の最後の文字グループがL4となり、リピート対象が文字グループL3,L4の範囲に設定されることになる。このようにリピート対象の文字グループ範囲が設定されることに応じて、後述するように、リピート対象の文字グループ範囲の音声を,該リピート機能がオフにされるまで、1乃至複数回繰り返すことができる。従って、ユーザ所望の回数だけリピート対象の文字グループ範囲の音声を繰り返すことが可能になる。このため、図2Eに示すようにリピート対象の文字が示す音声を1回繰り返す(同一の歌詞を2回繰り返す)演奏のみならず、ライブ演奏の際などに観客の盛り上がりに応じて特定のフレーズを何度も繰り返すといった使い方が可能になる。
上記のようにリピート対象たる文字グループの範囲が設定されると、CPU20は、リピート対象の最初の文字グループを出力対象文字グループとして設定する(ステップS425)。すなわち、CPU20は、RAM40を参照してリピート対象の最初の文字グループの順位を示す数値を取得し、当該数値を、ポインタjにセットする。これにより、音高セレクタ50の操作に応じて次に音高指定情報を取得したとき、リピート対象の最初の文字グループに対応する音声が生成されることになる。
次に、上記のように選択されたリピート対象の文字グループ範囲の音声を繰り返し生成する処理の一例について図3Bを参照して説明する。前記ステップS425の処理が行われた後に、音高セレクタ50による音高指定操作がなされると、CPU20は、図3BのステップS103のYESからステップS104に行き、指定された音高を示す音高指定情報を取得する。そして、ステップS105において、ポインタjによって指示される順位の文字グループ(つまり、リピート対象の最初の文字グループ)に対応する音声を、該指定された音高で生成する。次に、ステップS106において、CPU20は、リピート機能がオンであるか否かを判定する。この場合、リピート機能がオンされているので、ステップS106はYESであり、ステップS110に進む。
ステップS110において、CPU20は、ポインタjが示す出力対象文字グループがリピート対象の最後の文字グループであるか否かを判定する。リピート対象の最後の文字グループでなければ、ステップS110のNOから前記ステップS120に進み、ポインタjの値を1増加する。
こうして、音高セレクタ50による音高指定操作がなされる毎に図3Bの処理が行われ、リピート対象の最後の文字グループに達するまで、ステップS110のNOから前記ステップS120に進む経路の処理が繰り返される。リピート対象の最後の文字グループに達すると、ステップS110はYESと判定され、ステップS115に進む。ステップS115では、ポインタjの値を、リピート対象の最初の文字グループの順位にセットする。その後、音高セレクタ50による音高指定操作がなされると、前記ステップS105の処理により該最初の文字グループに対応する音声が再び生成される。こうして、リピート対象の最初から最後の文字グループまでの音声を、音高指定操作がなされる毎に順次生成し、それから、最初の文字グループに戻って音声生成を繰り返す。リピート機能がオンされている限り、このようなリピート音声生成処理が繰り返される。
オンされているリピート機能をオフするためには、リピート操作子60cをもう一度押し込み操作する。これに応じて、図4Bの処理が行われ、リピート機能がオンであるため、ステップS400ではNOと判定され、ステップS430に進む。ステップS430では、リピート機能をオフにする。すなわち、CPU20は、リピート機能がオンの状態でユーザがリピート操作子60cの押し込み操作を行うと、リピート機能がオフの状態に切り替えられたと見なし、RAM40に記録されたリピートフラグをリピート機能がオフであることを示す値に書き換える。
次に、CPU20は、リピート対象の文字グループ範囲の設定をクリアする(ステップS435)。すなわち、CPU20は、リピート対象の最初の文字グループ及び最後の文字グループの順位を示す数値をRAM40から消去する。なお、一実施例として、リピート機能がオフにされた場合であっても、ポインタjの値つまり出力対象文字グループは変化させないようにしている。従って、例えば、図2Eに示す例において、時刻ttにおいてリピート操作子60cに対する押し込み操作が行われたことに応じてリピート機能がオフになった場合、出力対象文字グループはL5のままである。
ユーザは、リピート操作子60cに対する押し込み操作を行う際に出力されている音声(図2Eに示す例では、L4の音声)を聴いて、出力対象文字グループ(図2Eに示す例では、L5)を把握することができるため、次の発音タイミングまでの間に文字セレクタ60aを操作することで、所望の文字グループを出力対象文字グループとして設定することができる。
例えば、ユーザが、時刻t7より前のタイミングにおいて文字前進選択ボタンMcfを2回操作することで、出力対象を文字グループL7に設定することができる。この場合、時刻t7においてユーザが音高セレクタ50を操作すれば、文字グループL7が示す音声が出力される。また、文字情報30bにおいて、文字グループL6と文字グループL7との間がフレーズの区切りに設定されている場合、ユーザが、時刻t7より前のタイミングにおいてフレーズ前進選択ボタンMpfを1回操作することで、出力対象文字グループをL7に設定することができる。この場合も、時刻t7においてユーザが音高セレクタ50を操作すれば、文字グループL7に対応する音声が出力される。
なお、ステップS435において行う処理の変形例として、CPU20が、ポインタjの値を自動で本来の進行位置まで移動させるようにしても良い。具体的には、CPU20が、リピート演奏中においてリピートがなされていないと仮定する基準ポインタを音高指定操作に応じて順次進行させるように構成すればよい。例えば、図2Eに示す例において、時刻ttにおいてリピート操作子60cに対する押し込み操作(リピート機能オフ)が行われたことに応じてステップS435が実行された場合、CPU20は、前記基準ポインタによって、ポインタjによって指示されるべき出力対象文字グループがL7であると特定する。なお、前記基準ポインタに限らず、リピート機能オフ時にポインタjの値を本来の進行位置まで自動的に移動させるための手法は、種々のものを採用し得る。例えば、CPU20が、リピート機能がオンである期間中における音高操作子50の操作回数をカウントし、該カウント値とリピート開始時のポインタjの値とを使用して、リピート終了時のポインタjの値を修正するようにしてよい。
なお、リピート操作子60cによる操作と音声制御操作子60bによる音声制御とを組み合わせると、多様な演奏を行うことが可能である。例えば、文字セレクタ60aを利用することなく図2Cと同様の演奏を行うことが可能である。図2Fは、リピート操作子60cと音声制御操作子60bとを利用して図2Cと同様の演奏を行う場合の例を示す図である。具体的には、図2Fにおいては、時刻tsにおいてリピート操作子60cに対する押し込み操作が行われ、時刻teにおいてリピート操作子60cに対する押し込み操作を解除する操作が行われ、時刻tc1〜時刻t6の間および、時刻tc2〜時刻t7の間において、音声制御操作子60bでビブラートがかけられ、時刻ttにおいてリピート操作子60cに対する押し込み操作が行われた例を示している。このような操作が行われると、図2Cと同様に文字グループL3,L4を2回繰り返し、2回目にビブラートがかけられた状態で演奏が行われる。
以上の構成によれば、CPU20は、リピート操作子60cに対する操作に応じて、任意に設定したリピート対象の文字グループ範囲に対応する音声を繰り返し生成する。また、本実施形態においては、ユーザの指示(音高セレクタ50の操作)に応じてリピート対象の文字が示す音声の繰り返しタイミングを制御することができる。また、ユーザが歌詞文字列中の任意の文字範囲をリピート対象に指定してその音声を繰り返して出力させることができるため、楽器演奏の習熟や記憶等のために同一箇所の演奏を繰り返す際に、ユーザは、容易にリピート範囲を指定することができ、繰り返し演奏を行わせることができる。また、楽器演奏に限らず、例えば外国語の習得等のために、このリピート機能を利用することも可能であり、例えば、外国語等のリスニング学習のために、所望の文字範囲を繰り返し音声発生させることができる。さらに、文字情報30bを作成する際に、リピートされる2回目以降の文字群の作成は省略することもできる。従って、文字情報30bの作成作業を簡略化し、また、文字情報30bの容量を低減することができる。さらに、音声生成装置によって文字情報30bに基づいて音声を生成している過程において、文字情報30bとして定義された所定の順序の文字列から任意の部分を選択してリピートさせることができるため、文字列の既存の順序を修正して音声生成を行うことが可能である。なお、文字列の既存の順序の修正の態様としては、種々の態様が想定される。例えば、輪唱を行ったり、曲の中の盛り上がる部分(サビ)を繰り返したり、「ラララ」などのスキャットを繰り返したり、演奏難易度の高い部分を練習のために繰り返したりする態様等があり得る。さらに、本実施形態においては、1個の押しボタン式スイッチであるリピート操作子60cによって、リピート対象の文字範囲の指定と、リピート演奏の開始およびと終了の指示を行うことができる。従って、極めて簡易な操作によってリピート対象の文字範囲の指定とリピート演奏タイミングの制御とを行うことが可能になる。また、少ない操作でリピートに関する制御を行うことが可能になる。さらに、利用者は、音出力部70から順次出力される音声を聞くことによって、リアルタイムにリピート対象の文字を選択することができる。従って、視覚に頼ることなくリピート対象の文字を選択することができる。
(12)他の実施形態:
以上の実施形態は本発明を実施するための一例であり、他にも種々の実施形態を採用可能である。例えば、コントローラ10aの形状は、図1Aに示す態様に限定されない。図5(A)〜(E)は、コントローラ10aのグリップGの種々の形状について、該グリップGの一端から見た図である。これらの図に示すように、グリップGの断面は、多角形(図5(A)は平行四辺形、(B)は三角形、(E)は長方形の例)であってもよいし、閉曲線(図5(C)は楕円の例)、直線と曲線で構成される図形(図5(D)は半円の例)であってもよい。むろん、断面の形状や大きさが切断位置によらず一定である必要もなく、本体10bに近づくにつれ断面積や曲率が変化するように構成してもよい。
なお、グリップGにおいては、文字セレクタ60aまたはリピート操作子60cを任意の指で操作した場合に、他の指で音声制御操作子60bが操作可能な位置にこれらの操作子が形成されていれば良い。このためには、グリップGを片手で握った場合に指が配置される部分に文字セレクタ60a(またはリピート操作子60c)と音声制御操作子60bとを形成する構成を採用可能である。例えば、図5(A),(B),(D),(E)に示すように、同一平面上ではなく、異なる面上に文字セレクタ60a(またはリピート操作子60c)と音声制御操作子60bとが形成される構成を採用可能である。この構成であれば、文字セレクタ60a(またはリピート操作子60c)と音声制御操作子60bとに対する誤操作が抑制されるとともに、ユーザは、これらの操作子の同時操作を容易に行うことが可能である。
さらに、ユーザがグリップを片手で握りながら安定的に保持するためには、文字セレクタ60a(またはリピート操作子60c)と音声制御操作子60bとが、グリップGの重心を挟んだ反対側に位置する2面(例えば、図5(A),(E)において前方および後方を構成する面)に存在しないことが好ましい。この構成によれば、グリップGを握る動作に伴って、ユーザが文字セレクタ60a(またはリピート操作子60c)や音声制御操作子60bに対して誤操作することを抑制することができる。
さらに、コントローラ10aと本体10bとの接続態様は、図1Aに示す態様に限定されない。例えば、コントローラ10aと本体10bとの接続箇所は1カ所に限定されず、U字状の部材などの屈曲した柱状の部材でコントローラ10aが構成され、柱状の部材の両端が本体10bに接続されるとともに柱状の部材の一部がグリップとなる構成等を採用可能である。さらに、コントローラ10aが鍵盤楽器10から脱着可能であっても良い。この場合、コントローラ10aの操作子の操作出力は有線または無線通信によって本体10bのCPU20に伝達される。
さらに、本発明の適用対象は、鍵盤楽器10に限定されず、音高セレクタ50を備えた他のタイプの電子楽器であってもよい。また、作成済みの音高情報(MIDI情報等)に従って、文字情報30bで定義された歌詞を自動的に歌唱させる歌唱音声生成装置であってもよいし、録音情報や録画情報の再生装置であってもよい。その場合、CPU20は、自動演奏シーケンスに従って自動的に再生される音高指定情報(MIDIイベント等)を取得し、該取得した音高指定情報(MIDIイベント等)によって指定される音高で、ポインタjによって指示される文字グループの音声を生成し、かつ、該取得した音高指定情報(MIDIイベント等)に応じてポインタjの値を進めるようにしてよい。そのような自動演奏方式の音高指定情報を取得する実施例においては、文字セレクタ60aが操作されたとき、自動演奏シーケンスに従う音高指定情報の取得を一時中断し、それに代えて、ユーザ操作に応じて音高セレクタ50から与えられる音高指定情報を取得し、該取得した音高指定情報に従う音高で、文字セレクタ60aの操作によって変更されたポインタjによって指示される文字グループの音声を生成するようにしてよい。自動演奏シーケンスに従って音高指定情報を取得する実施例における別の例としては、文字セレクタ60aが操作されたとき、該文字セレクタ60aの操作に応じたポインタjの値の変更に応じて自動演奏の進行を変更する(進める又は戻す)ように構成し、こうして変更された自動演奏の進行に従って自動的に生成される音高指定情報を取得し、該取得した音高指定情報に従う音高で、文字セレクタ60aの操作によって変更されたポインタjによって指示される文字グループの音声を生成するようにしてよい。そのような場合は、音高セレクタ50は不要である。また、ユーザ操作によって音声生成(出力)タイミングを指示する場合でも、そのための指示手段は、音高セレクタ50に限定されず、他の適宜のスイッチ等であっても良い。例えば、生成すべき音声の音高を示す情報は曲の自動シーケンスデータから取得し、その発音タイミングはユーザによる適宜のスイッチの操作に応じて指定されるような構成であってもよい。
さらに、音声制御操作子60bに基づいて音高を変化させるための構成は、上述の実施形態以外にも種々の構成を採用可能である。例えば、CPU20が、音声制御操作子60bにおける接触位置に基づいて基準の音高からの音高の変化率を取得し、当該変化率に基づいて音高を変化させる構成であっても良い。さらに、基準の音高で音声が出力されている状態において、CPU20が、音声制御操作子60bに対してユーザが最初に触れた位置が基準の音高であるとみなし、当該位置から接触位置が変化した場合に両位置の距離に基づいて音高の補正量や音高の変化率を特定しても良い。
この場合、単位距離当たりの音高の補正量や音高の変化率は予め特定される。この状態において、CPU20は、ユーザが最初に触れた位置からの接触位置の変化距離を取得する。さらに、CPU20は、当該変化距離を単位距離で除した値に単位距離当たりの音高の補正量や音高の変化率を乗じることで変化量や変化率を特定する。さらに、音声制御操作子60bに対する接触位置ではなく、CPU20が、音声制御操作子60bの接触位置の変化(移動速度等)に基づいて音高の補正量や音高の変化率を特定する構成であっても良い。むろん、音声制御操作子60bによって変化させることが可能な音高の幅は、上述の例以外にも種々の例(例えば、1オクターブ分)を採用可能である。また、ユーザの指示等によって当該幅が可変であってもよい。さらに、ユーザの指示等によって、音高、音量、音声の性質(発音者の性別や音声の特性等)等の中から音声制御操作子60bによる制御対象が選択可能であっても良い。
なお、音声制御操作子60bは、文字セレクタ60aを設けたグリップG上に配置することなく、該文字セレクタ60aを設けたグリップGから分離して配置してもよい。例えば、鍵盤楽器10の本体10bの入出力部60に設けられている既存の楽音制御操作子を、音声制御操作子60bとして使用するようにしてもよい。
文字情報30bの取得手法は、上述したものに限らない。例えば、文字情報30bが記録された外部の記録媒体から有線又は無線通信を介して鍵盤楽器10内に取り込むようにしてもよい。あるいは、リアルタイムに歌われている歌唱音声をマイクロホンでピックアップして鍵盤楽器10内のRAM40にバッファ記憶し、バッファ記憶したオーディオ波形データに基づいて文字情報30bを取得するようにしてもよい。
また、歌詞等のあらかじめ規定された文字列を定義する文字情報30bは実質的に複数の文字および各文字の順序を定義し得る情報であればよく、そのデータ表現形式は、テキストデータ、画像データ、オーディオデータなど、どのようなデータ表現からなっていてもよい。例えば、文字に相当する音節の時系列の変化を指示するコード情報で表現されても良いし、時系列のオーディオ波形データで表現されても良い。文字情報30bにおける文字列がどのようなデータ表現形式からなるものであっても、要は、該文字列内の各文字グループ(音節に対応する1又は複数の文字)がそれぞれ個別に識別されうるようにコード化されていればよく、そのようなコードに従って音声信号を生成しうるように構成されていればよい。
また、音声生成装置は、文字の順序に従って文字が示す音声を生成する機能を備えているものであればよく、すなわち、文字情報に基づいて文字が示す言葉の発音を音声として再現することができればよい。さらに、文字グループに対応する音声を生成するための手法としては、種々の手法のいずれかを任意に採用可能であり、種々の音節の発音を示す波形情報に基づいて文字情報が示す文字を発音するための波形を生成する構成等を採用可能である。
音声制御操作子は、制御対象となる要素を変化させることができればよく、制御対象の要素の基準からの変化、制御対象の要素の数値、制御対象の要素の変化後の状態等を指定することが可能なセンサであっても良い。音声制御操作子は、タッチセンサに限らず、押しボタン式スイッチ等であっても良い。さらに、音声制御操作子においては、少なくとも文字セレクタによって出力対象として選択された文字について、当該文字が示す音声の発生態様を制御することができればよいが、これに限らず、文字セレクタによる選択とは無関係に音声の発生態様を制御することができてもよい。
また、文字セレクタ60aは、前述した4タイプの選択ボタンMcf,Mcb,Mpf,Mpbに限らず、その他のタイプの文字選択(指定)を行う手段を備えていてもよい。図7は、そのような文字セレクタ60aの変形例を示す。図7において、文字セレクタ60aは、前述した4タイプの選択ボタンMcf,Mcb,Mpf,Mpbのほかに、音節分離セレクタMcsと音節統合セレクタMcuとを含む。音節分離セレクタMcsは、所定の1文字グループを例えば2音節に分離して進行させることを指示するためのものである。音節統合セレクタMcuは、連続する例えば2文字グループを統合して1音の音声として発音させることを指示するためのものである。例えば、前記図6Bに示したような歌詞文字列に従う音声を生成する場合を想定し、音節分離セレクタMcs及び音節統合セレクタMcuによる音節分離及び統合制御の一例を図8に示す。図8においては、順位「4」の文字グループ「won」の音声生成が開始される前に、音節統合セレクタMcuがオンされた例を示している。この音節統合セレクタMcuのオンに応じてCPU20は付加情報として“統合”フラグを立て、その直後における音高指定情報の取得に応じて、音節統合処理を行う。この音節統合処理においては、前記ステップS105(図3B)の処理を変形して、ポインタjの現在値「4」によって指示される文字グループ「won」とその次の順位「5」に該当する文字グループ「der」を統合して「wonder」という複音節の音声を生成し、かつ、前記ステップS120(図3B)の処理を変形して、ポインタjの現在値「4」に「2」をプラスし、ポインタjの値を2順位進める。こうして、音節統合セレクタMcuは、予め規定された文字列内に含まれる連続する複数文字グループを統合して、該統合した複数文字グループの音声を1回の発音タイミングで生成するよう指示するための統合セレクタとして機能する。
また、図8においては、順位「6」の文字グループ「why」の音声生成が開始される前に、音節分離セレクタMcsがオンされた例を示している。この音節分離セレクタMcsのオンに応じてCPU20は付加情報として“分離”フラグを立て、その直後における音高指定情報の取得に応じて、音節分離処理を行う。この音節分離処理においては、前記ステップS105(図3B)の処理を変形して、ポインタjの現在値「6」によって指示される文字グループ「why」を、「wh-」と「y」の2音節に分離し、分離した最初の音節(文字グループ)「wh-」の音声を生成し、かつ、前記ステップS120(図3B)の処理を変形して、ポインタjの現在値「6」に「0.5」をプラスし、ポインタjの値を半端な値「6.5」とする。そして、その次の音高指定情報の取得に応じて、前記分離した2番目の音節(文字グループ)「y」の音声を生成し、かつ、ポインタjの現在値「6.5」に「0.5」をプラスし、ポインタjの値を「7」とする。これにより、音節分離処理は終了し、その次の音高指定情報の取得に応じて、ポインタjの値「7」に応じた文字グループ「I」の音声が生成される。なお、音節分離処理において、音節分離する対象の文字グループが1文字(例えば「I」)からなる場合であっても。2音節(例えば「a」と「i」)に分離できる場合は、そのように分離して、音声生成する。また、どうしても音節分離できない場合は、1番目の音節の音声のみを生成し、2番目の音節の発音タイミングでは、無音とするか、若しくは、1番目の音節の音声をサステインさせるようにすればよい。こうして、音節分離セレクタMcsは、予め規定された文字列内に含まれる1または複数文字からなる1文字グループの音声を複数の音節に分離して、分離した各音節の音声を異なる発音タイミングで生成するよう指示するための分離セレクタとして機能する。
リピート機能に関して、上記実施例をまとめると、CPU20は、文字セレクタ60aの操作に応じて人為的に及び/又は自動演奏シーケンスの進行に応じて自動的に、ポインタjを前進又は後退し、該ポインタjによって1または複数文字からなる1文字グループを特定する(取得する)ように構成されており(S102,S105,S200〜S220等)、このようなCPU20の果たす機能が、予め規定された文字列中の1または複数文字を指定する情報を取得する情報取得部としての機能に相当する。
また、CPU20は、ポインタjによって指示される順位の文字グループに対応する音声を、このような指定された音高で生成するように構成されており(S105)、こうして生成された音声が音声出力部70から出力されるようになっている。このようなCPU20の果たす機能が、前記取得した情報に基づき、前記指定された1または複数文字に対応する音声を生成する音声生成部としての機能に相当する。
また、CPU20は、図4Bの処理によって、リピート対象となる文字列の範囲を、ユーザ操作に応じて任意に設定するための処理を行っている。このようなCPU20の果たす機能が、生成中の音声をリピート対象として指定する情報を受け付けるリピート対象受付部としての機能に相当する。また、CPU20は、リピート機能がオンである限り、ステップS425(図4B)の処理によってリピート対象の最初の文字グループの順位をポインタjにセットし、リピート対象の終わりから初めに戻って音声生成を繰り返すように機能している(S105)。このようなCPU20の果たす機能が、前記リピート対象として指定された前記音声を前記音声生成部が繰り返し生成するように制御するリピート制御部としての機能に相当する。
10 鍵盤楽器
10a コントローラ
10b 本体(音声生成装置)
30 不揮発性メモリ
30a 音声生成プログラム
30b 文字情報
30c 音声素片データベース
50 音高セレクタ
60 入出力部
60a 文字セレクタ
60b 音声制御操作子
60c リピート操作子
70 音出力部

Claims (9)

  1. 生成すべき音声の音高を指定する音高指定手段と、
    前記音高指定手段により音高が指定される毎に、予め規定された文字列中の1または複数文字を順次指定する情報を取得する情報取得部と、
    前記取得された情報によって指定された1または複数文字に対応する音声を、前記指定された音高で生成する音声生成部と、
    押し込み操作及び押し込み解除操作に応じて、生成中の音声の任意の範囲をリピート対象として指定する情報を受け付けるリピート対象受付部と、
    前記リピート対象として指定された範囲の前記音声を前記音声生成部が繰り返し生成するように制御するリピート制御部、
    を備える音声生成装置。
  2. 前記リピート対象受付部は、押し込み操作に応じて前記リピート対象となる範囲の最初の音声を特定し、押し込み解除操作に応じて前記リピート対象となる範囲の最後の音声を特定する、請求項1の音声生成装置。
  3. 記リピート対象受付部は、1又は複数の音声が時系列的に生成されている間に、ユーザによる前記押し込み操作及び押し込み解除操作に応じて、前記リピート対象となる最初の音声を指定する情報と、前記リピート対象となる最後の音声を指定する情報とを受け付けるように構成されており、
    前記リピート制御部は、時系列的に生成された前記1又は複数の音声のうち、前記指定された最初の音声から最後の音声までをリピート対象として前記音声生成部が繰り返し生成するように制御するように構成されている、請求項1又は2の音声生成装置。
  4. 前記リピート対象受付部は、さらに、リピート機能がオフのときの押し込み操作に応じてリピート機能をオンに設定し、リピート機能がオンのときの押し込み操作に応じてリピート機能をオフに設定するように構成されており、
    前記リピート制御部は、前記リピート機能がオンに設定されているとき、前記リピート対象として受け付けた範囲の前記音声を前記音声生成部が繰り返し生成するように制御する、請求項1乃至3のいずれかの音声生成装置。
  5. 前記リピート制御部による前記音声の繰り返し生成を終了するときに戻るべき音声に対応する1または複数の文字を、前記予め規定された文字列の中から、決定する決定手段をさらに備えた、請求項3の音声生成装置。
  6. 前記決定手段は、前記予め規定された文字列中において、前記リピート対象として受け付けた範囲の次に位置する1または複数の文字に対応する音声を、前記戻るべき音声に対応する1または複数の文字として決定する、請求項5の音声生成装置。
  7. 前記決定手段は、前記リピート機能がオンに設定されている期間中における前記音高指定手段による音高指定回数をカウントし、該カウント値に基づき前記戻るべき音声に対応する1または複数の文字を、前記予め規定された文字列の中から、決定する、請求項5の音声生成装置。
  8. 生成すべき音声の音高を指定することと、
    前記音高が指定される毎に、予め規定された文字列中の1または複数文字を順次指定する情報を取得することと、
    音声生成装置によって、前記取得された情報によって指定された1または複数文字に対応する音声を、前記指定された音高で生成することと、
    所定の操作子の押し込み操作及び押し込み解除操作に応じて、生成中の音声の任意の範囲をリピート対象として指定する情報を受け付けることと、
    前記リピート対象として指定された範囲の前記音声を前記音声生成装置が繰り返し生成するように制御すること、
    からなる方法。
  9. 音声生成装置によって生成された音声を繰り返し生成させるためのプログラムであって、コンピュータに、
    生成すべき音声の音高を指定する手順と、
    前記音高が指定される毎に、予め規定された文字列中の1または複数文字を順次指定する情報を取得する手順と、
    前記取得された情報によって指定された1または複数文字に対応する音声を、前記指定された音高で、前記音声生成装置によって生成させる手順と、
    所定の操作子の押し込み操作及び押し込み解除操作に応じて、生成中の音声の任意の範囲をリピート対象として指定する情報を受け付ける手順と、
    前記リピート対象として指定された範囲の前記音声を前記音声生成装置が繰り返し生成するように制御する手順、
    を実行させることからなるプログラム。
JP2018043095A 2014-06-17 2018-03-09 音声生成装置及び方法並びにプログラム Active JP6562104B2 (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2014124091 2014-06-17
JP2014124092 2014-06-17
JP2014124091 2014-06-17
JP2014124092 2014-06-17

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2016529261A Division JP6399091B2 (ja) 2014-06-17 2015-06-10 文字に基づく音声生成のためのコントローラ及びシステム

Publications (2)

Publication Number Publication Date
JP2018112748A JP2018112748A (ja) 2018-07-19
JP6562104B2 true JP6562104B2 (ja) 2019-08-21

Family

ID=54935410

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2016529261A Active JP6399091B2 (ja) 2014-06-17 2015-06-10 文字に基づく音声生成のためのコントローラ及びシステム
JP2018043095A Active JP6562104B2 (ja) 2014-06-17 2018-03-09 音声生成装置及び方法並びにプログラム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2016529261A Active JP6399091B2 (ja) 2014-06-17 2015-06-10 文字に基づく音声生成のためのコントローラ及びシステム

Country Status (5)

Country Link
US (1) US10192533B2 (ja)
EP (1) EP3159892B1 (ja)
JP (2) JP6399091B2 (ja)
CN (1) CN106463111B (ja)
WO (1) WO2015194423A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6728754B2 (ja) * 2015-03-20 2020-07-22 ヤマハ株式会社 発音装置、発音方法および発音プログラム
JP6634897B2 (ja) * 2016-03-09 2020-01-22 ヤマハ株式会社 歌詞生成装置および歌詞生成方法
US20200027440A1 (en) * 2017-03-23 2020-01-23 D&M Holdings, Inc. System Providing Expressive and Emotive Text-to-Speech
JP6497404B2 (ja) * 2017-03-23 2019-04-10 カシオ計算機株式会社 電子楽器、その電子楽器の制御方法及びその電子楽器用のプログラム
WO2018198379A1 (ja) * 2017-04-27 2018-11-01 ヤマハ株式会社 歌詞表示装置
WO2019026233A1 (ja) * 2017-08-03 2019-02-07 ヤマハ株式会社 効果制御装置
CN107617214A (zh) * 2017-09-23 2018-01-23 深圳市谷粒科技有限公司 一种游戏手柄的自动学习控制方法
JP6610714B1 (ja) * 2018-06-21 2019-11-27 カシオ計算機株式会社 電子楽器、電子楽器の制御方法、及びプログラム
JP6610715B1 (ja) 2018-06-21 2019-11-27 カシオ計算機株式会社 電子楽器、電子楽器の制御方法、及びプログラム
JP7059972B2 (ja) 2019-03-14 2022-04-26 カシオ計算機株式会社 電子楽器、鍵盤楽器、方法、プログラム
US20210366448A1 (en) * 2020-05-21 2021-11-25 Parker J. Wonser Manual music generator

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6438792A (en) 1988-02-25 1989-02-09 Yamaha Corp Electronic keyed instrument
JP2508937B2 (ja) 1991-10-25 1996-06-19 ヤマハ株式会社 電子鍵盤楽器
JPH05341777A (ja) * 1992-06-08 1993-12-24 Yamaha Corp 電子楽器のパラメータ制御装置
US5477003A (en) * 1993-06-17 1995-12-19 Matsushita Electric Industrial Co., Ltd. Karaoke sound processor for automatically adjusting the pitch of the accompaniment signal
KR0135792B1 (ko) * 1994-12-08 1998-05-15 김광호 노래반주용 곡프로그램 및 이에 적합한 노래반주장치
JPH1063287A (ja) * 1996-08-21 1998-03-06 Brother Ind Ltd 発音訓練装置
US5875427A (en) * 1996-12-04 1999-02-23 Justsystem Corp. Voice-generating/document making apparatus voice-generating/document making method and computer-readable medium for storing therein a program having a computer execute voice-generating/document making sequence
JP3900580B2 (ja) * 1997-03-24 2007-04-04 ヤマハ株式会社 カラオケ装置
JP3317181B2 (ja) * 1997-03-25 2002-08-26 ヤマハ株式会社 カラオケ装置
JP3365354B2 (ja) * 1999-06-30 2003-01-08 ヤマハ株式会社 音声信号または楽音信号の処理装置
JP2002251185A (ja) * 2001-02-27 2002-09-06 Casio Comput Co Ltd 自動演奏装置および自動演奏方法
JP4153220B2 (ja) * 2002-02-28 2008-09-24 ヤマハ株式会社 歌唱合成装置、歌唱合成方法及び歌唱合成用プログラム
JP2004205605A (ja) * 2002-12-24 2004-07-22 Yamaha Corp 音声および楽曲再生装置およびシーケンスデータフォーマット
JP3823930B2 (ja) 2003-03-03 2006-09-20 ヤマハ株式会社 歌唱合成装置、歌唱合成プログラム
JP2005189454A (ja) * 2003-12-25 2005-07-14 Casio Comput Co Ltd テキスト同期音声再生制御装置及びプログラム
JP4487632B2 (ja) * 2004-05-21 2010-06-23 ヤマハ株式会社 演奏練習装置および演奏練習用コンピュータプログラム
JPWO2006109767A1 (ja) * 2005-04-12 2008-11-20 シャープ株式会社 音声再生方法、文字コード利用装置、配信サービスシステム、及び文字コード管理方法
JP4557919B2 (ja) * 2006-03-29 2010-10-06 株式会社東芝 音声処理装置、音声処理方法および音声処理プログラム
JP4735544B2 (ja) 2007-01-10 2011-07-27 ヤマハ株式会社 歌唱合成のための装置およびプログラム
US7973230B2 (en) * 2007-12-31 2011-07-05 Apple Inc. Methods and systems for providing real-time feedback for karaoke
JP5223433B2 (ja) 2008-04-15 2013-06-26 ヤマハ株式会社 音声データ処理装置およびプログラム
JP2012083569A (ja) * 2010-10-12 2012-04-26 Yamaha Corp 歌唱合成制御装置および歌唱合成装置
JP2012150874A (ja) * 2010-12-28 2012-08-09 Jvc Kenwood Corp 再生装置、コンテンツ再生方法およびコンピュータプログラム
US8729374B2 (en) * 2011-07-22 2014-05-20 Howling Technology Method and apparatus for converting a spoken voice to a singing voice sung in the manner of a target singer
JP5895740B2 (ja) * 2012-06-27 2016-03-30 ヤマハ株式会社 歌唱合成を行うための装置およびプログラム
JP5821824B2 (ja) 2012-11-14 2015-11-24 ヤマハ株式会社 音声合成装置
EP2930714B1 (en) 2012-12-04 2018-09-05 National Institute of Advanced Industrial Science and Technology Singing voice synthesizing system and singing voice synthesizing method
JP6171711B2 (ja) * 2013-08-09 2017-08-02 ヤマハ株式会社 音声解析装置および音声解析方法

Also Published As

Publication number Publication date
CN106463111A (zh) 2017-02-22
EP3159892B1 (en) 2020-02-12
EP3159892A4 (en) 2018-03-21
JP6399091B2 (ja) 2018-10-03
WO2015194423A1 (ja) 2015-12-23
JPWO2015194423A1 (ja) 2017-04-20
EP3159892A1 (en) 2017-04-26
CN106463111B (zh) 2020-01-21
JP2018112748A (ja) 2018-07-19
US10192533B2 (en) 2019-01-29
US20170169806A1 (en) 2017-06-15

Similar Documents

Publication Publication Date Title
JP6562104B2 (ja) 音声生成装置及び方法並びにプログラム
JP5821824B2 (ja) 音声合成装置
JP4399961B2 (ja) 楽譜画面表示装置及び演奏装置
JP6465136B2 (ja) 電子楽器、方法、及びプログラム
JP4534835B2 (ja) 演奏ガイド装置及びプログラム
JP6728754B2 (ja) 発音装置、発音方法および発音プログラム
JP7259817B2 (ja) 電子楽器、方法及びプログラム
US9711133B2 (en) Estimation of target character train
JP7180587B2 (ja) 電子楽器、方法及びプログラム
JP4448378B2 (ja) 電子管楽器
JP4929604B2 (ja) 歌データ入力プログラム
JP2008152297A (ja) 楽器
US20220044662A1 (en) Audio Information Playback Method, Audio Information Playback Device, Audio Information Generation Method and Audio Information Generation Device
JP6977741B2 (ja) 情報処理装置、情報処理方法、演奏データ表示システム、およびプログラム
JP4185991B2 (ja) 指動音楽演奏装置
JP6809608B2 (ja) 歌唱音生成装置及び方法、プログラム
WO2023153033A1 (ja) 情報処理方法、プログラム、および情報処理装置
JP6787491B2 (ja) 音発生装置及び方法
JP2022010066A (ja) 情報処理装置、情報処理方法、およびプログラム
JP2016180906A (ja) 演奏支援装置
JP2004240257A (ja) 電子楽器
JP2006251173A (ja) 楽音制御装置および楽音制御プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180425

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190308

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190319

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190416

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190625

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190708

R151 Written notification of patent or utility model registration

Ref document number: 6562104

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151