JP2015176491A - Handwritten music symbol recognition device - Google Patents

Handwritten music symbol recognition device Download PDF

Info

Publication number
JP2015176491A
JP2015176491A JP2014054010A JP2014054010A JP2015176491A JP 2015176491 A JP2015176491 A JP 2015176491A JP 2014054010 A JP2014054010 A JP 2014054010A JP 2014054010 A JP2014054010 A JP 2014054010A JP 2015176491 A JP2015176491 A JP 2015176491A
Authority
JP
Japan
Prior art keywords
stroke
vector
information
point
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014054010A
Other languages
Japanese (ja)
Other versions
JP6437205B2 (en
Inventor
明裕 藤田
Akihiro Fujita
明裕 藤田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kawai Musical Instrument Manufacturing Co Ltd
Original Assignee
Kawai Musical Instrument Manufacturing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kawai Musical Instrument Manufacturing Co Ltd filed Critical Kawai Musical Instrument Manufacturing Co Ltd
Priority to JP2014054010A priority Critical patent/JP6437205B2/en
Priority to PCT/JP2015/050875 priority patent/WO2015141260A1/en
Priority to US14/911,963 priority patent/US10725650B2/en
Publication of JP2015176491A publication Critical patent/JP2015176491A/en
Application granted granted Critical
Publication of JP6437205B2 publication Critical patent/JP6437205B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/30Character recognition based on the type of data
    • G06V30/304Music notations

Abstract

PROBLEM TO BE SOLVED: To provide a handwritten music symbol recognition device that enables handwritten input symbols to be accurately recognized without holding enormous data.SOLUTION: A handwritten music symbol recognition device has: touch information acquisition means for acquiring positional information whenever input means moves until the input means gets away from touching a screen; stroke information storage means for creating vector information showing the movement of the input means from the positional information obtained from the touch information acquisition means, and storing a series of vectors until the input means completely gets away from touching the screen as one stroke information; object information storage means for storing one or multiple stroke information storing a series of one or multiple vector information; and stroke feature value calculation means for calculating a feature value of the stroke from the vector information.

Description

本発明は手書き音楽記号認識装置に関し、特に、タッチパネルが装着された端末装置に手書き(ペン使用を含む)入力された記号を認識して楽譜を作成するために用いて好適な技術に関する。   The present invention relates to a handwritten music symbol recognition device, and more particularly to a technique suitable for use in creating a musical score by recognizing a symbol handwritten (including using a pen) on a terminal device equipped with a touch panel.

手書き入力に対応するタブレット端末は、指などの入力手段がタッチパネルを走査した軌跡情報を検出し、検出した情報に基づいて記号あるいは図形などを認識するようにしている。   A tablet terminal corresponding to handwriting input detects trajectory information obtained by scanning a touch panel by an input means such as a finger, and recognizes a symbol or a figure based on the detected information.

例えば、特許文献1には、次のような方法が提案されている。文字を変換するための特定の記号あるいは図形をあらかじめ登録設定しておく。文字認識を行うために手書き文字を入力する手書き文字入力文字枠に文字が入力され、その文字を入力した後で、その特定の記号又は図形を入力した場合に文字認識するために入力された文字が目的の文字に変換されるようにしている。例えば、入力した文字を小文字として認識するなどを、容易に実現できる手書き文字認識装置及び手書き文字認識の文字入力方法が提案されている。   For example, Patent Document 1 proposes the following method. A specific symbol or figure for character conversion is registered and set in advance. Characters entered for character recognition when a character is entered in a handwritten character input character frame for inputting character to perform character recognition, and the particular symbol or figure is entered after entering the character. Is converted to the desired character. For example, a handwritten character recognition device and a character input method for handwritten character recognition that can easily realize that an input character is recognized as a lowercase letter have been proposed.

特開2000−194796号公報Japanese Patent Laid-Open No. 2000-194796

特許文献1で提案された技術は、文字を変換するための特定の記号あるいは図形をあらかじめ登録しておく必要がある。このため、認識可能な文字、記号あるいは図形の個数分だけデータを保持しておく必要があるので、大きな記憶容量の記憶媒体が必要であった。   The technique proposed in Patent Document 1 requires that a specific symbol or figure for converting characters be registered in advance. For this reason, since it is necessary to retain data for the number of recognizable characters, symbols, or figures, a storage medium having a large storage capacity is required.

また、入力された文字と、記憶媒体に大量に記憶されている文字候補とを1対1に対応付ける必要があるので、複雑で大掛かりなプログラムを必要とする問題点があった。また、記憶媒体に登録されていない文字や記号は認識することができない問題点や、綺麗に入力しないと正確な記号認識が行なわれない問題点があった。
本発明は前述の問題点に鑑み、手書き入力された記号を、膨大なデータを保持することなく正確に認識できるようにすることを目的とする。
In addition, since it is necessary to correlate the input characters with the character candidates stored in a large amount in the storage medium on a one-to-one basis, there is a problem that a complicated and large program is required. In addition, there are problems that characters and symbols that are not registered in the storage medium cannot be recognized, and that accurate symbol recognition cannot be performed unless they are entered cleanly.
The present invention has been made in view of the above-described problems, and an object of the present invention is to make it possible to accurately recognize a handwritten symbol without holding a large amount of data.

本発明の手書き音楽記号認識装置は、入力手段が画面に触れてから離れるまで、前記入力手段が移動するごとにその位置情報を取得するタッチ情報取得手段と、前記タッチ情報取得手段から得た位置情報から前記入力手段の移動を示すベクトル情報を作成し、前記入力手段が画面に触れてから完全に離れるまでの一連のベクトルを1つのストローク情報として記憶するストローク情報記憶手段と、一連の1乃至は複数のベクトル情報が記憶されたストローク情報を、1乃至は複数記憶するオブジェクト情報記憶手段と、前記ベクトル情報から、そのストロークの特徴量を算出するストローク特徴量算出手段とを有することを特徴とする。   The handwritten music symbol recognition apparatus according to the present invention includes a touch information acquisition unit that acquires position information every time the input unit moves until the input unit touches the screen and leaves, and a position obtained from the touch information acquisition unit. Stroke information storage means for creating vector information indicating movement of the input means from the information, storing a series of vectors from when the input means touches the screen until it completely leaves as one stroke information, and a series of 1 to 1 Comprises object information storage means for storing one or more stroke information in which a plurality of vector information is stored, and stroke feature quantity calculation means for calculating a feature quantity of the stroke from the vector information. To do.

本発明によれば、音楽記号を構成するベクトルの特徴点を評価して記号を認識するようにしたので、手書き入力された記号を、膨大なデータを保持することなく正確に認識することができる。   According to the present invention, since the feature point of the vector constituting the music symbol is evaluated and the symbol is recognized, the symbol inputted by hand can be accurately recognized without holding a huge amount of data. .

本発明の実施形態における手書き音楽記号認識装置の構成例を示すブロック図である。It is a block diagram which shows the structural example of the handwritten music symbol recognition apparatus in embodiment of this invention. ベクトル、ストローク、オブジェクトの関係を、セーニョマークを例にして説明する図である。It is a figure explaining the relationship between a vector, a stroke, and an object, taking a Sayo mark as an example. ベクトルを9つの種類に分類する例を示す図である。It is a figure which shows the example which classify | categorizes a vector into nine types. S字ベクトルの内接矩形と中心座標の例を示す図である。It is a figure which shows the example of the inscribed rectangle of S character vector, and a center coordinate. 当該ベクトルから次のベクトルへの回転角度の変化例を示す図である。It is a figure which shows the example of a change of the rotation angle from the said vector to the following vector. 音楽記号認識処理の手順を説明するフローチャートである。It is a flowchart explaining the procedure of a music symbol recognition process. ベクトル情報の作成例を示す図である。It is a figure which shows the creation example of vector information. オブジェクトの認識処理の手順を説明するフローチャートである。It is a flowchart explaining the procedure of the recognition process of an object. ストローク認識の詳細について説明するフローチャートである。It is a flowchart explaining the detail of stroke recognition. 2ベクトルで構成された4つの記号を示す図である。It is a figure which shows four symbols comprised by 2 vectors. 認識する記号の一例を示す図である。It is a figure which shows an example of the symbol to recognize. 回転方向の変化によって記号を認識する処理を説明するフローチャートである。It is a flowchart explaining the process which recognizes a symbol by the change of a rotation direction. 円、楕円の判定を行う様子を説明する図である。It is a figure explaining a mode that judgment of a circle and an ellipse is performed. Sの回転方向変化ポイントを示す図である。It is a figure which shows the rotation direction change point of S. ト音記号の判定を行う様子を説明する図である。It is a figure explaining a mode that the determination of a treble clef is performed. ユーザーが操作可能な認識実行ボタンが表示されるタッチパネルの一例を示す図である。It is a figure which shows an example of the touchscreen on which the recognition execution button which a user can operate is displayed. (a)はシャープ記号を示し、(b)はシャープ用のデータベースを示す図である。(A) shows a sharp symbol, (b) is a diagram showing a database for sharpening. (a)はシャープ記号を構成する各ストロークの重心を示し、(b)は重心の位置関係を示す図である。(A) shows the gravity center of each stroke which comprises a sharp sign, (b) is a figure which shows the positional relationship of a gravity center. セーニョマークの各ベクトルの始点、終点座標、ベクトルID、及びストローク特徴量を示す図である。It is a figure which shows the start point, end point coordinate, vector ID, and stroke feature-value of each vector of a Seño mark. 接続タイプの決め方を示し、当該ベクトルのIDと次のベクトルのIDとの関係を示す図である。It is a figure which shows how to determine a connection type and shows the relationship between the ID of the vector and the ID of the next vector. 回転方向の決め方を示し、当該ベクトルのIDと次のベクトルのIDとの関係を示す図である。It is a figure which shows how to determine a rotation direction, and shows the relationship between ID of the said vector, and ID of the next vector. 2ベクトルストロークで構成された記号の決め方を示し、ベクトル1のIDとベクトル2のIDとの関係を示す図である。It is a figure which shows how to determine the symbol comprised by 2 vector strokes, and shows the relationship between ID of vector 1 and ID of vector 2. FIG. セーニョマークオブジェクトの位置ID配列を示す図である。It is a figure which shows the position ID arrangement | sequence of a seigno mark object.

以下、図面を参照しながら本発明の手書き音楽記号認識装置の実施形態を説明する。
図1は、手書き音楽記号認識装置10の概略構成を示すブロック図であり、手書き音楽記号認識装置10はタブレット端末(タッチ対応PCを含む)により構成されている。
Hereinafter, an embodiment of a handwritten music symbol recognition apparatus of the present invention will be described with reference to the drawings.
FIG. 1 is a block diagram illustrating a schematic configuration of a handwritten music symbol recognition apparatus 10, and the handwritten music symbol recognition apparatus 10 includes a tablet terminal (including a touch-compatible PC).

図1において、11はバス、12はROM、13はRAM、14はCPU、15はフラッシュメモリ、16はネットワークインターフェイス、17はタッチディスプレイ、18はオーディオ出力装置、19はMIDI出力装置である。   In FIG. 1, 11 is a bus, 12 is ROM, 13 is RAM, 14 is CPU, 15 is flash memory, 16 is a network interface, 17 is a touch display, 18 is an audio output device, and 19 is a MIDI output device.

手書き音楽記号認識装置10の全体動作を制御するプログラムはフラッシュメモリ15に記憶されており、これを読み出してRAM13に展開し、CPU14が実行することにより動作する。
本実施形態の主要な構成要件である、タッチ情報取得手段は、タッチディスプレイ17、RAM13、CPU14、フラッシュメモリ15などにより構成され、タッチ位置が移動するごとにその位置情報を取得する。
A program for controlling the overall operation of the handwritten music symbol recognition apparatus 10 is stored in the flash memory 15, and is read out, expanded in the RAM 13, and executed by the CPU 14.
The touch information acquisition means, which is a main component of the present embodiment, is configured by the touch display 17, the RAM 13, the CPU 14, the flash memory 15, and the like, and acquires the position information every time the touch position moves.

ストローク情報記憶手段、オブジェクト情報記憶手段は、RAM13で構成される。
ストローク特徴量算出手段、ストローク認識手段、オブジェクト認識手段は、RAM13、CPU14、フラッシュメモリ15、で構成される。ストローク情報記憶手段は、タッチ情報取得手段から得た位置情報から、指やタッチペンなどの入力手段の移動を示すベクトル情報を作成し、入力手段が画面に触れてから完全に離れるまでの一連のベクトルを1つのストローク情報として記憶する。
The stroke information storage means and the object information storage means are constituted by the RAM 13.
The stroke feature amount calculating means, stroke recognizing means, and object recognizing means are composed of a RAM 13, a CPU 14, and a flash memory 15. The stroke information storage means creates vector information indicating the movement of the input means such as a finger and a touch pen from the position information obtained from the touch information acquisition means, and a series of vectors from when the input means touches the screen until it completely leaves Is stored as one stroke information.

ネットワークインターフェイス16は、認識した音楽記号情報をファイルとして他のハードウェアに保存、または保存済の音楽記号情報ファイルを読み込むためのものである。
オーディオ出力装置18は、認識した音楽記号から音楽演奏情報を作成し、音響出力できるようにするために設けられている。
MIDI出力装置19は、認識した音楽記号からMIDI情報を作成し、MIDI出力できるようにするために設けられている。
The network interface 16 stores the recognized music symbol information as a file in other hardware, or reads a stored music symbol information file.
The audio output device 18 is provided in order to create music performance information from the recognized music symbols and output the sound.
The MIDI output device 19 is provided in order to create MIDI information from the recognized music symbols and output the MIDI information.

<ベクトル、ストローク、オブジェクトの説明>
図2を参照しながらベクトル、ストローク、オブジェクトの関係を、セーニョマークを例にして説明する。
セーニョマークオブジェクトは、S字ストロークと、直線ストロークと、2つの点ストロークで構成される。直線ストローク、点ストロークは1ベクトルで構成されている。
<Description of vector, stroke, and object>
The relationship between vectors, strokes, and objects will be described with reference to FIG.
The Seigno mark object is composed of an S-shaped stroke, a linear stroke, and two point strokes. A linear stroke and a point stroke are composed of one vector.

(ベクトルIDのつけ方)
本実施形態においては、処理を簡略化するために、ベクトルを9つの種類に分類する。
図3に示すように、ベクトルの始点(x1,y1)、終点(x2,y2)から傾きaを式(1)より求める。
そして、x1,y1,x2,y2の位置関係を考慮してベクトルIDを決める。y軸は下側が「+」である。
(How to assign a vector ID)
In the present embodiment, the vectors are classified into nine types in order to simplify the processing.
As shown in FIG. 3, the slope a is obtained from the starting point (x1, y1) and the ending point (x2, y2) of the vector using the equation (1).
Then, the vector ID is determined in consideration of the positional relationship of x1, y1, x2, and y2. The lower side of the y-axis is “+”.

Figure 2015176491
Figure 2015176491

|a|>2
y2<y1:下→上
y2>y1:下→上
−2≦a<−0.5
x2<x1:左下→右上
x2>x1:右上→左下
|a|≦0.5
x2>x1:左→右
x2<x1:右→左
0.5<a≦2
x2>x1:左上→右下
x2<x1:右下→左上
x1=x2
y2<y1:下→上
y2>y1:下→上
x1=x2 かつ y1=y2
| a |> 2
y2 <y1: Lower → Up y2> y1: Lower → Up-2 ≦ a <−0.5
x2 <x1: lower left → upper right x2> x1: upper right → lower left
| a | ≦ 0.5
x2> x1: Left → Right x2 <x1: Right → Left 0.5 <a ≦ 2
x2> x1: upper left → lower right x2 <x1: lower right → upper left x1 = x2
y2 <y1: Bottom → Up y2> y1: Bottom → Up x1 = x2 and y1 = y2
point

図2のストローク0のベクトル0の場合、
a=(352−400)/(421−424)=16であり、終点Y座標が、始点Y座標値よりも小さい(上)ので、IDは下→上となる(図19を参照)。
In the case of vector 0 of stroke 0 in FIG.
Since a = (352-400) / (421-424) = 16 and the end point Y coordinate is smaller than the start point Y coordinate value (upper), the ID becomes lower → upper (see FIG. 19).

<各特徴量の説明>
図19に、特徴量の例として、図2のセーニョマークの各ベクトルの始点、終点座標、ベクトルID、及びストローク特徴量を示す。
(始点終点距離)
この距離が規定値よりも小さい場合は、円のように閉じた図形と考えられ、大きい場合は弧線のように閉じていない図形と考えられる。
先頭ベクトルの始点座標を(x1,y1)、最終ベクトルの終点座標を(x2,y2)とすると、始点終点距離Dseは、次の式(2)で求める。
<Description of each feature>
FIG. 19 shows the start point, end point coordinate, vector ID, and stroke feature amount of each vector of the Seigno mark in FIG. 2 as examples of feature amounts.
(Start point end point distance)
When this distance is smaller than the specified value, it is considered as a closed figure like a circle, and when it is larger, it is considered as a figure not closed like an arc line.
If the start point coordinates of the first vector are (x1, y1) and the end point coordinates of the final vector are (x2, y2), the start point / end point distance D se is obtained by the following equation (2).

Figure 2015176491
Figure 2015176491

(ストロークが内接矩形の4点の座標と中心座標)
この値は、互いのストロークの位置関係を得るために使用される。
図4に、S字ベクトルの内接矩形と中心座標の例を示す。
矩形座標左は、全ベクトルの始点または終点の中で最も左のX座標。
矩形座標右は、全ベクトルの始点または終点の中で最も右のX座標。
矩形座標上は、全ベクトルの始点または終点の中で最も上のY座標。
矩形座標下は、全ベクトルの始点または終点の中で最も下のY座標。
中心座標は、矩形座標左と矩形座標右の中間のX座標、矩形座標上と矩形座標下の中間のY座標で表される。
(The coordinates of the four points of the inscribed rectangle and the center coordinates)
This value is used to obtain the positional relationship between the strokes.
FIG. 4 shows an example of the inscribed rectangle and center coordinates of the S-shaped vector.
Rectangular coordinate left is the leftmost X coordinate of the start or end points of all vectors.
Rectangular coordinate right is the rightmost X coordinate of the start or end points of all vectors.
On the rectangular coordinates, it is the highest Y coordinate among the start points or end points of all vectors.
Below the rectangular coordinates is the lowest Y coordinate of the start or end points of all vectors.
The center coordinate is represented by an X coordinate intermediate between the rectangular coordinate left and the rectangular coordinate right, and an intermediate Y coordinate above the rectangular coordinate and below the rectangular coordinate.

(接続タイプ)
この値は、記号が滑らかどうか、角はあるかどうか、などを判断するために用いる。
当該ベクトルのIDと次のベクトルのIDから決める(図20を参照)。本実施形態においては、鈍角:1か、直角:2か、鋭角:3か、いずれでもない場合:0、として決めている。
セーニョマークのストローク0では、最初のベクトルIDが1(下→上)、次のベクトルID8(右下→左上)なので、接続タイプは1(鈍角)となる。
(Connection type)
This value is used to determine whether the symbol is smooth, has a corner, or the like.
It is determined from the ID of the vector and the ID of the next vector (see FIG. 20). In this embodiment, the obtuse angle is 1 or the right angle is 2 or the acute angle is 3 or 0.
In the stroke 0 of the Seigno mark, the first vector ID is 1 (lower → upper) and the next vector ID 8 (lower right → upper left), so the connection type is 1 (obtuse angle).

(回転方向)
回転方向が変わった点は、記号を特定する手がかりとして重要である。
例えば、「f」の1画目は、「S」のように滑らかにベクトルが連続しており、始点と終点が離れているが、「S」には回転方向が変わる点が1か所あるので、区別することができる。これも、当該ベクトルのIDと、次のベクトルのIDより決定する(図21を参照)。セーニョマークのストローク0では、ベクトル0のIDが下→上(1)、ベクトル1のIDが右下→左上(8)なので、反時計回り(2)となる。
(Direction of rotation)
The point where the rotation direction has changed is important as a clue for identifying the symbol.
For example, in the first stroke of “f”, vectors are smoothly continuous like “S”, the start point and the end point are separated, but “S” has one point where the rotation direction changes. So you can distinguish. This is also determined from the ID of the vector and the ID of the next vector (see FIG. 21). In the stroke 0 of the Seigno mark, the ID of the vector 0 is lower → upper (1) and the ID of the vector 1 is lower right → upper left (8), so the counterclockwise rotation (2).

(回転角度)
図5に、当該ベクトルから次のベクトルへの回転角度の変化例を示す。この累計で、記号が円であるか多重円であるかを判別できる。
当該ベクトルの始点を(x11,y11)、終点を(x12,y12)とし、次のベクトルの始点を(x21,y21)、終点を(x22,y22)とすると、2つのベクトルのなす角Deg(°)は、以下の式で求まる。
(rotation angle)
FIG. 5 shows a change example of the rotation angle from the vector to the next vector. From this total, it can be determined whether the symbol is a circle or a multiple circle.
If the start point of the vector is (x11, y11), the end point is (x12, y12), the start point of the next vector is (x21, y21), and the end point is (x22, y22), the angle Deg ( °) is obtained by the following formula.

Figure 2015176491
Figure 2015176491

(左右移動方向及び上下移動方向)
単純に上から下、左から右にかかれた線分のような記号かどうかを判定する。
ベクトルIDより求める。ベクトルIDが下→上(1)であれば、左右移動方向はなし(0)、上下移動方向は上(1)である。また、ベクトルIDが右下→左上(8)であれば、左右移動方向は左(1)、上下移動方向は上(1)となる。
(Left / Right direction and Up / Down direction)
It is determined whether the symbol is simply a line segment drawn from top to bottom and from left to right.
Obtained from the vector ID. If the vector ID is down → up (1), the left / right movement direction is none (0), and the up / down movement direction is up (1). If the vector ID is lower right → upper left (8), the horizontal movement direction is left (1) and the vertical movement direction is up (1).

(最左点、最右点、最上点、最下点のインデックス)
例えば、最左点Indexが0(最初のベクトルの始点)、最右点IndexがN(最終のベクトルの始点)とした場合、最上点IndexがN/2付近であれば、下が開いた山形の記号と判断できる。図4の場合、最左点Indexが12、最右点Indexが9、最上点Indexが2、最下点Indexが11となる。
(Leftmost point, rightmost point, topmost point, lowest point index)
For example, if the leftmost point Index is 0 (start point of the first vector) and the rightmost point Index is N (start point of the final vector), if the highest point Index is near N / 2, the bottom is an open mountain Can be determined. In the case of FIG. 4, the leftmost point Index is 12, the rightmost point Index is 9, the uppermost point Index is 2, and the lowermost point Index is 11.

次に、図6のフローチャートを参照しながら本実施形態の手書き音楽記号認識装置の動作を説明する。図6は、音楽記号認識処理の手順を説明するフローチャートである。
S61では、画面がタッチされたか否かを判断する。画面がタッチされていない場合は待機状態となる。画面がタッチされるとS62に進む。
Next, the operation of the handwritten music symbol recognition apparatus of this embodiment will be described with reference to the flowchart of FIG. FIG. 6 is a flowchart for explaining the procedure of the music symbol recognition process.
In S61, it is determined whether or not the screen is touched. When the screen is not touched, it enters a standby state. If the screen is touched, the process proceeds to S62.

S62では、座標配列を空にして、タッチされた座標を座標配列に記憶する。画面がタッチされてから、離れるまで指が動くたびに指の移動処理が行なわれる。この処理は、移動した指の座標を、座標配列に記憶する。
S63では、タッチした指が画面から離れたか否かを判断する。画面から指が離れていない場合はS62に戻り、指が画面から離れるまで、指が動くたびにS62の指の移動処理が行なわれる。S63の判断の結果、指が画面から離れるとS64に進む。
In S62, the coordinate array is emptied and the touched coordinates are stored in the coordinate array. Every time the finger moves from touching the screen until it leaves, a finger movement process is performed. In this process, the coordinates of the moved finger are stored in the coordinate array.
In S63, it is determined whether or not the touched finger has left the screen. If the finger is not released from the screen, the process returns to S62, and the finger moving process of S62 is performed every time the finger moves until the finger is released from the screen. As a result of the determination in S63, when the finger leaves the screen, the process proceeds to S64.

S64では、ストロークの生成が行なわれる。この処理は、先ず新規にストローク情報が生成される。
次に、最初の座標を始点、2番目の座標を終点とするベクトル座標が作成される。この時、ベクトルIDの設定も行なわれる。また、ベクトルの大きさも計算される。作成されたベクトル情報は、ストローク情報のベクトル配列に記憶される。
In S64, a stroke is generated. In this process, first, stroke information is newly generated.
Next, vector coordinates having the first coordinate as the start point and the second coordinate as the end point are created. At this time, a vector ID is also set. The vector magnitude is also calculated. The created vector information is stored in a vector array of stroke information.

次に、2番目の座標を始点、3番目の座標を終点とするベクトル情報が作成され、ストローク情報に記憶される。図7の例、すなわち、セーニョマーク、ストローク0では、12個のベクトル情報が作られる。全ての座標からベクトル情報を作成し、ストローク情報に記憶すると、ストローク特徴量を生成し、ストローク情報に記憶する。   Next, vector information having the second coordinate as the start point and the third coordinate as the end point is created and stored in the stroke information. In the example of FIG. 7, that is, the Seigno mark and the stroke 0, 12 pieces of vector information are created. When vector information is created from all coordinates and stored in the stroke information, a stroke feature amount is generated and stored in the stroke information.

次に、S65では、一定時間内に画面がタッチされたか否かを判断する。一定時間内に次のストロークの入力が開始されればS62に戻り、S62〜S64の処理を行い、新たなストロークを作成する。   Next, in S65, it is determined whether or not the screen is touched within a certain time. If the input of the next stroke is started within a predetermined time, the process returns to S62, and the processes of S62 to S64 are performed to create a new stroke.

図2では、S字ストロークの入力の後、一定時間内に直線ストロークが入力されて、さらに一定時間内に点ストロークが入力され、さらに一定時間内に点ストロークが入力される、例を示している。このような入力が行なわれた場合、それぞれのストロークが入力のたびに生成される。一定時間内に次のストロークの入力がない場合はS66に進む。   FIG. 2 shows an example in which, after the S-shaped stroke is input, a linear stroke is input within a certain time, a point stroke is further input within a certain time, and a point stroke is further input within a certain time. Yes. When such an input is performed, each stroke is generated for each input. If there is no next stroke input within the predetermined time, the process proceeds to S66.

S66では、新たに1つのオブジェクトを生成するオブジェクト生成処理を行い、そのストローク配列にこれまで生成したストロークを記憶する。さらに、各ストロークの相対的な位置関係=位置IDを求めておく。位置IDは、基準となるストロークに対する当該ストロークの位置を示すIDである。
本実施形態においては、同じ(0)、下→上(1)、左下→右上(2)、左→右(3)、左上→右下(4)、上→下(5)、右上→左下(6)、右→左(7)、右下→左上(8)の9種類であり、ベクトルIDと似たようなものである。
In S66, an object generation process for newly generating one object is performed, and the strokes generated so far are stored in the stroke array. Further, the relative positional relationship of each stroke = position ID is obtained. The position ID is an ID indicating the position of the stroke with respect to the reference stroke.
In this embodiment, the same (0), lower → upper (1), lower left → upper right (2), left → right (3), upper left → lower right (4), upper → lower (5), upper right → lower left (6) There are nine types, right → left (7) and lower right → upper left (8), which are similar to the vector ID.

ここで、位置IDの求め方を説明する。
基準となるストロークの内接矩形の中心座標を始点、当該ストロークの内接矩形の中心座標を終点とするベクトルを考え、このベクトルのベクトルIDを求める。ベクトルIDが下→上であれば、位置IDは上、ベクトルIDが左→右であれば、位置IDは右となる。
Here, how to obtain the position ID will be described.
Consider a vector whose starting point is the center coordinate of the inscribed rectangle of the reference stroke and whose end point is the center coordinate of the inscribed rectangle of the stroke, and obtain the vector ID of this vector. If the vector ID is lower → upper, the position ID is upper, and if the vector ID is left → right, the position ID is right.

図2の例では、最初にS字ストロークの位置IDを求める。S字ストロークは、最初のストロークなので、基準となるストロークは最後の点ベクトルとする。この場合、ベクトルの傾きa=(426−449)/(375−428)=0.43であり、始点のX座標が終点のX座標よりも大きいので、ベクトルIDは右→左となり、位置IDは「左」となる。   In the example of FIG. 2, the position ID of the S-shaped stroke is first obtained. Since the S-shaped stroke is the first stroke, the reference stroke is the last point vector. In this case, since the vector inclination a = (426-449) / (375-428) = 0.43 and the X coordinate of the start point is larger than the X coordinate of the end point, the vector ID is changed from right to left, and the position ID Becomes “left”.

次に、直線ベクトルIDを求める。この場合、S字ストロークの内接矩形の中心座標を始点、直線ストロークの内接矩形の中心座標を終点とするベクトルを考え、このIDを求める。
始点と終点のX座標が同じであり、また、始点のY座標が終点のY座標より小さいので、ベクトルIDは下→上となり、位置IDは「上」となる。
以下、同様に位置IDを求めると、「左」、「上」、「左」、「右」の4つのIDが求まる。これらを、図23に示す、オブジェクトの位置ID配列に記憶する。
S67では、オブジェクトへストロークと位置IDを記憶したら、オブジェクトが何の記号なのか認識を行う。
S67で行うオブジェクトの認識処理の手順を、図8のフローチャートに示す。
Next, a straight line vector ID is obtained. In this case, a vector having the start point as the center coordinate of the inscribed rectangle of the S-shaped stroke and the end point as the center coordinate of the inscribed rectangle of the linear stroke is obtained.
Since the X coordinate of the start point and the end point is the same, and the Y coordinate of the start point is smaller than the Y coordinate of the end point, the vector ID becomes lower → upper and the position ID becomes “upper”.
Hereinafter, when the position ID is similarly obtained, four IDs of “left”, “upper”, “left”, and “right” are obtained. These are stored in the position ID array of the object shown in FIG.
In S67, when the stroke and the position ID are stored in the object, what symbol the object is is recognized.
The procedure of the object recognition process performed in S67 is shown in the flowchart of FIG.

S81では、ストロークの認識を行う。ストローク認識の詳細については後述する。
S82では、他に未認識のストロークの有無を判断する。未認識のストロークがある場合にはS81に戻り、未認識のストロークがない場合にはS83に進む。
S83では、オブジェクトの認識処理を行う。オブジェクトの認識処理については後述する。
図8に示すように、オブジェクトに記憶した各ストロークの認識を行った後に、オブジェクトの認識を行う。
In S81, the stroke is recognized. Details of stroke recognition will be described later.
In S82, it is determined whether there is any other unrecognized stroke. If there is an unrecognized stroke, the process returns to S81, and if there is no unrecognized stroke, the process proceeds to S83.
In S83, object recognition processing is performed. The object recognition process will be described later.
As shown in FIG. 8, after the strokes stored in the object are recognized, the object is recognized.

図8のS81で行なわれるストローク認識の詳細について、図9のフローチャートを参照しながら説明する。
S91では、ベクトル数に応じた処理の分岐を行う。S91の分岐処理において、1ベクトルで構成されたストロークであればS92に進む。2ベクトルで構成されたストロークであればS93に進む。それ以外のストロークであればS94に進む。
Details of the stroke recognition performed in S81 of FIG. 8 will be described with reference to the flowchart of FIG.
In S91, the process is branched according to the number of vectors. In the branching process of S91, if the stroke is composed of one vector, the process proceeds to S92. If the stroke is composed of two vectors, the process proceeds to S93. If it is any other stroke, the process proceeds to S94.

S92では、1ベクトルで構成されたストロークの認識処理が行なわれる。これにより、ベクトルIDによって、縦線、横線、斜め右上がり線、斜め左上がり線、点のいずれかの図形を認識する。例えば、ベクトルIDが右下→左上、または左上→右下であれば、斜め左上がり線となる。   In S92, a process of recognizing a stroke composed of one vector is performed. As a result, any one of a vertical line, a horizontal line, a diagonally rising line, a diagonally rising line, and a point is recognized based on the vector ID. For example, if the vector ID is lower right → upper left or upper left → lower right, the line is a diagonally upward left line.

S93では、2ベクトルで構成されたストロークの認識処理が行なわれる。本実施形態においては、図10に示す4つの記号を認識する場合について説明する。2つのベクトルIDによってどの記号であるか認識する際、記号の決め方を図22に示す。図22で示した以外の組み合わせの場合は、該当記号なしとなる。   In S93, a stroke recognition process composed of two vectors is performed. In the present embodiment, a case where four symbols shown in FIG. 10 are recognized will be described. FIG. 22 shows how to determine a symbol when recognizing which symbol is based on two vector IDs. In the case of combinations other than those shown in FIG. 22, there is no corresponding symbol.

図22で示すように、ベクトル1のIDが左下→右上、ベクトル2のIDが右上→左下のように、2つの記号の可能性がある場合は、内接矩形が縦長か横長かを判断し、縦長であればブレスまたはアクセント、横長であればクレシェンドまたはデクレシェンドになる。   As shown in FIG. 22, when there is a possibility of two symbols, such as the ID of vector 1 is lower left → upper right and the ID of vector 2 is upper right → lower left, it is determined whether the inscribed rectangle is vertically long or horizontally long. If it is vertically long, it is breath or accent, and if it is horizontally long, it is crescendo or decrescendo.

S94では、それ以外(3ベクトル以上)のストロークの認識処理が行なわれる。
図11に示す記号を認識する処理を、図12のフローチャートを参照しながら説明する。
S121では、特徴量の回転方向を参照し、回転方向が変わった回数を数え、その数によって分岐する。回数が0であればS122に進み、回数が1であればS123に進み、回数が2であればS124に進む。本実施形態においては、回数0、1、2以外であれば該当記号なしとする。
In S94, recognition processing for other strokes (three or more vectors) is performed.
Processing for recognizing the symbols shown in FIG. 11 will be described with reference to the flowchart of FIG.
In S121, the rotation direction of the feature quantity is referred to, the number of times the rotation direction is changed is counted, and the process branches depending on the number. If the number is 0, the process proceeds to S122. If the number is 1, the process proceeds to S123. If the number is 2, the process proceeds to S124. In this embodiment, if the number of times is other than 0, 1, or 2, there is no corresponding symbol.

(回転方向変化数が0の場合)
S122において、「S」、「ト音記号」以外の判定を以下の手順で行う。
(1)鋭角点があるかどうか調べる。鋭角点があれば該当記号なしとなる。
(2)回転角度の合計を求め、それにより記号を判定する。
(When the number of rotation direction changes is 0)
In S122, determinations other than “S” and “G clef” are performed according to the following procedure.
(1) Check if there is an acute angle point. If there is an acute angle point, there is no corresponding symbol.
(2) The sum of the rotation angles is obtained, and the symbol is determined thereby.

回転角度≦180°
弧線の判定を以下の条件で行う。
・左右移動方向に「右」が有り、「左」が無い。
・最上点が始点および終点以外→上弧線
・最上点が始点または終点→下弧線
Rotation angle ≤ 180 °
The arc line is determined under the following conditions.
・ There is “right” in the left / right movement direction and there is no “left”.
・ The highest point is other than the start point and end point → upper arc line ・ The highest point is the start point or end point → lower arc line

・左右移動方向に「右」が無く、「左」が或る。
・最上点が始点および終点以外→上弧線
・最上点が始点または終点→下弧線
-There is no "right" in the left / right movement direction and there is "left".
・ The highest point is other than the start point and end point → upper arc line ・ The highest point is the start point or end point → lower arc line

・上下移動方向に「下」が有り、「上」が無い。
・最左点が始点および終点以外→左弧線
・最左点が始点または終点→右弧線
・ There is “Down” in the vertical movement direction, and there is no “Up”.
・ Leftmost point is other than start point and end point → left arc line ・ Leftmost point is start point or end point → right arc line

・上下移動方向に「下」が無く、「上」が有る。
・最左点が始点および終点以外→左弧線
・最左点が始点または終点→右弧線
・上記以外→該当記号なし。
・ There is no “down” in the vertical movement direction and “up”.
・ Left-most point is other than start point and end point → Left arc line ・ Left-most point is start point or end point → Right arc line ・ Other than above → No applicable symbol.

回転角度>360°→多重円 Rotation angle> 360 ° → multiple circles

それ以外
円、楕円の判定を以下の手順で行う(図13を参照)
1.最左点―最右点を結ぶ直線(長径とする)の方程式を求める。
2.各点から前記直線に下した垂線の足を求める。
3.各点とその垂線の足の長さが最も大きいものを楕円の半短径とする。
4.半短径×2(短径とする)の長径の比を求める。
・前記求めた比がほぼ1:1→円
・それ以外→楕円
Other circles and ellipses are determined according to the following procedure (see FIG. 13).
1. Find the equation of the straight line (the major axis) connecting the leftmost point and the rightmost point.
2. From each point, the perpendicular foot drawn on the straight line is obtained.
3. The point where the length of each point and the leg of the perpendicular is the longest is defined as the half minor axis of the ellipse.
4). The ratio of the major axis of the semi-minor axis × 2 (assuming the minor axis) is obtained.
・ The calculated ratio is almost 1: 1 → circle ・ others → ellipse

(回転方向変化数が1の場合)
S123において、「S」の判定を行う。
図14に「S」の回転方向変化ポイントを示す。
・回転方向変化ポイント前後のベクトルの数を調べ、弧を描ける数(3個)に満たなければ、該当記号無しとする。本実施形態の場合は、変化前が7ベクトル、変化後が5ベクトルあるので、条件を満たしている。
・回転方向変化ポイントまでと、それ以降の回転角度合計の絶対値が、共に100°以上であれば「S」とする。本実施形態の場合、回転方向変化前が257°、後が220°であるので、「S」と判定できる。
(When the number of rotation direction changes is 1)
In S123, “S” is determined.
FIG. 14 shows the rotation direction change point of “S”.
-Check the number of vectors before and after the rotation direction change point, and if the number is less than the number that can draw an arc (3), there is no corresponding symbol. In the present embodiment, there are 7 vectors before the change and 5 vectors after the change, so the condition is satisfied.
“S” if the absolute value of the total rotation angle up to and including the rotation direction change point is 100 ° or more. In the case of this embodiment, it is 257 ° before the rotation direction change and 220 ° after the rotation direction, so it can be determined as “S”.

(回転方向変化数が2の場合)
S124において、「ト音記号」の判定を行う(図15を参照)。
「ト音記号」の判定の条件は以下の通りである。
・回転方向が時計回りから反時計回りに変化するポイント(回転方向変化ポイント1)と、反時計回りから時計回りに変化するポイント(回転方向変化ポイント2)がそれぞれ1つずつ存在する。
・回転方向変化ポイント1が内接矩形中心より上にある。
・回転方向変化ポイント2が内接矩形中心より下にある。
(When the number of rotation direction changes is 2)
In S124, the “g clef” is determined (see FIG. 15).
The conditions for the determination of “G clef” are as follows.
There are one point where the rotation direction changes from clockwise to counterclockwise (rotation direction change point 1) and one point where the rotation direction changes from counterclockwise to clockwise (rotation direction change point 2).
The rotation direction change point 1 is above the center of the inscribed rectangle.
The rotation direction change point 2 is below the center of the inscribed rectangle.

次に、図8のフローチャートのS83で行なわれるオブジェクトの認識処理について説明する。
以下においては、セーニョマークの場合について説明する。書いた記号がセーニョマークとして判定されるには、以下の条件を満たす必要がある。
条件1:「S」、「斜め線右上がり」、「点」、「点」の4つのストロークで構成されている。
条件2:「S」と「斜め線右上がり」の内接矩形中心が近い位置にあること。
条件3:「S」または「斜め線右上がり」の内接矩形中心左右に「点」があること。
Next, the object recognition process performed in S83 of the flowchart of FIG. 8 will be described.
In the following, the case of the Seño mark will be described. In order for a written symbol to be determined as a Seño mark, the following conditions must be satisfied.
Condition 1: It is composed of four strokes of “S”, “upward diagonal line”, “point”, and “point”.
Condition 2: Inscribed rectangle centers of “S” and “upward diagonal line” are close to each other.
Condition 3: There are “points” on the left and right of the inscribed rectangle center of “S” or “upward diagonal line”.

本実施形態では、ストローク0に対するストローク1の位置IDが「上」なので、X軸方向に関しては近い位置にある。また、内接矩形中心のY座標も20しか離れていないので、近いとみなせる(条件2はクリア)。   In this embodiment, since the position ID of the stroke 1 with respect to the stroke 0 is “up”, the position is close in the X-axis direction. In addition, since the Y coordinate of the center of the inscribed rectangle is only 20 away, it can be regarded as close (condition 2 is cleared).

ストローク1に対してストローク2の位置IDは「左」である。また、ストローク1の内接矩形中心のY座標とストローク3の内接矩形中心のY座標は3であり、ストローク1の内接矩形中心のX座標は、ストローク3の内接矩形中心のX座標より50小さいので、ストローク3はストローク1の右に位置している。
よって、本実施形態では、条件1〜3を満たすため、セーニョマークと判定することができる。
The position ID of stroke 2 with respect to stroke 1 is “left”. The Y coordinate of the inscribed rectangle center of stroke 1 and the Y coordinate of the inscribed rectangle center of stroke 3 are 3, and the X coordinate of the inscribed rectangle center of stroke 1 is the X coordinate of the inscribed rectangle center of stroke 3. Since stroke 50 is smaller, stroke 3 is located to the right of stroke 1.
Therefore, in the present embodiment, since the conditions 1 to 3 are satisfied, it can be determined as a Seigno mark.

オブジェクト認識処理においては、1つのストロークの入力が終了してから、一定時間内に別のストロークの入力があれば、その入力が完了するまで待機し、入力がなければ、未認識のストロークをオブジェクトに登録し、そのオブジェクトを認識する処理を行う。   In the object recognition process, if another stroke is input within a certain time after the input of one stroke is completed, the process waits until the input is completed. To recognize the object.

図16に示すように、タッチパネル160に、認識開始指示を行なわせるために、ユーザーが操作可能な認識実行ボタン161が表示される。ユーザーが全てのストローク(楕円、縦線)を書いた後、認識実行ボタン161が操作されると、認識を開始する。CPU14は、認識されていないストロークをオブジェクトに登録し、そのオブジェクトの認識を行う。   As shown in FIG. 16, a recognition execution button 161 that can be operated by the user is displayed on the touch panel 160 in order to issue a recognition start instruction. When the recognition execution button 161 is operated after the user has written all the strokes (ellipses, vertical lines), recognition starts. The CPU 14 registers an unrecognized stroke in the object and recognizes the object.

本実施形態の手書き音楽記号認識装置は、入力画面に予め五線162が表示されており、オブジェクトが円などと認識された場合、音符として認識し、その音高も特定できるようにしている。図16の例では、オブジェクトの楕円部分が第1線と第2線との間にあるので、音程は「ファ」である2分音符163を認識した例を示している。   In the handwritten music symbol recognition apparatus of the present embodiment, a staff 162 is displayed in advance on the input screen, and when an object is recognized as a circle or the like, it is recognized as a musical note and its pitch can be specified. In the example of FIG. 16, since the elliptical portion of the object is between the first line and the second line, an example is shown in which a half note 163 having a pitch of “F” is recognized.

複数ストロークの検出について、シャープ記号「♯」を例として説明する。
図17(a)に示すように、シャープ記号「♯」の場合はStroke1、Stroke2、Stroke3、Stroke4、により構成されている。そして、このような複数ストロークで構成される記号は、図17(b)に示すようにデータベース(辞書データ)を有している。なお、辞書データは、1つのストロークが何の記号なのか記憶したものであり、実際の座標データや、それに基づいて作成されたベクトル情報が記憶されているものではない。
The detection of a plurality of strokes will be described using the sharp symbol “#” as an example.
As shown in FIG. 17A, the sharp symbol “#” is composed of Stroke 1, Stroke 2, Stroke 3, and Stroke 4. Such a symbol composed of a plurality of strokes has a database (dictionary data) as shown in FIG. Note that the dictionary data stores what symbol each stroke is, and does not store actual coordinate data or vector information created based on the coordinate data.

シャープ用のデータベース(辞書データ)は、Stroke1は「右上斜め」、「横」、「右上斜め」、「横」である。
Stroke2は、「横」、「右上斜め」、「右上斜め」、「横」である。
Stroke3及びStroke4は、「縦」、「縦」、「縦」、「縦」である。
In the sharp database (dictionary data), Stroke 1 is “upper right diagonal”, “horizontal”, “upper right diagonal”, and “horizontal”.
Stroke 2 is “horizontal”, “upper right diagonal”, “upper right diagonal”, and “horizontal”.
Stroke 3 and Stroke 4 are “vertical”, “vertical”, “vertical”, and “vertical”.

また、図18(a)に示す各ストローク1〜4の重心は、図18(b)に示すように、1→2は、「下」、「下」、「右下」、「右下」である。
2→3は、「左上」、「上」、「上」、「左上」である。
3→4は、「右」、「右」、「右」、「右」である。
Further, as shown in FIG. 18B, the center of gravity of each stroke 1 to 4 shown in FIG. 18A is “down”, “down”, “lower right”, “lower right” as shown in FIG. It is.
2 → 3 are “upper left”, “up”, “up”, and “upper left”.
3 → 4 is “right”, “right”, “right”, “right”.

前述した実施形態においては、音楽記号を認識する例を示したが、本発明の手書き音楽記号認識装置は、「Coda」などの文字や、数字なども認識することが可能である。   In the embodiment described above, an example of recognizing a music symbol has been shown, but the handwritten music symbol recognition apparatus of the present invention can also recognize characters such as “Coda”, numbers, and the like.

(その他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。即ち、前述した実施形態の機能を実現するソフトウェア(コンピュータプログラム)を、ネットワーク又は各種のコンピュータ読み取り可能な記憶媒体を介してシステム或いは装置に供給する。そして、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
(Other embodiments)
The present invention can also be realized by executing the following processing. That is, software (computer program) that implements the functions of the above-described embodiments is supplied to a system or apparatus via a network or various computer-readable storage media. Then, the computer (or CPU, MPU, etc.) of the system or apparatus reads out and executes the program.

10 手書き音楽記号認識装置
11 バス
12 ROM
13 RAM
14 CPU
15 フラッシュメモリ
16 ネットワークインターフェイス
17 タッチディスプレイ
18 オーディオ出力装置
19 MIDI出力装置
10 Handwritten Music Symbol Recognition Device 11 Bus 12 ROM
13 RAM
14 CPU
15 Flash memory 16 Network interface 17 Touch display 18 Audio output device 19 MIDI output device

Claims (9)

入力手段が画面に触れてから離れるまで、前記入力手段が移動するごとにその位置情報を取得するタッチ情報取得手段と、
前記タッチ情報取得手段から得た位置情報から前記入力手段の移動を示すベクトル情報を作成し、前記入力手段が画面に触れてから完全に離れるまでの一連のベクトルを1つのストローク情報として記憶するストローク情報記憶手段と、
一連の1乃至は複数のベクトル情報が記憶されたストローク情報を、1乃至は複数記憶するオブジェクト情報記憶手段と、
前記ベクトル情報から、そのストロークの特徴量を算出するストローク特徴量算出手段とを有することを特徴とする手書き音楽記号認識装置。
Touch information acquisition means for acquiring position information each time the input means moves until the input means touches the screen and then leaves,
A stroke that creates vector information indicating the movement of the input means from the position information obtained from the touch information acquisition means, and stores a series of vectors as one stroke information from when the input means touches the screen until it completely leaves. Information storage means;
Object information storage means for storing one or more stroke information in which a series of one or more vector information is stored;
A handwritten music symbol recognition apparatus comprising: a stroke feature amount calculating unit that calculates a feature amount of the stroke from the vector information.
前記ベクトル情報は、ベクトルの傾きをもとに、点、下→上、左下→右上、左→右、左上→右下、上→下、右上→左下、右→左、右下→左上、の9種類に分類され、そのIDを含んでいることを特徴とする請求項1に記載の手書き音楽記号認識装置。   The vector information is based on the slope of the vector: point, bottom → top, bottom left → top right, left → right, top left → bottom right, top → bottom, top right → bottom left, right → left, bottom right → top left, The handwritten music symbol recognition apparatus according to claim 1, wherein the handwritten music symbol recognition apparatus is classified into nine types and includes the ID. 前記ストローク特徴量算出手段により算出されるストローク特徴量は、少なくとも、始点から終点の距離、ストロークが内接する矩形の4点の座標と中心座標、当該ベクトルと次のベクトルの角度が示す接続タイプ、接続タイプが鋭角であるベクトルのインデックス、当該ベクトルから次のベクトルへの回転方向、当該ベクトルから次のベクトルへの回転角、左右方向への移動方向、上下方向への移動方向、最左点、最右点、最上点、最下点にあたるインデックス、のうち1乃至は全てを含んでおり、ストローク情報に記憶することを特徴とする請求項1に記載の手書き音楽記号認識装置。   The stroke feature amount calculated by the stroke feature amount calculation means is at least the distance from the start point to the end point, the coordinates and center coordinates of the four points of the rectangle inscribed by the stroke, the connection type indicated by the angle of the vector and the next vector, Index of vector whose connection type is an acute angle, rotation direction from the vector to the next vector, rotation angle from the vector to the next vector, movement direction in the horizontal direction, movement direction in the vertical direction, leftmost point, 2. The handwritten music symbol recognition apparatus according to claim 1, wherein one or all of the rightmost point, the uppermost point, and the index corresponding to the lowermost point are included and stored in stroke information. 前記ストローク特徴量のうち、当該ベクトルから次のベクトルへの回転方向とは、回転方向が時計回りか、反時計回りか、どちらでもないかを示すことを特徴とする請求項3に記載の手書き音楽記号認識装置。   4. The handwriting according to claim 3, wherein the rotation direction from the vector to the next vector among the stroke feature amounts indicates whether the rotation direction is clockwise or counterclockwise. Music symbol recognition device. 前記ストローク特徴量と、記号の特徴とを比較し、そのストロークが何の記号なのか認識するストローク認識手段をさらに備えることを特徴とする請求項3に記載の手書き音楽記号認識装置。   4. The handwritten music symbol recognition apparatus according to claim 3, further comprising stroke recognition means for comparing the stroke feature quantity with the feature of the symbol and recognizing what symbol the stroke is. 前記ストローク認識手段により認識された複数のストロークの位置関係より、複数のストロークで描かれた記号を認識するオブジェクト認識手段をさらに備えることを特徴とする請求項5に記載の手書き音楽記号認識装置。   6. The handwritten music symbol recognition apparatus according to claim 5, further comprising object recognition means for recognizing a symbol drawn by a plurality of strokes based on a positional relationship of the plurality of strokes recognized by the stroke recognition means. 前記オブジェクト認識手段は、1つのストロークの入力が終了してから、一定時間内に別のストロークの入力があれば、その入力が完了するまで待機し、入力がなければ、未認識のストロークをオブジェクトに登録し、そのオブジェクトの認識を行うことを特徴とする請求項6に記載の手書き音楽記号認識装置。   The object recognizing unit waits until the input is completed if another stroke is input within a predetermined time after the input of one stroke is completed. The handwritten music symbol recognition apparatus according to claim 6, wherein the object is recognized and the object is recognized. ユーザーが操作可能な認識開始指示手段を備え、前記認識開始指示手段が操作されると、前記オブジェクト認識手段は、認識されていないストロークをオブジェクトに登録し、そのオブジェクトの認識を行うことを特徴とする請求項6に記載の手書き音楽記号認識装置。   A recognition start instruction means operable by a user, and when the recognition start instruction means is operated, the object recognition means registers an unrecognized stroke in the object and recognizes the object; The handwritten music symbol recognition device according to claim 6. 入力画面に予め五線が表示されており、前記オブジェクト認識手段は、オブジェクトが円などと認識した場合、音符として認識し、その音高も特定できることを特徴とする請求項7または請求項8に記載の手書き音楽記号認識装置。   9. The staff according to claim 7 or 8, wherein a staff is displayed in advance on the input screen, and the object recognizing means recognizes the object as a circle and recognizes it as a note and can also specify its pitch. The handwritten music symbol recognition apparatus of description.
JP2014054010A 2014-03-17 2014-03-17 Handwritten music symbol recognition apparatus and program Active JP6437205B2 (en)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2014054010A JP6437205B2 (en) 2014-03-17 2014-03-17 Handwritten music symbol recognition apparatus and program
PCT/JP2015/050875 WO2015141260A1 (en) 2014-03-17 2015-01-15 Handwritten music notation recognition device and program
US14/911,963 US10725650B2 (en) 2014-03-17 2015-01-15 Handwritten music sign recognition device and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014054010A JP6437205B2 (en) 2014-03-17 2014-03-17 Handwritten music symbol recognition apparatus and program

Publications (2)

Publication Number Publication Date
JP2015176491A true JP2015176491A (en) 2015-10-05
JP6437205B2 JP6437205B2 (en) 2018-12-12

Family

ID=54255598

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014054010A Active JP6437205B2 (en) 2014-03-17 2014-03-17 Handwritten music symbol recognition apparatus and program

Country Status (1)

Country Link
JP (1) JP6437205B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111291756A (en) * 2020-02-14 2020-06-16 平安科技(深圳)有限公司 Method and device for detecting text area in image, computer equipment and computer storage medium

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05135207A (en) * 1991-11-14 1993-06-01 Canon Inc Character recognition method and device
JPH08180135A (en) * 1994-12-22 1996-07-12 Toshiba Corp Device and method for recognizing graphic
JPH10105650A (en) * 1996-09-30 1998-04-24 Brother Ind Ltd Character recognition device
JP2001184458A (en) * 1999-10-15 2001-07-06 Matsushita Electric Ind Co Ltd Device and method for character input and computer- readable recording medium
JP2007200186A (en) * 2006-01-30 2007-08-09 Advanced Telecommunication Research Institute International Character recognition device and character recognition program
JP2008123182A (en) * 2006-11-10 2008-05-29 Kawai Musical Instr Mfg Co Ltd Musical score recognition device and program

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05135207A (en) * 1991-11-14 1993-06-01 Canon Inc Character recognition method and device
JPH08180135A (en) * 1994-12-22 1996-07-12 Toshiba Corp Device and method for recognizing graphic
JPH10105650A (en) * 1996-09-30 1998-04-24 Brother Ind Ltd Character recognition device
JP2001184458A (en) * 1999-10-15 2001-07-06 Matsushita Electric Ind Co Ltd Device and method for character input and computer- readable recording medium
JP2007200186A (en) * 2006-01-30 2007-08-09 Advanced Telecommunication Research Institute International Character recognition device and character recognition program
JP2008123182A (en) * 2006-11-10 2008-05-29 Kawai Musical Instr Mfg Co Ltd Musical score recognition device and program

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111291756A (en) * 2020-02-14 2020-06-16 平安科技(深圳)有限公司 Method and device for detecting text area in image, computer equipment and computer storage medium
CN111291756B (en) * 2020-02-14 2023-11-21 平安科技(深圳)有限公司 Method and device for detecting text region in image, computer equipment and computer storage medium

Also Published As

Publication number Publication date
JP6437205B2 (en) 2018-12-12

Similar Documents

Publication Publication Date Title
KR102489578B1 (en) Formula inputting method, apparatus and electronic device
JP5349645B1 (en) Electronic device and handwritten document processing method
JP2008250374A (en) Handwriting determination device, method and program
JP2015162088A (en) Electronic device, method, and program
JP5342052B1 (en) Electronic apparatus and method
CN114365075B (en) Method for selecting a graphical object and corresponding device
CN108369637B (en) System and method for beautifying digital ink
JP2016071621A (en) Electronic apparatus and method
US9250802B2 (en) Shaping device
US9940536B2 (en) Electronic apparatus and method
Chiang et al. Recognizing arbitrarily connected and superimposed handwritten numerals in intangible writing interfaces
JP6437205B2 (en) Handwritten music symbol recognition apparatus and program
US20140300629A1 (en) Electronic device, handwritten document processing method, and storage medium
JP6223687B2 (en) Electronic device and handwritten document search method
KR20220038477A (en) Extract line of text
JP2015035150A (en) Handwritten document processing apparatus, handwritten document processing method, and handwritten document processing program
JP5735126B2 (en) System and handwriting search method
US10725650B2 (en) Handwritten music sign recognition device and program
JP5717831B2 (en) Electronic device and handwritten document processing method
KR20150024107A (en) Method for aligning input object and an electronic device thereof
JP6437208B2 (en) Handwritten music symbol recognition apparatus and handwritten music symbol recognition program
JP6039066B2 (en) Electronic device, handwritten document search method and program
WO2016031016A1 (en) Electronic device, method, and program
US11631263B1 (en) Gradient boosting tree-based spatial line grouping on digital ink strokes
TW202230093A (en) Apparatus and method for entering logograms into an electronic device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170125

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180306

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180420

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180904

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181018

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181106

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181114

R150 Certificate of patent or registration of utility model

Ref document number: 6437205

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150