JP5188619B2 - Information recording device - Google Patents

Information recording device Download PDF

Info

Publication number
JP5188619B2
JP5188619B2 JP2011269557A JP2011269557A JP5188619B2 JP 5188619 B2 JP5188619 B2 JP 5188619B2 JP 2011269557 A JP2011269557 A JP 2011269557A JP 2011269557 A JP2011269557 A JP 2011269557A JP 5188619 B2 JP5188619 B2 JP 5188619B2
Authority
JP
Japan
Prior art keywords
information
voice
thumbnail
input
recording apparatus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2011269557A
Other languages
Japanese (ja)
Other versions
JP2012100291A (en
Inventor
弘典 小味
圭介 稲田
大輔 吉田
祐介 谷田部
岡田  光弘
智之 野中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2011269557A priority Critical patent/JP5188619B2/en
Publication of JP2012100291A publication Critical patent/JP2012100291A/en
Application granted granted Critical
Publication of JP5188619B2 publication Critical patent/JP5188619B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Management Or Editing Of Information On Record Carriers (AREA)
  • Television Signal Processing For Recording (AREA)
  • Indexing, Searching, Synchronizing, And The Amount Of Synchronization Travel Of Record Carriers (AREA)

Description

本発明は、画像や音声を示す情報を記録する情報記録装置に関するものである。   The present invention relates to an information recording apparatus for recording information indicating an image or sound.

音声認識を用いて、画像の記録装置、または、再生装置を制御する技術として以下の発
明が開示されている。
The following invention is disclosed as a technique for controlling an image recording apparatus or a reproduction apparatus using voice recognition.

例えば、特許文献1には、「映像を中断したときに、中断した位置にビデオテ−プの頭
出しを行うことが可能なビデオデッキ」を提供することを課題とし、「録画開始時にコン
トロ−ルトラックに記録される第1のVISS信号とは異なるデュ−ティ比の第2のVI
SS信号をコントロ−ルトラックに記録させ、所定の操作に応じて、第2のVISS信号
が記録されている位置までビデオテ−プの頭出しを行うように構成され」たビデオデッキ
が記載されている。
For example, Patent Document 1 has an object of providing a “video deck capable of cueing a video tape at a position where video is interrupted when video is interrupted”. The second VI having a different duty ratio from the first VISS signal recorded on the track
A video deck configured to record an SS signal on a control track and to cue a video tape to a position where a second VISS signal is recorded according to a predetermined operation is described. Yes.

また、特許文献2には、「音声指示が可能なビデオカメラ等において、その音声指示が
収録されることを抑制し、再生時の聞き苦しさを軽減すること」を課題とし、「収録する
音声のうち、動作コマンドを示す音声を音声認識器110で認識し、動作コマンドである
と認識された音声に対応する音声データを削除、或いは、音量の低減処理を施すこと」撮
影装置が記載されている。
Further, Patent Document 2 has an issue of “suppressing recording of a voice instruction in a video camera or the like capable of voice instruction and reducing difficulty in listening during playback”. Among them, the voice indicating the operation command is recognized by the voice recognizer 110 and the voice data corresponding to the voice recognized as the operation command is deleted or the volume is reduced. ” Yes.

また、特許文献3には、その段落番号0008に「人手でこうしたチャプターを作成す
る際の問題点」として、「人間が内容に応じて適切な区切りを振るため、その精度に問題
はないが、細目にわたるチャプターを作成するには、大きな労力を必要とする」と記載し
ている(段落番号[0008])。そして、この問題等を解決する発明として、「入力さ
れたマルチメディアデータに音声認識をかけて得られたテキストを、言語的な知識を用い
て区分けし、そこから元のマルチメディアデータにリンクしたチャプターを自動的に作る
」チャプター作成装置が記載されている。
Further, in Patent Document 3, the paragraph number 0008 has “problem when manually creating such a chapter” as “a human assigns an appropriate break according to the contents, so there is no problem in its accuracy, It takes a lot of effort to create detailed chapters ”(paragraph number [0008]). As an invention to solve this problem and the like, “text obtained by performing speech recognition on inputted multimedia data is classified using linguistic knowledge, and then linked to the original multimedia data. A chapter creation device is described that automatically creates chapters.

特開2006-121155号公報JP 2006-121155 A 特開2003-298916号公報Japanese Patent Laid-Open No. 2003-298916 特開2003-230094号公報Japanese Patent Laid-Open No. 2003-230094

ビデオカメラやレコーダ等の撮像装置では、各記録の開始ごとにサムネール画像を作成
しておき、再生時には、サムネール表示一覧として表示すること機能を有することが多い
。そして、該一覧から一つのサムネールを選択すると、そのサムネールに対応した記録内
容が再生される場合が多い。また、ユーザが任意の位置で、シーンの区切れの単位(チャ
プタ)を編集することで、サムネールを追加・削除する機能を有するものがある。
An imaging apparatus such as a video camera or a recorder often has a function of creating a thumbnail image at the start of each recording and displaying it as a thumbnail display list during playback. When one thumbnail is selected from the list, recorded contents corresponding to the thumbnail are often reproduced. Some users have a function of adding / deleting thumbnails by editing a unit (chapter) of a scene division at an arbitrary position.

しかし、記録開始以外のタイミングで、記録・再生中のコンテンツに対して、シーンの
区切り位置を指示するのは、ユーザには煩わしく、使い勝手の点で改善を要する点である
。たとえば、ビデオカメラの撮影中に、ユーザがシーンの区切りを作成しておきたい場合
に、区切りの位置ごとに、記録停止・記録開始をボタン押下によって操作するなどすると
、その区切れ目で一度撮影が中断されて、後ほど鑑賞する際に、不連続なシーンとなって
しまう。同じく、音声レコーダなどにおいても、会議中の議題ごとに区切れを入れたい場
合などに同様の課題が生じる。
However, it is troublesome for the user to specify the scene break position for the content being recorded / reproduced at a timing other than the start of recording, which requires improvement in terms of usability. For example, if the user wants to create a scene break while shooting with a video camera, if the user presses a button to stop recording or start recording at each break position, shooting is performed once at that break. When it is interrupted, it will become a discontinuous scene when viewing later. Similarly, a similar problem occurs in an audio recorder or the like when it is desired to put a break for each agenda item in a meeting.

さらに、撮影したチャプタのサムネールを表示させたとしても、そのサムネールの画像
を見たのみでは、ユーザが何を撮影したのか把握できない場合がある。このため、各チャ
プタには、その内容を識別するための情報を撮影者が付加することが望ましい。
Furthermore, even if thumbnails of captured chapters are displayed, it may not be possible to grasp what the user has photographed simply by looking at the thumbnail images. For this reason, it is desirable for the photographer to add information for identifying the contents of each chapter.

これに対しては、例えばボタン等によって文字タイトルを入力することが考えられる。
しかし、撮像装置で撮影を行う操作と並行して、ユーザがチャプタを区切りながら、さら
に個々のチャプタにボタン等でタイトルを付ける作業は、ユーザにとっての負担となり得
る。一方、この記録が一通り終了した後に、改めて各チャプタにタイトルを付けることも
考えられるが、ユーザが何をとったか思い出すまでに時間や手間がかかる場合もある。
For this, for example, it is conceivable to input a character title using a button or the like.
However, in parallel with the operation of taking an image with the imaging apparatus, it is possible for the user to add a title to each chapter with a button or the like while separating the chapters. On the other hand, it is conceivable to add a title to each chapter after the recording is completed, but it may take time and effort to remember what the user took.

特許文献1の発明によると、映像に区切り位置を付けることができるが、区切り毎に何
を記録したかを示す情報をユーザが付加すことについては記載されていない。
According to the invention of Patent Document 1, it is possible to add a break position to a video, but it does not describe that a user adds information indicating what is recorded for each break.

特許文献2の発明によると、動作コマンドを音声によって入力することが可能となるが
、チャプタを区切ることや、区切りシーンを識別するための情報をユーザが付加すること
に関しては検討されていない。
According to the invention of Patent Document 2, it is possible to input an operation command by voice, but no consideration is given to dividing a chapter or adding information for identifying a separated scene by a user.

特許文献3の記載によると、その題目等をもとに、音声認識によって得たテキスト情報
を適切なまとまり毎に区切ることが記載されている。しかし、テキスト情報を区切るまと
まりが、ユーザの意図と異なる場合や、テキスト情報の内容が各まとまりの内容を示すも
のとしてユーザが意図するものと異なる場合がある。また、各区切りを識別するための情
報をユーザが付ける場合の使い勝手を向上させる点について、記載されていない。
According to the description of Patent Document 3, it is described that text information obtained by speech recognition is divided into appropriate groups based on the title and the like. However, there is a case where the group that separates the text information is different from the intention of the user, or the contents of the text information are different from those intended by the user as indicating the contents of each group. Moreover, it does not describe the point of improving usability when the user attaches information for identifying each delimiter.

本願発明は、情報の記録を所定の単位に区切りながら行う場合において、ユーザが何を
記録したかを識別することを容易にする情報記録装置を提供することを目的とする。
It is an object of the present invention to provide an information recording apparatus that makes it easy to identify what a user has recorded when recording information while dividing it into predetermined units.

上記課題は、特許請求の範囲に記載の発明によって解決される。例えば、本情報記録装
置では、入力した音声情報を用いて、映像に区切りを入れる。
The above problems are solved by the invention described in the claims. For example, in this information recording apparatus, the video is segmented using the input audio information.

本願発明によると、情報の記録を所定の単位に区切りながら行う場合において、ユーザ
が何を記録したかを識別することを容易にする情報記録装置を提供することが可能となる
According to the present invention, it is possible to provide an information recording apparatus that makes it easy to identify what a user has recorded when recording information while dividing it into predetermined units.

実施例1のブロック構成図。1 is a block configuration diagram of Embodiment 1. FIG. 実施例1のシーン区切りの様子を解説した図Figure explaining the scene separation in Example 1 実施例1のシーン区切りとストリームの時刻対応を示した図The figure which showed the scene division | segmentation of Example 1 and the time correspondence of a stream 実施例1のサムネール一覧を示した図The figure which showed the thumbnail list of Example 1. 実施例1のサムネール一覧とGUIを示した図The figure which showed the thumbnail list and GUI of Example 1. 実施例1のサムネール一覧とGUIの別形態を示した図The figure which showed the thumbnail list of Example 1, and another form of GUI. 実施例1のシーン区切り時のLCD画面を示した図The figure which showed the LCD screen at the time of the scene division | segmentation of Example 1 実施例2のブロック構成図。FIG. 3 is a block diagram of a second embodiment. シーン区切りの様子を解説した図。A diagram explaining how scenes are separated. 実施例3の装置の構成例を示した図。FIG. 6 is a diagram illustrating a configuration example of an apparatus according to a third embodiment. 実施例3の処理の例を示したフローチャート。10 is a flowchart illustrating an example of processing according to the third embodiment.

以下に、本発明の実施の形態を説明する。 Hereinafter, embodiments of the present invention will be described.

情報記録装置とは、例えば、HDDカムコーダ、BDレコーダ、等の情報を記録する装
置のことを示す。しかしこれに限定されるものではなく、例えば情報を記録する機能を有
する携帯電話機、PDA等にも適用可能である。情報の例としては、映像や音声がある。
An information recording device refers to a device that records information such as an HDD camcorder, a BD recorder, and the like. However, the present invention is not limited to this, and can be applied to, for example, a mobile phone having a function of recording information, a PDA, and the like. Examples of information include video and audio.

図1に第1の実施形態のブロック構成を示した図を示す。以下、本図面に沿って実施例
の説明を行う。本実施例は、ブロック図は映像音声をハードディスクドライブ(HDD)
に記録し再生するHDDカムコーダの構成を示したものである。図1内の各要素は、1…
レンズ、2…画像信号処理部、3…画像符号化部、4…マイク、5…アナログ/デジタル
(AD)変換回路、6…音声認識回路、7…音声符号化部、8…記録インタフェース、9
…記録制御回路、10…サムネール画像作成部、11…管理情報作成部、12…多重化回
路、13…メディア制御部、14…HDD、15…分離回路、16…画像復号部、17…
画像出力回路、18…液晶ディスプレイ(LCD),19…音声復号部、20…デジタル
/アナログ(DA)変換回路、21…スピーカ、22…サムネール管理回路、23…サム
ネール一覧作成回路、24…再生インタフェース、25…再生制御回路を示す。
FIG. 1 shows a block diagram of the first embodiment. Hereinafter, examples will be described with reference to the drawings. In this embodiment, the block diagram shows video and audio signals on a hard disk drive (HDD).
2 shows the configuration of an HDD camcorder that records and reproduces data on the HDD. Each element in FIG.
Lens 2, image signal processing unit 3, image encoding unit 4, microphone 5, analog / digital (AD) conversion circuit 6 speech recognition circuit 7 speech encoding unit 8 recording interface 9
... recording control circuit, 10 ... thumbnail image creation unit, 11 ... management information creation unit, 12 ... multiplexing circuit, 13 ... media control unit, 14 ... HDD, 15 ... separation circuit, 16 ... image decoding unit, 17 ...
Image output circuit, 18 ... Liquid crystal display (LCD), 19 ... Audio decoding unit, 20 ... Digital / analog (DA) conversion circuit, 21 ... Speaker, 22 ... Thumbnail management circuit, 23 ... Thumbnail list creation circuit, 24 ... Playback interface 25 denotes a reproduction control circuit.

レンズ1から入力された映像は、図示しないCMOSやCCD等の受光素子によって映
像信号に変換される。そして、映像信号は、画像信号処理部2において、走査線方向にス
キャンされ、デジタルデータとして変換される。ここでは、標準画像サイズの横720×
横480画素ごとのフレームが一秒間に30枚生成されるとする。変換された映像信号は
、画像符号化部3に転送される。なお、画像信号処理部2や画像符号化部3は、例えば、
ASIC等の専用回路によって構成される。
An image input from the lens 1 is converted into an image signal by a light receiving element such as a CMOS or a CCD (not shown). The video signal is scanned in the scanning line direction in the image signal processing unit 2 and converted as digital data. Here, the standard image size is 720 ×
Assume that 30 frames of 480 horizontal pixels are generated per second. The converted video signal is transferred to the image encoding unit 3. The image signal processing unit 2 and the image encoding unit 3 are, for example,
It is configured by a dedicated circuit such as an ASIC.

記録インタフェース部8は、たとえば記録開始/停止を指示するためのボタンなどから
構成され、ボタン押下によってトグル処理により記録の開始停止が装置全体の記録制御を
行う記録制御回路9に入力されるものとする。
The recording interface unit 8 is composed of, for example, buttons for instructing start / stop of recording. When the button is pressed, the start / stop of recording is input to the recording control circuit 9 that performs recording control of the entire apparatus by toggle processing. To do.

記録制御回路部9はたとえは、マイクロプロセッサなどからなり、図示されていないが
、装置全体のブロックの制御を行うために、CPUアドレス、データバスなどで接続され
ており、各ブロックの制御を行うものとする。
The recording control circuit unit 9 is composed of, for example, a microprocessor and is not shown, but is connected by a CPU address, a data bus, etc. to control the blocks of the entire apparatus, and controls each block. Shall.

以下、記録開始状態にボタンにより状態が変更し、記録制御回路9から各ブロックに記
録開始指示が出された動作について説明する。
Hereinafter, an operation in which the state is changed by the button to the recording start state and a recording start instruction is issued from the recording control circuit 9 to each block will be described.

画像符号化部3に転送されたデジタル映像データは、たとえばMPEG2(ISO/I
EC13818−2)規格などで圧縮符号化された映像ビットストリームとして多重化ブ
ロック12に出力される。
The digital video data transferred to the image encoding unit 3 is, for example, MPEG2 (ISO / I
It is output to the multiplexing block 12 as a video bit stream compressed and encoded in accordance with the EC13818-2) standard.

一方、音声は、マイク4からアナログ信号として入力され、AD変換回路5によってデ
ジタル信号処理される。たとえば、48KHzの周波数でサンプリングされたステレオ音
声であり、LチャネルとRチャネルの16ビット量子化されたPCM音声としてAD変換
回路5より出力される。
On the other hand, the sound is input as an analog signal from the microphone 4 and is subjected to digital signal processing by the AD conversion circuit 5. For example, it is stereo sound sampled at a frequency of 48 KHz, and is output from the AD conversion circuit 5 as 16-bit quantized PCM sound of L channel and R channel.

処理されたデータは、音声認識回路6に入力されるとともに音声符号化部7に転送され
る。音声符号化部7では、たとえば圧縮規格MPEG2LayerII(ISO/IEC
13818―3)規格などに基づき音声ビットストリームとして出力される。音声認識回
路6や音声符号化部7は、例えば、ASIC等の専用回路により構成される。
The processed data is input to the speech recognition circuit 6 and transferred to the speech encoding unit 7. In the audio encoding unit 7, for example, the compression standard MPEG2 Layer II (ISO / IEC
13818-3) is output as an audio bitstream based on the standard. The speech recognition circuit 6 and the speech encoding unit 7 are configured by a dedicated circuit such as an ASIC, for example.

多重化ブロック12に入力された映像音声ストリームは、MPEG2システム規格(I
SO/IEC13818−1)などに則り、トランスポートストリームとして、パケット
多重化されて、パケット多重化情報とあわせて、メディア制御部13に転送される。
The audio / video stream input to the multiplexing block 12 is an MPEG2 system standard (I
In accordance with SO / IEC13818-1), the packet is multiplexed as a transport stream and transferred to the media control unit 13 together with the packet multiplexing information.

このとき、パケット多重化される際に付加されるヘッダ部にはタイムスタンプが付記さ
れ、記録シーン中のどの地点のデータが格納されているかが判別できるようになっており
、後述の再生時には、タイムスタンプを比較することで、正確な音声と映像の同期を取る
ことができ、また、映像位置と、音声位置の対応を常に確認することができる。
At this time, a time stamp is added to the header portion added when packet multiplexing is performed, so that it is possible to determine at which point in the recording scene the data is stored. By comparing the time stamps, accurate audio and video can be synchronized, and the correspondence between the video position and the audio position can always be confirmed.

パケット多重化されたデータ列は、多重化ブロック12からメディア制御部13に転送
され、ファイルとしてHDD14に記録される。この際、記録制御ブロック9は、上記フ
ァイルがHDD内のどのアドレス(たとえばセクタ番号)に格納されるかを管理する管理情
報を生成しメディア制御部13を介して、HDD14に記録する機能を有する。また、さ
らに、記録開始、終了ごとに、上記ファイルを独立にする、もしくは、ファイルの区切り
位置のアドレスを管理情報内に記録することで、後に管理情報をHDD14から読み出し
て、所望の記録開始点を特定し、その位置からパケット多重化されたストリームを読み出
し再生できるようデータを生成する。また、ハードディスクであるHDD14の他にも、
SDやフラッシュメモリ等、情報を記憶する装置であれば、本実施例の装置を構成可能で
ある。
The packet-multiplexed data sequence is transferred from the multiplexing block 12 to the media control unit 13 and recorded as a file on the HDD 14. At this time, the recording control block 9 has a function of generating management information for managing in which address (for example, sector number) in the HDD the file is stored and recording it in the HDD 14 via the media control unit 13. . Furthermore, the management information is read from the HDD 14 later by making the file independent each time recording starts and ends, or by recording the address of the file separation position in the management information, and the desired recording start point Is generated, and data is generated so that a packet-multiplexed stream can be read and reproduced from that position. In addition to the HDD 14 which is a hard disk,
The device of this embodiment can be configured as long as it is a device that stores information, such as an SD or a flash memory.

次に記録中に音声により、シーンの区切り位置を生成しサムネールを作成する手順につ
いて説明する。
Next, a procedure for generating a scene break position by voice during recording and creating a thumbnail will be described.

前述のAD変換回路5から出力されたPCM音声データは、記録時に同時に音声認識回
路6に入力される。
The PCM voice data output from the AD conversion circuit 5 is input to the voice recognition circuit 6 at the same time as recording.

音声認識回路6では、あらかじめ設定しておいた特徴パターンに基づき、特徴が検知で
きた場合に、その検知時刻の情報を出力する機能を設ける。ここでいう特徴パターンとは
、例えば、シーン区切りの指示を示す音声が持つ特徴パターンのことをいう。
The voice recognition circuit 6 is provided with a function of outputting information on the detection time when a feature is detected based on a preset feature pattern. The feature pattern here means, for example, a feature pattern possessed by a voice indicating an instruction for scene separation.

音声認識回路6は、昨今音声認識で用いられている手法で構成が可能である。たとえば
、音声認識回路6は、入力されたPCM音声データから、所定の特徴量を取り出す。そし
て、音声認識回路6は、取り出した特徴量とあらかじめ用意した音声データの特徴量との
パターンマッチングを行ったり、音声レベルのピークとピーク時間を閾値と比較する。そ
して、比較の結果、PCM音声データが所定条件を満たす際に、特徴検知されたとして検
知時刻情報を報告するようにしても良い。たとえば図2に示すようにカメラ100で撮影
中の話者が101、102に示すように撮影中に、発話したとする。一つ目の発話は、「
CUT」、その後任意の発話「SENTENCE1」と続く。次にしばらく期間が経過し
た後、二つ目の発話「CUT」、その後任意の発話「SENTENCE2」と続く。この
とき、あらかじめ音声認識回路6に「CUT」を特徴パターンとして登録していた場合、
この特徴抽出時刻を音声認識回路6は後段のサムネール画像作成回路に転送する。
The voice recognition circuit 6 can be configured by a technique used in voice recognition these days. For example, the speech recognition circuit 6 extracts a predetermined feature amount from the input PCM speech data. Then, the voice recognition circuit 6 performs pattern matching between the extracted feature quantity and the feature quantity of voice data prepared in advance, or compares the peak and peak time of the voice level with a threshold value. Then, as a result of the comparison, when PCM audio data satisfies a predetermined condition, detection time information may be reported as a feature detection. For example, as shown in FIG. 2, it is assumed that a speaker who is shooting with the camera 100 speaks during shooting as indicated by 101 and 102. The first utterance is "
"CUT" followed by an arbitrary utterance "SENTENCE1". Next, after a while, a second utterance “CUT” is followed by an arbitrary utterance “SENTENCE2”. At this time, when “CUT” has been registered in the voice recognition circuit 6 in advance as a feature pattern,
The voice recognition circuit 6 transfers this feature extraction time to a subsequent thumbnail image creation circuit.

なお、パターンマッチングにおいては、例えば、入力されるPCM音声データの特徴量
と、予め用意されている音声データとが同一または類似である場合に、対応する処理を実
行する。また、例えば、予め用意されている音声データのうち、入力されたPCM音声デ
ータと最も類似しているものを、合致するデータとして選択してもよい。また、特徴量の
検出を情報記録装置で行った後、その特徴量を図示しないサーバ等の外部機器に送信し、
該外部機器においてパターンマッチングを行う構成としてもよい。この場合、情報記録装
置は、図示しない無線または有線で通信を行うための通信インターフェースを備えるもの
とする。また、予め記憶されている音声データとしては、音声を構成する各音素の音響モ
デル、個々の意味ある単語を記憶する辞書等がある。
In the pattern matching, for example, when the feature amount of the input PCM audio data is the same as or similar to the audio data prepared in advance, a corresponding process is executed. Further, for example, audio data prepared in advance that is most similar to the input PCM audio data may be selected as matching data. In addition, after the feature amount is detected by the information recording device, the feature amount is transmitted to an external device such as a server (not shown),
The external device may be configured to perform pattern matching. In this case, the information recording apparatus is provided with a communication interface for performing wireless or wired communication (not shown). The voice data stored in advance includes an acoustic model of each phoneme constituting the voice, a dictionary storing individual meaningful words, and the like.

また、音声認識回路6では、図示しないメモリに、撮像者の声紋を予め登録しておくこ
とも可能である。また、音声認識回路6では、その声紋が登録されたユーザの音声のみを
認識することも可能である。これにより、例えば、撮像するユーザの意図に反して、撮像
している対象から入力した音や、撮像者以外の人間の発声により、区切り位置が生成され
たり、「SENTENCE1」等が記録される可能性を抑制することができる。また、予
め用意しておく音声データとして、複数人分の音声データを図示しないメモリ等に記憶し
ておき、起動時に撮像者の認証を行うことによって、複数人の音声データから、撮像者と
して認識されたものの音声データを比較対象に設定する構成としてもよい。
The voice recognition circuit 6 can also register the photographer's voiceprint in advance in a memory (not shown). The voice recognition circuit 6 can also recognize only the voice of the user whose voiceprint is registered. Thus, for example, a delimiter position can be generated or “SENTENCE1” or the like can be recorded by a sound input from an object being imaged or a voice of a human being other than the imager, contrary to the intention of the user who images. Sex can be suppressed. In addition, as voice data prepared in advance, voice data for a plurality of people is stored in a memory (not shown), and the photographer is authenticated at the time of activation, so that the voice data of the plurality of people is recognized as a photographer. It is good also as a structure which sets the audio | voice data of what was done as a comparison object.

次に、記録中のストリームと発話101、102と記録中ストリームとの時刻関係の関
係について、図3を用いて述べる。現在のシーンの記録が時刻T0から開始され、発話1
01の「CUT」が時刻T1に特徴抽出され、発話102の「CUT」が時刻T2に特徴
抽出されたとすると、メディア制御ブロック13から記録中の記録中ストリームの各T0
,T1,T2に対応する位置情報がおのおの、記録開始時刻、シーンの区切れ1、シーン
の区切れ2として前述の記録制御部9に認識されており、それぞれの時刻に対応するスト
リームのHDD内のアドレス情報が、上述の管理情報内に記録される。
Next, the relationship of the time relationship among the stream being recorded, the utterances 101 and 102, and the stream being recorded will be described with reference to FIG. Recording of the current scene starts at time T0, and utterance 1
Assuming that “CUT” of 01 is extracted at time T1 and “CUT” of utterance 102 is extracted at time T2, each T0 of the recording stream being recorded from the media control block 13 is recorded.
, T1 and T2 are recognized as the recording start time, scene segmentation 1 and scene segmentation 2 by the recording control unit 9, and the stream information corresponding to each time is stored in the HDD. Address information is recorded in the management information described above.

また、本実施例においては、区切れ1等の位置を、時刻によって管理しているが、決し
えて時刻のみに限定されるものではない。例えば、映像を構成するフレームに割り振られ
た番号やアドレス等、映像データ全体における相対的な位置を示す情報を用いても、本実
施例の情報記録装置を構成することが可能であることはいうまでもない。
In the present embodiment, the position of the partition 1 or the like is managed by the time, but it is not limited to only the time. For example, it is possible to configure the information recording apparatus of the present embodiment using information indicating the relative position in the entire video data, such as numbers and addresses assigned to the frames constituting the video. Not too long.

次に、T0、T1,T2に対応するサムネールを作成する手順について述べる。T0、
T1,T2では、対応する時刻の画像が画像信号処理部2からサムネール画像作成回路1
0に転送され。サムネール画像作成回路10において、サムネール画像として、表示しや
すいサイズに加工される。たとえば図4のように装置の出力サイズに6枚出力する場合に
は、水平方向1/6以下、垂直方向1/2以下に画素サイズを縮小した1フレームを作成
することで、サムネール画像の基データを作成する。
Next, a procedure for creating thumbnails corresponding to T0, T1, and T2 will be described. T0,
At T1 and T2, an image at the corresponding time is transferred from the image signal processing unit 2 to the thumbnail image creation circuit 1.
Transferred to 0. The thumbnail image creation circuit 10 processes the thumbnail image into a size that is easy to display. For example, in the case of outputting 6 images to the output size of the apparatus as shown in FIG. 4, by creating one frame with the pixel size reduced to 1/6 or less in the horizontal direction and 1/2 or less in the vertical direction, the base of the thumbnail image is created. Create data.

このデータをたとえば、JPEGで圧縮をかけても良い。また、短い時間の動画サムネ
ールとしてMPEGなどで別途圧縮をかけても良い。上記のように処理が施されたサムネ
ールデータは、管理情報作成部11において、上述のシーンの区切れ位置とそれに対応す
るストリームアドレス情報と対応付けられたサムネール管理情報として、メディア制御部
13を介してHDD14に記録される。
This data may be compressed with, for example, JPEG. Further, it may be separately compressed by MPEG or the like as a short time moving image thumbnail. The thumbnail data processed as described above is sent to the management information creation unit 11 as thumbnail management information associated with the above-described scene segmentation position and the corresponding stream address information via the media control unit 13. Are recorded on the HDD 14.

さらに、音声認識回路6では、特徴検知用パターン「CUT」に続く、発話101中の
「SENTENCE1」、発話102中の「SENTENCE2」の音声情報を、あらか
じめ設定した期間分音声データとして、別途記録し、対応するサムネール2,サムネール
3の情報に対応付けて管理情報内に格納し、後にサムネール再生時にサムネール表示と同
時に上記音声データを再生することも可能である。このために、サムネール画像生成ブロ
ックを介してサムネール管理情報内に各サムネールに対応付けられて、特徴検知パターン
直後のセンテンスも記録される。
Further, the voice recognition circuit 6 separately records the voice information of “SENTENCE 1” in the utterance 101 and “SENTENCE 2” in the utterance 102 following the feature detection pattern “CUT” as voice data for a preset period. It is also possible to store in the management information in association with the information of the corresponding thumbnail 2 and thumbnail 3, and to reproduce the audio data simultaneously with the thumbnail display when the thumbnail is reproduced later. For this purpose, the sentence immediately after the feature detection pattern is recorded in association with each thumbnail in the thumbnail management information via the thumbnail image generation block.

このように、記録処理を行うことによって、発話101中の「SENTENCE1」等
を発話102中の「SENTENCE2」を、音声によって各シーンの概要を示す、いわ
ば音声タイトルとして記憶させておくことが可能となる。
As described above, by performing the recording process, it is possible to store “SENTENCE 1” or the like in the utterance 101 as “sentence 2” in the utterance 102 as a voice title that outlines each scene by voice. Become.

上記方法により、撮影中のユーザは、シーンの区切れごとに逐次ボタンを記録開始・停
止ボタンを押下する必要がなく、記録を中断する必要がない。また、煩わしいボタン操作
がなくなるため、被写体の追跡、ズーム処理などに集中しつつ、意図したタイミングでの
シーンの区切れを指示することが可能であり、使い勝手が向上するという効果を生み出す
According to the above method, the user who is shooting does not need to press the recording start / stop button sequentially for each segment of the scene, and does not need to interrupt the recording. Further, since troublesome button operations are eliminated, it is possible to instruct scene segmentation at an intended timing while concentrating on subject tracking, zoom processing, and the like, thereby producing an effect of improving usability.

また、上述の例では、カメラ100は、シーン区切りを示す音声情報を入力した場合に
、その後所定期間に入力された音声を区切られたシーンに対応づける動作について説明し
た。しかし、カメラ100は、シーン区切りを示す音声情報を入力する前の所定期間に入
力されていた音声情報を、区切られたシーンに対応づける処理を行ってもよい。この場合
、ユーザは、例えば、「SENTENCE1」を発話した後、「CUT」を発話すること
によってカメラ100を利用する。
Further, in the above-described example, when the audio information indicating the scene break is input, the camera 100 describes the operation of associating the audio input in the predetermined period with the divided scene. However, the camera 100 may perform a process of associating the audio information input during a predetermined period before inputting the audio information indicating the scene delimiter with the delimited scene. In this case, for example, after the user speaks “SENTENCE 1”, the user uses the camera 100 by speaking “CUT”.

なお、再生インターフェース24とは、再生操作を行うためのユーザーインターフェー
スのことを示す。たとえば、再生インターフェース24は、ユーザの操作を受け付けるボ
タン等の操作装置や、ユーザに装置の状況を報知するディスプレイ等の報知装置等により
構成する。なお、LCD18を報知手段として転用してもよい。
Note that the reproduction interface 24 refers to a user interface for performing a reproduction operation. For example, the playback interface 24 includes an operation device such as a button for receiving a user operation, a notification device such as a display for notifying the user of the status of the device, and the like. Note that the LCD 18 may be diverted as notification means.

次に、記録された映像音声をサムネール一覧画面から再生する手順について説明する。
HDD14に記録されたデータを再生する場合、再生インタフェース24からサムネール
一覧画面表示ボタンが押下され、サムネール一覧表示モードに入る教示信号が再生制御回
路25に伝達される。例えば、図5の121のようにカメラの筐体に設置されたボタンで
あっても良いし、電源投入後に自動的にサムネール一覧画面に入るようにしても良い。
Next, a procedure for reproducing the recorded video and audio from the thumbnail list screen will be described.
When reproducing the data recorded in the HDD 14, the thumbnail list screen display button is pressed from the reproduction interface 24, and a teaching signal for entering the thumbnail list display mode is transmitted to the reproduction control circuit 25. For example, the button may be a button installed on the camera casing as indicated by 121 in FIG. 5, or the thumbnail list screen may be automatically entered after the power is turned on.

その後、サムネール一覧画面表示モードに意向するように指示された再生制御回路25
は、管理情報をメディア制御ブロック経由でHDD14から読み出し、ファイルの構成を
確認した後、サムネール管理回路22にHDD14からサムネール管理情報および管理情
報を読み出すように指示する。サムネール管理回路22は、メディア制御ブロックを介し
てHDDよりサムネール管理情報を読み出し、例えば、記録順序ごとに、記録開始時点の
サムネール、音声により指定されたシーン区切りに対応するサムネールデータを順次読み
出し、図4のように各サムネールデータをサムネール一覧作成回路23に送信する。サム
ネール一覧作成回路では、サムネールを表示するために必要な処理を施し、一覧表示を行
う。例えばサムネールデータに圧縮符号化が施されている場合には、この段階で伸張され
る。
Thereafter, the playback control circuit 25 instructed to enter the thumbnail list screen display mode.
Reads the management information from the HDD 14 via the media control block, confirms the file configuration, and then instructs the thumbnail management circuit 22 to read the thumbnail management information and management information from the HDD 14. The thumbnail management circuit 22 reads the thumbnail management information from the HDD via the media control block, and sequentially reads, for example, the thumbnail at the recording start time and the thumbnail data corresponding to the scene break designated by the audio for each recording order. Each thumbnail data is transmitted to the thumbnail list creation circuit 23 as shown in FIG. The thumbnail list creation circuit performs processing necessary to display thumbnails and displays a list. For example, when compression encoding is applied to thumbnail data, it is decompressed at this stage.

サムネール一覧画面には、現在の選択候補となるサムネールに対し図4の110に示す
ように、選択位置を示すグラフィックがサムネール一覧作成23によってOSD表示され
る。なお、110の選択位置を示すグラフィックとは、例えば、カーソルや、フォーカス
等を示す。上記選択位置は、図5の120に示すような方向キーによって、上下左右が指
示された場合、再生インタフェース24ブロックより方向教示信号が再生制御回路25に
伝達され、対応するサムネール位置を変更し、サムネール管理回路22に伝達する。これ
に応じてサムネール管理回路22は、対応するサムネール群のサムネール管理情報をHD
D14から読み直す。
On the thumbnail list screen, as shown at 110 in FIG. 4, a graphic indicating the selection position is displayed in OSD by the thumbnail list creation 23 for the thumbnail that is the current selection candidate. Note that the graphic indicating the selection position 110 indicates, for example, a cursor, focus, or the like. When the up / down / left / right directions are instructed by the direction keys as shown at 120 in FIG. 5, a direction teaching signal is transmitted from the playback interface 24 block to the playback control circuit 25 to change the corresponding thumbnail position. This is transmitted to the thumbnail management circuit 22. In response to this, the thumbnail management circuit 22 stores the thumbnail management information of the corresponding thumbnail group in HD.
Reread from D14.

選択候補が、現在表示中のページから外れた場合には、新たなページを作成するために
サムネール管理情報を読み出す。また、対応する選択候補位置を更新し、サムネール一覧
作成回路23は、選択位置を示すグラフィックを移動させる。また、同時に選択位置に対
応している音声データも読み出され、音声出力可能な形態に例えば伸張処理され、DA変
換回路20に転送される。最終的に、サムネール画像一覧画面で音声もスピーカ21から
出力される。
If the selection candidate deviates from the currently displayed page, the thumbnail management information is read to create a new page. Further, the corresponding selection candidate position is updated, and the thumbnail list creation circuit 23 moves the graphic indicating the selection position. At the same time, the audio data corresponding to the selected position is also read out, decompressed, for example, into a form in which audio can be output, and transferred to the DA converter circuit 20. Finally, sound is also output from the speaker 21 on the thumbnail image list screen.

本機能により、例えばスポーツ中の記録の場合には、非常によく似た画像が並ぶ場合が
あり、所望のシーンを瞬時に見つけることが難しい場合がる。このとき、音声データが同
時に出力されると、各シーンごとの簡単なガイダンスの効果を生むため、シーンの選択を
用意にさせるという効果を生む。特に、話者が記録時にシーン区切りのための特徴音直後
に、サムネール一覧時のレイアウトを意識して撮影することが可能であり、従来の記録再
生装置にあるような後からチャプタ編集を行うよりも早く、所望のシーン区切りを特定し
、サムネール一覧を得る事ができる。
With this function, for example, in the case of recording during sports, very similar images may be arranged, and it may be difficult to instantly find a desired scene. At this time, if the audio data is output at the same time, the effect of simple guidance for each scene is produced, so that the effect of preparing the selection of the scene is produced. In particular, it is possible for the speaker to shoot immediately after the feature sound for scene separation at the time of recording, taking into consideration the layout at the time of the thumbnail list, rather than performing chapter editing after the conventional recording and playback device. As soon as possible, a desired scene break can be identified and a thumbnail list can be obtained.

上記のように、サムネール一覧にて表示された各シーンの区切りごとのデータは、その
選択位置で、再生開始ボタンが押下されると、それに対応するシーンが再生される。この
手順を以下に示す。
As described above, when the playback start button is pressed at the selected position, the scene corresponding to the data for each scene segment displayed in the thumbnail list is played back. This procedure is shown below.

再生インタフェース回路24では、再生開始がユーザから指示された場合、再生制御回
路25に再生開始を指示する。再生制御回路では、現在のサムネールの選択位置をサムネ
ール管理回路22から取得し、そのサムネールに対応する位置からの再生を各ブロックに
指示し、再生を開始させる。再生に際しては、HDD14からメディア制御ブロック13
を介して、サムネールに対応する位置からのストリームが分離回路15に読み出される。
分離回路15では、パケット多重を解き、画像と音声の符号化ストリームを各々画像復号
回路16と音声復号回路19に送信する。各々、圧縮された規格に準拠した伸張処理が行
われる。画像復号回路16から出力された映像信号は、画像出力処理回路17において、
LCDなどのディスプレイとして出力できるデータに信号処理され、LCD18などから
外部に出力される。音声については、音声復号回路19からPCM音声が出力され、DA
変換回路20によってアナログ音声に変換され、スピーカ21を介して外部にスピーカー
出力される。なお、本実施例では表示装置の例として、LCD18を例として説明してい
るが、LCDに限られるものではない。例えば、有機ELやその他の表示装置を利用して
もよいことはいうまでもない。
The playback interface circuit 24 instructs the playback control circuit 25 to start playback when playback start is instructed by the user. The playback control circuit acquires the current thumbnail selection position from the thumbnail management circuit 22, instructs each block to play from the position corresponding to the thumbnail, and starts playback. During playback, the media control block 13 is transferred from the HDD 14.
Then, the stream from the position corresponding to the thumbnail is read to the separation circuit 15.
The demultiplexing circuit 15 demultiplexes the packet and transmits the image and audio encoded streams to the image decoding circuit 16 and the audio decoding circuit 19, respectively. In each case, decompression processing conforming to the compressed standard is performed. The video signal output from the image decoding circuit 16 is received by the image output processing circuit 17.
Data is processed into data that can be output as a display such as an LCD, and is output to the outside from the LCD 18 or the like. For audio, PCM audio is output from the audio decoding circuit 19, and DA
The sound is converted into analog sound by the conversion circuit 20 and output to the speaker through the speaker 21. In this embodiment, the LCD 18 is described as an example of the display device, but the display device is not limited to the LCD. For example, it goes without saying that an organic EL or other display device may be used.

上記実施例では、MPEG規格に基づいた映像音声の圧縮伸張処理、多重分離化処理、
DVD規格に準拠したHDDへの記録処理などを記載したが、本実施例の情報記録装置の
目的は、他の圧縮技術、MPEG1、MPEG4、JPEG、H.264などを用いても
同等の発明の効果を持つことは明らかである。また、記録媒体も光ディスク、不揮発性メ
モリデバイス、テープデバイスであっても同等の効果を得る。さらには、圧縮処理されず
に、他のデータ列の時刻とシーン区切りを管理するデータ管理がなされている記録方法で
あれば、同じく本実施例の情報記録装置の意図する構成であることは明らかである。
In the above embodiment, video / audio compression / decompression processing, demultiplexing processing based on the MPEG standard,
Although the recording process to the HDD conforming to the DVD standard has been described, the purpose of the information recording apparatus of the present embodiment is to use other compression technologies, such as MPEG1, MPEG4, JPEG, H.264, etc. It is clear that even if H.264 or the like is used, the same effect of the invention is obtained. The same effect can be obtained even if the recording medium is an optical disk, a nonvolatile memory device, or a tape device. Furthermore, if the recording method is not subjected to compression processing and data management for managing the time and scene break of other data strings is made, it is apparent that the configuration of the information recording apparatus of the present embodiment is also intended. It is.

上記実施例では、映像音声の記録再生装置を例示したが、例えば、ボイスレコーダであ
っても、同等の音声認識回路を備え、シーンの区切りを特定するデータ管理をすることで
、後ほど再生する際に、効率よく所望の区切り位置から再生させることが可能である。こ
のような場合、サムネールを用いずに、ボタン操作のみで次のチャプタにスキップするこ
とが可能である。また、番号入力キーで、チャプタ番号をダイレクトに入力しても良い。
In the above embodiment, the audio / video recording / reproducing apparatus is illustrated. However, for example, even a voice recorder is provided with an equivalent audio recognition circuit, and is managed later by performing data management for specifying a scene break. In addition, it is possible to efficiently reproduce from a desired break position. In such a case, it is possible to skip to the next chapter with only a button operation without using a thumbnail. Further, the chapter number may be directly input using a number input key.

また、図5の122に示すように、音声によるチャプタ区切りが入ったサムネールを他
の記録開始時のサムネールと区別するため、サムネールにアイコンをつけることが可能で
ある。これは、サムネール一覧作成回路23において、音声によるシーン区切りかどうか
をサムネール管理情報に基づき区別することで、サムネール付加するかどうかを制御する
Further, as shown at 122 in FIG. 5, an icon can be attached to the thumbnail in order to distinguish a thumbnail including chapter chapters by voice from other thumbnails at the start of recording. In this case, the thumbnail list creation circuit 23 controls whether or not to add a thumbnail by distinguishing whether or not the scene is divided by sound based on the thumbnail management information.

このように、アイコンを付加することにより、ユーザは区切りに音声を付加したことを
認識することが可能となる。
In this way, by adding an icon, the user can recognize that a voice has been added as a break.

また、図6に示すように、サムネールの選択画面が、タッチパネルのような形態であっ
た場合、例えば一回サムネールを押した状態で、選択状態とし、所望のサムネール表示と
対応する音声を出力するよう、再生制御回路25を構築すれば良い。また、選択したサム
ネールから再生を開始する場合には、二回サムネールをタッチした段階で対応する位置か
らのストリーム再生を行うように制御する。
Also, as shown in FIG. 6, when the thumbnail selection screen is in the form of a touch panel, for example, when the thumbnail is pressed once, the selection state is set, and the sound corresponding to the desired thumbnail display is output. Thus, the reproduction control circuit 25 may be constructed. Also, when playback is started from the selected thumbnail, control is performed so that stream playback from the corresponding position is performed when the thumbnail is touched twice.

図7は記録中のLCD画像を示したものである。図中の130のアイコンは、記録中に
音声認識回路6において特徴抽出され、シーン区切りが作成された場合に、視聴者に明示
的に知らせるためのインタフェースであり、音声認識回路6において特徴抽出されたタイ
ミングでパルス信号を出し、そのパルス信号をうけとってから、例えば10秒程度130
のアイコンをOSD重畳して出力することで実現できる。これにより、ユーザが自分の意
図したタイミングでシーン区切りが作成できたか確認することができる。
FIG. 7 shows the LCD image being recorded. The icon 130 in the figure is an interface for extracting features in the voice recognition circuit 6 during recording and explicitly informing the viewer when a scene break is created. For example, about 10 seconds after receiving the pulse signal.
This can be realized by superimposing the icon on the OSD and outputting it. As a result, it is possible to confirm whether or not a scene break has been created at a timing intended by the user.

図8は第2の実施形態を説明するものである。   FIG. 8 illustrates the second embodiment.

第1の実施例では、音声認識に用いる特徴については、あらかじめ設定されている記載
であったが、図8のように、音声認識のためのパターン登録回路61をAD変換回路5後
段におく。記録インタフェース8より、パターン登録モード設定ボタンを押下した際、所
定の期間音声をパターン登録回路61において記録し、データ化する。データ化された音
声は例えば、不揮発メモリなどに記録しておくことで、電源OFF後も保持される。その
後、記録時には、前述の特徴検出のためのパターンマッチングの参照データとして、上記
パターン登録で記録されたデータを用いる。用いるパターンを複数登録し、音声認識回路
6では、同時に複数の特徴抽出を行うようにしても良い。
In the first embodiment, the features used for speech recognition are described in advance, but a pattern registration circuit 61 for speech recognition is placed after the AD conversion circuit 5 as shown in FIG. When the pattern registration mode setting button is pressed from the recording interface 8, the voice is recorded in the pattern registration circuit 61 for a predetermined period and converted into data. The voice that has been converted to data is recorded in, for example, a non-volatile memory, and is retained even after the power is turned off. Thereafter, at the time of recording, the data recorded in the pattern registration is used as reference data for pattern matching for the above-described feature detection. A plurality of patterns to be used may be registered, and the voice recognition circuit 6 may perform a plurality of feature extraction simultaneously.

上記機能を用いることで、さらに柔軟にシーン区切りを制御することが可能となる。   By using the above function, it becomes possible to control the scene break more flexibly.

次に、記録中に音声により、シーンの区切り位置を生成しサムネールを作成する手順の
他の例について説明する。
Next, another example of a procedure for generating a scene break position and creating a thumbnail by voice during recording will be described.

たとえば図9に示すようにカメラ100で撮影中の話者が101、102に示すように
撮影中に、発話したとする。一つ目の発話は、発話141「CUT」、その後任意の発話
142「Title」「SENTENCE3」と続く。次にしばらく期間が経過した後、
二つ目の発話143「CUT」と続く。この場合、二つの発話141「CUT」と143
「CUT」とで区切られたチャプタに、発話142「SENTENCE3」の音声情報を
対応させて記憶する構成とする。これにより、各区切りの任意の時点で、チャプタと音声
とを対応させることが可能となる。また、この場合、区切りの最初の時点では発話142
の「SENTENCE3」は対応づけられていないことになるが、この区切りのサムネー
ルを選択した場合「SENTENCE3」を発生するようにしてもよい。このように、発
話「Title」のように、特徴パターンとして、いわば音声タイトルを付す旨の指示を
示す音声が持つパターンを設定しておくことも可能である。
For example, as shown in FIG. 9, it is assumed that a speaker who is shooting with the camera 100 speaks during shooting as indicated by 101 and 102. The first utterance is followed by the utterance 141 “CUT”, followed by an arbitrary utterance 142 “Title” and “SENTENCE3”. Next, after a while,
The second utterance 143 “CUT” follows. In this case, two utterances 141 “CUT” and 143
It is configured to store the voice information of the utterance 142 “SENTENCE3” in correspondence with chapters delimited by “CUT”. Thereby, it becomes possible to make a chapter and a voice correspond at an arbitrary time point of each segment. In this case, the utterance 142 is used at the beginning of the break.
“SENTENCE3” is not associated, but when this delimited thumbnail is selected, “SENTENCE3” may be generated. As described above, as in the utterance “Title”, it is also possible to set a pattern possessed by a voice indicating an instruction to attach a voice title as a feature pattern.

図10は本実施例のカメラを示す図である。図10のカメラ100は、実施例1および
2のカメラ100の構成を備え、マイク4の代わりにRチャネルマイク150、Lチャネ
ルマイク151、及びSubチャネルマイク152を備える。Subチャネルマイク15
2は、主に撮像者の発声を収音する。そのため、Subチャネルマイク152は、例えば
、マイクを把持した場合に、レンズ1と反対の面に設置される。
FIG. 10 is a diagram showing the camera of this embodiment. A camera 100 in FIG. 10 includes the configuration of the camera 100 in the first and second embodiments, and includes an R channel microphone 150, an L channel microphone 151, and a Sub channel microphone 152 instead of the microphone 4. Sub channel microphone 15
2 mainly collects the voice of the photographer. Therefore, the sub channel microphone 152 is installed on the surface opposite to the lens 1 when the microphone is held, for example.

そして、Rチャネルマイク150、Lチャネルマイク151、Subチャネルマイク1
52から記録した音声を、それぞれRチャネル音声、Lチャネル音声、Sチャネル(Su
bチャネル)音声とする。
R channel microphone 150, L channel microphone 151, Sub channel microphone 1
The voices recorded from 52 are R channel voice, L channel voice and S channel (Su), respectively.
b channel).

図11は、本実施例におけるカメラの動作を示すフローチャートである。   FIG. 11 is a flowchart showing the operation of the camera in this embodiment.

s1000において、電源が投入されると、カメラスルーモードで動作を開始し(s1
001)、ユーザによる指示を待つ(s1002)。そして、カメラ100は、ユーザの
指示により、記録あるいはサムネール一覧表示を行う。
When the power is turned on in s1000, the operation starts in the camera through mode (s1
001), waits for an instruction from the user (s1002). Then, the camera 100 performs recording or thumbnail list display according to a user instruction.

s1002において、記録指示がなされると、映像情報の記録とLチャネル音声、Rチ
ャネル音声、Sチャネル音声の3つのチャネルの音声の記録とを開始する(s1003)
。次に、音声認識回路6は、入力した音声の音声認識を行う(s1004)。そして、カ
メラ100は、実施例1、2と同様にシーン区切り等の処理を行う(s1005)。但し
、s1004においては、Subチャネルマイク152から入力したSチャネル音声から
得られる情報の比重を高くして音声認識を行う。このように音声の記録を行うことにより
、撮像者の音声による指示をより正確に認識することが可能となる。なお、s1004に
おいては、例えば、音声認識にSチャネルの音声のみを用いることとしてもよい。
When a recording instruction is given in s1002, recording of video information and recording of audio of three channels of L channel audio, R channel audio, and S channel audio are started (s1003).
. Next, the speech recognition circuit 6 performs speech recognition of the input speech (s1004). Then, the camera 100 performs processing such as scene separation as in the first and second embodiments (s1005). However, in s1004, the voice recognition is performed by increasing the specific gravity of the information obtained from the S channel voice input from the Sub channel microphone 152. By recording the voice in this way, it is possible to recognize the instruction by the voice of the photographer more accurately. Note that in s1004, for example, only the S channel sound may be used for speech recognition.

次に、カメラ100は、記録終了指示がユーザによってなされた場合には、記録処理を
終了する(s1006)。
Next, when an instruction to end recording is given by the user, the camera 100 ends the recording process (s1006).

s1002において、カメラ100は、サムネール一覧を表示するよう指示を受け付け
ると、サムネールの一覧表示を行う(s1010)。
In step s1002, upon receiving an instruction to display a thumbnail list, the camera 100 displays a thumbnail list (s1010).

そして、カメラ100は、ユーザの指示を待ち(s1011)、サムネールの選択移動
処理を行うか、あるいは、選択されたサムネール画像によって示されるシーンの再生を行
う。
Then, the camera 100 waits for an instruction from the user (s1011), and performs a thumbnail selection movement process or reproduces a scene indicated by the selected thumbnail image.

s1011においてサムネールの選択移動指示を受け付けた場合、カメラ100は、図
4中の選択表示110を移動させた状態にて、LCD18に再描画したサムネールを表示
する(s1012)。次に、カメラ100は、選択表示110が移動した結果フォーカス
されているサムネール該シーンに対応づけられた音声を出力する(s1013)。s10
13においては、カメラ100は、Sチャネル音声の音量を、Lチャネル音声、Rチャネ
ル音声の音量よりも大きくして再生する。このように、Sチャネル音声の音量を上げて出
力することによって、カメラ100は、ユーザにシーンの内容をより正確に認識させるこ
とができる。
When an instruction for selecting and moving a thumbnail is received in s1011, the camera 100 displays the redrawn thumbnail on the LCD 18 in a state where the selection display 110 in FIG. 4 is moved (s1012). Next, the camera 100 outputs a sound associated with the thumbnail that is focused as a result of the movement of the selection display 110 (s1013). s10
13, the camera 100 reproduces the S channel sound with a volume higher than that of the L channel sound and the R channel sound. Thus, by increasing the volume of the S channel sound and outputting it, the camera 100 can make the user recognize the content of the scene more accurately.

なお、s1013では、Sチャネル音声のゲインを上げて音声を出力してもよい。また
、本ステップでは、Rチャネル音声、Lチャネル音声の音量をカットさせて音声を出力さ
せてもよい。
In s1013, the gain of the S channel sound may be increased and the sound may be output. In this step, the sound may be output by cutting the volume of the R channel sound and the L channel sound.

また、s1012において、1つのシーンを再生するよう指示がされた場合、カメラ1
00は、指示されたシーンの再生処理を行う(s1021)。s1021では、Sチャネ
ル音声を再生する音量は、Lチャネル音声およびRチャネル音声を再生させる音量よりも
小さくする。また、Lチャネル音声及びRチャネル音声のゲインを上げて音声を出力して
もよい。また、S1021では、Sチャネル音声をカットしてもよい。また、音声認識情
報を用いて、Sチャネルの区切り音声部分のみを音量を下げて出力しても良い。また、区
切りに対応付けられた音声のみを、逆位相成分を重ね合わせるなどして、信号除去する方
法を用いても良い。
If an instruction to play one scene is given in s1012, the camera 1
In 00, the designated scene is reproduced (s1021). In s1021, the volume for reproducing the S channel sound is set lower than the volume for reproducing the L channel sound and the R channel sound. Further, the gain of the L channel sound and the R channel sound may be increased to output the sound. In S1021, the S channel sound may be cut. Alternatively, only the delimited voice portion of the S channel may be output with the volume lowered using the voice recognition information. In addition, a method of removing a signal by superimposing an antiphase component only on the voice associated with the break may be used.

次に、カメラ100は、再生終了指示がユーザによってなされた場合には、再生処理を
終了する(s1022)。
Next, when an instruction to end playback is given by the user, the camera 100 ends the playback process (s1022).

ユーザにとっては、サムネールを表示している状態においては、各シーンの内容を音声
にて把握することが可能となる。一方、個々のシーンを再生させる場合には、「SENT
ENCE1」等を再生させる音量を小さくすることにより、Subチャネルマイク152
に撮像者が吹き込んだ音声が、ユーザにとって騒がしいと感じられる可能性を抑制するこ
とが可能となる。特に、カメラ100にて撮像を行う場合を考慮すると、Subチャネル
マイク152は、撮像者の口元に近くなる場合もあり得るため、本実施例の処理は有効と
なる。
For the user, when the thumbnail is displayed, the contents of each scene can be grasped by voice. On the other hand, when playing back individual scenes, “SENT
By reducing the volume for reproducing “ENCE1” and the like, the sub-channel microphone 152
Therefore, it is possible to suppress the possibility that the voice that the photographer infused into the user feels noisy for the user. In particular, considering the case of imaging with the camera 100, the sub-channel microphone 152 may be close to the mouth of the photographer, so the processing of this embodiment is effective.

なお、本実施例の動作においては、カメラ100は、Subチャネルマイク152から
収音した音声を、撮像者の音声として処理していたが、これに限られるものではない。例
えば、Subチャネルマイク152を用いずとも、カメラ100は、サムネール一覧表示
で選択表示110を動かした場合には、サムネールに対応づけられた音声情報の音量を上
げ、再生指示がなされた場合には、音声情報の音量を下げる構成としてもよい。
In the operation of this embodiment, the camera 100 processes the sound collected from the sub-channel microphone 152 as the voice of the photographer, but is not limited to this. For example, even when the sub channel microphone 152 is not used, when the camera 100 moves the selection display 110 in the thumbnail list display, the volume of the audio information associated with the thumbnail is increased and a playback instruction is given. The volume of the sound information may be reduced.

また、上述の動作では、s1013、s1021においてはSチャネル音声の音量の、
Lチャネル音声等の音量に対する比率を変更させる例について説明した。しかし、カメラ
100の動作は、これに限定されるものでは無い。例えば、カメラ100は、s1013
におけるSチャネル音声の音量の、s1021におけるSチャネル音声の音量に対する比
率を変更する構成としてもよい。
In the above-described operation, the volume of the S channel sound is increased in s1013 and s1021.
The example in which the ratio to the volume of the L channel sound or the like is changed has been described. However, the operation of the camera 100 is not limited to this. For example, the camera 100 is s1013.
The ratio of the volume of the S channel sound in S to the volume of the S channel sound in s1021 may be changed.

また、ユーザの好みに応じて、Subチャネルマイクの音量のみを、図示されていない
ボリュームコントロールボタンにより調整する構成としてもよい。また、Subチャネル
の音量をプリセットした複数の再生モードをプリセットしておき、ボタン操作などで切り
替え、ユーザの必要性に応じて、撮像者の音声レベルを制御することも可能である。再生
モードとしては、例えば、上述のようにサムネールを表示するモード、1つのシーンを再
生するモードがある。その他、再生モードとしては、例えば、図示しないコネクタを介し
て外部機器に映像情報と音声情報を出力するモード等がある。
In addition, only the volume of the sub channel microphone may be adjusted by a volume control button (not shown) according to the user's preference. It is also possible to preset a plurality of playback modes in which the volume of the Sub channel is preset, and switch by a button operation or the like, and control the sound level of the photographer according to the user's needs. As the playback mode, for example, there are a mode for displaying thumbnails as described above and a mode for playing back one scene. In addition, examples of the playback mode include a mode for outputting video information and audio information to an external device via a connector (not shown).

上記のように、本実施例のカメラ100は、シーンの区切れ目を指示するための音声の
みを、再生時の重要度に応じて制御でき、ユーザの使い勝手を向上させる上で有効である
As described above, the camera 100 according to the present embodiment can control only the sound for instructing a scene break according to the importance level during reproduction, which is effective in improving the usability of the user.

また、本発明の構成は、上記実施例に限定されるものではなく、発明の範囲で自由に変
更することも可能である。例えば、サブチャネルの代わりに複数のマイクから話者を特定
するためにマイクの指向性を利用し、複数チャネルから特定方向の音声を生成した後、そ
の音声を上記Subチャネルと同等の扱いとしても良い。また、各実施例の内容を組み合
わせることも可能である。
Moreover, the structure of this invention is not limited to the said Example, It is also possible to change freely within the scope of the invention. For example, the microphone directivity is used to specify a speaker from a plurality of microphones instead of the sub-channel, and sound in a specific direction is generated from the plurality of channels, and then the sound is treated as equivalent to the Sub channel. good. It is also possible to combine the contents of the embodiments.

1…レンズ
2…画像信号処理
3…画像符号化部
4…マイク
5…アナログ/デジタル(AD)変換回路
6…音声認識回路
7…音声符号化部
8…記録インタフェース
9…記録制御回路
10…サムネール画像作成部
11…管理情報作成部
12…多重化回路
13…メディア制御部
14…HDD
15…分離回路
16…画像復号部
17…画像出力回路
18…液晶ディスプレイ(LCD)
19…音声復号部
20…デジタル/アナログ(DA)変換回路
21…スピーカ
22…サムネール管理回路
23…サムネール一覧作成
24…再生インタフェース
25…再生制御回路
DESCRIPTION OF SYMBOLS 1 ... Lens 2 ... Image signal processing 3 ... Image encoding part 4 ... Microphone 5 ... Analog / digital (AD) conversion circuit 6 ... Speech recognition circuit 7 ... Speech encoding part 8 ... Recording interface 9 ... Recording control circuit 10 ... Thumbnail Image creation unit 11 ... management information creation unit 12 ... multiplexing circuit 13 ... media control unit 14 ... HDD
DESCRIPTION OF SYMBOLS 15 ... Separation circuit 16 ... Image decoding part 17 ... Image output circuit 18 ... Liquid crystal display (LCD)
DESCRIPTION OF SYMBOLS 19 ... Audio | voice decoding part 20 ... Digital / analog (DA) conversion circuit 21 ... Speaker 22 ... Thumbnail management circuit 23 ... Thumbnail list preparation 24 ... Playback interface 25 ... Playback control circuit

Claims (10)

情報を記録する記録手段と、
音声情報を入力する複数の音声入力手段と、
前記入力された音声情報を認識する音声認識手段と、
前記入力された音声情報がシーン区切りの指示を示すと前記音声認識手段により認識された場合に、前記シーン区切りの位置を示す情報を作成し、シーン区切りの指示を示す音声情報が入力された前後の所定期間に入力された音声情報である区切り音声情報を前記シーン区切りの位置に対応づけるよう制御する制御手段と、
を備え
前記音声認識手段は、前記複数の音声入力手段のうち、所定の音声入力手段から入力された音声情報の比重を高くして、または、当該所定の音声入力手段から入力された音声情報のみを用いて、認識することを特徴とする情報記録装置。
A recording means for recording information;
A plurality of voice input means for inputting voice information;
Voice recognition means for recognizing the input voice information;
When the input voice information indicates a scene break instruction, the voice recognition unit recognizes the position of the scene break before and after the voice information indicating the scene break instruction is input. Control means for controlling so as to associate the break audio information, which is audio information input during the predetermined period, with the position of the scene break;
Equipped with a,
The voice recognition means increases the specific gravity of the voice information input from the predetermined voice input means among the plurality of voice input means or uses only the voice information input from the predetermined voice input means. And an information recording apparatus characterized by recognizing .
請求項1に記載の情報記録装置は、
ユーザの操作により指定したシーン区切りの位置から、前記情報を再生する再生手段を備えることを特徴とする情報記録装置。
An information recording apparatus according to claim 1 is provided.
An information recording apparatus comprising: reproducing means for reproducing the information from a scene break position designated by a user operation.
請求項1に記載の情報記録装置であって、
前記記録手段が記録する情報は、映像情報であり、
前記シーン区切りの位置に対応するサムネールを作成する作成手段
を備えることを特徴とする情報記録装置。
The information recording apparatus according to claim 1,
The information recorded by the recording means is video information,
An information recording apparatus comprising: creating means for creating a thumbnail corresponding to the scene break position.
請求項3に記載の情報記録装置であって、
前記サムネールを表示する表示手段と、
ユーザの操作によって前記表示手段に表示されるサムネールから一つのサムネールを選択する操作手段と、
前記選択したサムネールに対応した位置から前記映像情報を再生する再生手段と、を備えることを特徴とする情報記録装置。
The information recording apparatus according to claim 3,
Display means for displaying the thumbnail;
Operation means for selecting one thumbnail from thumbnails displayed on the display means by a user operation;
An information recording apparatus comprising: reproducing means for reproducing the video information from a position corresponding to the selected thumbnail.
請求項4に記載の情報記録装置は、
音声情報を出力する音声出力手段を備え、
前記制御手段は、前記シーン区切りの位置に対応するサムネールと、該シーン区切りの位置に対応する区切り音声情報とを対応づけ、
前記音声出力手段は、前記サムネールが表示される場合に、前記サムネールに対応づけられた区切り音声情報を出力することを特徴とする情報記録装置。
The information recording apparatus according to claim 4 is:
Comprising voice output means for outputting voice information;
The control means associates a thumbnail corresponding to the scene break position with break audio information corresponding to the scene break position,
The information recording apparatus according to claim 1, wherein when the thumbnail is displayed, the audio output means outputs delimited audio information associated with the thumbnail.
請求項4に記載の情報記録装置であって、前記サムネール表示手段は、前記音声認識手段により区切られたシーン区切りに対応するサムネールを、記録開始時のシーン区切りと区別するための識別表示を表示することを特徴とする情報記録装置。   5. The information recording apparatus according to claim 4, wherein the thumbnail display means displays an identification display for distinguishing a thumbnail corresponding to a scene break divided by the voice recognition means from a scene break at the start of recording. An information recording apparatus. 請求項1に記載の情報記録装置は、
サンプル音の特徴量を記憶する記憶手段を備え、
前記音声認識手段は、前記入力された音声情報の特徴量と前記サンプル音の特徴量とを比較することにより、前記入力された音声情報がシーン区切りの指示を示すか否かを認識し、
前記記憶手段に記憶されるサンプル音は変更可能であることを特徴とする情報記録装置。
An information recording apparatus according to claim 1 is provided.
A storage means for storing the characteristic amount of the sample sound is provided,
The voice recognition means recognizes whether or not the input voice information indicates a scene break instruction by comparing the feature quantity of the input voice information with the feature quantity of the sample sound,
An information recording apparatus characterized in that the sample sound stored in the storage means can be changed.
請求項1に記載の情報記録装置は、
ユーザ毎の声の特徴量を記憶する記憶手段を備え、
前記制御手段は、前記入力された音声情報と前記記憶手段に特徴量が記憶されたユーザの音声であり、かつ、前記入力された音声情報がシーン区切りの指示を示すと認識された場合に、前記シーン区切り位置を示す情報を作成し、前記区切り音声情報を、前記シーン区切りの位置に対応づけるように制御することを特徴とする情報記録装置。
An information recording apparatus according to claim 1 is provided.
Comprising storage means for storing voice feature values for each user;
The control means is the user's voice whose feature value is stored in the input voice information and the storage means, and the input voice information is recognized as indicating a scene break instruction, An information recording apparatus characterized by creating information indicating the scene break position and controlling the break audio information to correspond to the scene break position.
映像情報を記録する記録手段と、
音声情報を入力する複数の音声入力手段と、
前記入力された音声情報を認識する音声認識手段と、
前記入力された音声情報が、シーン区切りの指示を示すと認識された場合に、前記シーン区切りの位置を作成するように制御する制御手段と、
前記シーンの区切りの位置に対応するサムネールを作成する作成手段と、
前記サムネールを表示する表示手段と、
ユーザの操作によって前記表示手段に表示されるサムネールから一つのサムネールを選択する操作手段と、を備え、
前記サムネール表示手段は、前記音声認識手段により区切られたシーン区切りに対応するサムネールを、記録開始時のシーン区切りと区別するための識別表示を表示し、
前記音声認識手段は、前記複数の音声入力手段のうち、所定の音声入力手段から入力された音声情報の比重を高くして、または、当該所定の音声入力手段から入力された音声情報のみを用いて、認識することを特徴とする情報記録装置。
Recording means for recording video information;
A plurality of voice input means for inputting voice information;
Voice recognition means for recognizing the input voice information;
Control means for controlling to create the position of the scene break when the input audio information is recognized as indicating a scene break instruction;
Creating means for creating a thumbnail corresponding to the scene break position;
Display means for displaying the thumbnail;
Operating means for selecting one thumbnail from thumbnails displayed on the display means by a user operation,
The thumbnail display means displays an identification display for distinguishing the thumbnail corresponding to the scene break divided by the voice recognition means from the scene break at the start of recording ,
The voice recognition means increases the specific gravity of the voice information input from the predetermined voice input means among the plurality of voice input means or uses only the voice information input from the predetermined voice input means. And an information recording apparatus characterized by recognizing .
請求項1に記載の情報記録装置は、An information recording apparatus according to claim 1 is provided.
レンズを通して被写体を撮像する撮像手段を備え、  Comprising an imaging means for imaging a subject through a lens;
前記所定の音声入力手段は、レンズと反対の面に設置されることを特徴とする情報記録装置。  The information recording apparatus according to claim 1, wherein the predetermined voice input means is installed on a surface opposite to the lens.
JP2011269557A 2011-12-09 2011-12-09 Information recording device Active JP5188619B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011269557A JP5188619B2 (en) 2011-12-09 2011-12-09 Information recording device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011269557A JP5188619B2 (en) 2011-12-09 2011-12-09 Information recording device

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2008062003A Division JP4919993B2 (en) 2008-03-12 2008-03-12 Information recording device

Publications (2)

Publication Number Publication Date
JP2012100291A JP2012100291A (en) 2012-05-24
JP5188619B2 true JP5188619B2 (en) 2013-04-24

Family

ID=46391632

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011269557A Active JP5188619B2 (en) 2011-12-09 2011-12-09 Information recording device

Country Status (1)

Country Link
JP (1) JP5188619B2 (en)

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3252282B2 (en) * 1998-12-17 2002-02-04 松下電器産業株式会社 Method and apparatus for searching scene
JP2001197426A (en) * 2000-01-12 2001-07-19 Sony Corp Image reproducing device
JP2001352507A (en) * 2000-03-31 2001-12-21 Fuji Photo Film Co Ltd Work data collection method
JP2002027396A (en) * 2000-07-10 2002-01-25 Matsushita Electric Ind Co Ltd Method for inputting extra information and method for editing video and apparatus and system using these methods
JP4499635B2 (en) * 2005-09-12 2010-07-07 ソニー株式会社 Recording device, transmission method, recording medium, computer program

Also Published As

Publication number Publication date
JP2012100291A (en) 2012-05-24

Similar Documents

Publication Publication Date Title
JP4919993B2 (en) Information recording device
JP4297010B2 (en) Information processing apparatus, information processing method, and program
JP3615195B2 (en) Content recording / playback apparatus and content editing method
KR101295430B1 (en) Image recording apparatus, image reproducing apparatus, image recording method, and image reproducing method
US20100080536A1 (en) Information recording/reproducing apparatus and video camera
WO2001016935A1 (en) Information retrieving/processing method, retrieving/processing device, storing method and storing device
JP2007288637A (en) Reproducing apparatus and method, as well as program
JP5188619B2 (en) Information recording device
JP2013131871A (en) Editing device, remote controller, television receiver, specific audio signal, editing system, editing method, program, and recording medium
US8913870B2 (en) Method of capturing moving picture and apparatus for reproducing moving picture
JP4599630B2 (en) Video data processing apparatus with audio, video data processing method with audio, and video data processing program with audio
JP2006101076A (en) Method and device for moving picture editing and program
JP2007097015A (en) Reproducing apparatus, recording and reproducing apparatus, data processing method, and program thereof
JP4254297B2 (en) Image processing apparatus and method, and image processing system and program using the same
JP2005033714A (en) Information signal reproducing apparatus, information signal reproducing method, information signal processing apparatus and information signal processing method
JP3688214B2 (en) Viewer video recording and playback device
JP2002084505A (en) Apparatus and method for shortening video reading time
JP3852383B2 (en) Video playback device
JP4703733B2 (en) Video / audio playback device
JPH08205044A (en) Information service controller and information service control method
JP2001346153A (en) Device and method for recording, and recording medium
JP4105975B2 (en) Video / audio playback device
WO2001037561A1 (en) Compression-editing method for video image and video image editing device using the compression-editing method, video image retaining/reproducing device
JP2008288925A (en) Video recording and playback apparatus and video recording and playback method
KR20090020180A (en) Mothod for setting highlight scene of moving picture and terminal using the same

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121225

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130122

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160201

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 5188619

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160201

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250