JP4850690B2 - Teleconferencing equipment - Google Patents
Teleconferencing equipment Download PDFInfo
- Publication number
- JP4850690B2 JP4850690B2 JP2006349444A JP2006349444A JP4850690B2 JP 4850690 B2 JP4850690 B2 JP 4850690B2 JP 2006349444 A JP2006349444 A JP 2006349444A JP 2006349444 A JP2006349444 A JP 2006349444A JP 4850690 B2 JP4850690 B2 JP 4850690B2
- Authority
- JP
- Japan
- Prior art keywords
- signal
- voice
- audio
- video
- character data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
本発明は、聞き手が、話者の発言内容をもれなく知ることができ、議事録を容易に作成できる通信会議装置、例えば、テレビ会議装置または音声会議装置に関する。 The present invention relates to a communication conference apparatus, for example, a video conference apparatus or an audio conference apparatus, which enables a listener to know all the contents of a speaker's utterance and to easily create minutes.
本発明は、地理的に離れた地点間でリアルタイムに会議を行うことができる通信会議システム(例えば、音声会議システムやテレビ会議システム)において、特に聞き手が容易に話者を区別することができ、発言内容を聞き逃すことがないように配慮した通信会議システム(テレビ会議装置、音声会議装置)に関する。 In the communication conference system (for example, an audio conference system or a video conference system) capable of performing a conference in real time between geographically distant points, the present invention can particularly easily distinguish speakers. The present invention relates to a communication conference system (a video conference device, an audio conference device) that is designed so as not to miss the content of a statement.
近年、通信会議システムの重要性が高まっている中で、テレビ会議システムの場合は、聞き手は通信相手の表情を見ながら会議できるので、話者を識別するのは容易である。しかし、多地点での会議の場合では、話者が複数となり、議論が白熱した際等に、参加者は、全ての話者の発言内容を聞きとれないままに会議が進行してしまうことがある。 In recent years, with the importance of communication conference systems increasing, in the case of a video conference system, the listener can easily perform a conference while looking at the facial expression of the communication partner, so it is easy to identify the speaker. However, in the case of a multi-point meeting, when there are multiple speakers and the discussion is heated up, participants may proceed without being able to hear the content of all the speakers. is there.
また、音声会議では、通信相手が見えず、聞き手は話者を識別するのが困難であり、参加者は、テレビ会議以上に、全ての話者の発言内容を聞きとれないままに会議が進行してしまうことがある。 Also, in audio conferences, the communication partner is not visible, and it is difficult for the listener to identify the speaker, and the conference progresses without the participants being able to hear the content of all speakers more than the video conference. May end up.
この問題を解決するための技術として、話者の識別が容易であり、また、音声信号を議事録として記録する音声会議システム(例えば、特許文献1参照)が提案されている。
従来の技術では、会議中に話者の発言内容を聞きとれなかった場合、同席者に発言内容を尋ねたり、会議後に議事録を見ることによってしか発言内容を理解することができなかった。また、数時間に及ぶ会議の議事録を作成する際、保存した議事録の音声データを文書に変換しても会議の要点が分かりにくく、そのままでは議事録として使用できず、全体的に見直す必要がある。 In the conventional technology, if the content of a speaker's speech cannot be heard during a conference, the content of the speech can only be understood by asking the attendant for the content of the speech or by looking at the minutes after the conference. Also, when creating minutes of a meeting that lasts several hours, it is difficult to understand the main points of the meeting even if the audio data of the saved meeting minutes is converted to a document, so it cannot be used as it is, and must be reviewed as a whole. There is.
本発明は、上記の事情に鑑みて、通信会議中に、聞き逃した発言内容を知ることができ、また、誰の発言であるかを知ることができ、かつ、議事録に残す発言を選択することによって、重要な内容のみを議事録データに残すことを容易とした通信会議システムを構成する通信会議装置(テレビ会議装置、音声会議装置)を提供することを課題とする。 In view of the above circumstances, the present invention allows the user to know the content of a missed message during a teleconference, to know who the message is, and to select a message to leave in the minutes. It is an object of the present invention to provide a communication conference device (video conference device, audio conference device) constituting a communication conference system that makes it easy to leave only important contents in the minutes data.
上記課題を解決するために、本発明は、通信会議システムにおいて、モニタ画面に発言者の発言内容を発言者識別情報および文字データとして表示画面上に所望の時間遅れて表示する追いかけ表示を行い、さらに、パソコン等の設定手段からの設定により、議事録に残すデータを選択することを特徴とする。 In order to solve the above problems, the present invention provides a chasing display that displays the content of a speaker on the monitor screen as a speaker identification information and character data with a desired time delay on the monitor screen in the communication conference system. Further, the data to be stored in the minutes is selected by setting from setting means such as a personal computer.
本発明は、モニタ画面に相手の映像を表示するとともに、発言内容の文字データをモニタ画面に追いかけて表示するので、話者の声が聞き取りにくい場合でも、会議の参加者が、話者の発言内容を常に把握できるという利点がある。 In the present invention, the other party's video is displayed on the monitor screen, and the character data of the content of the speech is displayed on the monitor screen, so that even if it is difficult to hear the voice of the speaker, the participant in the conference can There is an advantage that the contents can always be grasped.
さらに、本発明によれば、通信会議中、発言内容を文字データとしてモニタ画面の一部に追いかけ表示することにより、万が一聞き逃した発言内容を知ることができる。さらに、話者識別機能により、モニタ画面に表示した発言内容が誰の発言であるか表示することができ、通信会議装置に接続されたパソコンからの設定により、議事録に残す発言を選択することによって、重要な内容のみを議事録データに残すことが容易になる。 Furthermore, according to the present invention, during a communication conference, the content of a message can be tracked and displayed on a part of the monitor screen as character data, so that the content of the message that has been missed can be known. In addition, the speaker identification function allows you to display who is speaking on the monitor screen, and select what to leave in the minutes by setting from the PC connected to the teleconferencing device. This makes it easy to leave only important content in the minutes data.
本発明は、テレビ会議システムおよび音声会議システムなどの通信会議システムにおいて、音声の発言内容を文字データに変換する文字データ変換機能と、話者を識別する話者識別機能と、モニタ画面上に文字データを表示する機能と、文字データを所望の時間遅延させてモニタ画面に表示させる遅延表示機能とを備えることを特徴とする。さらに、本発明のテレビ会議装置は、一つのモニタ画面に、相手の画像と、話者識別情報および発言内容の文字データを追いかけて表示する構成とした。したがって、本発明は、従来のテレビ会議システムに文字データ変換機能と、文字データ表示機能と、遅延表示機能を付加することにより、実現することができる。 The present invention relates to a teleconference system such as a video conference system and an audio conference system, a character data conversion function for converting speech content into character data, a speaker identification function for identifying a speaker, and a character on a monitor screen. It is characterized by having a function of displaying data and a delay display function of displaying character data on a monitor screen with a desired time delay. Furthermore, the video conference apparatus of the present invention is configured to display the other party's image, the speaker identification information, and the text data of the contents of the message on one monitor screen. Therefore, the present invention can be realized by adding a character data conversion function, a character data display function, and a delay display function to a conventional video conference system.
すなわち、本発明は、話者の音声を集音したマイクロホンからのアナログ音声信号をディジタル音声信号に変換する音声A/D変換手段と、音声信号から話者を識別し特定する話者識別情報を取得する話者識別処理手段と、前記ディジタル音声信号に話者情報を付加して情報付加音声信号に変換する話者識別情報付加手段と、当該話者識別情報付加手段が出力する前記情報付加音声信号を記録する音声記録メモリと、当該情報付加音声信号を圧縮して通信網へ圧縮音声情報を送信する送信手段と、当該通信網から前記圧縮音声情報を受信する受信手段と、受信した前記圧縮音声信号を伸張して再度情報付加音声信号とし、前記付加されていた前記話者識別情報を抽出した後、再度ディジタル音声信号とする音声データ処理手段と、当該ディジタル音声信号を再度アナログ音声信号に変換してスピーカから出力する音声D/A変換手段と、を有する通信会議装置であって、文字データを表示させる画面と、前記ディジタル音声信号を文字データに変換する音声―文字データ変換手段と、当該変換された文字データを記憶する文字データメモリと、該変換された文字データを前記画面に表示させる映像に変換する映像D/A変換手段と、該変換された文字データを該当する話者の発言より遅れて追っかけて前記画面上に表示する文字データ表示手段と、前記音声記録メモリに記録された前記情報付加音声信号に含まれる音声データを再生しているときに、または、前記文字データメモリの文字データを前記画面に表示しているときに、当該再生している音声データ、または、当該表示している文字データに対してマーキング信号を入力するマーキング信号入力手段と、当該マーキング信号入力手段からの入力に応じて、前記音声記録メモリに記録された前記情報付加音声信号に含まれる音声データ、または、前記文字データメモリに記録された文字データ、の先頭にフラグを付与するフラグ付与手段と、該フラグ付与手段により前記フラグを付与された音声データまたは文字データを用いて議事録データを作成する第1の議事録データ作成手段と、を有する。 That is, the present invention provides voice A / D conversion means for converting an analog voice signal from a microphone that collects a voice of a speaker into a digital voice signal, and speaker identification information for identifying and specifying the speaker from the voice signal. Speaker identification processing means to be acquired, speaker identification information adding means for adding speaker information to the digital voice signal and converting it into an information added voice signal, and the information added voice output by the speaker identification information adding means An audio recording memory for recording a signal; a transmitting unit for compressing the information-added audio signal and transmitting the compressed audio information to a communication network; a receiving unit for receiving the compressed audio information from the communication network; and the received compression An audio data processing means that expands the audio signal to make it an information-added audio signal again, extracts the added speaker identification information, and then makes it a digital audio signal again; And a voice D / A conversion means for converting the voice signal again into an analog voice signal and outputting from the speaker, a screen for displaying character data, and converting the digital voice signal into character data Voice-character data conversion means, a character data memory for storing the converted character data, a video D / A conversion means for converting the converted character data into a video to be displayed on the screen, and the converted data The character data display means for displaying the character data on the screen after being delayed from the speech of the corresponding speaker, and the sound data included in the information-added sound signal recorded in the sound recording memory are reproduced. Or when the character data of the character data memory is displayed on the screen, the audio data being reproduced or the display A marking signal input means for inputting a marking signal to the character data, and voice data included in the information-added voice signal recorded in the voice recording memory in response to an input from the marking signal input means, or Flag adding means for adding a flag to the head of the character data recorded in the character data memory, and firstly creating the minutes data using the voice data or character data to which the flag is added by the flag adding means The minutes data creation means .
さらに本発明は、上記通信会議装置において、話者を撮影するカメラと、当該カメラで撮影した話者のアナログ映像信号をディジタル映像信号に変換する映像A/D変換手段と、前記ディジタル映像信号を圧縮して圧縮映像信号としこの圧縮映像信号を通信網へ送信する映像信号送信手段と、前記通信網から受信した圧縮映像信号を伸張してディジタル映像信号に変換する映像信号伸張手段と、映像を表示するモニタと、前記ディジタル映像信号に前記話者識別情報と発言内容の文字データを重畳させて前記モニタに表示させるOSD機能部とを有する。 Furthermore, the present invention provides a camera for photographing a speaker, a video A / D conversion means for converting an analog video signal of the speaker photographed by the camera into a digital video signal, and the digital video signal. A video signal transmitting means for transmitting the compressed video signal to a communication network by compressing the compressed video signal; a video signal expanding means for expanding the compressed video signal received from the communication network into a digital video signal; having a monitor for displaying, the OSD function unit to be displayed on the monitor the speaker identification information is superimposed character data of the speech content in the digital video signal.
本発明は、上記通信会議装置において、前記第1の議事録データ作成手段に換えて、
前記話者識別情報を指定することで前記識別情報付加音声信号を用いて議事録データを作成する第2の議事録データ作成手段を有する。また、本発明は、上記通信会議装置が、テレビ会議装置または音声会議装置であることを特徴とする。
The present invention provides the communication conference apparatus, wherein instead of the first minutes data creating means,
There is provided second minutes data creating means for creating minutes data using the identification information added voice signal by designating the speaker identification information . Further, the present invention is characterized in that the communication conference device is a video conference device or an audio conference device.
図1を用いて、通信会議システムのひとつである本発明にかかるテレビ会議システムを構成するテレビ会議装置1のハードウエア構成を、図2を用いてテレビ会議装置1の機能構成を説明する。図1は本発明にかかるテレビ会議システムのハードウエアの構成を説明する図である。図2は図1に示したテレビ会議システムの機能構成を説明する図である。図3は図1に示したテレビ会議装置の複数台を互いに通信網に接続してテレビ会議システムを構成した例を示す図である。
The hardware configuration of the
テレビ会議装置1は、音声処理部11と、映像処理部13と、記憶部14と、通信網インタフェース15と、CPU16と、バス17とを備えて構成される。さらに、テレビ会議装置1には、通信網(インターネット、構内LANなど)3と、パソコン18と、複数のマイクロホン191と、スピーカ192と、カメラ194と、モニタ193が接続される。
The
音声処理部11は、複数の音声A/D変換回路111と、音声D/A変換回路112と、音声CODEC115とを有している。
The
映像処理部13は、映像D/A変換回路131と、映像A/D変換回路132と、OSD機能回路133と、映像CODEC134とを有している。
The
記憶部14は、主メモリ141と、音声一時記録メモリ142と、音声記録メモリ143と、文字データメモリ144を有している。
The
音声CODEC115と、映像CODEC134と、OSD機能部133と、CPU16と、主メモリ141と、音声一時記録メモリ142と、音声記録メモリ143と、文字データメモリ144は、それぞれバス17によって接続され、バス17を介して相互にデータや信号を交換する。
The
音声A/D変換回路111は、複数のマイクロホン191からのアナログ音声信号をそれぞれA/D変換してディジタル音声信号を得る手段である。このディジタル音声信号は、音声CODEC115に出力される。
The audio A / D conversion circuit 111 is a means for A / D converting analog audio signals from a plurality of
音声D/A変換回路112は、音声CODEC115からのディジタル音声信号をD/A変換してアナログ音声信号を得て、スピーカ192へ出力する。
The audio D / A conversion circuit 112 D / A converts the digital audio signal from the
音声CODEC115は、複数のアナログ音声信号のうちもっとも大きな出力の音声信号を主マイクロホンの位置と認識し、このマイクロホンに対応した話者に関する情報を話者識別情報とするとともに、この話者識別情報と現在時刻を音声A/D変換回路111からのディジタル音声信号に付加して情報付加音声信号に変換し、この情報付加映像信号を圧縮して圧縮音声信号としてバス17に出力する。さらに、音声CODEC115は、通信網3から通信インタフェース15を介して受信した圧縮音声信号を伸張して情報付加音声信号を得、この情報付加音声信号から話者識別情報と現在時刻を抜き取った後のディジタル音声信号を音声D/A変換回路112に出力する。音声D/A変換回路112では、ディジタル音声信号にD/A変換処理を行ない、アナログ音声信号としてスピーカ192へ出力する。音声CODEC115は、同時にCPU16からの情報付加音声信号を記憶部14の音声一時記録メモリ142に記録する。
The voice CODEC 115 recognizes the voice signal having the largest output among the plurality of analog voice signals as the position of the main microphone, and sets information regarding the speaker corresponding to the microphone as speaker identification information. The current time is added to the digital audio signal from the audio A / D conversion circuit 111 to convert it into an information added audio signal, and this information added video signal is compressed and output to the
映像D/A変換回路131は、ディジタル映像信号にD/A変換処理を行なってモニタ出力用のアナログ映像信号に変換し、アナログ映像信号をモニタ193へ出力する。
The video D / A conversion circuit 131 performs D / A conversion processing on the digital video signal to convert it to an analog video signal for monitor output, and outputs the analog video signal to the
映像A/D変換回路132は、カメラ194からのアナログ映像信号をディジタル映像信号にA/D変換する。
The video A / D conversion circuit 132 A / D converts the analog video signal from the
OSD機能部133は、音声信号の内容を認識して文字データに変換する音声−文字データ変換機能を有しており、CPU16からのオーダにより、音声一時記録メモリ142から音声信号と話者識別情報を読み出し、音声信号をモニタ表示用の文字データに変換して、話者識別情報とともに、映像CODEC134に出力する。また、OSD機能部133は、変換した文字データおよび識別情報を文字データメモリ144に出力する。
The
映像CODEC134は、映像A/D変換回路132からのディジタル映像信号を圧縮して圧縮映像信号としてバス17に出力する。また、映像CODEC134は、バス17から受信した圧縮映像信号を伸長してディジタル映像信号に変換する。さらに、映像CODEC134は、伸長変換したディジタル映像信号に、OSD機能部133からのモニタ表示用の文字データおよび話者識別情報を重畳させて情報付加ディジタル映像信号とし、映像D/A変換回路131においてD/A変換を行なって、文字データおよび話者識別情報が付加されたアナログ映像信号に変換して、モニタ193の画面に表示させる。このようにしてモニタ193の画面に表示したカメラ映像の一部に、話者識別情報と発言内容を順次表示させる。
The
主メモリ141は、本装置の主メモリであり、CPU16を動作させるためのプログラムの格納や、動作中の一時的な保持メモリとして動作する部分である。
The
音声一時記録メモリ142は、話者識別情報と現在時刻を付加した情報付加音声信号を一時記録する手段である。音声一時記録メモリ142に記録された情報付加音声信号は、パソコン18からの指定により、通信網インタフェース15→CPU16→音声一時記録メモリ142とアクセスされ、指定された音声データのみが音声一時記録メモリ142から音声記録メモリ143に、議事録データとして順次格納されていく。
The temporary
音声記録メモリ143は、音声一時記録メモリ142からの音声データのうち、パソコン18から指定された音声データを話者識別情報とともに議事録データとして順次格納する。
The
文字データメモリ144は、OSD機能部133において音声−文字データ変換処理した文字データおよび話者識別情報を格納する。
The
通信網インタフェース15は、通信網3との間で送受信する圧縮映像信号または圧縮音声信号の電気インタフェースを変換して、通信網3に送出し、通信網3から受信した圧縮映像信号または圧縮音声信号の電気インタフェースを変換して装置内に取り込む手段である。すなわち、通信網インタフェース15は、通信網3のインタフェースに合わせたデータフォーマットに変換された圧縮映像信号または圧縮音声信号の電気インタフェースを変換して、通信網3にデータを送信し、通信網3から圧縮映像信号または圧縮音声信号を受信して、装置内でのデータフォーマットに電気インタフェースを変換する。
The
CPU16は、情報付加音声信号を通信網3のインタフェースに合わせたデータフォーマットの圧縮音声信号に変換するよう音声CODEC115に指示する。さらに、CPU16は、受信した圧縮音声信号を通信網3のデータフォーマットから装置内の情報付加音声信号に変換するよう音声CODEC115に指示する。また、CPU16は、圧縮映像信号を通信網3のインタフェースに合わせたデータフォーマットに変換するよう映像CODEC134に指示する。また、CPU16は、受信した通信網3の電気インタフェースを変換した圧縮映像信号のデータフォーマットを装置内のディジタル映像信号に変換する。
The
音声記録メモリ143に記録されたデータの中から必要な情報を読み出す場合は、パソコン18から識別信号、記録時間、発言内容の一部等のキーワードを指定し、音声記録メモリ143を検索することにより必要な情報を読み出すことができる。検索した結果は、モニタ193に表示する。結果が複数の場合、記録時間の早いものから順に話者の識別情報と発言内容を表示する。
When necessary information is read from the data recorded in the
会議終了後、保存された議事録音声データを、パソコン18からの操作により、通信網インタフェース15→CPU16→音声記録メモリ143とアクセスし、パソコン18へ読み出すことができる。読み出した議事録データをパソコンの文字変換ソフト等により文書化し、議事録を作成する。
After the conference is completed, the saved minutes audio data can be accessed from the
上述のような議事録音声データを読み出す手法に代えて、パソコン18からの操作により、通信網インタフェース15→CPU16→文字データメモリ144とアクセスし、パソコン18へ議事録文字データを読み出し、この議事録文字データを用いて議事録を作成することができる。
Instead of the method of reading the minutes audio data as described above, the
図2を用いて、本発明にかかるテレビ会議システムを構成するテレビ会議装置の機能構成の1実施例を説明する。 An embodiment of the functional configuration of the video conference apparatus constituting the video conference system according to the present invention will be described with reference to FIG.
まず、図2を用いてテレビ会議装置の機能構成の概要を説明する。テレビ会議装置1は、音声処理部11と、議事録作成処理部12と、映像処理部13と、記憶部14と、通信処理部15とを有している。さらに、テレビ会議装置1は、複数のマイクロホン191と、スピーカ192と、モニタ193と、カメラ194と、パソコン18が接続される。テレビ会議装置1は、通信網3を介して他のテレビ会議装置と接続される。
First, an outline of a functional configuration of the video conference apparatus will be described with reference to FIG. The
音声処理部11は、マイクロホン191から入力されたアナログ音声信号をディジタル音声信号に変換する音声A/D変換処理機能111Mと、ディジタル音声信号をアナログ音声信号に変換してスピーカ192に出力する音声D/A変換処理機能112Mと、音声信号が入力されたマイクロホン191の位置から話者を識別する話者識別機能113Mと、ディジタル音声信号に話者識別情報および現在時刻を付加する話者識別・現在時刻付加処理機能114Mと、ディジタル音声信号を通信網3に送り出すのに適した音声データ形式に変換するとともに通信網3から受信した音声信号を内部処理に適した音声データ形式に変換する音声データ送受信処理機能115Mとを有している。
The
音声処理部11は、マイクロホン191から入力されたアナログ音声信号をディジタル音声信号に変換した後、話者識別処理機能113Mで取得した話者識別情報および現在時刻情報をディジタル音声信号に付加して情報付加音声信号とし、さらにこの情報付加音声信号を通信網(インターネット、構内LANなど)3へ送り出すに適した音声データ形式にした圧縮音声信号に変換して通信処理部15へ送り出す働きを有している。また、音声処理部11は、通信網3から通信処理部15を介して受信した圧縮音声信号を伸張して情報付加音声信号とした後、話者識別情報および現在時刻情報を取り除いてディジタル音声信号とし、音声D/A変換処理機能112Mでアナログ音声信号に変換してスピーカ192から出力する働きを有している。
The
議事録作成処理部12は、マーキング遡り処理機能121Mを有しており、パソコン18からの指示によって、音声記録メモリ143に格納された音声データもしくは文字データメモリ144に格納された文字データに、議事録として採用することを示すマーキングをデータを遡ってマーキングする働きを有している。
The minutes creation processing unit 12 has a retroactive
映像処理部13は、通信網3から受信した圧縮映像信号から変換されたディジタル映像信号に話者識別情報および文字データを付加した情報付加映像信号を、モニタ193に表示するアナログ信号に変換処理する映像D/A変換処理機能131Mと、表示画面内に文字データを表示させる処理を行うOSD(On Screen Display)処理機能133Mと、映像A/D変換処理機能132Mからのディジタル映像信号を通信網3に送り出すのに適した画像データ形式とした圧縮映像信号に変換するとともに、通信網3から受信した圧縮映像信号を内部処理に適した映像データ形式に変換する映像データ送受信処理機能134Mとを有している。
The
映像A/D変換処理機能132Mと、OSD処理機能133Mと、映像データ送受信処理機能134Mは、映像CODEC部134がCPU16と共同して実現される機能である。OSD処理機能133Mは、OSD処理機能331Mと、音声−文字データ変換処理機能332Mとから成る。音声―文字データ変換処理機能332Mは、音声一時記憶メモリ142に記憶された音声データを読出し、その内容を認識して文字データに変換する機能を有している。この音声−文字データ変換処理は相当の処理時間を必要とするので、OSD機能によってモニタの画面に表示するときは、話者の発言から少し遅れて表示されるが、聞き逃しなどを確認するには具合のよい表示タイミングになる。音声−文字データ変換処理に要する時間が短い場合には、文字データのOSD表示に遅延を入れて表示タイミングを望みの時間遅らせて表示する。OSD処理機能331Mは、音声−文字データ変換処理機能332Mが変換した文字データを話者識別情報とともにディジタル映像信号に重畳し、情報付加映像信号とする機能である。
The video A / D conversion processing function 132M, the
OSD処理機能133Mの情報付加映像信号力は、映像D/A変換処理機能131Mに出力される。
The information-added video signal power of the
記憶部14は、主メモリ141と、音声一時記録メモリ142と、音声記録メモリ143と、文字データメモリ144を有している。各メモリの働きは、図1の説明と同じであるので説明を省略する。
The
このようなテレビ会議装置1において、議事録作成者がテレビ会議における発言内容を聞き取りながらまたは文字化された発言内容を読み取りながら議事録として採用すべきと判断したときに、例えばパソコン18から議事録として採用することを示すマーキング信号を入力することによって、音声記録メモリ143に格納された音声データ(発言内容)または文字データメモリ144に格納された文字化された発言内容の先頭に遡って音声議事録に採用のフラグを立てる。このフラグは、記憶部14の音声メモリ142または文字データメモリ144に記録されたデータの先頭に付与される。
In such a
議事録作成時には、音声記録メモリ143および/または文字データメモリ144にパソコン18からアクセスし、その内容を確認しながら議事録を作成することができる。
At the time of creating the minutes, the minutes can be created while accessing the
通信処理部(通信網インタフェース)15は、自己のテレビ会議装置1に通信網3を介して対向して設けられた少なくとも一つのテレビ会議装置との間で音声データおよび画像データならびに文字データをそれぞれ異なる帯域を用いて送受信するための処理を行う。さらに、通信処理部15は、一部に設けたパソコン18との間の通信のための処理を実行する。
The communication processing unit (communication network interface) 15 transmits audio data, image data, and character data to and from at least one video conference device provided opposite to the
以下、テレビ会議装置1の動作について説明する。まず、音声信号の処理について述べる。複数のマイクロホン191からのアナログ音声信号を音声A/D変換機能111MでA/D変換してディジタル音声信号とし、話者識別処理機能113Mによりアナログ音声信号の主マイクロホン191の位置から話者を識別して話者識別情報を取得し、話者識別・現在時刻付加処理機能114Mにより、話者識別情報と現在時刻をディジタル音声信号に付加して情報付加音声信号とし、この情報付加音声信号を音声データ送受信処理機能115Mと音声一時記録メモリ142へ送出する。
Hereinafter, the operation of the
情報付加音声信号を受信した音声データ送受信処理機能115Mは、情報付加音声信号を通信網3のインタフェースに合わせたデータフォーマットに圧縮変換処理して圧縮音声信号として通信処理部15へ送り出す。通信処理部15は、通信網3に合わせて電気インタフェースを変換して、通信網3にデータを送信する。同時に音声データ送受信処理機能115Mにより話者識別情報と現在時刻を付加したディジタル音声信号を記憶部14に設けた音声一時記録メモリ142に記録する。
The voice data transmission /
また、通信網3からのディジタル音声信号を通信処理部15で受信し、電気インタフェースを変換して圧縮音声信号とした後、音声データ送受信処理機能115Mに出力する。
In addition, the
音声データ送受信処理機能115Mは、通信網のデータフォーマットから装置内のデータフォーマットに変換して話者識別情報と現在時刻を付加した情報付加音声信号に変換し、話者識別情報と現在時刻を抜き取ったディジタル音声信号を音声D/A変換処理機能112Mに送出する。同時に、音声データ送受信処理機能115Mは、話者識別情報と現在時刻を付加したディジタル音声信号を記憶部14の音声一時記録メモリ142に記録する。
The voice data transmission /
音声D/A変換処理機能112Mは、ディジタル音声信号をD/A変換してアナログ音声信号とし、スピーカ192へ出力する。
The voice D / A
次に、映像信号の処理について述べる。映像A/D変換処理機能132Mは、カメラ194からのアナログ映像信号をA/D変換してディジタル映像信号を得て映像データ送受信処理機能134Mへ送出する。映像データ送受信処理機能134Mは、このディジタル映像信号を、通信網3のインタフェースに合わせたデータフォーマットの圧縮映像信号に圧縮変換した後、通信処理部15に送信する。通信処理部15は、圧縮映像信号の電気インタフェースを変換して通信網内圧縮映像信号を得て、通信網3に送信する。
Next, video signal processing will be described. The video A / D conversion processing function 132M A / D converts the analog video signal from the
一方、通信網3からの通信網内圧縮映像信号を受信した通信処理部15は、電気インタフェースを変換した後、通信網3のデータフォーマットを装置内のデータフォーマットに変換して圧縮映像信号とした後、映像データ送受信処理機能134Mに送信する。映像データ送受信処理機能134Mは、圧縮映像信号を伸長変換してディジタル映像信号を得て、OSD処理機能133Mへ送出する。OSD処理機能133Mは、文字データおよび話者識別情報を付加して情報付加映像信号として映像D/A変換処理機能131Mへ出力する。映像D/A変換処理機能131Mは、情報付加映像信号をアナログ映像信号に変換してモニタ193へ出力する。
On the other hand, the
OSD処理機能133Mは、CPU16からのオーダにより、記憶部14の音声一時記録メモリ142から音声信号と話者識別情報を読み出し、モニタ表示用の文字データに変換する。OSD処理機能133Mは、ディジタル映像信号に、OSD処理機能133Mからのモニタ表示用の文字データと話者識別情報を重畳させて、モニタ画面に表示するカメラ映像の一部に、話者識別情報と発言内容の文字データを順次表示させる。
The
モニタ193に表示させる映像は、自己のテレビ会議装置のカメラで撮影した映像と文字データなどを表示するほかに、通信網3を介して取得した他のテレビ会議装置からの映像と文字データなどを表示させることができる。また、自己テレビ会議装置の映像と他テレビ会議装置の映像を、後述する分割表示方式で同一画面上に分割表示させ、さらに、話者の文字データを画面上に文字データとして表示することができる。
The video to be displayed on the
記憶部14の音声一時記録メモリ142は、音声データを一時記録し、パソコン18からの指定により、通信処理部15→CPU16→記憶部14の音声一時記録メモリ142とアクセスし、指定された音声データのみを音声一時記録メモリ142から音声記録メモリ143に、議事録データとして格納していく。
The voice
また、音声記録メモリ143に記録されたデータの中から、必要な情報を読み出すときには、パソコン18から識別信号、記録時間、発言内容の一部等のキーワードを指定し、検索することができる。検索した結果は、パソコン18のモニタに表示する。結果が複数の場合、記録時間の早いものから順に話者の識別情報と発言内容を表示する。
Further, when necessary information is read out from the data recorded in the
会議終了後、保存された議事録データを、パソコン18からの操作により、通信処理部15→CPU16→音声記録メモリ142とアクセスし、パソコン18へ読み出すことができる。読み出した議事録データをパソコン18の文字変換ソフト等により文書化し、議事録を作成する。
After the meeting, the stored minutes data can be accessed from the
次に、図3を用いて、上記テレビ会議装置1を用いて、A地点およびB地点ならびにC地点の3地点間でテレビ会議を行う場合のテレビ会議システムの構成を説明する。図3は、テレビ会議システムの一例を示し、本発明のテレビ会議装置1を用いたテレビ会議システムは、3地点間のみでなく、2地点間や4、5地点間での接続も可能である。また、2地点間の場合、通信網3におけるMCU(多地点接続装置)31は不要である。
Next, the configuration of the video conference system in the case where a video conference is performed between the A point, the B point, and the C point using the
まず、3地点のテレビ会議装置1A〜1C間を、通信網3を介して互いに接続する。各テレビ会議装置1A〜1Cを通信網3に接続した後、A地点のマイクロホン191Aから発言した内容は、B地点およびC地点のそれぞれのスピーカ192B、192Cで再生される。また、A地点のカメラ194Aで撮影した映像は、それぞれB地点およびC地点のモニタ193B,193Cに表示される。確認のために、A地点の映像をモニタ193Aに表示することができる。
First, the three
B地点およびC地点の発言内容および画像についても、それぞれ同じようにマイクロホン191B、191Cから発言し、他地点の音声をスピーカ192A〜192Cで再生し、カメラ194B,194Cの映像をモニタ193A〜193Cに表示する。
Similarly, the contents and images of the points B and C are also spoken from the
このようにして、A、B、Cの3地点間で互いに相手の映像を見ながら発言内容を聴取してテレビ会議を進めることができる。 In this way, it is possible to proceed with the video conference by listening to the content of the remarks while watching the video of the other party between the three points A, B, and C.
本発明においては、A地点の複数のマイクロホン191Aのうち、ある一つのマイクロホン191Aから発言した内容は、文字データに変換され話者識別情報と共に、A、B、C地点の各々のモニタ193A〜193Cの映像表示中の一部に、追いかけて文字表示される。同様に、B、C地点の複数のマイクロホン192B、192Cから発言した内容を、文字データに変換し話者識別情報と共に、A、B、C地点の各々のモニタ193A〜193Cの映像表示中の一部に、追いかけて文字表示する。
In the present invention, among the plurality of
会議の参加者は、発言内容を万が一聞き逃した場合にも、後からモニタ193A〜193Cに発言者と発言内容が文字で表示されるので、その発言内容を知ることができる。 Even if the participant of the conference misses the content of the speech, the speaker and the content of the speech are later displayed in text on the monitors 193A to 193C, so that the content of the speech can be known.
また、会議の参加者のうち、議事録作成の担当者は、発言内容をスピーカ192で聞いた後、このモニタ193に表示された文字による発言内容を見て、議事録に残したい内容をパソコン18にて選択し、テレビ会議装置1の記憶部142にマーキングしてその他の音声データまたは文字データとともに保存する。パソコン18での議事録作成用の選択動作は、このように会議中にも行なうことができるが、会議終了後に会議の内容を再生して選択して議事録を作成することができる。また、このような議事録作成者の選択によらずに、議事録の選択内容を、予め議事録に残す発言者をマイクロホンの位置(音声の識別信号)で設定したり、声(ボリューム)の大きさで設定したりする等により、設定することができる。
In addition, among the participants of the conference, the person in charge of making the minutes listens to the contents of the remarks on the
図4および図5を用いて本発明にかかる音声会議システムの構成を説明する。図4は音声会議装置のハードウエア構成の例であり、図5は音声会議装置を互いに通信網に接続して構成した音声会議システムの例示す図である。図4に示す音声会議装置1´は、図1に示したテレビ会議装置の構成から、映像処理部13の映像A/D変換処理回路132およびカメラ194の機能を省いた構成となっており、映像信号を通信網3へ送受信する機能を持っていないのを除いて、テレビ会議装置1と同様の機能動作を実行できる。図5に示す音声会議システムでは、OSD機能部133は、マイクロホンからの音声信号に基づいて発言内容を文字データ化し、これをモニタ193に表示させる。各地点のモニタ193には、話者識別情報と同時に、発言内容が文字表示されるのみである。
The configuration of the audio conference system according to the present invention will be described with reference to FIGS. 4 and 5. FIG. 4 shows an example of the hardware configuration of the audio conference apparatus, and FIG. 5 shows an example of the audio conference system configured by connecting the audio conference apparatuses to a communication network. The
この実施例にかかる音声会議装置1´の機能構成は、図2に示したテレビ会議装置1の機能構成からカメラからの映像をA/D変換する映像A/D変換処理機能132Mを除いた構成となる。議事録の作成は、テレビ会議装置における処理と同じ処理を行うことができる。
The functional configuration of the audio conference apparatus 1 'according to this embodiment is a configuration in which the video A / D conversion processing function 132M for A / D converting video from the camera is removed from the functional configuration of the
図6は、図5に示した音声会議装置1´の3地点間を接蔵した音声会議システムの接続構成において、外部にモニタ18を接続しない場合の構成例を示す。この構成の場合、外部モニタ194の代用として、パソコン18のモニタを使用する。その際の表示動作は、図4において、OSD機能部13が、CPU16からのオーダにより、音声一時記録メモリ142から音声信号を読み出し、モニタ表示用の文字データに変換して、映像CODEC134に出力し、モニタ表示用の文字データのみCPU16でパソコン18のモニタ表示のインタフェースに合わせたデータフォーマットに変換し、通信網インタフェース15で電気インタフェースを変換して、パソコン18に送信することによって、話者識別情報と発言内容を、順次、パソコン18のモニタに表示させる。
FIG. 6 shows a configuration example when the
図7を用いて、3地点間のテレビ会議におけるA地点でのモニタに映像を分割表示する表示例を説明する。モニタ194の表示部194Dには、例えば、A地点の映像194Aと、B地点の映像194Bと、C地点の映像194Cが分割表示され、画面下部に話者識別情報から作成した話者名と音声−文字データ変換処理機能132Mで作成した文字データが表示される。文字データは、画面に表示された映像よりも遅延した後追いで表示される。
A display example in which video is divided and displayed on a monitor at a point A in a video conference between three points will be described with reference to FIG. On the display unit 194D of the
このように、本発明にかかる通信会議システムは、発言内容を後追いで画面上で確認することができ、従来のテレビ会議システムや音声会議システムと同等の接続および同等の使用方法で操作することが可能となり、システムの導入が容易である。 As described above, the communication conference system according to the present invention can confirm the content of the message on the screen later, and can be operated with the same connection and the same usage as the conventional video conference system and the audio conference system. It becomes possible and the introduction of the system is easy.
1:テレビ会議装置、1´:音声会議装置、11:音声処理部、111:音声A/D変換回路、111M:音声A/D変換処理機能、112:音声D/A変換回路、112M:音声D/A変換処理機能、113M話者識別処理機能、114M:話者識別・現在時刻付加処理機能、115:音声CODEC部、115M:音声データ送受信処理機能、12:議事録作成処理部、121M:マーキング遡り処理機能、13:映像処理部、131:映像D/A変換回路、131M:映像D/A変換処理機能、132:映像A/D変換回路、132M:映像A/D変換処理機能、133:OSD機能部、134:映像CODEC部、134M:映像データ送受信処理機能、14:記憶部、141:主メモリ、142:音声一時記録メモリ、143:音声記録用メモリ、144:文字データメモリ、15:通信網インタフェース(通信処理部)、16:中央処理装置(CPU)、17:バス、18:パソコン、191:マイクロホン、192:スピーカ、194:カメラ、193:モニタ、3:通信網、31:多地点接続装置(MCU)、331M:OSD処理機能、332M:音声―文字データ変換処理機能。 1: Video conference device, 1 ′: Audio conference device, 11: Audio processing unit, 111: Audio A / D conversion circuit, 111M: Audio A / D conversion processing function, 112: Audio D / A conversion circuit, 112M: Audio D / A conversion processing function, 113M speaker identification processing function, 114M: speaker identification / current time addition processing function, 115: voice CODEC unit, 115M: voice data transmission / reception processing function, 12: minutes creation processing unit, 121M: Marking retroactive processing function, 13: video processing unit, 131: video D / A conversion circuit, 131M: video D / A conversion processing function, 132: video A / D conversion circuit, 132M: video A / D conversion processing function, 133 : OSD function unit, 134: Video codec unit, 134M: Video data transmission / reception processing function, 14: Storage unit, 141: Main memory, 142: Audio temporary recording memory, 143: Sound Memory for recording, 144: Character data memory, 15: Communication network interface (communication processing unit), 16: Central processing unit (CPU), 17: Bus, 18: Personal computer, 191: Microphone, 192: Speaker, 194: Camera, 193: Monitor, 3: Communication network, 31: Multipoint connection unit (MCU), 331M: OSD processing function, 332M: Voice-character data conversion processing function.
Claims (4)
音声信号から話者を識別し特定する話者識別情報を取得する話者識別処理手段と、
前記ディジタル音声信号に前記話者識別情報を付加して情報付加音声信号に変換する話者識別情報付加手段と、
当該話者識別情報付加手段が出力する前記情報付加音声信号を記録する音声記録メモリと、
当該情報付加音声信号を圧縮して通信網へ圧縮音声情報を送信する送信手段と、
当該通信網から前記圧縮音声情報を受信する受信手段と、
受信した前記圧縮音声信号を伸張して再度情報付加音声信号とし、前記付加されていた前記話者識別情報を抽出した後、再度ディジタル音声信号とする音声データ処理手段と、
当該ディジタル音声信号を再度アナログ音声信号に変換してスピーカから出力する音声D/A変換手段と、
を有する通信会議装置であって、
文字データを表示させる画面と、
前記ディジタル音声信号を文字データに変換する音声―文字データ変換手段と、
当該変換された文字データを記憶する文字データメモリと、
該変換された文字データを前記画面に表示させる映像に変換する映像D/A変換手段と、該変換された文字データを該当する話者の発言より遅れて追っかけて前記画面上に表示する文字データ表示手段と、
前記音声記録メモリに記録された前記情報付加音声信号に含まれる音声データを再生しているときに、または、前記文字データメモリの文字データを前記画面に表示しているときに、当該再生している音声データ、または、当該表示している文字データに対してマーキング信号を入力するマーキング信号入力手段と、
当該マーキング信号入力手段からの入力に応じて、前記音声記録メモリに記録された前記情報付加音声信号に含まれる音声データ、または、前記文字データメモリに記録された文字データ、の先頭にフラグを付与するフラグ付与手段と、
該フラグ付与手段により前記フラグを付与された音声データまたは文字データを用いて議事録データを作成する第1の議事録データ作成手段と、
を有することを特徴とする通信会議装置。 Voice A / D conversion means for converting an analog voice signal from a microphone that collects the voice of a speaker into a digital voice signal;
Speaker identification processing means for acquiring speaker identification information for identifying and identifying a speaker from an audio signal;
And speaker identification information adding means for converting the information adding audio signals by adding the speaker identification information to the digital audio signal,
A voice recording memory for recording the information-added voice signal output by the speaker identification information adding means;
Transmitting means for compressing the information-added audio signal and transmitting the compressed audio information to the communication network;
Receiving means for receiving the compressed audio information from the communication network;
An audio data processing means that decompresses the received compressed audio signal to obtain an information-added audio signal again, extracts the speaker identification information that has been added, and then converts it to a digital audio signal again;
Audio D / A conversion means for converting the digital audio signal into an analog audio signal and outputting it from a speaker;
A teleconferencing device comprising:
A screen to display character data;
Voice-character data conversion means for converting the digital voice signal into character data;
A character data memory for storing the converted character data;
Video D / A conversion means for converting the converted character data into video to be displayed on the screen, and character data to be displayed on the screen after the converted character data is delayed from the speech of the corresponding speaker. Display means;
When the audio data included in the information-added audio signal recorded in the audio recording memory is being reproduced, or when the character data in the character data memory is being displayed on the screen, the reproduction is performed. Marking signal input means for inputting a marking signal to the voice data being displayed or the character data being displayed;
A flag is added to the head of voice data included in the information-added voice signal recorded in the voice recording memory or character data recorded in the character data memory in accordance with an input from the marking signal input means. Flag granting means,
First minutes data creating means for creating minutes data using the voice data or character data to which the flag is given by the flag giving means;
A teleconferencing apparatus comprising:
話者を撮影するカメラと、
当該カメラで撮影した話者のアナログ映像信号をディジタル映像信号に変換する映像A/D変換手段と、
前記ディジタル映像信号を圧縮して圧縮映像信号としこの圧縮映像信号を通信網へ送信する映像信号送信手段と、前記通信網から受信した圧縮映像信号を伸張してディジタル映像信号に変換する映像信号伸張手段と、
映像を表示するモニタと、
前記ディジタル映像信号に前記話者識別情報と発言内容の文字データを重畳させて前記モニタに表示させるOSD機能部と
を有することを特徴とする通信会議装置。 The teleconference device according to claim 1,
A camera to shoot the speaker,
Video A / D conversion means for converting an analog video signal of a speaker photographed by the camera into a digital video signal;
Video signal transmitting means for compressing the digital video signal into a compressed video signal and transmitting the compressed video signal to a communication network, and video signal expansion for expanding the compressed video signal received from the communication network and converting it into a digital video signal Means,
A monitor that displays video,
Communication conference device characterized by having an OSD function unit to be displayed on the monitor superimposed character data of the speech content and the speaker identification information to the digital video signal.
前記第1の議事録データ作成手段に換えて、
前記話者識別情報を指定することで前記識別情報付加音声信号を用いて議事録データを作成する第2の議事録データ作成手段を有することを特徴とする通信会議装置。 The teleconference device according to claim 1,
In place of the first minutes data creation means,
A communication conference apparatus comprising: second minutes data creating means for creating minutes data by using the identification information-added voice signal by designating the speaker identification information .
The communication conference apparatus according to claim 1, wherein the communication conference apparatus is a video conference apparatus or an audio conference apparatus.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006349444A JP4850690B2 (en) | 2006-12-26 | 2006-12-26 | Teleconferencing equipment |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006349444A JP4850690B2 (en) | 2006-12-26 | 2006-12-26 | Teleconferencing equipment |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2008160667A JP2008160667A (en) | 2008-07-10 |
JP4850690B2 true JP4850690B2 (en) | 2012-01-11 |
Family
ID=39661045
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006349444A Expired - Fee Related JP4850690B2 (en) | 2006-12-26 | 2006-12-26 | Teleconferencing equipment |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4850690B2 (en) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5304695B2 (en) * | 2010-03-17 | 2013-10-02 | ブラザー工業株式会社 | Communication device and recording audio receiving device selection method |
US8606579B2 (en) * | 2010-05-24 | 2013-12-10 | Microsoft Corporation | Voice print identification for identifying speakers |
JP6179226B2 (en) * | 2013-07-05 | 2017-08-16 | 株式会社リコー | Minutes generating device, minutes generating method, minutes generating program and communication conference system |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0792993A (en) * | 1993-09-20 | 1995-04-07 | Fujitsu Ltd | Speech recognizing device |
JP2003339034A (en) * | 2002-05-17 | 2003-11-28 | Pioneer Electronic Corp | Network conference system, network conference method, and network conference program |
JP2004165954A (en) * | 2002-11-13 | 2004-06-10 | Canon Inc | Utterance recorder |
JP2005109929A (en) * | 2003-09-30 | 2005-04-21 | Dowango:Kk | Electronic conference system and electronic conference managing method |
JP2005295017A (en) * | 2004-03-31 | 2005-10-20 | Hitachi Kokusai Electric Inc | Video conference system |
-
2006
- 2006-12-26 JP JP2006349444A patent/JP4850690B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2008160667A (en) | 2008-07-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10732924B2 (en) | Teleconference recording management system | |
JP2002504273A (en) | Method and apparatus for recording and indexing audio and multimedia conferences | |
US11115765B2 (en) | Centrally controlling communication at a venue | |
JP4850690B2 (en) | Teleconferencing equipment | |
JP2010157906A (en) | Video display device | |
US10468029B2 (en) | Communication terminal, communication method, and computer program product | |
US8451317B2 (en) | Indexing a data stream | |
JP2007259293A (en) | Conference call system, terminal with call function, conference call method, and program and recording medium | |
CN109802968B (en) | Conference speaking system | |
JP2000324463A (en) | Video conference system | |
JP2019176375A (en) | Moving image output apparatus, moving image output method, and moving image output program | |
JP3031320B2 (en) | Video conferencing equipment | |
US11089164B2 (en) | Teleconference recording management system | |
CN114257778A (en) | Teleconference system and multi-microphone voice recognition playing method | |
JP2000228687A (en) | Information communication system | |
JP2017163466A (en) | Information processor and conference system | |
JP2021136606A (en) | Information processing device, information processing system, information processing method, and information processing program | |
JP2003339034A (en) | Network conference system, network conference method, and network conference program | |
JP2015173433A (en) | Terminal device and communication system | |
CN113096674B (en) | Audio processing method and device and electronic equipment | |
JP2013201505A (en) | Video conference system and multipoint connection device and computer program | |
US11764984B2 (en) | Teleconference method and teleconference system | |
JP2023120068A (en) | Speech processing system, device and speech processing method | |
JP2005151231A (en) | Video communication method, video communication apparatus, video creation program used for apparatus, and recording medium with program recorded thereon | |
JP6390607B2 (en) | Program and remote conference method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20090623 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20100113 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110407 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110426 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110624 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110719 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110915 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20111018 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20111019 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20141028 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |