JP2021016080A - Image/sound control device, image/sound processing device, image/sound control method, and image/sound control program - Google Patents

Image/sound control device, image/sound processing device, image/sound control method, and image/sound control program Download PDF

Info

Publication number
JP2021016080A
JP2021016080A JP2019129609A JP2019129609A JP2021016080A JP 2021016080 A JP2021016080 A JP 2021016080A JP 2019129609 A JP2019129609 A JP 2019129609A JP 2019129609 A JP2019129609 A JP 2019129609A JP 2021016080 A JP2021016080 A JP 2021016080A
Authority
JP
Japan
Prior art keywords
video
value
control data
audio
appropriate range
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019129609A
Other languages
Japanese (ja)
Other versions
JP6777335B1 (en
Inventor
裕作 立原
Yusaku Tachihara
裕作 立原
一徳 福森
Kazunori Fukumori
一徳 福森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Platforms Ltd
Original Assignee
NEC Platforms Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Platforms Ltd filed Critical NEC Platforms Ltd
Priority to JP2019129609A priority Critical patent/JP6777335B1/en
Application granted granted Critical
Publication of JP6777335B1 publication Critical patent/JP6777335B1/en
Publication of JP2021016080A publication Critical patent/JP2021016080A/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

To provide an image/sound processing device, an image/sound processing method, and an image/sound processing program which suppress abnormal operation.SOLUTION: An image/sound control device 10 for transmitting control data in image/sound control to a controlled circuit comprises: a memory 120 for temporarily storing the control data for first processing and second processing; an abnormal value detection unit 11 which detects an abnormal value that is a value of the control data for first processing and second processing being out of a proper range; and a correction unit 12 which, when the abnormal value is detected, corrects the abnormal value to the upper limit value of the proper range in a case of the first processing but to the lower limit value of the proper range in a case of the second processing.SELECTED DRAWING: Figure 3

Description

本発明は、映像音声制御装置、映像音声処理装置、映像音声制御方法、及び映像音声制御プログラムに関する。 The present invention relates to a video / audio control device, a video / audio processing device, a video / audio control method, and a video / audio control program.

テレビの放送装置である放送送出設備マスタースイッチャー装置は、映像音声出力制御する映像音声合成処理(以後、SUPと称する場合もある)制御を行っている(特許文献1)。例えば、マスタースイッチャー装置で、映像と音声が合成処理され、図7に示すように、時刻表示などの字幕スーパーを出力している。制御中枢回路は、制御データを被制御回路に送信し、こうした字幕スーパーなどの映像音声処理を行っている。 The broadcast transmission equipment master switcher device, which is a broadcast device of a television, controls video / audio synthesis processing (hereinafter, may be referred to as SUP) that controls video / audio output (Patent Document 1). For example, a master switcher device synthesizes video and audio, and outputs a subtitle superimpose such as a time display as shown in FIG. 7. The control central circuit transmits control data to the controlled circuit and performs video / audio processing such as subtitle superimpose.

特開2009−267478号公報JP-A-2009-267478

しかし、この字幕スーパー(時刻表示)が点滅してしまう不具合が発生していた。 However, there was a problem that this subtitle super (time display) flashed.

そこで、本発明は、上記の点を鑑みてなされたものであり、こうした異常動作を抑制した映像音声制御装置、映像音声処理装置、映像音声制御方法、及び映像音声制御プログラムを提供することを目的とする。 Therefore, the present invention has been made in view of the above points, and an object of the present invention is to provide a video / audio control device, a video / audio processing device, a video / audio control method, and a video / audio control program that suppress such abnormal operations. And.

本発明の第1の態様にかかる映像音声制御装置は、映像音声制御における制御データを被制御回路に送信するための映像音声制御装置であって、
第1処理又は第2処理に対する制御データを一時的に記憶するメモリと、
前記メモリにおいて、第1処理及び第2処理に対する制御データが適正範囲を外れた異常値を検出する異常値検出部と、
前記異常値を検出した場合、前記第1処理の場合、前記適正範囲の上限値に修正し、前記第2処理の場合は、前記適正範囲の下限値に修正する修正部と、
を備える。
The video / audio control device according to the first aspect of the present invention is a video / audio control device for transmitting control data in video / audio control to a controlled circuit.
A memory that temporarily stores control data for the first or second process,
In the memory, an abnormal value detection unit that detects an abnormal value whose control data for the first process and the second process is out of the appropriate range, and
When the abnormal value is detected, in the case of the first process, it is corrected to the upper limit value of the appropriate range, and in the case of the second process, it is corrected to the lower limit value of the appropriate range.
To be equipped.

本発明の第2の態様にかかる映像音声制御方法は、映像音声制御における制御データを被制御回路に送信するための映像音声制御方法であって、
第1処理又は第2処理に対する制御データを一時的に記憶するステップと、
前記メモリにおいて、第1処理及び第2処理に対する制御データが適正範囲を外れた異常値を検出するステップと、
前記異常値を検出した場合、前記第1処理の場合、前記適正範囲の上限値に修正し、前記第2処理の場合は、前記適正範囲の下限値に修正するステップと、を含む。
The video / audio control method according to the second aspect of the present invention is a video / audio control method for transmitting control data in video / audio control to a controlled circuit.
A step of temporarily storing control data for the first process or the second process,
In the memory, a step of detecting an abnormal value in which the control data for the first process and the second process is out of the appropriate range, and
When the abnormal value is detected, in the case of the first process, the step is corrected to the upper limit value of the appropriate range, and in the case of the second process, the step is corrected to the lower limit value of the appropriate range.

本発明の第3の態様にかかる映像音声制御プログラムは、映像音声制御における制御データを被制御回路に送信するための映像音声制御プログラムであって、
第1処理又は第2処理に対する制御データを一時的に記憶する処理と、
前記メモリにおいて、第1処理及び第2処理に対する制御データが適正範囲を外れた異常値を検出する処理と、
前記異常値を検出した場合、前記第1処理の場合、前記適正範囲の上限値に修正し、前記第2処理の場合は、前記適正範囲の下限値に修正する処理と、をコンピュータに実行させる。
The video / audio control program according to the third aspect of the present invention is a video / audio control program for transmitting control data in video / audio control to a controlled circuit.
A process for temporarily storing control data for the first process or the second process,
In the memory, a process of detecting an abnormal value in which the control data for the first process and the second process is out of the appropriate range, and
When the abnormal value is detected, in the case of the first process, the computer is corrected to the upper limit value of the appropriate range, and in the case of the second process, the process is corrected to the lower limit value of the appropriate range. ..

本発明は、異常動作を抑制した映像音声制御装置、映像音声処理装置、映像音声制御方法、及び映像音声制御プログラムを提供することができる。 The present invention can provide a video / audio control device, a video / audio processing device, a video / audio control method, and a video / audio control program that suppress abnormal operations.

映像音声処理装置の構成を示すブロック図である。It is a block diagram which shows the structure of a video-audio processing apparatus. メモリ内の内部データの不具合を説明する図である。It is a figure explaining the defect of the internal data in a memory. 映像音声制御装置の構成を示すブロック図である。It is a block diagram which shows the structure of a video-audio control device. フェーダ処理の種類を説明する表である。It is a table explaining the type of fader processing. 映像音声制御装置の動作を説明するフローチャートである。It is a flowchart explaining operation of a video-audio control device. 不揮発性メモリと揮発性メモリの処理動作を説明する図である。It is a figure explaining the processing operation of a non-volatile memory and a volatile memory. 字幕スーパーの不具合を説明する図である。It is a figure explaining the trouble of the subtitle super.

以下、図面を参照して本発明の実施の形態について説明する。 Hereinafter, embodiments of the present invention will be described with reference to the drawings.

図1は、映像音声処理装置の構成を示すブロック図である。映像音声処理装置は、放送局のマスター設備に設置されているマスタースイッチャーに好適に適用される。ここで、マスタースイッチャーとは、スタジオから送られてくる番組の信号、VTR、サーバなどに保存した番組の信号、および、CMの信号を切り替えて加工した上で送り出す装置のことである。図1に示すように、映像音声処理装置は、映像音声制御装置10と、映像音声制御装置10からの制御データを受信して、各種映像音声処理(例えば、映像音声合成処理)を行う被制御回路20を備える。図1では、映像音声制御装置10は、CONT(Control)カードと、また、被制御回路20は、MK/DSKカードと示されている。なお、MKは、Mixer/Keyerの略であり、DSKは、ダウンストリームキーヤー(Down Stream Keyer)の略である。MKとDSKはともに、各種映像音声スーパーの合成を行う装置であるが、MKは、あらかじめ用意されたスーパーのために用いられるのに対し、DSKは、速報・時計スーパーなど、コンテンツの中身が放送運行データと関係が薄いものをスーパーするために用いられる。図1では、1つの被制御回路20を示したが、複数の被制御回路20が設けられていてもよい。 FIG. 1 is a block diagram showing a configuration of a video / audio processing device. The video / audio processing device is preferably applied to a master switcher installed in a master facility of a broadcasting station. Here, the master switcher is a device that switches and processes a program signal sent from a studio, a program signal stored in a VTR, a server, or the like, and a CM signal, and then sends the signal. As shown in FIG. 1, the video / audio processing device receives control data from the video / audio control device 10 and the video / audio control device 10 and performs various video / audio processing (for example, video / audio synthesis processing). The circuit 20 is provided. In FIG. 1, the video / audio control device 10 is shown as a CONT (Control) card, and the controlled circuit 20 is shown as an MK / DSK card. MK is an abbreviation for Mixer / Keyer, and DSK is an abbreviation for Down Stream Keyer. Both MK and DSK are devices that synthesize various video and audio supermarkets, but while MK is used for supermarkets prepared in advance, DSK broadcasts the contents of contents such as breaking news and clock supermarkets. It is used to supermarket items that are not closely related to operation data. Although one controlled circuit 20 is shown in FIG. 1, a plurality of controlled circuits 20 may be provided.

映像音声制御装置10は、主に、Main CPU(Central Processing Unit)100、メモリ120、ASI(Asynchronous Serial Interface)制御FPGA部130を備え、被制御回路20に対して制御データを送信する。 The video / audio control device 10 mainly includes a Main CPU (Central Processing Unit) 100, a memory 120, and an ASI (Asynchronous Serial Interface) control FPGA unit 130, and transmits control data to the controlled circuit 20.

メモリ120は、不揮発性メモリ121と、揮発性メモリ122を含む。図1では、不揮発性メモリ121として、強誘電体メモリ(FeRAM)が示されているが、これに限定されず、例えば、強誘電体メモリ(FeRAM)の他、フラッシュメモリ、磁気抵抗メモリ(MRAM)、相変化メモリ(PRAM)、抵抗変化型メモリ(ReRAM)等を用いることができる。また、揮発性メモリ122として、図1では、DDR SDRAM(Double-Data-Rate SDRAM)が示されているが、これに限定されず、例えば、RAM(ランダムアクセスメモリ)、同期RAM(SRAM)、ダイナミックRAM(DRAM)、同期DRAM(SDRAM)、ダイレクトRAMバスRAM(DRRAM)等を用いることができる。 The memory 120 includes a non-volatile memory 121 and a volatile memory 122. In FIG. 1, a ferroelectric memory (FeRAM) is shown as the non-volatile memory 121, but the present invention is not limited to this, and for example, in addition to the ferroelectric memory (FeRAM), a flash memory and a magnetoresistive memory (MRAM). ), Phase change memory (PRAM), resistance change memory (ReRAM) and the like can be used. Further, as the volatile memory 122, DDR SDRAM (Double-Data-Rate SDRAM) is shown in FIG. 1, but the present invention is not limited to this, and for example, RAM (random access memory), synchronous RAM (SRAM), and the like. Dynamic RAM (DRAM), synchronous DRAM (DDR), direct RAM bus RAM (DRRAM) and the like can be used.

映像音声制御装置10は、Main CPU100に接続されたLAN101及びBS−NET102と、同期分離器115に接続されたクロック制御FPGA(Field-Programmable Gate Array)部140と、Main制御FPGA部131と、を更に備える。 The video / audio control device 10 includes LAN 101 and BS-NET 102 connected to the Main CPU 100, a clock control FPGA (Field-Programmable Gate Array) unit 140 connected to the synchronization separator 115, and a Main control FPGA unit 131. Further prepare.

基準クロック信号(REF CLOCK)105は、同期分離器115で分離され、クロック制御FPGA部140に入力される。また、Main CPU100は、アドレスをASI制御FPGA部130に送信する。また、Main CPU100とASI制御FPGA部130との間では、データが双方向に通信される。ASI制御FPGA部130は、1ビットの制御データを生成し、それを被制御回路20内のASIデコード回路211に送信する。また、クロック制御FPGA部140は、フレームパルスを生成し、それを被制御回路20内のタイミング信号生成部212に送信する。 The reference clock signal (REF CLOCK) 105 is separated by the synchronization separator 115 and input to the clock control FPGA unit 140. Further, the Main CPU 100 transmits the address to the ASI control FPGA unit 130. In addition, data is bidirectionally communicated between the Main CPU 100 and the ASI control FPGA unit 130. The ASI control FPGA unit 130 generates 1-bit control data and transmits it to the ASI decoding circuit 211 in the controlled circuit 20. Further, the clock control FPGA unit 140 generates a frame pulse and transmits it to the timing signal generation unit 212 in the controlled circuit 20.

被制御回路20は、FPGA部210と、FPGA部250と、を備える。FPGA部210は、ASIデコード回路211と、タイミング信号生成部212と、メモリ215と、を備える。 The controlled circuit 20 includes an FPGA unit 210 and an FPGA unit 250. The FPGA unit 210 includes an ASI decoding circuit 211, a timing signal generation unit 212, and a memory 215.

また、FPGA部250は、外部SUP信号が入力されるS/P221と、AVDL(Automatic Variable Delay Line)222と、外部KEY信号が入力されるS/P231と、AVDL232、外部KEY検知部241と、スーパーKEY生成回路251と、を備える。 Further, the FPGA unit 250 includes an S / P 221 to which an external SUP signal is input, an AVDL (Automatic Variable Delay Line) 222, an S / P 231 to which an external KEY signal is input, an AVDL232, and an external KEY detection unit 241. It includes a super KEY generation circuit 251 and.

ところで、図7を用いて前述したように、こうした映像音声処理装置において、字幕スーパー(時刻表示)が意図せずに点滅してしまう事象が発生した。これに対し、現用系から予備系(バックアップ機)に切り替えるシステムチェンジを行うことで一時的に対応した。その後、発明者らは、原因究明したところ、映像と音声の合成処理を行うCONTカード(CPUボード)内のメモリにおいて、様々な外来要因により、内部データに変化が生じてしまうことが判明した。 By the way, as described above with reference to FIG. 7, in such a video / audio processing device, an event has occurred in which the subtitle super (time display) blinks unintentionally. In response to this, we temporarily responded by making a system change to switch from the current system to the backup system (backup machine). After that, the inventors investigated the cause and found that the internal data of the memory in the CONT card (CPU board) that synthesizes video and audio was changed due to various external factors.

図2を参照して、メモリの不具合を詳細に説明する。
図2は、メモリ内のフェーダー値変数を16進数で表す。
字幕(又は時計)スーパーを映像に載せることを示すフェーダー値変数は、800h、すなわち100%表示である。一方、字幕(又は時計)スーパーを映像に載せないことを示すフェーダー値変数は、000h、すなわち、0%表示である。フェーダー値変数は、本来、000hから800hの間の数値(所定範囲内の数値)しか入らない。しかし、今回、外来要因により、これより大きい数値(異常値)がメモリ内に格納されていた。また、映像音声制御装置10は、被制御回路20に対して、0%か、100%の制御データしか送信してしない。しかしながら、今回のように、所定範囲外の数値(異常値)が入っていた場合、図2に示すように、フェーダー値変数は100%と0%との間で行き来してしまう現象が発生した(すなわち、メモリ内のデータが化けてしまう)。これにより、上述した時刻表示が点滅する不具合が発生したものと考えられる。
A memory defect will be described in detail with reference to FIG.
FIG. 2 represents a fader value variable in memory in hexadecimal.
The fader value variable indicating that the subtitle (or clock) super is placed on the video is 800 h, that is, 100% display. On the other hand, the fader value variable indicating that the subtitle (or clock) super is not placed on the video is 000 h, that is, 0% display. Originally, the fader value variable contains only a numerical value between 000h and 800h (a numerical value within a predetermined range). However, this time, due to an external factor, a larger value (outlier value) was stored in the memory. Further, the video / audio control device 10 transmits only 0% or 100% of control data to the controlled circuit 20. However, as shown in FIG. 2, when a numerical value (outlier value) outside the predetermined range is entered as in this case, a phenomenon occurs in which the fader value variable moves back and forth between 100% and 0%. (That is, the data in memory is garbled). As a result, it is probable that the above-mentioned problem of blinking the time display occurred.

上記のメモリ(ファームウェア)上の各処理については、不具合の原因となりうる箇所の詳細内容を示す。
(a)ワークメモリ上のフェーダー値変数の異常値の確認
フェーダー値変数が以下の値となる場合に、字幕スーパーが点滅する不具合現象になることを確認した。
・フェードイン中に下限値”000h”より小さい値(マイナス値)
この場合、フェーダー値変数がマイナスからプラスに移行する時に、カットアウト及びフェードインのフェーダー処理動作が1回発生することを確認した(今回の不具合現象とは異なる)。
・フェードアウト中に”800h”より大きい値(“800h”より上位bitが有効となる)
実施検証では、制御値が0になるまでフェードアウト及びカットインのフェーダー処理動作が繰り返される。
フェードアウトの条件で、ワークメモリ上のフェーダー値の変数は、32bit float型(最上位1bit=符号、8bit=指数、23bit=仮数)の値として、約1.17×10^(−38)〜約3.40×10^(+38)の範囲を取りうる。しかし、この変数が、何らかの原因で一度800hより大きな値になると、フェーダー値変数が000hになるまで延々とカウントダウンし続ける(図2参照)。結果としてフェーダー値変数が長期間変化しつづけた後、最終的に自然に停止する。
For each process on the above memory (firmware), the detailed contents of the parts that may cause a malfunction are shown.
(A) Confirmation of abnormal value of fader value variable on the work memory It was confirmed that when the fader value variable has the following value, the subtitle superimpose flashes.
・ A value smaller than the lower limit "000h" (minus value) during fade-in
In this case, it was confirmed that the cutout and fade-in fader processing operations occur once when the fader value variable shifts from minus to plus (different from the defect phenomenon this time).
-A value larger than "800h" during fade-out (a bit higher than "800h" is valid)
In the implementation verification, the fade-out and cut-in fader processing operations are repeated until the control value becomes 0.
Under the fade-out condition, the variable of the fader value on the work memory is about 1.17 × 10 ^ (-38) to about 1.17 × 10 ^ (-38) as a value of 32 bit float type (most significant 1 bit = code, 8 bit = exponent, 23 bit = mantissa). It can take a range of 3.40 × 10 ^ (+38). However, once this variable becomes a value larger than 800h for some reason, it continues to count down endlessly until the fader value variable reaches 000h (see FIG. 2). As a result, the fader value variable continues to change for a long period of time and then eventually stops spontaneously.

そのため、上述したメモリ破壊の発生を検出するために、
・メモリ内の異常値を検出して、修正する機能(リミット判定)、
・フェーダー制御が無い状態での中間値を検出した際、自動的にデータ修正する機能、及び
・メモリを不揮発性メモリと揮発性メモリに二重化して、不揮発性メモリと揮発性メモリのうち、正しい方の値に修正する機能
を有した回路を追加した。
Therefore, in order to detect the occurrence of the above-mentioned memory corruption,
-A function to detect and correct abnormal values in memory (limit judgment),
-A function that automatically corrects data when an intermediate value is detected without fader control, and-Doubles the memory into non-volatile memory and volatile memory, and is correct among non-volatile memory and volatile memory. A circuit with a function to correct to the other value was added.

また、これらか不具合の発生度合の統計確認を行うため、
・不揮発性メモリ(内部ストレージ)にアラームログを圧縮蓄積する機能、
・アラームログの自動監視及び解析により、無人によるアラーム制御を行う機能、
・膨大なSUP制御データを検出回路にて全データの自動チェック回路を追加する機能、
・上位制御受信時は、フェーダー処理中であることを示すフラグを揮発性メモリ122(DDR−SDRAM)側に追加し制御する機能(上位制御受信時にフラグONし、フェーダー処理完了時にフラグOFFする、これにより、1回制御で1回のみ動作する(繰り返さない))
を有した回路を追加した。
In addition, in order to check the statistics of the degree of occurrence of these or defects,
-A function to compress and store alarm logs in non-volatile memory (internal storage),
-A function to perform unmanned alarm control by automatically monitoring and analyzing the alarm log,
-A function to add an automatic check circuit for all data with a detection circuit for a huge amount of SUP control data,
-A function to control by adding a flag indicating that fader processing is in progress to the volatile memory 122 (DDR-SDRAM) side at the time of receiving the upper control (the flag is turned ON when the higher control is received and the flag is turned OFF when the fader processing is completed. As a result, it operates only once with one-time control (does not repeat).
The circuit with was added.

以上説明したように、メモリの内部データにおいて異常値が発生した場合、音声映像合成処理の制御において、ON/OFFを繰り返す現象が非常に低い確率で発生する。通常、制御データを一時的にバッファーである内部メモリに格納し、制御データ利用時に読出しを行う。しかし、メモリへの外来要因による影響により蓄積データが変化し、変化してしまった映像・音声SUP制御データにて意図しない映像・音声SUPの制御を行ってしまう。 As described above, when an abnormal value occurs in the internal data of the memory, the phenomenon of repeating ON / OFF occurs with a very low probability in the control of the audio-video composition processing. Normally, the control data is temporarily stored in the internal memory which is a buffer, and is read when the control data is used. However, the accumulated data changes due to the influence of foreign factors on the memory, and the changed video / audio SUP control data controls the unintended video / audio SUP.

そこで、図3に示すように、映像音声制御装置10は、メモリ内に予め定められている適正範囲外のフェーダー値の異常値を検出する異常値検出部11、現在の処理状態に基づいて異常値を適正範囲内の値に修正する修正部12を備える。より詳細には、映像音声制御における制御データを被制御回路に送信するための映像音声制御装置10は、第1処理又は第2処理に対する制御データを一時的に記憶するメモリ120と、メモリにおいて、第1処理及び第2処理に対する制御データが適正範囲を外れた異常値を検出する異常値検出部11と、異常値を検出した場合、第1処理の場合、適正範囲の上限値に修正し、第2処理の場合は、適正範囲の下限値に修正する修正部12と、を備える。また、第1処理は、制御データが最終的に適正範囲の上限値となる処理であり、第2処理は、制御データが最終的に適正範囲の下限値となる処理であってもよい。第1処理は、カットイン又はフェードイン処理であり、第2処理は、カットアウト又はフェードアウト処理であってもよい。ここで、図4を参照して、各種フェーダー処理を説明する。なお、グラフの横軸は時間を示す。カットインとは、フェーダー値を下限値から上限値に一瞬(処理時間は0)で切り替える処理である。また、フェードインとは、フェーダー値を所定時間で下限値から上限値に変更する処理である。一方、カットアウトとは、フェーダー値を上限値から下限値に一瞬(処理時間は0)で切り替える処理である。また、フェードアウトとは、フェーダー値を所定時間で上限値から下限値とする処理である。 Therefore, as shown in FIG. 3, the video / audio control device 10 has an abnormal value detection unit 11 that detects an abnormal value of a fader value outside a predetermined appropriate range in the memory, and an abnormality based on the current processing state. A correction unit 12 for correcting the value to a value within an appropriate range is provided. More specifically, the video / audio control device 10 for transmitting the control data in the video / audio control to the controlled circuit has a memory 120 for temporarily storing the control data for the first process or the second process, and the memory. An abnormal value detection unit 11 that detects an abnormal value whose control data for the first process and the second process is out of the appropriate range, and when an abnormal value is detected, it is corrected to the upper limit value of the appropriate range in the case of the first process. In the case of the second process, a correction unit 12 for correcting the lower limit value in an appropriate range is provided. Further, the first process may be a process in which the control data finally becomes the upper limit value of the appropriate range, and the second process may be a process in which the control data finally becomes the lower limit value of the appropriate range. The first process may be a cut-in or fade-in process, and the second process may be a cut-out or fade-out process. Here, various fader processes will be described with reference to FIG. The horizontal axis of the graph indicates time. The cut-in is a process of switching the fader value from the lower limit value to the upper limit value in an instant (processing time is 0). Further, the fade-in is a process of changing the fader value from the lower limit value to the upper limit value in a predetermined time. On the other hand, the cutout is a process of switching the fader value from the upper limit value to the lower limit value in an instant (processing time is 0). Further, the fade-out is a process of changing the fader value from the upper limit value to the lower limit value in a predetermined time.

また、映像音声制御装置10は、映像音声に対してフェーダー制御を行わない(例えば、字幕又は時計スーパーを点滅表示しない)場合に、メモリ内にフェーダー値の上限値及び下限値以外の中間値を検出した場合は、フェーダー処理を行わない。また、映像音声制御装置10は、このような制御が無い状態での中間値を検出した際、自動的にデータ修正する回路を有する。具体的には、データ修正は、フェーダー処理未実施の時に中間値を検出した場合、前回処理したフェーダー処理がフェードインならば上限値(100%)に修正し、また、前回処理したフェーダー処理がフェードアウトならば下限値(0%)に修正する。 Further, when the video / audio control device 10 does not perform fader control on the video / audio (for example, the subtitle or the clock super is not blinked and displayed), the video / audio control device 10 sets an intermediate value other than the upper limit value and the lower limit value of the fader value in the memory. If detected, no fader processing is performed. Further, the video / audio control device 10 has a circuit that automatically corrects data when an intermediate value is detected in the absence of such control. Specifically, when the intermediate value is detected when the fader processing is not executed, the data correction is corrected to the upper limit value (100%) if the fader processing processed last time is fade-in, and the fader processing processed last time is If it fades out, correct it to the lower limit (0%).

また、映像音声制御装置10は、異常値が検出された場合には、アラームを出力するアラーム出力部を更に備えてもよい。また、出力されたアラームは、アラームログとして、不揮発性メモリ121に圧縮蓄積してもよい。アラーム発生時に蓄積されたログの解析は、ユーザが行うのではなく、自動で行ってもよい。すなわち、予めユーザが要求するアラームを取捨選択し一部の重要なアラームをユーザに警告する警告部を設けてもよい。このようなアラーム自動監視(監視方法、分類、優先順位)機能により、無人によるアラーム制御を行うことができる。 Further, the video / audio control device 10 may further include an alarm output unit that outputs an alarm when an abnormal value is detected. Further, the output alarm may be compressed and stored in the non-volatile memory 121 as an alarm log. The analysis of the log accumulated when the alarm occurs may be performed automatically instead of being performed by the user. That is, a warning unit may be provided to warn the user of some important alarms by selecting the alarms requested by the user in advance. With such an automatic alarm monitoring (monitoring method, classification, priority) function, unmanned alarm control can be performed.

膨大なSUP制御データをすべて自動でチェックする回路を有してもよい。制御データ検出回路は不揮発性メモリ内の制御値の適性値判定部に相当する。 It may have a circuit that automatically checks all the huge amount of SUP control data. The control data detection circuit corresponds to an aptitude value determination unit for control values in the non-volatile memory.

図5を参照して、上述したメモリの内部データの化けを防止するための映像音声制御装置の制御フローを説明する。 With reference to FIG. 5, the control flow of the video / audio control device for preventing the above-mentioned internal data of the memory from being garbled will be described.

起動時、Main CPU100は、不揮発性メモリ領域のフェーダー値計算用の全ワークエリアを0クリアする(ステップS101)。Main CPU100は、揮発性メモリ内のフェーダー値計算用ワークエリアを使用する(ステップS103)。Main CPU100は、図6に示すように不揮発性メモリ領域に記憶されたフェーダー値変数を、揮発性メモリ領域へコピーする(ステップS105)。以降は、Main CPU100は、揮発性メモリ領域のフェーダーの変数の方を用いて処理を行う。このように、揮発性メモリ領域をフェーダー値計算用ワークエリアとして使用することで、異常値が発生した場合であっても、電源をいったん落とすと、異常値が揮発性メモリ領域に残らない。したがって、異常値に伴う不具合が長期的に継続するのを防止することができる。 At startup, the Main CPU 100 clears all work areas for calculating the fader value in the non-volatile memory area to 0 (step S101). The Main CPU 100 uses the fader value calculation work area in the volatile memory (step S103). As shown in FIG. 6, the Main CPU 100 copies the fader value variable stored in the non-volatile memory area to the volatile memory area (step S105). After that, the Main CPU 100 performs processing using the fader variable in the volatile memory area. By using the volatile memory area as the fader value calculation work area in this way, even if an abnormal value occurs, the abnormal value does not remain in the volatile memory area once the power is turned off. Therefore, it is possible to prevent the trouble caused by the abnormal value from continuing for a long period of time.

なお、図6に示すように、不揮発性メモリ121は、制御データ、タリー(OA(OnAir))、DVE(Digital Video Effect)パターンを含む。また、揮発性メモリ122は、制御データ、タリー(OA)、DVEパターンを含む。 As shown in FIG. 6, the non-volatile memory 121 includes control data, a tally (OA (OnAir)), and a DVE (Digital Video Effect) pattern. The volatile memory 122 also includes control data, tally (OA), and DVE patterns.

次に、Vパルス(周期約16ms)による割り込みをトリガーにして、Main CPUは、メモリに保存した制御電文を処理し、タスクをセットする(ステップS107)。Main CPU100は、前述した揮発性メモリ内の制御値計算用ワークエリアにて制御値(制御データ)を算出する(ステップS109)。Main CPU100は、フェーダー値変数への代入で上位bitまで埋める。 Next, using an interrupt by a V pulse (period of about 16 ms) as a trigger, the Main CPU processes the control message stored in the memory and sets a task (step S107). The Main CPU 100 calculates the control value (control data) in the control value calculation work area in the volatile memory described above (step S109). The Main CPU 100 fills up to the high-order bit by assigning it to the fader value variable.

Main CPU100は、上記算出した制御値(制御データ)のうち、フェーダー処理時に参照したフェーダー値が適正範囲(000h〜800h)外であるかを判定する(ステップS111)。フェーダー値が適正範囲外の場合(ステップS111でNO)、Main CPU100は、揮発性メモリ122のフラグによる現在の処理状態に基づいて適正値に修正する(ステップS113)。Main CPU100は、フェーダー処理中であることを示すフラグにより、現在の処理状態を認識することができる。ここで、Main CPU100は、適正値として、カットイン又はフェートイン処理時には上限値(800h)に変更し、カットアウト又はフェードアウト処理時には、下限値(000h)に変更する。カットイン又はフェートイン処理は、制御データが最終的に適正範囲の上限値となる処理の一例ということができる。また、カットアウト又はフェードアウト処理は、制御データが最終的に適正範囲の下限値となる処理の一例ということができる。Main CPU100が、適正範囲外のフェーダー値を検出した場合に(被制御回路20を含む全スーパー回路のいずれかで適正範囲外のフェーダー値による不具合が生じる場合)、Main CPU100は、LEDを表示させる。また、Main CPU100は、制御によりフェーダーモードが変化したとき以外はフェーダー値を変更しない。 The Main CPU 100 determines whether the fader value referred to during the fader processing is out of the appropriate range (000h to 800h) among the calculated control values (control data) (step S111). When the fader value is out of the appropriate range (NO in step S111), the Main CPU 100 corrects the fader value to an appropriate value based on the current processing state by the flag of the volatile memory 122 (step S113). The Main CPU 100 can recognize the current processing state by the flag indicating that the fader processing is in progress. Here, as an appropriate value, the Main CPU 100 changes to an upper limit value (800 h) at the time of cut-in or fade-in processing, and changes to a lower limit value (000 h) at the time of cut-out or fade-out processing. The cut-in or fade-in process can be said to be an example of a process in which the control data finally reaches the upper limit of the appropriate range. Further, the cutout or fade-out process can be said to be an example of a process in which the control data finally becomes the lower limit value of the appropriate range. When the Main CPU 100 detects a fader value outside the proper range (when a problem occurs due to a fader value outside the proper range in any of all super circuits including the controlled circuit 20), the Main CPU 100 displays an LED. .. Further, the Main CPU 100 does not change the fader value except when the fader mode is changed by control.

Main CPU100は、フェーダー値が適正範囲(000〜800h)外になった場合、アラームを出力する(ステップS115)。また、Main CPU100は、APS(Automatic Program Control System)制御が無いのに、フェーダー値が異常値にセットされた場合は、LEDを点灯させるとともに、アラームを出力する。 The Main CPU 100 outputs an alarm when the fader value is out of the appropriate range (000 to 800 h) (step S115). Further, when the fader value is set to an abnormal value even though the Main CPU 100 does not have APS (Automatic Program Control System) control, the LED is turned on and an alarm is output.

Main CPU100は、揮発性メモリ領域の制御データを、被制御回路20に送信し、映像音声を制御する(ステップS117)。 The Main CPU 100 transmits control data in the volatile memory area to the controlled circuit 20 to control video and audio (step S117).

図5に示すように、上位制御時、Main CPU100は、揮発性メモリ(DDR−SDRAM)122の制御データ(フェーダー値等)を不揮発性メモリ(FeRAM)121へ書き戻す(ステップS119)。この際、Main CPU100は、ステップS115で前述したアラームのログを圧縮して不揮発性メモリ121に蓄積することもできる。さらに、Main CPU100は、警告部により、ユーザにより予め定められたアラームを蓄積されたログの中から自動的に選択し、ユーザに警告することもできる。なお、ここでいう上位制御は、本映像音声制御装置を含む放送システムの制御を指す。例えば、上位制御では、放送プログラムの時間管理(映像音声の切替タイミング)などを制御している。つまり、上位制御を司る放送システムは、映像音声の切替タイミングに応じて、フェードイン/アウトやカットイン/アウトなどの制御指示をBS−NETやLAN通信を利用して、本映像音声制御装置に伝達する。その指示に従い本映像音声制御装置は、フェードイン/アウトやカットイン/アウトなどの制御を実施する(これを下位制御と称する)。 As shown in FIG. 5, during higher control, the Main CPU 100 writes back the control data (fader value, etc.) of the volatile memory (DDR-SDRAM) 122 to the non-volatile memory (FeRAM) 121 (step S119). At this time, the Main CPU 100 can also compress the alarm log described above in step S115 and store it in the non-volatile memory 121. Further, the Main CPU 100 can automatically select an alarm predetermined by the user from the accumulated log by the warning unit and warn the user. The higher-level control referred to here refers to the control of the broadcasting system including the video / audio control device. For example, in the host control, time management (video / audio switching timing) of a broadcasting program is controlled. That is, the broadcasting system that controls the upper control sends control instructions such as fade-in / out and cut-in / out to the video / audio control device by using BS-NET or LAN communication according to the video / audio switching timing. introduce. According to the instruction, the present video / audio control device performs control such as fade-in / out and cut-in / out (this is referred to as lower control).

上記した実施の形態によれば、メモリ内部に異常値が発生しても、それに伴う異常動作を抑制することができる。よって、字幕スーパー(時刻表示)が意図せずに点滅してしまうような不具合の発生を防止することができる。 According to the above-described embodiment, even if an abnormal value occurs inside the memory, it is possible to suppress the abnormal operation accompanying the abnormal value. Therefore, it is possible to prevent the occurrence of a problem that the subtitle super (time display) blinks unintentionally.

さらに、上述した様々な実施の形態において、映像音声制御装置における処理の手順を説明したように、本開示は映像音声制御における制御データを被制御回路に送信するための映像音声制御方法としての形態も採り得る。この映像音声制御方法は、次のステップを含む。第1処理又は第2処理に対する制御データを一時的に記憶するステップと、前記記憶された第1処理及び第2処理に対する制御データが適正範囲を外れた異常値を検出するステップと、前記異常値を検出した場合、前記第1処理の場合、前記適正範囲の上限値に修正し、前記第2処理の場合は、前記適正範囲の下限値に修正するステップと、である。なお、その他の例については、上述した様々な実施の形態で説明した通りである。また、映像音声制御プログラムは、コンピュータにこのような映像音声制御方法を実行させるためのプログラムである。 Further, as described in the processing procedure in the video / audio control device in the various embodiments described above, the present disclosure is a form as a video / audio control method for transmitting control data in the video / audio control to a controlled circuit. Can also be taken. This video / audio control method includes the following steps. A step of temporarily storing control data for the first process or the second process, a step of detecting an abnormal value in which the stored control data for the first process and the second process are out of an appropriate range, and the abnormal value. When is detected, in the case of the first process, the upper limit value of the appropriate range is corrected, and in the case of the second process, the lower limit value of the appropriate range is corrected. The other examples are as described in the various embodiments described above. Further, the video / audio control program is a program for causing a computer to execute such a video / audio control method.

上述の例において、プログラムは、様々なタイプの非一時的なコンピュータ可読媒体(non-transitory computer readable medium)を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体(tangible storage medium)を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体(例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ)、光磁気記録媒体(例えば光磁気ディスク)、CD−ROM(Read Only Memory)、CD−R、CD−R/W、DVD(Digital Versatile Disc)、BD(Blu-ray(登録商標) Disc)、半導体メモリ(例えば、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM(Random Access Memory))を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体(transitory computer readable medium)によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。 In the above example, the program can be stored and supplied to a computer using various types of non-transitory computer readable media. Non-transitory computer-readable media include various types of tangible storage media. Examples of non-temporary computer-readable media include magnetic recording media (eg, flexible disks, magnetic tapes, hard disk drives), magneto-optical recording media (eg, magneto-optical disks), CD-ROMs (Read Only Memory), CD-Rs, CD-R / W, DVD (Digital Versatile Disc), BD (Blu-ray (registered trademark) Disc), semiconductor memory (for example, mask ROM, PROM (Programmable ROM), EPROM (Erasable PROM), flash ROM, RAM ( Random Access Memory)) is included. The program may also be supplied to the computer by various types of transient computer readable media. Examples of temporary computer-readable media include electrical, optical, and electromagnetic waves. The temporary computer-readable medium can supply the program to the computer via a wired communication path such as an electric wire and an optical fiber, or a wireless communication path.

なお、本発明は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。例えば、本発明は、TV映像送出マトリックス装置の映像・音声制御のSUP制御データに対し制御値保管メモリのデータ化けに対し実施しているが、その他放送装置制御パラメータ(GAIN値、フェーダー傾斜・時定数等)や、一時保管されているデータに対し有効である。また、放送以外でも一時的に記憶しているメモリを有する制御基板に対しても応用することが可能である。 The present invention is not limited to the above embodiment, and can be appropriately modified without departing from the spirit. For example, the present invention is implemented for garbled data in the control value storage memory for SUP control data of video / audio control of the TV video transmission matrix device, but other broadcasting device control parameters (GAIN value, fader inclination / time). It is effective for constants, etc.) and temporarily stored data. In addition to broadcasting, it can also be applied to a control board having a memory that is temporarily stored.

10 映像音声制御装置
11 異常値検出部
12 修正部
20 被制御回路
100 Main CPU
101 LAN
102 BS−NET
120 メモリ
121 不揮発性メモリ
122 揮発性メモリ
130 ASI制御FPGA部
131 Main制御FPGA部
140 クロック制御FPGA部
210 FPGA部
211 ASIデコード回路
212 タイミング信号生成部
215 メモリ
221 S/P
222 AVDL
231 S/P
241 外部KEY検知部
250 FPGA部
251 スーパーKEY生成回路
10 Video / audio control device 11 Outlier detection unit 12 Correction unit 20 Controlled circuit 100 Main CPU
101 LAN
102 BS-NET
120 Memory 121 Non-volatile memory 122 Volatile memory 130 ASI control FPGA section 131 Main control FPGA section 140 Clock control FPGA section 210 FPGA section 211 ASI decoding circuit 212 Timing signal generator section 215 Memory 221 S / P
222 AVDL
231 S / P
241 External KEY detection unit 250 FPGA unit 251 Super KEY generation circuit

Claims (10)

映像音声制御における制御データを被制御回路に送信するための映像音声制御装置であって、
第1処理又は第2処理に対する制御データを一時的に記憶するメモリと、
前記メモリにおいて、第1処理及び第2処理に対する制御データが適正範囲を外れた異常値を検出する異常値検出部と、
前記異常値を検出した場合、前記第1処理の場合、前記適正範囲の上限値に修正し、前記第2処理の場合は、前記適正範囲の下限値に修正する修正部と、
を備える、映像音声制御装置。
A video / audio control device for transmitting control data in video / audio control to a controlled circuit.
A memory that temporarily stores control data for the first or second process,
In the memory, an abnormal value detection unit that detects an abnormal value whose control data for the first process and the second process is out of the appropriate range, and
When the abnormal value is detected, in the case of the first process, it is corrected to the upper limit value of the appropriate range, and in the case of the second process, it is corrected to the lower limit value of the appropriate range.
A video / audio control device.
前記第1処理及び前記第2処理を行わない場合に、前記異常値検出部が前記適正範囲内の中間値を検出した場合は、前記第1処理及び前記第2処理が行われない、請求項1に記載の映像音声制御装置。 A claim that the first process and the second process are not performed when the outlier detection unit detects an intermediate value within the appropriate range when the first process and the second process are not performed. The video / audio control device according to 1. 前記第1処理は、制御データが最終的に前記適正範囲の上限値となる処理であり、前記第2処理は、制御データが最終的に前記適正範囲の下限値となる処理である、請求項1又は2に記載の映像音声制御装置。 The first process is a process in which the control data finally becomes the upper limit value of the appropriate range, and the second process is a process in which the control data finally becomes the lower limit value of the appropriate range. The video / audio control device according to 1 or 2. 前記第1処理は、カットイン又はフェードイン処理であり、前記第2処理は、カットアウト又はフェードアウト処理である、請求項1〜3のいずれか一項に記載の映像音声制御装置。 The video / audio control device according to any one of claims 1 to 3, wherein the first process is a cut-in or fade-in process, and the second process is a cut-out or fade-out process. 前記メモリは、前記制御データを算出するための領域を含む揮発性メモリと、算出された制御データを保存する不揮発性メモリと、を含む、
請求項1から4のいずれか一項に記載の映像音声制御装置。
The memory includes a volatile memory including an area for calculating the control data and a non-volatile memory for storing the calculated control data.
The video / audio control device according to any one of claims 1 to 4.
前記異常値が検出された場合には、アラームを出力するアラーム出力部を更に備える、請求項1から5のいずれか一項に記載の映像音声制御装置。 The video / audio control device according to any one of claims 1 to 5, further comprising an alarm output unit that outputs an alarm when the abnormal value is detected. 前記アラーム出力部から前記出力されたアラームは、ログとして不揮発性メモリに記録される、請求項6に記載の映像音声制御装置。 The video / audio control device according to claim 6, wherein the alarm output from the alarm output unit is recorded in a non-volatile memory as a log. 請求項1〜7のいずれか一項に記載の映像音声制御装置と、
映像音声スーパーを表示させる被制御回路と、を備える、映像音声処理装置。
The video / audio control device according to any one of claims 1 to 7.
A video / audio processing device including a controlled circuit for displaying a video / audio supermarket.
映像音声制御における制御データを被制御回路に送信するための映像音声制御方法であって、
第1処理又は第2処理に対する制御データを一時的に記憶するステップと、
前記記憶された第1処理及び第2処理に対する制御データが適正範囲を外れた異常値を検出するステップと、
前記異常値を検出した場合、前記第1処理の場合、前記適正範囲の上限値に修正し、前記第2処理の場合は、前記適正範囲の下限値に修正するステップと、を含む映像音声制御方法。
It is a video / audio control method for transmitting control data in video / audio control to a controlled circuit.
A step of temporarily storing control data for the first process or the second process,
A step of detecting an abnormal value in which the stored control data for the first process and the second process are out of the appropriate range, and
When the abnormal value is detected, in the case of the first process, it is corrected to the upper limit value of the appropriate range, and in the case of the second process, it is corrected to the lower limit value of the appropriate range. Method.
映像音声制御における制御データを被制御回路に送信するための映像音声制御プログラムであって、
第1処理又は第2処理に対する制御データを一時的に記憶する処理と、
前記記憶された第1処理及び第2処理に対する制御データが適正範囲を外れた異常値を検出する処理と、
前記異常値を検出した場合、前記第1処理の場合、前記適正範囲の上限値に修正し、前記第2処理の場合は、前記適正範囲の下限値に修正する処理と、をコンピュータに実行させる、映像音声制御プログラム。
A video / audio control program for transmitting control data in video / audio control to a controlled circuit.
A process for temporarily storing control data for the first process or the second process,
A process for detecting an abnormal value in which the stored control data for the first process and the second process are out of the appropriate range, and a process for detecting an abnormal value.
When the abnormal value is detected, in the case of the first process, the computer is corrected to the upper limit value of the appropriate range, and in the case of the second process, the process is corrected to the lower limit value of the appropriate range. , Video and audio control program.
JP2019129609A 2019-07-11 2019-07-11 Video / audio control device, video / audio processing device, video / audio control method, and video / audio control program Active JP6777335B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019129609A JP6777335B1 (en) 2019-07-11 2019-07-11 Video / audio control device, video / audio processing device, video / audio control method, and video / audio control program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019129609A JP6777335B1 (en) 2019-07-11 2019-07-11 Video / audio control device, video / audio processing device, video / audio control method, and video / audio control program

Publications (2)

Publication Number Publication Date
JP6777335B1 JP6777335B1 (en) 2020-10-28
JP2021016080A true JP2021016080A (en) 2021-02-12

Family

ID=72938112

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019129609A Active JP6777335B1 (en) 2019-07-11 2019-07-11 Video / audio control device, video / audio processing device, video / audio control method, and video / audio control program

Country Status (1)

Country Link
JP (1) JP6777335B1 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115061605A (en) * 2022-08-18 2022-09-16 深圳东昇射频技术有限公司 Test curve marking method, device, equipment and storage medium

Also Published As

Publication number Publication date
JP6777335B1 (en) 2020-10-28

Similar Documents

Publication Publication Date Title
CN104079955A (en) Method, device and system of OTT (Over The Top) live broadcast
US10848742B2 (en) Content generation device, method for controlling content generation device, and storage medium
JP6777335B1 (en) Video / audio control device, video / audio processing device, video / audio control method, and video / audio control program
CN104936004A (en) Video recording method and device
CN106600555B (en) A kind of primary particle inversion resistant DVI image distortion correction device
CN111031341A (en) Heartbeat-based dual-computer hot standby method
JP5180910B2 (en) Video processing device
US8750676B2 (en) Content storage system, storage apparatus for use in the system, and method of controlling storage of contents
CN107743245B (en) System and method for cinema play memory failover
KR101485626B1 (en) Content recording apparatus and content recording method
JP4417994B2 (en) Material data recording apparatus and material data recording method
CN110677697A (en) Material playing method and device
JP5361826B2 (en) Recording unit and faulty chip identification method
JP5361205B2 (en) Alarm
JP2005116005A (en) Disk-reproducing device
JP6644138B2 (en) Log data acquisition device and log data acquisition method
US20200145470A1 (en) Method and apparatus for playing media file
CN111625363A (en) Execution method, device, equipment and storage medium for resource recommendation operation
CN111308899A (en) Equipment monitoring method and device, intelligent equipment and storage medium
CN115460069B (en) Comprehensive monitoring system and switching method
JP2021190954A (en) Broadcast device
JP2010074556A (en) Moving image transmission device
JP2021034841A (en) Monitoring condition setting device, system, method, and program
JP2001350596A (en) Storage device
KR102477059B1 (en) Apparatus and method for encoding streaming data

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190711

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200707

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200826

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200908

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201001

R150 Certificate of patent or registration of utility model

Ref document number: 6777335

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150