JP2019060913A - Portable image display device and image display control method - Google Patents

Portable image display device and image display control method Download PDF

Info

Publication number
JP2019060913A
JP2019060913A JP2017183097A JP2017183097A JP2019060913A JP 2019060913 A JP2019060913 A JP 2019060913A JP 2017183097 A JP2017183097 A JP 2017183097A JP 2017183097 A JP2017183097 A JP 2017183097A JP 2019060913 A JP2019060913 A JP 2019060913A
Authority
JP
Japan
Prior art keywords
image
image display
display
control unit
tally
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017183097A
Other languages
Japanese (ja)
Other versions
JP6801618B2 (en
Inventor
宏征 高橋
Hiromasa Takahashi
宏征 高橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Brother Industries Ltd
Original Assignee
Brother Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Brother Industries Ltd filed Critical Brother Industries Ltd
Priority to JP2017183097A priority Critical patent/JP6801618B2/en
Priority to PCT/JP2018/034373 priority patent/WO2019059150A1/en
Publication of JP2019060913A publication Critical patent/JP2019060913A/en
Application granted granted Critical
Publication of JP6801618B2 publication Critical patent/JP6801618B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/02Viewing or reading apparatus
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/02Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the way in which colour is displayed
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/10Intensity circuits
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/37Details of the operation on graphic patterns
    • G09G5/377Details of the operation on graphic patterns for mixing or overlaying two or more graphic patterns
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/64Constructional details of receivers, e.g. cabinets or dust covers

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Optics & Photonics (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Studio Devices (AREA)

Abstract

To display tally information in an image display device including a compact display without reducing visibility of an image.SOLUTION: An HMD 10 that is a portable image display device comprises a compact display 25, and an image display control unit 15 that performs image display control. The image display control unit 15 performs processing of changing the display modes, such as the size, luminance, and color of an image displayed on the display 25 on the basis of a tally signal acquired from a sub control room 3. Thus, tally information is expressed on the display 25 without erosion of the display area of the original image.SELECTED DRAWING: Figure 5

Description

本発明は、小型のディスプレイを備える携帯型の画像表示装置、及び、携帯型画像表示装置に画像を表示するための画像表示制御方法に関する。   The present invention relates to a portable image display device having a small display, and an image display control method for displaying an image on the portable image display device.

複数台のテレビカメラから得た放送素材信号を中継するテレビ中継放送システムにおいては、副調整室のモニタに各テレビカメラにより撮影中の画像が表示され、番組制作スタッフがモニタの画像を見ながらスイッチャを操作することにより、放送に使用する画像が適宜選択される。スイッチャからは、選択されたテレビカメラに対しタリー信号が出力され、カメラ側では上部に取り付けたタリーランプを点灯させることにより、当該カメラで撮影中の画像が放送に使用中であることを、出演者や周辺のスタッフに示している。   In a television relay broadcasting system that relays broadcast material signals obtained from a plurality of television cameras, an image being photographed by each television camera is displayed on the monitor of the sub control room, and the program production staff is looking at the monitor image while switching the switcher The image to be used for the broadcast is appropriately selected by operating the. A tally signal is output from the switcher to the selected television camera, and the tally lamp attached at the top is turned on on the camera side so that the image being taken by the camera is being used for broadcasting. Are shown to people in and around the staff.

今日ではニュースの取材、スポーツ中継など機動性が求められる撮影の殆どにおいて、肩に担ぐことができるENG(Electronic News Gathering)カメラが用いられている。そのようなハンドヘルドカメラには、通常、小型のサブモニタが付帯している。近年ではそのようなサブモニタとして、携帯電話やヘッドマウントディスプレイ(HMD:Head Mounted Display)などの携帯型画像表示装置の利用が検討されている。   Nowadays, ENG (Electronic News Gathering) cameras that can be carried on the shoulder are used in most of the shootings that require mobility such as news coverage and sports broadcasts. Such hand-held cameras usually have small sub-monitors. In recent years, use of a portable image display device such as a cellular phone or a head mounted display (HMD) has been considered as such a sub monitor.

また、カメラマン自身が撮影画像(モニタリング画像)を見ながらタリー情報を知りたいというニーズもある。例えば特許文献1には、地上デジタルエリア放送の1chの各セグメントに複数台の異なるカメラからの映像をそれぞれ割り当てて送信し、受信機能付きの携帯電話に、各カメラのモニタリング画像とともに、現在On−Air選択されている映像の上部にレッドタリー表示をすることが提案されている。   In addition, there is also a need that the cameraman himself wants to know tally information while looking at a photographed image (monitoring image). For example, according to Patent Document 1, images from a plurality of different cameras are allocated to each segment of terrestrial digital area broadcast 1ch and transmitted, and a mobile phone with a reception function is used together with monitoring images of each camera. It has been proposed to display a red tally on the upper part of the image selected with Air.

しかし一般には、視認性の観点から、携帯電話等の比較的小さいサイズのディスプレイにマルチウインドウ表示することは困難とされている。この課題に関連し、例えば特許文献2には、撮影機能を有する携帯電話の待ち受け画面に当該撮影機能をフォアグランドで起動させるためのアイコンを表示させ、バックグラウンドで撮影中の動画像をそのアイコンに表示することにより、他の機能(アプリ)の起動や動作を妨げないようにした端末装置が開示されている。また、例えば特許文献3には、HMDに複数台のカメラで撮影中のモニタリング画像をそれぞれ表示させ、オンエア中のモニタリング画像の周囲を実線で囲む表示をする仮想副調装置が開示されている。   However, in general, it is considered difficult to perform multi-window display on a relatively small size display such as a mobile phone from the viewpoint of visibility. Related to this problem, for example, Patent Document 2 displays an icon for activating the shooting function in the foreground on the standby screen of a mobile phone having the shooting function, and displays an icon of a moving image being shot in the background A terminal device is disclosed that does not prevent activation or operation of other functions (applications) by displaying on the screen. Further, for example, Patent Document 3 discloses a virtual sub-tuning device that causes the HMD to display monitoring images being photographed by a plurality of cameras and displays a surrounding of the monitoring image in the on-air with a solid line.

特開2011−250359号公報JP 2011-250359 A 特開2015−57734号公報JP, 2015-57734, A 特開2000−152075号公報JP 2000-152075 A

このように、携帯電話やHMD等の比較的小型のディスプレイに、マルチウインドウでテレビカメラのモニタリング画像とタリー情報とを同時に表示した場合、モニタリング画像の表示領域がどうしても侵食されてしまい、十分な表示領域を確保することができなかった。また、モニタ装置とは別にタリーランプを設けることも考えられるが、カメラマンがタリー情報を見落とすリスクや、カメラの可搬性又はフットワーク等の機動性においても課題が残る。   As described above, when the monitoring image and the tally information of the television camera are simultaneously displayed in multiple windows on a relatively small display such as a mobile phone or HMD, the display area of the monitoring image is inevitably eroded and a sufficient display I could not secure the area. Further, although it is conceivable to provide a tally lamp separately from the monitor device, problems remain in the risk of the cameraman overlooking the tally information, the portability of the camera or the mobility such as footwork.

本発明は、このような従来の課題に鑑みてなされたものであり、小型のディスプレイに表示する画像の視認性を低下させることなく、画像とともにタリー等の情報を表示する技術を提供することを目的としている。   The present invention has been made in view of such conventional problems, and provides a technique for displaying information such as tally with an image without reducing the visibility of the image displayed on a small display. The purpose is.

上述した課題を解決するため、本発明は、画像信号を取得する画像信号取得部と、前記画像信号に基づく画像を表示するディスプレイと、前記ディスプレイに表示する画像の表示制御を行う画像表示制御部と、前記画像に関するタリー信号を取得するタリー信号取得部とを備える携帯型画像表示装置であって、前記画像表示制御部が、取得した前記タリー信号に基づいて、前記ディスプレイに表示する前記画像の表示態様を変更する処理を行う携帯型画像表示装置である。   In order to solve the problems described above, the present invention provides an image signal acquisition unit that acquires an image signal, a display that displays an image based on the image signal, and an image display control unit that performs display control of an image displayed on the display And a tally signal acquisition unit for acquiring a tally signal related to the image, wherein the image display control unit displays the image to be displayed on the display based on the acquired tally signal. It is a portable image display device that performs processing to change the display mode.

前記携帯型画像表示装置は、使用者の頭部に装着するための装着具を備えるヘッドマウントディスプレイであることが好ましい。   The portable image display device is preferably a head mounted display provided with a mounting tool for mounting on the head of a user.

また、前記携帯型画像表示装置は、前記画像表示制御部が前記タリー信号に基づいて前記画像のサイズを変更する処理を行うことが好ましい。   Preferably, in the portable image display device, the image display control unit performs a process of changing the size of the image based on the tally signal.

また、前記携帯型画像表示装置は、前記画像表示制御部が、使用中であることを示すタリー信号を取得する間、前記画像のサイズを拡大する処理を行うものでもよい。   Further, the portable image display device may perform processing of enlarging the size of the image while the image display control unit acquires a tally signal indicating that the image display control unit is in use.

また、前記携帯型画像表示装置は、前記画像表示制御部が、使用中でないことを示すタリー信号を取得する間、前記画像のサイズを縮小する処理を行うものでもよい。   Further, the portable image display device may perform processing of reducing the size of the image while the image display control unit acquires a tally signal indicating that the image display control unit is not in use.

また、前記携帯型画像表示装置は、前記画像表示制御部が前記タリー信号に基づいて前記画像の輝度を変更する処理を行うものでもよい。   Further, in the portable image display device, the image display control unit may perform a process of changing the luminance of the image based on the tally signal.

また、前記携帯型画像表示装置は、前記画像表示制御部が前記タリー信号に基づいて前記画像の周辺部の表示態様を変更する処理を行うものでもよい。   Further, in the portable image display device, the image display control unit may perform a process of changing the display mode of the peripheral portion of the image based on the tally signal.

また、前記携帯型画像表示装置は、前記画像表示制御部が、使用中であることを示すタリー信号を取得する間、前記画像の周辺部を点滅させる処理を行うものでもよい。   Further, the portable image display device may perform processing of causing the peripheral portion of the image to blink while the image display control unit acquires a tally signal indicating that the image display control unit is in use.

また、前記携帯型画像表示装置は、前記画像表示制御部が前記タリー信号に基づいて前記画像の色を変更する処理を行うものでもよい。   Further, in the portable image display device, the image display control unit may perform a process of changing the color of the image based on the tally signal.

また、前記携帯型画像表示装置は、前記画像表示制御部が前記タリー信号に基づいて前記画像の周辺部の色を変更する処理を行うものでもよい。   Further, in the portable image display device, the image display control unit may perform processing for changing the color of the peripheral portion of the image based on the tally signal.

また、前記携帯型画像表示装置は、前記画像表示制御部が、使用中でないことを示すタリー信号を取得する間、前記画像を単色で前記ディスプレイに表示し、使用中であることを示すタリー信号を取得する間、前記画像の表示を多色表示に切り替える処理を行うものでもよい。   Further, the portable image display device displays the image as a single color on the display while the image display control unit acquires a tally signal indicating that the image display control unit is not in use, and indicates the tally signal indicating that the image is in use. While acquiring, the process of switching the display of the image to a multicolor display may be performed.

また、前記携帯型画像表示装置は、前記ディスプレイの動きを検出する検出部を更に備え、前記ディスプレイが、RGBの各光を時分割で出力するフィールドシーケンシャル方式で前記画像を表示し、前記検出部で検出された当該ディスプレイの動きの量が所定の閾値を超えたとき、他の方式に切り替えて前記画像を表示するように構成されていることが好ましい。   In addition, the portable image display device further includes a detection unit that detects the movement of the display, and the display displays the image by a field sequential method in which each light of RGB is output in time division, and the detection unit Preferably, when the amount of movement of the display detected in the step exceeds a predetermined threshold, the display is switched to another method to display the image.

また、本発明は、画像表示制御部の演算処理により、画像信号に基づく画像を携帯型画像表示装置に表示する画像表示制御方法であって、前記画像表示制御部による演算処理が、前記画像信号を取得するステップと、前記画像に関するタリー信号を取得するステップと、前記タリー信号が使用中でないことを示す間、第1表示態様で前記画像を前記ディスプレイに表示するステップと、前記タリー信号が使用であることを示す間、前記第1表示態様とは異なる第2表示態様で前記画像を前記ディスプレイに表示するステップとを含む画像表示制御方法である。   Further, the present invention is an image display control method for displaying an image based on an image signal on a portable image display device by arithmetic processing of an image display controller, wherein the arithmetic processing by the image display controller is the image signal. Obtaining a tally signal for the image, displaying the image on the display in a first display mode while indicating that the tally signal is not in use, and using the tally signal Displaying the image on the display in a second display mode different from the first display mode while indicating that the second display mode is the second display mode.

本発明によれば、取得したタリー信号に基づいて、ディスプレイに表示する画像の表示態様を変更する。これにより、画像の表示領域を侵食することなく、当該画像とともにタリー情報をディスプレイに表出することができる。したがって、小型のディスプレイを備える携帯型の画像表示装置であっても、画像の視認性が低下せず、使用者にタリー情報を確実に認識させることができる。   According to the present invention, the display mode of the image displayed on the display is changed based on the acquired tally signal. Thus, tally information can be displayed on the display together with the image without eroding the display area of the image. Therefore, even if it is a portable image display apparatus provided with a small display, the visibility of an image does not fall and a user can be made to recognize tally information reliably.

テレビジョン中継放送システムの概要を示すブロック図である。FIG. 1 is a block diagram showing an overview of a television relay broadcast system. 携帯型画像表示装置の一例であるHMDの外観斜視図である。It is an appearance perspective view of HMD which is an example of a portable type image display. HMDにおける画像表示制御回路のブロック図である。It is a block diagram of the image display control circuit in HMD. FS方式による光信号の出力タイミングチャートである。It is an output timing chart of the optical signal by FS system. 単色表示方式による光信号の出力タイミングチャートである。It is an output timing chart of the optical signal by a monochrome display system. 白黒表示方式による光信号の出力タイミングチャートである。It is an output timing chart of the optical signal by a black and white display system. 高レート切替方式による光信号の出力タイミングチャートである。It is an output timing chart of the optical signal by a high rate switching system. 第1実施例による画像の表示態様変更処理を示すフローチャートである。It is a flowchart which shows the display mode change process of the image by 1st Example. 第1実施例により非使用時にディスプレイに表示される画像の表示態様を例示する図である。It is a figure which illustrates the display mode of the image displayed on a display at the time of non-use by 1st Example. 第1実施例により使用時にディスプレイに表示される画像の表示態様を例示する図である。It is a figure which illustrates the display mode of the image displayed on a display at the time of use by 1st Example. 第2実施例による画像の表示態様変更処理を示すフローチャートである。It is a flowchart which shows the display mode change process of the image by 2nd Example. 第2実施例により非使用時にディスプレイに表示される画像の表示態様を例示する図である。It is a figure which illustrates the display mode of the image displayed on a display at the time of non-use by 2nd Example. 第2実施例により使用時にディスプレイに表示される画像の表示態様を例示する図である。It is a figure which illustrates the display mode of the image displayed on a display at the time of use by 2nd Example. 第3実施例による画像の表示態様変更処理を示すフローチャートである。It is a flowchart which shows the display mode change process of the image by 3rd Example. 第3実施例により非使用時にディスプレイに表示される画像の表示態様を例示する図である。It is a figure which illustrates the display mode of the image displayed on a display at the time of non-use by 3rd Example. 第3実施例により使用時にディスプレイに表示される画像の表示態様を例示する図である。It is a figure which illustrates the display mode of the image displayed on a display at the time of use by 3rd Example. 第4実施例による画像の表示態様変更処理を示すフローチャートである。It is a flowchart which shows the display mode change process of the image by 4th Example. 第4実施例により非使用時にディスプレイに表示される画像の表示態様を例示する図である。It is a figure which illustrates the display mode of the image displayed on a display at the time of non-use by 4th Example. 第4実施例により使用時にディスプレイに表示される画像の表示態様を例示する図である。It is a figure which illustrates the display mode of the image displayed on a display at the time of use by 4th Example. 第4実施例により使用時にディスプレイに表示される画像の他の表示態様を例示する図である。It is a figure which illustrates the other display aspect of the image displayed on a display at the time of use by 4th Example.

<テレビジョン中継放送システムの概要>
本発明に係る携帯型の画像表示装置は、テレビ放送されるスポーツイベントや報道番組の取材のため、機動性が求められる現場等に持ち込まれるテレビカメラに付帯して設けられる。そこで、先ず、そのような現場での放送番組制作を行うテレビジョン中継放送システムの例を説明する。図1には、その一例であるSNG(Satellite News Gathering)中継放送システムの概要が示される。
<Overview of Television Relay Broadcasting System>
The portable image display apparatus according to the present invention is provided in addition to a television camera brought into a field where mobility is required for coverage of a sporting event broadcasted on television or a news program. Therefore, first, an example of a television relay broadcasting system for producing a broadcast program on such a site will be described. FIG. 1 shows an outline of a satellite news gathering (SNG) relay broadcasting system as an example.

図1の中継放送システムにおいて、複数台のテレビカメラ1、1、・・・で取得された番組素材(映像及び音声)は、それぞれのCCU(Camera Control Unit)2に取り込まれ、変換符号化等された映像信号及び音声信号等が、本線系統を介して、副調整室(例えばSNG中継車)3に設けられた調整装置4に伝送される。   In the relay broadcasting system of FIG. 1, program materials (video and audio) acquired by a plurality of television cameras 1, 1,... Are taken into respective CCU (Camera Control Unit) 2, and are converted and encoded, etc. The video and audio signals thus obtained are transmitted to the adjustment device 4 provided in the sub adjustment room (for example, SNG relay vehicle) 3 via the main line system.

調整装置4は、スイッチャ、ミキサ及びテレビモニタ等の放送編集機材が組み込まれた複合装置である。各テレビカメラ1で撮影中の映像は、調整装置4のモニタにリアルタイムで表示される。副調整室3のスタッフは、調整装置4のモニタを見ながらスイッチャを切り替えることで、放送に使用する映像や画像を適時に選択することができる。また、調整装置4においては、映像信号のカット、ディゾルブ、ワイプ等の動画像効果や音声信号のミキシング等を行うことができ、中継現場に設けた副調整室3において、放送用番組の編集がほぼ出来上がる。編集された放送用番組素材は、無線中継伝送装置(FPU:Field Pickup Unit)5において、所定のデジタル変調方式のTS(Transport Stream)信号に変換され、マイクロ波アンテナ6を介して放送局(主調整室、送信所など)に伝送される。また、収録番組の制作や再放送のために、副調整室3で編集された放送用番組が、録画装置7などの電子媒体に記録される。   The adjustment device 4 is a complex device in which broadcast editing equipment such as a switcher, a mixer, and a television monitor are incorporated. An image being taken by each television camera 1 is displayed on the monitor of the adjustment device 4 in real time. By switching the switcher while watching the monitor of the adjustment device 4, the staff in the sub adjustment room 3 can select a video and an image to be used for broadcasting in a timely manner. In addition, in the adjustment device 4, moving image effects such as cutting of video signals, dissolves and wipes, mixing of audio signals, etc. can be performed, and editing of a broadcast program is performed in the sub adjustment room 3 provided at the relay site. Almost done. The edited broadcast program material is converted into a TS (Transport Stream) signal of a predetermined digital modulation system in a wireless relay transmission apparatus (FPU: Field Pickup Unit) 5, and the broadcasting station (mainly via a microwave antenna 6) It is transmitted to the coordination room, transmitting station etc.). In addition, a broadcast program edited in the sub adjustment room 3 is recorded on an electronic medium such as the recording device 7 for production and rebroadcast of recorded programs.

また、調整装置4からはタリー信号が発信される。ここで、画像に関する「タリー信号」は、調整装置4のスイッチングにより、どのカメラが撮影した画像(映像)が放送に使用中か否かを示す信号である。また、本明細書において画像又は映像が「使用」されるとは、その画像等が放送番組制作用に選択されることを意味し、その選択された画像等が生放送でリアルタイムに放送される場合のほか、後日放送するために収録(記録)される場合も含む。   Further, a tally signal is transmitted from the adjustment device 4. Here, the “tally signal” relating to an image is a signal indicating which image (video) taken by which camera is being used for broadcasting by switching of the adjustment device 4. Further, in the present specification, “use” of an image or video means that the image or the like is selected for production of a broadcast program, and the selected image or the like is broadcasted in real time in live broadcasting. In addition to this, it also includes the case of being recorded (recorded) for later broadcast.

調整装置4から送信されるタリー信号は、現在放送に使用中であることを示すオンエア・タリー信号と、次に使用されることを示すネクスト・タリー信号とを含む。すなわち、現在選択されているテレビカメラ1(又はCCU2)にはオンエア・タリー信号が送信され、次に選択される予定のテレビカメラ1(又はCCU2)にはネクスト・タリー信号が送信される。テレビカメラ1の上部には、例えば赤色のオンエア・タリーランプと、例えば緑色のネクスト・タリーランプが設けられている。この場合、テレビカメラ1が調整装置4からオンエア・タリー信号を受信すると、赤色のタリーランプが点灯し、ネクスト・タリー信号を受信すると、緑色のタリーランプが点灯する。番組の出演者や制作スタッフは、タリーランプの点灯により、どのカメラが放送に使用されているのかを知ることができる。   The tally signal transmitted from the adjustment device 4 includes an on-air tally signal indicating that it is currently in use for broadcasting, and a next tally signal indicating that it is to be used next. That is, an on-air tally signal is transmitted to the currently selected television camera 1 (or CCU 2), and a next tally signal is transmitted to the television camera 1 (or CCU 2) to be selected next. On the top of the television camera 1, for example, a red on-air tally lamp and a green next-tally lamp are provided. In this case, when the television camera 1 receives the on-air tally signal from the adjustment device 4, the red tally lamp lights up, and when the next tally signal is received, the green tally lamp lights up. Program performers and production staff can know which camera is being used for broadcasting by turning on the tally lamp.

なお、本明細書において「使用中であることを示す」タリー信号は、基本的には上述のオンエア・タリー信号を意味する。また、「使用中でないことを示す」タリー信号は、上述のオンエア・タリー信号及びネクスト・タリー信号の何れでもない非アクティブの信号を意味する。ただし、「使用中でないことを示す」タリー信号がオンエア以外の状態を示す信号(例えばネクスト・タリー信号)を含むものとして解釈してもよい。   In the present specification, the tally signal “indicating that it is in use” basically means the above-mentioned on-air tally signal. Also, a tally signal indicating "not in use" means an inactive signal that is neither the above-described on-air tally signal nor the next tally signal. However, the tally signal indicating “not in use” may be interpreted as including a signal indicating a state other than the on air (for example, a next tally signal).

本実施形態では、携帯型画像表示装置を注視するカメラマン自身がタリー情報を確実に認識できるようにするために、画像の表示態様を変更することで、小型のディスプレイにタリーを表出できるようにした。そこで、次に、そのような本発明に適用できる携帯型又はウェアラブル型の画像表示装置の一例として、ヘッドマウントディスプレイ(以下「HMD」という。)10を説明する。   In this embodiment, the tally can be displayed on a small display by changing the display mode of the image so that the cameraman gazing at the portable image display device can surely recognize the tally information. did. Therefore, as an example of such a portable or wearable image display apparatus applicable to the present invention, a head mounted display (hereinafter referred to as "HMD") 10 will be described.

<HMD(携帯型画像表示装置)の構成>
図2はHMD10の外観を示す斜視図である。HMD10は、装着具11と、連結具12と、表示ユニット13とを備えている。表示ユニット13には、ケーブル14を介してコントロールボックス(以下、「CB」という。)15が接続される。CB15は、ケーブル16を介し、テレビカメラ1や図示しない画像再生プレイヤ等の外部から入力される画像信号に基づいて、表示ユニット13のディスプレイ(液晶パネル25)に画像を表示させる制御装置である。なお、CB15が備える画像表示制御機能(詳細は後述)が表示ユニット13の中に一体的に組み込まれる実施態様であってもよい。
<Configuration of HMD (Portable Image Display Device)>
FIG. 2 is a perspective view showing the appearance of the HMD 10. The HMD 10 includes a mounting tool 11, a connector 12, and a display unit 13. A control box (hereinafter referred to as “CB”) 15 is connected to the display unit 13 via a cable 14. The CB 15 is a control device for displaying an image on the display (liquid crystal panel 25) of the display unit 13 based on an image signal input from the outside such as the television camera 1 or an image reproduction player (not shown) via the cable 16. The embodiment may be an embodiment in which the image display control function (details will be described later) included in the CB 15 is integrally incorporated in the display unit 13.

装着具11は、人間の頭部にフィットするように湾曲した細長い板状部材であり、曲げ弾性又は可撓性を有する金属、樹脂又はそれらの組み合わせた材料によって構成される。より詳細に装着具11は、湾曲部11aと、幅広部11b、11cとを備えている。湾曲部11aは、U字状に湾曲する部分であり、湾曲部11aの左右の端部に幅広部11b、11cが、それぞれ接続している。幅広部11b、11cは、それらの各端部同士が互いに近づく方向にそれぞれ湾曲した形状を有している。幅広部11b、11cには、使用者の頭部に接触する部分に柔軟性を有するパッド材が備えられてもよい。   The mounting tool 11 is an elongated plate-like member that is curved so as to fit the human head, and is made of a metal having a bending elasticity or flexibility, a resin, or a combination thereof. In more detail, the mounting tool 11 includes a curved portion 11a and wide portions 11b and 11c. The curved portion 11a is a portion curved in a U-shape, and the wide portions 11b and 11c are connected to the left and right ends of the curved portion 11a, respectively. The wide portions 11 b and 11 c have shapes curved in the direction in which their respective ends approach each other. The wide portions 11 b and 11 c may be provided with a pad material having flexibility at a portion in contact with the head of the user.

装着具11は、左右の各幅広部11b、11cが互いに離間する方向に力が加えられると、主として湾曲部11aの全体が開くように弾性変形する。この状態で、使用者の前頭部に湾曲部11aの内側面を当接させ、左右各側頭部に幅広部11b、11cの各内側面を当接させることで、装着具11が使用者の頭部にフィットする。   When a force is applied in a direction in which the left and right wide portions 11b and 11c separate from each other, the mounting tool 11 is elastically deformed so that the entire curved portion 11a mainly opens. In this state, the mounting tool 11 is a user by bringing the inner surface of the curved portion 11a into contact with the forehead of the user and bringing the inner surfaces of the wide portions 11b and 11c into contact with the left and right side heads. Fit on the head of

装着具11の幅広部11c側(使用者の左眼側)には、例えば3自由度の球面継手22を介して、連結具12が回動自在に設けられている。連結具12は、例えば硬質の樹脂等により形成される棒状部材である。連結具12の先端部には、同じく例えば3自由度の球面継手23を介して表示ユニット13が設けられている。この構成によりHMD10は、装着具11が使用者の頭部に装着した状態で、使用者の左眼前側に、表示ユニット13を配置することができる。   A connector 12 is rotatably provided, for example, via a spherical joint 22 having three degrees of freedom on the side of the wide portion 11 c of the mounting tool 11 (the side of the user's left eye). The connector 12 is a rod-like member formed of, for example, a hard resin or the like. A display unit 13 is provided at the tip of the connector 12 similarly via, for example, a spherical joint 23 with three degrees of freedom. With this configuration, the HMD 10 can arrange the display unit 13 in front of the left eye of the user while the mounting tool 11 is mounted on the head of the user.

表示ユニット13は、中空箱状の筐体を有し、小型のカラーディスプレイである液晶パネル25が筐体の中に収容されている。液晶パネル25の画素サイズは、例えば1280×720ピクセルである。筐体の後端部には、液晶パネル25の表示面に臨むようにして、透明な板部材で覆われた開口窓(図示省略)が設けられている。HMD10を装着した使用者は、この開口窓を通して、筐体内部の液晶パネル25が表示する画像を視認することができる。   The display unit 13 has a hollow box-like housing, and a liquid crystal panel 25 which is a small color display is housed in the housing. The pixel size of the liquid crystal panel 25 is, for example, 1280 × 720 pixels. At the rear end portion of the housing, an opening window (not shown) covered with a transparent plate member is provided to face the display surface of the liquid crystal panel 25. The user wearing the HMD 10 can visually recognize the image displayed by the liquid crystal panel 25 inside the housing through the opening window.

また、本実施形態によるHMD10は、フィールドシーケンシャル方式(以下、「FS方式」という。)により、液晶パネル25にカラー画像を表示可能とされている。FS方式は、時分割による混色を利用したカラー表示方式である。すなわち、FS方式では、赤(R)、緑(G)、青(B)の各光をフィールド間周期毎に順次切り替えて発光させ、且つ、その切り替えの速さを人間の目の時間的分解能を越えた速さとすることによって、人間の眼にRGBの色が混色して認識される。
しかし、FS方式においては、ディスプレイが揺れた場合などに、カラーブレイキング(色割れ)という表示現象が発生することが知られている。カラーブレイキングは、順次表示されるRGB各色の画像が、眼球の視神経上の制約、又は人間の脳の画像認識の感覚などの要因でうまく混ざり合わないことによって発生するものと考えられている。カラーブレイキングが発生した場合、RGB各色の画像が残像等として視認され、使用者の視認性を低下させるおそれがある。
そのため、本実施形態のHMD10においては、後述するように、ディスプレイの動きの量(移動量や加速度等)が所定の閾値を超えたときなどカラーブレイキングが発生する可能性が生じた場合に、出力方式を他の方式に切り替えることで、使用者の視認性の低下を抑制する対策が採られている。
Further, the HMD 10 according to the present embodiment is capable of displaying a color image on the liquid crystal panel 25 by the field sequential method (hereinafter, referred to as “FS method”). The FS method is a color display method using color mixing by time division. That is, in the FS method, each light of red (R), green (G) and blue (B) is sequentially switched for each inter-field cycle to emit light, and the switching speed is temporal resolution of human eyes The RGB color is perceived as mixed in the human eye by setting the speed beyond.
However, in the FS method, it is known that the display phenomenon of color breakup occurs when the display shakes or the like. Color breaking is considered to be generated when images of RGB colors displayed sequentially do not mix well due to factors such as restrictions on the optic nerve of the eye or a sense of image recognition of the human brain. When color breaking occurs, an image of each color of RGB is visually recognized as an afterimage or the like, which may reduce the visibility of the user.
Therefore, in the HMD 10 of the present embodiment, as described later, an output occurs when color breaking may occur, for example, when the amount of movement of the display (movement amount, acceleration, etc.) exceeds a predetermined threshold. By switching the method to another method, measures have been taken to suppress a drop in the visibility of the user.

<HMD(携帯型画像表示装置)における画像表示制御回路>
図3にHMD10における画像表示制御回路のブロック図を示す。同図において、テレビカメラ1で撮影中の画像信号は、CCU2及びCB15に入力される。CCU2には、副調整室3のスイッチャ等から送り返し系統を介して当該テレビカメラ1のモニタリング画像信号が伝送され、その画像信号がテレビカメラ1に入力される。CB15の画像信号入力部152は、テレビカメラ1から出力されるデジタルの画像信号又はCCU2を介して伝送されたモニタリング画像信号を取得するよう構成されている。なお、CB15をCCU2に接続し、テレビカメラ1で撮影中の画像信号又は副調整室3から送り返されたモニタリング画像の画像信号を、CB15がCCU2を介して取り込むものでもよい。また、CB15の画像信号取得部は、画像信号としてアナログのRGB信号又はコンポジェット信号(例えばNTSC、PAL、SCAM等)を取得可能なものでもよい(図示省略)。
<Image Display Control Circuit in HMD (Portable Image Display Device)>
FIG. 3 shows a block diagram of an image display control circuit in the HMD 10. As shown in FIG. In the figure, an image signal being captured by the television camera 1 is input to the CCU 2 and CB 15. A monitoring image signal of the television camera 1 is transmitted to the CCU 2 from a switcher or the like in the sub adjustment room 3 via a return system, and the image signal is input to the television camera 1. The image signal input unit 152 of the CB 15 is configured to acquire a digital image signal output from the television camera 1 or a monitoring image signal transmitted via the CCU 2. Alternatively, the CB 15 may be connected to the CCU 2, and the CB 15 may capture an image signal being captured by the television camera 1 or an image signal of a monitoring image sent back from the sub adjustment chamber 3 via the CCU 2. Further, the image signal acquisition unit of the CB 15 may be one capable of acquiring an analog RGB signal or a compojet signal (for example, NTSC, PAL, SCAM, etc.) as an image signal (not shown).

CCU2で取得された画像信号は、復調部155で画像データに復号化され、1フレーム毎の画像データがフレームバッファ157に一旦格納される。また、CPU151は、副調整室3から送信されたタリー信号を、CCU2を経由して取得する。なお、副調整室3から送信されるモニタリング画像信号にタリー等の各種制御情報が多重化されている場合には、復調部155が復号したデータからCPU151がタリー信号を取得してもよい。   The image signal acquired by the CCU 2 is decoded into image data by the demodulation unit 155, and image data for each frame is temporarily stored in the frame buffer 157. Also, the CPU 151 acquires the tally signal transmitted from the sub adjustment chamber 3 via the CCU 2. When various control information such as tally is multiplexed with the monitoring image signal transmitted from the sub adjustment chamber 3, the CPU 151 may acquire the tally signal from the data decoded by the demodulator 155.

フレーム加工部156は、CPU151の制御下で、フレームバッファ157の1フレームの画像データに対して画像処理加工を行う。フレーム加工部156において、具体的に例えば、液晶パネル25の画面サイズ(解像度)やアスペクト比等に適合するように、画像のサイズ変更(拡大/縮小)や位置の移動等の処理が行われる。また後述するように、CPU151は、フレーム加工部156を制御して、取得したタリー信号に基づいて液晶パネル25に表示する画像のサイズを変更する処理を行うことができる。また、フレーム加工部156は、画像信号に多重化された複数のモニタリング画像やカメラ制御情報を、例えばマルチウインドウで表示させるような処理を行うこともできる。   The frame processing unit 156 performs image processing on the image data of one frame of the frame buffer 157 under the control of the CPU 151. In the frame processing unit 156, processing such as size change (enlargement / reduction) of an image, movement of a position, or the like is performed so as to specifically fit, for example, the screen size (resolution) or aspect ratio of the liquid crystal panel 25. As described later, the CPU 151 can control the frame processing unit 156 to change the size of the image displayed on the liquid crystal panel 25 based on the acquired tally signal. The frame processing unit 156 can also perform processing such as displaying a plurality of monitoring images and camera control information multiplexed in an image signal in, for example, a multi-window.

フレーム加工部156で処理された画像データは、Y/C分離部158により輝度(Y)と、色(C)の情報に分離される。輝度調整部161は、予め設定された液晶パネル25の明るさやコントラスト等に適合する値に輝度を調整する。また後述するように、CPU151は、輝度調整部161を制御し、取得したタリー信号に基づいて画像の輝度を変更することができる。色補正部162は、予め設定された色相、彩度、カラーバランスに画像の色を補正する。   The image data processed by the frame processing unit 156 is separated by the Y / C separation unit 158 into information of luminance (Y) and color (C). The brightness adjustment unit 161 adjusts the brightness to a value adapted to the brightness, contrast, and the like of the liquid crystal panel 25 set in advance. Further, as described later, the CPU 151 can control the luminance adjustment unit 161 and change the luminance of the image based on the acquired tally signal. The color correction unit 162 corrects the color of the image to a preset hue, saturation, and color balance.

ビデオ信号生成部163は、調整された輝度データと色データをD/A変換し、アナログのコンポジェット信号に変換する。変換生成された画像信号は、ビデオ信号出力部164からケーブル14を介して表示ユニット13に出力される。また、ビデオ信号出力部164は、例えばHDMI(登録商標)規格でフォーマット変換したデジタルの画像信号を表示ユニット13に出力するものでもよい。   The video signal generation unit 163 D / A converts the adjusted luminance data and color data, and converts the data into an analog compojet signal. The converted and generated image signal is output from the video signal output unit 164 to the display unit 13 via the cable 14. Further, the video signal output unit 164 may output, to the display unit 13, a digital image signal which has been format converted in accordance with, for example, the HDMI (registered trademark) standard.

次に、表示ユニット13において、画像信号は、Y/C分離部132で輝度及びRGBのコンポーネント色信号に分離される。処理部(例えばPLD:Programmable Logic Device)131は、RGB出力部133を制御して、コンポーネント色信号に基づき、上述したFS方式によりドライバ134を駆動することで、液晶パネル25にカラーの画像を表示する。   Next, in the display unit 13, the image signal is separated into luminance and RGB component color signals by the Y / C separation unit 132. The processing unit (for example, PLD: Programmable Logic Device) 131 controls the RGB output unit 133 to drive the driver 134 by the above-described FS method based on the component color signal, thereby displaying a color image on the liquid crystal panel 25 Do.

ここで、図4Aには、FS方式による、垂直同期信号(Vsync)、及び、R、G、Bのそれぞれのコンポーネント色信号の出力タイミングチャートが示される。同図に示されるように、FS方式では、フィールド間の切り替え周期T1毎に、R、G、Bのそれぞれの光が順次切り替えられて出力され、これにより液晶パネル25にカラーの画像が再現される。   Here, FIG. 4A shows an output timing chart of the vertical synchronization signal (Vsync) and component color signals of R, G, and B according to the FS method. As shown in the figure, in the FS mode, each light of R, G, and B is sequentially switched and output at each switching period T1 between fields, whereby a color image is reproduced on the liquid crystal panel 25. Ru.

なお、本実施形態のHMD10においては、カラーブレイキングを防ぐために、液晶パネル25の動きの量(移動量、加速度、角速度等)が所定の閾値を超えたときに、液晶パネル25への光信号の出力方式が、FS方式から他の方式に切り替えられる。   In the HMD 10 of the present embodiment, the light signal to the liquid crystal panel 25 is transmitted when the amount of movement (movement amount, acceleration, angular velocity, etc.) of the liquid crystal panel 25 exceeds a predetermined threshold in order to prevent color breaking. The output method is switched from the FS method to another method.

具体的に、例えば図4Bには、他の出力方式の一例である単色表示方式による色信号の出力タイミングチャートが示される。この方式では、例えばG(緑)の光のみが、フィールド周期T2毎に液晶パネル25に出力される。この場合、画像信号は全て緑色の画像に変換されて液晶パネル25に表示される。
HMD10は、この単色表示方式で液晶パネル25に画像を表示させることによって、カラーブレイキングの発生を抑制できる。なぜならば、カラーブレイキングは、順次出力されるRGB各色のタイミングのずれが発生の一要因であるのに対し、この単色表示方式では、他の色とのタイミングのずれがそもそも存在しないからである。
Specifically, for example, FIG. 4B shows an output timing chart of a color signal according to a single color display method which is an example of another output method. In this method, for example, only G (green) light is output to the liquid crystal panel 25 every field period T2. In this case, all the image signals are converted into green images and displayed on the liquid crystal panel 25.
The HMD 10 can suppress the occurrence of color breaking by displaying an image on the liquid crystal panel 25 in this single-color display mode. This is because color breaking is one of the causes of the timing deviation of the RGB colors sequentially output, whereas in this single-color display mode, there is no timing deviation from the other colors in the first place.

また、例えば図4Cには、更に他の出力方式の例である白黒表示方式による色信号の出力タイミングチャートが示される。この方式では、RGB各色の光がフィールド周期T2毎に同時に出力され、これにより元のカラー画像が白黒の画像に変換されて液晶パネル25に表示される。RGB光が同期して出力されるので、各色のタイミングのずれが無く、上述の単色表示方式と同様の理由でカラーブレイキングの発生を抑制できる。   Further, for example, FIG. 4C shows an output timing chart of a color signal according to a black and white display method which is an example of still another output method. In this method, light of each color of RGB is simultaneously output for each field period T 2, whereby the original color image is converted to a black and white image and displayed on the liquid crystal panel 25. Since RGB light is output synchronously, there is no timing shift of each color, and the occurrence of color breaking can be suppressed for the same reason as that of the above-mentioned single-color display method.

また、例えば図4Dには、更に他の出力方式の例である高レート切替方式による色信号の出力タイミングチャートが示される。この方式では、RGB各色信号の切り替え周期T3が、上述のFS方式におけるフィールド間の切り替え周期T1よりも短く設定される。
この高レート切替方式によれば、FS方式よりも短い周期T3(例えばT1の1/2)でRGB各色の光が切り替えられながら出力される。そのため、液晶パネル25がある程度の速さで動いたとしても、HMD10装着者の眼の残像効果によって各色が混ざり合う可能性を高めることができ、カラーブレイキングの発生を抑制することができる。また、FS方式と同様に、R、G、Bのそれぞれの光が順次切り替えられる方式であるため、高い精度で元の画像を再現することもできる。
Further, for example, FIG. 4D shows an output timing chart of a color signal according to a high rate switching method which is an example of still another output method. In this method, the switching cycle T3 of each of the RGB color signals is set to be shorter than the switching cycle T1 between fields in the above-described FS system.
According to this high rate switching method, light of each color of RGB is output while being switched in a cycle T3 (for example, half of T1) shorter than the FS method. Therefore, even if the liquid crystal panel 25 moves at a certain speed, the possibility of mixing the colors can be enhanced by the afterimage effect of the eyes of the HMD 10 wearer, and the occurrence of color breaking can be suppressed. Further, as in the FS method, each light of R, G, and B is sequentially switched, so that the original image can be reproduced with high accuracy.

HMD10の表示ユニット13には、液晶パネル25の動きの量を検出するための動き検出部135が備えられる。動き検出部135としては、例えば加速度センサ、多軸ジャイロセンサ、IMU(Inertial Measurement Unit)等の適宜のセンサを採用することができる。   The display unit 13 of the HMD 10 is provided with a motion detection unit 135 for detecting the amount of motion of the liquid crystal panel 25. As the motion detection unit 135, for example, an appropriate sensor such as an acceleration sensor, a multi-axis gyro sensor, or an IMU (Inertial Measurement Unit) can be adopted.

このように、本実施形態のHMD10においては、表示ユニット13の動きが大きいときなどカラーブレイキングが発生し易い状況を検出し、その際に液晶パネル25の表示方式をFS方式から他の方式に切り替えることで、常に良好な視認性の確保を図っている。   As described above, in the HMD 10 according to the present embodiment, a situation in which color breaking is likely to occur, such as when the movement of the display unit 13 is large, is detected, and the display mode of the liquid crystal panel 25 is switched from the FS mode to another mode. Always trying to ensure good visibility.

<HMD(携帯型画像表示装置)における画像処理>
次に、HMD10において、取得したタリー信号に基づいて画像の表示態様を変更することにより、小型のディスプレイにタリーを表出する実施例をいくつか説明する。
<Image Processing in HMD (Portable Image Display Device)>
Next, in the HMD 10, some embodiments will be described in which tally is displayed on a small display by changing the display mode of the image based on the acquired tally signal.

(第1実施例)
図5は、第1実施例による画像の表示態様変更処理を示すフローチャートである。先ず、CPU151は、テレビカメラ1が出力する現在撮影中の画像の画像信号を取得する(S11)。続いてCPU151は、調整装置4から送信されるタリー信号を取得する(S12)。ステップS13の判断処理で、タリー信号が「使用中でないことを示す」場合には(ステップS13:NO)、その間、CPU151は、フレーム加工部156を制御して、対象画像のサイズを液晶パネル25のフルサイズよりも小さなサイズに縮小する処理を行う(ステップS14)。これにより、例えば図6Aに示すように、放送に使用されていないモニタリング画像が、HMD10の液晶パネル25の所定の位置に縮小して表示される。
(First embodiment)
FIG. 5 is a flowchart showing an image display mode change process according to the first embodiment. First, the CPU 151 acquires an image signal of an image currently being shot which is output from the television camera 1 (S11). Subsequently, the CPU 151 acquires a tally signal transmitted from the adjustment device 4 (S12). If it is determined in step S13 that the tally signal indicates “not in use” (step S13: NO), the CPU 151 controls the frame processing unit 156 to set the size of the target image to the liquid crystal panel 25. A process is performed to reduce the size to a size smaller than the full size (step S14). Thereby, for example, as shown to FIG. 6A, the monitoring image which is not used for broadcast is shrunk | reduced and displayed on the predetermined position of the liquid crystal panel 25 of HMD10.

他方、ステップS13の判断処理で、タリー信号が「使用中であることを示す」場合、つまりオンエア・タリー信号の場合には(ステップS13:YES)、その間、CPU151はフレーム加工部156を制御して、対象画像のサイズを液晶パネル25のフルサイズに拡大する処理を行う(ステップS15)。これにより、例えば図6Bに示すように、放送に使用中のオンエア画像が、HMD10の液晶パネル25に拡大して表示される。   On the other hand, if the tally signal indicates “in use” in the determination process of step S13, that is, if it is an on-air tally signal (step S13: YES), the CPU 151 controls the frame processing unit 156 during that time. Then, the process of enlarging the size of the target image to the full size of the liquid crystal panel 25 is performed (step S15). As a result, for example, as shown in FIG. 6B, the on-air image being used for broadcasting is enlarged and displayed on the liquid crystal panel 25 of the HMD 10.

このように、第1実施例では、HMD10の画像表示制御部であるCPU151が、取得したタリー信号に基づいて、液晶パネル25に表示する画像のサイズを変更する処理を行うようにした。これによりHMD10を装着するカメラマンは、液晶パネル25に表示されている画像の大きさでタリー情報を認識することができる。また、放送に使用中のオンエア画像がHMD10に拡大して表示されるので、HMD10を装着するカメラマンの視認性が低下することもない。   As described above, in the first embodiment, the CPU 151 which is the image display control unit of the HMD 10 performs the process of changing the size of the image displayed on the liquid crystal panel 25 based on the acquired tally signal. Thus, the cameraman wearing the HMD 10 can recognize the tally information by the size of the image displayed on the liquid crystal panel 25. Further, since the on-air image being used for broadcasting is enlarged and displayed on the HMD 10, the visibility of the photographer wearing the HMD 10 is not reduced.

(第2実施例)
図7は、第2実施例による画像の表示態様変更処理を示すフローチャートである。先ず、CPU151は、テレビカメラ1が出力する現在撮影中の画像の画像信号を取得する(S21)。続いてCPU151は、調整装置4から送信されるタリー信号を取得する(S22)。ステップS23の判断処理で、タリー信号が「使用中でないことを示す」場合には(ステップS23:NO)、その間、CPU151は、輝度調整部161を制御して、対象画像の輝度を比較的低い第1輝度に調整し、画像を液晶パネル25に表示する(ステップS24)。これにより、例えば図8Aに示すように、放送に使用されていないモニタリング画像が、HMD10に若干暗く表示される。
Second Embodiment
FIG. 7 is a flowchart showing an image display mode change process according to the second embodiment. First, the CPU 151 acquires an image signal of an image currently being shot which is output from the television camera 1 (S21). Subsequently, the CPU 151 acquires a tally signal transmitted from the adjustment device 4 (S22). If it is determined in step S23 that the tally signal indicates "not in use" (step S23: NO), the CPU 151 controls the brightness adjustment unit 161 to relatively lower the brightness of the target image. The image is adjusted to the first luminance, and an image is displayed on the liquid crystal panel 25 (step S24). As a result, for example, as shown in FIG. 8A, the monitoring image which is not used for broadcasting is displayed slightly dark on the HMD 10.

他方、ステップS23の判断処理で、タリー信号が「使用中であることを示す」場合、つまりオンエア・タリー信号の場合には(ステップS23:YES)、その間、CPU151は輝度調整部161を制御して、対象画像の輝度を比較的高い第2輝度(>第1輝度)に調整し、画像を液晶パネル25に表示する(ステップS25)。これにより、例えば図8Bに示すように、放送に使用中のオンエア画像が、HMD10の液晶パネル25に明るく表示される。   On the other hand, if the tally signal indicates “in use” in the determination process of step S23, that is, if it is an on-air tally signal (step S23: YES), the CPU 151 controls the luminance adjustment unit 161 during that time. The brightness of the target image is adjusted to a relatively high second brightness (> first brightness), and the image is displayed on the liquid crystal panel 25 (step S25). As a result, for example, as shown in FIG. 8B, the on-air image being used for broadcasting is brightly displayed on the liquid crystal panel 25 of the HMD 10.

このように、第2実施例では、HMD10の画像表示制御部であるCPU151が、取得したタリー信号に基づいて、液晶パネル25に表示する画像の輝度を変更する処理を行うようにした。これによりHMD10を装着するカメラマンは、液晶パネル25に表示されている画像の明るさでタリー情報を認識することができる。また、放送に使用中のオンエア画像がHMD10に明るく表示されるので、HMD10を装着するカメラマンの視認性が低下することもない。また、非使用時に輝度を下げることで、HMD10のトータルの消費電力を抑えることができる。したがって、HMD10のバッテリー駆動時間を延ばすことができる。   As described above, in the second embodiment, the CPU 151 which is the image display control unit of the HMD 10 performs the process of changing the luminance of the image displayed on the liquid crystal panel 25 based on the acquired tally signal. Thus, the cameraman wearing the HMD 10 can recognize the tally information by the brightness of the image displayed on the liquid crystal panel 25. Further, since the on-air image being used for broadcasting is displayed brightly on the HMD 10, the visibility of the photographer wearing the HMD 10 is not reduced. In addition, by reducing the luminance when not in use, the total power consumption of the HMD 10 can be suppressed. Therefore, the battery drive time of the HMD 10 can be extended.

(第3実施例)
図9は、第3実施例による画像の表示態様変更処理を示すフローチャートである。先ず、CPU151は、テレビカメラ1が出力する現在撮影中の画像の画像信号を取得する(S31)。続いてCPU151は、調整装置4から送信されるタリー信号を取得する(S32)。ステップS33の判断処理で、タリー信号が「使用中でないことを示す」場合には(ステップS33:NO)、その間、CPU151は、色補正部162を制御して、モノクロの画像を液晶パネル25に表示する(ステップS34)。これにより、例えば図10Aに示すように、放送に使用されていないモニタリング画像が、HMD10にモノクロで表示される。
Third Embodiment
FIG. 9 is a flowchart showing an image display mode change process according to the third embodiment. First, the CPU 151 acquires an image signal of an image currently being shot which is output from the television camera 1 (S31). Subsequently, the CPU 151 acquires a tally signal transmitted from the adjustment device 4 (S32). If it is determined in step S33 that the tally signal indicates "not in use" (step S33: NO), the CPU 151 controls the color correction unit 162 to display a monochrome image on the liquid crystal panel 25. It displays (step S34). As a result, for example, as shown in FIG. 10A, a monitoring image not used for broadcasting is displayed on the HMD 10 in monochrome.

他方、ステップS33の判断処理で、タリー信号が「使用中であることを示す」場合、つまりオンエア・タリー信号の場合には(ステップS33:YES)、その間、CPU151は、例えば図10Bに示すようにカラーの画像を液晶パネル25に表示する(ステップS35)。   On the other hand, if the tally signal indicates “in use” in the determination process of step S33, that is, if it is an on-air tally signal (step S33: YES), the CPU 151 is shown in FIG. The color image is displayed on the liquid crystal panel 25 (step S35).

このように、第3実施例では、HMD10の画像表示制御部であるCPU151が、取得したタリー信号に基づいて、液晶パネル25に表示する画像の色を変更する処理を行うようにした。これによりHMD10を装着するカメラマンは、液晶パネル25に表示されている画像の色でタリー情報を認識することができる。また、放送に使用中の画像をHMD10にカラーで表示すれば、オンエア画像の良好な視認性を維持することができる。また、非使用時にモノクロ表示にすることで、HMD10のトータルの消費電力を抑えることができる。したがって、HMD10のバッテリー駆動時間を延ばすことができる。   As described above, in the third embodiment, the CPU 151 which is the image display control unit of the HMD 10 performs the process of changing the color of the image displayed on the liquid crystal panel 25 based on the acquired tally signal. As a result, the photographer wearing the HMD 10 can recognize the tally information by the color of the image displayed on the liquid crystal panel 25. In addition, if the image being used for broadcasting is displayed in color on the HMD 10, good visibility of the on-air image can be maintained. Also, by displaying in monochrome when not in use, the total power consumption of the HMD 10 can be suppressed. Therefore, the battery drive time of the HMD 10 can be extended.

(第4実施例)
図11は、第4実施例による画像の表示態様変更処理を示すフローチャートである。先ず、CPU151は、テレビカメラ1が出力する現在撮影中の画像の画像信号を取得する(S41)。続いてCPU151は、調整装置4から送信されるタリー信号を取得する(S42)。ステップS43の判断処理で、タリー信号が「使用中でないことを示す」場合には(ステップS43:NO)、CPU151は、例えば図12Aに示すように、取得した画像信号に基づく画像をそのまま液晶パネル25に表示する(ステップS44)。
Fourth Embodiment
FIG. 11 is a flowchart showing an image display mode change process according to the fourth embodiment. First, the CPU 151 acquires an image signal of an image currently being shot which is output from the television camera 1 (S41). Subsequently, the CPU 151 acquires a tally signal transmitted from the adjustment device 4 (S42). In the determination process of step S43, when the tally signal indicates “not in use” (step S43: NO), the CPU 151 directly displays the image based on the acquired image signal as it is as shown in FIG. 12A. 25 is displayed (step S44).

他方、ステップS43の判断処理で、タリー信号が「使用中であることを示す」場合、つまりオンエア・タリー信号の場合には(ステップS43:YES)、その間、CPU151はフレーム加工部156を制御して、対象画像の周辺部に帯状の枠を重畳する画像処理を行う(ステップS45)。これにより、例えば図12Bに示すように帯状の枠で囲まれるオンエア画像が、HMD10の液晶パネル25に表示される。   On the other hand, if the tally signal indicates “in use” in the determination processing of step S43, that is, if it is an on-air tally signal (step S43: YES), the CPU 151 controls the frame processing unit 156 during that time. Then, image processing is performed to superpose a band-like frame on the periphery of the target image (step S45). Thus, for example, an on-air image surrounded by a band-like frame as shown in FIG. 12B is displayed on the liquid crystal panel 25 of the HMD 10.

第4実施例の変形例として、画像周辺部の一部の表示態様のみを変更してもよい。例えば図13に示すように、オンエア画像の上端部に帯を重畳し、それを背景にテロップなどでオンエア中であることを表示してもよい。また画像の周辺部の帯又は帯状の枠を点滅等させてタリーを認識させてもよい。更に、使用時と非使用時との間で、画像の周辺部の色を変更してタリーを表出してもよい。
なお、オンエア画像の周辺部に重畳される帯又は帯状の枠をシースルーで表示することで、当該周辺部の画像を、帯を通して透けて見えるようにしてもよい。
As a modification of the fourth embodiment, only the display mode of a part of the image peripheral portion may be changed. For example, as shown in FIG. 13, a band may be superimposed on the upper end portion of the on-air image, and it may be displayed that the on-air is on with a telop or the like as a background. Further, the tally may be recognized by blinking a band or a band-like frame at the periphery of the image. Furthermore, the tally may be exposed by changing the color of the peripheral portion of the image between in-use and non-in-use.
Note that by displaying a band or a band-like frame superimposed on the periphery of the on-air image in a see-through manner, the image of the periphery may be seen through the band.

このように、第4実施例では、HMD10の画像表示制御部であるCPU151が、使用中であることを示すタリー信号を取得する間、オンエア画像の周辺部の表示態様を変更する画像処理を行うようにした。これによりHMD10を装着するカメラマンは、画像に重畳された帯又は帯状の枠の有無で、タリー情報を認識することができる。また、オンエア画像の視認性が低下することもない。   As described above, in the fourth embodiment, the CPU 151 which is the image display control unit of the HMD 10 performs the image processing for changing the display mode of the peripheral portion of the on-air image while acquiring the tally signal indicating that it is in use. I did it. Thus, the cameraman wearing the HMD 10 can recognize the tally information based on the presence or absence of a band or a band-like frame superimposed on the image. In addition, the visibility of the on-air image is not reduced.

以上説明した複数の実施例及び変形例によれば、取得したタリー信号に基づいて、画像の表示態様を変更することにより、本来の画像とともにタリー情報を表出するようにした。これにより、小型のディスプレイであるHMD10であっても、本来の画像の表示領域が侵食されずに、使用者(カメラマン)にタリー情報を確実に認識させることができる。   According to the plurality of embodiments and modifications described above, the tally information is displayed together with the original image by changing the display mode of the image based on the acquired tally signal. As a result, even in the case of the HMD 10 which is a small display, the user (photographer) can reliably recognize the tally information without eroding the display area of the original image.

なお、タリー信号に基づいて変更される画像の表示態様は、以上説明した複数の実施例及び変形例には限定されない。ただし、これらのような表示態様の変更を2つ以上組み合わせて、タリー情報をディスプレイに表出するものでもよい。また、オンエア・タリー信号を取得した場合と、ネクスト・タリー信号を取得した場合で、画像の表示態様を異なるものに変更してもよい。また、タリー以外の情報(例えば緊急速報やコマーシャル中など)を、画像の表示態様を変更することでディスプレイに表出してもよい。   In addition, the display mode of the image changed based on the tally signal is not limited to the plurality of examples and modifications described above. However, tally information may be displayed on the display by combining two or more of these display mode changes. In addition, the display mode of the image may be changed to different ones when the on-air tally signal is acquired and when the next tally signal is acquired. In addition, information other than tally (for example, in an emergency alert or during a commercial) may be displayed on the display by changing the display mode of the image.

また、HMDの装着具は以上説明した構成に限定されず、帽子やヘルメットなどに装着するアタッチメントのような構成でもよいし、メガネのフレームのような構成でもよい。このように使用者の頭部に装着されるHMDは、装着性の観点から表示ユニットも小型化されており、その表示領域も小さくなる傾向にある。しかし、本発明によれば、このようなHMDであっても画像の視認性が低下することなく使用者にタリー情報を確実に認識させることができる。更に、本発明は、上述のHMDだけでなく、携帯電話や小型液晶モニタ等の携帯型又はウェアラブルの汎用ディスプレイにも適用することができる。   Further, the mounting tool for the HMD is not limited to the above-described configuration, and may have a configuration such as an attachment mounted on a hat, a helmet, or the like, or may have a configuration such as a frame of glasses. As described above, in the HMD mounted on the head of the user, the display unit is also miniaturized from the viewpoint of the mountability, and the display area also tends to be reduced. However, according to the present invention, even with such an HMD, tally information can be surely recognized by the user without lowering the visibility of the image. Furthermore, the present invention can be applied not only to the above-described HMD, but also to portable or wearable general purpose displays such as mobile phones and small liquid crystal monitors.

1 テレビカメラ
2 カメラコントロールユニット(CCU)
3 副調整室
4 調整装置
10 ヘッドマウントディスプレイ(HMD)
11 装着具
12 連結具
13 表示ユニット
14 ケーブル
15 コントロールボックス(CB)
25 液晶パネル(ディスプレイ)
131 処理部(PLD)
132 Y/C分離部
133 RGB出力部
134 ドライバ
135 動き検出部
151 CPU
152 画像信号入力部
155 復調部
156 フレーム加工部
157 フレームバッファ
158 Y/C分離部
161 輝度調整部
162 色補正部
163 ビデオ信号生成部
164 ビデオ信号出力部
1 Television camera 2 Camera control unit (CCU)
3 Sub adjustment room 4 Adjustment device 10 Head mounted display (HMD)
11 mounting tool 12 connecting tool 13 display unit 14 cable 15 control box (CB)
25 LCD panel (display)
131 processing unit (PLD)
132 Y / C separation unit 133 RGB output unit 134 driver 135 motion detection unit 151 CPU
152 image signal input unit 155 demodulation unit 156 frame processing unit 157 frame buffer 158 Y / C separation unit 161 luminance adjustment unit 162 color correction unit 163 video signal generation unit 164 video signal output unit

Claims (13)

画像信号を取得する画像信号取得部と、前記画像信号に基づく画像を表示するディスプレイと、前記ディスプレイに表示する画像の表示制御を行う画像表示制御部と、前記画像に関するタリー信号を取得するタリー信号取得部とを備える携帯型画像表示装置であって、
前記画像表示制御部が、取得した前記タリー信号に基づいて、前記ディスプレイに表示する前記画像の表示態様を変更する処理を行う携帯型画像表示装置。
An image signal acquisition unit that acquires an image signal, a display that displays an image based on the image signal, an image display control unit that controls display of an image displayed on the display, and a tally signal that acquires a tally signal related to the image A portable image display device including an acquisition unit;
The portable image display apparatus, wherein the image display control unit performs processing of changing a display mode of the image displayed on the display based on the acquired tally signal.
使用者の頭部に装着するための装着具を備えるヘッドマウントディスプレイである、請求項1に記載の携帯型画像表示装置。   The portable image display device according to claim 1, which is a head mounted display provided with a mounting tool for mounting on a head of a user. 前記画像表示制御部が前記タリー信号に基づいて前記画像のサイズを変更する処理を行う、請求項1又は2に記載の携帯型画像表示装置。   The portable image display device according to claim 1, wherein the image display control unit performs a process of changing the size of the image based on the tally signal. 前記画像表示制御部が、使用中であることを示すタリー信号を取得する間、前記画像のサイズを拡大する処理を行う、請求項1〜3の何れかに記載の携帯型画像表示装置。   The portable image display device according to any one of claims 1 to 3, wherein the image display control unit performs a process of enlarging the size of the image while acquiring a tally signal indicating that the image display control unit is in use. 前記画像表示制御部が、使用中でないことを示すタリー信号を取得する間、前記画像のサイズを縮小する処理を行う、請求項1〜4の何れかに記載の携帯型画像表示装置。   The portable image display apparatus according to any one of claims 1 to 4, wherein the process of reducing the size of the image is performed while the image display control unit acquires a tally signal indicating that the image display control unit is not in use. 前記画像表示制御部が前記タリー信号に基づいて前記画像の輝度を変更する処理を行う、請求項1〜5の何れかに記載の携帯型画像表示装置。   The portable image display apparatus according to any one of claims 1 to 5, wherein the image display control unit performs a process of changing the luminance of the image based on the tally signal. 前記画像表示制御部が前記タリー信号に基づいて前記画像の周辺部の表示態様を変更する処理を行う、請求項1〜6の何れかに記載の携帯型画像表示装置。   The portable image display apparatus according to any one of claims 1 to 6, wherein the image display control unit performs a process of changing the display mode of the peripheral portion of the image based on the tally signal. 前記画像表示制御部が、使用中であることを示すタリー信号を取得する間、前記画像の周辺部を点滅させる処理を行う、請求項7に記載の携帯型画像表示装置。   8. The portable image display device according to claim 7, wherein while the image display control unit acquires a tally signal indicating that it is in use, the image display control unit blinks a peripheral portion of the image. 前記画像表示制御部が前記タリー信号に基づいて前記画像の色を変更する処理を行う、請求項1〜8の何れかに記載の携帯型画像表示装置。   The portable image display apparatus according to any one of claims 1 to 8, wherein the image display control unit performs a process of changing the color of the image based on the tally signal. 前記画像表示制御部が前記タリー信号に基づいて前記画像の周辺部の色を変更する処理を行う、請求項9に記載の携帯型画像表示装置。   The portable image display device according to claim 9, wherein the image display control unit performs a process of changing a color of a peripheral portion of the image based on the tally signal. 前記画像表示制御部が、使用中でないことを示すタリー信号を取得する間、前記画像を単色で前記ディスプレイに表示し、使用中であることを示すタリー信号を取得する間、前記画像の表示を多色表示に切り替える処理を行う、請求項1〜10の何れかに記載の携帯型画像表示装置。   While the image display control unit acquires a tally signal indicating that it is not in use, it displays the image in a single color on the display, and while acquiring a tally signal indicating that it is in use, displaying the image is performed. The portable image display device according to any one of claims 1 to 10, which performs processing of switching to multi-color display. 前記ディスプレイの動きを検出する検出部を更に備え、
前記ディスプレイが、RGBの各光を時分割で出力するフィールドシーケンシャル方式で前記画像を表示し、前記検出部で検出された当該ディスプレイの動きの量が所定の閾値を超えたとき、他の方式に切り替えて前記画像を表示するように構成されている、請求項1〜8の何れかに記載の携帯型画像表示装置。
And a detection unit that detects the movement of the display.
When the display displays the image in a field sequential method of outputting each light of RGB in a time division manner, and the amount of movement of the display detected by the detection unit exceeds a predetermined threshold, another method is used. The portable image display device according to any one of claims 1 to 8, which is configured to switch and display the image.
画像表示制御部の演算処理により、画像信号に基づく画像を携帯型画像表示装置に表示する画像表示制御方法であって、
前記画像表示制御部による演算処理が、
前記画像信号を取得するステップと、
前記画像に関するタリー信号を取得するステップと、
前記タリー信号が使用中でないことを示す間、第1表示態様で前記画像を前記ディスプレイに表示するステップと、
前記タリー信号が使用であることを示す間、前記第1表示態様とは異なる第2表示態様で前記画像を前記ディスプレイに表示するステップと
を含む画像表示制御方法。
An image display control method for displaying an image based on an image signal on a portable image display device by arithmetic processing of an image display control unit, comprising:
Arithmetic processing by the image display control unit is
Acquiring the image signal;
Obtaining a tally signal for the image;
Displaying the image on the display in a first display mode while the tally signal indicates that it is not in use;
Displaying the image on the display in a second display mode different from the first display mode while the tally signal indicates use.
JP2017183097A 2017-09-23 2017-09-23 Portable image display device and image display control method Expired - Fee Related JP6801618B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017183097A JP6801618B2 (en) 2017-09-23 2017-09-23 Portable image display device and image display control method
PCT/JP2018/034373 WO2019059150A1 (en) 2017-09-23 2018-09-18 Portable image display device and image display control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017183097A JP6801618B2 (en) 2017-09-23 2017-09-23 Portable image display device and image display control method

Publications (2)

Publication Number Publication Date
JP2019060913A true JP2019060913A (en) 2019-04-18
JP6801618B2 JP6801618B2 (en) 2020-12-16

Family

ID=65810701

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017183097A Expired - Fee Related JP6801618B2 (en) 2017-09-23 2017-09-23 Portable image display device and image display control method

Country Status (2)

Country Link
JP (1) JP6801618B2 (en)
WO (1) WO2019059150A1 (en)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10173962A (en) * 1996-12-13 1998-06-26 Canon Inc Image pickup device and image processor
JP2000152075A (en) * 1998-11-11 2000-05-30 Nippon Hoso Kyokai <Nhk> Virtual secondary adjustment device
JP2000350061A (en) * 1999-06-02 2000-12-15 Sony Corp Method and device for displaying electronic finder
JP2014145889A (en) * 2013-01-29 2014-08-14 Seiko Epson Corp Image display device
WO2016194232A1 (en) * 2015-06-05 2016-12-08 日立マクセル株式会社 Video display device and control method

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10173962A (en) * 1996-12-13 1998-06-26 Canon Inc Image pickup device and image processor
JP2000152075A (en) * 1998-11-11 2000-05-30 Nippon Hoso Kyokai <Nhk> Virtual secondary adjustment device
JP2000350061A (en) * 1999-06-02 2000-12-15 Sony Corp Method and device for displaying electronic finder
JP2014145889A (en) * 2013-01-29 2014-08-14 Seiko Epson Corp Image display device
WO2016194232A1 (en) * 2015-06-05 2016-12-08 日立マクセル株式会社 Video display device and control method

Also Published As

Publication number Publication date
WO2019059150A1 (en) 2019-03-28
JP6801618B2 (en) 2020-12-16

Similar Documents

Publication Publication Date Title
US10437069B2 (en) Display control device, display control method, and computer program
RU2602363C2 (en) Display system, display device and relay device
CN105684074B (en) Image display device, image display method, image output device, image output method, and image display system
US10534428B2 (en) Image processing device and image processing method, display device and display method, and image display system
US20070002130A1 (en) Method and apparatus for maintaining eye contact during person-to-person video telecommunication
CN105872529A (en) Virtual reality switching method and device of virtual reality head-mounted display
WO2005025219A3 (en) Video communications method and system
JP2010050645A (en) Image processor, image processing method, and image processing program
EP3596527A1 (en) Display of the field of view of a video camera in the field of view of a head-wearable display device
WO2016072131A1 (en) Headmount display and brightness adjustment method
JP5464130B2 (en) Information display system, apparatus, method and program
JP2012173683A (en) Display control device, information display apparatus, and display control method
JP6678313B2 (en) Image display system, image display device, and image display method
JP2011205383A (en) Communication device
WO2015087582A1 (en) Image processing device, display device, image pickup device, and image processing method and program
JP6801618B2 (en) Portable image display device and image display control method
US20070229708A1 (en) Video signal combining apparatus and method
JP3277109B2 (en) Image display device
US20060221200A1 (en) Display device and portable imaging device
JP2012100159A (en) Video display device and television receiver
WO2018061401A1 (en) Head-mounted display
JP2020145612A (en) Image processing apparatus, image processing system, image processing method, and program
US20240066394A1 (en) Information processing apparatus and image generation method
JPH10187127A (en) Display device
JP2006165664A (en) Image transmission/reception system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200304

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200408

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200923

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201015

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201027

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201109

R150 Certificate of patent or registration of utility model

Ref document number: 6801618

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees