WO2019150489A1 - 光通信を利用した大容量のサプリメンタルダウンリンクを可能とする通信システム、表示制御装置、通信端末及びプログラム - Google Patents

光通信を利用した大容量のサプリメンタルダウンリンクを可能とする通信システム、表示制御装置、通信端末及びプログラム Download PDF

Info

Publication number
WO2019150489A1
WO2019150489A1 PCT/JP2018/003220 JP2018003220W WO2019150489A1 WO 2019150489 A1 WO2019150489 A1 WO 2019150489A1 JP 2018003220 W JP2018003220 W JP 2018003220W WO 2019150489 A1 WO2019150489 A1 WO 2019150489A1
Authority
WO
WIPO (PCT)
Prior art keywords
unit
video
communication
display
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/JP2018/003220
Other languages
English (en)
French (fr)
Inventor
筒井 多圭志
歩 矢吹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SoftBank Corp
Original Assignee
SoftBank Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SoftBank Corp filed Critical SoftBank Corp
Priority to PCT/JP2018/003220 priority Critical patent/WO2019150489A1/ja
Priority to JP2019568477A priority patent/JP7082994B2/ja
Priority to CN201880088271.3A priority patent/CN111670548B/zh
Publication of WO2019150489A1 publication Critical patent/WO2019150489A1/ja
Priority to US16/941,575 priority patent/US11546655B2/en
Anticipated expiration legal-status Critical
Priority to US17/985,162 priority patent/US11871074B2/en
Ceased legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223Cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B10/00Transmission systems employing electromagnetic waves other than radio-waves, e.g. infrared, visible or ultraviolet light, or employing corpuscular radiation, e.g. quantum communication
    • H04B10/11Arrangements specific to free-space transmission, i.e. transmission through air or vacuum
    • H04B10/114Indoor or close-range type systems
    • H04B10/116Visible light communication
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B7/00Radio transmission systems, i.e. using radiation field
    • H04B7/02Diversity systems; Multi-antenna system, i.e. transmission or reception using multiple antennas
    • H04B7/04Diversity systems; Multi-antenna system, i.e. transmission or reception using multiple antennas using two or more spaced independent antennas
    • H04B7/0413MIMO systems
    • H04B7/0456Selection of precoding matrices or codebooks, e.g. using matrices antenna weighting
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/4104Peripherals receiving signals from specially adapted client devices
    • H04N21/4122Peripherals receiving signals from specially adapted client devices additional display device, e.g. video projector
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/4104Peripherals receiving signals from specially adapted client devices
    • H04N21/4126The peripheral being portable, e.g. PDAs or mobile phones
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4312Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
    • H04N21/4316Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations for displaying supplemental content in a region of the screen, e.g. an advertisement in a separate window
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/436Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
    • H04N21/4363Adapting the video stream to a specific local network, e.g. a Bluetooth® network
    • H04N21/43632Adapting the video stream to a specific local network, e.g. a Bluetooth® network involving a wired protocol, e.g. IEEE 1394
    • H04N21/43635HDMI
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/436Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
    • H04N21/4363Adapting the video stream to a specific local network, e.g. a Bluetooth® network
    • H04N21/43637Adapting the video stream to a specific local network, e.g. a Bluetooth® network involving a wireless protocol, e.g. Bluetooth®, RF or wireless LAN [IEEE 802.11]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof
    • H04N9/3194Testing thereof including sensor feedback
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W72/00Local resource management
    • H04W72/20Control channels or signalling for resource management
    • H04W72/23Control channels or signalling for resource management in the downlink direction of a wireless link, i.e. towards a terminal

Definitions

  • the present invention relates to a communication system, a display control device, a communication terminal, and a program.
  • Patent Document 1 International Publication No. 2014/103329
  • PureLiFi is trying to achieve ultra-high-speed gigabit communication using a high-speed laser that is too hard, but it goes without saying that a normal display panel and a normal CCD have many pixels. Communication speeds exceeding gigabits have been achieved without developing new devices, and it is displaying and capturing videos efficiently enough. For USB 3.1 displays and cameras, a transmission rate of 10 Gbps is easily realized.
  • a feature of the present invention is that the above-described existing device is used as it is without using an expensive element or advanced technology. Unlike space division multiplexing (SDMA) that has been used in communication systems so far, LOS (Line of sight) is multiplexed by crossing the space. Another feature of the present invention is that they are multiplexed vertically and horizontally.
  • a communication system including a display control device that displays an image on a display unit, and a communication terminal that includes an image capturing unit that captures an image displayed on the display unit.
  • the display control apparatus may include a video acquisition unit that acquires a video to be displayed.
  • the display control device may include a region specifying unit that specifies a region that does not change or a region in which the amount of change is lower than a predetermined threshold in the video acquired by the video acquisition unit.
  • the display control apparatus may include a video generation unit that generates an encoded video in which transmission data is encoded as an optical communication signal in an area specified by the area specifying unit.
  • the display control device may include a display control unit that displays the encoded video on the display unit.
  • the communication terminal may include a region identifying unit that identifies a region in which transmission data is encoded in the video captured by the imaging unit.
  • the communication terminal may include a decoding unit that decodes transmission data from the area identified by the area identifying unit.
  • the region specifying unit may specify a region in which luminance and color information do not change during a predetermined period or a region where the amount of change is lower than a predetermined threshold among the videos acquired by the video acquisition unit.
  • the video generation unit may generate the encoded video in which the area information indicating the area where the transmission data is encoded is encoded as an optical communication signal in an area other than the area where the transmission data is encoded,
  • the region identifying unit identifies a region in which the region information is encoded in the video imaged by the imaging unit, decodes the region information from the region, and transmits the region indicated by the region information to the transmission It may be identified as an area in which data is encoded.
  • the video generation unit may generate the encoded video in which terminal identification information for identifying the communication terminal is encoded as an optical communication signal in an area other than the area where the transmission data is encoded.
  • the video generation unit may generate the encoded video in which display device identification information for identifying the display device is encoded as an optical communication signal in a region other than the region where the transmission data is encoded.
  • the communication terminal measures a received luminance level and a received SNR (Signal to Noise Ratio) of the video imaged by the imaging unit, and transmits a measurement result transmitted from the measurement unit to the display control device.
  • the display control device includes a measurement result receiving unit that receives the measurement result, and a luminance level adjustment unit that adjusts the luminance level of display by the display unit based on the measurement result. You may have.
  • the video acquisition unit may acquire a screen saver video by the display unit, and the video generation unit may generate an encoded video obtained by encoding transmission data in a specific area of the screen saver video, and the display control unit May display the encoded video as a screen saver on the display unit, and the measurement unit measures the reception luminance level and the reception SNR based on the transmission data decoded by the decoding unit. It's okay.
  • the measurement result transmission unit may transmit the measurement result to the display control device without using optical communication.
  • the communication terminal performs affine transformation on the display video by the display control unit to convert the display video into a regular square, and sets the directivity of imaging by the imaging unit based on the information at the time of the conversion.
  • a directivity adjustment unit for adjustment may include an information reception unit that receives captured video information related to the video captured by the imaging unit from the communication terminal, and the video generation unit performs the encoding based on the captured video information.
  • a video may be generated.
  • the video generation unit may change the number of pixels to which each piece of information of the transmission data is assigned based on the captured video information.
  • the captured video information may indicate a region that cannot be captured by the imaging unit in the video displayed by the display unit, and the video generation unit is configured to use the imaging unit from the region specified by the region specifying unit.
  • An encoded video in which transmission data is encoded as an optical communication signal may be generated in an area excluding an area that cannot be imaged by.
  • the display unit may be a projector, and the imaging unit may image light projected on a projection plane by the projector.
  • the video generation unit may generate an encoded video in which transmission data is encoded as an optical communication signal into a video whose content does not change.
  • the communication terminal When the image cannot be captured by the image capturing unit, the image capturing unit may include a notification data transmitting unit that transmits notification data to the display control device. When the image generating unit receives the notification data, the image generating unit An encoded video in which the transmission data is encoded as an optical communication signal by luminance modulation may be generated.
  • the display control device includes a CPRI (Common Public Radio Interface) interface for transmitting a signal obtained by converting the transmission data into an IQ vector signal in a baseband device of a radio base station from the baseband device, and a video on the display unit.
  • An interface HDMI (registered trademark) (High-Definition Multimedia Interface), etc.) for transmitting signals, and an IQ signal (in-phase and quadrature components of complex digital signals) on the CPRI interface. Signal) to an RGBI signal for transmission.
  • the baseband device of the radio base station may have a function of converting a CPRI signal into HDMI (registered trademark) and transmitting the HDMI signal.
  • the display control device receives an IQ signal from the baseband device as an HDMI (registered trademark). It may be sent from the interface.
  • a device that converts a CPRI signal into HDMI may be passed between the baseband device and the display control device.
  • a display control device may include a video acquisition unit that acquires a video to be displayed.
  • the display control apparatus may include a region specifying unit that specifies a region that does not change or a region in which the amount of change is lower than a predetermined threshold among the videos acquired by the video acquisition unit.
  • the display control apparatus may include a video generation unit that generates an encoded video in which transmission data is encoded as an optical communication signal in an area specified by the area specifying unit.
  • the display control apparatus may include a display control unit that displays the encoded video on the display unit.
  • a program for causing a computer to function as the display control device for causing a computer to function as the display control device.
  • a communication terminal may include an area information acquisition unit that acquires area information indicating an area in which transmission data is encoded as an optical communication signal in the video displayed by the display device.
  • the communication terminal may include a region identifying unit that identifies a region in which transmission data is encoded based on region information among videos captured by the imaging unit.
  • the communication terminal may include a decoding unit that decodes transmission data from the area identified by the area identifying unit.
  • 1 schematically shows an example of a communication system 10.
  • 1 schematically illustrates exemplary configurations of a display device 100 and a communication terminal 200.
  • 1 schematically shows another example of the communication system 10.
  • 1 schematically illustrates exemplary configurations of a display device 100 and a communication terminal 200.
  • a connection relationship between the STB 101 and the BBU 103 is schematically shown.
  • An example of functional composition of display 100 is shown roughly.
  • An example of a functional composition of communication terminal 200 is shown roughly.
  • the example of a display by the display apparatus 100 is shown schematically.
  • the example of a display by the display apparatus 100 is shown schematically.
  • the example of a display of the picked-up image by the communication terminal 200 is shown schematically.
  • the example of a display of the picked-up image by the communication terminal 200 is shown schematically.
  • FIG. 6 schematically shows a control message sequence (example) for starting communication.
  • the flowchart (example) of the communication start by the side of the display apparatus 100 is shown roughly.
  • 6 schematically shows a flowchart (example) during communication on the display device 100 side.
  • the flowchart (example) of the communication start by the side of the communication terminal 200 is shown roughly.
  • the flowchart (example) during communication by the communication terminal 200 side is shown schematically.
  • Fig. 6 schematically shows a retransmission sequence (example) during communication.
  • the flowchart of a communication end is shown schematically.
  • 6 schematically shows a flowchart of sleep transition.
  • 1 schematically shows a handover flowchart.
  • the Set Top Box internal block diagram (example) is shown schematically.
  • the Set Top Box internal operation flowchart (example) is schematically shown.
  • 6 schematically shows a flowchart of transmission resolution determination.
  • the flowchart of data superposition position determination is shown roughly.
  • 1 schematically shows an algorithm for data encoding.
  • An algorithm relating to white noise of transmitted light is schematically shown.
  • Main example 1 (example using DLP using an infrared light source) is shown.
  • Main example 2 (office ceiling lighting) is shown.
  • a main example 3 (dome ceiling) is shown.
  • a main example 3.1 (dome ceiling) is shown.
  • a main example 3.1 (dome ceiling) is shown.
  • the main Example 4 (drone camera of a dome stadium) is shown.
  • Main example 5 (reception with a plurality of cameras) is shown.
  • the main Example 6 (motor drive camera) is shown.
  • the main Example 7 fisheye lens projector) is shown.
  • An example of the hardware constitutions of the computer 900 which functions as the communication terminal 200 is shown schematically.
  • FIG. 1 schematically shows an example of a communication system 10.
  • the communication system 10 includes a display device 100 and a communication terminal 200.
  • the display device 100 and the communication terminal 200 perform so-called optical communication.
  • the display device 100 generates and displays an encoded video in which transmission data is encoded as an optical communication signal on the video to be displayed, and the communication terminal 200 captures the video displayed by the display device 100.
  • the transmission data is obtained by decoding the optical communication signal.
  • An example of an optical communication method used by the communication system 10 includes a method using luminance modulation or RGB modulation, but is not limited thereto, and an arbitrary method may be used.
  • the video displayed by the display device 100 may be an arbitrary video, and the display device 100 may be an arbitrary display device.
  • Examples of the display device 100 include a display such as a television, a PC (Personal Computer), and a digital signage.
  • a lighting device capable of displaying an image while the main purpose is illumination is also exemplified.
  • the display device 100 may be an example of a display control device.
  • the entire display device 100 may be an example of a display control device.
  • a part of the display device 100 may be an example of a display control device.
  • a portion other than the display unit in the display device 100 may be an example of a display control device.
  • a module, a chip, and the like in the display device 100 may be an example of a display control device.
  • the communication terminal 200 may be any terminal as long as it has an imaging unit and a communication function. Examples of the communication terminal 200 include a smartphone, a tablet terminal, and an HMD (Head Mount Display).
  • Examples of the communication terminal 200 include a smartphone, a tablet terminal, and an HMD (Head Mount Display).
  • the display device 100 specifies, for example, a predetermined period, a region where luminance and color information do not change, a region where the amount of change is lower than a predetermined threshold, or the like in a display target video, An encoded video in which transmission data is encoded as an optical communication signal is generated and displayed in the specified area.
  • the transmission data is encoded into a region where the luminance and color information do not change or a region where the amount of change is lower than a predetermined threshold in the video for a predetermined period of time.
  • Communication throughput can be improved compared to optical communication.
  • transmission data is simply encoded with respect to a display image, so that a sufficient throughput cannot be obtained with a low spatial resolution, and transmission data with a small amount of data such as a URL can only be transmitted.
  • an area having a small amount of information entropy change in the video is spatially divided and used, so that a sufficiently high throughput can be efficiently obtained. it can.
  • so-called communication control between the display device 100 and the communication terminal 200 may be realized by communication via the network 50.
  • the display device 100 and the communication terminal 200 may communicate with the management device 300 via the network 50.
  • the communication terminal 200 transmits terminal identification information for identifying itself to the display device 100 via the management device 300, and the display device 100 encodes the transmission data using the identification information. Display encoded video.
  • the communication terminal 200 can perform optical communication only between the display device 100 and the specific communication terminal 200 by decoding the transmission data using the terminal identification information held by the communication terminal 200, which is realized in the conventional optical communication. Unicast service that could not be realized can be realized.
  • the STB 101 specifies an area in which luminance and color information do not change during a predetermined period or an area where the amount of change is lower than a predetermined threshold among videos acquired from the computer 102. Then, the STB 101 encodes area information indicating the area of the transmission data as an optical communication signal in the area within the specified area, and transmits the transmission data acquired from the BBU 103 to the area indicated by the area information.
  • the encoded video encoded as is generated and displayed on the display 104.
  • the CMOS sensor 201 captures an image displayed on the display 104.
  • the CPU 202 acquires the video from the CMOS sensor 201, separates it into video data and a communication decoding video, and transmits the video data to the display 203 and the communication decoding video to the communication modem 204.
  • the display 203 displays video data.
  • the communication modem 204 decodes the encoded area information and uses the area information to decode the transmission data.
  • FIG. 3 schematically shows another example of the communication system 10. Here, differences from FIG. 1 will be mainly described.
  • the display device 100 in FIG. 3 projects an image.
  • An image projected by the display device 100 is referred to as a projected image 108.
  • the video displayed by the display device 100 may be an arbitrary video or an invisible video by infrared rays, and the display device 100 may be an arbitrary display device.
  • Examples of the display device 100 include a projector, projection mapping, and digital signage.
  • a lighting device capable of displaying an image while the main purpose is illumination is also exemplified.
  • FIG. 4 schematically shows a configuration example of the display device 100 and the communication terminal 200 shown in FIG. Here, differences from FIG. 2 will be mainly described.
  • the display device 100 includes an STB 101, a computer 102, a BBU 103, and a projector 105.
  • the STB 101 acquires a display target video from the computer 102.
  • the STB 101 acquires transmission data from the BBU 103.
  • the STB 101 specifies an area in which luminance and color information do not change during a predetermined period or an area where the amount of change is lower than a predetermined threshold among videos acquired from the computer 102. Then, the STB 101 encodes area information indicating the identified area as an optical communication signal in an area within the identified area, and encodes an encoded video obtained by encoding transmission data acquired from the BBU 103 as an optical communication signal. It is generated and displayed on the projector 105.
  • the CMOS sensor 201 captures the projected image 108 projected by the projector 105.
  • An object on which an image is projected may be an arbitrary place, and may be projected on a wall surface of a building such as a building.
  • the CPU 202 acquires the video from the CMOS sensor 201, separates it into video data and a communication decoding video, and transmits the video data to the display 203 and the communication decoding video to the communication modem 204.
  • the display 203 displays video data.
  • the communication modem 204 decodes the encoded area information and uses the area information to decode the transmission data.
  • the projector 105 is effective mainly at night.
  • FIG. 5 schematically shows the connection relationship between the STB 101 and the BBU 103.
  • the STB 101 and the BBU 103 are connected via a converter 106.
  • the STB 101 and the converter 106 communicate via HDMI.
  • Converter 106 and BBU 103 communicate via CPRI.
  • FIG. 6 schematically shows an example of the functional configuration of the display device 100.
  • the display device 100 includes an information reception unit 112, a transmission data acquisition unit 114, a video acquisition unit 116, a region specification unit 118, a video generation unit 120, a display control unit 122, a measurement result reception unit 124, and a luminance level adjustment unit 126.
  • the information receiving unit 112 receives various information.
  • the information receiving unit 112 may receive information via the network 50.
  • the information receiving unit 112 receives information related to communication control from the management apparatus 300 via the network 50.
  • the information receiving unit 112 receives terminal identification information for identifying the communication terminal 200 of the communication partner from the management device 300.
  • the information receiving unit 112 receives, for example, transmission data to be transmitted to the communication terminal 200 via the network 50.
  • the display device 100 may notify the communication terminal 200 of terminal identification information through optical communication.
  • the transmission data acquisition unit 114 acquires transmission data to be transmitted to the communication terminal 200.
  • the transmission data acquisition unit 114 may read transmission data stored in the memory of the display device 100.
  • the transmission data acquisition unit 114 may acquire the transmission data received by the information reception unit 112 from the information reception unit 112.
  • the video acquisition unit 116 acquires a video to be displayed.
  • the video acquisition unit 116 may read the video stored in the memory of the display device 100.
  • the video acquisition unit 116 acquires video from the computer 102, for example.
  • the video acquisition unit 116 may acquire a screen saver video as the video to be displayed.
  • the region specifying unit 118 specifies a region in which luminance and color information do not change during a predetermined period or a region where the amount of change is lower than a predetermined threshold among the videos acquired by the video acquisition unit 116.
  • the area specifying unit 118 specifies an area in the video that does not change.
  • the area specifying unit 118 may specify an area of the video where the luminance and color information do not change for a predetermined period.
  • the area specifying unit 118 specifies an area of the video whose change amount is lower than a predetermined threshold.
  • the area specifying unit 118 may specify an area of the video in which the amount of change in luminance and color information is lower than a predetermined threshold for a predetermined period.
  • the predetermined period may be changeable.
  • the predetermined threshold value may be changeable.
  • the video generation unit 120 generates an encoded video obtained by encoding various information on the video acquired by the video acquisition unit 116. For example, the video generation unit 120 generates an encoded video in which the transmission data acquired by the transmission data acquisition unit 114 is encoded as an optical communication signal in the region specified by the region specification unit 118. When the video acquisition unit 116 acquires the screen saver video, the video generation unit 120 may generate an encoded video in which the control signal is encoded in the area specified by the area specifying unit 118 in the screen saver video.
  • the control signal may be a signal used when measuring the received luminance level and the received SNR (Signal to Noise Ratio) in the communication terminal 200.
  • the video generation unit 120 generates a coded video in which region information indicating a region where transmission data is encoded is encoded as an optical communication signal.
  • the video generation unit 120 may generate a coded video in which region information is encoded as an optical communication signal in a region other than a region where transmission data is encoded.
  • the video generation unit 120 generates an encoded video obtained by encoding terminal identification information for identifying the communication terminal 200 as an optical communication signal.
  • the video generation unit 120 may generate an encoded video in which terminal identification information is encoded as an optical communication signal in an area other than the area where transmission data is encoded.
  • the video generation unit 120 generates an encoded video obtained by encoding display device identification information for identifying the display device 100 as an optical communication signal.
  • the display device identification information may be an example of display unit identification information.
  • the video generation unit 120 may generate an encoded video in which display device identification information is encoded as an optical communication signal in an area other than the area where transmission data is encoded.
  • the video generation unit 120 may generate an encoded video obtained by encoding various information into an unchanged video that does not change the entire video.
  • the display control unit 122 displays the encoded video generated by the video generation unit 120 on the display unit.
  • Examples of the display unit include a display 104 and a projector 105.
  • the display control unit 122 may display the encoded video on the display 104. Further, the display control unit 122 may cause the projector 105 to display the encoded video.
  • the display control unit 122 uses the encoded video as a screen saver. You may display on a display part.
  • the measurement result receiving unit 124 receives, from the communication terminal 200, the received luminance level and the received SNR, which are measured by the communication terminal 200 by imaging the image displayed by the display control unit 122.
  • the luminance level adjusting unit 126 adjusts the luminance level of the display by the display unit controlled by the display control unit 122 based on the measurement result received by the measurement result receiving unit 124.
  • FIG. 7 schematically shows an example of the functional configuration of the communication terminal 200.
  • the communication terminal 200 includes an imaging unit 212, an image processing unit 214, an information communication unit 216, a decoding unit 218, a measurement unit 220, a measurement result transmission unit 222, a position and orientation acquisition unit 224, and a directivity adjustment unit 226. Note that the communication terminal 200 is not necessarily provided with all of these configurations.
  • the image processing unit 214 performs image processing on the image captured by the imaging unit 212 by a method such as affine transformation.
  • the image processing unit 214 may process the video displayed by the display control unit 122 captured by the imaging unit 212.
  • the image processing unit 214 may acquire the region information by decoding the region information encoded as an optical communication signal in the video.
  • the image processing unit 214 may use the region information to identify a region where transmission data is encoded in the video captured by the imaging unit 212.
  • the image processing unit 214 may be an example of a region identification unit.
  • the communication terminal 200 may transmit terminal identification information to the management apparatus 300 via the network 50, and the management apparatus 300 receives the terminal identification information of the communication terminal 200 that is a communication partner of the display apparatus 100 via the network 50. You may transmit to the display apparatus 100. FIG. This terminal identification information may be notified from the display device 100 to the communication terminal via optical communication. Further, when terminal identification information is newly issued from the management apparatus 300, the communication terminal 200 may acquire the terminal identification information via the network 50.
  • the image processing unit 214 may decode the transmission data encoded as an optical communication signal in the video using the terminal identification information.
  • the communication terminal 200 can normally combine only when the transmission data encoded in the video is data addressed to the terminal itself.
  • the display device 100 may have a function of generating a different code for each communication terminal 200 that is a communication partner and transmitting the code to the communication terminal 200 via optical communication.
  • the display device 100 may scramble transmission data using a different code for each communication terminal 200 that is a communication partner.
  • the image processing unit 214 may perform descrambling of the transmission data scrambled by the display device 100 using a different code for each communication terminal transmitted from the display device.
  • the image processing unit 214 may acquire the display device identification information by decoding the display device identification information encoded as an optical communication signal in the video.
  • the communication terminal 200 can identify transmission data transmitted by the plurality of display devices 100.
  • the image processing unit 214 may analyze the video captured by the imaging unit 212 and transmit the captured video information regarding the video to the information communication unit 216.
  • the information communication unit 216 may transmit the captured video information to the display device 100, the management device 300, and the like in accordance with an instruction from the image processing unit 214.
  • the imaged video information indicates, for example, an area in the video displayed by the display control unit 122 that cannot be captured by the communication terminal 200 depending on the state of the transmission path between the display device 100 and the communication terminal 200.
  • the captured video information indicates an area in the video displayed by the display control unit 122 that cannot be captured by the communication terminal 200 due to the presence of an obstacle or the like between the display device 100 and the communication terminal 200.
  • the video generation unit 120 uses the transmission data as an optical communication signal in a region that excludes the region indicating the captured video information from the region specified by the region specifying unit 118.
  • An encoded encoded video may be generated.
  • the video generation unit 120 may change the number of pixels to which each piece of information of transmission data is assigned. For example, when each piece of information of transmission data is assigned to one pixel, the video generation unit 120 assigns each piece of information of transmission data to more pixels such as four pixels in response to reception of the captured video information.
  • the captured video indicating the fact Information may be transmitted to the management apparatus 300 and the display apparatus 100 via the network 50 by the information communication unit 216.
  • the video generation unit 120 may change the number of pixels to which each piece of information of transmission data is assigned. For example, when each piece of information of transmission data is assigned to four pixels, the video generation unit 120 assigns each piece of information of transmission data to fewer pixels, such as one pixel, in response to reception of the captured video information.
  • the decoding unit 218 decodes the transmission data from the area where the transmission data is encoded, identified by the image processing unit 214.
  • the transmission data decoded by the decoding unit 218 may be stored in the memory of the communication terminal 200.
  • the measuring unit 220 measures the received luminance level and received SNR of the video imaged by the imaging unit 212.
  • the measurement unit 220 may measure the received luminance level and the received SNR from the screen saver video displayed by the display control unit 122 using the control signal decoded by the decoding unit 218.
  • the measurement result transmission unit 222 transmits the measurement result obtained by the measurement unit 220 to the display device 100.
  • the measurement result transmission unit 222 may transmit the measurement result to the display device 100 without using optical communication.
  • the measurement result transmission unit 222 may transmit the measurement result obtained by the measurement unit 220 to the display device 100 via the management device 300.
  • the luminance level adjustment unit 126 may adjust the luminance level to the minimum necessary luminance level using the measurement result. .
  • the imaging unit 212 may be a pinhole camera or an autofocus camera. Further, the directivity adjustment unit of the communication terminal 200 may include a zoom mechanism, a gimbal mechanism, and a three-dimensional swing mechanism.
  • the directivity adjustment unit 226 uses the three-dimensional swing mechanism to display the display device 100 that is imaged by the imaging unit 212. You can enlarge.
  • the directivity adjusting unit 226 When the directivity adjusting unit 226 has a zoom mechanism and does not have a three-dimensional swing mechanism or a gimbal mechanism, and blurring occurs in the communication terminal 200, the directivity adjusting unit 226 zooms out, You may adjust so that the display apparatus 100 may be stably included in the range of the image
  • the video signal imaged by the imaging unit 212 may be transferred to the decoding unit 218.
  • Processing of the decoding unit 218 may be performed by a baseband IC.
  • the decoding unit 218 performs, for example, reference signal readout, affine transformation, anchor signal identification and demodulation, and data signal position identification and demodulation from the video signal imaged by the imaging unit 212.
  • the processing of the decryption unit 218 may be performed by a DSP.
  • the DSP to which the video signal has been transferred performs, for example, reference signal identification, affine transformation, reference signal readout, video luminance equalization, anchor signal identification and basebanding, data signal identification and basebanding, etc. .
  • the DSP may transfer the received signal data to the baseband IC after performing the decoding process.
  • the position / orientation acquisition unit 224 acquires the relative angle of the orientation and position of the communication terminal 200 with respect to the display image by the display device 100.
  • the position and orientation acquisition unit 224 may acquire the relative angle of the orientation and position of the communication terminal 200 with respect to the display 104 when the display device 100 displays an image on the display 104.
  • the position / orientation acquisition unit 224 may acquire the relative angle of the orientation and position of the communication terminal 200 with respect to the projection image 108 when the display device 100 displays an image on the projector 105.
  • the directivity adjustment unit 226 adjusts the directivity of imaging by the imaging unit 212 based on the orientation and the relative angle of the position acquired by the position and orientation acquisition unit 224.
  • the directivity adjustment unit 226 may control the directivity of imaging by the imaging unit 212 so that the display image by the display device 100 and the imaging direction by the imaging unit 212 face each other. That is, the directivity adjustment unit 226 may control the directivity of imaging by the imaging unit 212 so that the display surface of the display image by the display device 100 and the imaging direction by the imaging unit 212 are orthogonal to each other.
  • the signal of the display device other than the display device that is the other party of communication existing in the range imaged by the imaging unit is sequentially removed using the interference removal technique. It's okay.
  • FIG. 8 schematically shows a display example by the display device 100.
  • FIG. 8 shows a display example when transmission data for different communication terminals 200 is encoded in each of the divided areas 402 and 404 obtained by dividing the specific area 400 specified by the area specifying unit 118.
  • the display device 100 may generate a different spreading code for each communication terminal 200 used for interference removal on the communication terminal 200 side.
  • the display device 100 may transmit a spread code different for each communication terminal 200 to the communication terminal 200 via optical communication.
  • the display device 100 may spread the spectrum of the video displayed on the display device 100 using a spread code generated for each communication terminal 200 that is a communication partner.
  • the display device 100 encodes transmission data for one communication terminal 200 in the divided area 402, notifies the one communication terminal 200 of area information indicating the divided area 402, and outputs the divided area 404.
  • the transmission data for the other communication terminal 200 is encoded and the area information indicating the divided area 404 is notified to the other communication terminal 200, thereby realizing simultaneous unicast communication with the plurality of communication terminals 200.
  • FIG. 9 schematically shows a display example by the display device 100.
  • the resolution that can be recognized by the communication terminal 200 varies depending on the distance between the display device 100 and the communication terminal 200.
  • FIG. 9 shows that the display device 100 assigns each piece of information of transmission data according to the resolution that the communication terminal 200 can recognize. A case where the number of pixels is changed is schematically shown.
  • the situation 820 has a longer distance between the display device 100 and the communication terminal 200 and the resolution that the communication terminal 200 can recognize is lower than the situation 810.
  • the apparatus 100 has a larger number of pixels to which each piece of information of transmission data is assigned. When the display device 100 executes such control, it is possible to realize encoding of an optical communication signal suitable for the resolution that the communication terminal 200 can recognize.
  • FIG. 10 schematically shows a display example of a captured image by the communication terminal 200.
  • FIG. 10 illustrates a situation in which the communication terminal 200 cannot capture a part of the specific area 400 due to the obstacle 600 existing between the display device 100 and the communication terminal 200.
  • FIG. 11 shows a situation where the projection image 108 projected by the display device 100 is partially illuminated by other strong external light and the communication terminal 200 cannot recognize a part of the information in the specific area 400.
  • the information communication unit 216 uses a region outside the image displayed by the obstacle 600 in the image displayed by the display device 100 or an external strong light in the projection image 108.
  • the captured image information indicating the area that cannot be recognized is transmitted to the display device 100.
  • the video generation unit 120 transmits transmission data or the like to the specific area 400 specified by the area specifying unit 118, excluding the area that cannot be captured by the communication terminal 200 or the area where the signal cannot be recognized.
  • An encoded video obtained by encoding the above may be generated. Accordingly, it is possible to prevent a situation in which the communication terminal 200 cannot receive the transmission data due to the presence of the obstacle 600 or the strong external light even though the display device 100 encodes the transmission data in the specific area 400. it can.
  • FIG. 12 schematically shows an example of the synchronization signal 410 and the calling signal 420 by the display device 100.
  • the display device 100 displays the synchronization signal 410 periodically.
  • the display device 100 displays the synchronization signal 410 every 30 frames.
  • FIG. 12 illustrates the case where six synchronization signals 410 are displayed, but the number, position, and size of the synchronization signals 410 are not limited to those illustrated in FIG. 12 and may be arbitrarily set.
  • the display device 100 may encode display device identification information for identifying the display device 100 in the synchronization signal 410. Further, the display device 100 may encode the screen resolution information of the screen of the display device 100 into the synchronization signal 410. Further, the display device 100 may encode frame number information in the synchronization signal 410. For example, the synchronization signal 410 may be modulated using a Zadff-Chu sequence.
  • the communication terminal 200 that has captured and read the synchronization signal 410 transmits an attach completion message to the management device 300 to inform the management device 300 that the reception of the synchronization signal of the display device 100 as the communication partner has been completed normally.
  • the attach completion message may include terminal identification information for identifying the communication terminal 200. Further, the attach completion message may include display device identification information included in the synchronization signal 410. Further, the attachment completion message may include the reception resolution information by the communication terminal 200.
  • the management device 300 transmits information received from the communication terminal 200 to the display device 100 via the network 50.
  • the management apparatus 300 generates another new terminal identification information that is temporarily used until communication is disconnected in order to protect individual terminal information regarding the terminal identification information among the information received from the communication terminal 200. You can do it.
  • the display device 100 may have a function of generating the terminal identification information.
  • the display device 100 that has received the information displays the calling signal 420 at the same position as the synchronization signal 410.
  • the display device 100 may display the call signal 420 periodically.
  • the display device 100 displays the call signal 420 every 30 frames, for example.
  • the call signal 420 may include terminal identification information of the communication terminal 200.
  • the call signal 420 may include terminal identification information of the communication terminal 200 to be communicated and extended information.
  • the communication terminal 200 When the communication terminal 200 receives the call signal 420 displayed by the display device 100 and the terminal identification information included in the call signal 420 matches the terminal identification information of the communication terminal 200, the communication terminal 200 via the network 50 A call completion message is transmitted to 300.
  • the management device 300 may transmit the received call completion message to the display device 100.
  • the anchor signal 430 may be a signal included in a region where region information indicating a region where transmission data is encoded is encoded as an optical communication signal.
  • the display device 100 that has received the call completion message transmits the position of the anchor signal 430 and the frame number in which the anchor signal 430 is arranged to the management device 300 via the network 50.
  • the magnitude at which the anchor signal 430 is displayed may be determined based on the received resolution information described in the method for preparing to start communication.
  • the management apparatus 300 transmits information regarding the received anchor signal 430 to the communication terminal 200 via the network 50. In response to receiving information related to the anchor signal 430 from the management apparatus 300, the communication terminal 200 starts decoding the area in which the transmission data is encoded.
  • FIG. 13 schematically shows a display example by the display device 100 during optical communication.
  • a white region is adopted as an example of a region where luminance and color information do not change during a predetermined period or a region where the amount of change is lower than a predetermined threshold will be described as an example.
  • the area specifying unit 118 analyzes the video acquired by the video acquisition unit 116 and specifies a white area.
  • the video generation unit 120 generates an encoded video that includes the anchor signal 430 and encodes the transmission data acquired by the transmission data acquisition unit 114 as a visible light communication signal in the specific region 440 specified by the region specification unit 118. .
  • the anchor signal 430 includes area information indicating the specific area 440.
  • the display control unit 122 displays the encoded video generated by the video generation unit 120.
  • the communication terminal 200 images the encoded video displayed by the display control unit 122 by the imaging unit 212.
  • the image processing unit 214 identifies the specific area 440 using area information indicating the specific area 440 included in the anchor signal 430.
  • the decoding unit 218 decodes the transmission data from the specific area 440 identified by the image processing unit 214.
  • the video generation unit 120 may include a training signal in the position of the specific region 440 and the anchor signal 430 for each predetermined frame, for example, every 10 frames, and the communication terminal 200 uses the training signal, Equalizing the captured image may be performed. Thereby, the transmission data can be accurately decoded by making the luminance and color information of the video uniform. Further, when encoding the transmission data in the specific area 440, the video generation unit 120 may transmit the same content over a plurality of frames. Thereby, the transmission data is made redundant, and the error rate can be reduced.
  • the communication terminal 200 may transmit error information to the management apparatus 300 via the network 50 when an error occurs in the received transmission data.
  • the management apparatus 300 may transmit the received error information to the display apparatus 100 via the network 50.
  • the display device 100 may retransmit the transmission data in which an error has occurred based on the received error information.
  • the communication terminal 200 may transmit the reception resolution information to the management apparatus 300 via the network 50 at regular intervals.
  • the management device 300 may transmit the received reception resolution information to the display device 100 via the network 50.
  • the display device 100 may adjust the size of the anchor signal 430 and the number of pixels to which each piece of transmission data information is assigned based on the received reception resolution information.
  • the communication terminal 200 may zoom the display image by the display device 100 as appropriate.
  • the communication terminal 200 includes a lens with a three-dimensional actuator, zooming to a display image by the display device 100 and directivity adjustment may be performed as appropriate.
  • the communication terminal 200 may have a camera shake correction mechanism.
  • the display device 100 includes a CPRI (Common Public Radio Interface) interface, an HDMI (registered trademark) (High-Definition Multimedia Interface) interface, and IQ signals (In-phase) and quadrature (in-phase of complex digital signals) on the CPRI interface. And a circuit that modulates an optical communication signal from a baseband signal including a quadrature component.
  • CPRI Common Public Radio Interface
  • HDMI registered trademark
  • HDMI High-Definition Multimedia Interface
  • IQ signals In-phase
  • quadrature in-phase of complex digital signals
  • FIG. 14 shows a display example when the transmission data for the two communication terminals 200 by the display device 100 is encoded.
  • FIG. 12 schematically shows an example of the divided areas 442 and 444 in which the anchor signal 432 and the anchor signal 434 and the transmission data indicated by the respective anchor signals are encoded.
  • FIG. 15 schematically shows an example of the projected image 108.
  • FIG. 15 shows an example in which the display device 100 arranged in the building 510 projects the projection image 108 onto the wall surface of the adjacent building 520.
  • the display device 100 can transmit the transmission data to the communication terminal 200 that can image the wall surface of the building 520.
  • Communication terminal 200 may be located on the ground or may be located in building 510.
  • FIG. 15 shows an example in which the display device 100 projects an image in the upward direction, but the present invention is not limited to this, and the orientation of the display device 100 may be arbitrary.
  • the display device 100 may generate and project an encoded image obtained by encoding the transmission data as an optical communication signal on a part or the whole of the image whose contents do not change,
  • an encoded image obtained by encoding the transmission data as an optical communication signal may be generated and projected on the infrared.
  • the display device 100 encodes transmission data as an optical communication signal in a region in which luminance and color information do not change or a change amount is lower than a predetermined threshold for a predetermined period of a video whose contents change. An encoded video may be generated.
  • FIG. 16 shows a control message sequence (example) for starting communication between the communication terminal 200, the display device 100, the 5G network, and the management device 300.
  • the communication terminal 200 transmits a video display device detection report (Attach completion) to the management device 300.
  • the management device 300 transmits a terminal attach notification to the video display device 100.
  • the video display device 100 transmits a terminal Attach response to the management device 300.
  • the management apparatus 300 transmits a downlink addition notification to the 5G network.
  • the management apparatus 300 receives a downlink addition response from the 5G network.
  • the management apparatus 300 transmits a downlink addition notification to the communication terminal 200.
  • the management apparatus 300 transmits a preparation completion notification to the 5G network.
  • downstream data occurs in the 5G network.
  • the generated data is transmitted to the display device 100 from the 5G network.
  • the display device 100 that has received the data executes a terminal call to the communication terminal 200.
  • the communication terminal 200 transmits a call response to the management device 300.
  • the management device 300 transmits a call response notification to the display device 100.
  • the display device 100 that has received the call response notification determines the transmission resolution.
  • the display device 100 assigns an anchor signal to the management device 300.
  • the management device 300 notifies the communication terminal 200 of an anchor signal.
  • data transmission is performed from the display device 100 to the communication terminal 200 via display.
  • FIG. 17 schematically shows a flowchart (example) of communication start on the display device 100 side.
  • S204 downlink data is received from the 5G network.
  • S206 a terminal call is executed with respect to the communication terminal 200.
  • S208 it is determined whether a call response notification for the terminal call in S206 has been received. If it is determined that it has not been received, the process returns to S206, and if it is determined that it has been received, the process proceeds to S210.
  • the transmission resolution is determined.
  • an anchor signal is assigned to the management apparatus 300. Communication is started according to the above flow.
  • FIG. 18 schematically shows a flowchart (example) during communication on the display device 100 side.
  • optical communication anchor signal allocation
  • the data is stored in the buffer.
  • S226, data signal allocation, modulation, and the like are determined.
  • S228, an anchor signal is transmitted.
  • S230 a data signal is transmitted.
  • S232 it is determined whether or not an ACK has been received. If it is determined that ACK has not been received, the process returns to S226. If it is determined that ACK has been received, the process proceeds to S234. In S234, the data buffer is released.
  • FIG. 19 schematically shows a flowchart (example) of communication start on the communication terminal 200 side.
  • the communication terminal 200 turns on the supplemental downlink function in S304.
  • S306 a camera scan is executed. If the display device 100 is detected in S308, the process proceeds to S310, and if not detected, the process returns to S306. If a synchronization signal is detected in S310, the process proceeds to S312. If not detected, the process returns to S306.
  • affine transformation is performed on the image scanned by the camera.
  • the synchronization signal is decoded.
  • Attach completion is transmitted.
  • a downlink addition notification is received.
  • S320 data reception is waited.
  • S322 a camera scan is executed. If the synchronization signal is detected in S324, the process proceeds to S326, and if not detected, the process returns to S322. If a call signal is detected in S326, the process proceeds to S328, and if not detected, the process returns to S322. In S328, a call response is transmitted. In S330, an anchor signal notification is received. Communication is started according to the above flow.
  • image processing is executed on the image scanned by the camera.
  • affine transformation is executed.
  • a synchronization signal is received.
  • the synchronization signal is decoded.
  • equalizing based on the synchronization signal is executed.
  • an anchor signal is received.
  • the anchor signal is decoded.
  • the position and modulation method of the data signal are acquired.
  • a data signal is received.
  • the data signal is decoded.
  • the data is stored in the buffer. If it is determined in S368 that an error has occurred, the process proceeds to S376. If it is not determined that an error has occurred, the process proceeds to S370.
  • ACK is transmitted via 5G.
  • S372 the buffer is cleared.
  • NACK is transmitted via 5G.
  • an anchor signal is received.
  • the anchor signal is decoded.
  • the position and modulation method of the data signal are acquired.
  • a data signal is received.
  • the data is stored in the buffer. If it is determined in S386 that an error has occurred, the process returns to S374, and if it is determined that no error has occurred, the process proceeds to S388.
  • ACK is transmitted via 5G.
  • S390 the buffer is cleared.
  • FIG. 21 schematically shows a retransmission sequence (example) during communication.
  • data is transmitted from the 5G network to the display device 100.
  • the display device 100 transmits data to the communication terminal 200.
  • the communication terminal 200 buffers data.
  • the communication terminal 200 transmits HARQ / ACK to the management apparatus 300.
  • the communication terminal 200 clears the reception buffer.
  • the management apparatus 300 that has received HARQ / ACK transmits ACK to the display apparatus 100.
  • the display device 100 clears the transmission buffer. Then, the display device 100 transmits data to the communication terminal 200.
  • the communication terminal 200 buffers data. In this sequence, the case where an error has occurred will be described.
  • the communication terminal 200 transmits HARQ / NACK to the management apparatus 300.
  • the management apparatus 300 that has received the HARQ / NACK transmits the NACK to the display apparatus 100.
  • Display device 100 retransmits data to communication terminal 200.
  • the communication terminal 200 buffers data.
  • the communication terminal 200 transmits HARQ / ACK to the management apparatus 300.
  • the communication terminal 200 clears the reception buffer.
  • the management apparatus 300 that has received HARQ / ACK transmits ACK to the display apparatus 100.
  • the display device 100 clears the transmission buffer.
  • FIG. 22 schematically shows a communication end flowchart.
  • the flow of processing after the communication terminal 200 loses sight of the display device 100 during communication between the communication terminal 200 and the display device 100 is schematically shown.
  • FIG. 23 schematically shows a flowchart of sleep transition.
  • data is transmitted from the 5G network to the display device 100.
  • the display device 100 transmits data to the communication terminal 200.
  • the description will be continued assuming that the sleep timer has expired while the communication terminal 200 that received the data is not communicating.
  • the communication terminal 200 transmits a sleep request to the management apparatus 300.
  • the management device 300 transmits a terminal sleep request to the display device 100.
  • the display device 100 transmits the terminal Sleep Accept to the management device 300.
  • the management device 300 transmits Sleep Complete to the communication terminal 200.
  • the communication terminal 200 starts a DRX timer. And the communication terminal 200 will be in the state of intermittent reception.
  • FIG. 24 schematically shows a handover flowchart.
  • the communication terminal 200 and the display device 100 perform optical communication.
  • the communication terminal 200 executes a camera scan.
  • the communication terminal 200 determines whether another synchronization signal is detected. When it determines with having detected, it progresses to S408, and when it determines with having not detected, it returns to S404.
  • the communication terminal 200 executes image processing on the image scanned by the camera.
  • the communication terminal 200 performs affine transformation.
  • the communication terminal 200 receives the synchronization signal.
  • the communication terminal 200 decodes the synchronization signal.
  • the process proceeds to S418. If it is determined that the communication terminal 200 is less than the threshold, the process returns to S402.
  • the transmission data acquisition unit 114 communicates with the BBU 103 via the CPRI.
  • the transmission data acquisition unit 114 may communicate IQ data.
  • the transmission data acquisition unit 114 may decode the received IQ signal.
  • the transmission data acquisition unit 114 transmits the Bit Stream to the video generation unit 120.
  • the video acquisition unit 116 communicates with the computer 102, which is an example of a host device, via HDMI.
  • the video acquisition unit 116 is an H.264 format.
  • H.264 video data may be communicated.
  • the video acquisition unit 116 is an H.264 format.
  • H.264 decoding may be performed.
  • the video acquisition unit 116 exchanges the acquired video data with the video generation unit 120.
  • the video acquisition unit 116 transmits the acquired video data to the area specifying unit 118.
  • the area specifying unit 118 specifies an area of the video data where the luminance and color information do not change for a predetermined period or an area where the amount of change is lower than a predetermined threshold.
  • the video generation unit 120 generates encoded video in which various types of information are encoded in the video data received from the video acquisition unit 116. For example, the video generation unit 120 generates an encoded video in which the transmission data acquired by the transmission data acquisition unit 114 is encoded as an optical communication signal in the region specified by the region specification unit 118. The video generation unit 120 converts the encoded video into an H.264 format via HDMI. It is transmitted to the display control unit 122 as H.264 video data. The display control unit 122 displays the received video data on the display unit.
  • the measurement result receiving unit 124 receives the received luminance level and the received SNR, which are measured by the communication terminal 200 imaging and displaying the video displayed by the display control unit 122, via the network 50 and the NW I / F 130.
  • the measurement result receiving unit 124 may execute control message processing.
  • the luminance level adjustment unit 126 may adjust the luminance level of display by the display unit controlled by the display control unit 122 based on the measurement result received by the measurement result reception unit 124.
  • the STB 101 determines a transmission area.
  • the STB 101 determines a modulation scheme.
  • the STB 101 may perform luminance modulation in four stages (MCS 0 to 4).
  • the color information may be three types of maximum RGB. MCS may be selected from the received luminance information. RGB may be selected according to the color of the place where data is superimposed.
  • the STB 101 may perform four levels of luminance modulation (MCS 0 to 4).
  • the color information may be three types of maximum RGB. MCS and RGB may be determined in accordance with the area (PRB) where data can be superimposed and the amount of buffered data.
  • the STB 101 creates modulation data.
  • the STB 101 creates output data and outputs the H.264 data. H.264 encoding is executed and output.
  • FIG. 28 schematically shows a flowchart of determining the data superposition position.
  • the data superposition position determination may be performed by the STB 101.
  • the STB 101 acquires the visual field information of the terminal and acquires the video detection information of the terminal.
  • the STB 101 acquires video information, stores video frame information, compares it with the stored video information, and extracts a portion with little change.
  • the STB 101 excludes the blind spot of the connected communication terminal 200.
  • the STB 101 considers the blind spots of all connected terminals. Then, the STB 101 calculates a resource amount based on the PF and determines an allocation resource.
  • FIG. 29 schematically shows an algorithm for data encoding.
  • a turbo code is shown as an example, but this is not a limitation.
  • FIG. 30 schematically shows an algorithm related to white noise of transmitted light.
  • the white noise of the transmitted light may be executed by the STB 101.
  • the STB 101 applies terminal identification information to a PN sequence generator to output a PN sequence, generates transmission data converted into white noise from this and transmission data, performs modulation (luminance modulation, RGB modulation), Perform video mapping.
  • modulation luminance modulation, RGB modulation
  • FIG. 31 As shown in the main example 1 (example using infrared DLP), the projector uses a DLP (Digital Lite Prosecing) projector using an infrared light source, and the transmission data is encoded on the wall surface of the building mainly at night.
  • the supplemental downlink is realized by projecting the converted video.
  • the communication terminal uses a semiconductor camera sensor with sensitivity in the infrared region. The camera angle can be changed by adjusting the directivity of the lens with a motor drive mechanism, and the semiconductor camera sensor projects onto a building or the like with an optical zoom mechanism.
  • the supplementary downlink is realized by making adjustments so that the entire image in which the transmitted data is encoded can be captured, and by making maximum use of the resolution of the semiconductor camera sensor.
  • the entire image projected on the wall of the building is enlarged and focused, and the entire projected image is divided and communicated simultaneously with a plurality of communication terminals. The form that realizes is more efficient.
  • FIG. 32 As shown in the main example 2 (office ceiling lighting), the ceiling lighting in the office is replaced with a lighting panel according to the present invention (using liquid crystal or organic EL), and through a BBU and a CPRI-HDMI converter. And the supplementary downlink is realized by using the ceiling lighting as a display device.
  • a lighting panel according to the present invention using liquid crystal or organic EL
  • Fig. 33 As shown in the main example 3 (ceiling of the dome stadium), dozens of projectors are installed in the dome stadium, and an image in which transmission data is encoded is projected toward the dome ceiling. As a video display device, supplemental downlink is realized. At this time, the communication terminal may be embedded in an HMD (Head Mount Display). Further, the same data can be simultaneously received by a plurality of HMDs by performing multicast communication.
  • HMD Head Mount Display
  • FIG. 34 and FIG. 35 In the communication system shown in the main embodiment 3 (ceiling of the dome stadium), it is possible to make redundant images captured by the communication terminal by projecting the same image from a plurality of projectors. . Due to these diversity effects, the frequency of retransmission is reduced, and stable and high-speed communication can be realized.
  • Fig. 36 Major Example 3 (Drone Camera at Dome Stadium)
  • images sent from drones flying inside the stadium are communications other than optical communications (4G , 5G, WiFi, etc.) and stored in a data server installed in the stadium, and multicast distribution is performed to communication terminals in the stadium using the communication system of FIG.
  • FIG. 37 As shown in the main embodiment 5 (reception by a plurality of cameras), when the communication terminal is equipped with cameras in the front and rear, top and bottom, and left and right directions, the video display device is set so that the communication speed is the fastest. By selecting a camera that can capture images, it is possible to always realize the supplemental downlink according to the present invention without depending on the attitude of the communication terminal 9.
  • FIG. 39 As shown in the main embodiment 7 (fisheye lens projector), when the projector includes a fisheye lens, a large image can be projected. At this time, the resolution of the image received by the communication terminal is improved. Communication speed is improved.
  • FIG. 40 shows an example of a part related to this development in the hardware configuration of the computer 900 functioning as the communication terminal 200.
  • a computer 900 according to this embodiment includes a CPU 910, a BBIC, a DSP, and a camera 946.
  • the program installed in the computer 900 and causing the computer 900 to function as the communication terminal 200 may work on the BBIC or the like to cause the computer 900 to function as each unit of the communication terminal 200.
  • the information processing described in these programs is read into the computer 900, whereby the imaging unit 212, the image processing unit 214, and information, which are specific means in which the software and the various hardware resources described above cooperate. It functions as a communication unit 216, a decoding unit 218, a measurement unit 220, a measurement result transmission unit 222, a position / orientation acquisition unit 224, and a directivity adjustment unit 226.
  • the specific communication terminal 200 according to the intended use is constructed
  • Communication is established with the dual connectivity of the CCD device connected to the CPU 910 via an interface at a speed exceeding USB 3.0 (10 Gbps) and the BBIC (including 3G and 4G) connected to the CPU 910, and the modem side A CCD device connected to the CPU 1010 instead of the main provides a supplemental downlink data path.
  • the 5G modem decodes the bit stream coming from the CCD and the CPU 1010 in the same manner as the 28 GHz or 76 GHz AD data stream to obtain a supplemental downlink.
  • Information processing that is installed in the STB 101 and described in a program that causes the display device 100 to function as an optical communication device includes the STB 101 as an information receiving unit 112, a transmission data acquiring unit 114, a video acquiring unit 116, a region specifying unit 118, and a video generating unit. 120, the display control unit 122, the measurement result reception unit 124, and the luminance level adjustment unit 126.
  • 10 communication system 50 network, 100 display device, 101 STB, 102 computer, 103 BBU, 104 display, 105 projector, 106 converter, 108 projection video, 112 information receiving unit, 114 transmission data acquisition unit, 116 video acquisition unit, 118 area identification unit, 120 video generation unit, 122 display control unit, 124 measurement result reception unit, 126 luminance level adjustment unit, 200 communication terminal, 201 CMOS sensor, 202 CPU, 203 display, 204 communication modem, 212 imaging unit, 214 Image processing unit, 216 information communication unit, 218 decoding unit, 220 measurement unit, 222 measurement result transmission unit, 224 position and orientation acquisition unit, 226 directivity adjustment unit, 300 management device, 400 specific area, 40 Division area, 404 division area, 410 synchronization signal, 420 paging signal, 430 anchor signal, 432 anchor signal, 434 anchor signal, 440 specific area, 442 division area, 510 building, 520 building, 600 obstacle, 810 situation, 820 situation , 900 computer, 910 CPU, 946 camera

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Business, Economics & Management (AREA)
  • Marketing (AREA)
  • Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Optical Communication System (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

増大する通信需要に対応して、大容量の下り通信を安価かつ効率的に提供する手段が求められている。そこで、表示部に映像を表示させる表示制御装置と、表示部によって表示された映像を、直接、あるいは、壁面等に投影され、あるいは反射した映像を、撮像する撮像部を有する通信端末とを備えるサプリメンタルダウンリンクを提供する、並びにマルチキャスト通信を提供する通信システムであって、表示制御装置が、表示対象の映像を取得する映像取得部と、映像取得部が取得した映像のうち、変化しない領域又は変化量が予め定められた閾値より低い領域を特定する領域特定部と、領域特定部によって特定された領域に送信データを光通信信号として符号化した符号化映像を生成する映像生成部と、符号化映像を表示部に表示させる表示制御部とを有し、通信端末が、撮像部によって撮像された映像のうち、送信データが符号化された領域を識別する領域識別部と、領域識別部によって識別された領域から送信データを復号化する復号化部、並びに、光通信以外の手段(WiFi、モバイルデータ通信等の手段)で、上記光通信によるサプリメンタルダウンリンクの制御信号を通信する機構を有する通信システムを提供する。

Description

光通信を利用した大容量のサプリメンタルダウンリンクを可能とする通信システム、表示制御装置、通信端末及びプログラム
 本発明は、通信システム、表示制御装置、通信端末及びプログラムに関する。
 画像表示装置による表示画像に送信データを符号化する可視光通信技術が知られていた(例えば、特許文献1参照)。
 [先行技術文献]
 [特許文献]
 [特許文献1]国際公開第2014/103329号
解決しようとする課題
 端末等に付属するカメラを受信機とし、屋内、屋外に設置されたディスプレイ装置、プロジェクタ、あるいはプロジェクションマッピングの為のプロジェクター、デジタルサイネージ、あるいはそれらを利用した照明機器等として再定義したもの(天井の規格のパネルを照明器具としてディスプレイ装置を使用したパネルで、本発明で使用するサプリメンタルダウンリンク兼、照明パネルとしたもの)を送信機として利用し、光下り通信を実現し、端末等の補助的なダウンリンクを実現し、効率的な高速通信を可能にする。
 PureLiFiでは、頑張り過ぎのハイスピードレーザーを用いて超高速ギガビット通信を実現しようとしているが、そのようなことをするまでもなく、通常のディスプレイパネルと通常のCCDはピクセルが多数搭載されているため、新たなデバイスを開発せずにギガビットを超える通信速度が達成され、かつそれは十分効率的に動画が表示、撮像されている。USB3.1のディスプレイ、カメラに至っては10Gbpsの伝送速度が容易に実現されている。高価な素子や先端技術を利用することなく、先述の既存デバイスをそのまま利用する点が本発明の特長である。これまで通信システムで用いられてきた空間分割多重(SDMA)とは異なり、LOS(Line of sight)同士で空間を交差して多重化している。縦横無尽に多重化されている点も本発明の特長である。
一般的開示
 本発明の第1の態様によれば、表示部に映像を表示させる表示制御装置と、表示部によって表示された映像を撮像する撮像部を有する通信端末とを備える通信システムが提供される。表示制御装置は、表示対象の映像を取得する映像取得部を有してよい。表示制御装置は、映像取得部が取得した映像のうち、変化しない領域又は変化量が予め定められた閾値より低い領域を特定する領域特定部を有してよい。表示制御装置は、領域特定部によって特定された領域に送信データを光通信信号として符号化した符号化映像を生成する映像生成部を有してよい。表示制御装置は、符号化映像を表示部に表示させる表示制御部を有してよい。通信端末は、撮像部によって撮像された映像のうち、送信データが符号化された領域を識別する領域識別部を有してよい。通信端末は、領域識別部によって識別された領域から送信データを復号化する復号化部を有してよい。
 上記撮像部は指定されたレートで動画を記録することができる。撮像とは、静止画ではなく60fps等の動画であってよい。撮像部の記録レートと表示部の表示レートは同期させてもよい。同期させることを前提としたシステムの場合は、同期がずれた際にはテレビをカメラで撮影したような縞模様(ノイズ)が記録され、復号化する際にエラーとなる。また、映像投影装置、映像取得部は、その場所ごとの交流に同期しゼロクロスタイミングで映像取得するのが望ましい。(50Hzなら100Hz、60Hzなら120Hzで)。
 上記領域特定部は、上記映像取得部が取得した上記映像のうち、予め定められた期間、輝度及び色情報が変化しない領域または変化量が予め定められた閾値より低い領域を特定してよい。上記映像生成部は、上記送信データを符号化した領域以外の領域に、上記送信データを符号化した領域を示す領域情報を光通信信号として符号化した上記符号化映像を生成してよく、上記領域識別部は、上記撮像部によって撮像された映像のうち、上記領域情報が符号化された領域を識別して、当該領域から上記領域情報を復号化し、上記領域情報が示す領域を、上記送信データが符号化された領域として識別してよい。上記映像生成部は、上記送信データを符号化した領域以外の領域に、上記通信端末を識別する端末識別情報を光通信信号として符号化した上記符号化映像を生成してよい。上記映像生成部は、上記表示装置を識別する表示装置識別情報を、上記送信データを符号化した領域以外の領域に光通信信号として符号化した上記符号化映像を生成してよい。
 上記通信端末は、上記撮像部が撮像する上記映像の受信輝度レベル及び受信SNR(Signal to Noise Ratio)を測定する測定部と、上記測定部による測定結果を上記表示制御装置に送信する測定結果送信部とを有してよく、上記表示制御装置は、上記測定結果を受信する測定結果受信部と、上記測定結果に基づいて、上記表示部による表示の輝度レベルを調整する輝度レベル調整部とを有してよい。上記映像取得部は、上記表示部によるスクリーンセーバ映像を取得してよく、上記映像生成部は、上記スクリーンセーバ映像の特定領域に送信データを符号化した符号化映像を生成してよく、上記表示制御部は、上記符号化映像をスクリーンセーバとして、上記表示部に表示させてよく、上記測定部は、上記復号化部によって復号化された送信データに基づいて、上記受信輝度レベル及び上記受信SNRを測定してよい。上記測定結果送信部は、光通信を用いずに、上記測定結果を上記表示制御装置に送信してよい。
 上記通信端末は、上記表示制御部による表示映像に対してアフィン変換を施し表示映像を正四角形に変換する撮像変換部と、上記変換時の情報に基づいて、上記撮像部による撮像の指向性を調整する指向性調整部とを有してよい。上記表示制御装置は、上記撮像部によって撮像された映像に関する撮像映像情報を上記通信端末から受信する情報受信部を有してよく、上記映像生成部は、上記撮像映像情報に基づいて上記符号化映像を生成してよい。上記映像生成部は、上記撮像映像情報に基づいて、上記送信データの各情報を割り当てる画素数を変更してよい。上記撮像映像情報は、上記表示部によって表示されている映像のうち、上記撮像部によって撮像できない領域を示してよく、上記映像生成部は、上記領域特定部によって特定された領域から、上記撮像部によって撮像できない領域を除外した領域に、送信データを光通信信号として符号化した符号化映像を生成してよい。
 上記表示部は、プロジェクタであってよく、上記撮像部は、上記プロジェクタによって投影面に投影された光を撮像してよい。上記映像生成部は、内容が変化しない映像に送信データを光通信信号として符号化した符号化映像を生成してよい。上記通信端末は、
 上記撮像部によって上記映像を撮像できない場合に、通知データを上記表示制御装置に送信する通知データ送信部を有してよく、上記映像生成部は、上記通知データを受信した場合、上記映像全体の輝度変調によって上記送信データを光通信信号として符号化した符号化映像を生成してよい。上記表示制御装置は、上記送信データを無線基地局のベースバンド装置にてIQベクトル信号に変換した信号を、上記ベースバンド装置から送信するCPRI(Common Public Radio Interface)インタフェースと、上記表示部に映像信号を伝送するインターフェイス(HDMI(登録商標)(High-Definition Multimedia Interface)等)と、上記CPRIインタフェース上のIQ信号(複素デジタル信号の同相(In-phase)および直交(Quadrature)成分からなるベースバンド信号)からRGBI信号に変換して送信する回路とを有してよい。上記無線基地局のベースバンド装置は、CPRI信号をHDMI(登録商標)に変換して送信する機能を有してよく、上記表示制御装置は、上記ベースバンド装置からのIQ信号をHDMI(登録商標)インターフェイスから送信してよい。
 上記無線基地局のベースバンド装置がHDMIインターフェイスを有していないとき、上記ベースバンド装置と上記表示制御装置の間に、CPRI信号をHDMI(登録商標)に変換する装置を経由してよい。
 本発明の第2の態様によれば、表示制御装置が提供される。表示制御装置は、表示対象の映像を取得する映像取得部を備えてよい。表示制御装置は、映像取得部が取得した映像のうち、変化しない領域又は変化量が予め定められた閾値より低い領域を特定する領域特定部を備えてよい。表示制御装置は、領域特定部によって特定された領域に送信データを光通信信号として符号化した符号化映像を生成する映像生成部を備えてよい。表示制御装置は、符号化映像を表示部に表示させる表示制御部を備えてよい。
 本発明の第3の態様によれば、コンピュータを、上記表示制御装置として機能させるためのプログラムが提供される。
 本発明の第4の態様によれば、通信端末が提供される。通信端末は、表示装置によって表示される映像のうち、送信データが光通信信号として符号化されている領域を示す領域情報を取得する領域情報取得部を備えてよい。通信端末は、撮像部によって撮像された映像のうち、領域情報に基づいて、送信データが符号化された領域を識別する領域識別部を備えてよい。通信端末は、領域識別部によって識別された領域から送信データを復号化する復号化部を備えてよい。
 本発明の第5の態様によれば、コンピュータを、上記通信端末として機能させるためのプログラムが提供される。
 なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
通信システム10の一例を概略的に示す。 表示装置100及び通信端末200の構成例を概略的に示す。 通信システム10の他の一例を概略的に示す。 表示装置100及び通信端末200の構成例を概略的に示す。 STB101とBBU103との接続関係を概略的に示す。 表示装置100の機能構成の一例を概略的に示す。 通信端末200の機能構成の一例を概略的に示す。 表示装置100による表示例を概略的に示す。 表示装置100による表示例を概略的に示す。 通信端末200による撮像映像の表示例を概略的に示す。 通信端末200による撮像映像の表示例を概略的に示す。 表示装置100による同期信号410及び呼出信号420の一例を概略的に示す。 通信フェーズにおける表示装置100による表示例を概略的に示す。 通信フェーズにおける表示装置100による表示例を概略的に示す。 投影映像108の一例を概略的に示す。 通信開始の制御メッセージシーケンス(例)を概略的に示す。 表示装置100側の通信開始のフローチャート(例)を概略的に示す。 表示装置100側の通信中のフローチャート(例)を概略的に示す。 通信端末200側の通信開始のフローチャート(例)を概略的に示す。 通信端末200側の通信中のフローチャート(例)を概略的に示す。 通信中における再送シーケンス(例)を概略的に示す。 通信終了のフローチャートを概略的に示す。 スリープ移行のフローチャートを概略的に示す。 ハンドオーバーのフローチャートを概略的に示す。 Set Top Box内部ブロック図(例)を概略的に示す。 Set Top Box内部動作フローチャート(例)を概略的に示す。 送信解像度決定のフローチャートを概略的に示す。 データ重畳位置決定のフローチャートを概略的に示す。 データ符号化のアルゴリズムを概略的に示す。 送信光のホワイトノイズ化に関するアルゴリズムを概略的に示す。 主要な実施例1(赤外線光源を使用したDLPを用いる例)を示す。 主要な実施例2(オフィスの天井照明)を示す。 主要な実施例3(ドーム球場の天井)を示す。 主要な実施例3.1(ドーム球場の天井)を示す。 主要な実施例3.1(ドーム球場の天井)を示す。 主要な実施例4(ドーム球場のドローンカメラ)を示す。 主要な実施例5(複数カメラでの受信)を示す。 主要な実施例6(モータードライブカメラ)を示す。 主要な実施例7(魚眼レンズプロジェクター)を示す。 通信端末200として機能するコンピュータ900のハードウエア構成の一例を概略的に示す。
 以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
 図1は、通信システム10の一例を概略的に示す。通信システム10は、表示装置100及び通信端末200を備える。
 表示装置100と通信端末200とは、いわゆる光通信を実行する。例えば、表示装置100が、表示対象の映像に送信データを光通信信号として符号化した符号化映像を生成して表示し、通信端末200が、表示装置100によって表示された映像を撮像して、光通信信号を復号化して送信データを取得する。通信システム10が利用する光通信方式の一例として、輝度変調やRGB変調による方式が挙げられるが、これに限らず、任意の方式を用いてよい。
 表示装置100が表示する映像は任意の映像であってよく、表示装置100は任意の表示デバイスであってよい。表示装置100の例としては、テレビ、PC(Personal Computer)等のディスプレイ、及びデジタルサイネージ等が挙げられる。また、表示装置100の例として、照明を主目的としつつ映像も表示可能な照明装置も挙げられる。
 表示装置100は、表示制御装置の一例であってよい。表示装置100の全体が表示制御装置の一例であってよい。また、表示装置100の一部が表示制御装置の一例であってもよい。例えば、表示装置100における表示部以外の部分が表示制御装置の一例であってもよい。具体例としては、表示装置100におけるモジュール及びチップ等が表示制御装置の一例であってよい。
 通信端末200は、撮像部及び通信機能を有していればどのような端末であってもよい。通信端末200の例としては、スマートフォン、タブレット端末、及び、HMD(Head Mount Display)等が挙げられる。
 本実施形態に係る表示装置100は、例えば、表示対象の映像のうち、予め定められた期間、輝度及び色情報が変化しない領域または変化量が予め定められた閾値より低い領域等を特定し、特定した領域に送信データを光通信信号として符号化した符号化映像を生成し、表示する。
 このように、映像のうち予め定められた期間、輝度及び色情報が変化しない領域または変化量が予め定められた閾値より低い領域に送信データを符号化することによって、表示装置を用いた従来の光通信に比べて通信スループットを向上させることができる。従来の光通信では、表示映像に対して単に送信データを符号化するので、空間解像度が低く十分なスループットを得ることができず、URL等のデータ量の少ない送信データを送信できるに過ぎない。これに対して、本実施形態に係る表示装置100によれば、映像のうち情報エントロピーの変化量の少ない領域を空間的に分割して使用するので、効率的に十分高速なスループットを得ることができる。
 また、本実施形態に係る通信システム10においては、表示装置100と通信端末200との間のいわゆる通信制御を、ネットワーク50を介した通信によって実現してよい。このとき、表示装置100及び通信端末200は、ネットワーク50を介して管理装置300と通信してよい。
 ネットワーク50は任意のネットワークであってよく、ネットワーク50を介した通信の方式としては、例えば、3G(3rd Generation)通信方式、LTE(Long Term Evolution)通信方式、4G(4th Generation)通信方式、5G(5th Generation)通信方式等のモバイル通信方式、並びに、WiFi(登録商標)、ADSL、ケーブルモデム等を含むインターネット通信技術、LPWA(LoRa、NB-IoT、eMTCを含む)等が例示できる。
 通信システム10において、例えば、通信端末200が、自身を識別する端末識別情報を、管理装置300を介して表示装置100に送信し、表示装置100が送信データとともに当該識別情報を用いて符号化した符号化映像を表示する。通信端末200が、送信データを自身の保有する端末識別情報を用いて復号化することによって、表示装置100と特定の通信端末200との間でのみ光通信を実行でき、従来の光通信では実現できなかったユニキャストサービスを実現することができる。
 図2は、図1に示す表示装置100及び通信端末200の構成例を概略的に示す。図2に示す例において、表示装置100は、STB(Set Top Box)101、コンピュータ102、BBU(Base Band Unit)103、及びディスプレイ104を備える。また、通信端末200は、CMOS(Complementary MOS)センサ201、CPU202、ディスプレイ203、及び通信モデム204を備える。
 STB101は、表示対象の映像をコンピュータ102から取得する。また、STB101は、送信データをBBU103から取得する。BBU103は、例えば、表示装置100から通信端末200に送信すべき送信データを、ネットワーク50を介して任意の端末等から受信して、STB101に送信してよい。
 STB101は、コンピュータ102から取得した映像のうち、予め定められた期間、輝度及び色情報が変化しない領域または変化量が予め定められた閾値より低い領域を特定する。そして、STB101は、特定した領域内の領域に、送信データの領域を示す領域情報を光通信信号として符号化し、BBU103から取得した送信データを、上記領域情報にて示された領域に光通信信号として符号化した符号化映像を生成して、ディスプレイ104に表示させる。
 CMOSセンサ201は、ディスプレイ104に表示された映像を撮像する。CPU202は、CMOSセンサ201から当該映像を取得し、映像データと通信復号化用映像に分離して、映像データをディスプレイ203に、通信復号化用映像を通信モデム204に送信する。ディスプレイ203は、映像データを表示する。通信モデム204は、符号化された領域情報を復号化し、当該領域情報を用いて、送信データを復号化する。
 図3は、通信システム10の他の一例を概略的に示す。ここでは、図1とは異なる点を主に説明する。
 図3における表示装置100は、映像を投影する。表示装置100が投影した映像を投影映像108と記載する。表示装置100が表示する映像は任意の映像もしくは赤外線による不可視の映像であってよく、表示装置100は任意の表示デバイスであってよい。表示装置100の例としては、プロジェクタ、プロジェクションマッピング、及びデジタルサイネージ等が挙げられる。また、表示装置100の例として、照明を主目的としつつ映像も表示可能な照明装置も挙げられる。
 図4は、図3に示す表示装置100及び通信端末200の構成例を概略的に示す。ここでは、図2とは異なる点を主に説明する。
 図4に示す例において、表示装置100は、STB101、コンピュータ102、BBU103、及びプロジェクタ105を備える。STB101は、表示対象の映像をコンピュータ102から取得する。また、STB101は、送信データをBBU103から取得する。
 STB101は、コンピュータ102から取得した映像のうち、予め定められた期間、輝度及び色情報が変化しない領域または変化量が予め定められた閾値より低い領域を特定する。そして、STB101は、特定した領域内の領域に、特定した領域を示す領域情報を光通信信号として符号化し、BBU103から取得した送信データを特定した領域に光通信信号として符号化した符号化映像を生成して、プロジェクタ105に表示させる。
 CMOSセンサ201は、プロジェクタ105によって投影された投影映像108を撮像する。映像が投影される対象は任意の場所であってよく、例えば、ビル等の建物の壁面に投影されてよい。CPU202は、CMOSセンサ201から当該映像を取得し、映像データと通信復号化用映像に分離して、映像データをディスプレイ203に、通信復号化用映像を通信モデム204に送信する。ディスプレイ203は、映像データを表示する。通信モデム204は、符号化された領域情報を復号化し、当該領域情報を用いて、送信データを復号化する。プロジェクタ105が効果を発揮するのは、主に夜間となる。
 図5は、STB101とBBU103との接続関係を概略的に示す。STB101とBBU103とは、変換器106を介して接続される。STB101と変換器106とは、HDMIを介して通信する。変換器106とBBU103とは、CPRIを介して通信する。
 図6は、表示装置100の機能構成の一例を概略的に示す。表示装置100は、情報受信部112、送信データ取得部114、映像取得部116、領域特定部118、映像生成部120、表示制御部122、測定結果受信部124、及び輝度レベル調整部126を備える。なお、表示装置100がこれらのすべての構成を備えることは必須とは限らない。
 情報受信部112は、各種情報を受信する。情報受信部112は、ネットワーク50を介して情報を受信してよい。情報受信部112は、例えば、通信制御に関する情報を、管理装置300からネットワーク50を介して受信する。情報受信部112は、例えば、通信相手の通信端末200を識別する端末識別情報を、管理装置300から受信する。また、情報受信部112は、例えば、通信端末200に対して送信すべき送信データを、ネットワーク50を介して受信する。
 表示装置100は、端末識別情報を光通信を通じて通信端末200に通知してもよい。
 送信データ取得部114は、通信端末200に送信すべき送信データを取得する。送信データ取得部114は、表示装置100のメモリに格納されている送信データを読み出してよい。また、送信データ取得部114は、情報受信部112が受信した送信データを、情報受信部112から取得してよい。
 映像取得部116は、表示対象の映像を取得する。映像取得部116は、表示装置100のメモリに格納されている映像を読み出してよい。映像取得部116は、例えば、コンピュータ102から映像を取得する。映像取得部116は、表示対象の映像として、スクリーンセーバ映像を取得してもよい。
 領域特定部118は、映像取得部116が取得した映像のうち、予め定められた期間、輝度及び色情報が変化しない領域または変化量が予め定められた閾値より低い領域を特定する。領域特定部118は、例えば、映像のうち、変化しない領域を特定する。領域特定部118は、映像のうち、予め定められた期間、輝度及び色情報が変化しない領域を特定してよい。また、領域特定部118は、例えば、映像のうち、変化量が予め定められた閾値より低い領域を特定する。領域特定部118は、映像のうち、予め定められた期間、輝度及び色情報の変化量が予め定められた閾値より低い領域を特定してよい。予め定められた期間は、変更可能であってよい。また、予め定められた閾値は、変更可能であってよい。
 映像生成部120は、映像取得部116が取得した映像に、各種情報を符号化した符号化映像を生成する。例えば、映像生成部120は、領域特定部118が特定した領域に、送信データ取得部114が取得した送信データを光通信信号として符号化した符号化映像を生成する。映像生成部120は、映像取得部116がスクリーンセーバ映像を取得した場合には、スクリーンセーバ映像のうちの、領域特定部118が特定した領域に制御信号を符号化した符号化映像を生成してよい。制御信号は、通信端末200において、受信輝度レベル及び受信SNR(Signal to Noise Ratio)を測定する際に用いられる信号であってよい。
 また、例えば、映像生成部120は、送信データを符号化した領域を示す領域情報を光通信信号として符号化した符号化映像を生成する。映像生成部120は、送信データを符号化した領域以外の領域に領域情報を光通信信号として符号化した符号化映像を生成してよい。
 また、例えば、映像生成部120は、通信端末200を識別する端末識別情報を光通信信号として符号化した符号化映像を生成する。映像生成部120は、送信データを符号化した領域以外の領域に端末識別情報を光通信信号として符号化した符号化映像を生成してよい。
 また、例えば、映像生成部120は、表示装置100を識別する表示装置識別情報を光通信信号として符号化した符号化映像を生成する。表示装置識別情報は、表示部識別情報の一例であってよい。映像生成部120は、送信データを符号化した領域以外の領域に表示装置識別情報を光通信信号として符号化した符号化映像を生成してよい。
 映像生成部120は、映像全体が変化しない無変化映像に各種情報を符号化した符号化映像を生成してもよい。
 表示制御部122は、映像生成部120が生成した符号化映像を表示部に表示させる。表示部の例としては、ディスプレイ104及びプロジェクタ105が挙げられる。表示制御部122は、符号化映像をディスプレイ104に表示させてよい。また、表示制御部122は、符号化映像をプロジェクタ105に表示させてよい。表示制御部122は、映像生成部120によって、スクリーンセーバ映像のうちの、領域特定部118が特定した領域に制御信号を符号化した符号化映像が生成された場合、当該符号化映像をスクリーンセーバとして、表示部に表示させてよい。
 測定結果受信部124は、通信端末200が、表示制御部122によって表示された映像を撮像して測定した、受信輝度レベル及び受信SNRを、通信端末200から受信する。
 輝度レベル調整部126は、測定結果受信部124が受信した測定結果に基づいて、表示制御部122が制御する表示部による表示の輝度レベルを調整する。
 図7は、通信端末200の機能構成の一例を概略的に示す。通信端末200は、撮像部212、画像処理部214、情報通信部216、復号化部218、測定部220、測定結果送信部222、位置姿勢取得部224、及び指向性調整部226を備える。なお、通信端末200がこれらのすべての構成を備えることは必須とは限らない。
 画像処理部214は、撮像部212が撮像した画像をアフィン変換等の方法で画像処理する。画像処理部214は、撮像部212が撮像した、表示制御部122によって表示された映像を処理してよい。
 画像処理部214は、映像に光通信信号として符号化されている領域情報を復号化して、領域情報を取得してよい。画像処理部214は、領域情報を用いて、撮像部212が撮像した映像のうち、送信データが符号化された領域を識別してよい。画像処理部214は、領域識別部の一例であってよい。
 通信端末200は、ネットワーク50を介して端末識別情報を管理装置300に送信してよく、管理装置300は、ネットワーク50を介して表示装置100の通信の相手方となる通信端末200の端末識別情報を表示装置100に送信してよい。この端末識別情報は、表示装置100から光通信を介して通信端末に通知されてもよい。また、管理装置300から端末識別情報が新たに発行される場合において、通信端末200は、ネットワーク50を介して上記端末識別情報を取得してよい。
 また、画像処理部214は、端末識別情報を用いて、映像に光通信信号として符号化されている送信データを復号化してよい。これにより、通信端末200は、映像に符号化されている送信データが、自端末宛のデータである場合にのみ正常に複合することができる。
 表示装置100は、通信の相手方となる通信端末200毎に異なる符号を生成し、光通信を介して通信端末200に送信する機能を有してよい。
 表示装置100は、通信の相手方となる通信端末200毎に異なる符号を用いて送信データのスクランブルを実行してよい。
 画像処理部214は、表示装置から送信された通信端末毎に異なる符号を用いて、表示装置100でスクランブルされた送信データのスクランブル解除を実効してよい。
 また、画像処理部214は、映像に光通信信号として符号化されている表示装置識別情報を復号化して、表示装置識別情報を取得してよい。これにより、通信端末200は、複数の表示装置100によって送信される送信データを識別可能になる。
 画像処理部214は、撮像部212が撮像した映像を解析して、当該映像に関する撮像映像情報を情報通信部216に送信させてよい。情報通信部216は、画像処理部214の指示に従って、撮像映像情報を、表示装置100及び管理装置300等に送信してよい。
 撮像映像情報は、例えば、表示制御部122によって表示されている映像のうち、表示装置100と通信端末200との間の伝送路の状況によって、通信端末200が撮像できない領域を示す。例えば、撮像映像情報は、表示制御部122によって表示されている映像のうち、表示装置100と通信端末200との間の障害物等の存在によって、通信端末200が撮像できない領域を示す。表示装置100が当該撮像映像情報を受信した場合、映像生成部120は、領域特定部118によって特定された領域から、当該撮像映像情報を示す領域を除外した領域に、送信データを光通信信号として符号化した符号化映像を生成してよい。
 画像処理部214は、例えば、表示装置100と通信端末200との距離が離れており、映像に光通信信号として符号化されている送信データ等を認識することができない場合、その旨を示す撮像映像情報を情報通信部216にネットワーク50を介して管理装置300ならびに表示装置100に対して送信させてよい。表示装置100が当該撮像映像情報を受信した場合、映像生成部120は、送信データの各情報を割り当てる画素数を変更してよい。例えば、映像生成部120は、送信データの各情報を1画素に割り当てていた場合、当該撮像映像情報の受信に応じて、4画素等のより多い画素に、送信データの各情報を割り当てる。
 また、画像処理部214は、例えば、表示装置100と通信端末200との距離が近く、映像への光通信信号の符号化について、解像度を上げても認識できる場合は、その旨を示す撮像映像情報を情報通信部216にネットワーク50を介して管理装置300ならびに表示装置100に対して送信させてよい。表示装置100が当該撮像映像情報を受信した場合、映像生成部120は、送信データの各情報を割り当てる画素数を変更してよい。例えば、映像生成部120は、送信データの各情報を4画素に割り当てていた場合、当該撮像映像情報の受信に応じて、1画素等のより少ない画素に、送信データの各情報を割り当てる。
 画像処理部214は、表示制御部122によって表示されている映像を、撮像部212によって撮像できない場合、その旨を通知する通知データを情報通信部216に送信させてよい。画像処理部214は、通知データを、表示装置100に対して送信させてよい。情報通信部216は、通知データ送信部の一例であってよい。表示装置100が通知データを受信した場合、映像生成部120は、映像全体の輝度変調によって、送信データ取得部114が取得した送信データを光通信信号として符号化した符号化映像を生成してよい。これにより、表示装置100による表示映像を、通信端末200が直接撮像できない場合であっても、表示映像の光を間接的にでも撮像することができれば、通信を実現することができる。
 復号化部218は、画像処理部214によって識別された、送信データが符号化されている領域から、送信データを復号化する。復号化部218が復号化した送信データは、通信端末200のメモリに格納されてよい。
 測定部220は、撮像部212が撮像する映像の受信輝度レベル及び受信SNRを測定する。測定部220は、例えば、表示制御部122によって表示されたスクリーンセーバ映像から、復号化部218が復号化した制御信号を用いて、受信輝度レベル及び受信SNRを測定してよい。
 測定結果送信部222は、測定部220による測定結果を表示装置100に送信する。測定結果送信部222は、光通信を用いずに測定結果を表示装置100に送信してよい。測定結果送信部222は、測定部220による測定結果を、管理装置300を介して表示装置100に送信してよい。測定結果送信部222によって送信された測定結果を測定結果受信部124が受信した場合、輝度レベル調整部126は、当該測定結果を用いて、輝度レベルを必要最低限の輝度レベルに調整してよい。
 撮像部212は、ピンホールカメラやオートフォーカスカメラであってもよい。また、通信端末200の指向性調整部は、ズーム機構、ジンバル機構、および三次元首振り機構を有しても良い。
 撮像部212によって撮像された映像のうち、通信に使用する領域が小さく、且つ、通信端末200が固定されている場合は、上記三次元首振り機構やジンバル機構を用い、且つズーム機構を用いて通信に使用する領域を拡大し、送信データの各情報を割り当てる画素を少なくしてよい。ズーム機構を用いて、表示装置100を拡大表示している場合、通信端末200等のブレに対して撮像した映像の範囲から表示装置100が容易に外れるようになるので、通信端末200に搭載するIMU(ジャイロ装置)の情報を基に、通信端末200が固定され安定している場合において、指向性調整部226は、三次元首振り機構を用いて撮像部212にて撮像される表示装置100を拡大してよい。
 指向性調整部226がズーム機構を有していて三次元首振り機構やジンバル機構を有していない場合で、通信端末200にブレが発生する場合は、指向性調整部226はズームアウトして、撮像部212によって撮像される映像の範囲の中に安定して表示装置100が含まれるように調整してよい。このとき、表示装置100の通信に使用される画素を多くすることで、表示装置100から送信される送信データの復号化を安定させてよい。
 撮像部212で撮像された映像信号は、復号化部218に転送されてよい。復号化部218の処理はベースバンドICで行われてよい。復号化部218は、撮像部212で撮像された映像信号から、例えば、参照信号の読み出し、アフィン変換、アンカー信号の同定および復調、データ信号位置の同定および復調を実施する。
 復号化部218の処理は、DSPにて実施されてもよい。映像信号を転送されたDSPは、例えば、参照信号の同定、アフィン変換、参照信号の読み出し、映像輝度のイコライジング、アンカー信号の同定およびベースバンド化、データ信号の同定およびベースバンド化等を実施する。DSPは、上記復号化処理を実施した後、ベースバンドICに受信信号データを転送してよい。
 位置姿勢取得部224は、表示装置100による表示映像に対する、通信端末200の向き及び位置の相対角度を取得する。位置姿勢取得部224は、表示装置100がディスプレイ104に映像を表示させている場合は、ディスプレイ104に対する通信端末200の向き及び位置の相対角度を取得してよい。位置姿勢取得部224は、表示装置100がプロジェクタ105に映像を表示させている場合は、投影映像108に対する通信端末200の向き及び位置の相対角度を取得してよい。
 指向性調整部226は、位置姿勢取得部224によって取得された向き及び位置の相対角度に基づいて、撮像部212による撮像の指向性を調整する。指向性調整部226は、表示装置100による表示映像と、撮像部212による撮像方向とが正対するように、撮像部212による撮像の指向性を制御してよい。すなわち、指向性調整部226は、表示装置100による表示映像の表示面と、撮像部212による撮像方向とが、直交するように、撮像部212による撮像の指向性を制御してよい。撮像部212が3次元アクチュエータによりレンズを調整する機能を有する場合、指向性調整部226は、当該機能によってレンズの向きを変更することによって、表示装置100による表示映像と、撮像部212による撮像方向とが正対するようにしてよい。
 通信端末200は、自身の保持する端末識別情報を元に、撮像部で撮像された範囲に存在する、通信の相手方となる表示装置以外の表示装置の信号を逐次干渉除去技術を用いて除去してよい。
 図8は、表示装置100による表示例を概略的に示す。図8は、領域特定部118によって特定された特定領域400を分割した分割領域402及び分割領域404のそれぞれに、異なる通信端末200用の送信データを符号化した場合の表示例を示す。
 表示装置100は、通信端末200側で干渉除去に使用する通信端末200ごとに異なる拡散符号を生成してよい。
 表示装置100は、通信端末200毎に異なる拡散符号を、光通信を介して通信端末200に送信してよい。
 表示装置100は、通信の相手方となる通信端末200毎に生成された拡散符号を用いて表示装置100に表示される映像のスペクトルを拡散してよい。
 図8に示すように、表示装置100は、分割領域402に一の通信端末200用の送信データを符号化して、分割領域402を示す領域情報を一の通信端末200に通知し、分割領域404に他の通信端末200用の送信データを符号化して、分割領域404を示す領域情報を他の通信端末200に通知することによって、複数の通信端末200との同時ユニキャスト通信を実現する。
 図9は、表示装置100による表示例を概略的に示す。通信端末200が認識できる解像度は、表示装置100と通信端末200との距離等によって異なるところ、図9は、表示装置100が、通信端末200が認識できる解像度に合わせて送信データの各情報を割り当てる画素数を変更している場合を概略的に示す。
 図9に示す例では、状況820の方が状況810と比較して、表示装置100と通信端末200との間の距離が長く、通信端末200が認識できる解像度が低いことから、状況820における表示装置100の方が、送信データの各情報を割り当てる画素数をより多くしている。表示装置100がこのような制御を実行することによって、通信端末200が認識できる解像度に適した光通信信号の符号化を実現することができる。
 図10は、通信端末200による撮像映像の表示例を概略的に示す。図10は、表示装置100と通信端末200との間に存在する障害物600によって、通信端末200が、特定領域400の一部を撮像できない状況を示す。
 図11は、表示装置100によって投影された投影映像108が、外部のその他の強い光によって部分的に照射され、通信端末200が、特定領域400の一部の情報を認識できない状況を示す。
 図10、および図11に示す状況において、情報通信部216は、表示装置100によって表示されている映像のうち、障害物600によって撮像できない領域、もしくは、投影映像108のうち、外部の強い光によって認識できない領域を示す撮像映像情報を表示装置100に送信する。映像生成部120は、当該撮像映像情報に基づいて、領域特定部118によって特定された特定領域400から、通信端末200によって撮像できない領域もしくは、信号を認識できない領域を除外した領域に、送信データ等を符号化した符号化映像を生成してよい。これにより、表示装置100が特定領域400に送信データを符号化したにもかかわらず、障害物600もしくは外部の強い光の存在によってそれを通信端末200が受信できないという事態の発生を防止することができる。
 図12は、表示装置100による同期信号410及び呼出信号420の一例を概略的に示す。表示装置100は、同期信号410を定期的に表示する。表示装置100は、例えば、30フレーム毎に同期信号410を表示する。図12では、6つの同期信号410を表示する場合を例示しているが、同期信号410の数、位置、及び大きさは図12に示すものに限らず、任意に設定されてよい。
 表示装置100は、同期信号410に、表示装置100を識別する表示装置識別情報を符号化してよい。また、表示装置100は、同期信号410に、表示装置100の画面の画面解像度情報を符号化してよい。また、表示装置100は、同期信号410に、フレーム番号情報を符号化してよい。同期信号410の変調は、例えば、Zadff-Chu系列を用いて変調されてよい。
 同期信号410を撮像して読み取った通信端末200は、ネットワーク50を介して、管理装置300に通信の相手方とする表示装置100の同期信号を正常に受信完了した旨を伝えるためにアタッチ完了メッセージを送信する。アタッチ完了メッセージには、通信端末200を識別する端末識別情報が含まれてよい。また、アタッチ完了メッセージには、同期信号410に含まれていた表示装置識別情報が含まれてよい。また、アタッチ完了メッセージには、通信端末200による受信解像度情報が含まれてよい。
 管理装置300は、通信端末200から受信した情報を、ネットワーク50を介して、表示装置100に送信する。管理装置300は、通信端末200から受信した情報のうち端末識別情報に関して、端末個別の情報を保護するために、通信が切断されるまで一時的に使用される別の新たな端末識別情報を生成してよい。表示装置100が、当該端末識別情報を生成する機能を有してもよい。当該情報を受信した表示装置100は、同期信号410と同じ位置に、呼出信号420を表示する。表示装置100は、呼出信号420を定期的に表示してよい。表示装置100は、例えば、30フレーム毎に呼出信号420を表示する。呼出信号420には、通信端末200の端末識別情報が含まれてよい。呼出信号420は、通信対象となる通信端末200の端末識別情報、および拡張情報が含まれてよい。
 通信端末200は、表示装置100によって表示された呼出信号420を受信して、呼出信号420に含まれる端末識別情報と、自らの端末識別情報とが一致した場合、ネットワーク50を介して、管理装置300に呼び出し完了メッセージを送信する。管理装置300は、受信した呼び出し完了メッセージを表示装置100に送信してよい。
 アンカー信号430は、送信データを符号化した領域を示す領域情報を光通信信号として符号化した領域に含まれる信号であってよい。呼び出し完了メッセージを受信した表示装置100は、アンカー信号430の位置と、アンカー信号430を配置するフレーム番号とを、ネットワーク50を介して管理装置300に送信する。アンカー信号430が表示される大きさは、通信を開始する準備をする方法に記載されている、受信解像度情報に基づいて決定されてよい。管理装置300は、受信したアンカー信号430に関する情報を、ネットワーク50を介して通信端末200に送信する。通信端末200は、管理装置300からアンカー信号430に関する情報を受信したことに応じて、送信データを符号化した領域の復号を開始する。
 図13は、光通信中における表示装置100による表示例を概略的に示す。ここでは、予め定められた期間、輝度及び色情報が変化しない領域または変化量が予め定められた閾値より低い領域の一例として、白色の領域を採用した場合を例に挙げる。
 領域特定部118は、映像取得部116が取得した映像を解析して、白色の領域を特定する。映像生成部120は、アンカー信号430を含み、領域特定部118によって特定された特定領域440に、送信データ取得部114が取得した送信データを可視光通信信号として符号化した符号化映像を生成する。アンカー信号430には、特定領域440を示す領域情報が含まれる。表示制御部122は、映像生成部120が生成した符号化映像を表示させる。
 通信端末200は、撮像部212によって、表示制御部122によって表示された符号化映像を撮像する。画像処理部214は、アンカー信号430に含まれる、特定領域440を示す領域情報を用いて、特定領域440を識別する。復号化部218は、画像処理部214によって識別された特定領域440から送信データを復号化する。
 映像生成部120は、例えば10フレーム毎等、予め定められたフレーム毎に、特定領域440及びアンカー信号430の位置に、トレーニング信号を含めてよく、通信端末200は、当該トレーニング信号を用いて、撮像した映像のイコライジングを行ってよい。これにより、映像の輝度や色情報の均一化を行うことで、正確に送信データを復号することができる。また、映像生成部120は、特定領域440に送信データを符号化する際に、同一内容を複数フレームに渡って送信してもよい。これにより、送信データが冗長化され、エラー率を低減することができる。
 通信端末200は、受信した送信データにエラーが発生した場合において、ネットワーク50を介して管理装置300にエラー情報を送信してよい。管理装置300は、受信したエラー情報をネットワーク50を介して表示装置100に送信してよい。表示装置100は、受信したエラー情報にもとづいてエラーが発生した送信データを再送してよい。
 通信端末200は、一定期間毎に、受信解像度情報を、ネットワーク50を介して管理装置300に送信してよい。管理装置300は、受信した受信解像度情報をネットワーク50を介して表示装置100に送信してよい。表示装置100は、受信した受信解像度情報に基づいて、アンカー信号430の大きさや、送信データの各情報を割り当てる画素数について、調整を実行してよい。
 通信端末200が、光学ズーム機能を有している場合、通信端末200は、適宜、表示装置100による表示映像をズームしてよい。また、通信端末200が、3次元アクチュエータ付のレンズを有している場合、適宜、表示装置100による表示映像へのズームと、指向性の調整とを実行してよい。通信端末200が手ぶれ補正機構を有していてよい。
 表示装置100と通信端末200が正対していない場合、通信端末200は、適宜表示装置100による表示映像をアフィン変換してよい。
 表示装置100は、CPRI(Common Public Radio Interface)インターフェイスと、HDMI(登録商標)(High-Definition Multimedia Interface)インターフェイスと、CPRIインタフェース上のIQ信号(複素デジタル信号の同相(In-phase)および直交(Quadrature)成分からなるベースバンド信号)から光通信信号を変調する回路とを有してもよい。
 図14は、表示装置100による2つの通信端末200に対する送信データを符号化した場合の表示例を示す。図12では、アンカー信号432及びアンカー信号434、および、それぞれのアンカー信号で示された送信データが符号化された分割領域442および444の一例を概略的に示す。
  
 図15は、投影映像108の一例を概略的に示す。図15は、建物510内に配置された表示装置100が、隣接する建物520の壁面に投影映像108を投影した例を示す。
 これにより、表示装置100は、建物520の壁面を撮像できる通信端末200に送信データを送信することができる。通信端末200は、地上に位置してもよく、また、建物510内に位置してもよい。
 図15では、表示装置100が上方向に向けて映像を投影する例を示しているが、これに限らず、表示装置100の向きは任意でよい。
 表示装置100は、建物520に投影映像108を投影する場合、内容が変化しない映像の一部又は全体に、送信データを光通信信号として符号化した符号化映像を生成して投影してよく、赤外線領域で感度を持つ通信端末200を通信の相手方として想定する場合においては、赤外線に送信データを光通信信号として符号化した符号化映像を生成して投影して良い。表示装置100は、内容が変化する映像のうち、予め定められた期間、輝度及び色情報が変化しない領域または変化量が予め定められた閾値より低い領域に送信データを光通信信号として符号化した符号化映像を生成してもよい。
 図16は、通信端末200、表示装置100、5Gネットワーク、及び管理装置300の間の通信開始の制御メッセージシーケンス(例)を示す。本例においては、まず、通信端末200が、管理装置300に映像表示装置検知報告(Attach完了)を送信する。次に、管理装置300が、端末Attach通知を映像表示装置100に送信する。次に、映像表示装置100が、端末Attach応答を管理装置300に送信する。次に、管理装置300が、ダウンリンク追加通知を5Gネットワークに対して送信する。次に、管理装置300が、ダウンリンク追加応答を5Gネットワークから受信する。次に、管理装置300が、ダウンリンク追加通知を通信端末200に送信する。次に、管理装置300が、準備完了通知を5Gネットワークに対して送信する。
 その後、5Gネットワークにおいて、下りデータが発生する。そして、発生したデータが、5Gネットワークから、表示装置100に対して送信される。データを受信した表示装置100は、通信端末200に対して端末呼び出しを実行する。次に、通信端末200が、呼び出し応答を管理装置300に送信する。管理装置300は、呼び出し応答通知を表示装置100に送信する。呼び出し応答通知を受信した表示装置100は、送信解像度を決定する。そして、表示装置100は、管理装置300に対してアンカー信号を割り当てる。管理装置300は、アンカー信号を通信端末200に通知する。そして、表示装置100から、通信端末200に対して、表示を介したデータ送信が行われる。
 図17は、表示装置100側の通信開始のフローチャート(例)を概略的に示す。ステップ(ステップをSと省略して記載する場合がある。)202では、管理装置300から、端末Attach通知を受信する。S204では、5Gネットワークから下りデータを受信する。S206では、通信端末200に対して端末呼び出しを実行する。S208では、S206における端末呼び出しに対する呼び出し応答通知を受信したか否かを判定する。受信していないと判定した場合、S206に戻り、受信したと判定した場合、S210に進む。S210では、送信解像度を決定する。S212では、アンカー信号を管理装置300に割り当てる。以上の流れに従って、通信が開始される。
 図18は、表示装置100側の通信中のフローチャート(例)を概略的に示す。S222では、通信端末200に対して光通信(アンカー信号割当)を実行する。S224では、データをバッファに格納する。S226では、データ信号の割当、変調等を決定する。S228では、アンカー信号を送信する。S230では、データ信号を送信する。S232では、ACKを受信したか否かを判定する。ACKを受信していないと判定した場合、S226に戻り、ACKを受信したと判定した場合、S234に進む。S234では、データのバッファを開放する。
 図19は、通信端末200側の通信開始のフローチャート(例)を概略的に示す。5G接続中に、通信端末200は、S304において、サプリメンタルダウンリンク機能をONにする。S306では、カメラスキャンを実行する。S308で、表示装置100を検知した場合、S310に進み、検知していない場合、S306に戻る。S310で、同期信号を検知した場合、S312に進み、検知していない場合、S306に戻る。
 S312では、カメラによってスキャンした映像にアフィン変換を施す。S314では、同期信号をデコードする。S316では、Attach完了を送信する。S318では、ダウンリンク追加通知を受信する。S320では、データ受信を待機する。S322では、カメラスキャンを実行する。S324で、同期信号を検知した場合、S326に進み、検知していない場合、S322に戻る。S326で、呼び出し信号を検知した場合、S328に進み、検知していない場合、S322に戻る。S328では、呼び出し応答を送信する。S330では、アンカー信号通知を受信する。以上の流れに従って、通信が開始される。
 図20は、通信端末200側の通信中のフローチャート(例)を概略的に示す。S340では、表示装置100との間で光通信を実行する。S342では、カメラスキャンを実行する。S344で、同期信号を検知した場合、S346に進み、検知していない場合、S342に戻る。
 S346では、カメラによってスキャンした画像に画像処理を実行する。S348では、アフィン変換を実行する。S350では、同期信号を受信する。S352では、同期信号をデコードする。S354では、同期信号に基づくイコライジングを実行する。
 S356では、アンカー信号を受信する。S358では、アンカー信号をデコードする。S360では、データ信号の位置及び変調方式等を取得する。S362では、データ信号を受信する。S364では、データ信号をデコードする。S366では、バッファに格納する。S368で、エラーが発生したと判定した場合、S376に進み、エラーが発生したと判定していない場合、S370に進む。S370では、5Gを経由してACKを送信する。S372では、バッファをクリアする。
 S374では、5Gを経由してNACKを送信する。S376では、アンカー信号を受信する。S378では、アンカー信号をデコードする。S380では、データ信号の位置及び変調方式等を取得する。S382では、データ信号を受信する。S384では、バッファに格納する。S386で、エラーが発生したと判定した場合、S374に戻り、エラーが発生していないと判定した場合、S388に進む。S880では、5Gを経由してACKを送信する。S390では、バッファをクリアする。
 図21は、通信中における再送シーケンス(例)を概略的に示す。図21におけるシーケンスにおいては、まず、5Gネットワークから表示装置100に対してデータが送信される。表示装置100は、データを通信端末200に送信する。通信端末200は、データをバッファする。次に、通信端末200は、HARQ/ACKを管理装置300に送信する。そして、通信端末200は、受信バッファをクリアする。
 HARQ/ACKを受信した管理装置300は、ACKを表示装置100に送信する。表示装置100は、送信バッファをクリアする。そして、表示装置100は、通信端末200に対してデータを送信する。通信端末200は、データをバッファする。本シーケンスでは、ここでエラーが発生した場合について説明を続ける。
 通信端末200は、HARQ/NACKを管理装置300に送信する。HARQ/NACKを受信した管理装置300は、NACKを表示装置100に送信する。表示装置100は、通信端末200に対してデータを再送する。通信端末200は、データをバッファする。次に、通信端末200は、HARQ/ACKを管理装置300に送信する。そして、通信端末200は、受信バッファをクリアする。HARQ/ACKを受信した管理装置300は、ACKを表示装置100に送信する。表示装置100は送信バッファをクリアする。
 図22は、通信終了のフローチャートを概略的に示す。ここでは、通信端末200と表示装置100とが通信中に、通信端末200が表示装置100を見失ってからの処理の流れを概略的に示す。
 通信端末200は、表示装置100を見失ったことに応じてタイマーを起動する。通信端末200は、タイマーが満了したことに応じて、Disconnectを管理装置300に送信する。管理装置300は、端末Disconnectを表示装置100に送信する。表示装置100は、端末Disconnect応答を管理装置300に送信する。管理装置300は、Disconnect Completeを通信端末200に送信する。そして、管理装置300は、端末IDをクリアする。
 図23は、スリープ移行のフローチャートを概略的に示す。図23におけるシーケンスにおいては、まず、5Gネットワークから表示装置100に対してデータが送信される。表示装置100は、データを通信端末200に送信する。
 本例においては、データを受信した通信端末200が無通信のままスリープタイマが満了したものとして説明を続ける。通信端末200は、Sleep Requestを管理装置300に送信する。管理装置300は、端末Sleep Requestを表示装置100に送信する。表示装置100は、端末Sleep Acceptを管理装置300に送信する。管理装置300は、Sleep Completeを通信端末200に送信する。通信端末200は、DRXタイマを起動する。そして、通信端末200は、間欠受信の状態となる。
 図24は、ハンドオーバーのフローチャートを概略的に示す。S402では、通信端末200と表示装置100とが光通信を実行する。S404では、通信端末200が、カメラスキャンを実行する。S406では、通信端末200が、別の同期信号を検知したか否かを判定する。検知したと判定した場合S408に進み、検知していないと判定した場合、S404に戻る。
 S408では、通信端末200が、カメラによってスキャンした画像に画像処理を実行する。S410では、通信端末200が、アフィン変換を実行する。S412では、通信端末200が、同期信号を受信する。S414では、通信端末200が、同期信号をデコードする。S416では、通信端末200が、受信レベル差の判定を実行し、閾値以上であると判定した場合、S418に進み、閾値未満であると判定した場合、S402に戻る。
 S418では、通信端末200が、ハンドオーバータイマを起動する。S420では、通信端末200が、ハンドオーバータイマを満了する。S422では、通信端末200が、ハンドオーバー要求を送信する。S424では、通信端末200が、ハンドオーバー応答を受信する。そして、通信端末200は、ハンドオーバー先の表示装置との光通信フェーズに移行する。
 図25は、Set Top Box内部ブロック図(例)を概略的に示す。Set Top Boxは、送信データ取得部114、映像取得部116、領域特定部118、映像生成部120、表示制御部122、測定結果受信部124、輝度レベル調整部126、NW I/F130を有する。これらの構成は、図6において説明した機能を実行してよい。
 送信データ取得部114は、CPRIを介してBBU103と通信する。送信データ取得部114は、IQデータを通信してよい。送信データ取得部114は、受信したIQ信号をデコードしてよい。送信データ取得部114は、Bit Streamを映像生成部120に送信する。
 映像取得部116は、HDMIを介して上位装置の例であるコンピュータ102と通信する。映像取得部116は、H.264映像データを通信してよい。映像取得部116は、H.264デコードを実行してよい。映像取得部116は、取得した映像データを映像生成部120とやりとりする。また、映像取得部116は、取得した映像データを領域特定部118に送信する。領域特定部118は、映像データのうち、予め定められた期間、輝度及び色情報が変化しない領域または変化量が予め定められた閾値より低い領域を特定する。
 映像生成部120は、映像取得部116から受信した映像データに、各種情報を符号化した符号化映像を生成する。例えば、映像生成部120は、領域特定部118が特定した領域に、送信データ取得部114が取得した送信データを光通信信号として符号化した符号化映像を生成する。映像生成部120は、符号化映像を、HDMIを介して、H.264映像データとして表示制御部122に送信する。表示制御部122は、受信した映像データを表示部に表示させる。
 測定結果受信部124は、ネットワーク50及びNW I/F130を介して、通信端末200が、表示制御部122によって表示された映像を撮像して測定した、受信輝度レベル及び受信SNRを受信する。測定結果受信部124は、制御メッセージ処理を実行してよい。輝度レベル調整部126は、測定結果受信部124が受信した測定結果に基づいて、表示制御部122が制御する表示部による表示の輝度レベルを調整してよい。
 図26は、Set Top Box内部動作フローチャート(例)を概略的に示す。STB101は、BBU103からIQデータを受信する。そして、受信したIQデータをデコードしてBit Stream化する。また、STB101は、ネットワーク50から制御情報を取得する。また、STB101は、端末受信状況の情報を取得する。また、STB101は、映像データを取得する。そして、STB101は、映像データをデコードする。STB101は、映像データ中、変化の少ない部分を抽出する。
 そして、STB101は、送信領域を決定する。また、STB101は、変調方式を決定する。変調方式の決定について、サイネージなどの映像の場合、STB101は、輝度変調は4段階としてよい(MCS0~4)。色情報は最大RGBの3種類としてよい。受信輝度情報から、MCSを選択してよい。データを重畳する場所の色に合わせて、RGBを選択してよい。白色照明の場合、STB101は、輝度変調は4段階としてよい(MCS0~4)。色情報は最大RGBの3種類としてよい。データを重畳できるエリア(PRB)と、バッファされているデータ量に合わせてMCS、RGBを決定してよい。そして、STB101は、変調データを作成する。STB101は、出力データを作成し、H.264エンコードを実行して、出力させる。
 図27は、送信解像度決定のフローチャートを概略的に示す。送信解像度決定は、STB101によって実行されてよい。S502では、表示装置100の解像度情報を取得する。S504では、通信端末200の受信解像度情報を取得する。S506では、端末受信SNRを取得する。S508では、最適解像度を計算する。S510では、受信エラーが発生しているか否かを判定する。S512では、解像度を低下する。
 図28は、データ重畳位置決定のフローチャートを概略的に示す。データ重畳位置決定は、STB101によって実行されてよい。STB101は、端末の視野情報を取得し、端末の映像検知情報を取得する。また、STB101は、映像情報を取得し、映像フレームの情報を格納し、格納されている映像情報と比較を行い、変化が少ない部分を抽出する。STB101は、接続している通信端末200の死角を除外する。STB101は、接続している端末全ての死角を考慮する。そして、STB101は、PFによるリソース量を計算し、割当リソースを決定する。
 図29は、データ符号化のアルゴリズムを概略的に示す。ここでは、例としてターボ符号を示すが、この限りではない。
 図30は、送信光のホワイトノイズ化に関するアルゴリズムを概略的に示す。送信光のホワイトノイズ化は、STB101によって実行されてよい。STB101は、端末識別情報をPNシーケンス発生機に適用してPNシーケンスを出力させ、これと送信データによって、ホワイトノイズ化された送信データを生成し、変調(輝度変調、RGB変調)を行って、映像マッピングをする。
 図31:主要な実施例1(赤外線DLPを用いる例)で示すように、プロジェクタにおいて、赤外線光源を用いたDLP(Digital Lite Proseccing)プロジェクタを使用し、主に夜間においてビル壁面に送信データが符号化された映像を投影することによりサプリメンタルダウンリンクを実現する。
通信端末においては赤外線領域で感度を持つ半導体カメラセンサが用いられ、モータードライブ機構によってレンズの指向性を調整することでカメラアングルを変更でき、光学ズーム機構で前記半導体カメラセンサが、ビル等に投影された送信データが符号化された映像全体を撮像できるように調節し、半導体カメラセンサの分解能を最大限に利用することでサプリメンタルダウンリンクを実現する。実装の別形態としては、特定の映像投影領域を使用するのではなく、ビル壁面に投影された映像全体を拡大してフォーカスし、投影された映像全体を分割して複数の通信端末で同時通信を実現する形態のほうが効率的である。
 図32:主要な実施例2(オフィスの天井照明)で示すように、オフィスにおける天井照明を本発明による照明パネル(液晶や有機ELを用いたもの)に置き換え、BBUとCPRI-HDMIコンバータを介して接続し、天井照明を表示装置として使用することでサプリメンタルダウンリンクを実現する。
 図33:主要な実施例3(ドーム球場の天井)で示すように、ドーム球場にプロジェクタを数十台設置し、ドーム天井に向けて送信データが符号化された映像を投影し、球場の天井を映像表示装置とすることで、サプリメンタルダウンリンクを実現する。このとき、通信端末としてはHMD(Head Mount Display)に埋め込まれていてもよい。また、マルチキャスト通信を行うことで複数のHMDで同時に同一のデータを受信することができる。
 図34、図35:主要な実施例3(ドーム球場の天井)で示す通信システムで、同一の映像を複数のプロジェクタからそれぞれ投影することによって、通信端末が撮像する映像を冗長化することができる。これらのダイバーシティ効果によって、再送頻度が低下し、安定かつ高速なな通信を実現することができる。
 オリンピック等の大規模なイベント開催時には、図36:主要な実施例3(ドーム球場のドローンカメラ)で示すように、球場内を飛ぶドローンから送られてくる映像は、光通信以外の通信(4Gや5GやWiFi等)を用いて球場内に設置されたデータサーバーに格納され、図33の通信システムを用いて、球場内の通信端末に対して、マルチキャスト配信を行う。
 図37:主要な実施例5(複数カメラでの受信)で示すように、通信端末が前後、上下、左右の6方向にカメラを備えているとき、通信速度が最も早くなるように映像表示装置を撮像できるカメラを選択することで、通信端末の姿勢に依存せず、常に本発明によるサプリメンタルダウンリンクを実現することができる9。
 図38:主要な実施例6(モータードライブカメラ)で示すように、通信端末が3次元アクチュエータによりレンズを調整する機構を有する場合、指向性調整部は、当該機構によってレンズの向きを調整することによって、表示装置による表示映像と、撮像部による撮像方向とが正対するようにし、また、ズームイン、ズームアウトを行うことで解像度を向上させ、通信速度を向上させる。
 図39:主要な実施例7(魚眼レンズプロジェクタ)で示すように、プロジェクタが魚眼レンズを備えている場合、大きく映像を投影することができる。このとき、通信端末が受信する画像の解像度が向上し。通信速度が向上する。
 図40は、通信端末200として機能するコンピュータ900のハードウエア構成のうち、本開発に関連する部分の一例を示す。本実施形態に係るコンピュータ900は、CPU910、BBIC、DSP、及びカメラ946を備える。
 コンピュータ900にインストールされ、コンピュータ900を通信端末200として機能させるプログラムは、BBIC等に働きかけて、コンピュータ900を、通信端末200の各部としてそれぞれ機能させてよい。これらのプログラムに記述された情報処理は、コンピュータ900に読込まれることにより、ソフトウエアと上述した各種のハードウエア資源とが協働した具体的手段である撮像部212、画像処理部214、情報通信部216、復号化部218、測定部220、測定結果送信部222、位置姿勢取得部224、及び指向性調整部226として機能する。そして、これらの具体的手段によって、本実施形態におけるコンピュータ900の使用目的に応じた情報の演算又は加工を実現することにより、使用目的に応じた特有の通信端末200が構築される。
 CPU910に少なくとも、USB3.0(10Gbps)を上回る速度のインターフェイスで接続されたCCD装置とCPU910に接続された5G対応BBIC(3G、4Gを含む)のデュアルコネクティビティで通信が成立し、かつ、モデム側がメインではなくCPU1010に接続されたCCD装置がサプリメンタルダウンリンクのデータパスを提供する。5Gモデムは、CCDとCPU1010から来たビットストリームを28GHzや76GHzのADデータストリームと同等にデコードして、サプリメンタルダウンリンクとする。
 STB101にインストールされ、表示装置100を光通信装置として機能させるプログラムに記述された情報処理は、STB101を情報受信部112、送信データ取得部114、映像取得部116、領域特定部118、映像生成部120、表示制御部122、測定結果受信部124、及び輝度レベル調整部126として機能させる。
 以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、請求の範囲の記載から明らかである。
 請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階などの各処理の実行順序は、特段「より前に」、「先立って」などと明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」などを用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
10 通信システム、50 ネットワーク、100 表示装置、101 STB、102 コンピュータ、103 BBU、104 ディスプレイ、105 プロジェクタ、106 変換器、108 投影映像、112 情報受信部、114 送信データ取得部、116 映像取得部、118 領域特定部、120 映像生成部、122 表示制御部、124 測定結果受信部、126 輝度レベル調整部、200 通信端末、201 CMOSセンサ、202 CPU、203 ディスプレイ、204 通信モデム、212 撮像部、214 画像処理部、216 情報通信部、218 復号化部、220 測定部、222 測定結果送信部、224 位置姿勢取得部、226 指向性調整部、300 管理装置、400 特定領域、402 分割領域、404 分割領域、410 同期信号、420 呼出信号、430 アンカー信号、432 アンカー信号、434 アンカー信号、440 特定領域、442 分割領域、510 建物、520 建物、600 障害物、810 状況、820 状況、900 コンピュータ、910 CPU、946 カメラ

Claims (42)

  1.  表示部に映像を表示させる表示制御装置と、
     前記表示部によって表示された映像を撮像する撮像部を有する通信端末とを備える通信システムであって、
     前記表示制御装置は、
     表示対象の映像を取得する映像取得部と、
     前記映像取得部が取得した前記映像のうち、変化しない領域又は変化量が予め定められた閾値より低い領域を特定する領域特定部と、
     前記領域特定部によって特定された領域に送信データを光通信信号として符号化した符号化映像を生成する映像生成部と、
     前記符号化映像を前記表示部に表示させる表示制御部とを有し、
     前記通信端末は、
     前記撮像部によって撮像された映像のうち、前記送信データが符号化された領域を識別する領域識別部と、
     前記領域識別部によって識別された前記領域から前記送信データを復号化する復号化部とを有し、光通信以外の他の通信手段(WiFi,3G,4G,5G等)の無線通信手段を用いて、前記光通信の通信制御信号をやり取りする仕組みを持った、光通信による、サプリメンタルダウンリンクを提供する通信システム。
  2.  前記映像取得部は、光学的、あるいはデジタル的な手ぶれ防止機構を備える、請求項1に記載の通信システム。
  3.  請求項1に示す通信システムであって、前記通信端末は、前記撮像部で撮像された映像の撮像に関する情報と、復号化した送信データの復号可否情報と、通信制御に関する情報を、光通信以外の手段を用いて、前記表示制御装置にフィードバックを行う請求項1に記載の通信システム。
  4.  請求項1に示す通信システムであって、3GPPで規定するデュアルコネクティビティと同様に、28GHzや76GHzの広帯域通信をデュアルコネクティビティで利用する実装形態をそのままに、28GHzや76GHzのMassiveMIMOのRRU装置と代わって、ディスプレイ装置をCPRI接続に代わって、HDMI等で接続して、ディスプレイ装置をRRU装置として使用して、端末装置のCCD装置をMassiveMIMOアンテナとして使用する請求項1に記載の通信システム。
  5.  前記領域特定部は、前記映像取得部が取得した前記映像のうち、予め定められた期間、輝度及び色情報が変化しない領域または変化量が予め定められた閾値より低い領域を特定する、請求項1に記載の通信システム。
  6.  前記映像生成部は、前記領域特定部で特定された領域内であって、前記送信データを符号化した領域以外の領域に、前記送信データを符号化した領域を示す領域情報を光通信信号として符号化した前記符号化映像を生成し、
     前記領域識別部は、前記撮像部によって撮像された映像のうち、前記領域情報が符号化された領域を識別して、当該領域から前記領域情報を復号化し、前記領域情報が示す領域を、前記送信データが符号化された領域として識別する、請求項1又は2に記載の通信システム。
  7.  前記映像生成部は、前記送信データを符号化した領域以外の領域に、前記通信端末を識別する端末識別情報を光通信信号として符号化した前記符号化映像を生成する、請求項6に記載の通信システム。
  8.  前記映像生成部は、前記表示部を識別する表示部識別情報を、前記送信データを符号化した領域以外の領域に光通信信号として符号化した前記符号化映像を生成する、請求項1から7のいずれか一項に記載の通信システム。
  9.  前記通信端末は、
     前記撮像部が撮像する前記映像の受信輝度レベル及び受信SNRを測定する測定部と、
     前記測定部による測定結果を前記表示制御装置に送信する測定結果送信部と
     を有し、
     前記表示制御装置は、
     前記測定結果を受信する測定結果受信部と、
     前記測定結果に基づいて、前記表示部による表示の輝度レベルを調整する輝度レベル調整部とを有する、
     請求項1から8のいずれか一項に記載の通信システム。
  10.  前記映像取得部は、前記表示部によるスクリーンセーバ映像を取得し、
     前記映像生成部は、前記スクリーンセーバ映像の特定領域に送信データを符号化した符号化映像を生成し、
     前記表示制御部は、前記符号化映像をスクリーンセーバとして、前記表示部に表示させ、
     前記測定部は、前記復号化部によって復号化された送信データに基づいて、前記受信輝度レベル及び前記受信SNRを測定する、請求項9に記載の通信システム。
  11.  前記映像生成部は、自らスクリーンセーバ映像を生成する機能を有し、
     当該スクリーンセーバ映像全体に送信データを符号化した符号化映像を生成し、
     前記表示制御部は、当該符号化映像をスクリーンセーバとして、前記表示部に表示させ、
     前記測定部は、前記復号化部によって復号化された送信データに基づいて、前記受信輝度レベル及び前記受信SNRを測定する、請求項9に記載の通信システム。
  12.  前記測定結果送信部は、光通信を用いずに光通信以外の手段を用いて、前記測定結果を前記表示制御装置に送信する、請求項9から11のいずれか一項に記載の通信システム。
  13.  前記通信端末は、
     前記表示制御部による表示映像に対する前記通信端末の位置及び姿勢を取得する位置姿勢取得部と、
     前記位置及び姿勢に基づいて、前記撮像部による撮像の指向性を調整する指向性調整部と
     を有する、請求項1から12のいずれか一項に記載の通信システム。
  14.  前記通信端末は、複数の撮像部にて撮像した映像を比較し、通信を行う撮像部を選択する機能を有する、請求項1から12のいずれか一項に記載の通信システム。
  15.  前記通信端末の画像処理部は、前記撮像部にて撮像した表示装置の映像を画像処理し、前記表示部の前記送信データが符号化された領域の前記送信データを復号化する機能を有する、請求項1から12のいずれか一項に記載の通信システム。
  16.  前記表示制御装置は、
     前記撮像部によって撮像された映像に関する撮像映像情報を前記通信端末から受信する情報受信部を有し、
     前記映像生成部は、前記撮像映像情報に基づいて前記符号化映像を生成する、請求項1から15のいずれか一項に記載の通信システム。
  17.  前記映像生成部は、前記撮像映像情報に基づいて、前記送信データの各情報を割り当てる画素数を変更する、請求項16に記載の通信システム。
  18.  前記撮像映像情報は、前記表示部によって表示されている映像のうち、前記撮像部によって撮像できない領域を示し、
     前記映像生成部は、前記領域特定部によって特定された領域から、前記撮像部によって撮像できない領域を除外した領域に、送信データを光通信信号として符号化した符号化映像を生成する、請求項16又は17に記載の通信システム。
  19.  前記表示部は、プロジェクタであり、
     前記撮像部は、前記プロジェクタによって投影面に投影された光を撮像する、請求項1から18のいずれか一項に記載の通信システム。
  20.  請求項19に記載の通信システムであって、プロジェクションマッピングの要領で、ビル壁面に送信データが符号化された映像を投影し、屋内外を問わず広範囲における光通信を可能にする通信システム。
  21.  請求項20に記載の通信システムであって、赤外線等の非可視光の光源を使用したプロジェクタを使用し、通信端末においても赤外線カメラセンサ、あるいは赤外線にも感度を持つ画像センサデバイスを用いて、景観を変えることなく、光通信を実現する通信システム。
  22.  請求項21に記載の通信システムであってプロジェクタとしてDLP(ディジタル・ライト・プロセシング)プロジェクタを用い、赤外線ランプを光源に使用した通信システム。
  23.  請求項22に示される表示装置、あるいはプロジェクタと、通信端末の前記撮像部において、可視光を用いる代わりに赤外線を用い、前記撮像部がビルの窓にブルーフイルムを張ったガラスの裏側にある場合は、前記表示部において、輝度変調を用いる請求項22に記載の通信システム。
  24.  前記映像生成部は、映像の内容が変化しない領域または変化量が予め定められた閾値より低い領域に送信データを光通信信号として符号化した符号化映像を生成する、請求項19に記載の通信システム。
  25.  前記通信端末は、
     前記撮像部によって前記映像を撮像できない場合に、通知データを前記表示制御装置に送信する通知データ送信部
     を有し、
     前記映像生成部は、前記通知データを受信した場合、前記映像全体の輝度変調によって前記送信データを光通信信号として符号化した符号化映像を生成する、請求項1から24のいずれか一項に記載の通信システム。
  26.  前記表示制御装置は、
     前記送信データを無線基地局から受信するCPRIインタフェースと、
     前記表示部と通信接続するHDMIインタフェースと、
     前記CPRIインタフェース上のIQベクトル信号からRGBI信号に変換する装置と、
     RGBI信号からIQベクトル信号に変換する装置と
     を有する、請求項1から25のいずれか一項に記載の通信システム。
  27.  請求項1から26のいずれか一項に記載の通信システムであって、通信中に参照信号として、表示装置、並びに通信端末が互いに既知のパターンの信号、あるいは表示装置に二次元バーコードとして表示される較正パターンを用いて、定期的に較正を行うことにより、前記撮像部で撮像された画像を、既知画像に近づけるための写像変換を行う通信システム。
  28.  ここで用いられる較正パターンは互いに既知のランダムな較正パターン、あるいは互いに既知の広告画像、二次元バーコード、あるいは、二重枠で囲われたロゴマークのいずれかであってもよい、請求項27に記載の通信システム。
  29.  この通信システムで参照信号として用いられる二次元バーコードは、正方形のものだけではなく、長四角であってよく、前記領域特定部で特定された領域を示すための物であって良い、請求項27または28に記載の通信システム。
  30.  表示対象の映像を取得する映像取得部と、
     前記映像取得部が取得した前記映像のうち、変化しない領域又は変化量が予め定められた閾値より低い領域を特定する領域特定部と、
     前記領域特定部によって特定された領域に送信データを光通信信号として符号化した符号化映像を生成する映像生成部と、
     前記符号化映像を表示部に表示させる表示制御部と
     を備える表示制御装置。
  31.  請求項1から29のいずれか一項に記載のサプリメンタルダウンリンクを提供する通信システムであって、そこで使用する表示装置、あるいはプロジェクタにおいて、その地域で提供される電圧の周波数(50、ないし60Hz等)に同期して、100ないし120Hzで周囲の照明が点滅するが(インバーター方式ではない場合)、消灯している瞬間(SNRが改善しているタイミング)に、表示装置においては映像を表示し、また、プロジェクタでは光源を点灯させ、通信端末の撮像装置においては、前記電圧の周波数に同期し、周囲の照明が消灯している瞬間(SNRが改善しているタイミング)に撮像することにより、周囲照明を干渉源とするSNRの改善を図り通信速度を確保する表示装置、撮像装置、および通信システム。
  32.  請求項1から29、31のいずれか一項に記載のサプリメンタルダウンリンクを提供する通信システムであって、酸素により太陽光がエネルギーを吸収されている、759.370、686.719nm等のフラウンホーファー線の光源を使用する単一色の可視光下限の光源を使用するサプリメンタルダウンリンクを提供する通信システム。
  33.  759.370、686.719nm等の狭帯域透過光学フィルターを受光素子に装着して日中の太陽光による干渉を低減し、通信端末の受光素子はサプリメンタルダウンリンク提供専用の撮像素子となる、請求項32に記載の通信システム。
  34.  請求項1から29、31のいずれか一項に記載の通信システムであって、冗長的に赤外線レーザーの散乱を利用するPointToMultiPoint方式の通信を用いることにより、安定した通信を提供する通信システム。
  35.  請求項1から29、31にいずれか一項に記載の通信システムであって、映像表示装置としてLEDディスプレイを用いる通信システム。
  36.  通信端末毎に異なる端末識別情報を生成し、当該端末識別情報を通信端末に送信する機能を有する表示制御装置。
  37.  端末識別信号を元に、撮像部にて撮像された画像に映り込んだ通信の相手方となる表示制御装置以外の表示制御装置の信号を、逐次干渉除去技術を用いて干渉除去する機能を有する通信端末。
  38.  干渉除去を目的とするスクランブル符号生成部と、上記スクランブル符号生成部で生成されたスクランブル符号を用いて送信データのスクランブルを実施するスクランブル部を有し、スクランブル符号情報を端末識別信号として通信端末に送信する機能を有する表示制御装置。
  39.  干渉除去を目的とする、通信端末毎に個別のスペクトル拡散符号を生成する機能を有し、上記スペクトル拡散符号を用いて表示映像をスペクトル拡散する機能を有する請求項36に記載の表示制御装置。
  40.  コンピュータを、請求項36に記載の表示制御装置として機能させるためのプログラム。
  41.  表示装置によって表示される映像のうち、送信データが光通信信号として符号化されている領域を示す領域情報を取得する領域情報取得部と、
     撮像部によって撮像された映像のうち、前記領域情報に基づいて、前記送信データが符号化された領域を識別する領域識別部と、
     前記領域識別部によって識別された前記領域から前記送信データを復号化する復号化部と
     を備える通信端末。
  42.  コンピュータを、請求項41に記載の通信端末として機能させるためのプログラム。
PCT/JP2018/003220 2018-01-31 2018-01-31 光通信を利用した大容量のサプリメンタルダウンリンクを可能とする通信システム、表示制御装置、通信端末及びプログラム Ceased WO2019150489A1 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
PCT/JP2018/003220 WO2019150489A1 (ja) 2018-01-31 2018-01-31 光通信を利用した大容量のサプリメンタルダウンリンクを可能とする通信システム、表示制御装置、通信端末及びプログラム
JP2019568477A JP7082994B2 (ja) 2018-01-31 2018-01-31 光通信を利用した大容量のサプリメンタルダウンリンクを可能とする通信システム、表示制御装置、通信端末及びプログラム
CN201880088271.3A CN111670548B (zh) 2018-01-31 2018-01-31 提供补充下行链路的通信系统、显示控制装置及通信终端
US16/941,575 US11546655B2 (en) 2018-01-31 2020-07-29 Communication system, display control device, communication terminal, and computer-readable storage medium allowing supplemental downlink with a large capacity utilizing optical communication
US17/985,162 US11871074B2 (en) 2018-01-31 2022-11-11 Communication system, display control device, communication terminal, and computer-readable storage medium allowing supplemental downlink with a large capacity utilizing optical communication

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2018/003220 WO2019150489A1 (ja) 2018-01-31 2018-01-31 光通信を利用した大容量のサプリメンタルダウンリンクを可能とする通信システム、表示制御装置、通信端末及びプログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
US16/941,575 Division US11546655B2 (en) 2018-01-31 2020-07-29 Communication system, display control device, communication terminal, and computer-readable storage medium allowing supplemental downlink with a large capacity utilizing optical communication

Related Child Applications (2)

Application Number Title Priority Date Filing Date
US16/941,575 Continuation US11546655B2 (en) 2018-01-31 2020-07-29 Communication system, display control device, communication terminal, and computer-readable storage medium allowing supplemental downlink with a large capacity utilizing optical communication
US17/985,162 Continuation US11871074B2 (en) 2018-01-31 2022-11-11 Communication system, display control device, communication terminal, and computer-readable storage medium allowing supplemental downlink with a large capacity utilizing optical communication

Publications (1)

Publication Number Publication Date
WO2019150489A1 true WO2019150489A1 (ja) 2019-08-08

Family

ID=67479631

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2018/003220 Ceased WO2019150489A1 (ja) 2018-01-31 2018-01-31 光通信を利用した大容量のサプリメンタルダウンリンクを可能とする通信システム、表示制御装置、通信端末及びプログラム

Country Status (4)

Country Link
US (2) US11546655B2 (ja)
JP (1) JP7082994B2 (ja)
CN (1) CN111670548B (ja)
WO (1) WO2019150489A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111131161A (zh) * 2019-11-25 2020-05-08 美的集团股份有限公司 智能设备身份识别方法、系统、电子设备及存储介质
JP2021162803A (ja) * 2020-04-03 2021-10-11 株式会社Subaru 情報伝達システム
US11974078B2 (en) 2020-08-24 2024-04-30 Softbank Corp. Digital signage by optical communication and supplemental downlink device and method using LED illumination

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104871454B (zh) * 2012-12-27 2018-09-28 松下电器(美国)知识产权公司 信息通信方法和信息通信装置
US11201670B2 (en) * 2019-04-05 2021-12-14 Comcast Cable Communications, Llc Visible light communication
US20240176976A1 (en) * 2022-11-30 2024-05-30 Microsoft Technology Licensing, Llc Methods for transmitting data via free space spatiotemporal patterns
US20240179402A1 (en) * 2022-11-30 2024-05-30 Microsoft Technology Licensing, Llc Methods for transmitting data via free space spatiotemporal patterns in a datacenter
KR102800250B1 (ko) * 2023-08-18 2025-04-23 엘지전자 주식회사 영상표시장치

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004326705A (ja) * 2003-04-28 2004-11-18 Sony Corp 車両用通信装置および通信方法
JP2007295490A (ja) * 2006-04-27 2007-11-08 Kyocera Corp 可視光通信装置および可視光受信方法
JP2008301478A (ja) * 2001-09-21 2008-12-11 Casio Comput Co Ltd 受信装置、及び、プログラム
JP2013009074A (ja) * 2011-06-23 2013-01-10 Casio Comput Co Ltd 情報伝送システム、受光装置、情報伝送方法、及び、プログラム
WO2014103333A1 (ja) * 2012-12-27 2014-07-03 パナソニック株式会社 表示方法
JP2016082425A (ja) * 2014-10-17 2016-05-16 三星電子株式会社Samsung Electronics Co.,Ltd. 可視光送信装置、可視光受信装置、可視光通信システム、可視光通信方法及びプログラム
JP6250913B1 (ja) * 2017-07-10 2017-12-20 株式会社マイクロキャビン 遊技機検査システム及び遊技機

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS54143607A (en) 1978-04-29 1979-11-09 Beltek Corp Tape recorder
US6850252B1 (en) * 1999-10-05 2005-02-01 Steven M. Hoffberg Intelligent electronic appliance system and method
JP2001345958A (ja) * 2000-05-31 2001-12-14 Sony Corp 携帯端末装置
JP2003179556A (ja) 2001-09-21 2003-06-27 Casio Comput Co Ltd 情報伝送方式、情報伝送システム、撮像装置、および、情報伝送方法
AU2003284438A1 (en) * 2003-11-21 2005-06-08 Softbank Bb Corp. Communication service providing system and communication service providing method
JP2008103786A (ja) * 2006-10-17 2008-05-01 Sharp Corp 有料番組提供システムおよびテレビ放送受信装置
JP4525697B2 (ja) * 2007-04-09 2010-08-18 沖電気工業株式会社 伝送ヘッダ圧縮装置、動画像符号化装置及び動画像伝送システム
JP4792001B2 (ja) * 2007-04-27 2011-10-12 株式会社東芝 動画像復号装置、放送受信装置、動画像復号方法
CN101420592A (zh) * 2007-10-25 2009-04-29 株式会社Commax 具有保安功能的四画面分割对讲系统
US9247286B2 (en) * 2009-12-31 2016-01-26 Broadcom Corporation Frame formatting supporting mixed two and three dimensional video data communication
US10097890B2 (en) * 2011-03-15 2018-10-09 Sony Corporation System and method for virtual input and multiple view display
EP2538584B1 (en) 2011-06-23 2018-12-05 Casio Computer Co., Ltd. Information Transmission System, and Information Transmission Method
CN103024352A (zh) * 2012-12-07 2013-04-03 康佳集团股份有限公司 一种基于码率突变的视频监控方法和系统
JP5557972B1 (ja) 2012-12-27 2014-07-23 パナソニック株式会社 可視光通信信号表示方法及び表示装置
JP6136357B2 (ja) * 2013-02-25 2017-05-31 セイコーエプソン株式会社 分光測定装置、通信システム及びカラーマネージメントシステム
JP2015158596A (ja) * 2014-02-24 2015-09-03 株式会社リコー 投影装置、投影システム及び無線接続方法
WO2016060518A1 (en) * 2014-10-17 2016-04-21 Samsung Electronics Co., Ltd. Apparatus and method for transmitting and receiving visible light data
CN105187910B (zh) * 2015-09-12 2018-11-06 暴风集团股份有限公司 一种自动检测视频自适应参数的方法及系统

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008301478A (ja) * 2001-09-21 2008-12-11 Casio Comput Co Ltd 受信装置、及び、プログラム
JP2004326705A (ja) * 2003-04-28 2004-11-18 Sony Corp 車両用通信装置および通信方法
JP2007295490A (ja) * 2006-04-27 2007-11-08 Kyocera Corp 可視光通信装置および可視光受信方法
JP2013009074A (ja) * 2011-06-23 2013-01-10 Casio Comput Co Ltd 情報伝送システム、受光装置、情報伝送方法、及び、プログラム
WO2014103333A1 (ja) * 2012-12-27 2014-07-03 パナソニック株式会社 表示方法
JP2016082425A (ja) * 2014-10-17 2016-05-16 三星電子株式会社Samsung Electronics Co.,Ltd. 可視光送信装置、可視光受信装置、可視光通信システム、可視光通信方法及びプログラム
JP6250913B1 (ja) * 2017-07-10 2017-12-20 株式会社マイクロキャビン 遊技機検査システム及び遊技機

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111131161A (zh) * 2019-11-25 2020-05-08 美的集团股份有限公司 智能设备身份识别方法、系统、电子设备及存储介质
JP2021162803A (ja) * 2020-04-03 2021-10-11 株式会社Subaru 情報伝達システム
JP7492361B2 (ja) 2020-04-03 2024-05-29 株式会社Subaru 情報伝達システム
US11974078B2 (en) 2020-08-24 2024-04-30 Softbank Corp. Digital signage by optical communication and supplemental downlink device and method using LED illumination

Also Published As

Publication number Publication date
US20230071454A1 (en) 2023-03-09
JP7082994B2 (ja) 2022-06-09
US11546655B2 (en) 2023-01-03
CN111670548A (zh) 2020-09-15
US20200359085A1 (en) 2020-11-12
CN111670548B (zh) 2023-07-21
JPWO2019150489A1 (ja) 2021-01-14
US11871074B2 (en) 2024-01-09

Similar Documents

Publication Publication Date Title
JP7082994B2 (ja) 光通信を利用した大容量のサプリメンタルダウンリンクを可能とする通信システム、表示制御装置、通信端末及びプログラム
Liu et al. Some practical constraints and solutions for optical camera communication
EP2805439B1 (en) Shared secret arrangements and optical data transfer
US9847976B2 (en) Shared secret arrangements and optical data transfer
Le et al. A survey of design and implementation for optical camera communication
US11974078B2 (en) Digital signage by optical communication and supplemental downlink device and method using LED illumination
US11863236B2 (en) Transmission method, reception method, transmission device, and reception device
US12184328B2 (en) Reception device and reception method
Mohsan Optical camera communications: practical constraints, applications, potential challenges, and future directions
CN104065944B (zh) 一种超高清三维转换装置及三维显示系统
Tang et al. Image sensor communication and its transmitting devices
US10244216B2 (en) Projector, video display device, and video display method
US20110157153A1 (en) Projection-type image display apparatus provided with an image pickup function
CN111314663A (zh) 一种基于5g的智能虚拟窗系统
CN210297905U (zh) 一种可兼容多个用户同步操控的监控系统及视频监控设备
Brauers et al. Modeling differential screen-camera data transmission for parallel video presentation
Bufalino et al. Mamba: Adaptive and bi-directional data transfer for reliable camera-display communication
WO2023149165A1 (ja) 通信システム及び通信方法
CN104702875B (zh) 一种液晶显示设备以及一种视频图像显示方法
Kim et al. Color Barcode Detection of Complementary Color Barcode-based Optical Camera Communications with a Deep Neural Network
CN121888019A (zh) 基于2d转3d处理的电视信号vr观看实现系统及方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18904007

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2019568477

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 18904007

Country of ref document: EP

Kind code of ref document: A1