JP6701925B2 - 画像供給装置、画像供給装置の制御方法、及び、プログラム - Google Patents

画像供給装置、画像供給装置の制御方法、及び、プログラム Download PDF

Info

Publication number
JP6701925B2
JP6701925B2 JP2016089736A JP2016089736A JP6701925B2 JP 6701925 B2 JP6701925 B2 JP 6701925B2 JP 2016089736 A JP2016089736 A JP 2016089736A JP 2016089736 A JP2016089736 A JP 2016089736A JP 6701925 B2 JP6701925 B2 JP 6701925B2
Authority
JP
Japan
Prior art keywords
image
unit
image data
transfer unit
acquisition unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016089736A
Other languages
English (en)
Other versions
JP2017199211A (ja
Inventor
光広 ▲吉▼田
光広 ▲吉▼田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2016089736A priority Critical patent/JP6701925B2/ja
Priority to US15/489,892 priority patent/US10249224B2/en
Publication of JP2017199211A publication Critical patent/JP2017199211A/ja
Application granted granted Critical
Publication of JP6701925B2 publication Critical patent/JP6701925B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/001Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background
    • G09G3/002Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background to project the image of a two-dimensional display, such as an array of light emitting or modulating elements or a CRT
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/2092Details of a display terminals using a flat panel, the details relating to the control arrangement of the display terminal and to the interfaces thereto
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/22Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters using controlled light sources
    • G09G3/30Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters using controlled light sources using electroluminescent panels
    • G09G3/32Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters using controlled light sources using electroluminescent panels semiconductive, e.g. using light-emitting diodes [LED]
    • G09G3/3208Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters using controlled light sources using electroluminescent panels semiconductive, e.g. using light-emitting diodes [LED] organic, e.g. using organic light-emitting diodes [OLED]
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/34Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters by control of light from an independent source
    • G09G3/36Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters by control of light from an independent source using liquid crystals
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/003Details of a display terminal, the details relating to the control arrangement of the display terminal and to the interfaces thereto
    • G09G5/005Adapting incoming signals to the display format of the display terminal
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/39Control of the bit-mapped memory
    • G09G5/391Resolution modifying circuits, e.g. variable screen formats
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • H04N23/661Transmitting camera control signals through networks, e.g. control via the Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0666Adjustment of display parameters for control of colour parameters, e.g. colour temperature
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/02Handling of images in compressed format, e.g. JPEG, MPEG
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0407Resolution change, inclusive of the use of different resolutions for different screen areas
    • G09G2340/0435Change or adaptation of the frame rate of the video stream
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/045Zooming at least part of an image, i.e. enlarging it or shrinking it
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00Aspects of interface with display user
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2360/00Aspects of the architecture of display systems
    • G09G2360/18Use of a frame buffer in a display terminal, inclusive of the display panel
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2370/00Aspects of data communication
    • G09G2370/04Exchange of auxiliary data, i.e. other than image data, between monitor and graphics controller
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2370/00Aspects of data communication
    • G09G2370/12Use of DVI or HDMI protocol in interfaces along the display data pipeline

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Chemical & Material Sciences (AREA)
  • Crystallography & Structural Chemistry (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Digital Computer Display Output (AREA)
  • Information Transfer Between Computers (AREA)

Description

本発明は、画像供給装置、画像供給装置の制御方法、及び、プログラムに関する。
従来、画像供給装置(端末)がプロジェクター装置等の表示装置に画像データを送信し、表示装置が受信した画像データに基づいて画像を表示するシステムが知られている(例えば、特許文献1参照)。
特開2015−230587号公報
一般に、上述した画像供給装置のように外部の装置に画像データを送信するものでは、画像データを取得する機能部と、画像データを送信する機能部とが、それぞれ連関して処理を行って画像データの送信を実行するが、これら機能部が独立して動作することに起因して処理負荷が増し、画像データの送信に係る処理に影響が生じる場合があるという問題がある。
本発明は、上述した事情に鑑みてなされたものであり、画像データを送信する画像供給装置について、画像データを送信する処理に関し、効率の良い処理を行って、処理負荷を軽減することを目的とする。
上記目的を達成するために、本発明の画像供給装置は、画像データを取得する画像取得部と、前記画像取得部が取得した前記画像データを送信する画像転送部と、を備え、前記画像転送部は、前記画像転送部の処理能力に関する情報を前記画像取得部へ出力し、前記画像取得部は、前記画像転送部の処理能力に関する情報に基づいて、前記画像データを前記画像転送部へ出力する頻度を決定することを特徴とする。
本発明の構成によれば、画像取得部は、画像転送部の処理能力を反映した適切な取得フレームレートで画像データを画像転送部に出力することができ、画像取得部が、不必要に画像データの画像転送部への出力を実行することを抑制でき、処理効率を向上できると共に、処理負荷を軽減できる。
また、本発明は、前記画像転送部の処理能力に関する情報は、前記画像転送部が前記画像データの送信に係る処理に実際に要した時間に基づく情報であることを特徴とする。
本発明の構成によれば、画像取得部は、画像転送部が画像データの送信に係る処理に実際に要した時間を反映して、画像データを画像転送部へ出力する頻度を決定することができ、当該頻度を適切な値とすることができる。
また、本発明は、前記画像転送部は、所定の間隔で、前記画像転送部の処理能力に関する情報を前記画像取得部に出力し、前記画像取得部は、前記画像転送部の処理能力に関する情報の入力に応じて、前記画像データを前記画像転送部へ出力する頻度を決定し、決定した頻度で前記画像データの出力を実行することを特徴とする。
本発明の構成によれば、画像供給装置と画像データを送信する対象の外部の装置との通信状態や、画像供給装置で起動する他のプログラムによるプロセッサーの使用の状況等に応じて、画像転送部が画像データを送信する状況が変化する場合であっても、所定の間隔で定期的に行われる頻度の決定により、画像転送部の処理の状況の変化に応じて、当該頻度の値を動的に設定できる。
また、本発明は、プロセッサーをさらに備え、前記プロセッサーは、第1プログラムを実行することにより前記画像取得部の機能を実現し、前記第1プログラムとは異なる第2プログラムを実行することにより前記画像転送部の機能を実現することを特徴とする。
本発明の構成によれば、第1プログラムに基づいて機能を実現する画像取得部、及び、第1プログラムとは異なる第2プログラムに基づいて機能を実現する画像転送部が共通するプロセッサーを使用することに起因して、いずれか一方の機能部の処理がプロセッサーの処理負荷の増大を発生させて他方の機能部の処理に影響を与える状況下で、処理効率を向上することによって、効果的にプロセッサーの処理負荷の増大を抑制できる。
また、本発明は、撮影を行う撮像部をさらに備え、前記画像転送部は、前記撮像部の撮影結果に基づく前記画像データを、撮影に応じてリアルタイムで送信することを特徴とする。
本発明の構成によれば、画像供給装置は、撮像部による撮影結果に基づく画像データを撮影に応じてリアルタイムで外部の装置に送信して、画像データに基づく画像の表示等の所定の処理を実行させることができる。
前記撮像部の撮影結果に基づく前記画像データを撮影に応じてリアルタイムで送信する場合に、前記画像転送部は、前記画像転送部の処理能力に関する情報を前記画像取得部へ出力する処理を行うと共に、前記画像取得部は、前記画像転送部の処理能力に関する情報に基づいて、前記画像データを前記画像転送部へ出力する頻度を決定する処理を行うことを特徴とする。
本発明の構成によれば、撮像部の撮影に係る処理は、処理負荷が大きいことを踏まえ、処理負荷の増大の抑制を効果的に実現できる。
また、本発明は、動作モードを切り替えるモード切替部をさらに備え、前記モード切替部は、動作モードを、前記撮像部の撮影結果に基づく前記画像データ以外の画像データを送信する第1モード、又は、前記撮像部の撮影結果に基づく前記画像データを撮影に応じてリアルタイムで送信する第2モードに切り替えることを特徴とする。
本発明の構成によれば、撮像部の撮影に係る処理は、処理負荷が大きいことを踏まえ、適切なタイミングで動作モードを切り替えて、処理負荷の増大の抑制を効果的に実現できる。
また、上記目的を達成するために、本発明は、画像データを取得する画像取得部と、前記画像取得部が取得した前記画像データを送信する画像転送部と、を備える画像供給装置の制御方法であって、前記画像転送部により、前記画像転送部の処理能力に関する情報を前記画像取得部へ出力し、前記画像取得部により、前記画像転送部の処理能力に関する情報に基づいて、前記画像データを前記画像転送部へ出力する頻度を決定することを特徴とする。
本発明の構成によれば、画像取得部は、画像転送部の処理能力を反映した適切な取得フレームレートで画像データを画像転送部に出力することができ、画像取得部が、不必要に画像データの画像転送部への出力を実行することを抑制でき、処理効率を向上できると共に、処理負荷を軽減できる。
また、上記目的を達成するために、本発明は、画像供給装置を制御する制御部により実行されるプログラムであって、前記制御部を、画像データを取得する画像取得部と、前記画像取得部が取得した前記画像データを送信する画像転送部と、として機能させ、前記画像転送部に、前記画像転送部の処理能力に関する情報を前記画像取得部に出力させ、前記画像取得部に、前記画像転送部の処理能力に関する情報に基づいて、前記画像データを前記画像転送部へ出力する頻度を決定させることを特徴とする。
本発明の構成によれば、画像供給装置がプログラムを実行することにより、画像取得部は、画像転送部の処理能力を反映した適切な取得フレームレートで画像データを画像転送部に出力することができ、画像取得部が、不必要に画像データの画像転送部への出力を実行することを抑制でき、処理効率を向上できると共に、処理負荷を軽減できる。
画像投写システムの概略構成を示す図。 プロジェクターの構成を示す図。 端末装置の構成を示す図。 第1モードにおける画像取得部、及び、画像転送部の動作を示すシーケンス図。 第2モードにおける画像取得部、及び、画像転送部の動作を示すシーケンス図。 フレームレート調整処理における端末装置の動作を示すフローチャート。
以下、図面を参照して本発明の実施形態について説明する。
図1は、本実施形態に係る画像投写システム1の概略構成を示す図である。画像投写システム1は、プロジェクター100と、端末装置10(画像供給装置)と、を備える。
本実施形態において、プロジェクター100と端末装置10とは、無線通信方式によって各種データを送受信可能に接続される。この無線通信方式には、例えば、無線LAN(Local Area Network)、Bluetooth(登録商標)、UWB(Ultra Wide Band)、赤外線通信等の近距離無線通信方式や、携帯電話回線を利用した無線通信方式を採用できる。
プロジェクター100は、投写対象に画像光を投写して、投写対象の面に画像データに基づく画像を表示する。プロジェクター100が画像を投写する投写対象は、平面であっても曲面や凹凸面であってもよいが、本実施形態では、平面で構成されるスクリーンSCに投写する場合を例示する。スクリーンSCは、壁面等の固定された平面を利用してもよいし、吊り下げ式や立ち上げ式の幕状のスクリーンであってもよい。プロジェクター100は、画像光を投写する投写開口部114が設けられる。投写開口部114は、プロジェクター100に内蔵される投写光学系113(図2)が光を放射する開口部である。
端末装置10は、例えば、スマートフォン等の携帯電話や、タブレット端末、PDA(Personal Digital Assistants)等の装置である。端末装置10は、各種画像を表示する表示部60(図3)を備える。端末装置10は、表示部60が表示する画像を示す画像データをプロジェクター100に送信する。
図2は、プロジェクター100の構成を示す図である。
プロジェクター100は、画像入力部151を備える。画像入力部151は、ケーブルを接続するコネクター及びインターフェース回路(いずれも図示略)を備え、ケーブルを介して接続された装置から供給される画像データが入力される。なお、本実施形態では、画像入力部151に、端末装置10から送信された画像データが入力されない構成を例示する。
画像入力部151が備えるインターフェースは、例えば、Ethernet(登録商標)、IEEE1394、USB等のデータ通信用のインターフェースでもよい。また、画像入力部151のインターフェースは、MHL(登録商標)、HDMI(登録商標)、DisplayPort等の画像データ用のインターフェースでもよい。
また、画像入力部151は、コネクターとして、アナログ映像信号が入力されるVGA端子や、デジタル映像データが入力されるDVI(Digital Visual Interface)端子を備える構成でもよい。さらに、画像入力部151は、A/D変換回路を備え、VGA端子を介してアナログ映像信号が入力された場合、A/D変換回路によりアナログ映像信号を画像データに変換し、画像処理部152に出力する。
プロジェクター100は、光学的な画像の形成を行い、スクリーンSCに画像を投写する投写部110を備える。投写部110は、光源としての光源部111、光変調装置112、及び、投写光学系113を備える。
光源部111は、キセノンランプ、超高圧水銀ランプ、LED(Light Emitting Diode)又はレーザー光源等の光源を備える。また、光源部111は、光源が発した光を光変調装置112に導くリフレクター及び補助リフレクターを備えてもよい。さらに、光源部111は、投写光の光学特性を高めるためのレンズ群、偏光板、又は光源が発した光の光量を光変調装置112に至る経路上で低減させる調光素子等(いずれも図示略)を備えてもよい。
光源部111は、光源駆動部121により駆動される。光源駆動部121は、内部バス180に接続される。光源駆動部121は、プロジェクター制御部160の制御に従って、光源部111に駆動電力を供給し、光源部111の光源を点灯及び消灯させる。なお、光源部111の光源の輝度は、光源駆動部121が供給する駆動電力によって調整可能に構成されてもよい。
光変調装置112は、例えば、RGBの三原色に対応した3枚の液晶パネルを備える。光源部111が発する光はRGBの3色の色光に分離され、対応する液晶パネルに入射される。3枚の液晶パネルは、透過型の液晶パネルであり、透過する光を変調して画像光を生成する。各液晶パネルを通過して変調された画像光は、クロスダイクロイックプリズム等の合成光学系によって合成され、投写光学系113に射出される。
光変調装置112には、光変調装置112の液晶パネルを駆動する光変調装置駆動部122が接続される。光変調装置駆動部122は、内部バス180に接続される。光変調装置駆動部122は、画像処理部152から入力される画像データに基づいてR、G、Bの画像信号のそれぞれを生成する。光変調装置駆動部122は、生成したR、G、Bの画像信号に基づいて、光変調装置112の対応する液晶パネルを駆動し、各液晶パネルに画像を描画する。
投写光学系113は、光変調装置112により変調された画像光をスクリーンSCの方向へ投射して、スクリーンSC上に結像させるレンズ群を備える。また、投写光学系113は、スクリーンSCの投写画像の拡大・縮小を行うズーム機構、フォーカスの調整を行うフォーカス調整機構を備えてもよい。
プロジェクター100は、操作パネル131、及び、処理部133を備える。処理部133は、内部バス180に接続される。操作パネル131は、ユーザーが操作を行うための各種スイッチ、及び、インジケーターランプを備える。操作パネル131は、処理部133に接続する。処理部133は、プロジェクター制御部160の制御に従って、プロジェクター100の動作状態や設定状態に応じて操作パネル131のインジケーターランプを適時点灯或いは点滅させる。操作パネル131のスイッチが操作されると、操作されたスイッチに対応する操作信号が処理部133からプロジェクター制御部160に出力される。
また、プロジェクター100は、ユーザーが使用するリモコン(不図示)から送信される赤外線信号を受光するリモコン受光部132を備える。リモコン受光部132は、処理部133に接続される。リモコン受光部132は、リモコンから送信される赤外線信号を受光する。処理部133は、リモコン受光部132が受光した赤外線信号をデコードして、リモコンにおける操作内容を示すデータを生成し、プロジェクター制御部160に出力する。
プロジェクター100は、通信部175を備える。通信部175は、図示せぬアンテナやRF(Radio Frequency)回路等を備え、プロジェクター制御部160の制御に従って、端末装置10との間で無線通信規格に従って無線通信する。プロジェクター100と端末装置10とは、無線通信方式によって各種データを送受信可能に接続される。本実施形態では、通信部175は、端末装置10から送信された画像データを受信する。
プロジェクター100は、画像処理系を備える。画像処理系は、プロジェクター100の全体を統括的に制御するプロジェクター制御部160を中心に構成され、この他に、画像処理部152、フレームメモリー155、及び、記憶部170を備える。プロジェクター制御部160、画像処理部152、及び、記憶部170は、内部バス180に接続される。
画像処理部152は、プロジェクター制御部160の制御に従って、通信部175が受信した画像データ、又は、画像入力部151から入力される画像データをフレームメモリー155に展開する。画像処理部152は、フレームメモリー155に展開された画像データに対して、解像度変換(スケーリング)処理又はリサイズ処理、歪曲収差の補正、形状補正処理、デジタルズーム処理、画像の色合いや明るさの調整等の処理を行う。画像処理部152は、プロジェクター制御部160により指定された処理を実行し、必要に応じて、プロジェクター制御部160から入力されるパラメーターを使用して処理を行う。また、画像処理部152は、上記のうち複数の処理を組み合わせて実行することも勿論可能である。画像処理部152は、処理後の画像データをフレームメモリー155から読み出して光変調装置駆動部122に出力する。
プロジェクター制御部160は、プロセッサー、ROM(Read Only Memory)、及び、RAM(Random Access Memory)(いずれも図示略)等のハードウェアを備える。ROMは、フラッシュROM等の半導体記憶素子で構成される不揮発性の記憶装置であり、プロセッサーが実行する制御プログラムや各種データを格納する。RAMは、プロセッサーのワークエリアを構成する。プロセッサーは、ROMや記憶部170から読み出した制御プログラムをRAMに展開し、RAMに展開された制御プログラムを実行してプロジェクター100の各部を制御する。
記憶部170は、不揮発性の記憶装置であり、例えば、フラッシュメモリー、EPROM(Erasable Programmable ROM)、EEPROM(Electrically EPROM)、HDD(Hard Disc Drive)などの記憶装置により実現される。記憶部170は、例えば、投写部110によりスクリーンSCに投射させる画像データを記憶する。
図3は、端末装置10の構成を示すブロック図である。
図3に示すように、端末装置10は、制御部20を備える。制御部20には、端末記憶部30、撮像部40、端末通信部50、表示部60、タッチスクリーン70、及び、スイッチ部80が接続する。制御部20は、これらの各部を制御することにより、端末装置10を制御する。
制御部20は、プロセッサー、ROM、及び、RAM(いずれも図示略)等のハードウェアを備える。ROMは、フラッシュROM等の半導体記憶素子で構成される不揮発性の記憶装置であり、プロセッサーが実行する制御プログラムや各種データを格納する。RAMは、プロセッサーのワークエリアを構成する。プロセッサーは、ROMから読み出した制御プログラムをRAMに展開し、RAMに展開された制御プログラムを実行して端末装置10の各部を制御する。
図3に示すように、制御部20は、機能ブロック(機能部)として、画像取得部201と、画像転送部202と、モード切替部203とを備える。また、画像取得部201は、フレームレート調整部201aを備える。また、画像転送部202は、処理時間計測部202aを備える。制御部20が備える機能ブロックの機能、及び、機能に基づいて行われる処理については後述する。
端末記憶部30は、EEPROM等の不揮発性メモリーを備え、各種データを記憶する。
撮像部40は、CCDイメージセンサーやCMOSイメージセンサー等の撮像素子、撮影レンズ群、ズームやフォーカス等の調整を行うためにレンズ群を駆動するレンズ駆動部等を備え、制御部20の制御に従って撮影を行う。撮像部40は、随時、撮影結果に基づいて画像データを生成し、制御部20に出力する。
端末通信部50は、アンテナやRF回路等を備え、制御部20の制御で、プロジェクター100との間で上述した無線通信方式に従って各種データを送受信する。
表示部60は、液晶表示パネルや、有機ELパネル等の表示パネル60aを備え、制御部20の制御で各種画像を表示パネル60aに表示させる。
タッチスクリーン70は、表示パネル60aに重ねて設けられ、表示パネル60aへの接触操作を検出し、検出した操作位置を示す位置信号を制御部20に出力する。制御部20は、タッチスクリーン70からの入力に基づいて、接触操作された位置を検出し、接触操作に対応する処理を実行する。
スイッチ部80は、タッチスクリーン70とは別に、端末装置10の筐体に設けられたスイッチ等の各操作子を備え、これらのスイッチが操作された場合に操作信号を制御部20に出力する。制御部20は、スイッチ部80から入力された操作信号に基づいて、操作に対応する処理を実行する。
以上の構成の下、プロジェクター100は、端末装置10と通信して、動画をスクリーンSCに表示可能である。
以下、スクリーンSCに動画を表示する場合のプロジェクター100と、端末装置10との基本的な動作について説明する。なお、プロジェクター100は、スクリーンSCに、フレームごとの静止画を連続して表示することによって、動画の表示を実行する。
動画の表示に際し、端末装置10は、プロジェクター100に対して、動画を構成する静止画のそれぞれの画像データを、フレームごとに連続して送信する。すなわち、本実施形態において、「画像データ」は、プロジェクター100による動画の表示に際し、端末装置10からプロジェクター100に送信されるフレームごとの静止画に係るデータを含む。
上述したように、プロジェクター100の画像処理部152は、端末装置10から受信した画像データをフレームメモリー155に展開し、所定の画像処理を施した上で、光変調装置駆動部122に出力する。光変調装置駆動部122は、入力された画像データに基づいて、光変調装置112を制御して、画像データに基づく静止画をスクリーンSCに表示させる。プロジェクター100は、以上のような画像データに基づく静止画の表示を、フレームごとに連続して繰り返し行って、動画を表示する。
次に、プロジェクター100による動画の表示に際し、動画に係る画像データを送信するときの端末装置10の動作について詳細に説明する。
ここで、動画に係る画像データの送信に関し、端末装置10は、動作モードとして、第1モードと、第2モードとを有する。以下、第1モードのときの端末装置10の動作について詳細に説明し、第1モードの課題について説明した後、第2モードのときの端末装置10の動作について詳細に説明する。
なお、後述するように、本実施形態に係る端末装置10のモード切替部203は、所定の場合に、動作モードを、第1モードと、第2モードとの間で切り替える。しかしながら、動作モードが自動で切り替わる構成でなく、ユーザーの設定等に応じて、いずれか一方の動作モードが継続する構成であってもよい。また、端末装置10が動作モードとして第1モードに対応する動作モードを有さず、第2モードに相当する動作を常に行う構成でもよい。
<第1モード>
図4は、第1モードで端末装置10が動画に係る画像データを送信するときの、画像取得部201、及び、画像転送部202の動作を示すシーケンス図である。
図4では、所定のフォーマットの動画ファイルが事前に端末記憶部30に記憶されており、動画ファイルに基づく画像データを送信する場合の端末装置10の動作について説明する。
なお、以下では、端末装置10が、事前に記憶された動画ファイルに基づいて、画像データを端末装置10に送信する場合を例にして、第1モードの説明を行う。ただし、第1モードにおいて、端末装置10がプロジェクター100に送信する画像データは、端末装置10に事前に記憶された動画ファイルに係る画像データに限らない。例えば、端末装置10は、端末装置10の表示パネル60aに表示された画像に対応する画像データを送信してもよい。この場合、端末装置10の表示パネル60aに表示された画像と同期して、プロジェクター100によりスクリーンSCに画像が表示された状態となる。
ここで、画像取得部201は、端末装置10にダウンロードされた第1プログラムの機能により処理を実行する機能ブロックである。第1プログラムは、例えば、端末装置10のOS(Operating System)が有するプログラムの一部であり、また例えば、以下で説明する画像取得部201の機能が実装された専用のアプリケーションである。
また、画像転送部202は、上述した第1プログラムとは異なる第2プログラムの機能により処理を実行する機能ブロックである。第2プログラムは、例えば、プロジェクター100のメーカーが提供する専用のアプリケーションであり、所定のアプリケーションのダウンロードサービスにより、端末装置10にダウンロードされる。
画像転送部202に係る第2プログラムは、OSが提供する所定のAPI(Application Programming Interface)を用いて、画像取得部201に係る第1プログラムとの間でプログラム間通信が可能である。以下で説明する画像取得部201と、画像転送部202とのデータの送受信は、APIを用いたプログラム間通信により実行される。
また、画像取得部201の処理、及び、画像転送部202の処理は、制御部20が備える共通のプロセッサーの割り当てが行われて実行される。
図4に示すように、画像取得部201は、端末記憶部30に記憶された動画ファイルに基づいて、必要に応じてデータの解凍等の画像処理を行って、所定のフレームレートでフレームごとに、順次、画像データの取得、及び、取得した画像データの画像転送部202への出力を実行する。
具体的には、ステップSA1において画像取得部201は、画像データD1を取得し、ステップSA2において取得した画像データD1を画像転送部202へ出力する。次いで、ステップSA3において画像取得部201は、画像データD2を取得し、ステップSA4において取得した画像データD2を画像転送部202へ出力する。ステップSA5において画像取得部201は、画像データD3を取得し、ステップSA6において取得した画像データD3を画像転送部202へ出力する。ステップSA7において画像取得部201は、画像データD4を取得し、ステップSA8において取得した画像データD4を画像転送部202へ出力する。ステップSA9において画像取得部201は、画像データD5を取得し、ステップSA10において取得した画像データD5を画像転送部202へ出力する。
以上のように、画像取得部201は、動画ファイルに基づく画像データの取得、及び、画像データの出力を、動画ファイルに基づく動画に係る全ての画像データの出力が完了するまで、所定のフレームレートで繰り返し実行する。
図4に示すように、画像転送部202は、ステップSA2で画像取得部201が出力した画像データD1を取得する(ステップSB1)。
次いで、画像転送部202は、ステップSB1で取得した画像データD1に必要な画像処理を施す(ステップSB2)。ステップSB2の画像処理は、画像取得部201から入力された画像データを、プロジェクター100に送信するデータとして適切な画像データに変換する処理である。例えば、画像処理は、色変換処理や、解像度変換処理、サイズ変換処理、画像圧縮処理等を含む。色変換処理は、画像データを構成する各ドットを、プロジェクター100の表示用の表色系のドット(R、G、Bの度合いを諧調値で表すドット)に変換する処理である。解像度変換処理は、画像データの解像度を、プロジェクター100が対応する解像度に変換する処理である。サイズ変換処理は、画像データのサイズ(縦横のドット数)を、プロジェクター100が対応するサイズに変換する処理である。画像圧縮処理は、所定の圧縮形式で画像データを圧縮する処理である。
次いで、画像転送部202は、端末通信部50を制御して、画像データD1を、プロジェクター100に送信する(ステップSB3)。
ここで、画像転送部202は、画像取得部201の1の画像データの出力に応じて当該1の画像データを取得してから、画像転送部202による当該1の画像データのプロジェクター100への送信が完了するまでの間は、画像取得部201による新たな画像データの出力があった場合であっても、当該新たな画像データの取得を行わず、当該新たな画像データは破棄する。画像転送部202は、当該1の画像データのプロジェクター100への送信が完了した後、新たな画像データの取得が可能な状態へ移行し、当該状態へ移行した後、最初に画像取得部201が出力した画像データを取得する。
図4において、ステップSA4、及び、ステップSA6における画像取得部201による画像データの出力は、ステップSB1で画像転送部202が取得した画像データD1のプロジェクター100への送信が完了する前に実行される処理である。従って、ステップSA4で画像取得部201が出力した画像データD2、及び、ステップSA6で画像取得部201が出力した画像データD3は、プロジェクター100に送信されることなく、破棄される。
図4に示すように、ステップSB4において、画像取得部201は、ステップSA8において画像取得部201が出力した画像データD4を取得する。次いで、画像転送部202は、画像データD4に画像処理を施す(ステップSB5)。次いで、画像転送部202は、画像データD4をプロジェクター100に送信する(ステップSB6)。
ステップSA10における画像取得部201による画像データD5の出力は、画像データD4のプロジェクター100の送信の前に実行される処理であるため、上述したように、画像データD5は、プロジェクター100に送信されることなく破棄される。
以上、第1モードで画像データを送信するときの端末装置10の動作について説明した。この第1モードで端末装置10が画像データを送信する場合、以下の課題がある。
以下の説明では、画像取得部201が画像データを画像転送部202に出力するフレームレートを「取得フレームレート」といい、画像転送部202が画像データをプロジェクター100に送信するフレームレートを「送信フレームレート」という。
取得フレームレートは、画像取得部201が、単位時間である「1秒」あたりに画像データを取得する回数である。また、送信フレームレートは、画像転送部202が、単位時間である「1秒」あたりに、画像データに対して必要な画像処理を行って、画像データをプロジェクター100に送信する回数である。
取得フレームレートは、「画像取得部201が画像データを画像転送部202に出力する頻度」に相当する。
以上説明した第1モードについては、以下の課題がある。
すなわち、第1モードにおいては、送信フレームレートは、取得フレームレートよりも小さい。そして、送信フレームレートが、取得フレームレートよりも小さいことに起因して、画像取得部201により不必要な処理が行われてしまう、という課題がある。
詳述すると、上述したように、画像転送部202は、画像取得部201の1の画像データの出力に応じて当該1の画像データを取得してから、画像転送部202による当該1の画像データのプロジェクター100への送信が完了するまでの間は、画像取得部201による新たな画像データの出力があった場合であっても、当該新たな画像データの取得を行わず、当該新たな画像データは破棄する。このため、画像転送部202が1の画像データを取得してから、画像転送部202により当該1の画像データの送信が行われるまでの間に、画像取得部201が実行する画像データの取得、及び、出力に係る処理は、取得した画像データのプロジェクター100への送信が行われない不必要な処理となる。図4の例では、ステップSA3〜ステップSA6の処理、及び、ステップSA9、ステップSA10の処理は、不必要な処理である。
そして、画像取得部201による不必要な処理についても、制御部20が備えるプロセッサーの割り当てが行われるため、処理負荷の増大につながる。ここで、処理負荷が許容範囲を超えて増大した場合、画像転送部202の処理についてのプロセッサーの割り当てに影響を与え、送信フレームレートの低下が発生したり、画像転送部202の既存の機能によりプロジェクター100に対して画像データが間引かれて送信されたりする場合がある。送信フレームレートが低下したり、プロジェクター100に対して画像データが間引かれて送信したりすると、プロジェクター100が表示する動画の品質の低下につながる可能性がある。
以上を踏まえ、第2モードでは、画像取得部201によって不必要な処理が行われることを抑制し、画像取得部201、及び、画像転送部202による処理の効率化を実現する。
<第2モード>
次いで、第2モードについて説明する。
図5は、第2モードで端末装置10が動画に係る画像データを送信するときの、画像取得部201、及び、画像転送部202の動作を示すシーケンス図である。
ここで、本実施形態において、制御部20のモード切替部203は、動作モードの第1モードと第2モードとの間での切り替えを以下の場合に実行する。
モード切替部203は、撮像部40の撮影結果に基づく動画をリアルタイムでプロジェクター100により表示するべく、撮像部40の撮影結果に基づいてリアルタイムで画像データをプロジェクター100に送信する場合、動作モードを第2モードに切り替える。これは、以下の理由による。すなわち、撮像部40の撮影結果に基づく動画をリアルタイムでプロジェクター100により表示する場合、画像取得部201及び画像転送部202による処理と並行して、撮像部40の撮影に係る処理が行われる。そして、撮像部40の撮影に係る処理は、プロセッサーの処理負荷が大きいため、送信フレームレートの低下や、プロジェクター100に対する画像データの間引き送信を防止するためには、より強く処理負荷の低減が求められるからである。
なお、第2モードへの切り替えについて、例えば、モード切替部203がユーザーの指示に応じて実行する構成でもよく、また例えば、モード切替部203がプロセッサーの処理負荷の状況を取得し、処理負荷の状況に応じて実行する構成でもよい。
図5では、撮像部40による撮影が行われており、撮像部40の撮影結果に基づく画像データをリアルタイムでプロジェクター100に送信する場合の端末装置10の動作について説明する。
なお、撮像部40による撮影の実行中、制御部20は、RAM等のワークエリアに形成したバッファーに、随時、撮影結果に基づく画像データを展開する。画像取得部201は、取得フレームレートに対応する間隔で、バッファーに展開された最新の画像データを取得する。
図5に示すように、画像取得部201は、画像データの取得、出力を開始する前に、設定処理を実行する(ステップSC1)。
詳述すると、ステップSC1の設定処理において、画像取得部201は、画像転送部202が後述する画像処理時間データJ1を画像取得部201に対して出力する間隔を示す情報を出力する。
「画像転送部202が後述する画像処理時間データJ1を画像取得部201に対して出力する間隔」は、所定の方法でユーザーにより事前に設定される。
以下、画像転送部202が後述する画像処理時間データJ1を画像取得部201に対して出力する間隔を「画像処理時間データ出力間隔」という。また、画像処理時間データ出力間隔をあけて到来するタイミングのことを「画像処理時間データ出力タイミング」という。
図5に示すように、画像転送部202は、ステップSC1で画像取得部201が出力した画像処理時間データ出力間隔を示す情報を取得する(ステップSD1)。
画像処理時間データ出力間隔を示す情報の取得に応じて、処理時間計測部202aは、画像処理時間データ出力間隔の計時を開始すると共に(ステップSD2)、計測処理を実行する(ステップSD6)。
計測処理は、次に画像処理時間データ出力タイミングが到来するまでの間に、(1)画像転送部202がプロジェクター100へ画像データの送信を行った回数、及び、(2)画像転送部202が画像データを送信する間隔の平均時間を計測する処理である。画像転送部202が画像データを送信する間隔は、画像転送部202が画像データを取得してから、プロジェクター100に画像データを出力するまでに要する時間に相当する。
設定処理の実行後、画像取得部201は、所定の取得フレームレートでの画像データの取得、画像転送部202への出力を開始する。画像取得部201は、画像転送部202から画像処理時間データJ1が1回も入力されてない状態の間、デフォルト値の取得フレームレートで、画像データの取得、出力を実行する。取得フレームレートのデフォルト値は、送信フレームレートを下回らないように、送信フレームレートと比較して十分に大きな値とされる。
具体的には、図5に示すように、画像取得部201は、ステップSC2における画像データの取得、ステップSC3における画像データの出力、ステップSC4における画像データの取得、ステップSC5における画像データの出力、ステップSC6における画像データの取得、ステップSC7における画像データの出力を、順次、実行する。
図5に示すように、画像転送部202は、ステップSC3で画像取得部201が出力した画像データを取得し(ステップSD3)、取得した画像データに画像処理を施し(ステップSD4)、画像処理を施した画像データをプロジェクター100に送信する(ステップSD5)。
画像取得部201によるステップSC4〜ステップSC7の処理は、画像転送部202によりステップSD3〜ステップSD5が実行される間に行われる。このため、ステップSC5、及び、ステップSC7で画像取得部201が取得し、出力した画像データは、プロジェクター100に送信されることなく破棄される。
1回目の画像処理時間データ出力タイミングが到来するまでの間、ステップSC2〜ステップSC7、及び、ステップSD3〜ステップSD5で示すように、画像取得部201は取得フレームレートでの画像データの取得、出力を繰り返し実行し、また、画像転送部202は送信フレームレートでの画像データの送信を繰り返し実行する。
図5に示すように、1回目の画像処理時間データ出力間隔が到来したことを検出すると、処理時間計測部202aは、ステップSD6の計測処理に基づいて、画像処理時間データ生成処理を実行する(ステップSD7)。
画像処理時間データ生成処理は、画像処理時間データJ1を生成する処理である。
画像処理時間データJ1は、(1)計測対象期間(後述)において画像転送部202がプロジェクター100に対して行った画像データの送信の回数を示す情報、(2)計測対象期間(後述)において画像転送部202が画像データを送信した間隔の平均時間(以下、「処理平均時間」という。)を示す情報、及び、(3)計測対象期間の長さを示す情報を含むデータである。
計測対象期間とは、直近で到来した1の画像処理時間データ出力タイミングと、当該1の画像処理時間データ出力タイミングの前に到来した他の画像処理時間データ出力タイミングとの間の期間である。
画像処理時間データJ1は、「画像転送部202の処理能力に関する情報」に相当する。
画像処理時間データJ1を生成した後、処理時間計測部202aは、生成した画像処理時間データJ1を画像取得部201に出力する(ステップSD8)。画像処理時間データJ1の出力に応じて、処理時間計測部202aは、画像処理時間データ出力間隔の計時を開始すると共に(ステップSD9)、計測処理を実行する(ステップSD10)。
図5に示すように、ステップSD8の処理時間計測部202aによる画像処理時間データJ1の出力に応じて、画像取得部201のフレームレート調整部201aは、フレームレート調整処理を実行する(ステップSC8)。
図6は、フレームレート調整処理の詳細を示すフローチャートである。
図6に示すように、フレームレート調整部201aは、ステップSD8で処理時間計測部202aが出力した画像処理時間データJ1を取得する(ステップSE1)。
次いで、フレームレート調整部201aは、今回フレームレート(後述)を算出し、今回フレームレートの値を、変数currentFpsに格納する(ステップSE2)。以下、詳述する。
変数currentFpsは、今回フレームレート(後述)の値が格納される変数(例えば、画像取得部201の機能を実現するプログラムに定義された変数)を概念的に表すものである。
ステップSE2において、フレームレート調整部201aは、以下の式S1により、今回フレームレートを算出する。「(式S1)処理回数/画像処理時間データ出力間隔」。「処理回数」とは、計測対象期間において、画像取得部201が画像データを取得し、出力した回数を意味する。式S1によって算出される今回フレームレートは、計測対象期間における実際の取得フレームレートを意味する。換言すれば、今回フレームレートは、計測対象期間において、単位時間あたりに画像取得部201が実際に行った画像データの取得の回数を意味する。
ステップSE2において、フレームレート調整部201aは、今回フレームレートを算出した後、算出した今回フレームレートを示す値を、変数currentFpsに格納する。
次いで、フレームレート調整部201aは、最善フレームレート(後述)を算出し、最善フレームレートの値を、変数fastestFpsに格納する(ステップSE3)。以下、詳述する。
変数fastestFpsは、最善フレームレート(後述)の値が格納される変数を概念的に表すものである。
ステップSE3において、フレームレート調整部201aは、以下の式S2により、最善フレームレートを算出する。「(式S2)単位時間/処理平均時間」。式S2によって算出される最善フレームレートは、計測対象期間において実際に画像転送部202が行った画像データの送信を反映して、取得フレームレートと送信フレームレートとを同期させるという観点から最適な取得フレームレートである。すなわち、理論的には、取得フレームレートと送信フレームレートとが完全に同期すれば、画像取得部201による不必要な画像データの取得、出力は行われなくなる。そして、式S2によって求められる最善フレームレートの値は、計測対象期間における実際の送信フレームレートと近似した値となる。
ステップSE3において、フレームレート調整部201aは、最善フレームレートを算出した後、算出した最善フレームレートを示す値を、変数fastestFpsに格納する。
次いで、フレームレート調整部201aは、変数nextFpsに、変数currentFpsに格納された値を格納する(ステップSE4)。
変数nextFpsは、次回計測対象期間(後述)における取得フレームレートの値が格納される変数を概念的に表すものである。次回計測対象期間とは、現時点で処理対象となっている計測対象期間の次の計測対象期間のことであり、具体的には、直近で到来した画像処理時間データ出力タイミングから、次に到来すべき画像処理時間データ出力タイミングまでの期間である。
画像取得部201は、フレームレート調整処理が完了した後、変数nextFpsに格納された値の取得フレームレートで、次回計測対象期間の間、画像データの取得、出力を実行する。
次いで、フレームレート調整部201aは、「変数nextFpsに格納された値の2倍の値」が、「変数fastestFpsに格納された最善フレームレートの値」よりも小さいか否かを判別する(ステップSE5)。
ここで、ステップSE5の時点で、変数nextFpsには、今回フレームレートが格納される。これを踏まえ、ステップSE5では、計測対象期間における実際の取得フレームレートが、計測対象期間における実際の送信フレームレートに基づく最善フレームレートの1/2を下回るほど小さいか否かが判別される。小さい場合、取得フレームレートを上げて、取得フレームレートと、送信フレームレートとの値を近づける必要がある。
「変数nextFpsに格納された値の2倍の値」が、「変数fastestFpsに格納された最善フレームレートの値」よりも小さい場合(ステップSE5:YES)、フレームレート調整部201aは、変数nextFpsに、変数fastestFpsの値を格納する(ステップSE6)。
ステップSE6の処理後、フレームレート調整部201aは、処理手順をステップSE9へ移行する。
「変数nextFpsに格納された値の2倍の値」が、「変数fastestFpsに格納された最善フレームレートの値」よりも小さくない場合(ステップSE5:NO)、フレームレート調整部201aは、変数nextFpsに格納された値が、変数fastestFpsに格納された値よりも小さいか否かを判別する(ステップSE7)。
変数nextFpsに格納された値が、変数fastestFpsに格納された値よりも小さい場合(ステップSE7:YES)、フレームレート調整部201aは、変数nextFpsに格納された値に、変数stepFpsに格納された値だけ加算する(ステップSE8)。
変数stepFpsは、「変数nextFpsに格納された値の2倍の値」が、「変数fastestFpsに格納された最善フレームレートの値」よりも小さくなく、かつ、変数nextFpsに格納された値が、変数fastestFpsに格納された値よりも小さい場合に、できるだけ変数nextFpsに格納された値を上げる、という観点の下、事前に定められた設定値が格納される変数を概念的に表すものである。
ステップSE8の処理後、フレームレート調整部201aは、処理手順をステップSE9へ移行する。
一方、変数nextFpsに格納された値が、変数fastestFpsに格納された値よりも小さくない場合(ステップSE7)、フレームレート調整部201aは、処理手順をステップSE9へ移行する。この場合、ステップSE9の処理の開始時点で、変数nextFpsには、変数currentFpsに格納された値(算出した今回フレームレートの値)が格納された状態となる。
ステップSE9において、フレームレート調整部201aは、変数nextFpsに格納された値が、変数minFpsに格納された値を下回るか否かを判別する。
変数minFpsは、取得フレームレートの下限値が格納される変数を概念的に表すものである。
変数nextFpsに格納された値が、変数minFpsに格納された値を下回る場合(ステップSE9:YES)、フレームレート調整部201aは、変数nextFpsに、変数minFpsに格納された値を格納する(ステップSE10)。ステップSE10の処理の結果、次回計測対象期間における取得フレームレートが下限値を下回って設定されることが防止される。
ステップSE10の処理後、フレームレート調整部201aは、処理手順をステップSE13へ移行する。
ステップSE9において、変数nextFpsに格納された値が、変数minFpsに格納された値を下回らないと判別した場合(ステップSE9:NO)、フレームレート調整部201aは、変数nextFpsに格納された値が、変数maxFpsに格納された値を上回るか否かを判別する(ステップSE11)。
変数maxFpsは、取得フレームレートの上限値が格納される変数を概念的に表すものである。
変数nextFpsに格納された値が、変数maxFpsに格納された値を上回る場合(ステップSE11:YES)、フレームレート調整部201aは、変数nextFpsに、変数maxFpsに格納された値を格納する(ステップSE12)。ステップSE12の処理の結果、次回計測対象期間における取得フレームレートが上限値を上回って設定されることが防止される。
ステップSE12の処理後、フレームレート調整部201aは、処理手順をステップSE13へ移行する。
ステップSE11において、変数nextFpsに格納された値が、変数maxFpsに格納された値を上回らないと判別した場合(ステップSE11:NO)、フレームレート調整部201aは、処理手順をステップSE13へ移行する。なお、この場合、変数nextFpsには、最善フレームレートの値、又は、最善フレームレートに近似する値が格納された状態である。
ステップSE13において、フレームレート調整部201aは、変数nextFpsに格納された値のフレームレートを、次回計測対象期間における取得フレームレートとして設定(決定)する。
以上のように、フレームレート調整処理において、フレームレート調整部201aは、次回計測対象期間の取得フレームレートを設定(決定)する。
図5に示すように、ステップSC8でフレームレート調整処理を実行した後、画像取得部201は、ステップSC9〜ステップSC12で示すように、次の画像処理時間データ出力タイミングが到来するまでの間、フレームレート調整処理により設定した取得フレームレートで、画像データの取得、出力を繰り返し実行する。一方、画像転送部202は、ステップSD11〜ステップSD16で示すように、次の画像処理時間データ出力タイミングが到来するまでの間、画像取得部201の画像データの出力に応じた画像データの取得、画像データへの画像処理、及び、画像データのプロジェクター100への送信を繰り返し実行する。
ここで、上述したように、フレームレート調整処理で設定された取得フレームレートの値は、下限値を下回らないこと、及び、上限値を上回らないことが保証された上で、最善フレームレートの値と同一か、又は、最善フレームレートに近似した値である。そして、上述したように、最善フレームレートは、計測対象期間において実際に画像転送部202が行った画像データの送信を反映して、取得フレームレートと送信フレームレートとを同期させるという観点から最適な取得フレームレートである。従って、画像取得部201がフレームレート調整処理で設定された取得フレームレートで処理を実行することにより、画像取得部201が不必要に画像データの取得、及び、出力を実行することを抑制可能となる。
図5に示すように、次の画像処理時間データ出力タイミングが到来したことを検出すると、処理時間計測部202aは、画像処理時間データJ1を生成し(ステップSD17)、フレームレート調整部201aに出力する(ステップSD18)。
フレームレート調整部201aは、画像処理時間データJ1に基づいて、フレームレート調整処理を実行する(ステップSC13)。
フレームレート調整処理の実行後、画像取得部201は、フレームレート調整処理で設定された取得フレームレートで、画像データの取得、出力を実行する。
以上のように、第2モードにおいて、処理時間計測部202aは、画像処理時間データ出力間隔で、画像処理時間データJ1を生成し、フレームレート調整部201aに出力する。また、処理時間計測部202aは、画像処理時間データJ1に基づいてフレームレート調整処理を実行して取得フレームレートを設定し、設定した取得フレームレートで処理を実行する。
これにより、以下の効果を奏する。
すなわち、上述したように、画像取得部201がフレームレート調整処理で設定された取得フレームレートで処理を実行することにより、画像取得部201が不必要に画像データの取得、及び、出力を実行することを抑制できる。これにより、処理の効率化を実現でき、不必要にプロセッサーの処理負荷が増大することを抑制でき、画像転送部202の処理に対する影響を抑制できる。
また、画像処理時間データ出力間隔ごとに、フレームレート調整処理が行われて、取得フレームレートが設定される。このため、端末装置10とプロジェクター100との通信状態や、端末装置10で起動する他のプログラムによるプロセッサーの使用の状況等に応じて、送信フレームレートが変化する場合であっても、定期的に行われるフレームレート調整処理により、送信フレームレートの変化に応じて、取得フレームレートの値を動的に設定できる。
以上説明したように、本実施形態に係る端末装置10(画像供給装置)は、画像データを取得する画像取得部201と、画像取得部201が取得した画像データを送信する画像転送部202と、を備え、画像転送部202は、画像処理時間データJ1(画像転送部202の処理能力に関する情報)を画像取得部201へ出力し、画像取得部201は、画像処理時間データJ1に基づいて、取得フレームレート(画像データを画像転送部202へ出力する頻度)を決定する。
この構成によれば、画像取得部201は、画像転送部202の処理能力を反映した適切な取得フレームレートで画像データを画像転送部202に出力することができ、画像取得部201が、不必要に画像データの画像転送部202への出力を実行することを抑制でき、処理効率を向上できると共に、処理負荷を軽減できる。
また、本実施形態では、画像処理時間データJ1は、画像転送部202が画像データの送信に係る処理に実際に要した時間に基づく情報を含む。
この構成によれば、画像取得部201は、画像転送部202が画像データの送信に係る処理に実際に要した時間を反映して、取得フレームレートを決定することができ、取得フレームレートを適切な値とすることができる。
また、本実施形態では、画像転送部202は、所定の間隔で、画像処理時間データJ1を画像取得部201に出力し、画像取得部201は、画像処理時間データJ1の入力に応じて、取得フレームレートを決定し、決定した取得フレームレートで画像データの出力を実行する。
この構成によれば、端末装置10とプロジェクター100との通信状態や、端末装置10で起動する他のプログラムによるプロセッサーの使用の状況等に応じて、送信フレームレートが変化する場合であっても、間隔をあけて定期的に行われる取得フレームレートの決定により、送信フレームレートの変化に応じて、取得フレームレートの値を動的に設定できる。
また、本実施形態に係る端末装置10は、プロセッサーをさらに備える。そして、端末装置10のプロセッサーは、第1プログラムを実行することにより画像取得部201の機能を実現し、第1プログラムとは異なる第2プログラムを実行することにより画像転送部202の機能を実現する。
この構成によれば、第1プログラムに基づいて機能を実現する画像取得部201、及び、第2プログラムに基づいて機能を実現する画像転送部202が共通するプロセッサーを使用することに起因して、いずれか一方の機能部の処理がプロセッサーの処理負荷の増大を発生させて他方の機能部の処理に影響を与える状況下で、処理効率を向上することによって、効果的にプロセッサーの処理負荷の増大を抑制できる。
また、本実施形態に係る端末装置10は、撮影を行う撮像部40をさらに備える。画像転送部202は、撮像部40の撮影結果に基づく画像データを、撮影に応じてリアルタイムで送信する。
この構成によれば、端末装置10は、撮像部40による撮影結果に基づく画像データを撮影に応じてリアルタイムでプロジェクター100(外部の装置)に送信して、画像データに基づく画像の表示(所定の処理)を実行させることができる。
また、本実施形態では、撮像部40の撮影結果に基づく画像データを撮影に応じてリアルタイムで送信する場合に、画像転送部202は、画像転送部202の処理能力に関する情報を画像取得部201へ出力する処理を行うと共に、画像取得部201は、画像転送部202の処理能力に関する情報に基づいて、画像データを画像転送部202へ出力する頻度を決定する処理を行う。
この構成によれば、撮像部40の撮影に係る処理は、処理負荷が大きいことを踏まえ、処理負荷の増大の抑制を効果的に実現できる。
また、本実施形態に係る端末装置10は、動作モードを切り替えるモード切替部203をさらに備える。モード切替部203は、動作モードを、撮像部40の撮影結果に基づく画像データ以外の画像データを送信する第1モード、又は、撮像部40の撮影結果に基づく画像データを撮影に応じてリアルタイムで送信する第2モードに切り替える。
この構成によれば、撮像部40の撮影に係る処理は、処理負荷が大きいことを踏まえ、適切なタイミングで動作モードを切り替えて、処理負荷の増大の抑制を効果的に実現できる。
なお、上述した実施の形態は、あくまでも本発明の一態様を示すものであり、本発明の範囲内で任意に変形および応用が可能である。
例えば、上述した実施形態では、画像転送部202が、処理平均時間を算出する構成であった。しかしながら、画像取得部201が、画像転送部202から必要な情報を取得して、処理平均時間を算出する構成でもよい。
また、上述した実施形態では、光源が発した光を変調する光変調装置112として、RGBの各色に対応した3枚の透過型の液晶パネルを用いた構成を例に挙げて説明したが、本発明はこれに限定されるものではない。例えば、3枚の反射型液晶パネルを用いた構成としてもよいし、1枚の液晶パネルとカラーホイールを組み合わせた方式を用いてもよい。或いは、3枚のデジタルミラーデバイス(DMD)を用いた方式、1枚のデジタルミラーデバイスとカラーホイールを組み合わせたDMD方式等により構成してもよい。光変調装置として1枚のみの液晶パネルまたはDMDを用いる場合には、クロスダイクロイックプリズム等の合成光学系に相当する部材は不要である。また、液晶パネルおよびDMD以外にも、光源が発した光を変調可能な光変調装置であれば問題なく採用できる。また、光変調装置112として、LCOS(Liquid crystal on silicon, LCoSは登録商標)等の反射型の液晶表示素子を用いてもよい。
また、上述した実施形態では、プロジェクター100として、スクリーンSCの前方から投射するフロントプロジェクション型のプロジェクター100を示したが、本発明はこれに限定されない。
また、上述した端末装置10の制御方法(画像供給装置の制御方法)が、端末装置10が備えるコンピューター、又は、端末装置10に接続される外部装置を用いて実現される場合、本発明を、当該方法を実現するためにコンピューターが実行するプログラム、このプログラムをコンピューターで読み取り可能に記録した記録媒体、或いは、このプログラムを伝送する伝送媒体の態様で構成することも可能である。上記記録媒体としては、磁気的、光学的記録媒体又は半導体メモリーデバイスを用いることができる。具体的には、フレキシブルディスク、HDD(Hard Disk Drive)、CD−ROM(Compact Disk Read Only Memory)、DVD(Digital Versatile Disk)、Blu−ray(登録商標)Disc、光磁気ディスク、フラッシュメモリー、カード型記録媒体等の可搬型の、或いは固定式の記録媒体が挙げられる。また、上記記録媒体は、端末装置10や、端末装置10に接続された外部装置が備える内部記憶装置であるRAM(Random Access Memory)、ROM(Read Only Memory)、HDD等の不揮発性記憶装置でもよい。
また、図2〜図3に示した各機能部は機能的構成を示すものであって、具体的な実装形態は特に制限されない。つまり、必ずしも各機能部に個別に対応するハードウェアが実装される必要はなく、一つのプロセッサーがプログラムを実行することで複数の機能部の機能を実現する構成とすることも勿論可能である。また、上記実施形態においてソフトウェアで実現される機能の一部をハードウェアで実現してもよく、あるいは、ハードウェアで実現される機能の一部をソフトウェアで実現してもよい。その他、端末装置10、プロジェクター100の他の各部の具体的な細部構成についても、本発明の趣旨を逸脱しない範囲で任意に変更可能である。
1…画像投写システム、10…端末装置(画像供給装置)、20…制御部、30…端末記憶部、40…撮像部、50…端末通信部、70…タッチスクリーン、80…スイッチ部、100…プロジェクター、114…投写開口部、201…画像取得部、201a…フレームレート調整部、202…画像転送部、202a…処理時間計測部、203…モード切替部。

Claims (7)

  1. 外部の装置に画像データを送信する通信部と、
    撮影を行う撮像部と、
    画像データを取得する画像取得部と、
    前記画像取得部が取得した前記画像データを、前記通信部から前記外部の装置に送信する画像転送部と、
    前記撮像部の撮影結果に基づく前記画像データ以外の画像データを前記通信部から送信する第1モード、および、前記画像取得部が前記撮像部の撮影結果に基づく前記画像データを撮影に応じてリアルタイムで取得して前記通信部から送信する第2モードと、を切り替えるモード切替部と、を備え、
    前記第1モードでは、前記画像取得部は所定の頻度で前記画像データを前記画像転送部に出力し、
    前記第2モードでは、前記画像転送部前記画像転送部の処理能力に関する情報を前記画像取得部へ出力し、前記画像取得部、前記画像転送部の処理能力に関する情報に基づいて、前記画像データを前記画像転送部へ出力する頻度を決定する調整処理を実行する
    ことを特徴とする画像供給装置。
  2. 前記画像転送部の処理能力に関する情報は、前記画像転送部が前記画像データの送信に係る処理に実際に要した時間に基づく情報であることを特徴とする請求項1に記載の画像供給装置。
  3. 前記画像転送部は、所定の間隔で、前記画像転送部の処理能力に関する情報を前記画像取得部に出力し、
    前記画像取得部は、前記画像転送部の処理能力に関する情報の入力に応じて、前記画像データを前記画像転送部へ出力する頻度を決定し、決定した頻度で前記画像データの出力を実行することを特徴とする請求項1又は2に記載の画像供給装置。
  4. プロセッサーを有する制御部え、
    前記制御部は、前記プロセッサー第1プログラムを実行することにより前記画像取得部の機能を実現し、前記第1プログラムとは異なる第2プログラムを実行することにより前記画像転送部の機能を実現することを特徴とする請求項1乃至3のいずれか1項に記載の画像供給装置。
  5. 前記撮像部の撮影結果に基づく前記画像データを撮影に応じてリアルタイムで送信する場合に、前記画像転送部は、前記画像転送部の処理能力に関する情報を前記画像取得部へ出力する処理を行うと共に、前記画像取得部は、前記画像転送部の処理能力に関する情報に基づいて、前記画像データを前記画像転送部へ出力する頻度を決定する処理を行うことを特徴とする請求項1乃至4のいずれか1項に記載の画像供給装置。
  6. 外部の装置に画像データを送信する通信部と、撮影を行う撮像部と、画像データを取得する画像取得部と、前記画像取得部が取得した前記画像データを前記通信部から前記外部の装置に送信する画像転送部と、モード切替部と、を備える画像供給装置の制御方法であって、
    前記モード切替部により、前記撮像部の撮影結果に基づく前記画像データ以外の画像データを前記通信部から送信する第1モード、および、前記画像取得部が前記撮像部の撮影結果に基づく前記画像データを撮影に応じてリアルタイムで取得して前記通信部から送信する第2モードと、を切り替え、
    前記第1モードでは、前記画像取得部は所定の頻度で前記画像データを前記画像転送部に出力し、
    前記第2モードでは、前記画像転送部により前記画像転送部の処理能力に関する情報を前記画像取得部へ出力し、前記画像取得部により前記画像転送部の処理能力に関する情報に基づいて前記画像データを前記画像転送部へ出力する頻度を決定する調整処理を実行する
    ことを特徴とする画像供給装置の制御方法。
  7. 外部の装置に画像データを送信する通信部と、撮影を行う撮像部と、を備える画像供給装置を制御する制御部により実行されるプログラムであって、
    前記制御部を、
    画像データを取得する画像取得部、前記画像取得部が取得した前記画像データを前記通信部から前記外部の装置に送信する画像転送部、及び、前記撮像部の撮影結果に基づく前記画像データ以外の画像データを前記通信部から送信する第1モード、および、前記画像取得部が前記撮像部の撮影結果に基づく前記画像データを撮影に応じてリアルタイムで取得して前記通信部から送信する第2モードと、を切り替えるモード切替部として機能させ、
    前記第1モードでは、前記画像転送部に、所定の頻度で前記画像データを前記画像転送部に出力させ、
    前記第2モードでは、前記画像転送部前記画像転送部の処理能力に関する情報を前記画像取得部に出力、前記画像取得部前記画像転送部の処理能力に関する情報に基づいて前記画像データを前記画像転送部へ出力する頻度を決定する調整処理を実行する
    ことを特徴とするプログラム。
JP2016089736A 2016-04-27 2016-04-27 画像供給装置、画像供給装置の制御方法、及び、プログラム Active JP6701925B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016089736A JP6701925B2 (ja) 2016-04-27 2016-04-27 画像供給装置、画像供給装置の制御方法、及び、プログラム
US15/489,892 US10249224B2 (en) 2016-04-27 2017-04-18 Image supply device, method of controlling image supply device, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016089736A JP6701925B2 (ja) 2016-04-27 2016-04-27 画像供給装置、画像供給装置の制御方法、及び、プログラム

Publications (2)

Publication Number Publication Date
JP2017199211A JP2017199211A (ja) 2017-11-02
JP6701925B2 true JP6701925B2 (ja) 2020-05-27

Family

ID=60159034

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016089736A Active JP6701925B2 (ja) 2016-04-27 2016-04-27 画像供給装置、画像供給装置の制御方法、及び、プログラム

Country Status (2)

Country Link
US (1) US10249224B2 (ja)
JP (1) JP6701925B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6747025B2 (ja) * 2016-04-13 2020-08-26 セイコーエプソン株式会社 表示システム、表示装置、及び、表示システムの制御方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009229924A (ja) 2008-03-24 2009-10-08 Casio Comput Co Ltd 投影装置、投影方法及びプログラム
JP5522381B2 (ja) 2010-03-15 2014-06-18 セイコーエプソン株式会社 表示装置、端末装置、表示システム、プログラム、情報記憶媒体、表示方法および画像変更方法
JP2013097328A (ja) 2011-11-04 2013-05-20 Ricoh Co Ltd 画像表示装置、画像表示方法およびプログラム
JP6193180B2 (ja) 2014-06-05 2017-09-06 株式会社 日立産業制御ソリューションズ プレゼンテーション用端末及びプレゼンテーション方法

Also Published As

Publication number Publication date
US20170316726A1 (en) 2017-11-02
US10249224B2 (en) 2019-04-02
JP2017199211A (ja) 2017-11-02

Similar Documents

Publication Publication Date Title
JP6624807B2 (ja) 画像投射装置およびプログラム
JP2013156324A (ja) プロジェクター、および、プロジェクターによる画像投射方法
US9565408B2 (en) Projection apparatus, geometric correction adjustment method, and storage medium storing codes for geometric correction adjustment
JP2004274283A (ja) 投影システム、及び投影装置、画像供給装置、プログラム
US20210168341A1 (en) Control method for projector and projector
EP1523177B1 (en) Projecting apparatus with shooting function
US10015457B2 (en) Projector and control method with a starting reference position in a lower part of a target image
US10536627B2 (en) Display apparatus, method of controlling display apparatus, document camera, and method of controlling document camera
JP6834258B2 (ja) 表示装置、表示システム及び表示装置の制御方法
JP6701925B2 (ja) 画像供給装置、画像供給装置の制御方法、及び、プログラム
JP2019144447A (ja) 画像表示装置、及び画像表示装置の制御方法
JP2017191189A (ja) 表示システム、表示装置、及び、表示システムの制御方法
JP2019148628A (ja) 表示装置、及び、表示装置の制御方法
JP6766716B2 (ja) 情報処理装置、画像表示プログラム、画像表示方法および表示システム
JP5267833B2 (ja) 画像投影装置
JP2023077506A (ja) 表示システム、及び表示システムの制御方法
JP6464834B2 (ja) 表示装置及び表示方法
JP6347126B2 (ja) プロジェクター、及び、プロジェクターの制御方法
JP2021105642A (ja) 表示システムの制御方法、及び表示システム
JP6719946B2 (ja) 表示装置
US20110075056A1 (en) Projection Display Apparatus
JP2022100661A (ja) プロジェクターの制御方法、プロジェクター、及び画像投射システム
JP2020004040A (ja) 投写装置、投写装置の制御方法、プログラムおよび記憶媒体
JP2024082769A (ja) 画像表示システム、画像供給装置、及び表示装置
JP5387634B2 (ja) 投影制御装置及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190326

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200204

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200402

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200407

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200420

R150 Certificate of patent or registration of utility model

Ref document number: 6701925

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150