JP2016208273A - Video display system - Google Patents

Video display system Download PDF

Info

Publication number
JP2016208273A
JP2016208273A JP2015087763A JP2015087763A JP2016208273A JP 2016208273 A JP2016208273 A JP 2016208273A JP 2015087763 A JP2015087763 A JP 2015087763A JP 2015087763 A JP2015087763 A JP 2015087763A JP 2016208273 A JP2016208273 A JP 2016208273A
Authority
JP
Japan
Prior art keywords
optical element
holographic optical
element surface
imaging device
display system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015087763A
Other languages
Japanese (ja)
Other versions
JP6424133B2 (en
Inventor
真治 木村
Shinji Kimura
真治 木村
美木子 中西
Mikiko Nakanishi
美木子 中西
▲高▼橋 和彦
和彦 ▲高▼橋
Kazuhiko Takahashi
油川 雄司
Yuji Yukawa
雄司 油川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Docomo Inc
Original Assignee
NTT Docomo Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NTT Docomo Inc filed Critical NTT Docomo Inc
Priority to JP2015087763A priority Critical patent/JP6424133B2/en
Publication of JP2016208273A publication Critical patent/JP2016208273A/en
Application granted granted Critical
Publication of JP6424133B2 publication Critical patent/JP6424133B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

PROBLEM TO BE SOLVED: To provide a video display system for a television telephone or television conference system by which a user can naturally communicate without being conscious of devices.SOLUTION: An imaging device 10-1 images reflection light from a first holographic optical element surface 11-1 to transmit the imaged light to a projection device 13-2 on the call reception side. A second holographic optical element surface 12-1 is arranged in parallel with the first holographic optical element surface 11-1. A projection device 13-1 is arranged outside a cone having its apex and its side surface including the first holographic optical element surface 11-1's boundary, where as the apex's position is taken a position T of a virtual imaging device at the time of assuming that light having formed an image on an imaging element of the imaging device 10-1 penetrates both holographic optical element surfaces without being reflected or deflected and forms an image on an imaging element of the imaging device; and projects video imaged by an imaging device 10-2 on the call reception side on the second holographic optical element surface 12-1.SELECTED DRAWING: Figure 1

Description

本発明は、テレビ電話やテレビ会議システムに利用される映像表示システムに関する。   The present invention relates to a video display system used for a video phone or a video conference system.

昨今、テレビ電話システム、テレビ会議システムが普及しつつある(例えば、非特許文献1、非特許文献2)。非特許文献1のテレビ電話システムは、送話側(受話側)の映像、音声をテレビ用カメラ、マイクで収録して、インターネットに接続可能なテレビと専用のアプリケーションとを用いて受話側(送話側)で再生することにより実現される。非特許文献2のテレビ会議システムも同様に、送話側(受話側)の映像、音声を専用のカメラ、マイクで収録して受話側(送話側)のモニタやプロジェクタで再生することでテレビ会議を実現する。   In recent years, videophone systems and video conference systems are spreading (for example, Non-Patent Document 1 and Non-Patent Document 2). The videophone system of Non-Patent Document 1 records video and audio on the transmitting side (receiving side) with a TV camera and microphone, and uses the TV that can be connected to the Internet and a dedicated application (sending side). Realized by playing on the talk side). Similarly, in the video conference system of Non-Patent Document 2, video and audio on the transmitting side (receiving side) are recorded by a dedicated camera and microphone and reproduced on the receiving side (transmitting side) monitor and projector. Realize the meeting.

パナソニック株式会社、”デジタル家電の知らないコトいっぱい! テレビの楽しみ方 大きな画面で家族や友人とテレビ電話を楽しもう!”、[online]、平成26年9月3日、パナソニック株式会社、[平成27年4月7日検索]、インターネット<URL:http://panasonic.jp/blog/viera/2014/09/post-4.html>Panasonic Corporation, "A lot of things that digital home appliances don't know! How to enjoy TV! Enjoy videophones with family and friends on a big screen!", [Online], Panasonic Corporation, September 3, 2014, [Heisei Era Search on April 7, 2015], Internet <URL: http: //panasonic.jp/blog/viera/2014/09/post-4.html> パナソニック株式会社、”パナソニックのテレビ会議・ビデオ会議システム−HDコム”、[online]、パナソニック株式会社、[平成27年4月7日検索]、インターネット<URL: http://panasonic.biz/com/visual/>Panasonic Corporation, “Panasonic's Video Conferencing / Video Conferencing System-HD Com”, [online], Panasonic Corporation, [April 7, 2015 Search], Internet <URL: http://panasonic.biz/com / visual />

上述のテレビ電話システムや、テレビ会議システムではモニタ、テレビ、スクリーンなどに映る受話者(送話者)の顔の位置と、送話者(受話者)の顔面を撮影するカメラの位置とがずれているために、受話者と送話者の視線が合わず、受話者と送話者の自然なコミュニケーションの妨げとなっていた。そこで本発明では、利用者がデバイスを意識せずに自然にコミュニケーションできるテレビ電話やテレビ会議システムを実現する映像表示システムを提供することを目的とする。   In the above-described videophone system and videoconferencing system, the position of the face of the receiver (speaker) reflected on the monitor, TV, screen, etc. is not aligned with the position of the camera that captures the face of the speaker (listener). As a result, the line of sight of the receiver and the transmitter is not aligned, which hinders natural communication between the receiver and the transmitter. Therefore, an object of the present invention is to provide a video display system that realizes a videophone or a video conference system in which a user can communicate naturally without being aware of the device.

本発明の映像表示システムは、第1のホログラフィック光学素子面と、撮影装置と、第2のホログラフィック光学素子面と、投影装置を含む。   The video display system of the present invention includes a first holographic optical element surface, a photographing device, a second holographic optical element surface, and a projection device.

撮影装置は、第1のホログラフィック光学素子面からの反射光を撮影して受話側の投影装置に送信する。第2のホログラフィック光学素子面は、第1のホログラフィック光学素子面と平行に配置される。撮影装置の撮像素子上で結像した光が反射および屈折せずに第1、第2のホログラフィック光学素子面を透過して、仮想の撮影装置の撮像素子上で結像するものと仮定した場合の仮想の撮影装置の位置を表す点を点Tと定義し、投影装置は、点Tを頂点とし第1のホログラフィック光学素子面の境界をその側面に含む錐体の外側に配置され、受話側の撮影装置にて撮影された映像を第2のホログラフィック光学素子面に投影する。   The photographing apparatus photographs the reflected light from the first holographic optical element surface and transmits it to the receiving-side projection apparatus. The second holographic optical element surface is disposed in parallel with the first holographic optical element surface. It is assumed that the light imaged on the imaging device of the imaging device passes through the first and second holographic optical element surfaces without being reflected and refracted, and forms an image on the imaging device of the virtual imaging device. A point representing the position of the virtual imaging device in the case is defined as a point T, and the projection device is arranged outside the cone including the boundary of the first holographic optical element surface on the side surface with the point T as a vertex, An image photographed by the photographing device on the receiving side is projected onto the second holographic optical element surface.

本発明の映像表示システムによれば、利用者がデバイスを意識せずに自然にコミュニケーションできるテレビ電話やテレビ会議システムを実現することができる。   According to the video display system of the present invention, it is possible to realize a videophone or a video conference system in which a user can communicate naturally without being aware of the device.

実施例1の映像表示システムの構成を示す概略斜視図。1 is a schematic perspective view illustrating a configuration of a video display system according to Embodiment 1. FIG. 実施例1の映像表示システムの構成を示す概略側面図。1 is a schematic side view showing a configuration of a video display system according to Embodiment 1. FIG. 実施例1の映像表示システムの動作を示すフローチャート。3 is a flowchart illustrating the operation of the video display system according to the first embodiment. 実施例1の映像表示システムの第1HOE面と第2HOE面の波長毎の反射率を異ならせた例を説明する図。The figure explaining the example which varied the reflectance for every wavelength of the 1st HOE surface of the video display system of Example 1, and the 2nd HOE surface.

以下、本発明の実施の形態について、詳細に説明する。なお、同じ機能を有する構成部には同じ番号を付し、重複説明を省略する。   Hereinafter, embodiments of the present invention will be described in detail. In addition, the same number is attached | subjected to the structure part which has the same function, and duplication description is abbreviate | omitted.

以下、図1、図2、図3を参照して実施例1の映像表示システムの構成、および動作を説明する。図1は、本実施例の映像表示システム1の構成を示す概略斜視図である。図2は、本実施例の映像表示システム1の構成を示す概略側面図である。図3は、本実施例の映像表示システム1の動作を示すフローチャートである。本実施例の映像表示システム1は受話側と送話側に同じ構成要件を備える。以下、利用者9−1と利用者9−2が本システムを利用して対話する場面を前提に説明を進める。   Hereinafter, the configuration and operation of the video display system according to the first embodiment will be described with reference to FIGS. 1, 2, and 3. FIG. 1 is a schematic perspective view showing a configuration of a video display system 1 of the present embodiment. FIG. 2 is a schematic side view showing the configuration of the video display system 1 of the present embodiment. FIG. 3 is a flowchart showing the operation of the video display system 1 of the present embodiment. The video display system 1 of the present embodiment has the same configuration requirements on the receiver side and the transmitter side. Hereinafter, the description will be made on the assumption that the user 9-1 and the user 9-2 interact using the present system.

本実施例の映像表示システム1は、利用者9−1が利用する設備として撮影装置10−1と、第1のホログラフィック光学素子面11−1(以下、第1HOE面11−1ともいう)と、第2のホログラフィック光学素子面12−1(以下、第2HOE面12−1ともいう)と、投影装置13−1を含む。また本実施例の映像表示システム1は、利用者9−2が利用する設備として上述と同様の撮影装置10−2と、第1のホログラフィック光学素子面11−2(以下、第1HOE面11−2ともいう)と、第2のホログラフィック光学素子面12−2(以下、第2HOE面12−2ともいう)と、投影装置13−2を含む。なお図示を省略したが、映像表示システム1には撮影装置10−1(10−2)と、投影装置13−1(13−2)を制御する制御装置(典型的にはコンピュータ)を含んでもよいし、撮影装置10−1(10−2)、投影装置13−1(13−2)の何れかに本システムを制御する機能が組み込まれていてもよい。なお上述したように利用者9−2側の設備は利用者9−1側の設備と全く同じであるため、利用者9−2側の設備の説明は適宜省略し、主に利用者9−1側の設備について説明する。   The video display system 1 of the present embodiment includes an imaging device 10-1 and a first holographic optical element surface 11-1 (hereinafter also referred to as a first HOE surface 11-1) as equipment used by the user 9-1. And a second holographic optical element surface 12-1 (hereinafter also referred to as a second HOE surface 12-1) and a projection device 13-1. In addition, the video display system 1 according to the present embodiment includes an imaging device 10-2 similar to the above as equipment used by the user 9-2 and a first holographic optical element surface 11-2 (hereinafter referred to as a first HOE surface 11). 2), a second holographic optical element surface 12-2 (hereinafter also referred to as a second HOE surface 12-2), and a projection device 13-2. Although not shown, the video display system 1 may include a photographing device 10-1 (10-2) and a control device (typically a computer) that controls the projection device 13-1 (13-2). Alternatively, a function for controlling the present system may be incorporated in any of the imaging device 10-1 (10-2) and the projection device 13-1 (13-2). Since the equipment on the user 9-2 side is exactly the same as the equipment on the user 9-1 side as described above, the explanation of the equipment on the user 9-2 side is omitted as appropriate, and the user 9-side is mainly used. The equipment on the first side will be described.

図1に示すように、第1HOE面11−1は例えば横長の長方形の面とすることができる。以下の説明では、第1HOE面11−1の四つの頂点を利用者9−1からみて左上の頂点から順に時計回りにV1、V2、V3、V4と呼ぶ。第1HOE面11−1はこれ以外の形状、例えば円形、楕円形の面などであっても良い。   As shown in FIG. 1, the first HOE surface 11-1 can be a horizontally long rectangular surface, for example. In the following description, the four vertices of the first HOE surface 11-1 are referred to as V1, V2, V3, and V4 in the clockwise order from the top left vertex when viewed from the user 9-1. The first HOE surface 11-1 may have a shape other than this, for example, a circular or elliptical surface.

第1HOE面11−1は入射光を所定の角度に反射、集光する(S1)。利用者9−1から発せられる光のうち、所定の角度で第1HOE面11−1に入射した光の所定の波長成分は、選択的に第1HOE面11−1上で反射し、撮影装置10−1のレンズに集光される。この光の軌跡を破線で表した。なお撮影装置10−1は、利用者9−1の視界を妨げず、利用者9−2が観察する映像に映り込まないように、利用者9−1の頭上、例えば天井付近などに設置される。   The first HOE surface 11-1 reflects and collects incident light at a predetermined angle (S1). Of the light emitted from the user 9-1, a predetermined wavelength component of light incident on the first HOE surface 11-1 at a predetermined angle is selectively reflected on the first HOE surface 11-1, and the photographing apparatus 10. -1 is focused on the lens. The trajectory of this light is represented by a broken line. Note that the photographing device 10-1 is installed above the user 9-1, for example, near the ceiling, so as not to interfere with the field of view of the user 9-1 and to be reflected in the video observed by the user 9-2. The

前述したように第1HOE面11−1はホログラフィック光学素子(ホログラム)である。ホログラムには波面再現性、波長選択性があることが知られている。波面再現性とは、ホログラム露光時の光の経路を再現する性質のことである。波長選択性とは、ホログラム露光時の波長光のみを屈折、反射し、それ以外の波長光については透過させる性質のことである。従って、第1HOE面11−1の反射特性は、入射光の向きや波長成分を選択するように設計することができる。第1HOE面11−1の反射特性を適切に設計することにより、撮影装置10−1の撮像素子上で利用者9−1やその周辺の像を結像させることができる。撮影装置10−1は、第1HOE面11−1からの反射光を撮影し、受話側の投影装置である投影装置13−2に送信する(S2)。第2HOE面12−1は、第1HOE面11−1と平行に配置される。図1に示すように、第2HOE面12−1は第1HOE面11−1よりも、利用者からみて奥側に配置することができる。図1の例に限らず、第2HOE面12−1を利用者からみて手前側に配置してもよい。第2HOE面12−1は第1HOE面11−1と同じように、横長の長方形の面とすることができるし、これ以外の形状、例えば円形、楕円形、あるいはそれ以外の形状の面であっても良い。第2HOE面12−1は、一般的には第1HOE面11−1と同程度のサイズ、形状とされるが、これに限らず、例えば第1HOE面12−1よりも大きなサイズとしても良いし、第1HOE面12−1と異なる形状としても良い。第2HOE面12−1は、第1HOE面11−1と同様に入射光の向きや波長成分を選択して反射するように設計されている。投影装置13−1は、撮影装置10−2が撮影した映像を受信する。投影装置13−1は、第2HOE面12−1に、撮影装置10−2から受信した映像を投影する(S3)。利用者9−1は、投影装置13−1が第2HOE面12−1に投影した像(例えば利用者9−2の像P−2や利用者9-2の周辺環境)を視認することができる。なお、第2HOE面12−1は、その反射光が利用者9−1から視認でき、撮影装置10−1に入射しない方向に制御できる光学材料であればよく、ホログラフィック光学素子以外であってもよい。第2HOE面12−1は例えばフレネルレンズに代替することもできる。この場合、フレネルレンズは、入射光をレンズ設計により予め定められた角度に反射する。投影装置13−1が投影した映像光を、撮影装置10−1の方向や、投影装置13−1の方向に反射しないように制御すれば、投影装置13−1が投影した映像が撮影装置10−1に写り込まないだけではなく、利用者9−1に拡散反射(壁など)の場合に比べて明るい映像を視認させることが可能となる。   As described above, the first HOE surface 11-1 is a holographic optical element (hologram). It is known that a hologram has wavefront reproducibility and wavelength selectivity. Wavefront reproducibility is the property of reproducing the light path during hologram exposure. The wavelength selectivity is a property in which only wavelength light at the time of hologram exposure is refracted and reflected, and other wavelength light is transmitted. Therefore, the reflection characteristic of the first HOE surface 11-1 can be designed so as to select the direction and wavelength component of the incident light. By appropriately designing the reflection characteristics of the first HOE surface 11-1, an image of the user 9-1 and its surroundings can be formed on the imaging device of the imaging apparatus 10-1. The imaging device 10-1 captures the reflected light from the first HOE surface 11-1 and transmits it to the projection device 13-2 that is the receiving side projection device (S2). The second HOE surface 12-1 is disposed in parallel with the first HOE surface 11-1. As shown in FIG. 1, the 2nd HOE surface 12-1 can be arrange | positioned in the back | inner side seeing from a user rather than the 1st HOE surface 11-1. The second HOE surface 12-1 is not limited to the example in FIG. Similarly to the first HOE surface 11-1, the second HOE surface 12-1 may be a horizontally long rectangular surface, and may have a shape other than this, for example, a circular shape, an elliptical shape, or another shape. May be. The second HOE surface 12-1 is generally the same size and shape as the first HOE surface 11-1, but is not limited to this. For example, the second HOE surface 12-1 may be larger than the first HOE surface 12-1. The shape may be different from that of the first HOE surface 12-1. Similar to the first HOE surface 11-1, the second HOE surface 12-1 is designed to select and reflect the direction and wavelength component of incident light. The projection device 13-1 receives the video imaged by the imaging device 10-2. The projection device 13-1 projects the video received from the imaging device 10-2 onto the second HOE surface 12-1 (S3). The user 9-1 can visually recognize an image (for example, an image P-2 of the user 9-2 or a surrounding environment of the user 9-2) projected by the projection device 13-1 on the second HOE surface 12-1. it can. The second HOE surface 12-1 may be any optical material whose reflected light is visible to the user 9-1 and can be controlled in a direction not incident on the photographing apparatus 10-1, and is other than a holographic optical element. Also good. The second HOE surface 12-1 can be replaced with, for example, a Fresnel lens. In this case, the Fresnel lens reflects incident light at an angle predetermined by the lens design. If the image light projected by the projection device 13-1 is controlled so as not to be reflected in the direction of the imaging device 10-1 or the direction of the projection device 13-1, the image projected by the projection device 13-1 is captured by the imaging device 10. In addition to not being reflected in -1, it is possible for the user 9-1 to visually recognize a brighter image than in the case of diffuse reflection (such as a wall).

<投影装置13−1の配置>
投影装置13−1はシステムの利用上、妨げになりにくい位置に配置される。具体的には、投影装置13−1は、仮想の撮影装置(図中、破線で表示)の位置を表す点である点Tを頂点とし、第1HOE面11−1の境界をその側面に含む錐体(図1の例では、辺V1V2、V2V3、V3V4、V4V1をその側面に含む四角錐)の外側に配置される(図2参照)。仮想の撮影装置の位置とは、撮影装置10−1の撮像素子上で結像した光が反射および屈折せずに第1、第2HOE面11−1、12−1を透過して、仮想の撮影装置の撮像素子上で結像するものと仮定した場合の、仮想の撮影装置の位置のことである。投影装置13−1を上述の位置に配置することにより、投影装置13−1から発せられる光が第1HOE面11−1で反射して、撮影装置10−1に入射することを防止することができ、利用者9−2からみて映像が不自然な印象となることを防止することができる。
<Arrangement of Projector 13-1>
The projection device 13-1 is arranged at a position that is not likely to be obstructed in using the system. Specifically, the projection device 13-1 has a point T, which is a point representing the position of a virtual imaging device (shown by a broken line in the figure), as a vertex, and includes the boundary of the first HOE surface 11-1 on its side surface. It is arranged outside the cone (in the example of FIG. 1, a quadrangular pyramid including sides V1V2, V2V3, V3V4, V4V1 on its side surface) (see FIG. 2). The position of the virtual imaging device means that the light imaged on the imaging device of the imaging device 10-1 passes through the first and second HOE surfaces 11-1 and 12-1 without being reflected and refracted, and the virtual imaging device 10-1 This is the position of the virtual imaging device when it is assumed that an image is formed on the imaging device of the imaging device. By disposing the projection device 13-1 at the above-described position, it is possible to prevent the light emitted from the projection device 13-1 from being reflected by the first HOE surface 11-1 and entering the imaging device 10-1. It is possible to prevent the image from being unnatural when viewed from the user 9-2.

<投影装置13−1>
図1に示すように、投影装置13−1は好ましくは短焦点型のプロジェクタとする。短焦点型のプロジェクタは、超短焦点型のプロジェクタと表記される場合もある。超短焦点型のプロジェクタと呼ばれるものには、スクリーンから10cm程度の距離で映像を投影できるものも存在する。投影装置13−1に短焦点型、超短焦点型のプロジェクタを用いることにより、利用者9−1から発せられて第1HOE面11−1に入射する光と、投影装置13−1から出力されて第1HOE面11−1に入射する光(図1に光線の軌跡を二点鎖線で表した)の角度を異ならせることができる。投影装置13−1に短焦点型、超短焦点型のプロジェクタを用いることなどにより、光線の角度を異ならせることができれば、正面方向からの光(例えば入射角10度以下の所定方向からの光)については、撮影装置10−1に反射、集光し、それ以外の方向からの光はすべて透過するように、第1HOE面11−1の反射特性を設計することにより、利用者9−1およびその周辺から発せられた光と、投影装置13−1が出力した光とを良好に分別することができる。これにより、投影装置13−1の出力光が撮影装置10−1に入射して、映像の視認性を悪化させる現象を防止できる。また投影装置13−1を短焦点型、あるいは超短焦点型のプロジェクタとすれば、利用者9−1が投影面に近づいたとしても、利用者9−1が投影装置13−1と投影面の間に割り込んでしまう可能性が少なくなるため、利用者9−1によって、投影装置13−1からの出力光が遮られる可能性が少なくなる。
<Projector 13-1>
As shown in FIG. 1, the projection device 13-1 is preferably a short focus type projector. The short focus type projector may be referred to as an ultra short focus type projector. Some so-called ultra-short focus projectors can project an image at a distance of about 10 cm from a screen. By using a short focus type or ultra short focus type projector as the projection device 13-1, light emitted from the user 9-1 and incident on the first HOE surface 11-1 and output from the projection device 13-1. Thus, the angle of the light incident on the first HOE surface 11-1 (the trajectory of the light beam in FIG. 1 is represented by a two-dot chain line) can be varied. If the angle of the light beam can be varied by using a short focus type or ultra short focus type projector for the projection device 13-1, light from the front direction (for example, light from a predetermined direction with an incident angle of 10 degrees or less). ) For the user 9-1 by designing the reflection characteristics of the first HOE surface 11-1 so that the light is reflected and collected by the photographing apparatus 10-1 and all the light from other directions is transmitted. And the light emitted from the periphery and the light which the projector 13-1 output can be distinguished favorably. As a result, it is possible to prevent a phenomenon in which the output light of the projection device 13-1 enters the photographing device 10-1 and deteriorates the visibility of the video. Further, if the projection device 13-1 is a short focus type or ultra short focus type projector, even if the user 9-1 approaches the projection surface, the user 9-1 can connect the projection device 13-1 and the projection surface. Therefore, the possibility that the output light from the projection device 13-1 is blocked by the user 9-1 is reduced.

<第1、第2HOE面における波長選択>
以下、図4を参照して第1、第2HOE面における波長選択について説明する。図4は、本実施例の映像表示システム1の第1HOE面11−1と第2HOE面12−1の波長毎の反射率を異ならせた例を説明する図である。図4に実線で示すように、第1HOE面11−1と第2HOE面12−1の何れか一方の面において、波長B、G、Rを中心とする狭帯域の波長領域(それぞれ青色、緑色、赤色として視認される狭帯域の波長領域)のみで高い反射率を有するように設計し、他方の面において、波長B、G、Rをそれぞれ波長正方向にシフトした波長B、G、Rを中心とする狭帯域の波長領域(上述の青色、緑色、赤色よりも長波長側にシフトした青色、緑色、赤色として視認される狭帯域の波長領域)のみで高い反射率を有するように設計することにより、映像の品質をさらに向上させることができる。上述したように、第1HOE面11−1で反射される光と透過される光とは、その光線の向きを異ならせることにより第1HOE面11−1でフィルタリング可能であるため、撮像系と投影系の光は概ね弁別される。ここで図4に示すように、第1HOE面11−1で反射して撮影装置10−1に入射する光の三原色と第1HOE面11−1を透過して第2HOE面11−2に投影されて利用者9−1に視認される光の三原色とを異ならせることにより撮像系と投影系の光をさらに高精度に弁別することが可能となる。
<Wavelength selection on the first and second HOE surfaces>
Hereinafter, wavelength selection in the first and second HOE planes will be described with reference to FIG. FIG. 4 is a diagram illustrating an example in which the reflectance for each wavelength of the first HOE surface 11-1 and the second HOE surface 12-1 of the video display system 1 of the present embodiment is different. As shown by a solid line in FIG. 4, in any one of the first HOE surface 11-1 and the second HOE surface 12-1, a narrow-band wavelength region centering on wavelengths B 1 , G 1 , R 1 (respectively The wavelength is designed so as to have a high reflectance only in a narrow-band wavelength region visually recognized as blue, green, and red, and the wavelengths B 1 , G 1 , and R 1 are shifted in the positive wavelength direction on the other surface, respectively. Only in the narrow-band wavelength region centered on B 2 , G 2 , and R 2 (the narrow-band wavelength region visually recognized as blue, green, and red shifted to the longer wavelength side than the above-described blue, green, and red). By designing to have a high reflectance, the quality of the image can be further improved. As described above, since the light reflected and transmitted by the first HOE surface 11-1 can be filtered by the first HOE surface 11-1 by changing the direction of the light rays, the imaging system and the projection are used. System light is generally discriminated. Here, as shown in FIG. 4, the three primary colors of light reflected by the first HOE surface 11-1 and incident on the imaging apparatus 10-1 and the first HOE surface 11-1 are transmitted and projected onto the second HOE surface 11-2. Thus, the light of the imaging system and the projection system can be discriminated with higher accuracy by making the three primary colors of light visually recognized by the user 9-1 different.

図4のように反射光の三原色をシフトさせた場合には、表示映像のカラーバランスをソフトウェアで補正する必要がある。   When the three primary colors of the reflected light are shifted as shown in FIG. 4, it is necessary to correct the color balance of the displayed image by software.

<変形例>
撮影装置10−1は例えばスマートフォンのカメラとしてもよい。また、撮像系と投影系の光をさらに高精度に弁別するため、撮影装置10−1と投影装置13−1を同期させ、撮影装置10−1のレンズにシャッターを設け、撮影装置10−1の撮影タイミングと、投影装置13−1の投影タイミングを高速に切替える時分割操作を実行してもよい。すなわち、投影装置13−1による映像投影と撮影装置10−1による撮影とを所定のフレームレートで切り替えながら交互に実行してもよい。同期操作、時分割操作は、前述の制御装置が実行してもよいし、撮影装置10−1と投影装置13−1の何れかに制御機能を持たせて実行させてもよい。切替のレートを例えば120Hzとすれば、撮影と投影にそれぞれ60Hzを割り振ることができ、撮影、投影ともに十分なフレームレートを確保することができる。
<Modification>
The imaging device 10-1 may be a smartphone camera, for example. Further, in order to discriminate between the light of the imaging system and the projection system with higher accuracy, the imaging device 10-1 and the projection device 13-1 are synchronized, a shutter is provided on the lens of the imaging device 10-1, and the imaging device 10-1. A time-sharing operation for switching between the imaging timing and the projection timing of the projection device 13-1 at high speed may be executed. That is, the image projection by the projection device 13-1 and the photographing by the photographing device 10-1 may be alternately executed while switching at a predetermined frame rate. The synchronization operation and the time-sharing operation may be executed by the above-described control device, or may be executed with either the photographing device 10-1 or the projection device 13-1 having a control function. If the switching rate is set to 120 Hz, for example, 60 Hz can be allocated to shooting and projection, and a sufficient frame rate can be ensured for both shooting and projection.

<効果>
本実施例の映像表示システム1によれば、ホログラフィック光学素子を利用することにより、利用者から発せられる光をあたかも正面から撮影するかのように撮影でき、かつ相手の利用者からの映像を第1HOE面に映り込ませずに、第2HOE面上で投影して、利用者の正面に映し出すことができるため、利用者同士の視線が合わないという従来の課題を解決することができ、利用者がデバイスを意識せずに自然にコミュニケーションすることができる。また、映像の表示に投影装置を用いることにより従来のテレビ電話システム、テレビ会議システムで表示される映像よりも大画面の映像をローコストで実現することができる。
<Effect>
According to the video display system 1 of the present embodiment, by using the holographic optical element, it is possible to shoot the light emitted from the user as if shooting from the front, and to capture the video from the other user. Since it can be projected on the front of the user without being reflected on the first HOE surface, it can solve the conventional problem that the lines of sight of the users do not match. The person can communicate naturally without being aware of the device. In addition, by using a projection device for video display, it is possible to realize a video having a larger screen than a video displayed by a conventional videophone system or videoconferencing system at a low cost.

<補記>
本発明の装置は、例えば単一のハードウェアエンティティとして、キーボードなどが接続可能な入力部、液晶ディスプレイなどが接続可能な出力部、ハードウェアエンティティの外部に通信可能な通信装置(例えば通信ケーブル)が接続可能な通信部、CPU(Central Processing Unit、キャッシュメモリやレジスタなどを備えていてもよい)、メモリであるRAMやROM、ハードディスクである外部記憶装置並びにこれらの入力部、出力部、通信部、CPU、RAM、ROM、外部記憶装置の間のデータのやり取りが可能なように接続するバスを有している。また必要に応じて、ハードウェアエンティティに、CD−ROMなどの記録媒体を読み書きできる装置(ドライブ)などを設けることとしてもよい。このようなハードウェア資源を備えた物理的実体としては、汎用コンピュータなどがある。
<Supplementary note>
The apparatus of the present invention includes, for example, a single hardware entity as an input unit to which a keyboard or the like can be connected, an output unit to which a liquid crystal display or the like can be connected, and a communication device (for example, a communication cable) capable of communicating outside the hardware entity. Can be connected to a communication unit, a CPU (Central Processing Unit, may include a cache memory or a register), a RAM or ROM that is a memory, an external storage device that is a hard disk, and an input unit, an output unit, or a communication unit thereof , A CPU, a RAM, a ROM, and a bus connected so that data can be exchanged between the external storage devices. If necessary, the hardware entity may be provided with a device (drive) that can read and write a recording medium such as a CD-ROM. A physical entity having such hardware resources includes a general-purpose computer.

ハードウェアエンティティの外部記憶装置には、上述の機能を実現するために必要となるプログラムおよびこのプログラムの処理において必要となるデータなどが記憶されている(外部記憶装置に限らず、例えばプログラムを読み出し専用記憶装置であるROMに記憶させておくこととしてもよい)。また、これらのプログラムの処理によって得られるデータなどは、RAMや外部記憶装置などに適宜に記憶される。   The external storage device of the hardware entity stores a program necessary for realizing the above functions and data necessary for processing the program (not limited to the external storage device, for example, reading a program) It may be stored in a ROM that is a dedicated storage device). Data obtained by the processing of these programs is appropriately stored in a RAM or an external storage device.

ハードウェアエンティティでは、外部記憶装置(あるいはROMなど)に記憶された各プログラムとこの各プログラムの処理に必要なデータが必要に応じてメモリに読み込まれて、適宜にCPUで解釈実行・処理される。その結果、CPUが所定の機能(上記、…部、…手段などと表した各構成要件)を実現する。   In the hardware entity, each program stored in an external storage device (or ROM or the like) and data necessary for processing each program are read into a memory as necessary, and are interpreted and executed by a CPU as appropriate. . As a result, the CPU realizes a predetermined function (respective component requirements expressed as the above-described unit, unit, etc.).

本発明は上述の実施形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲で適宜変更が可能である。また、上記実施形態において説明した処理は、記載の順に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されるとしてもよい。   The present invention is not limited to the above-described embodiment, and can be appropriately changed without departing from the spirit of the present invention. In addition, the processing described in the above embodiment may be executed not only in time series according to the order of description but also in parallel or individually as required by the processing capability of the apparatus that executes the processing. .

既述のように、上記実施形態において説明したハードウェアエンティティ(本発明の装置)における処理機能をコンピュータによって実現する場合、ハードウェアエンティティが有すべき機能の処理内容はプログラムによって記述される。そして、このプログラムをコンピュータで実行することにより、上記ハードウェアエンティティにおける処理機能がコンピュータ上で実現される。   As described above, when the processing functions in the hardware entity (the apparatus of the present invention) described in the above embodiments are realized by a computer, the processing contents of the functions that the hardware entity should have are described by a program. Then, by executing this program on a computer, the processing functions in the hardware entity are realized on the computer.

この処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体としては、例えば、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリ等どのようなものでもよい。具体的には、例えば、磁気記録装置として、ハードディスク装置、フレキシブルディスク、磁気テープ等を、光ディスクとして、DVD(Digital Versatile Disc)、DVD−RAM(Random Access Memory)、CD−ROM(Compact Disc Read Only Memory)、CD−R(Recordable)/RW(ReWritable)等を、光磁気記録媒体として、MO(Magneto-Optical disc)等を、半導体メモリとしてEEP−ROM(Electronically Erasable and Programmable-Read Only Memory)等を用いることができる。   The program describing the processing contents can be recorded on a computer-readable recording medium. As the computer-readable recording medium, for example, any recording medium such as a magnetic recording device, an optical disk, a magneto-optical recording medium, and a semiconductor memory may be used. Specifically, for example, as a magnetic recording device, a hard disk device, a flexible disk, a magnetic tape or the like, and as an optical disk, a DVD (Digital Versatile Disc), a DVD-RAM (Random Access Memory), a CD-ROM (Compact Disc Read Only). Memory), CD-R (Recordable) / RW (ReWritable), etc., magneto-optical recording medium, MO (Magneto-Optical disc), etc., semiconductor memory, EEP-ROM (Electronically Erasable and Programmable-Read Only Memory), etc. Can be used.

また、このプログラムの流通は、例えば、そのプログラムを記録したDVD、CD−ROM等の可搬型記録媒体を販売、譲渡、貸与等することによって行う。さらに、このプログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することにより、このプログラムを流通させる構成としてもよい。   The program is distributed by selling, transferring, or lending a portable recording medium such as a DVD or CD-ROM in which the program is recorded. Furthermore, the program may be distributed by storing the program in a storage device of the server computer and transferring the program from the server computer to another computer via a network.

このようなプログラムを実行するコンピュータは、例えば、まず、可搬型記録媒体に記録されたプログラムもしくはサーバコンピュータから転送されたプログラムを、一旦、自己の記憶装置に格納する。そして、処理の実行時、このコンピュータは、自己の記録媒体に格納されたプログラムを読み取り、読み取ったプログラムに従った処理を実行する。また、このプログラムの別の実行形態として、コンピュータが可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することとしてもよく、さらに、このコンピュータにサーバコンピュータからプログラムが転送されるたびに、逐次、受け取ったプログラムに従った処理を実行することとしてもよい。また、サーバコンピュータから、このコンピュータへのプログラムの転送は行わず、その実行指示と結果取得のみによって処理機能を実現する、いわゆるASP(Application Service Provider)型のサービスによって、上述の処理を実行する構成としてもよい。なお、本形態におけるプログラムには、電子計算機による処理の用に供する情報であってプログラムに準ずるもの(コンピュータに対する直接の指令ではないがコンピュータの処理を規定する性質を有するデータ等)を含むものとする。   A computer that executes such a program first stores, for example, a program recorded on a portable recording medium or a program transferred from a server computer in its own storage device. When executing the process, the computer reads a program stored in its own recording medium and executes a process according to the read program. As another execution form of the program, the computer may directly read the program from a portable recording medium and execute processing according to the program, and the program is transferred from the server computer to the computer. Each time, the processing according to the received program may be executed sequentially. Also, the program is not transferred from the server computer to the computer, and the above-described processing is executed by a so-called ASP (Application Service Provider) type service that realizes the processing function only by the execution instruction and result acquisition. It is good. Note that the program in this embodiment includes information that is used for processing by an electronic computer and that conforms to the program (data that is not a direct command to the computer but has a property that defines the processing of the computer).

また、この形態では、コンピュータ上で所定のプログラムを実行させることにより、ハードウェアエンティティを構成することとしたが、これらの処理内容の少なくとも一部をハードウェア的に実現することとしてもよい。   In this embodiment, a hardware entity is configured by executing a predetermined program on a computer. However, at least a part of these processing contents may be realized by hardware.

Claims (6)

第1のホログラフィック光学素子面と、
前記第1のホログラフィック光学素子面からの反射光を撮影して受話側の投影装置に送信する撮影装置と、
前記第1のホログラフィック光学素子面と平行に配置された第2のホログラフィック光学素子面と、
前記撮影装置の撮像素子上で結像した光が反射および屈折せずに前記第1、第2のホログラフィック光学素子面を透過して、仮想の撮影装置の撮像素子上で結像するものと仮定した場合の前記仮想の撮影装置の位置を表す点を点Tと定義し、
前記点Tを頂点とし前記第1のホログラフィック光学素子面の境界をその側面に含む錐体の外側に配置され、前記受話側の撮影装置にて撮影された映像を前記第2のホログラフィック光学素子面に投影する投影装置と、
を含む映像表示システム。
A first holographic optical element surface;
A photographing device for photographing reflected light from the first holographic optical element surface and transmitting it to a receiving-side projection device;
A second holographic optical element surface disposed parallel to the first holographic optical element surface;
The light imaged on the imaging device of the imaging device passes through the first and second holographic optical element surfaces without being reflected and refracted, and forms an image on the imaging device of the virtual imaging device. A point representing the position of the virtual photographing device when assumed is defined as a point T,
The second holographic optics is an image captured by the receiving device, which is arranged outside the cone having the point T as an apex and including the boundary of the first holographic optical element surface on its side surface. A projection device for projecting onto the element surface;
Including video display system.
第1のホログラフィック光学素子面と、
前記第1のホログラフィック光学素子面からの反射光を撮影して受話側の投影装置に送信する撮影装置と、
前記第1のホログラフィック光学素子面と平行に配置されたフレネルレンズと、
前記撮影装置の撮像素子上で結像した光が反射および屈折せずに前記第1のホログラフィック光学素子面、前記フレネルレンズを透過して、仮想の撮影装置の撮像素子上で結像するものと仮定した場合の前記仮想の撮影装置の位置を表す点を点Tと定義し、
前記点Tを頂点とし前記第1のホログラフィック光学素子面の境界をその側面に含む錐体の外側に配置され、前記受話側の撮影装置にて撮影された映像を前記フレネルレンズに投影する投影装置と、
を含む映像表示システム。
A first holographic optical element surface;
A photographing device for photographing reflected light from the first holographic optical element surface and transmitting it to a receiving-side projection device;
A Fresnel lens disposed parallel to the first holographic optical element surface;
Light that forms an image on the imaging device of the imaging device passes through the first holographic optical element surface and the Fresnel lens without being reflected or refracted, and forms an image on the imaging device of the virtual imaging device A point representing the position of the virtual photographing device when it is assumed to be a point T,
A projection that is arranged outside the cone that has the point T as an apex and includes the boundary of the first holographic optical element surface on its side surface, and projects an image shot by the receiving-side imaging device onto the Fresnel lens. Equipment,
Including video display system.
請求項1に記載の映像表示システムであって、
前記第1のホログラフィック光学素子面は所定の波長領域の入射光を反射してそれ以外の波長領域の入射光を透過させ、前記第2のホログラフィック光学素子面は、前記第1のホログラフィック光学素子面が反射する波長領域とは異なる波長領域の入射光を反射してそれ以外の波長領域の入射光を透過させる
映像表示システム。
The video display system according to claim 1,
The first holographic optical element surface reflects incident light in a predetermined wavelength region and transmits incident light in other wavelength regions, and the second holographic optical element surface transmits the first holographic optical surface. An image display system that reflects incident light in a wavelength region different from the wavelength region reflected by the optical element surface and transmits incident light in other wavelength regions.
請求項2に記載の映像表示システムであって、
前記第1のホログラフィック光学素子面は所定の波長領域の入射光を反射してそれ以外の波長領域の入射光を透過させ、前記フレネルレンズは、入射光を所定の角度に反射する
映像表示システム。
The video display system according to claim 2,
The first holographic optical element surface reflects incident light in a predetermined wavelength region and transmits incident light in other wavelength regions, and the Fresnel lens reflects incident light at a predetermined angle. .
請求項1から4の何れかに記載の映像表示システムであって、
前記投影装置は、短焦点型のプロジェクタである
映像表示システム。
The video display system according to any one of claims 1 to 4,
The projection apparatus is a video display system which is a short focus type projector.
請求項1から5のいずれかに記載の映像表示システムであって、
前記投影装置による映像投影と前記撮影装置による撮影を所定のフレームレートで切り替えながら交互に実行する
映像表示システム。
The video display system according to any one of claims 1 to 5,
An image display system that alternately executes image projection by the projection device and imaging by the imaging device while switching at a predetermined frame rate.
JP2015087763A 2015-04-22 2015-04-22 Video display system Active JP6424133B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015087763A JP6424133B2 (en) 2015-04-22 2015-04-22 Video display system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015087763A JP6424133B2 (en) 2015-04-22 2015-04-22 Video display system

Publications (2)

Publication Number Publication Date
JP2016208273A true JP2016208273A (en) 2016-12-08
JP6424133B2 JP6424133B2 (en) 2018-11-14

Family

ID=57490127

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015087763A Active JP6424133B2 (en) 2015-04-22 2015-04-22 Video display system

Country Status (1)

Country Link
JP (1) JP6424133B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106997616A (en) * 2017-03-01 2017-08-01 天津大学 A kind of three-D imaging method and pyramid three-dimensional image forming apparatus
WO2022045294A1 (en) * 2020-08-28 2022-03-03 大日本印刷株式会社 Aerial image forming device, aerial input device, display device with aerial image forming device, mobile object, and hologram imaging lens

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05328336A (en) * 1992-05-15 1993-12-10 Nippon Telegr & Teleph Corp <Ntt> Display/image pickup device
JPH08340520A (en) * 1995-06-14 1996-12-24 Sharp Corp Video equipment
JPH10213776A (en) * 1997-01-29 1998-08-11 Asahi Glass Co Ltd Display image pickup device
JP2000075129A (en) * 1998-08-27 2000-03-14 Nippon Telegr & Teleph Corp <Ntt> Display photographing device and remote interactive device
JP2001359064A (en) * 2000-06-09 2001-12-26 Canon Inc Video phone and method for controlling the video phone
US6882358B1 (en) * 2002-10-02 2005-04-19 Terabeam Corporation Apparatus, system and method for enabling eye-to-eye contact in video conferences
JP2005115158A (en) * 2003-10-09 2005-04-28 Nikon Corp Imaging apparatus and camera having the same
JP2005520188A (en) * 2002-03-13 2005-07-07 ザ ユニバーシティ オブ ブリティッシュ コロンビア High dynamic range display device
JP2007295187A (en) * 2006-04-24 2007-11-08 Canon Inc Projector
JP2014071282A (en) * 2012-09-28 2014-04-21 Dainippon Printing Co Ltd Reflective screen and video image display system
JP2014176042A (en) * 2013-03-13 2014-09-22 Ricoh Co Ltd Communication device, and voice input/output unit control method

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05328336A (en) * 1992-05-15 1993-12-10 Nippon Telegr & Teleph Corp <Ntt> Display/image pickup device
JPH08340520A (en) * 1995-06-14 1996-12-24 Sharp Corp Video equipment
JPH10213776A (en) * 1997-01-29 1998-08-11 Asahi Glass Co Ltd Display image pickup device
JP2000075129A (en) * 1998-08-27 2000-03-14 Nippon Telegr & Teleph Corp <Ntt> Display photographing device and remote interactive device
JP2001359064A (en) * 2000-06-09 2001-12-26 Canon Inc Video phone and method for controlling the video phone
JP2005520188A (en) * 2002-03-13 2005-07-07 ザ ユニバーシティ オブ ブリティッシュ コロンビア High dynamic range display device
US6882358B1 (en) * 2002-10-02 2005-04-19 Terabeam Corporation Apparatus, system and method for enabling eye-to-eye contact in video conferences
JP2005115158A (en) * 2003-10-09 2005-04-28 Nikon Corp Imaging apparatus and camera having the same
JP2007295187A (en) * 2006-04-24 2007-11-08 Canon Inc Projector
JP2014071282A (en) * 2012-09-28 2014-04-21 Dainippon Printing Co Ltd Reflective screen and video image display system
JP2014176042A (en) * 2013-03-13 2014-09-22 Ricoh Co Ltd Communication device, and voice input/output unit control method

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106997616A (en) * 2017-03-01 2017-08-01 天津大学 A kind of three-D imaging method and pyramid three-dimensional image forming apparatus
CN106997616B (en) * 2017-03-01 2020-01-21 天津大学 Three-dimensional imaging method and pyramid three-dimensional imaging device
WO2022045294A1 (en) * 2020-08-28 2022-03-03 大日本印刷株式会社 Aerial image forming device, aerial input device, display device with aerial image forming device, mobile object, and hologram imaging lens
JP2022039582A (en) * 2020-08-28 2022-03-10 大日本印刷株式会社 Aerial imaging device, aerial input device, display device with aerial imaging device, vehicle, and holographic imaging lens
JP7216925B2 (en) 2020-08-28 2023-02-02 大日本印刷株式会社 Aerial imaging device, aerial input device, display device with aerial imaging device, moving body and hologram imaging lens

Also Published As

Publication number Publication date
JP6424133B2 (en) 2018-11-14

Similar Documents

Publication Publication Date Title
US20230326142A1 (en) Immersive content production system with multiple targets
US7118228B2 (en) Image display system
US9264630B2 (en) Method and apparatus for creating exposure effects using an optical image stabilizing device
CN102821238B (en) Wide-field ultra-high-resolution imaging system
CN100437339C (en) Display device and display method
KR20150068299A (en) Method and system of generating images for multi-surface display
CN103945117A (en) Photographing unit, cooperative photographing method, and recording medium having recorded program
CN101278565A (en) Depth and lateral size control of three-dimensional images in projection integral imaging
CN102821285A (en) Digital film playing method and digital film playing system as well as digital film optimizing device
US20140085422A1 (en) Image processing method and device
CN105739067A (en) Optical lens accessory for wide-angle photographing
US10444704B2 (en) Dynamic display using holographic recorded pixels
CN102572469A (en) Image processing device, image processing method, and program
CN1848917B (en) Camera system with pip in viewfinder
JP6424133B2 (en) Video display system
JP6529108B2 (en) Image processing apparatus, image processing method and image processing program
JP2008536159A (en) Non-stereoscopic three-dimensional observation apparatus that does not require a three-dimensional imaging camera and glasses
JP4747616B2 (en) Image presentation system and image presentation program
CN116055696A (en) Projection equipment and projection method
Tsuchiya et al. An optical design for avatar-user co-axial viewpoint telepresence
US20050001920A1 (en) Methods and apparatuses for managing and presenting content through a spherical display device
CN210112172U (en) Double-arc-screen projection system and broadcast control system
US7480001B2 (en) Digital camera with a spherical display
Tsuchiya et al. Aerial Imaging by Retro-Reflection for Mid-Air Image Display and Camera Viewpoint Transfer
US10686991B2 (en) Techniques for improving photograph quality for fouled lens or sensor situations

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180202

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180905

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180911

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180925

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181016

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181022

R150 Certificate of patent or registration of utility model

Ref document number: 6424133

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250