JP7404271B2 - 表示装置および表示制御装置 - Google Patents

表示装置および表示制御装置 Download PDF

Info

Publication number
JP7404271B2
JP7404271B2 JP2020558169A JP2020558169A JP7404271B2 JP 7404271 B2 JP7404271 B2 JP 7404271B2 JP 2020558169 A JP2020558169 A JP 2020558169A JP 2020558169 A JP2020558169 A JP 2020558169A JP 7404271 B2 JP7404271 B2 JP 7404271B2
Authority
JP
Japan
Prior art keywords
display
image
object image
line
coordinates
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020558169A
Other languages
English (en)
Other versions
JPWO2020110506A5 (ja
JPWO2020110506A1 (ja
Inventor
隆行 猪山
裕幸 小沢
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Semiconductor Solutions Corp
Original Assignee
Sony Semiconductor Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Semiconductor Solutions Corp filed Critical Sony Semiconductor Solutions Corp
Publication of JPWO2020110506A1 publication Critical patent/JPWO2020110506A1/ja
Publication of JPWO2020110506A5 publication Critical patent/JPWO2020110506A5/ja
Application granted granted Critical
Publication of JP7404271B2 publication Critical patent/JP7404271B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/147Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/2092Details of a display terminals using a flat panel, the details relating to the control arrangement of the display terminal and to the interfaces thereto
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/0261Improving the quality of display appearance in the context of movement of objects on the screen or movement of the observer relative to the screen
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0464Positioning
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0464Positioning
    • G09G2340/0478Horizontal positioning
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/12Overlay of images, i.e. displayed pixel being the result of switching between the corresponding input pixels
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/12Overlay of images, i.e. displayed pixel being the result of switching between the corresponding input pixels
    • G09G2340/125Overlay of images, i.e. displayed pixel being the result of switching between the corresponding input pixels wherein one of the images is motion video
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/14Solving problems related to the presentation of information to be displayed
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00Aspects of interface with display user

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Computer Hardware Design (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本開示は、画像を表示する表示装置、およびそのような表示装置に用いられる表示制御装置に関する。
拡張現実(AR;Augmented Reality)を実現する表示装置では、実空間上の物体や人などの観察対象に重ねて画像が表示される(例えば、特許文献1)。
特開2016-208380号公報
ところで、このような表示装置では、ユーザが違和感を感じるおそれを低減することが望まれており、違和感を少なくすることが期待されている。
ユーザが違和感を感じるおそれを低減することができる表示装置および表示制御装置を提供することが望ましい。
本開示の一実施の形態における第1の表示装置は、表示部と、表示制御部と、センサと、第1の記憶部とを備えている。表示部は、観察対象に重ねて画像を表示可能であり、オブジェクト画像を表示可能に構成される。表示制御部は、表示部の表示領域におけるオブジェクト画像の水平方向の表示位置を、画素ライン単位で調節可能に構成される。センサは、自装置の動きを検出可能であり、検出結果に基づいて動き情報を生成可能に構成される。第1の記憶部は、オブジェクト画像を記憶可能に構成される。表示制御部は、表示領域における観察対象とオブジェクト画像に含まれるライン画像との間の水平方向における相対的な位置関係を維持するように、表示位置を画素ライン単位で調節可能であり、動き情報に基づいてライン画像を表示すべき位置を調節することにより、オブジェクト画像の表示位置を画素ライン単位で調節可能であり、動き情報に基づいて、画素ライン単位で、第1の記憶部からオブジェクト画像に含まれるライン画像を読み出す読出タイミングを調節可能であり、読み出されたライン画像を表示部に供給可能である。
本開示の一実施の形態における第2の表示装置は、表示部と、表示制御部と、センサとを備えている。表示部は、観察対象に重ねて画像を表示可能であり、オブジェクト画像を表示可能に構成される。表示制御部は、表示部の表示領域におけるオブジェクト画像の水平方向の表示位置を、画素ライン単位で調節可能に構成される。センサは、自装置の動きを検出可能であり、検出結果に基づいて動き情報を生成可能に構成される。表示制御部は、表示領域における観察対象とオブジェクト画像に含まれるライン画像との間の水平方向における相対的な位置関係を維持するように、表示位置を画素ライン単位で調節可能であり、動き情報に基づいてライン画像を表示すべき位置を調節することにより、オブジェクト画像の表示位置を画素ライン単位で調節可能であり、オブジェクト画像に含まれる1または複数のライン画像を記憶可能な第2の記憶部を有し、動き情報に基づいて、画素ライン単位で、第2の記憶部からライン画像を読み出す読出タイミングを調節可能であり、読み出されたライン画像を表示部に供給可能である。
こで、「表示装置」とは、表示機能のみを有する表示デバイスに限定されず、そのような表示デバイスを有する電子機器をも含む。
本開示の一実施の形態における第1の表示制御装置は、観察対象に重ねて画像を表示可能な表示部の表示領域に表示されたオブジェクト画像の水平方向の表示位置を、画素ライン単位で調節可能な表示制御部を備える。表示制御部は、表示領域における観察対象とオブジェクト画像に含まれるライン画像との間の水平方向における相対的な位置関係を維持するように、表示位置を画素ライン単位で調節可能であり、表示部を備えた表示装置の動きを検出可能なセンサにより生成された動き情報に基づいてライン画像を表示すべき位置を調節することにより、オブジェクト画像の表示位置を画素ライン単位で調節可能であり、動き情報に基づいて、画素ライン単位で、オブジェクト画像を記憶可能な第1の記憶部からオブジェクト画像に含まれるライン画像を読み出す読出タイミングを調節可能であり、読み出されたライン画像を表示部に供給可能である。
本開示の一実施の形態における第2の表示制御装置は、観察対象に重ねて画像を表示可能な表示部の表示領域に表示されたオブジェクト画像の水平方向の表示位置を、画素ライン単位で調節可能な表示制御部を備える。表示制御部は、表示領域における観察対象とオブジェクト画像に含まれるライン画像との間の水平方向における相対的な位置関係を維持するように、表示位置を画素ライン単位で調節可能であり、表示部を備えた表示装置の動きを検出可能なセンサにより生成された動き情報に基づいてライン画像を表示すべき位置を調節することにより、オブジェクト画像の表示位置を画素ライン単位で調節可能であり、動き情報に基づいて、画素ライン単位で、オブジェクト画像に含まれる1または複数のライン画像を記憶可能な第2の記憶部からライン画像を読み出す読出タイミングを調節可能であり、読み出されたライン画像を表示部に供給可能である。
本開示の一実施の形態における第1の表示装置、第2の表示装置、第1の表示制御装置、および第2の表示制御装置では、表示部は、観察対象に重ねて画像を表示可能に構成される。この表示部の表示領域におけるオブジェクト画像の水平方向の表示位置は、画素ライン単位で調節される。
本開示の一実施の形態に係る表示装置の一構成例を表すブロック図である。 図1に示した表示装置の表示領域において観察される画像の一例を表す説明図である。 観察対象と表示装置との間の相対的な位置関係の一例を表す説明図である。 図1に示した表示装置の表示領域において観察される画像の他の一例を表す説明図である。 図1に示した表示装置の一動作例を表す説明図である。 図1に示した表示装置の一動作例を表す他の説明図である。 図1に示した表示装置の他の動作例を表す説明図である。 図1に示した表示装置の他の動作例を表す他の説明図である。 図1に示した表示装置の表示領域において観察される画像の他の一例を表す説明図である。 比較例に係る表示装置の表示領域において観察される画像の一例を表す説明図である。 変形例に係る表示装置の一構成例を表すブロック図である。
以下、本開示の実施の形態について、図面を参照して詳細に説明する。
<実施の形態>
[構成例]
図1は、一実施の形態に係る表示装置(表示装置1)の一構成例を表すものである。表示装置1は、実空間上の物体や人などの観察対象に重ねて画像を表示可能に構成され、例えば、スマートグラスに適用される。なお、これに限定されるものではなく、例えば、自動車などの車両に適用してもよい。例えば、車両に適用する場合には、車両のフロントガラスに透過型の表示デバイス(いわゆるシースルーディスプレイ)を張り付けてもよいし、車両のフロントガラスに画像を投影してもよい。
表示装置1は、この例では、いわゆるシースルーディスプレイを含んで構成される。表示装置1におけるフレームレートは、例えば、60Hzである。表示装置1は、表示領域Dにおいて、シースルーディスプレイの向こう側に実在する観察対象の近くに、その観察対象についての情報を含むオブジェクト画像Pobjを表示する。すなわち、実空間の観察対象およびオブジェクト画像Pobjは、互いに重畳され、表示装置1のユーザUにより観察される。
図2は、表示装置1の表示領域DにおいてユーザUにより観察される画像の一例を表すものである。この図2は、観察対象である人物Aと、オブジェクト画像Pobjとを含んでいる。人物Aは、この例では、表示装置1の向こう側において静止しており、ユーザUは、この表示装置1を介して、この実空間における人物Aを観察する。表示装置1は、この人物Aの位置(位置B1)に対応する位置に、オブジェクト画像Pobjに含まれる複数のライン画像Lを上から順に描画し始める。この例では、オブジェクト画像Pobjは、左下の点Pが人物Aの顔の近くに位置するように配置される。これにより、ユーザUは、実空間の観察対象を直接観察するとともに、その観察対象についての情報を把握することができるようになっている。
また、表示装置1は、例えば表示装置1が移動することにより、表示領域D内における観察対象の位置が変化した場合には、その観察対象の位置の変化に応じて、オブジェクト画像Pobjの表示位置を、画素ライン単位で調節するようになっている。
図3は、表示装置1が移動する際のユーザUと表示装置1との相対的な位置関係の一例を表すものである。図4は、表示装置1の表示領域DにおいてユーザUにより観察される画像の一例を表すものである。この例では、図3に示したように、表示装置1のユーザUは、表示装置1とともに右方向に移動速度Vで移動する。なお、この例では、ユーザUが移動したが、これに限定されるものではなく、ユーザUが顔の向きをずらした場合も同様である。この例では、説明の便宜上、移動速度Vは、ある一定の(constant)速度である。これにより、ユーザUにより観察される画像では、図4に示したように、観察対象である人物Aは、左方向に一定の速度で移動する。表示装置1は、この人物Aの位置の変化に応じて、オブジェクト画像Pobjの表示位置を画素ライン単位で調節する。具体的には、この例では、表示装置1は、人物Aが位置B1にいるときに、オブジェクト画像Pobjに含まれる複数のライン画像Lを上から順に描画し始める。そして、表示装置1は、表示領域Dにおける人物Aの位置B1から位置B2への移動に応じて、ライン画像Lの描画位置を徐々に左にシフトさせる。その結果、オブジェクト画像Pobjは、左下の点P1は左上の点O1よりも左に位置するように変形して表示される。この左下の点P1は、人物Aの顔の近くに位置する。これにより、表示装置1では、後述するように、ユーザが違和感を感じるおそれを低減することができるようになっている。
表示装置1は、撮像部11と、画像解析部12と、オブジェクト生成部13と、メモリ14と、描画位置算出部15と、加速度センサ16と、表示制御部20と、表示部17とを備えている。画像解析部12、オブジェクト生成部13、メモリ14、描画位置算出部15、および表示制御部20は、例えば、半導体回路により構成される。表示装置1における処理は、ハードウェアにより実現してもよいし、ソフトウェアにより実現してもよい。
撮像部11は、実空間上の物体や人などを撮像することにより、撮像画像を生成するように構成され、例えば、CMOS(complementary metal oxide semiconductor)イメージセンサを含んで構成される。
画像解析部12は、撮像部11により生成された撮像画像に基づいて画像解析処理を行うことにより、撮像画像に含まれる観察対象を特定し、特定された観察対象についての情報を生成するように構成される。画像解析部12は、例えば、インターネットを介してサーバから供給されたデータに基づいて、特定された観察対象についての情報を生成するようになっている。
オブジェクト生成部13は、画像解析部12における処理結果に基づいて、特定された観察対象についての情報を含むオブジェクト画像Pobjを生成するように構成される。そして、オブジェクト生成部13は、生成したオブジェクト画像Pobjをメモリ14に供給するとともに、オブジェクト画像Pobjのサイズについての情報(サイズ情報INFS)を描画位置算出部15に供給するようになっている。
メモリ14は、オブジェクト生成部13が生成したオブジェクト画像Pobjを記憶可能に構成される。メモリ14は、例えば、DRAM(Dynamic Random Access Memory)やSRAM(Static Random Access Memory)を含んで構成される。メモリ14に記憶されたオブジェクト画像Pobjは、表示制御部20からの指示に基づいて読みだされるようになっている。
描画位置算出部15は、画像解析部12における処理結果、およびオブジェクト生成部13から供給されたサイズ情報INFSに基づいて、表示部17の表示領域Dにおける、オブジェクト画像Pobjの左上の点Oの座標についての情報(原点情報INFO)を生成するように構成される。そして、描画位置算出部15は、原点情報INFOおよびサイズ情報INFSを、表示制御部20に供給するようになっている。
加速度センサ16は、表示装置1の加速度を検出するように構成される。
表示制御部20は、メモリ14からオブジェクト画像Pobjを読み出し、読み出したオブジェクト画像Pobjを表示部17に供給するように構成される。表示制御部20は、オフセット算出部21と、座標カウンタ22と、演算部23と、レジスタ24と、読出部25とを有している。
オフセット算出部21は、加速度センサ16による検出結果に基づいて、表示装置1の移動速度Vを算出し、その移動速度Vに基づいて、オフセット値OFSを算出するように構成される。表示装置1は、このオフセット値OFSに基づいて、表示領域Dにおける複数のライン画像Lを水平方向にシフトさせるようになっている。
座標カウンタ22は、表示部17の表示領域Dにおける座標x,yを生成するように構成される。図2に示したように、表示部17の表示領域Dにおける左上の座標は(0,0)であり、右上の座標は(X,0)であり、左下の座標は(0,Y)であり、右下の座標は(X,Y)である。座標カウンタ22は、表示部17の表示領域Dにおける左上から、画素ライン単位で、座標x,yを生成する。具体的には、座標カウンタ22は、まず、表示部17の表示領域Dにおける最も上の画素ラインにおいて、左から順に(0,0),(1,0),(2,0),…,(X,0)のように座標x,yを生成する。次に、座標カウンタ22は、次の画素ラインにおいて、左から順に(0,1),(1,1),(2,1),…,(X,1)のように座標x,yを生成する。これ以降についても同様である。
演算部23は、オフセット算出部21により生成されたオフセット値OFS、および座標カウンタ22により生成された座標x,yに基づいて、以下の式を用いて、座標x1を生成するように構成される。
演算部23は、この式EQ1を用いて、座標yが取り得る範囲にわたりオフセット値OFSを積算することにより、座標x1を生成する。言い換えれば、演算部23は、座標yの取り得る範囲にわたり移動速度Vを積算することにより座標x1を生成する。座標x1,yは、読出部25に供給されるようになっている
レジスタ24は、原点情報INFOおよびサイズ情報INFSを記憶するように構成される。
読出部25は、座標x1,yが、原点情報INFOおよびサイズ情報INFSが示す領域内の座標である場合に、座標x1,yに基づいて、メモリ14からオブジェクト画像Pobjについての画像情報を読み出すように構成される。具体的には、読出部25は、座標x1,yが、原点情報INFOおよびサイズ情報INFSが示す領域S内である場合に、座標x1,yに基づいてアドレスADRを生成する。メモリ14は、記憶するオブジェクト画像Pobjに含まれる、このアドレスADRに応じた画像情報を、データDATAとして読出部25に供給する。読出部25は、アドレスADRを用いて、画素単位で画像情報を指定してもよいし、サブ画素単位で画像情報を指定してもよいし、複数の画素単位で画像情報を指定してもよい。そして、読出部25は、読みだした画像情報を、読み出した順に、表示部17に供給するようになっている。
表示部17は、透過型の表示デバイス(いわゆるシースルーディスプレイ)であり、読出部25により読み出されたオブジェクト画像Pobjについての画像情報に基づいて、オブジェクト画像Pobjを表示するように構成される。
ここで、表示部17は、本開示における「表示部」の一具体例に対応する。表示制御部20は、本開示における「表示制御部」の一具体例に対応する。加速度センサ16は、本開示における「加速度センサ」の一具体例に対応する。メモリ14は、本開示における「第1の記憶部」の一具体例に対応する。
[動作および作用]
続いて、本実施の形態の表示装置1の動作および作用について説明する。
(全体動作概要)
まず、図1を参照して、表示装置1の全体動作概要を説明する。撮像部11は、実空間上の物体や人などを撮像することにより撮像画像を生成する。画像解析部12は、撮像部11により生成された撮像画像に基づいて画像解析処理を行うことにより、撮像画像に含まれる観察対象を特定し、特定された観察対象についての情報を生成する。オブジェクト生成部13は、画像解析部12における処理結果に基づいて、特定された観察対象についての情報を含むオブジェクト画像Pobjを生成する。メモリ14は、オブジェクト生成部13が生成したオブジェクト画像Pobjを記憶する。描画位置算出部15は、画像解析部12における処理結果、およびオブジェクト生成部13から供給されたサイズ情報INFSに基づいて、表示部17の表示領域Dにおける、オブジェクト画像Pobjの左上の点Oの座標についての情報(原点情報INFO)を生成する。そして、描画位置算出部15は、原点情報INFOおよびサイズ情報INFSを、表示制御部20に供給する。
加速度センサ16は、表示装置1の加速度を検出する。表示制御部20のオフセット算出部21は、加速度センサ16による検出結果に基づいて、表示装置1の移動速度Vを算出し、その移動速度Vに基づいてオフセット値OFSを算出する。座標カウンタ22は、表示部17の表示領域Dにおける座標x,yを生成する。演算部23は、オフセット算出部21により生成されたオフセット値OFS、および座標カウンタ22により生成された座標x,yに基づいて、座標x1を生成する。レジスタ24は、原点情報INFOおよびサイズ情報INFSを記憶するように構成される。読出部25は、座標x1,yが、原点情報INFOおよびサイズ情報INFSが示す領域S内である場合に、座標x1,yに基づいて、メモリ14からオブジェクト画像Pobjについての画像情報を読み出す。表示部17は、読出部25により読み出されたオブジェクト画像Pobjについての画像情報に基づいて、オブジェクト画像Pobjを表示する。
(詳細動作)
次に、いくつか例をあげて、表示制御部20の動作について詳細に説明する。
図3に示したように、表示装置1が右方向に一定の速度で移動する場合には、ユーザUにより観察される画像では、図4に示したように、観察対象である人物Aは、左方向に一定の速度で移動する。この場合、オフセット値OFSは、この一定の速度に応じた負の値に設定される。演算部23は、式EQ1を用いて、座標x,yに基づいて、座標x1を生成する。この例では、オフセット値OFSは負の値であるので、座標x1は、座標xよりも大きい値に設定される。
図5,6は、表示制御部20の一動作例を表すものである。図5において、領域R1は、座標x,yにより表現される座標領域であり、領域R2は、座標x1,yにより表現される座標領域である。すなわち、この例では、座標yの値が大きくなるほど、座標x1は座標xよりも大きい値になり、領域R2は右にシフトしていく。
座標x1,yが、原点情報INFOおよびサイズ情報INFSが示す領域Sの領域内の座標である場合には、読出部25は、座標x1,yに応じたアドレスADRを生成し、メモリ14からそのアドレスADRに応じた画像情報を読み出す。具体的には、例えば、座標x1,yが点Oの座標である場合には、読出部25は、メモリ14からこの点Oにおける画像情報を読み出す。このようにして、読出部25は、メモリ14から、オブジェクト画像Pobjに含まれる複数のライン画像Lについての画像情報を順次読み出す。
このように、領域R1から領域R2に座標が変換されるので、領域R2における左端から点Oまでの水平方向の距離W2は、領域R1における左端から点Oまでの水平方向の距離W1よりも短い。よって、読出部25は、より早いタイミングで、点Oにおける画像情報を読み出す。同様に、領域R2における左端から領域Sの左下の点Pまでの水平方向の距離W4は、領域R1における左端から点Pまでの水平方向の距離W3よりも短い。よって、読出部25は、より早いタイミングで、点Pにおける画像情報を読み出す。
これにより、図6に示したように、ライン画像Lの描画位置は、座標yが大きくなるほど、この例では徐々に左にシフトする。具体的には、表示部17の表示領域Dにおいて、オブジェクト画像Pobjの左上の点O1は、左端から距離W2の位置に配置され、オブジェクト画像Pobjの左下の点P1は、左端から距離W4の位置に配置される。その結果、この例では、オブジェクト画像Pobjの形状は、元の形状である長方形から変化し、この例では平行四辺形になる。このように、表示装置1は、ライン画像Lを水平方向にずらすことにより、オブジェクト画像Pobjの表示位置を、画素ライン単位で調節する。これにより、図4に示したように、オブジェクト画像Pobjは、左下の点P1が人物Aの顔の近くに位置するように配置される。
また、例えば、表示装置1が、フレーム期間の途中で右方向に移動を開始した場合には、ユーザUにより観察される画像では、図4に示したように、観察対象である人物Aは、表示領域Dにおいて、フレーム期間の途中で左方向に移動を開始する。この場合、オフセット値OFSは、フレーム期間の途中までは“0”(ゼロ)であり、フレーム期間の途中以降において、移動速度に応じた負の値に設定される。演算部23は、式EQ1を用いて、座標x,yに基づいて、座標x1を生成する。
図7,8は、表示制御部20の一動作例を表すものである。図7に示したように、この例では、フレーム期間の途中で表示装置1が移動を開始しているので、フレーム期間の途中から、座標x1は座標xよりも大きい値になり、領域R2は右にシフトしていく。この例では、領域R2における左端から領域Sの点Oまでの水平方向の距離W6は、領域R1における左端から領域Sの点Oまでの水平方向の距離W5と同じである。一方、領域R2における左端から領域Sの左下の点Pまでの水平方向の距離W8は、領域R1における左端から点Pまでの水平方向の距離W7よりも短い。よって、読出部25は、より早いタイミングで、点Pにおける画像情報を読み出す。
これにより、図8に示したように、表示部17の表示領域Dにおいて、オブジェクト画像Pobjの左上の点O1は、左端から距離W6の位置に配置され、オブジェクト画像Pobjの左下の点P1は、左端から距離W8の位置に配置される。その結果、この例では、オブジェクト画像Pobjの形状は、元の形状である長方形から変化する。このように、表示装置1は、ライン画像Lを水平方向にずらすことにより、オブジェクト画像Pobjの表示位置を、画素ライン単位で調節する。これにより、図9に示したように、オブジェクト画像Pobjは、左下の点P1が人物Aの顔の近くに位置するように配置される。
このように、表示装置1は、オブジェクト画像Pobjの表示位置を、画素ライン単位で調節する。具体的には、表示装置1は、表示領域Dにおける、観察対象と、オブジェクト画像Pobjに含まれるライン画像Lとの間の水平方向における相対的な位置関係を維持するように、そのライン画像Lの表示位置を調節する。これにより、表示装置1では、例えばユーザUが顔の向きをずらした場合に、違和感を感じるおそれを低減することができる。
すなわち、例えば、このようにオブジェクト画像Pobjの表示位置を、画素ライン単位で調節しない場合には、表示領域Dにおいて観察対象が移動すると、観察対象とオブジェクト画像Pobjとの間の相対的な位置関係が変化してしまう。すなわち、この場合には、例えば、図10に示すように、観察対象である人物Aの位置B1に応じた位置でオブジェクト画像Pobjの描画が開始された後に、人物Aが左に移動すると、オブジェクト画像Pobjは、図10に示したように、そのままの位置で描画され続けるので、人物Aおよびオブジェクト画像Pobjは、一旦離れていく。そして、次のフレームにおいて、その時の人物Aの位置(例えば位置B2)に応じた位置でオブジェクト画像Pobjの描画が開始される。そして、人物Aが引き続き左に移動すると、オブジェクト画像Pobjは、そのままの位置で描画され続けるので、人物Aおよびオブジェクト画像Pobjは、一旦離れていく。そして、次のフレームにおいて、その時の人物Aの位置に応じた位置でオブジェクト画像Pobjの描画が開始される。このように、人物Aおよびオブジェクト画像Pobjは近接と離間を繰り返す。これにより、ユーザUは違和感を感じるおそれがある。
一方、表示装置1では、オブジェクト画像Pobjの表示位置を、画素ライン単位で調節するようにしたので、図4に示したように、人物Aおよびオブジェクト画像Pobjは近接し続けることができる。その結果、表示装置1では、ユーザUが、違和感を感じるおそれを低減することができる。
[効果]
以上のように本実施の形態では、オブジェクト画像の表示位置を画素ライン単位で調節するようにしたので、ユーザが違和感を感じるおそれを低減することができる。
[変形例1]
上記実施の形態では、演算部23が座標xを座標x1に変換し、読出部25が座標(x1,y)に基づいてメモリ14からオブジェクト画像Pobjを読み出したが、これに限定されるものではない。以下に、本変形例について詳細に説明する。
図11は、本変形例に係る表示装置2の一構成例を表すものである。表示装置2は、表示制御部30を備えている。表示制御部30は、読出部35と、演算部36と、ラインメモリ37とを有している。
読出部35は、座標x,yが、原点情報INFOおよびサイズ情報INFSが示す領域内の座標である場合に、座標x,yに基づいて、メモリ14からオブジェクト画像Pobjについての画像情報を読み出すように構成される。具体的には、読出部35は、座標x,yが、原点情報INFOおよびサイズ情報INFSが示す領域S内である場合に、座標x,yに基づいてアドレスADRを生成する。メモリ14は、記憶するオブジェクト画像Pobjに含まれる、このアドレスADRに応じた画像情報を、データDATAとして読出部35に供給する。そして、読出部35は、読みだした画像情報を、読み出した順に、ラインメモリ37に供給するようになっている。
演算部36は、オフセット算出部21により生成されたオフセット値OFS、および座標カウンタ22により生成された座標yに基づいて、以下の式を用いて、座標x2を生成するように構成される。
そして、座標x2は、ラインメモリ37に供給されるようになっている
ラインメモリ37は、例えば2ライン分の画像情報を記憶可能に構成される。ラインメモリ37は、読出部35から供給された画像情報を一旦記憶するとともに、座標x2に基づいて、記憶された画像情報を読み出し、読みだした画像情報を、読み出した順に、表示部17に供給するようになっている。
ここで、表示制御部30は、本開示における「表示制御部」の一具体例に対応する。ラインメモリ37は、本開示における「第2の記憶部」の一具体例に対応する。
例えば、図3に示したように、表示装置1が右方向に一定の速度で移動する場合には、ユーザUにより観察される画像では、図4に示したように、観察対象である人物Aは、左方向に一定の速度で移動する。この場合、オフセット値OFSは、この一定の速度に応じた負の値に設定される。演算部36は、式EQ2を用いて、座標yに基づいて、座標x2を生成する。この例では、オフセット値OFSは負の値であるので、座標x2もまた負の値に設定される。座標x2が負になると、ラインメモリ37は、より早いタイミングで画像情報を読み出し、読み出した画像情報を表示部17に供給する。これにより、図6に示したように、ライン画像Lの描画位置は、左にシフトする。
以上、実施の形態および変形例を挙げて本技術を説明したが、本技術はこれらの実施の形態等には限定されず、種々の変形が可能である。
例えば、上記の各実施の形態では、1つのオブジェクト画像Pobjを表示したが、これに限定されるものではなく、複数のオブジェクト画像Pobjを表示してもよい。
なお、本明細書に記載された効果はあくまで例示であって限定されるものでは無く、また他の効果があってもよい。
なお、本技術は以下のような構成とすることができる。以下の構成の本技術によれば、ユーザが違和感を感じるおそれを低減することができる。
(1)観察対象に重ねて画像を表示可能であり、オブジェクト画像を表示可能な表示部と、
前記表示部の表示領域における前記オブジェクト画像の水平方向の表示位置を、画素ライン単位で調節可能な表示制御部と
を備えた表示装置。
(2)前記表示制御部は、前記表示領域における前記観察対象と前記オブジェクト画像に含まれるライン画像との間の水平方向における相対的な位置関係を維持するように、前記表示位置を前記画素ライン単位で調節可能である
前記(1)に記載の表示装置。
(3)前記表示装置の動きを検出可能であり、検出結果に基づいて動き情報を生成可能なセンサをさらに備え、
前記表示制御部は、前記動き情報に基づいて前記ライン画像を表示すべき位置を調節することにより、前記オブジェクト画像の前記表示位置を前記画素ライン単位で調節可能である
前記(2)に記載の表示装置。
(4)前記表示制御部は、前記動き情報に基づいて、前記表示領域における前記観察対象の水平方向における速度を求めることが可能であり、前記速度に基づいて前記ライン画像を表示すべき位置を調節可能である
前記(3)に記載の表示装置。
(5)前記表示制御部は、前記画素ライン単位で前記速度を積算することが可能であり、その積算結果に基づいて前記ライン画像を表示すべき位置を調節することが可能である
前記(4)に記載の表示装置。
(6)前記オブジェクト画像を記憶可能な第1の記憶部をさらに備え、
前記表示制御部は、水平方向の座標を指示する第1の座標および垂直方向の座標を指示する第2の座標を生成可能であり、前記動き情報、前記第1の座標、および前記第2の座標に基づいて前記第1の座標を補正可能であり、前記第2の座標および補正された前記第1の座標に基づいて前記第1の記憶部から前記オブジェクト画像を読み出すことが可能であり、読み出された前記オブジェクト画像を前記表示部に供給可能である
前記(3)から(5)のいずれかに記載の表示装置。
(7)前記オブジェクト画像を記憶可能な第1の記憶部をさらに備え、
前記表示制御部は、前記動き情報に基づいて、前記第1の記憶部から前記オブジェクト画像に含まれる前記ライン画像を読み出す読出タイミングを調節可能であり、読み出された前記ライン画像を前記表示部に供給可能である
前記(3)から(5)のいずれかに記載の表示装置。
(8)前記表示制御部は、前記オブジェクト画像に含まれる1または複数のライン画像を記憶可能な第2の記憶部と、水平方向の座標を指示する第1の座標および垂直方向の座標を指示する第2の座標を生成可能であり、前記動き情報および前記第2の座標に基づいて、前記第2の記憶部から前記ライン画像を読み出すことが可能であり、読み出された前記ライン画像を前記表示部に供給可能である
前記(3)から(5)のいずれか記載の表示装置。
(9)前記表示制御部は、前記オブジェクト画像に含まれる1または複数のライン画像を記憶可能な第2の記憶部を有し、前記動き情報に基づいて、前記第2の記憶部から前記ライン画像を読み出す読出タイミングを調節可能であり、読み出された前記ライン画像を前記表示部に供給可能である
前記(3)から(5)のいずれかに記載の表示装置。
(10)観察対象に重ねて画像を表示可能な表示部の表示領域に表示されたオブジェクト画像の水平方向の表示位置を、画素ライン単位で調節可能な表示制御部を備えた
表示制御装置。
本出願は、日本国特許庁において2018年11月28日に出願された日本特許出願番号2018-222345号を基礎として優先権を主張するものであり、この出願のすべての内容を参照によって本出願に援用する。
当業者であれば、設計上の要件や他の要因に応じて、種々の修正、コンビネーション、サブコンビネーション、および変更を想到し得るが、それらは添付の請求の範囲やその均等物の範囲に含まれるものであることが理解される。

Claims (8)

  1. 観察対象に重ねて画像を表示可能であり、オブジェクト画像を表示可能な表示部と、
    前記表示部の表示領域における前記オブジェクト画像の水平方向の表示位置を、画素ライン単位で調節可能な表示制御部と
    自装置の動きを検出可能であり、検出結果に基づいて動き情報を生成可能なセンサと、
    前記オブジェクト画像を記憶可能な第1の記憶部と
    を備え
    前記表示制御部は、
    前記表示領域における前記観察対象と前記オブジェクト画像に含まれるライン画像との間の水平方向における相対的な位置関係を維持するように、前記表示位置を前記画素ライン単位で調節可能であり、
    前記動き情報に基づいて前記ライン画像を表示すべき位置を調節することにより、前記オブジェクト画像の前記表示位置を前記画素ライン単位で調節可能であり、
    前記動き情報に基づいて、前記画素ライン単位で、前記第1の記憶部から前記オブジェクト画像に含まれる前記ライン画像を読み出す読出タイミングを調節可能であり、読み出された前記ライン画像を前記表示部に供給可能である
    表示装置。
  2. 記表示制御部は、水平方向の座標を指示する第1の座標および垂直方向の座標を指示する第2の座標を生成可能であり、前記動き情報、前記第1の座標、および前記第2の座標に基づいて前記第1の座標を補正可能であり、前記第2の座標および補正された前記第1の座標に基づいて前記第1の記憶部から前記オブジェクト画像を読み出すことが可能であり、読み出された前記オブジェクト画像を前記表示部に供給可能である
    請求項1に記載の表示装置。
  3. 前記表示制御部は、前記動き情報に基づいて、前記表示領域における前記観察対象の水平方向における速度を求めることが可能であり、前記速度に基づいて前記ライン画像を表示すべき位置を調節可能である
    請求項1に記載の表示装置。
  4. 前記表示制御部は、前記画素ライン単位で前記速度を積算することが可能であり、その積算結果に基づいて前記ライン画像を表示すべき位置を調節することが可能である
    請求項3に記載の表示装置。
  5. 観察対象に重ねて画像を表示可能であり、オブジェクト画像を表示可能な表示部と、
    前記表示部の表示領域における前記オブジェクト画像の水平方向の表示位置を、画素ライン単位で調節可能な表示制御部と、
    自装置の動きを検出可能であり、検出結果に基づいて動き情報を生成可能なセンサと
    を備え、
    前記表示制御部は、
    前記表示領域における前記観察対象と前記オブジェクト画像に含まれるライン画像との間の水平方向における相対的な位置関係を維持するように、前記表示位置を前記画素ライン単位で調節可能であり、
    前記動き情報に基づいて前記ライン画像を表示すべき位置を調節することにより、前記オブジェクト画像の前記表示位置を前記画素ライン単位で調節可能であり、
    前記オブジェクト画像に含まれる1または複数のライン画像を記憶可能な第2の記憶部を有し、前記動き情報に基づいて、前記画素ライン単位で、前記第2の記憶部から前記ライン画像を読み出す読出タイミングを調節可能であり、読み出された前記ライン画像を前記表示部に供給可能である
    表示装置。
  6. 前記表示制御部は、水平方向の座標を指示する第1の座標および垂直方向の座標を指示する第2の座標を生成可能であり、前記動き情報および前記第2の座標に基づいて、前記第2の記憶部から前記ライン画像を読み出すことが可能であり、読み出された前記ライン画像を前記表示部に供給可能である
    請求項5に記載の表示装置。
  7. 観察対象に重ねて画像を表示可能な表示部の表示領域に表示されたオブジェクト画像の水平方向の表示位置を、画素ライン単位で調節可能な表示制御部を備え
    前記表示制御部は、
    前記表示領域における前記観察対象と前記オブジェクト画像に含まれるライン画像との間の水平方向における相対的な位置関係を維持するように、前記表示位置を前記画素ライン単位で調節可能であり、
    前記表示部を備えた表示装置の動きを検出可能なセンサにより生成された動き情報に基づいて前記ライン画像を表示すべき位置を調節することにより、前記オブジェクト画像の前記表示位置を前記画素ライン単位で調節可能であり、
    前記動き情報に基づいて、前記画素ライン単位で、前記オブジェクト画像を記憶可能な第1の記憶部から前記オブジェクト画像に含まれる前記ライン画像を読み出す読出タイミングを調節可能であり、読み出された前記ライン画像を前記表示部に供給可能である
    表示制御装置。
  8. 観察対象に重ねて画像を表示可能な表示部の表示領域に表示されたオブジェクト画像の水平方向の表示位置を、画素ライン単位で調節可能な表示制御部を備え、
    前記表示制御部は、
    前記表示領域における前記観察対象と前記オブジェクト画像に含まれるライン画像との間の水平方向における相対的な位置関係を維持するように、前記表示位置を前記画素ライン単位で調節可能であり、
    前記表示部を備えた表示装置の動きを検出可能なセンサにより生成された動き情報に基づいて前記ライン画像を表示すべき位置を調節することにより、前記オブジェクト画像の前記表示位置を前記画素ライン単位で調節可能であり、
    前記動き情報に基づいて、前記画素ライン単位で、前記オブジェクト画像に含まれる1または複数のライン画像を記憶可能な第2の記憶部から前記ライン画像を読み出す読出タイミングを調節可能であり、読み出された前記ライン画像を前記表示部に供給可能である
    表示制御装置。
JP2020558169A 2018-11-28 2019-10-18 表示装置および表示制御装置 Active JP7404271B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018222345 2018-11-28
JP2018222345 2018-11-28
PCT/JP2019/041044 WO2020110506A1 (ja) 2018-11-28 2019-10-18 表示装置および表示制御装置

Publications (3)

Publication Number Publication Date
JPWO2020110506A1 JPWO2020110506A1 (ja) 2021-10-14
JPWO2020110506A5 JPWO2020110506A5 (ja) 2022-10-19
JP7404271B2 true JP7404271B2 (ja) 2023-12-25

Family

ID=70853896

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020558169A Active JP7404271B2 (ja) 2018-11-28 2019-10-18 表示装置および表示制御装置

Country Status (3)

Country Link
US (1) US11837145B2 (ja)
JP (1) JP7404271B2 (ja)
WO (1) WO2020110506A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016520891A (ja) 2013-03-15 2016-07-14 マジック リープ, インコーポレイテッド 表示システムおよび方法
WO2017086263A1 (ja) 2015-11-20 2017-05-26 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置および画像生成方法
JP2018503114A (ja) 2014-12-30 2018-02-01 株式会社ソニー・インタラクティブエンタテインメント 仮想現実用ヘッドマウントディスプレイにおける走査ディスプレイシステム
JP2019054360A (ja) 2017-09-14 2019-04-04 セイコーエプソン株式会社 電子機器、モーションセンサー、位置変化検出プログラムおよび位置変化検出方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6411377B1 (en) * 1991-04-02 2002-06-25 Hitachi, Ltd. Optical apparatus for defect and particle size inspection
JP3578533B2 (ja) * 1995-11-13 2004-10-20 株式会社リコー 画像表示制御装置
JP2003036156A (ja) * 2001-05-15 2003-02-07 Dainippon Screen Mfg Co Ltd 印刷システム、クライアント、サーバ、印刷方法、および記録媒体並びにプログラム
US20160109957A1 (en) * 2013-05-09 2016-04-21 Sony Computer Entertainment Inc. Information processing apparatus and application execution method
JP6417797B2 (ja) * 2014-09-03 2018-11-07 株式会社リコー 情報端末装置、情報処理方法、システムおよびプログラム
JP6646361B2 (ja) 2015-04-27 2020-02-14 ソニーセミコンダクタソリューションズ株式会社 画像処理装置、撮像装置、画像処理方法およびプログラム
JP6827703B2 (ja) 2016-03-30 2021-02-10 株式会社オカムラ 天板昇降式什器

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016520891A (ja) 2013-03-15 2016-07-14 マジック リープ, インコーポレイテッド 表示システムおよび方法
JP2018503114A (ja) 2014-12-30 2018-02-01 株式会社ソニー・インタラクティブエンタテインメント 仮想現実用ヘッドマウントディスプレイにおける走査ディスプレイシステム
WO2017086263A1 (ja) 2015-11-20 2017-05-26 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置および画像生成方法
JP2019054360A (ja) 2017-09-14 2019-04-04 セイコーエプソン株式会社 電子機器、モーションセンサー、位置変化検出プログラムおよび位置変化検出方法

Also Published As

Publication number Publication date
US11837145B2 (en) 2023-12-05
WO2020110506A1 (ja) 2020-06-04
JPWO2020110506A1 (ja) 2021-10-14
US20220020312A1 (en) 2022-01-20

Similar Documents

Publication Publication Date Title
KR102526794B1 (ko) 카메라 모듈, 고체 촬상 소자, 전자 기기 및 촬상 방법
US9706086B2 (en) Camera-assisted display motion compensation
US9595083B1 (en) Method and apparatus for image producing with predictions of future positions
JP5054008B2 (ja) 複数の観察者の眼のトラッキングとリアルタイム検出のための方法と回路
JP4578294B2 (ja) 立体視画像表示装置、立体視画像表示方法及びコンピュータプログラム
JP5268271B2 (ja) 画像表示装置および画像表示方法
KR20170033462A (ko) 전자 기기 및 헤드 마운트 디스플레이 장치의 영상 표시 방법
KR20030065379A (ko) 전방위 시각 시스템, 화상처리방법, 제어프로그램, 및판독가능한 기록매체
WO2020054760A1 (ja) 画像表示制御装置および画像表示制御用プログラム
JP6441581B2 (ja) フレキシブルディスプレイの曲げモーションに対する光検出
CN110651467B (zh) 基于非视觉姿势数据的深度数据调整
CN110214300B (zh) 相位对准的凹形渲染
JP7404271B2 (ja) 表示装置および表示制御装置
WO2021261248A1 (ja) 画像処理装置、画像表示システム、方法及びプログラム
JP2019176402A (ja) 画像処理装置
JP5748355B2 (ja) 3次元座標算出装置、3次元座標算出方法、及びプログラム
US11055865B2 (en) Image acquisition device and method of operating image acquisition device
EP3979186A1 (en) Circuit apparatus, display system, and image processing method
JPWO2019043854A1 (ja) 光学機器制御装置、光学機器制御方法、及び光学機器制御プログラム
WO2018084051A1 (ja) 情報処理装置、ヘッドマウントディスプレイ、情報処理システム、および情報処理方法
JP2019114148A (ja) 画像処理装置、画像処理システム、画像処理方法、およびプログラム
Shiroma et al. Development of virtual viewing direction operation system with image stabilization for asynchronous visual information sharing
JP6437811B2 (ja) 表示装置及び表示方法
WO2023162504A1 (ja) 情報処理装置、情報処理方法およびプログラム
JPWO2020110506A5 (ja)

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221011

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221011

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230912

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231030

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231114

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231213

R150 Certificate of patent or registration of utility model

Ref document number: 7404271

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150