CN104077801B - 图像生成系统及图像生成方法 - Google Patents

图像生成系统及图像生成方法 Download PDF

Info

Publication number
CN104077801B
CN104077801B CN201410124526.0A CN201410124526A CN104077801B CN 104077801 B CN104077801 B CN 104077801B CN 201410124526 A CN201410124526 A CN 201410124526A CN 104077801 B CN104077801 B CN 104077801B
Authority
CN
China
Prior art keywords
vertex
screen
segmentation number
angle
video camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201410124526.0A
Other languages
English (en)
Other versions
CN104077801A (zh
Inventor
永濑润
柿泽高弘
石井源久
菊池徹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Wandai Nanmeng Palace Entertainment Co ltd
Original Assignee
Bandai Namco Entertainment Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Bandai Namco Entertainment Inc filed Critical Bandai Namco Entertainment Inc
Publication of CN104077801A publication Critical patent/CN104077801A/zh
Application granted granted Critical
Publication of CN104077801B publication Critical patent/CN104077801B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/20Finite element generation, e.g. wire-frame surface description, tesselation
    • G06T17/205Re-meshing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/20Finite element generation, e.g. wire-frame surface description, tesselation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/06Ray-tracing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/10Geometric effects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/10Geometric effects
    • G06T15/20Perspective computation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/08Projecting images onto non-planar surfaces, e.g. geodetic screens
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Processing Or Creating Images (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Image Generation (AREA)

Abstract

提供能够实现有效利用顶点分割处理的投影图像的失真校正的图像生成系统及图像生成方法等。图像生成系统包括:进行顶点分割数m的设定处理的顶点分割数设定部;对物体空间内的三维物体OB,按由所述顶点分割数设定部设定的所述顶点分割数m进行顶点分割处理的顶点分割处理部;顶点位置运算部,求出连接所述顶点分割处理后的所述三维物体OB的顶点位置和假想摄像机VC的位置的直线,与投影用的屏幕SC的交点位置,基于求出的所述交点位置,求出与对应于所述三维物体OB的描绘物体相关的、在描绘缓冲器的顶点位置;以及描绘部,基于求出的所述描绘物体的所述顶点位置,进行将所述描绘物体描绘于所述描绘缓冲器的处理,生成投影用的投影图像。

Description

图像生成系统及图像生成方法
技术领域
本发明涉及图像生成系统及图像生成方法等。
背景技术
以往,已知有利用投影仪等投影装置对曲面屏幕投影的投影图像的生成系统。而且,作为对曲面屏幕投影失真小的投影图像的现有技术,例如有在专利文献1中公开的技术。
另外,在具备着色器功能的GPU(Graphics Processing Unit)中,有具备所谓的曲面细分的功能的GPU,作为这样的曲面细分的现有技术,例如有在专利文献2中公开的技术。
[现有技术文献]
[专利文献]
[专利文献1]日本特开2003-85586公报
[专利文献2]日本特表2011-515765公报。
发明内容
然而,对于投影图像相对曲面屏幕等的投影用的屏幕的失真校正,未提出过利用采用曲面细分等顶点分割处理的技术。
依据本发明的若干方面,能够提供能实现有效利用顶点分割处理的投影图像的失真校正的图像生成系统及图像生成方法等。
本发明的一方面涉及图像生成系统,包括:进行顶点分割数的设定处理的顶点分割数设定部;对物体空间内的三维物体,按由所述顶点分割数设定部设定的所述顶点分割数进行顶点分割处理的顶点分割处理部;顶点位置运算部,求出连接所述顶点分割处理后的所述三维物体的顶点位置和假想摄像机的位置的直线与投影用的屏幕的交点位置,基于求出的所述交点位置,求出与对应于所述三维物体的描绘物体相关的、在描绘缓冲器的顶点位置;以及描绘部,基于求出的所述描绘物体的所述顶点位置,进行将所述描绘物体描绘于所述描绘缓冲器的处理,生成投影用的投影图像。
依据本发明的一方面,基于顶点分割处理后的三维物体的顶点位置,求出在描绘缓冲器的描绘物体的顶点位置,将与三维物体对应的描绘物体描绘到描绘缓冲器,生成投影图像。此时,通过使在例如物体空间内的直线在描绘缓冲器上也成为直线,能够抑制观察到失真的图像的事态的产生。而且,可提供能够实现有效利用顶点分割处理的投影图像的失真校正的图像生成系统等。
另外,在本发明的一方面中,可在将构成作为所述顶点分割处理的对象的所述三维物体内的线段的2个顶点设为第一、第二顶点,连接所述第一顶点和所述假想摄像机的位置的第一直线与连接所述第二顶点和所述假想摄像机的位置的第二直线所成的角度设为θ,所述顶点分割数设为m的情况下,所述顶点分割数设定部根据所述角度θ设定所述顶点分割数m。
这样,例如,可进行在角度θ大的情况下增大顶点分割数m、在角度θ小的情况下减少顶点分割数m等的顶点分割数的设定处理,抑制无谓的处理负荷的产生,并能够实现投影图像的适当的失真校正。
另外,在本发明的一方面中,所述顶点分割数设定部在所述角度θ为第一角度θ1的情况下,将所述顶点分割数m设定为第一分割数m1,在所述角度θ为第二角度θ2(θ2<θ1)的情况下,将所述顶点分割数m设为第二分割数m2(m2≦m1)。
这样,例如,可实现对在接近假想摄像机的位置配置的三维物体增大顶点分割数、对配置在离假想摄像机远的位置的三维物体减少顶点分割数的顶点分割数的设定处理。
另外,在本发明的一方面中,所述顶点分割数设定部可以根据作为所述顶点分割处理的对象的所述三维物体的顶点的对所述屏幕的投影位置、所述假想摄像机的位置信息、所述假想摄像机的所述位置信息的时间变化信息、投影仪的位置信息、所述投影仪的所述位置信息的时间变化信息、所述屏幕的形状、所述屏幕的所述形状的时间变化信息、描绘负荷、时间要素及所述三维物体的属性中的至少一个改变所述顶点分割数m相对于所述角度θ的设定。
这样,能够实现灵活地处理各种状况的顶点分割数的设定处理。
另外,在本发明的一方面中,在将构成作为所述顶点分割处理的对象的所述三维物体内的线段的2个顶点设为第一、第二顶点,连接所述第一顶点和连接所述假想摄像机的位置的第一直线与连接所述第二顶点和所述假想摄像机的位置的第二直线所成的角度设为θ,所述顶点分割数设为m,作为顶点分割数设定的基准的角度设为ε的情况下,所述顶点分割数设定部可以设定所述顶点分割数m,使得(θ/m)<ε。
这样以角度ε为基准设定顶点分割数,则能够以简单的处理实现顶点分割数的设定处理,能够实现投影图像的失真校正。
另外,在本发明的一方面中,在将根据所述假想摄像机的位置估计(見込む)在所述屏幕的所述投影图像的像素的大小的角度设为δ的情况下,所述顶点分割数设定部可以使用以所述角度δ为基准设定的所述角度ε,设定所述顶点分割数m。
这样,能够实现适当地反映了投影图像的像素的在屏幕的大小随投影位置而不同的投影图像的失真校正。
另外,在本发明的一方面中,所述顶点分割数设定部可以根据作为所述顶点分割处理的对象的所述三维物体的顶点的对所述屏幕的投影位置、所述假想摄像机的位置信息、所述假想摄像机的所述位置信息的时间变化信息、投影仪的位置信息、所述投影仪的所述位置信息的时间变化信息、所述屏幕的形状、所述屏幕的所述形状的时间变化信息、描绘负荷、时间要素及所述三维物体的属性中的至少一个来改变所述角度ε。
这样,能够实现灵活处理各种状况的角度ε的设定处理。
另外,在本发明的一方面中,所述描绘部可以通过在所述假想摄像机的视点坐标系描绘与所述屏幕的形状对应的屏幕模型物体,生成在每个像素或在每个所述屏幕模型物体的顶点设定了深度值的深度图像,所述顶点位置运算部用射影变换矩阵将所述三维物体的顶点的第一、第二坐标变换至所述视点坐标系,基于变换后的所述第一、第二坐标参照所述深度图像的所述深度值,求出与所述屏幕的所述交点位置。
这样,在例如屏幕的形状作为形状数据预先知道的情况等,可实现高速且准确的投影图像的失真校正。
另外,在本发明的一方面中,所述屏幕可以是由1个曲面或多个面构成的屏幕。
本发明的另一方面涉及图像生成方法,包括:顶点分割数设定步骤,进行顶点分割数的设定处理;顶点分割处理步骤,对物体空间内的三维物体,按用所述顶点分割数设定步骤设定的所述顶点分割数进行顶点分割处理;顶点位置运算步骤,求出连接所述顶点分割处理后的所述三维物体的顶点位置和假想摄像机的位置的直线与投影用的屏幕的交点位置,基于求出的所述交点位置,求出关于与所述三维物体对应的描绘物体的、在描绘缓冲器的顶点位置;描绘步骤,基于求出的所述描绘物体的所述顶点位置,进行将所述描绘物体描绘到所述描绘缓冲器的处理,生成投影用的投影图像。
附图说明
图1是适用本实施方式的图像生成系统的游戏系统的一个例子。
图2是适用本实施方式的图像生成系统的游戏系统的铅直截面图。
图3是本实施方式的图像生成系统的结构例。
图4是在描绘缓冲器的像素单位的失真校正方式的说明图。
图5是以像素单位的失真校正中使用代理平面的方式的说明图。
图6是示出以像素单位的失真校正中使用代理平面的方式下的描绘缓冲器、UV图、渲染纹理的关系的图。
图7是对使用代理平面的方式的问题点的说明图。
图8是对使用代理平面的方式的问题点的说明图。
图9是以物体的顶点单位的失真校正方式的说明图。
图10是对以物体的顶点单位的失真校正方式的问题点的说明图。
图11是设有曲面细分器等的GPU的结构例。
图12是本实施方式的方式的说明图。
图13的(A)和图13的(B)是顶点分割数的设定方式的说明图。
图14是顶点分割数的设定方式的说明图。
图15是成为顶点分割数设定的基准的角度ε的设定方式的说明图。
图16是成为顶点分割数设定的基准的角度ε的设定方式的说明图。
图17是说明本实施方式的处理的流程图。
图18的(A)至图18的(C)是对立体视觉的应用例的说明图。
图19的(A)和图19的(B)是根据屏幕的模型数据生成投影映射用的变换数据的方式的说明图。
图20是根据屏幕的模型数据生成投影映射用的变换数据的方式的说明图。
具体实施方式
以下,对本实施方式进行说明。此外,以下所说明的本实施方式并不是对权利要求书所记载的本发明的内容的不合理限定。另外在本实施方式中说明的全部结构并不限于是本发明的必需结构要件。
1.结构
图1示出适用本实施方式的图像生成系统的游戏系统1的结构例。图2是该游戏系统1的铅直截面图。
本实施方式的游戏系统1是设置于店铺等而执行赛车游戏的业务用游戏系统,具备:模拟赛车的驾驶席的游戏者座椅1002,显示游戏画面的曲面形状的屏幕1004,向屏幕1004投影图像(影像)的投影仪1006,输出游戏音的扬声器(未图示),用于游戏者输入游戏操作的手柄1008,加速踏板1010,刹车踏板1009,变速杆(未图示)以及控制基板1020。
调整设置游戏者座椅1002的朝向或高度,使得就坐的游戏者的假设正视方向朝向屏幕1004的中央附近。在本实施方式中,就坐的游戏者的正面方向设为假设正视方向。曲面屏幕1004相对在游戏者座椅1002就坐的游戏者的正面方向(假设正视方向)形成为凸形状。
投影仪1006是投影装置的一种,被设置于游戏者座椅1002的后方的支柱1012或壳体框1014支撑,设置在游戏者座椅1002的上方、不干扰在游戏者座椅1002就坐的游戏者的位置,使其投影中心方向朝向屏幕1004的中心附近。即,设置成投影中心方向朝向游戏者的假设正视方向和曲面屏幕的交点位置。另外,在投影仪1006安装有广角透镜作为投影透镜,通过该广角透镜将投影图像投影到屏幕1004的投影面整体。
在控制基板1020上安装CPU、GPU、DSP等各种微处理器,ASIC,VRAM、RAM,ROM等各种IC存储器。而且,控制基板1020基于在IC存储器存储的程序、数据、来自手柄1008、加速踏板1010、刹车踏板1009等的操作信号等,进行实现赛车游戏的各种处理。
游戏者在游戏者座椅1002就坐,在观看在屏幕1004显示的游戏画面的同时听取来自扬声器的游戏音,操作手柄1006、加速踏板1010、刹车踏板1009来享受赛车游戏。
在本实施方式的赛车游戏中,在物体空间(假想三维空间)配置比赛场等的背景物体而构成游戏空间。在该物体空间内配置游戏汽车、其他的游戏汽车等各种物体,并在游戏者的视点位置配置假想摄像机。而且,从该假想摄像机看到的物体空间的图像被投影仪1006投影(显示)到屏幕1004作为游戏图像。
在图3示出本实施方式的图像生成系统的框图的例子。此外,本实施方式的图像生成系统的结构不限于图3,可进行省略其构成要素(各部)的一部分,追加其他构成要素等各种变形实施方案。
操作部160用于由游戏者输入操作数据。在对图1、图2的游戏系统1应用图像系统的情况下,操作部160能够利用手柄1008、加速踏板1010、刹车踏板1009等实现。
存储部170是处理部100、通信部196等的工作区域,因而其功能能够用RAM(DRAM,VRAM)等实现。而且游戏程序、游戏程序的执行所需的游戏数据保持在该存储部170。
信息存储介质180(计算机可读介质)存放程序或数据等,其功能能够利用光盘(CD,DVD)、HDD(硬盘驱动器)或存储器(ROM等)等实现。处理部100基于存放在信息存储介质180的程序(数据)进行本实施方式(图像生成方法)的各种的处理。即在信息存储介质180存储使计算机(具备操作部、处理部、存储部、输出部的装置)作为本实施方式的各部工作的程序(在计算机执行各部的处理的程序)。
显示部190显示依据本实施方式生成的图像。在对图1、图2的游戏系统1应用图像生成系统的情况下,显示部190能够利用液晶投影仪中的LCD、DLP投影仪中的DMD等实现。声音输出部192输出依据本实施方式生成的声音,其功能能够利用扬声器或耳机等实现。
辅助存储装置194(辅助存储器、2次存储器)是用于补充存储部170的容量的存储装置,能够利用SD存储卡、多媒体卡等存储卡等实现。
通信部196经由有线或无线的网络进行与外部(例如其他图像生成系统、服务器、主机装置)之间的通信,其功能能够利用通信用ASIC或通信用处理器等硬件、通信用固件来实现。
处理部100(处理器)基于来自操作部160的操作数据、程序等,进行游戏处理、图像生成处理或声音生成处理等。处理部100以存储部170作为工作区域进行各种处理。该处理部100的功能能够利用各种处理器(CPU、GPU等),ASIC(门阵列等)等硬件、程序来实现。
处理部100包括游戏运算部102、物体空间设定部104、移动体运算部106、假想摄像机控制部108、顶点分割数设定部110、顶点分割处理部112、顶点位置运算部114、描绘部120、声音生成部130。此外可进行省略这些的构成要素(各部)的一部分、追加其他构成要素等各种变形实施方案。
游戏运算部102进行游戏运算处理。这里作为游戏运算,是在满足游戏开始条件的情况下开始游戏的处理、使游戏进行的处理、运算游戏结果的处理、或在满足游戏结束条件的情况下结束游戏的处理等。
物体空间设定部104进行配置多个物体的物体空间的设定处理。例如,进行将表示移动体(车、飞行器、人、动物、机器人、船舶等)、地图(地形)、建筑物、场地(道路)、树木、壁、水面等的显示物的各种物体(由多边形、自由曲面或细分曲面等的图元面构成的物体)配置设定在物体空间中的处理。即决定在世界坐标系的物体的位置或旋转角度(与朝向、方向同义),在该位置(X,Y,Z)以该旋转角度(绕X,Y,Z轴旋转的旋转角度)配置物体。具体而言,在存储部170的物体数据存储部172中,对应地存储作为物体(部件物体)的位置、旋转角度、移动速度、移动方向等的数据的物体数据与物体编号对应地存储。物体空间设定部104例如进行每帧地更新该物体数据的处理等。
移动体运算部106进行使车、飞行器等移动体(移动体物体)移动的控制处理。另外,进行用于使移动体动作的控制处理。即进行基于游戏者通过操作部160输入的操作数据、程序(移动·动作算法)、各种数据(运动数据)等,使移动体(物体、模型物体)在物体空间内移动、使移动体动作(运动,动画制作)的控制处理。具体而言,进行每次1帧(1/60秒)地顺次求出移动体的移动信息(位置、旋转角度、速度或加速度)、动作信息(部件物体的位置或旋转角度)的模拟处理。此外,帧是进行移动体的移动·动作处理(模拟处理)或图像生成处理的时间的单位。
假想摄像机控制部108进行用于生成从物体空间内的给定(任意)的视点都可见的图像的假想摄像机(视点,基准假想摄像机)的控制处理。具体而言,进行控制假想摄像机的位置(X,Y,Z)或旋转角度(绕X,Y,Z轴的旋转角度)的处理(控制视点位置、视线方向或者画角的处理)。
例如,在利用假想摄像机从后方拍摄移动体的情况下,以使假想摄像机追随移动体的位置或方向的变化的方式控制假想摄像机的位置(视点位置)或方向(视线方向)。在该情况下,能够基于在移动体运算部106得到的移动体的位置、方向或速度等信息控制假想摄像机。或者,也可进行使假想摄像机以预先确定的旋转角度旋转或按预先决定的移动路径移动的控制。在该情况下,基于用于指定假想摄像机的位置(移动路径)或方向的假想摄像机数据控制假想摄像机。
声音生成部130基于在处理部100进行的各种的处理的结果进行声音处理,生成BGM、效果音或声音等的游戏音,并向声音输出部192输出。
而且在本实施方式的图像生成系统中,为了生成向图1、图2的屏幕1004投影的投影图像,设置顶点分割数设定部110、顶点分割处理部112、顶点位置运算部114、描绘部120。
顶点分割数设定部110进行顶点分割数的设定处理。即,决定顶点分割数,对顶点分割处理部112指示在顶点分割处理的顶点分割数。顶点分割处理部112对物体空间内的三维物体,以在顶点分割数设定部110设定的顶点分割数进行顶点分割处理。具体而言,进行针对构成三维物体的各多边形(图元)的顶点分割处理。
顶点位置运算部114进行与三维物体对应的描绘物体(2维物体)的顶点位置的运算处理。描绘部120基于求出的顶点位置进行将描绘物体描绘于描绘缓冲器176(能够在帧缓冲器、工作缓冲器等的像素单位存储图像信息的缓冲器)的处理,生成投影到图1、图2的屏幕1004的投影图像。
具体而言,顶点位置运算部114求出连接顶点分割处理后的三维物体的顶点位置和假想摄像机的位置的直线与投影用的屏幕的交点位置。该投影用的屏幕是对应于图1、图2的屏幕1004,被配置设定于作为假想三维空间的物体空间中的投影图像生成用的假想屏幕,与该形状匹配地进行失真校正处理(也称为投影映射处理)。该投影用的屏幕能够由1个曲面或多个面(曲面,平面)构成。而且,顶点位置运算部114基于求出的交点位置,求出针对与三维物体(三维多边形)对应的描绘物体(描绘多边形)的、在描绘缓冲器176的顶点位置。此外,三维物体意味着配置于三维空间(物体空间)的物体,例如是具有三维坐标值(X,Y,Z坐标值)作为其顶点的坐标值的物体。另一方面,描绘物体例如是具有2维坐标值(X,Y坐标)作为其顶点的坐标值的物体。
描绘部120基于求出的描绘物体的顶点位置,进行将描绘物体描绘于描绘缓冲器176的处理,生成投影用的投影图像。生成的投影图像利用图1、图2的投影仪1006投影到屏幕1004。由此游戏者可看到作为游戏图像的从假想摄像机看到的物体空间的图像。
这里,设成为构成顶点分割处理的对象的三维物体内的线段的2个顶点作为第一、第二顶点,设连接第一顶点和假想摄像机的位置的第一直线与连接第二顶点和假想摄像机的位置的第二直线所成的角度为θ,设顶点分割数为m。在该情况下,顶点分割数设定部110与角度θ对应地设定顶点分割数m。
具体而言,顶点分割数设定部110在角度θ为第一角度θ1的情况下,将顶点分割数m设定为第一分割数m1。另外在角度θ为第二角度θ2(θ2<θ1)的情况下,将顶点分割数m设定为第二分割数m2(m2≦m1)。即,设定顶点分割数m,使得角度θ越小则顶点分割数m越少(角度θ越大则顶点分割数m越多)。但是,角度θ是实数,而分割数实质上是自然数,即使θ2<θ1也设m2=m1的情况较多,故记为m2≦m1。
在该情况下,顶点分割数设定部110可根据如下量的至少一个改变顶点分割数m相对角度θ的设定:对成为顶点分割处理的对象的三维物体的顶点的屏幕的投影位置、假想摄像机的位置信息、假想摄像机的位置信息的时间变化信息、投影仪的位置信息、投影仪的位置信息的时间变化信息、屏幕的形状、屏幕的形状的时间变化信息、描绘负荷、时间要素、及所述三维物体的属性的至少一个。
例如,在三维物体的顶点的对屏幕的投影位置为第一位置(例如屏幕的上方部或中央部)的情况,以及为第二位置(例如屏幕的下方部)的情况下,使顶点分割数m不同。或根据假想摄像机(游戏者视点)的位置信息或其时间变化信息改变顶点分割数m。例如在考虑假想摄像机的位置变化、游戏场景(游戏舞台)等变化的情况下,根据该变化来改变顶点分割数m。或者,根据假想摄像机的位置信息的时间变化信息(移动速度,加速度等)改变顶点分割数m。例如在假想摄像机的移动速度快的情况下使顶点分割数m变少。另外,在移动速度慢的情况下使顶点分割数m变多。
或者,根据投影仪的位置信息改变顶点分割数m,或在投影仪的位置信息动态变化的情况下,根据其位置信息的时间变化信息(移动速度等)改变顶点分割数m。或者,根据屏幕的形状改变顶点分割数m,在屏幕的形状动态变化的情况下,基于其形状的时间变化信息(形状的变化速度等)改变顶点分割数m。或者,根据在描绘部120等的描绘负荷改变顶点分割数m。例如在描绘负荷重的情况下减少顶点分割数m。另外在描绘负荷轻的情况下增加顶点分割数m。或者,基于时间经过等的时间要素改变顶点分割数m。例如,根据在游戏空间或现实空间的时间经过动态改变顶点分割数m。或者,根据三维物体的种类等的属性改变顶点分割数m。例如,使每个三维物体的顶点分割数m不同,对要求更高精细图像的三维物体(例如主要移动体)增加顶点分割数m,对不要求那样的精细度的三维物体减少顶点分割数m。
另外,如上所述地连接三维物体的第一顶点和假想摄像机的位置的第一直线与连接三维物体的第二顶点和假想摄像机的位置的第二直线所成的角度设为θ,成为顶点分割数设定的基准的角度设为ε。在此情况下,顶点分割数设定部110设定顶点分割数m使得(θ/m)<ε。即,控制顶点分割数m,使得(θ/m)不超过角度ε。
例如从假想摄像机的位置估计屏幕上的投影图像的像素的大小的角度(游戏者估计的角度)设为δ。在此情况下顶点分割数设定部110使用以角度δ为基准设定的角度ε来设定顶点分割数m。例如表达为ε=k×δ(例如k=1),将该角度ε作为顶点分割数设定的基准角度,设定顶点分割数m。
在此情况下,顶点分割数设定部110可基于如下量的至少一个改变角度ε:成为顶点分割处理的对象的三维物体的顶点的对屏幕的投影位置、假想摄像机的位置信息、假想摄像机的位置信息的时间变化信息、投影仪的位置信息、投影仪的位置信息的时间变化信息、屏幕的形状、屏幕的形状的时间变化信息、描绘负荷、时间要素、及所述三维物体的属性。
例如,在三维物体的顶点的对屏幕的投影位置为第一位置的情况和为第二位置的情况下,使角度ε不同。或者,根据假想摄像机的位置信息或其时间变化信息使角度ε不同。例如,在考虑假想摄像机的位置变化、游戏场景等变化的情况下,根据该变化来改变角度ε。或者,根据假想摄像机的位置信息的时间变化信息来时角度ε不同。例如,在假想摄像机的移动速度快的情况下增大角度ε,例如使顶点分割数m变少。另外在移动速度变慢的情况下减小角度ε,使顶点分割数m变多。此外,作为假想摄像机的位置变化的情况,除了在游戏内的假想摄像机的移动的情况外,在游戏者自身的视点位置变化的情况下,可考虑利用头部跟踪等检测该变化,并反映到假想摄像机的位置的情况等,这里可仅考虑其一个方面,也可以两个方面都考虑。例如,在认为视游戏者自身的视点位置的变化的影响小的情况,或不能够检出行游戏者自身的视点位置的情况下,可不将其反映到假想摄像机的位置。或者,根据投影仪的位置信息改变角度ε,或在投影仪的位置信息动态变化的情况下,根据其位置信息的时间变化信息改变角度ε。或者,根据屏幕的形状改变角度ε,或在屏幕的形状动态变化的情况下,基于其形状的时间变化信息改变角度ε。或者,根据在描绘部120等的描绘负荷使角度ε不同。例如,在描绘负荷重的情况下,增大角度ε,使顶点分割数m变少。另外在描绘负荷轻的情况下,减小角度ε,使顶点分割数m增大。或者,基于时间经过等的时间要素改变角度ε。例如,根据游戏空间或现实空间的时间经过动态改变角度ε。或者,根据三维物体的种类等的属性使角度ε不同。例如,对于每个三维物体使角度ε不同,对要求更高精细度的图像的三维物体,减小角度ε,使顶点分割数m变大,对不要求那样的精细度的三维物体增大角度ε,减少顶点分割数m。
另外,描绘部120通过在假想摄像机的视点坐标系描绘与屏幕的形状对应的屏幕模型物体,生成对每个像素设定了深度值的深度图像、或对每个屏幕模型物体的顶点设定了深度值的网孔信息(メッシュ情報)。例如,通过在假想摄像机的视点坐标系描绘屏幕物体,在Z缓冲器178生成深度图像。而且,顶点位置运算部114将三维物体的顶点的第一、第二坐标用射影变换矩阵变换至视点坐标系。而且,通过基于变换后的第一、第二坐标(X,Y坐标)参考深度图像的深度值(Z值),求出和屏幕的交点位置。
2.本实施方式的方式
接着具体说明本实施方式的方式(图像生成方法)。此外,以下主要以投影用的屏幕为曲面的屏幕(穹顶状的屏幕)的情况为例进行说明,但并不限于本实施方式。投影用的屏幕是指所有并非单一平面的屏幕。例如投影用的屏幕只要是由1个曲面或多个面(平面,曲面)构成的屏幕即可。即,作为该屏幕,可假设由1个曲面构成的屏幕、由多个平面构成的屏幕、由多个曲面构成的屏幕、由多个平面及曲面构成的屏幕等。
2.1以像素单位的失真校正方式
在将图像投影到穹顶状(曲面)的屏幕的情况下,投影仪的位置与游戏者(观察者)的位置分离时,图像的失真变得显眼起来。因此,通过预先考虑该失真来生成来自投影仪的投影图像(在投影仪的描绘缓冲器描绘的图像),可呈现从游戏者看来无失真的影像。
在此情况下,若屏幕是单一的平面,则失真变为线性的(因立体图(パース)导致的失真),仅使用1个射影变换矩阵就可简单地校正。
然而,在非单一平面屏幕(由1个曲面或多个面构成的屏幕)的情况下,由于施加了非线形的失真,故以仅使用一个射影变换矩阵这样的简单校正方式,不能够校正失真,需要根据图像的部分进行细致的校正。
作为实现这样的失真校正的方式,可考虑按描绘缓冲器的像素单位进行失真校正的方式和按三维物体的顶点单位进行失真校正的方式。首先,对按像素单位的失真校正方式进行说明。
在按描绘缓冲器的像素单位的失真校正方式中,如图4那样,依次进行下述所示的(1)、(2)、(3)、(4)的处理。
(1)求出描绘缓冲器(帧缓冲器)上的像素PX(XP,YP)通过投影仪的透镜而射出的光线RY。
(2)求出该光线RY与屏幕SC相交的交点PS(XS,YS,ZS)的位置。例如在屏幕SC用椭圆面的方程式等的数学式表达的情况下,使用表示直线RY的数学式和表示屏幕SC的数学式求出交点PS。
(3)该交点PS(XS,YS,ZS)的颜色必须是游戏者(观察者)观察物体空间(假想空间)时的颜色。因此,求出连结与游戏者的代表视点对应的假想摄像机VC的位置VP和连结交点PS(XS,YS,ZS)的位置的直线LV。
(4)以该直线LV作为视线,从物体空间的信息确定描绘缓冲器上的投影图像的像素的颜色。例如,求出在物体空间最初到达的三维物体OB上的点PB(XB,YB,ZB)的位置,根据它来确定描绘缓冲器上的投影图像的像素的颜色。
在该情况下,在按像素单位的失真校正方式的改良方式中,在上述的最后的(4)中,不是求出直线LV与三维物体OB的交点PB(XB,YB,ZB)的颜色,而是使用与预先描绘的平面(渲染纹理)的交点(渲染纹理的坐标为(U,V))的颜色,确定投影图像的像素的颜色。渲染纹理能够如下地生成:预先选择应成为投影面的近平面(以下,称为代理平面),在其上进行通常的描绘方法,即,进行以平面为投影面的描绘。
在图5示出这样的代理平面PL1、PL2的一个例子。点PP是直线LV和代理平面PL1(PL2)的交点。
渲染纹理的参照位置只要视点、投影仪的位置未变化,只要在最初计算一次即可。作为保持该数据的代表性方法,有这样的方法:将对描绘缓冲器的每1像素参照渲染纹理的哪一位置(U,V)的像素值保持为1块纹理。称该纹理为“UV图”。在图6示出投影仪的描绘缓冲器与UV图的渲染纹理的关系。
对描绘缓冲器上的全部像素求出图6的渲染纹理的对应点(UV坐标)并保持,需要极大的资源。在没有准备该大资源的余裕的情况下,对适当配置在屏幕SC上的代表顶点,求出描绘缓冲器上的对应点(XP,YP)和渲染纹理上的对应点(U,V),制作连接它们的三角多边形的网孔。而且,在描绘三角多边形时,参照在三角多边形的顶点上作为信息记录的(U,V)坐标,对三角多边形内部的点使用从它们插值的(U,V)坐标。这样可大幅地节约资源。
接下来,作为按像素单位的失真校正方式所共有的问题点,可例举画质(分辨率)局部下降的情况。即,如图7的G1所示,对屏幕SC的面的法线NS1与代理平面PL的法线NP相同或与其接近的状态下的部分,保持高画质。然而,如图7的G2所示,屏幕SC的面的法线NS2和代理平面PL的法线NP的方向偏离,则画质的下降变得显著起来。
这是因为,如图8所示,随着法线的方向偏离,在投影仪PJ的描绘缓冲器上邻接的像素,在描绘代理平面PL的渲染纹理上未邻接,该偏离方向也变大。在渲染纹理上的像素的偏离方向变大时,双线性等的像素插值不能有效地工作,成为有明显锯齿的图像。
作为解决这样的问题的方式,考虑增加代理平面的数量的方式。然而,采用该方式时,需要按代理平面增加的量来增加描绘次数,描绘负荷变得过大。
2.2按顶点单位的失真校正方式
接着对按描绘物体的顶点单位进行失真校正的方式进行说明。在该方式中,将物体空间内的三维物体的顶点变换为投影仪的描绘缓冲器上的点。具体而言,依次进行图9、下述所示的(1)、(2)、(3)、(4)的处理。这相当于按相反的顺序进行图4的方式的处理。
(1)求出连接物体空间内的三维物体OB的顶点V(XV,YV,ZV)的位置和与游戏者的代表视点对应的假想摄像机VC的位置VP的直线LV。
(2)求出所求得的直线LV和屏幕SC的交点PS(XS,YS,ZS)的位置。在例如屏幕SC用椭圆面的方程式等的数学式表达的情况下,使用表示直线LV的数学式和表示屏幕SC的数学式求出交点PS。
(3)求出连接交点PS(XS,YS,ZS)的位置和投影仪JP的位置的直线LR。
(4)求出与直线LR对应的描绘缓冲器上的点PD(XD,YD)的位置。该点PD相当于与三维物体OB对应的描绘缓冲器上的描绘物体OBD的顶点。此外,在从直线LR求出点PD时,使用投影仪PJ的透镜的特性、配置等光学系统的信息。
以后,通过进行连接描绘物体OBD的顶点和顶点并涂色的光栅化处理,能够在描绘缓冲器上生成投影图像。
在按该顶点单位的失真校正方式中,将三维物体OB的顶点一个个地坐标变换为描绘缓冲器上的点。例如,在图10中,对连接物体空间内的点P1和点P2的直线LN(线段),将该点P1、P2分别坐标变换到描绘缓冲器上的点。其后,点P1、P2之间在描绘缓冲器上作为直线进行描绘处理。即在图10的A1中,描绘缓冲器上的点PD1是对物体空间内的点P1进行坐标变换的点,描绘缓冲器上的点PD2是对物体空间内的点P2进行坐标变换的点。因此,在物体空间内的直线LN,作为在描绘缓冲器上连接点PD1和PD2的直线LND而描绘。
然而,在投影用的屏幕SC不是平面的情况下,如图10的A2所示,物体空间内的直线LN在描绘缓冲器上未成为直线,而成为曲线CV。因此,使用A1所示的直线插值作为描绘缓冲器上的插值时,游戏者观察其为失真的图像。为了使物体空间内的直线LN在游戏者看到时也是作为直线而被观察到,需要将直线LN如图10的A2所示那样在描绘缓冲器上描绘为曲线CV。因此,例如细致地分割物体空间内的直线LN,如A3所示,通过将分割后的全部的点在描绘缓冲器上进行坐标变换并连接,物体空间内的直线LN在游戏者看到时也被作为直线而观察到。而且,为了不失真地观察多边形内部的纹理,需要对多边形内部也进行充分细致的分割。
然而,将构成三维物体(模型物体)的大多边形预先细致分割是非常费事的,且存在数据量也增加的问题。而且,在三维物体在远位置而看起来小的状态下,将多边形细致分割是无谓的,造成增加了在描绘时的不必要的负荷。
2.3采用GPU的着色器程序的变迁
以往的采用GPU的着色器程序的模型,采用顶点着色器和像素着色器。顶点着色器将描绘物体的物体空间内的(X,Y,Z)坐标变换为描绘平面的(X,Y)坐标。其后,基于该坐标值进行光栅化处理,对每一个成为处理对象的像素,像素着色器参照与(X,Y)对应的纹理坐标(U,V)的颜色等确定最终的像素的颜色。例如,上述的按像素单位的失真校正方式是利用像素着色器的方式,而按顶点单位的失真校正方式是利用顶点着色器的方式。
而且,在现有的GPU(根据DirectX11)中,如图11所示,在顶点着色器210进行处理后,在向光栅器218移交(X,Y)坐标前的阶段,增加有外壳着色器(ハル·シェーダ)212、曲面细分器(テッセレータ)214、域着色器216、几何着色器217等的各着色器。利用这些追加的新的功能,根据需要可在描绘时增加顶点,细致地分割多边形等。
2.4顶点分割处理应用至按顶点单位的校正处理
因此,在本实施方式中,对按顶点单位的失真校正方式,应用作为对GPU中新追加的功能的顶点分割处理(曲面细分)等,解决在图10中说明的问题点。
具体而言,首先,图3的顶点分割数设定部110进行顶点分割数的设定处理。该顶点分割数设定部110能够利用例如图11的外壳着色器212实现。该外壳着色器212是可编程着色器,能够利用着色器语言编程各种处理来实现。
接着,顶点分割处理部112对物体空间内的三维物体(三维多边形)按设定的顶点分割数进行顶点分割处理(曲面细分)。该顶点分割处理部112能够利用例如图11的曲面细分器214实现。此外作为对于曲面细分器214的分割数的设定,有在多边形的边缘的分割数的设定和在多边形内部的分割数的设定。在映射至多边形的纹理因与图10同样的理由而失真的情况下,将多边形内部的分割数设定为大的值即可。
接着,顶点位置运算部114求出连接顶点分割处理后的三维物体的顶点位置与假想摄像机的位置的直线与投影用的屏幕的交点位置。即进行与图9的(1)、(2)对应的处理。然后,顶点位置运算部114基于交点位置(图9的PS),求出关于与三维物体(OB)对应的描绘物体(OBD)的、在描绘缓冲器的顶点位置(PD)。即进行与图9的(3)、(4)对应的处理。该顶点位置运算部114能够利用例如图11的域着色器216实现。域着色器216也是可编程着色器,能够利用着色器语言编程各种处理来实现。此外,求出连接三维物体的顶点位置和假想摄像机的位置的直线以及求出与投影用的屏幕的交点位置的处理等,在例如假想摄像机的摄像机坐标系(视点坐标系)中执行。
然后,最后描绘部120基于求出的描绘物体的顶点位置,进行将描绘物体描绘至描绘缓冲器176的处理,生成投影用的投影图像。即,进行连接在描绘缓冲器中射影的描绘物体的顶点和顶点并涂色的光栅化,生成投影图像。该描绘部120能够利用例如图11的光栅器218、像素着色器220实现。
这样,在本实施方式中,有效地利用对GPU新添加的功能,解决了在图10中说明的按顶点单位的失真校正方式中的问题点。由此,例如,即使不准备将三维物体预先分割成多个小多边形的数据,通过利用曲面细分在描绘时动态地进行顶点分割处理,也能够生成校正了失真且抑制了画质的降低的投影图像。即,可抑制数据量的增加、处理负荷的增加并生成失真少且高画质的投影图像。
此外,在本处理中,几何着色器217并非必须的,当然可在进行另外的处理的情况等中,与本处理并用而灵活应用。
2.5顶点分割数的设定
接着,说明本实施方式的顶点分割数的设定方式的细节。如上所述,在以顶点单位进行的失真校正方式中应用顶点分割处理的情况下,存在确定将顶点分割数设定成多细致的程度才足够的基准不明的课题。
因此在本实施方式中,作为确定这样的顶点分割数的基准的方式,采用以下说明的方式。
例如在图12中,成为构成顶点分割处理的对象的三维物体OB内的线段的2个顶点设为第一、第二顶点V1、V2。此外,在本实施方式中为了说明的简单化,以三维物体OB由1个四角形的多边形构成的情况为例进行说明。另外,连接第一顶点V1和假想摄像机VC的位置VP的第一直线LN1,与连接第二顶点V2和假想摄像机VC的位置VP的第二直线LN2所成的角度设为θ,设顶点分割数为m。
在该情况下,在本实施方式中,根据角度θ设定顶点分割数m。例如角度θ大的话,则增加顶点分割数m,角度θ小则减少顶点分割数m。
例如在图13(A)中,角度θ=θ1,在图13(B)中角度θ=θ2。而且在第一角度θ1和第二角度θ2之间,θ2<θ1的关系成立。
在该情况下,在本实施方式中,在角度θ=θ1的情况下,将顶点分割数m设定为第一分割数m1,在角度θ=θ2的情况下,设顶点分割数m与第一分割数m1相同,或比其少的第二分割数m2。例如在图13(A)中m=m1=3,在图13(B)中m=m2=2,m2≦m1的关系成立。即在图13(A)中,构成三维物体OB内的线段的第一、第二顶点V1、V2被分割成3份,生成新的顶点V11,V12。另一方面,在图13(B)中,三维物体OB的第一、第二顶点V1、V2被分割成2份,生成新的顶点V11。此外,与角度θ是实数相对,由于分割数m实质上是自然数,即使θ2<θ1而m2=m1的情况也较多,故关系式为m2≦m1。
这样的话,如图13(A)那样,对配置在接近假想摄像机VC的位置的三维物体OB,顶点分割数m(多边形分割数)变多,如图13(B)那样,对配置在远离假想摄像机VC的位置的三维物体OB,产生顶点分割数m变少的结果。因此,存在能够得到LOD(Level of Detail,细节级别)的效果,并且能够提高描绘效率的优点。
另外,在图14中,引入作为顶点分割数设定的基准的角度ε(视角),决定分割数m。即如图14所示,设定(确定)顶点分割数m,使得(θ/m)<ε的关系式成立。例如在图13(A)中,θ为大角度θ1,为了使(θ/m)<ε的关系式成立,将顶点分割数m设为大的值,使得m=m1=3。另一方面,在图13(B)中,θ为小的角度θ2,故为了使(θ/m)<ε的关系式成立,将顶点分割数m设定为小的值,使得m=m2=2。
这样以角度ε为基准来设定顶点分割数m,能够用简单的处理实现顶点分割数m的设定处理,如图13(A)、图13(B)所示那样,也可得到LOD的效果等。
这里,如图15所示那样,优选将从假想摄像机VC的位置估计在屏幕SC的投影图像的像素PX的大小的角度δ设为基准来设定角度ε。例如在图15中设定ε=δ。然后使用以角度δ为基准设定的角度ε来设定顶点分割数m。
例如以ε=k×δ(例如k≦1)的关系式设定ε。具体而言,如图15所示那样设定ε=δ(k=1)。或者,也可设定ε=δ/2(k=1/2)。这样基于角度δ设定角度ε的理由是,存在以下的可能性:即使进行从假想摄像机VC估计的角度变为比1像素小的角度的顶点分割处理,也是仅增大处理负荷而在实现失真校正、高画质化上毫无意义的处理。另外,若以画质为优先则设k≦1也是适当的,但在以处理速度优先的情况下,当然设k>1也无妨。
此外,如图16的C1、C2所示,在屏幕SC上的投影图像的像素的大小因对屏幕SC的投影位置不同而不同。例如如图16的C2所示,在从投影仪PJ到屏幕SC的距离远的情况下,与C1所示的距离近的情况相比,在屏幕SC上的投影图像的像素的大小变大。因此,关于从假想摄像机VC估计投影图像的像素的大小的角度δ,也由于投影仪PJ和假想摄像机VC在不同位置,故在C1的情况和在C2的情况不同,在C1中δ=δ1,在C2中δ=δ2,δ1<δ2的关系式成立。
这样,投影图像的像素的大小随对屏幕的投影位置不同而不同,所以优选也根据投影位置而改变角度ε。具体而言,根据成为顶点分割处理的对象的三维物体的顶点对屏幕的投影位置,改变角度ε(顶点分割数)。例如在C1的投影位置中减少角度ε,在C2的投影位置中增大角度ε。
这样,若使角度ε可变,在例如更换投影仪PJ等而分辨率变化的情况下,也可进行足够充分地发挥投影仪PJ的性能(分辨率)的描绘。
在该情况下,例如,可基于假想摄像机VC的位置信息、其时间变化信息、或描绘负荷,改变角度ε(顶点分割数)。例如,在考虑假想摄像机VC的位置变化、游戏场景(游戏舞台)变化的情况下,设定为适合于该游戏场景的角度ε。另外,根据假想摄像机VC的移动速度(位置信息的时间变化信息)、描绘负荷,改变角度ε(顶点分割数)。例如,如上述那样,在表达为ε=k×δ的情况下,在假想摄像机VC(为主角摄像机,其位置设定可用头部跟踪等检测游戏者的视点位置而进行反映)的移动速度变快的情况、描绘负荷加重的情况下,增大k并增大角度ε。如上所述,在利用(θ/m)<ε的关系式设定顶点分割数m的情况下,若增大角度ε,则对相同角度θ,将顶点分割数m设定为小的值。因此,在不追求高画质的场景下,可维持高帧率。相反,在比较缓慢的摄像机工作场景等与追求高帧速相比更追求画质的场面下,可减小k并减小角度ε。
或者,可根据投影仪的位置信息及其时间变化信息、屏幕的形状及其时间变化信息来改变角度ε(顶点分割数)。例如,若根据投影仪的位置信息改变角度ε,则能够设定与投影仪的设置位置等对应的最佳角度ε。另外若根据投影仪的位置信息、其时间变化信息、屏幕的形状、其时间变化信息设定角度ε,在对例如建筑物等的构造物的投影映射中,可进行灵活的应对。例如,在作为投影映射的对象的构造物的形状等动态变化的情况下,也能够对其进行应对。
另外,可根据时间要素、三维物体的属性改变角度ε(顶点分割数)。这样,例如可根据游戏空间中的时间经过、在游戏中登场的三维物体的属性(种类)等,使角度ε变化,能够提供适于游戏用的投影图像的生成等的方式。
接着,使用图17的流程图说明本实施方式的处理(图像生成方法)的详细例子。
首先,基于顶点的对屏幕的投影位置、假想摄像机的位置信息或其时间变化信息、投影仪的位置信息或其时间变化信息、屏幕的形状或其时间变化信息、描绘负荷、时间要素或三维物体的属性等设定角度ε(步骤S1)。而且基于角度ε设定顶点分割数(步骤S2)。
接着,按设定的顶点分割数进行顶点分割处理(步骤S3)。然后,求出连接顶点分割处理后的三维物体的顶点位置和假想摄像机的位置的直线与屏幕的交点位置(步骤S4)。
接着,基于求出的交点位置求出在描绘缓冲器的描绘物体的顶点位置(步骤S5)。而且,基于求出的顶点位置进行光栅化,生成投影图像(步骤S6)。
此外,本实施方式的方式也能够适用于立体视图用的投影图像的生成。例如在生成立体视图用的投影图像的情况下,如图18(A)所示,准备左眼用假想摄像机VCL(广义上为第一视点用假想摄像机)和右眼用假想摄像机VCR(广义上为第二视点用假想摄像机)。然后,分别使用左眼用假想摄像机VCL、右眼用假想摄像机VCR,利用在本实施方式说明的方式生成投影图像,能生成立体视图用的投影图像。
左眼用假想摄像机VCL、右眼用假想摄像机VCR的位置可利用头部跟踪等检测游戏者的左眼及右眼的位置来设定。
另外,即使在不能够进行游戏者的左眼及右眼的位置的检测的情况下,根据成为描绘对象的三维物体的投影位置,也能够在某种程度上推测游戏者的视点位置,所以能与其匹配地设定左眼用假想摄像机VCL、右眼用假想摄像机VCR的位置。例如,如图18(B)、图18(C)所示,可根据成为描绘对象的三维物体的投影位置改变左眼用假想摄像机VCL、右眼用假想摄像机VCR的位置(视点位置)。
例如,考虑到对于投影到图18(B)的D1所示的投影位置的三维物体,看到它的游戏者(视听者)也面向D1所示的投影位置的方向。因此,如图18(B)所示,设定左眼用假想摄像机VCL、右眼用假想摄像机VCR的位置,生成立体视图用的投影图像。
同样,考虑到对于投影到图18(C)的D2所示的投影位置的三维物体,看到它的游戏者也面向D2所示的投影位置的方向。因此,如图18(C)所示,设定左眼用假想摄像机VCL、右眼用假想摄像机VCR的位置而生成立体视图用的投影图像。这样,能够生成与游戏者的视线方向等对应的最佳投影图像。
此外,作为实际观察立体视图影像的手段,可考虑眼镜方式(具体而言,偏振方式、时分方式、分光方式等)及裸眼方式等。它们各有特征,有利及不利的环境条件也各不相同。在实施时,根据屏幕的形状、显示内容、相互作用的特征等的环境条件使用适当的方式即可。
2.6实时投影映射
接着,对从模型数据高速且准确地生成投影映射用的变换数据的方式进行说明。
为了简化说明,考虑如图19(A)所示的模型。设投影用的屏幕为立方体形状。当然,假设实际的屏幕是更复杂的形状。称该屏幕为立体屏幕SCS。另外,要显示的假想物体OBS是球状的物体,用多边形的网孔表示。而且如图19(B)所示,希望描绘假想物体OBS,使得它看起来像进入了立体屏幕SCS中。
接下来,穹顶投影能够通过使用椭圆面作为屏幕形状来近似的情况较多,椭圆面的数学式简单,故容易求出与视线的交点、与投影仪的投射直线的交点等。然而,在一般性投影映射的情况下,存在立体屏幕的形状模型不能够用简单的数学式表示的情况较多的问题。另外,即使是穹顶投影的情况,由于制造上的状况等,也有与椭圆面部分地形状不同的情况,存在对该部分难以进行失真校正的问题。
为了解决这样的问题,在进行对建筑物等的投影映射时,常常使用实际试映投影图像而调整的方式。
例如与在图5中说明的穹顶投影的情况相同,适当选择用于临时投影假想物体的代理平面。然后根据游戏者(观察者)的位置生成将立体屏幕的形状渲染(レンダリング)到代理平面的图像。此时,生成明确强调立体屏幕的形状的边缘的图像后,后续的调整比较容易。
将该图像实际地从投影仪投向屏幕。在该情况下,从游戏者的位置来看,投影到立体屏幕的边缘偏移。因此,以该边缘完全匹配的方式,用编辑软件移动图像上的顶点。该移动的图像,成为在上述的2.1说明的使网孔的顶点和UV坐标对应的数据(这里称其为“网孔状的UV图”)。以后,以代理平面作为射影面来普通地渲染CG图像,用投影仪放映使用“网孔状的UV图”变换的图像即可。
作为该方式的问题点,可举出每次为了在那里匹配,在准备上要花费时间和劳力。另外,在立体屏幕是带有复杂的凹凸的形状的情况下,用于调整的顶点数变多,更加费事。或者,存在复杂的凹凸部分的校正的精度下降的问题。
因此,在本实施方式中,在预先知道立体屏幕SCS的形状作为形状数据的情况下,无需进行逐一手动调整顶点来匹配的麻烦,就能提供高速且准确地进行失真的校正的方式。这里,对适用于图9的以顶点单位进行失真校正的情况的方式进行说明。在该方式中,依次执行图20、下述所示的(1)、(2)、(3)、(4)、(5)的处理。
(1)将假想摄像机VC置于游戏者的代表视点的位置,设定代理平面PLS,用Z缓冲器法渲染立体屏幕SCS的形状。此时,在Z缓冲器中,从假想摄像机VC的位置到立体屏幕SCS的距离作为深度图像而残留,所以此后能够求出立体屏幕SCS的面的空间坐标。将这作为纹理被保持起来。
(2)用与在(1)中进行渲染时的射影变换矩阵相同的射影变换矩阵变换假想物体OBS的各顶点(X,Y,Z),来求出在(1)中要保持的纹理上的位置(X1,Y1)。
(3)如果参照与位置(X1,Y1)对应的纹理上的空间坐标值,则获知各顶点和立体屏幕SCS的交点的空间坐标。
(4)求出连接在上述的(3)中求出的交点和投影仪PJ的直线LPS,计算与其对应的描绘缓冲器上的位置(X,Y)。
(5)这样,能将各顶点的位置变换到描绘缓冲器上的位置(X,Y),所以将其转移至光栅器,进行通常的渲染处理,生成投影图像并利用投影仪PJ进行投影。在该情况下适当进行作为假想物体OBS的多边形的顶点分割处理的曲面细分。
这样在图20的方式中,通过在假想摄像机(VC)的视点坐标系描绘与屏幕的形状对应的屏幕模型物体(SCS),生成对每个像素或对屏幕模型物体的每个顶点设定了深度值(Z值)的深度图像(Z缓冲器的纹理)。然后,将三维物体(OBS)的顶点的第一、第二坐标((X,Y))通过射影变换矩阵变换至视点坐标系(VC的坐标系),基于变换后的第一、第二坐标((X1,Y1))参照深度图像(Z缓冲器的纹理)的深度值,求出与屏幕(SCS)的交点位置。
此外,实际上,由于立体屏幕的设置引起的位置、角度的偏移,以及游戏者的位置、投影仪的位置的偏移难以进行精确校正。因此,与上述的方式同样,优选渲染立体屏幕的边缘显眼的图像,用投影仪放映它来进行调整。
然而,在本实施方式的方式中,只要立体屏幕的形状数据是某种程度准确的,则可利用立体屏幕的位置和方向、投影仪的位置和方向、游戏者的代表视点的位置之类的少数参数进行调整。特别是,在立体屏幕的形状复杂的情况下,顶点的数量较多,与以顶点为调整点逐个动态进行调整相比,能够以极少的工夫、时间来进行调整。
另外,作为以往使用的另外的方法,有如下方法:通过距离测量机等测量投影用的屏幕的形状来生成形状数据,与本实施方式同样地进行失真校正。然而在该情况下,存在这样的缺点:由于包含有测量上的误差,故难以取得准确的形状数据,结果不能够准确地进行失真校正。测量上花时间的话,能够提高形状数据的精度,但在投影用的屏幕的形状变化的情况下,难以实时地获得准确的失真校正数据。若预先得到准确的形状数据、运动的信息,则通过采用本实施方式的方法,可实时地进行失真校正,即可进行投影映射。
这样,依据图20所示的本实施方式的方式,有如下的优点:能够在一瞬间(1次渲染)进行以往必须花长时间进行的、调整用的图的生成。作为发挥该优越性的例子,可举出立体屏幕、投影仪、游戏者的3者中的任一个或多个同时运动的情况。
若能活用运动传感器、头部跟踪系统准确地求出3者的位置、方向,则可考虑以下的应用。
例如将手办(フィギュア)或塑料模型等作为立体屏幕使用,承载于旋转台上,投影与其旋转角度对应的校正图像。
或者,让机器人成为立体屏幕。从机器人动作时的关节的角度等求出那时的准确形状(顶点的位置),投影与其对应的校正图像。
或者,配置多个投影仪,使得对立体屏幕旋转也不会产生阴影。通过对游戏者进行头部跟踪,投影与运动对应的校正图像,使得即使围绕立体屏幕也能自然地看到。
或者,游戏者持有手电筒型投影仪(或戴上装备了头灯状的投影仪的头盔),在对屋中的物体照射光的吸引(attraction)中投影与游戏者的位置及投影仪的位置和方向对应的校正图像。
此外,在图20中,说明了对以三维物体的顶点为单位进行的失真校正方式应用根据模型数据生成投影映射用的变换数据的方式的例子,该方式也可应用于在图4中说明的按描绘缓冲器的像素单位的失真校正方式。
此外,详细地说明了如上所述本实施方式,但本领域技术人员很容易理解的是,可进行并未实际脱离本发明的新的事项及效果的诸多变形。因此,这样的变形例全包括在本发明的范围内。例如,在说明书或附图中,至少一次与更广义或同义的不同术语一起记载的术语,在说明书或附图的任何部位都能置换为该不同术语。另外,顶点分割数的设定方式、顶点分割处理方式、顶点位置的运算方式、角度ε的设定方式等并不限于在本实施方式中所说明的,与这些等同的方式也包含在本发明的范围中。另外,本发明能够适用于各种的游戏。另外,本发明能够适用于业务用游戏系统、多个游戏者参加的大型吸引系统等的各种的图像生成系统。
[附图标记说明]
SC 屏幕,PJ 投影仪,VC 假想摄像机,VP 假想摄像机的位置,OB三维物体,OBD 描绘物体,LV,LR 直线,
V 顶点,PS 交点,LN1,LN2 第一,第二直线,θ,ε 角度,
1 游戏系统,100 处理部,102 游戏运算部,
104 物体空间设定部,106 移动体运算部,108 假想摄像机控制部,110 顶点分割数设定部,112 顶点分割处理部,114 顶点位置运算部,
120 描绘部,130 声音生成部,
160 操作部,170 存储部,172 物体数据存储部,
176 描绘缓冲器,178 Z缓冲器,180 信息存储介质,190 显示部,192 声音输出部,194 辅助存储装置,196 通信部,
1002 游戏者座椅,1004 屏幕,1006 投影仪,
1008 手柄,1009 刹车踏板,1010 加速踏板,
1012 支柱,1014 筺体帧,1020 控制基板

Claims (9)

1.一种图像生成系统,其特征在于,包括:
顶点分割数设定部,进行顶点分割数的设定处理;
顶点分割处理部,对物体空间内的三维物体,以由所述顶点分割数设定部设定的所述顶点分割数进行顶点分割处理;
顶点位置运算部,求出连接所述顶点分割处理后的所述三维物体的顶点位置和假想摄像机的位置的直线与投影用的屏幕的交点位置,基于求出的所述交点位置,求出关于与所述三维物体对应的描绘物体的、在描绘缓冲器的顶点位置;以及
描绘部,基于求出的所述描绘物体的所述顶点位置,进行将所述描绘物体描绘于所述描绘缓冲器的处理,生成投影用的投影图像,
其中,在将构成作为所述顶点分割处理的对象的所述三维物体内的线段的2个顶点设为第一顶点和第二顶点、连接所述第一顶点和所述假想摄像机的位置的第一直线与连接所述第二顶点和所述假想摄像机的位置的第二直线所成的角度设为θ、所述顶点分割数设为m、作为顶点分割数设定的基准的角度设为ε的情况下,所述顶点分割数设定部设定所述顶点分割数m,使得(θ/m)<ε。
2.根据权利要求1所述的图像生成系统,其特征在于,
在将构成作为所述顶点分割处理的对象的所述三维物体内的线段的2个顶点设为第一顶点和第二顶点、连接所述第一顶点和所述假想摄像机的位置的第一直线与连接所述第二顶点和所述假想摄像机的位置的第二直线所成的角度设为θ、所述顶点分割数设为m的情况下,
所述顶点分割数设定部根据所述角度θ设定所述顶点分割数m。
3.根据权利要求2所述的图像生成系统,其特征在于,
在所述角度θ是第一角度θ1的情况下,所述顶点分割数设定部将所述顶点分割数m设为第一分割数m1,在所述角度θ为第二角度θ2(θ2<θ1)的情况下,所述顶点分割数设定部将所述顶点分割数m设为第二分割数m2(m2≦m1)。
4.根据权利要求2所述的图像生成系统,其特征在于,
所述顶点分割数设定部根据作为所述顶点分割处理的对象的所述三维物体的顶点的对所述屏幕的投影位置、所述假想摄像机的位置信息、所述假想摄像机的所述位置信息的时间变化信息、投影仪的位置信息、所述投影仪的所述位置信息的时间变化信息、所述屏幕的形状、所述屏幕的所述形状的时间变化信息、描绘负荷、时间要素及所述三维物体的属性中的至少一个改变所述顶点分割数m相对于所述角度θ的设定。
5.根据权利要求1所述的图像生成系统,其特征在于,
在将从所述假想摄像机的位置估计在所述屏幕上的所述投影图像的像素的大小的角度设为δ的情况下,
所述顶点分割数设定部使用以所述角度δ为基准设定的所述角度ε来设定所述顶点分割数m。
6.根据权利要求1所述的图像生成系统,其特征在于,
所述顶点分割数设定部根据作为所述顶点分割处理的对象的所述三维物体的顶点的对所述屏幕的投影位置、所述假想摄像机的位置信息、所述假想摄像机的所述位置信息的时间变化信息、投影仪的位置信息、所述投影仪的所述位置信息的时间变化信息、所述屏幕的形状、所述屏幕的所述形状的时间变化信息、描绘负荷、时间要素及所述三维物体的属性中的至少一个来改变所述角度ε。
7.根据权利要求1至6的任一项所述的图像生成系统,其特征在于,
所述描绘部通过在所述假想摄像机的视点坐标系描绘与所述屏幕的形状对应的屏幕模型物体,生成对每个像素或对所述屏幕模型物体的每个顶点设定了深度值的深度图像,
所述顶点位置运算部通过至所述视点坐标系的射影变换矩阵变换所述三维物体的顶点的第一坐标和第二坐标,基于变换后的所述第一坐标和所述第二坐标参照所述深度图像的所述深度值,求出与所述屏幕的所述交点位置。
8.根据权利要求1至6中任一项所述的图像生成系统,其特征在于,
所述屏幕是由1个曲面或多个面构成的屏幕。
9.一种图像生成方法,其特征在于,包括:
顶点分割数设定步骤,进行顶点分割数的设定处理;
顶点分割处理步骤,对物体空间内的三维物体,以由所述顶点分割数设定步骤设定的所述顶点分割数进行顶点分割处理;
顶点位置运算步骤,求出连接所述顶点分割处理后的所述三维物体的顶点位置和假想摄像机的位置的直线与投影用的屏幕的交点位置,基于求出的所述交点位置,求出关于与所述三维物体对应的描绘物体的、在描绘缓冲器的顶点位置;以及
描绘步骤,基于求出的所述描绘物体的所述顶点位置,进行将所述描绘物体描绘到所述描绘缓冲器的处理,生成投影用的投影图像,
其中,在将构成作为所述顶点分割处理的对象的所述三维物体内的线段的2个顶点设为第一顶点和第二顶点、连接所述第一顶点和所述假想摄像机的位置的第一直线与连接所述第二顶点和所述假想摄像机的位置的第二直线所成的角度设为θ、所述顶点分割数设为m、作为顶点分割数设定的基准的角度设为ε的情况下,所述顶点分割数设定部设定所述顶点分割数m,使得(θ/m)<ε。
CN201410124526.0A 2013-03-29 2014-03-28 图像生成系统及图像生成方法 Active CN104077801B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2013075247A JP6153366B2 (ja) 2013-03-29 2013-03-29 画像生成システム及びプログラム
JP2013-075247 2013-03-29

Publications (2)

Publication Number Publication Date
CN104077801A CN104077801A (zh) 2014-10-01
CN104077801B true CN104077801B (zh) 2018-12-28

Family

ID=50737617

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410124526.0A Active CN104077801B (zh) 2013-03-29 2014-03-28 图像生成系统及图像生成方法

Country Status (4)

Country Link
US (1) US9495799B2 (zh)
JP (1) JP6153366B2 (zh)
CN (1) CN104077801B (zh)
GB (1) GB2514664B (zh)

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018501834A (ja) * 2014-11-27 2018-01-25 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 投影画像における介入器具の位置を決定する装置
GB2540983B (en) * 2015-08-03 2017-11-29 Advanced Risc Mach Ltd Graphics processing
US10726619B2 (en) * 2015-10-29 2020-07-28 Sony Interactive Entertainment Inc. Foveated geometry tessellation
CN105719233B (zh) * 2016-01-21 2018-09-04 万云数码媒体有限公司 一种平面游戏转立体的顶点位置横向变换方法
JP6416805B2 (ja) * 2016-02-09 2018-10-31 株式会社ユニバーサルエンターテインメント 遊技機の製造方法
US10692050B2 (en) 2016-04-06 2020-06-23 American International Group, Inc. Automatic assessment of damage and repair costs in vehicles
US11144889B2 (en) * 2016-04-06 2021-10-12 American International Group, Inc. Automatic assessment of damage and repair costs in vehicles
CN106210859B (zh) * 2016-08-11 2020-03-27 合一网络技术(北京)有限公司 全景视频渲染方法和装置
CN108307089B (zh) * 2017-01-13 2020-06-12 联发科技股份有限公司 扭曲画面校正装置及方法
JP2020098945A (ja) * 2017-04-05 2020-06-25 シャープ株式会社 映像生成装置、映像生成方法および映像生成プログラム
DE102018130770A1 (de) 2017-12-13 2019-06-13 Apple Inc. Stereoskopische Wiedergabe von virtuellen 3D-Objekten
US10845601B1 (en) 2018-02-07 2020-11-24 Apple Inc. AR/VR controller with event camera
JP7163115B2 (ja) * 2018-09-12 2022-10-31 キヤノン株式会社 ロボットシステム、ロボットシステムの制御方法、物品の製造方法、制御装置、操作装置、撮像装置、制御プログラム及び記録媒体
US10950010B2 (en) 2019-01-15 2021-03-16 Square Enix Ltd. Dynamic levels of destructive detail in electronic game display
DE102019105855A1 (de) * 2019-03-07 2020-09-10 Deutsche Post Ag Fahrzeug mit Anzeigeeinrichtung
CN111063015B (zh) * 2019-12-13 2023-07-21 重庆首厚智能科技研究院有限公司 一种高效绘制点位的方法及系统
CN111311752B (zh) * 2020-02-14 2021-04-27 福州大学 一种基于映射图的LiDAR数据随机采样及重构方法
CN115329615B (zh) * 2022-10-18 2023-02-10 北京名洋数字科技股份有限公司 基于数据库预存展品自动投影模型系统及方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003030677A (ja) * 2001-07-19 2003-01-31 Namco Ltd 画像表示装置、画像表示方法、情報記憶媒体および画像表示プログラム
CN101549207A (zh) * 2008-04-04 2009-10-07 株式会社万代南梦宫游戏 游戏动画发送系统及游戏动画发送方法
CN102915559A (zh) * 2012-08-22 2013-02-06 北京航空航天大学 一种基于三维点云的实时透明物体gpu并行生成方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4763280A (en) 1985-04-29 1988-08-09 Evans & Sutherland Computer Corp. Curvilinear dynamic image generation system
JP2003085586A (ja) 2001-06-27 2003-03-20 Namco Ltd 画像表示装置、画像表示方法、情報記憶媒体および画像表示プログラム
US7485438B2 (en) * 2002-03-01 2009-02-03 Szu-Yi Chou Method of producing polyvalent antigens
US20040075654A1 (en) * 2002-10-16 2004-04-22 Silicon Integrated Systems Corp. 3-D digital image processor and method for visibility processing for use in the same
JP2006030225A (ja) * 2004-07-12 2006-02-02 Nishiyama Stainless Chem Kk 曲面表示部を有するコンピュータ機器
US8643644B2 (en) 2008-03-20 2014-02-04 Qualcomm Incorporated Multi-stage tessellation for graphics rendering

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003030677A (ja) * 2001-07-19 2003-01-31 Namco Ltd 画像表示装置、画像表示方法、情報記憶媒体および画像表示プログラム
CN101549207A (zh) * 2008-04-04 2009-10-07 株式会社万代南梦宫游戏 游戏动画发送系统及游戏动画发送方法
CN102915559A (zh) * 2012-08-22 2013-02-06 北京航空航天大学 一种基于三维点云的实时透明物体gpu并行生成方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
View-Dependent Multiresolution Splatting of Non-Uniform Data;Justin Jang et al;《Proc IEEE/Eg Visualization Symp》;20021231;第4页第2-3段 *

Also Published As

Publication number Publication date
US9495799B2 (en) 2016-11-15
CN104077801A (zh) 2014-10-01
GB2514664A (en) 2014-12-03
US20140292755A1 (en) 2014-10-02
GB201405619D0 (en) 2014-05-14
GB2514664B (en) 2020-02-05
JP2014199617A (ja) 2014-10-23
JP6153366B2 (ja) 2017-06-28

Similar Documents

Publication Publication Date Title
CN104077801B (zh) 图像生成系统及图像生成方法
US10937223B2 (en) Multi-view processing unit systems and methods
JP7443602B2 (ja) 仮想コンテンツワーピングを伴う複合現実システムおよびそれを使用して仮想コンテンツを生成する方法
KR102366140B1 (ko) 가상 콘텐츠 워핑을 갖는 혼합 현실 시스템 및 이를 사용하여 가상 콘텐츠를 생성하는 방법
KR102359978B1 (ko) 다중-소스 가상 콘텐츠 합성을 갖는 혼합 현실 시스템 및 이를 사용하여 가상 콘텐츠를 생성하는 방법
KR20190125455A (ko) 컬러 가상 콘텐츠 와핑을 갖는 혼합 현실 시스템 및 이를 사용하여 가상 콘텐츠를 생성하는 방법
CN110546951B (zh) 合成立体视觉图像内容捕获
US20100110069A1 (en) System for rendering virtual see-through scenes
JP4982862B2 (ja) プログラム、情報記憶媒体及び画像生成システム
JPH10302079A (ja) 立体テクスチャマッピング処理装置及びそれを用いた3次元画像生成装置
CN106558017B (zh) 球形显示图像处理方法及系统
US20200342656A1 (en) Efficient rendering of high-density meshes
WO2018038887A1 (en) Quadrangulated layered depth images
EP3767591A1 (en) Illumination effects from luminous inserted content
JP2008077405A (ja) 画像生成システム、プログラム及び情報記憶媒体
JP2001202527A (ja) 3次元図形表示方法および3次元描画装置
JP7426413B2 (ja) ブレンドモード3次元ディスプレイシステムおよび方法
KR20120107711A (ko) 3d 그래픽 모델 입체 렌더링 장치 및 입체 렌더링 방법
US20230130059A1 (en) System and method for aerial light shows with occlusion and transparency
JP2002304635A (ja) 模様画像作成方法および装置
JP2002352264A (ja) 模様画像作成方法および装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information

Address after: Tokyo, Japan

Applicant after: BANDAI NAMCO ENTERTAINMENT INC.

Address before: Tokyo, Japan

Applicant before: Namco Bandai Games Inc.

COR Change of bibliographic data
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20220708

Address after: Tokyo, Japan

Patentee after: Wandai Nanmeng Palace Entertainment Co.,Ltd.

Address before: Tokyo

Patentee before: BANDAI NAMCO ENTERTAINMENT Inc.