CN1662934A - 操作引导系统 - Google Patents
操作引导系统 Download PDFInfo
- Publication number
- CN1662934A CN1662934A CN038143763A CN03814376A CN1662934A CN 1662934 A CN1662934 A CN 1662934A CN 038143763 A CN038143763 A CN 038143763A CN 03814376 A CN03814376 A CN 03814376A CN 1662934 A CN1662934 A CN 1662934A
- Authority
- CN
- China
- Prior art keywords
- virtual image
- operator
- image
- operation guide
- display unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
- G09B19/00—Teaching not covered by other main groups of this subclass
- G09B19/003—Repetitive work cycles; Sequence of movements
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- Engineering & Computer Science (AREA)
- Optics & Photonics (AREA)
- Educational Technology (AREA)
- Educational Administration (AREA)
- Theoretical Computer Science (AREA)
- Entrepreneurship & Innovation (AREA)
- Processing Or Creating Images (AREA)
- User Interface Of Digital Computer (AREA)
- Image Analysis (AREA)
- Liquid Crystal Display Device Control (AREA)
- Control Of Indicators Other Than Cathode Ray Tubes (AREA)
- Controls And Circuits For Display Device (AREA)
- General Factory Administration (AREA)
Abstract
本发明公开一种工作引导系统,其包括虚拟图像存储单元(17A),玻璃单元(11),虚拟图像重放功能(193A),以及虚拟图像调整功能(193B)。所述虚拟图像存储单元(17A)存储用于向操作者解释由多个步骤所组成的一工作的每个步骤中的内容的虚拟图像。设置在操作者眼睛前方的所述玻璃单元(11)向操作者显示与操作者前方的真实操作对象相一致的所述虚拟图像。所述虚拟图像重放功能(193A)基于每一步骤的顺序在玻璃单元(111)上重放所述虚拟图像。所述虚拟图像调整功能(193B)调整所述虚拟图像,从而使在虚拟图像中示出的相应操作对象显示在玻璃单元(11)上,同时重叠在真实工作对象上。
Description
技术领域
本发明涉及一种引导操作者的操作引导系统,从而使操作者可以准确地执行由一系列操作步骤所组成的操作。
背景技术
当某个操作者在制造场地等开始某一操作时,他通常从指导者那里听取所述操作的内容之后才开始所述操作。
但是,当操作者必须执行由一系列操作步骤所组成的操作时,如果他遇到了不清楚的地方或对操作内容有模糊记忆的话,他可能停止所述操作或执行不正确的操作。尽管有方法可以使操作者在从指导者那里听取对所述操作的解释的同时执行操作,但是因指导者必须在操作者的周围,这种方法是没有效率的。
发明内容
对于上述问题,本发明的目的在于提供一种操作引导系统,该系统引导操作者,从而使操作者能够在没有指导者的情况下准确地执行由一系列操作步骤所组成的操作。
根据本发明的操作引导系统包括虚拟图像存储器,显示单元,虚拟图像重放装置和虚拟图像调整装置。相对于由一系列操作步骤所组成的某一操作,所述虚拟图像存储器被设置成存储用于解释每一操作步骤的虚拟图像。所述显示单元被设置成定位在某一操作者眼睛的前面,用于显示与操作者前方的真实操作对象形成对照的所述虚拟图像。所述虚拟图像重放装置被设置成按照所述操作步骤的顺序在所述显示单元上重放所述虚拟图像。所述虚拟图像调整装置被设置成对虚拟图像进行调整,从而使画在每一虚拟图像上并且对应于所述真实操作对象的一虚拟操作对象在所述显示单元上会与所述真实操作对象具有重叠关系。
因此,操作者能够在没有指导者的情况下,仅通过观察在所述显示单元上的虚拟图像并且根据重叠在真实操作对象上的虚拟图像所执行的操作而准确地执行由一系列操作步骤所组成的操作。在观察所有虚拟图像以理解整个操作之后,操作者可以开始所述操作。由于这种操作引导系统包括虚拟图像调整装置,所以不论操作者的位置或操作者眼睛的高度如何,画在所述虚拟图像上的虚拟操作对象可以在所述显示单元上与真实操作对象保持重叠关系。这样操作者能够有效地执行所述操作。
优选地,所述虚拟图像包括勾勒出所述真实操作对象的图线和用于可视地解释所述操作步骤内容的视觉信息标记。所述图线利于所述真实操作对象和所述虚拟操作对象在它们彼此重叠时的可视化,而所述视觉信息标记能够可视并容易地向操作者传送操作者对所述操作应当知道的信息。从而,操作者能够更准确地执行所述操作。
另外,所述操作引导系统优选地包括一视觉信息标记输入装置,其从虚拟图像存储器中提取所述虚拟图像,从而修改在其中的视觉信息标记和/或向其中加入视觉信息标记。即使操作方向改变或出现操作者应该知道的新信息,所包括的视觉信息标记输入装置能使系统灵活改变。在这种情况下,优选的是,所述虚拟图像包括一画有所述图线的层以及画有所述视觉信息标记的层。这种虚拟图像能够防止复杂图线的偶然删除,并且能够提供无忧修改和/或无忧视觉信息标记的添加。
优选地,所述虚拟图像重放装置记录虚拟图像和操作步骤之间的对应,并且具有提取对应于由操作者指定的操作步骤的虚拟图像的功能。这种功能能够使操作者快速地重放他所需的虚拟图像,即使所述操作由许多操作步骤构成。
还是优选的是,所述虚拟图像重放装置记录所述虚拟图像和所述操作步骤之间的对应,并且具有重放由操作者所指定范围内的对应于所述步骤的虚拟图像以及在重放之后回到所述范围中的第一虚拟图像的功能。在这种情况下,为了理解所述整个操作,操作者可以观察他所需的某一范围内的虚拟图像,因为在重放后所述虚拟图像已经回到所述特定范围中的第一步骤,操作者随后可与所述虚拟图像的重放保持一致地快速起动所述操作。
另外,所述操作引导系统优选地包括用于输入操作者语音的语音输入装置,以及识别用所述语音输入装置所输入的语音的语音识别装置。所述虚拟图像重放装置基于操作者语音控制着所述虚拟图像的重放。在这种情况下,操作者可以在手中持满工具等的情况下控制所述虚拟图像的重放,从而使操作效率得到进一步地改善。
另外,所述操作引导系统优选地包括用于存储语音数据的语音存储器,语音数据解释所述操作步骤的内容,以及用于输出所述语音数据的语音输出装置。所述虚拟图像重放装置同步于虚拟图像的重放向所述语音输出装置输出语音数据。在这种情况下,所述操作者除了虚拟图像外还可以收到关于所述操作的语音解释,从而他可以更准确地理解操作的内容。所述语音数据能够解释所述虚拟图像无法表达的信息。
所述虚拟图像调整装置可包括用于取得真实操作对象图像的图像提取装置,以及用于从由图像提取装置得到的所述图像中提取相对于所述操作对象预先所确定的特征点的特征点提取装置,并且,所述虚拟调整装置可以自动地改变显示在显示单元上的虚拟图像的位置和/或尺寸,从而使与由所述特征点提取装置所提取的特征点相对应的所述虚拟操作对象的点的位置会与特征点的位置相一致。在这种情况下,即使在虚拟图像重放过程中操作者改变他的位置,所述虚拟图像也可以被自动地调整,且所述虚拟操作对象可与真实操作对象保持着重叠关系。
可选择地是,所述虚拟图像调整装置可包括手动控制器,通过该控制器操作者可手动地改变显示在所述显示单元上的虚拟图像的位置和/或尺寸。在这种情况下,操作者可用手使虚拟操作对象与真实操作对象形成重叠关系。在这种情况下,所述操作引导系统优选地包括用于追踪操作者头部运动的头部追踪装置,并且所述虚拟图像调整装置基于所述头部追踪装置的输出修正显示在所述显示单元上的虚拟图像的位置。通过所包括的头部追踪装置,一旦操作者通过手动控制器将虚拟操作对象与真实操作对象相重叠,即使操作者移动他的头部,所述虚拟图像中的虚拟操作对象仍可与真实操作对象保持重叠关系。
附图说明
图1是根据本发明第一实施例的操作引导系统的框图;
图2A,2B和2C是用在所述操作引导系统中的虚拟图像的示例;
图3是一照片,作为附图的替代品,其是通过打印示出了作为操作对象的发动机的特征点的图像而获得的;
图4A和4B是一照片,作为附图的替代品,其是通过打印显示在所述操作引导系统显示单元上的图像而获得的;
图5是一照片,作为附图的替代品,其是通过打印显示在所述操作引导系统显示单元上的图像而获得的;
图6是一照片,作为附图的替代品,其是通过打印显示在所述操作引导系统显示单元上的图像而获得的;
图7是示图,其示出所述操作引导系统的玻璃区域的另一结构;
图8是根据本发明第二实施例的操作引导系统的框图;
图9是一照片,作为附图的替代品,其是通过打印显示在所述操作引导系统显示单元上的图像而获得的;
图10是一照片,作为附图的替代品,其是通过打印显示在所述操作引导系统显示单元上的图像而获得的;
图11是一照片,作为附图的替代品,其是通过打印显示在所述操作引导系统显示单元上的图像而获得的。
具体实施方式
在下文中,将会结合附图对本发明做出更加详细的说明。
图1示出根据本发明第一实施例的操作引导系统1。在这个实施例中,所述操作引导系统1被配置成用在组装发动机的制造厂地中,并且该系统引导操作者从而使他或她能够准确地执行发动机组装操作。
所述操作引导系统1包括头部安装式AV(声音和视觉)单元10以及操作引导控制单元15,该单元通过电缆C1电连接到所述AV单元10。
所述AV单元10是一集合体,其包括作为显示单元的玻璃部件11,作为声音输出装置的头部收话器部件12,作为声音输入装置的麦克风部件13,作为图像提取装置的CCD照像机100。所述玻璃部件11象一个所谓的透明头部安装式显示器,并且其具有一对透明液晶面板111。所述头部收话器部件12具有一对头部收话器扬声器121。所述麦克风部件13具有麦克风131。所述CCD照像机100从操作者的视线拍摄作为操作对象的发动机的图像。操作者可以在虚拟图像显示在所述液晶面板111上的状态下,通过透明的液晶面板111看到真实的对象,这一点在下面将会进行说明。换句话说,所述玻璃部件11可以显示对比于真实图像的所述虚拟图像。
操作引导控制单元15包括接口部分16,存储部分17,电源18和控制部分19。
所述接口部分16包括声音输入接口161,图像输入接口162,虚拟图像输出接口163,以及声音输出接口164。所述声音输入接口161放大来自于麦克风131的模拟声音信号并且将该信号转换成数字式声音信号并输出到所述控制部分19。所述图像输入接口162将来自于CCD照像机100的模拟图像信号转换成数字式图像数据并输出到所述控制部分19。所述虚拟图像输出接口163是基于DVI(数字视频接口)标准的,并且它连接在所述控制部分19和所述液晶面板111之间。所述声音输出接口164将来自于所述控制部分19的声音数据转换成模拟声音信号并基于对应于音量控制(未示出)位置的增益放大该信号,并输出到所述头部收话器扬声器121。
所述存储部分17是一诸如硬盘的存储装置,并且它包括虚拟图像存储段17A和声音存储段17B。对于由一系列的多个操作步骤组成的发动机组装操作,所述虚拟图像存储段17A存储用于解释所述操作步骤内容的虚拟图像。每个虚拟图像是基于画出所述操作对象轮廓(换句话说就是外部轮廓)的图线建立的,而用于可视地解释所述内容的视觉信息标记按需加入到所述虚拟图像。所述视觉信息标记是,例如,示出操作顺序的数字、示出执行所述操作方向的箭头、文字信息、由虚线所示的所述操作的完成画面等。图2A,2B和2C示出虚拟图像的示例。它们用于解释发动机组件组装操作中的某一操作,即操作者将一螺钉紧固到发动机机体,并且随后将一发动机盖连接到其上。图2A是一虚拟图像,其中画出在所述操作之前发动机机体的轮廓。图2B是对应于操作者上紧所述螺钉步骤的虚拟图像。图2C是对应于操作者连接发动机盖步骤的虚拟图像。例如参考图2B,虚拟图像是基于画出作为操作对象的发动机轮廓的图线、以及被加入其中的数字和文字信息组成的视觉信息标记I1至I13而建立的。所述视觉信息标记I1至I12示出操作者将要上紧所述螺钉的顺序,并且所述视觉标记I13示出所述螺钉的紧固力矩。所述声音存储段17B存储用来解释每一操作内容的声音数据,诸如操作顺序,涉及产品可靠性法律的信息,注意事项等。例如,与图2B同步重放的所述声音数据是如下内容:“在这个步骤中,你将要按顺序1至6来紧固螺钉。此时,所述紧固力矩是19.5±2.0Nm”。通过适当地使用所述声音数据以及所述视觉信息标记,操作者可以更容易地理解操作内容并且可以更准确地执行所述操作。优选地是,如果操作者听过一次(例如所述操作的概要),该操作者可以理解的解释就作为声音数据产生,如果仅听过一次(例如,操作顺序,详细的数值等),操作者无法理解的解释就会作为视觉信息标记而产生。
所述控制部分19被配置成控制整个操作引导系统1,并且它包括用于执行预设程序的CPU(中央处理器),以及主存储器等。所述控制部分19具有声音识别功能191,特征点提取功能192,虚拟图像控制功能193和声音输出功能194。
所述声音识别功能191识别所述声音数据,所述声音数据是由所述麦克风131所输入的并且通过所述声音输入接口161所采集,并且根据所识别的声音控制虚拟图像重放功能193A。例如,当声音识别功能191识别出“开始重放”一词时,它发出一个指令到所述虚拟图像重放功能193A以开始虚拟图像的重放。
所述特征点提取功能192从通过CCD照像机100所拍摄的以及通过图像输入接口162所采集的图像中提取相对于作为操作对象的发动机的预先确定的特征点。例如,如图3中所示,如果发动机的特征点已经被事先确定为点P1和点P2,则所述特征点提取功能192从CCD照像机所拍摄的图像中提取所述点P1和P2,并且在所述图像中它确定了特征点P1和P2的像素的位置。
所述虚拟图像控制功能193进一步包括所述虚拟图像重放功能193A和虚拟图像调整功能193B。所述虚拟图像重放功能193A从所述虚拟图像存储段17A中提取虚拟图像并按发动机组装的操作顺序将它们显示在液晶面板111上。而且,所述虚拟图像重放功能193A记录每个虚拟图像和每一操作步骤之间的对应,并且它具有所谓的“提示功能”,该功能提取对应于操作者使用语音识别功能191所指定的其中一个操作步骤的虚拟图像,并且它还具有“特定范围重放功能”,该功能重放分别对应于在操作者指定范围内的操作步骤的虚拟图像,并且在所述虚拟图像重放之后返回到所述指定范围内的第一虚拟图像。当然,所述虚拟图像重放功能193A可以快进、倒片和暂停所述虚拟图像。所述虚拟图像调整功能193B调整由所述图像重放功能193A所重放的虚拟图像,从而使画在虚拟图像上的所述发动机的图线与作为真实操作对象的真实发动机具有重叠关系,该发动机可透过玻璃部件11看到。所述调整方法会在下面进行解释。首先,建立将CCD照像机100所拍摄的图像数据的每个像素的位置与所述液晶面板111的每个像素的位置相关联的表。所述表被存储于诸如控制部分19中的ROM(未示出)中。通过参照上面所述的表,所述图像调整功能193B将图像数据中每个特征点P1,P2的像素位置转换成液晶面板111中相应像素的位置,所述特征点P1,P2由特征点提取功能192从所述图像数据所提取。然后,所述图像调整功能193B自动地改变虚拟图像的位置和/或尺寸,从而使显示在所述液晶面板111上的虚拟图像中分别对应于所述特征点P1,P2的特征点A,B分别与液晶面板111上的特征点P1,P2的像素位置相一致。图4A示出在虚拟图像调整功能193B调整虚拟图像之前的真实的发动机和显示在液晶面板111上的虚拟发动机。在图4A中,因为操作者位置等原因,画在虚拟图像上的发动机的图线以与通过液晶面板111看到的真实发动机错位的关系被显示在液晶面板111上。图4B示出在所述虚拟图像调整功能193B调整所述虚拟图像之后的状态。在图4B中,画在虚拟图像上的所述发动机的图线通过虚拟图像调整功能193以与真实发动机相重叠的关系被显示出来。经由虚拟图像调整功能193所执行的虚拟图象调整实时重复执行。
所述声音输出功能194记录每个虚拟图像和存储于所述声音存储段17B中的每个声音数据片断之间的对应,并且它向声音输出接口164以与所述虚拟图像重放同步的方式输出对应于重放的虚拟图像的声音数据片断,所述重放是由虚拟图像控制重放功能193A所实现的。
现在,如上所述构成的操作引导系统1按如下使用。下面,出于理解的目的,所述发动机的组装操作大致被分成“步骤1”,“步骤2”,并且操作者将要执行被称作“步骤2”的操作。所述步骤2进一步包括“步骤2a”和“步骤2b”。在步骤2a中,操作者应将螺钉紧固到所述发动机机体,而在步骤2b中,操作者在步骤2a之后应将发动机盖连接到所述发动机机体。
首先,操作者带上AV单元10并且通过液晶面板111看到未完成的发动机,如图3所示。当操作者朝向麦克风131说“步骤2”时,声音识别功能191识别“步骤2”这个词,随后虚拟图像重放功能193A使用“提示功能”提取一个虚拟图像到液晶面板111上,该虚拟图像是步骤2(即图2A)的预操作图像。在此时,虚拟图像调整功能193调整所述虚拟图像,从而使所述虚拟图像在所述发动机的图线与所述真实的发动机完全重合的状态下显示在液晶面板111上,如图4B所示。下面,当操作者说“开始重放”时,虚拟图像重放功能193A重放对应于根据所述组装操作(步骤2a-步骤2b)顺序中步骤2a(即图2B)的虚拟图像。通过声音输出功能194所述声音解释从头部收话器扬声器121被重放。图5示出在此时通过液晶面板111所看到的视图。操作者在听取声音解释的同时观察液晶面板的显示,并且根据虚拟图像操作者将螺钉紧固到发动机机体。当操作者已经完成螺钉紧固时,他说“下一个操作”,随后,所述声音识别功能191识别出“下一步”这个词,所述虚拟图像重放功能在液晶面板111上重放对应于下一步骤的虚拟图像,也就是“步骤2”(即图2C)。图6示出在此时通过液晶面板111观察到的视图。然后,在观察液晶面板的显示和再一次听取声音解释的同时,操作者将发动机盖连接到所述发动机机体。
操作者可以按需倒片,暂停或快进所述虚拟图像。操作者首先可以使用上述“特定范围重放功能”连续地重放对应于步骤2(即图2A-图2B-图2C)的所有虚拟图像,从而观察整个的操作,这类似于观察动画,并且理解所述整个操作,然后他可以开始所述操作。在这种情况下,因为显示在所述液晶面板上的虚拟图像在操作者观察整个虚拟图像之后会回到步骤2中的第一步骤(即图2A),所以操作者可以容易地再一次从图2A开始重放虚拟图像并且在保持虚拟图像重放的同时执行所述操作。操作者可通过声音识别功能191在手中持满工具的情况下控制虚拟图像的重放。尽管操作者在所述操作的中间移动他的头部,可所述虚拟图像调整功能193B调整所述虚拟图像,从而使在虚拟图像上的发动机图线与真实发动机保持着重叠关系。如上面所解释的那样,这个操作引导系统1能使操作者在没有指导者的情况下准确地执行所述操作。
尽管在本实施例中,存储部分17被设置在所述操作引导控制单元15中,所述存储部分17可以被设置在通过无线或有线LAN(局域网)连接到所述操作引导控制单元15的服务器中。在这种情况下,所述操作引导控制单元15具有无线或有线LAN接口。所述存储部分17不受限于硬盘,而可以是诸如光盘装置、磁光盘装置,或半导体存储装置。
尽管上述玻璃部件11是透明液晶面板111,可是它可以使用图7所示的棱镜。在图7中,在所述液晶面板111上的所述虚拟图像从棱镜一侧进入棱镜112,并且它由所述棱镜112后表面上的反射表面112a完全地向前反射,随后它由所述棱镜112前表面上的半透镜112b向后反射,并且随后其透射所述反射表面112a。结果,操作者可以观察所述虚拟图像。在另一个方面,所述操作者可以通过从棱镜112的前方贯穿到其后方的光学通路观察到所述操作对象自身。当所述虚拟图像的背景颜色被设置成大约“000000”的黑色(网络安全颜色)或大约“777777”的深灰色,以及所述虚拟图像的图线颜色被设置成大约“00FFFF”的浅蓝色时,所述虚拟图像对比于操作对象自身变得非常清楚。类似地,当所述字符和符号的颜色被设置成大约“00FFFF”的浅蓝色或大约“FFFF00”的黄色时,它们会变得非常清晰。所述玻璃部件11不需要有两个面板,而是可以有一个面板。即,本发明的显示单元并不限于特定的一个,而是它只要将所述虚拟图像和操作者前面的真实操作对象一起显示给操作者。
所述虚拟图像调整功能193不一定要实时调整所述虚拟图像,但是它可以以特定的时间间隔调整所述虚拟图像。
当然,所述“特定范围重放”功能可以重放两个或多个步骤上的虚拟图像。
优选的是,所述系统包括视觉信息标记输入装置(未示出),其可从虚拟图像存储段17A中提取所述虚拟图像,从而修改包括在虚拟图像中的视觉信息标记和/或将新的视觉信息标记加到所述视觉图像中。所述视觉信息标记输入装置可使系统灵活地响应在工场产生的所述操作的最小改变(例如,拧紧顺序的改变),从而操作者可更有效地执行所述操作。在这种情况下,优选地是,所述虚拟图像被单独地产生在分开的层中,在一层上画出勾画出真实操作对象的图线,而在一层上画出所述视觉信息标记,从而防止所画复杂线条的误删除,并且提供了视觉信息标记的无忧修改和/或无忧添加。
尽管在本实施例中,所述发动机被拿来作为所述操作对象的示例,可所述操作对象不受限于类似“发动机”的物体,而是它可以是一个人或动物。例如,这个操作引导系统可以被用于教授某人如何穿上和服和/或用于检查在人或动物上某一操作的过程。
图9示出根据本发明第二实施例的操作引导系统2。除了根据手动干涉所述虚拟图像调整功能193B调整所述虚拟图像以外,所述系统2的基本组成与第一实施例相同。所述操作引导系统2新包括作为手动控制器的手持式鼠标20,其连接到所述操作引导控制单元15。所述AV单元10包括在玻璃部件11中替代CCD照像机100的作为头部追踪装置的头部追踪器200。所述头部追踪器200追踪操作者头部的运动。所述操作引导控制单元15在所述接口部分16中新包括手动控制器接口165和头部追踪接口166。所述手动控制器接口165被连接到所述手持式鼠标20,并且所述头部追踪器接口166被连接到所述头部追踪器200。所述图像输出接口162已经从所述接口部分16被移除,并且所述特征点提取功能192已经从所述控制部分19被移除。
现在,将会在下文中对通过虚拟图像调整功能193B调整所述虚拟图像的方法进行说明。所述控制部分19具有虚拟图像重放模式以及虚拟图像调整模式,并且它们通过声音识别功能191或所述手持式鼠标20彼此转换。在所述虚拟图像调整模式中,除了真实的操作对象和虚拟图像外,相对于所述虚拟图像的虚拟操作对象预先确定的特征点被显示在液晶面板111上。例如,在图9中,除了真实的发动机和所述虚拟发动机外,所述虚拟图像的发动机的特征点A,B被显示出来。在图9中,所述真实的发动机和所述虚拟发动机以未对齐的关系被显示出来。在这种状态中,所述操作者使用所述手持式鼠标20将特征点A的位置拖动到通过液晶面板111所观察到的所述真实发动机的相应特征点P1。在此时,所述虚拟图像调整功能193B根据所述拖动操作移动整个虚拟图像。当操作者停止拖动时,特征点A的位置被固定(见图10)。下面,操作者将特征点B的位置拖动至真实发动机的相应特征点P2。在此时,所述虚拟图像调整功能193B参照于特征点A的位置改变整个虚拟图像的尺寸。当操作者已经完成上述操作时,真实的发动机和虚拟图像的虚拟发动机以重叠关系被显示出来,如图11所示。
在虚拟图像调整模式中所执行的调整被应用于存储在存储部分17中的所有虚拟图像,从而一旦操作者在虚拟图像调整模式中调整所述虚拟图像,操作者不需在后续虚拟图像重放模式中、在每次所述虚拟图像发生改变时调整所述虚拟图像。
即使操作者在虚拟图像重放模式中移动他的头部,所述头部追踪器200仍可自动地改正所述虚拟图像的位置,从而使所述虚拟图像可以保持与真实操作对象的重叠关系。具体地讲,如果头部追踪器检测到操作者的头部向左移动,所述虚拟图像调整装置193B将使所述虚拟图像的向右移动与头部的移动相同。作为头部追踪器,可以使用用于头部安装的显示器的应用加速计或陀螺仪的惯性测量单元。
用于调整所述虚拟图像的方法不限于上述的方法。例如,在操作者已经确定了所述特征点A的位置后,所述控制部分19可以自动地移动进入尺寸改变模式。在所述尺寸改变模式中,根据所述手持式鼠标20的移动量和移动方向,所述整个虚拟图像的尺寸参照于特征点A的位置变化。所述虚拟图像能够在除它被重放时之外的任何时间被调整,无需从虚拟图像重放模式到所述虚拟图像调整模式的操作者转换操作。
可以使用游戏棒类型的手动式控制器或各种定向装置来替代所述手持式鼠标20。
Claims (11)
1、一种操作引导系统包括:
虚拟图像存储器,相对于由一系列操作步骤所组成的操作,其被配置成存储用于解释每一操作步骤内容的虚拟图像;
显示单元,其被设置在操作者眼睛的前面用于显示所述虚拟图像,与操作者前面的真实操作对象形成对照;
虚拟图像重放装置,其被配置成按照所述操作步骤的顺序在所述显示单元上重放所述虚拟图像;
虚拟图像调整装置,其被配置成对所述虚拟图像进行调整,从而使画在每个虚拟图像上并且对应于真实操作对象的虚拟操作对象在所述显示单元上与所述真实操作对象有重叠关系。
2、如权利要求1所述的操作引导系统,其中每个虚拟图像包括钩画出真实操作对象的图线以及用来可视地解释每一操作步骤内容的视觉信息标记。
3、如权利要求2所述的操作引导系统,进一步包括一视觉信息标记输入装置,其从所述虚拟图像存储器中提取其中一个虚拟图像以修改和/或增加所述视觉信息标记。
4、如权利要求3所述的操作引导系统,其中每个虚拟图像包括画有图线的层以及画有所述视觉信息标记的层。
5、如权利要求1所述的操作引导系统,其中所述虚拟图像重放装置记录每一虚拟图像和每一操作步骤之间的对应,并且具有提取其中一个对应于由操作者所指定的其中一个操作步骤的虚拟图像的功能。
6、如权利要求1所述的操作引导系统,其中所述虚拟图像重放装置记录每一虚拟图像和每一操作步骤之间的对应,所述虚拟图像重放装置具有一种功能,即重放对应于由操作者指定范围内的所述操作步骤的虚拟图像,并且在重放所述虚拟图像后返回到所述范围内的第一虚拟图像。
7、如权利要求1所述的操作引导系统,进一步包括:
用于输入操作者声音的声音输入装置以及
用于识别由所述声音输入装置输入的声音的声音识别装置;
所述虚拟图像重放装置基于操作者的声音控制所述虚拟图像重放。
8、如权利要求1所述的操作引导系统,进一步包括:
配置成存储用于解释每一操作步骤内容的声音数据的声音存储器以及配置成输出所述声音数据的声音输出装置;
所述虚拟图像重放装置同步于所述虚拟图像的重放将所述声音数据输出到所述声音输出装置。
9、如权利要求1所述的操作引导系统,进一步包括:
图像提取装置,其配置成提取真实操作对象的图像,以及
特征点提取装置,其配置成相对于所述操作对象从所述图像提取装置所提取的图像中提取预先确定的特征点;
所述虚拟图像调整装置自动地改变显示在所述显示单元上的每个虚拟图像的位置和/或尺寸,从而使与由所述特征点提取装置所提取的特征点相对应的所述虚拟操作对象的点与所述特征点的位置相一致。
10、如权利要求1所述的操作引导系统,其中所述虚拟图像调整装置包括手动控制器,通过该手动控制器操作者能够手动地改变在所述显示单元上显示的每个虚拟图像的位置和/或尺寸。
11、如权利要求10所述的操作引导系统,进一步包括:
头部追踪装置,其配置成追踪操作者头部的运动;
所述虚拟图像调整装置基于所述头部追踪装置的输出更正显示在所述显示单元上的每个所述虚拟图像的位置。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002180260A JP3735086B2 (ja) | 2002-06-20 | 2002-06-20 | 作業誘導システム |
JP180260/2002 | 2002-06-20 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN1662934A true CN1662934A (zh) | 2005-08-31 |
CN1313980C CN1313980C (zh) | 2007-05-02 |
Family
ID=29996600
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CNB038143763A Expired - Fee Related CN1313980C (zh) | 2002-06-20 | 2003-06-20 | 操作引导系统 |
Country Status (6)
Country | Link |
---|---|
US (1) | US20060090135A1 (zh) |
JP (1) | JP3735086B2 (zh) |
KR (1) | KR100597942B1 (zh) |
CN (1) | CN1313980C (zh) |
AU (1) | AU2003244317A1 (zh) |
WO (1) | WO2004001677A1 (zh) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102395997A (zh) * | 2009-02-13 | 2012-03-28 | Metaio有限公司 | 用于确定摄像机相对于真实环境的至少一个对象的姿态的方法和系统 |
CN102446048A (zh) * | 2010-09-30 | 2012-05-09 | 联想(北京)有限公司 | 信息处理设备以及信息处理方法 |
CN103946734A (zh) * | 2011-09-21 | 2014-07-23 | 谷歌公司 | 叠加有对于外部设备的控制和指令的可穿戴计算机 |
CN104590158A (zh) * | 2013-10-31 | 2015-05-06 | 福特全球技术公司 | 挂车标记放置辅助系统和方法 |
CN104661015A (zh) * | 2015-02-06 | 2015-05-27 | 武汉也琪工业设计有限公司 | 一种3d实景的虚拟现实模拟显示设备 |
CN105867318A (zh) * | 2015-02-09 | 2016-08-17 | 株式会社日立制作所 | 装配引导系统以及装配引导方法 |
CN103364953B (zh) * | 2012-04-02 | 2017-03-01 | 精工爱普生株式会社 | 头部佩戴型显示装置 |
CN109078334A (zh) * | 2018-06-21 | 2018-12-25 | 广州市世平计算机科技有限公司 | 一种基于虚拟机器人的vr操作引导及陪练方法和系统 |
Families Citing this family (53)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4493383B2 (ja) * | 2004-04-01 | 2010-06-30 | オリンパス株式会社 | 手技支援システム |
JP2006276748A (ja) * | 2005-03-30 | 2006-10-12 | Olympus Corp | 情報呈示装置、情報呈示方法、及びコンピュータプログラム |
DE102006005044B4 (de) * | 2006-02-03 | 2011-01-27 | Metaio Gmbh | Verfahren und System zur Bestimmung eines Datenmodells zur Überlagerung mit einem realen Objekt in einem Verfahren zur Objektverfolgung |
JP5391675B2 (ja) * | 2008-12-11 | 2014-01-15 | 株式会社ジェイテクト | 工作機械用制御装置 |
JP5168161B2 (ja) * | 2009-01-16 | 2013-03-21 | ブラザー工業株式会社 | ヘッドマウントディスプレイ |
JP2010211623A (ja) * | 2009-03-11 | 2010-09-24 | Brother Ind Ltd | 作業支援システム |
JP5062774B2 (ja) * | 2009-05-21 | 2012-10-31 | トヨタ自動車東日本株式会社 | 作業訓練システム及び作業訓練方法並びに該作業訓練方法を記録した記録媒体 |
JP5402293B2 (ja) | 2009-06-22 | 2014-01-29 | ソニー株式会社 | 頭部装着型ディスプレイ、及び、頭部装着型ディスプレイにおける画像表示方法 |
JP5218354B2 (ja) * | 2009-09-16 | 2013-06-26 | ブラザー工業株式会社 | ヘッドマウントディスプレイ |
JP5375481B2 (ja) * | 2009-09-24 | 2013-12-25 | ブラザー工業株式会社 | ヘッドマウントディスプレイ |
JP5282709B2 (ja) | 2009-09-25 | 2013-09-04 | ブラザー工業株式会社 | ヘッドマウントディスプレイを含む撮像データ利用システム |
JP5348004B2 (ja) * | 2010-02-13 | 2013-11-20 | ブラザー工業株式会社 | ストライクゾーン提示システム |
JP5574854B2 (ja) * | 2010-06-30 | 2014-08-20 | キヤノン株式会社 | 情報処理システム、情報処理装置、情報処理方法及びプログラム |
US9615746B2 (en) | 2011-07-05 | 2017-04-11 | Saudi Arabian Oil Company | Floor mat system and associated, computer medium and computer-implemented methods for monitoring and improving health and productivity of employees |
US10307104B2 (en) | 2011-07-05 | 2019-06-04 | Saudi Arabian Oil Company | Chair pad system and associated, computer medium and computer-implemented methods for monitoring and improving health and productivity of employees |
US10108783B2 (en) | 2011-07-05 | 2018-10-23 | Saudi Arabian Oil Company | Systems, computer medium and computer-implemented methods for monitoring health of employees using mobile devices |
US9492120B2 (en) | 2011-07-05 | 2016-11-15 | Saudi Arabian Oil Company | Workstation for monitoring and improving health and productivity of employees |
US9256711B2 (en) * | 2011-07-05 | 2016-02-09 | Saudi Arabian Oil Company | Systems, computer medium and computer-implemented methods for providing health information to employees via augmented reality display |
US8990682B1 (en) | 2011-10-05 | 2015-03-24 | Google Inc. | Methods and devices for rendering interactions between virtual and physical objects on a substantially transparent display |
US9081177B2 (en) | 2011-10-07 | 2015-07-14 | Google Inc. | Wearable computer with nearby object response |
US9547406B1 (en) | 2011-10-31 | 2017-01-17 | Google Inc. | Velocity-based triggering |
AR086047A1 (es) * | 2012-04-24 | 2013-11-13 | Sergio Martin Carabajal | Anteojo con computadora incorporada |
JP5970243B2 (ja) * | 2012-06-04 | 2016-08-17 | 東邦瓦斯株式会社 | 疑似ガス漏洩箇所検査システム |
JP6015250B2 (ja) | 2012-08-31 | 2016-10-26 | 富士通株式会社 | 画像処理装置、画像処理方法及び画像処理プログラム |
KR20150092220A (ko) * | 2012-11-29 | 2015-08-12 | 스티븐 체이스 | 비디오 헤드폰들, 시스템, 플랫폼, 방법들, 장치들 및 미디어 |
US9448407B2 (en) | 2012-12-13 | 2016-09-20 | Seiko Epson Corporation | Head-mounted display device, control method for head-mounted display device, and work supporting system |
JP6179412B2 (ja) * | 2013-01-31 | 2017-08-16 | 株式会社Jvcケンウッド | 入力表示装置 |
JP2014164537A (ja) * | 2013-02-26 | 2014-09-08 | Yasuaki Iwai | 仮想現実サービス提供システム、仮想現実サービス提供方法 |
JP6107276B2 (ja) | 2013-03-22 | 2017-04-05 | セイコーエプソン株式会社 | 頭部装着型表示装置および頭部装着型表示装置の制御方法 |
JP6138566B2 (ja) * | 2013-04-24 | 2017-05-31 | 川崎重工業株式会社 | 部品取付作業支援システムおよび部品取付方法 |
US20150199106A1 (en) * | 2014-01-14 | 2015-07-16 | Caterpillar Inc. | Augmented Reality Display System |
CN105096539A (zh) * | 2014-04-28 | 2015-11-25 | 鸿富锦精密电子(郑州)有限公司 | 规范化操作训练系统及方法 |
JP5932889B2 (ja) * | 2014-06-09 | 2016-06-08 | 富士フイルム株式会社 | ヘッドマウント型拡張現実映像提示装置及び仮想表示物操作方法 |
JP6534292B2 (ja) * | 2015-04-24 | 2019-06-26 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America | ヘッドマウントディスプレイ、及び、ヘッドマウントディスプレイの制御方法 |
DE102015006632A1 (de) | 2015-05-21 | 2016-11-24 | Audi Ag | Verfahren zum Betreiben eines Diagnosesystems und Diagnosesystem für ein Kraftfahrzeug |
US10475351B2 (en) | 2015-12-04 | 2019-11-12 | Saudi Arabian Oil Company | Systems, computer medium and methods for management training systems |
KR101834447B1 (ko) * | 2015-12-04 | 2018-03-06 | 삼성중공업(주) | 작업 지시 장치 |
US10642955B2 (en) | 2015-12-04 | 2020-05-05 | Saudi Arabian Oil Company | Devices, methods, and computer medium to provide real time 3D visualization bio-feedback |
US10628770B2 (en) | 2015-12-14 | 2020-04-21 | Saudi Arabian Oil Company | Systems and methods for acquiring and employing resiliency data for leadership development |
US10672294B2 (en) * | 2016-01-08 | 2020-06-02 | Illinois Tool Works Inc. | Systems and methods to provide weld training |
MX2018008462A (es) | 2016-01-08 | 2018-11-09 | Illinois Tool Works | Sistemas y metodos para proporcionar capacitacion en soldadura. |
JP2017162102A (ja) | 2016-03-08 | 2017-09-14 | 株式会社東芝 | 保守支援方法、保守支援システム、及び保守支援プログラム |
JP2016154044A (ja) * | 2016-04-28 | 2016-08-25 | 富士フイルム株式会社 | ヘッドマウント型拡張現実映像提示装置及びその仮想表示物操作方法 |
JP2018067119A (ja) * | 2016-10-19 | 2018-04-26 | 住友電装株式会社 | 作業指示装置 |
JP2019032728A (ja) * | 2017-08-09 | 2019-02-28 | アズビル株式会社 | 表示装置および表示方法 |
US20190057180A1 (en) * | 2017-08-18 | 2019-02-21 | International Business Machines Corporation | System and method for design optimization using augmented reality |
US10824132B2 (en) | 2017-12-07 | 2020-11-03 | Saudi Arabian Oil Company | Intelligent personal protective equipment |
KR102044856B1 (ko) * | 2017-12-28 | 2019-11-14 | 광운대학교 산학협력단 | 가상현실 기반으로 오토마타를 조립하고 시뮬레이션하는 장치 및 방법 |
US11521512B2 (en) | 2019-02-19 | 2022-12-06 | Illinois Tool Works Inc. | Systems for simulating joining operations using mobile devices |
US11450233B2 (en) | 2019-02-19 | 2022-09-20 | Illinois Tool Works Inc. | Systems for simulating joining operations using mobile devices |
JP6835187B2 (ja) * | 2019-11-20 | 2021-02-24 | 富士ゼロックス株式会社 | 情報処理装置、情報処理方法、情報処理システム及びプログラム |
US11322037B2 (en) | 2019-11-25 | 2022-05-03 | Illinois Tool Works Inc. | Weld training simulations using mobile devices, modular workpieces, and simulated welding equipment |
US11721231B2 (en) | 2019-11-25 | 2023-08-08 | Illinois Tool Works Inc. | Weld training simulations using mobile devices, modular workpieces, and simulated welding equipment |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4001643B2 (ja) * | 1993-10-05 | 2007-10-31 | スナップ−オン・テクノロジイズ・インク | 両手解放型自動車整備装置 |
JPH0922453A (ja) * | 1993-12-16 | 1997-01-21 | Chintai Ri | 手の立体形状入力方式 |
JP3450704B2 (ja) * | 1997-09-01 | 2003-09-29 | キヤノン株式会社 | 位置姿勢検出装置及び情報処理方法 |
US6625299B1 (en) * | 1998-04-08 | 2003-09-23 | Jeffrey Meisner | Augmented reality technology |
JP3653196B2 (ja) * | 1998-06-30 | 2005-05-25 | 飛島建設株式会社 | 仮想現実感を利用した施工支援情報システム。 |
JP2000259233A (ja) * | 1999-03-11 | 2000-09-22 | Ishikawajima Harima Heavy Ind Co Ltd | プラント運転監視支援装置 |
JP4269482B2 (ja) * | 2000-04-27 | 2009-05-27 | コニカミノルタホールディングス株式会社 | 映像表示装置 |
EP1182541A3 (de) * | 2000-08-22 | 2005-11-30 | Siemens Aktiengesellschaft | System und Verfahren zum kombinierten Einsatz verschiedener Display-/Gerätetypen mit systemgesteuerter kontextabhängiger Informationsdarstellung |
EP1356413A2 (en) * | 2000-10-05 | 2003-10-29 | Siemens Corporate Research, Inc. | Intra-operative image-guided neurosurgery with augmented reality visualization |
-
2002
- 2002-06-20 JP JP2002180260A patent/JP3735086B2/ja not_active Expired - Lifetime
-
2003
- 2003-06-20 WO PCT/JP2003/007852 patent/WO2004001677A1/ja active IP Right Grant
- 2003-06-20 CN CNB038143763A patent/CN1313980C/zh not_active Expired - Fee Related
- 2003-06-20 AU AU2003244317A patent/AU2003244317A1/en not_active Abandoned
- 2003-06-20 US US10/517,487 patent/US20060090135A1/en not_active Abandoned
- 2003-06-20 KR KR1020047020732A patent/KR100597942B1/ko active IP Right Grant
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102395997A (zh) * | 2009-02-13 | 2012-03-28 | Metaio有限公司 | 用于确定摄像机相对于真实环境的至少一个对象的姿态的方法和系统 |
US9934612B2 (en) | 2009-02-13 | 2018-04-03 | Apple Inc. | Methods and systems for determining the pose of a camera with respect to at least one object of a real environment |
US8970690B2 (en) | 2009-02-13 | 2015-03-03 | Metaio Gmbh | Methods and systems for determining the pose of a camera with respect to at least one object of a real environment |
CN102446048A (zh) * | 2010-09-30 | 2012-05-09 | 联想(北京)有限公司 | 信息处理设备以及信息处理方法 |
CN103946734B (zh) * | 2011-09-21 | 2017-07-11 | 谷歌公司 | 叠加有对于外部设备的控制和指令的可穿戴计算机 |
CN103946734A (zh) * | 2011-09-21 | 2014-07-23 | 谷歌公司 | 叠加有对于外部设备的控制和指令的可穿戴计算机 |
CN103364953B (zh) * | 2012-04-02 | 2017-03-01 | 精工爱普生株式会社 | 头部佩戴型显示装置 |
CN104590158B (zh) * | 2013-10-31 | 2017-01-11 | 福特全球技术公司 | 挂车标记放置辅助系统和方法 |
CN104590158A (zh) * | 2013-10-31 | 2015-05-06 | 福特全球技术公司 | 挂车标记放置辅助系统和方法 |
CN104661015A (zh) * | 2015-02-06 | 2015-05-27 | 武汉也琪工业设计有限公司 | 一种3d实景的虚拟现实模拟显示设备 |
CN105867318A (zh) * | 2015-02-09 | 2016-08-17 | 株式会社日立制作所 | 装配引导系统以及装配引导方法 |
CN109078334A (zh) * | 2018-06-21 | 2018-12-25 | 广州市世平计算机科技有限公司 | 一种基于虚拟机器人的vr操作引导及陪练方法和系统 |
CN109078334B (zh) * | 2018-06-21 | 2020-04-14 | 广州市世平计算机科技有限公司 | 一种基于虚拟机器人的vr操作引导及陪练方法和系统 |
Also Published As
Publication number | Publication date |
---|---|
CN1313980C (zh) | 2007-05-02 |
AU2003244317A1 (en) | 2004-01-06 |
JP2004021931A (ja) | 2004-01-22 |
US20060090135A1 (en) | 2006-04-27 |
KR20050021996A (ko) | 2005-03-07 |
KR100597942B1 (ko) | 2006-07-06 |
JP3735086B2 (ja) | 2006-01-11 |
WO2004001677A1 (ja) | 2003-12-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN1313980C (zh) | 操作引导系统 | |
US7139412B2 (en) | Image synthesis display method and apparatus for vehicle camera | |
CN106688228B (zh) | 摄像控制装置、摄像控制方法、相机、及相机系统 | |
CN109131082B (zh) | 一种完全基于视觉的单目全景泊车影像系统及其泊车方法 | |
EP0971319A3 (fr) | Procédé de modélisation d un système de prise de vues et procédé et système de réalisation de combinaisons d images réelles et d images de synthèse | |
CN1138406C (zh) | 图像拾取装置 | |
EP1052847A3 (en) | Imaging parameter recording apparatus, imaging method and editing system | |
AU5703400A (en) | Stereoscopic video observation and image magnification system | |
CN110099268B (zh) | 色彩自然匹配与显示区自然融合的盲区透视化显示方法 | |
EP3857873A1 (en) | Reduced bandwidth stereo distortion correction for fisheye lenses of head-mounted displays | |
CN109743539A (zh) | 一种视野可调节的全景行车辅助装置及其调节方法 | |
CN110428361A (zh) | 一种基于人工智能的多路图像采集方法 | |
CN105959569A (zh) | 一种智能终端拍照方法 | |
US20020021259A1 (en) | Image display device | |
CN106375644A (zh) | 非拼接式无缝全景实时图像成像设备及其成像方法 | |
CN107911602A (zh) | 显示面板Mura的检测方法、检测装置及计算机可读存储介质 | |
CN108833874B (zh) | 一种用于行车记录仪的全景图像色彩校正方法 | |
CN103366351B (zh) | 产生全景图像的方法及其图像获取装置 | |
JPH10290387A (ja) | 撮像、表示、記録、再生、伝送装置及び記録媒体 | |
EP1542471A4 (en) | IMAGE PROCESSING DEVICE, METHOD, INFORMATION PROCESSING DEVICE, METHOD, RECORDING MEDIUM AND PROGRAM | |
CN108845784A (zh) | 一种显示屏Mura补偿方法及装置 | |
US20020130958A1 (en) | Method and apparatus for eliminating unwanted portions of photographic images | |
CN1599425A (zh) | 成像设备、成像方法、成像系统和程序 | |
CN105915850A (zh) | 一种基于图像拼接的视频播放系统 | |
CN1605933A (zh) | 坐标映对方法及应用该方法的影像监视辅助装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20070502 Termination date: 20210620 |
|
CF01 | Termination of patent right due to non-payment of annual fee |