JP2019070914A - Translation display device and translation display method - Google Patents

Translation display device and translation display method Download PDF

Info

Publication number
JP2019070914A
JP2019070914A JP2017196090A JP2017196090A JP2019070914A JP 2019070914 A JP2019070914 A JP 2019070914A JP 2017196090 A JP2017196090 A JP 2017196090A JP 2017196090 A JP2017196090 A JP 2017196090A JP 2019070914 A JP2019070914 A JP 2019070914A
Authority
JP
Japan
Prior art keywords
entry
display
translation
sheet
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017196090A
Other languages
Japanese (ja)
Inventor
勝彦 櫛
Katsuhiko Kushi
勝彦 櫛
岡 夏樹
Natsuki Oka
夏樹 岡
弘規 近藤
Hiroki Kondo
弘規 近藤
夏未 和田
Natsumi Wada
夏未 和田
美紗 吉崎
Misa Yoshizaki
美紗 吉崎
紗也華 冨増
Sayaka Tomimasu
紗也華 冨増
秀晃 森
Hideaki Mori
秀晃 森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyoto Institute of Technology NUC
Original Assignee
Kyoto Institute of Technology NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kyoto Institute of Technology NUC filed Critical Kyoto Institute of Technology NUC
Priority to JP2017196090A priority Critical patent/JP2019070914A/en
Publication of JP2019070914A publication Critical patent/JP2019070914A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Machine Translation (AREA)
  • User Interface Of Digital Computer (AREA)
  • Image Analysis (AREA)

Abstract

To provide a translation display device and a translation display method which assist an entry person who needs translation in making an entry.SOLUTION: A translation display device comprises: imaging means 31 to image an entry sheet 11 placed; projection means 32 to project expressions D superposed on the sheet 11 and suggesting contents to be entered in each entry column of the sheet 11; language translating means 5 to translate a language used in the expressions D suggesting the contents; and display control means 6 to make the projection means 32 project the expressions D suggesting the contents in neighboring positions to the applicable entry columns.SELECTED DRAWING: Figure 3

Description

本発明は、記入用紙への記入を補助するための翻訳表示装置および翻訳表示方法に関する。   The present invention relates to a translation display device and a translation display method for assisting in filling out a form.

一般に、役所、不動産事業所、郵便局等の窓口において、何らかの手続きを行うためには、その手続きに応じた申請書類や伝票等の記入用紙に必要事項を記入して提出する必要がある。このような記入用紙は、一般的に項目や注意事項等が日本語により記載されているため、日本語を識字できない外国人記入者に対しては、例えば窓口の担当者が電子辞書等を利用して記入用紙の記載内容を外国人記入者の使用言語に翻訳し、翻訳内容の表示を提示することにより記入の補助を行っている。また、出身国が同じ外国人居住者が多い地域においては、当該外国人居住者が使用する言語により記載された記入用紙を予め準備することにより対応している窓口もある。   Generally, in order to perform any procedure at a counter such as a government office, a real estate establishment, a post office, etc., it is necessary to fill in and submit necessary items such as application documents and slips according to the procedure. Such items are generally written in Japanese in the form of items and notes, etc. For foreigners who can not literate Japanese, for example, the person in charge at the window uses an electronic dictionary etc. The contents of the entry form are translated into the language of the foreigner and the presentation of the translation contents is presented to assist in the entry. In addition, in areas where there are many foreign residents of the same country of origin, there is also a counter that responds by preparing in advance an entry form written in the language used by the foreign resident.

しかしながら、窓口の担当者が電子辞書等を利用して記入の補助を行う場合、外国人記入者に対して記入用紙の記入欄に記入されるべき内容を示唆する表示を電子辞書にて翻訳したものを逐次提示しながら説明を行う必要があるため、記入の補助に長い時間と手間がかかっていた。また、不特定多数の使用言語に対応するために複数種類の言語により記載された記入用紙を窓口で準備していると、コストがかかるだけでなく、外国人居住者が使用する言語により記載された記入用紙を用いた場合、専門の担当者でなければ記載不備等を確認することが難しくなり、正しく記入の補助を行うことができないという問題があった。   However, when the person in charge at the window assists in the entry using the electronic dictionary etc., the electronic dictionary translated the indication suggesting the content to be entered in the entry field of the entry form for the foreigner Since it is necessary to give explanations while presenting things one after another, it took a long time and effort to assist in the entry. In addition, it is not only costly but also written by the language used by the foreign resident, if an entry form written in multiple languages is prepared at the window in order to support an unspecified number of languages used. In the case of using an entry form, it is difficult to identify an incomplete entry only by a specialized person in charge, and there is a problem that the entry can not be assisted properly.

本発明は、このような問題点に着目してなされたもので、翻訳を必要とする記入者の記入を補助することができる翻訳表示装置および翻訳表示方法を提供することを目的とする。   The present invention has been made in view of such problems, and an object of the present invention is to provide a translation display apparatus and a translation display method which can assist the entry of a person who needs translation.

前記課題を解決するために、本発明の翻訳表示装置は、
載置された記入用紙を撮像する撮像手段と、
前記記入用紙の各記入欄に記入されるべき内容を示唆する表示を前記記入用紙に重ねて投影する投影手段と、
前記内容を示唆する表示に使用される言語を翻訳する言語翻訳手段と、
前記内容を示唆する表示を該当する記入欄の近傍に前記投影手段により投影させる表示制御手段と、を備えることを特徴としている。
この特徴によれば、記入用紙の各記入欄に記入されるべき内容を示唆する表示を該当する記入欄の近傍に、記入者の使用言語に合わせて翻訳して投影することができるため、翻訳を必要とする記入者の記入用紙への記入を効率よく補助することができる。さらに、窓口の担当者の使用言語の記入用紙を使用することができるため、窓口の担当者が記入用紙における記載不備等を確認しやすい。
In order to solve the above-mentioned subject, the translation display of the present invention,
Imaging means for imaging the placed entry form;
Projection means for projecting an indication indicating the contents to be entered in each entry field of the entry form over the entry form;
Language translation means for translating the language used for the indication indicating the content;
And display control means for causing the projection means to project a display indicating the contents in the vicinity of the corresponding entry field.
According to this feature, it is possible to translate and project a display indicating content to be entered in each entry field of the entry form in the vicinity of the relevant entry field according to the language of the entry person. It is possible to efficiently assist in filling out the filling-in form for those who need it. Furthermore, since the entry form of the language used by the person in charge of the window can be used, it is easy for the person in charge of the window to confirm an incomplete description etc. in the entry form.

前記表示制御手段は、前記撮像手段により撮像された画像に基づいて、当該画像に含まれる記入用紙の枠線の少なくとも一部を画像解析することにより、前記記入用紙の記入欄の位置を判別する判別手段を備えることを特徴としている。
この特徴によれば、撮像手段により撮像された画像に基づいて、当該画像に含まれる記入用紙の枠線の一部を画像解析することにより、記入用紙の記入欄の位置を判別して該記入欄に記入されるべき内容を示唆する表示を投影する位置を決定することができるため、記入用紙の載置場所や載置角度に係らず記入用紙の各記入欄に対して記入されるべき内容を示唆する表示を正確な位置に投影することができる。
The display control means determines the position of the entry field of the entry sheet by image-analyzing at least a part of the frame line of the entry sheet contained in the image based on the image taken by the imaging means. It is characterized in that a determination means is provided.
According to this feature, the position of the entry field of the entry sheet is determined by performing image analysis on a part of the frame of the entry sheet included in the image based on the image captured by the imaging means. Since it is possible to determine the projection position of the indication indicating the content to be entered in the field, the content to be entered for each entry field of the entry sheet regardless of the placement place and the placement angle of the entry form Can be projected to the correct position.

前記表示制御手段は、前記記入用紙に形成される枠線により囲まれた特定の領域を色付け表示する色付け表示手段を備えることを特徴としている。
この特徴によれば、記入用紙に形成される枠線により囲まれた特定の領域を色付け表示することにより、例えば記入必須項目を示すことができる。
The display control means is characterized in that it comprises coloring display means for coloring and displaying a specific area surrounded by a frame formed on the entry sheet.
According to this feature, it is possible to indicate, for example, entry required items by coloring and displaying a specific area surrounded by a frame formed on the entry form.

前記表示制御手段は、前記撮像手段により撮像された画像に基づいて、前記色付け表示手段にて色付け表示された特定の領域が指し示されたことを判断し、当該特定の領域に対応する記入欄の近傍に該記入欄に記入されるべき内容を示唆する表示を前記投影手段により投影させることを特徴としている。
この特徴によれば、担当者が必要に応じて記入用紙において色付け表示された領域を指し示すことにより、当該領域に対応する記入欄の近傍に当該記入欄に記入されるべき内容を示唆する表示を投影することができ、記入者との意思疎通を図り易く、記入用紙への記入を効果的に補助することができる。
The display control means determines based on the image picked up by the image pickup means that a specific area colored and displayed by the color display means is pointed out, and an entry column corresponding to the specific area The projection means projects a display in the vicinity of the data indicating the content to be entered in the entry box.
According to this feature, when the person in charge points out the area colored and displayed on the entry sheet as necessary, a display indicating the content to be entered in the entry field is displayed in the vicinity of the entry field corresponding to the area It can be projected, it is easy to communicate with the writer, and it can effectively assist the entry on the entry form.

前記表示制御手段は、前記判別手段により判別される記入用紙の位置の変化に合わせて各記入欄に記入されるべき内容を示唆する表示の位置を調整する表示調整手段を備えていることを特徴としている。
この特徴によれば、記入中に記入用紙の位置が変化しても記入欄に記入されるべき内容を示唆する表示を正しい位置に調整して投影することができ、記入者の記入用紙への記入を正確に補助することができる。
The display control means is characterized by comprising display adjustment means for adjusting the position of the display indicating the contents to be entered in each entry column in accordance with the change of the position of the entry sheet determined by the determination means. And
According to this feature, even if the position of the entry sheet changes during entry, the display indicating the content to be entered in the entry column can be adjusted to the correct position and projected, and the entry form of the entry person It is possible to assist the entry correctly.

前記課題を解決するために、本発明の翻訳表示方法は、
載置された記入用紙を撮像するステップと、
前記撮像された画像に基づいて、当該画像に含まれる前記記入用紙の枠線の一部を画像解析するステップと、
前記枠線の一部から前記記入用紙の記入欄の位置を判別するステップと、
前記記入用紙の各記入欄に記入されるべき内容を示唆する表示を投影する位置を決定するステップと、
記入者の使用言語に基づいて前記内容を示唆する表示の翻訳に使用する言語を選択するステップと、
前記内容を示唆する表示を選択された言語に翻訳するステップと、
翻訳された前記内容を示唆する表示を前記記入用紙の該当する記入欄の近傍に重ねて投影するステップと、を備えることを特徴としている。
この特徴によれば、記入用紙の各記入欄に記入されるべき内容を示唆する表示を該当する記入欄の近傍に、記入者の使用言語に合わせて翻訳して投影することができるため、翻訳を必要とする記入者の記入用紙への記入を効率よく補助することができる。さらに、日本人用の記入用紙を使用することができるため、窓口の担当者が記入用紙における記載不備等を確認しやすい。
In order to solve the above-mentioned subject, the translation display method of the present invention,
Imaging the placed form;
Image-analyzing a part of the frame of the entry sheet included in the image based on the captured image;
Determining the position of the entry field of the entry form from a part of the frame line;
Determining the position at which to project the indication suggesting the content to be entered in each entry field of the entry form;
Selecting a language to be used for translating the indication suggesting the content based on the language of the writer's use;
Translating the indication indicative of the content into the selected language;
And projecting the display indicating the translated content in the vicinity of the corresponding entry field of the entry form.
According to this feature, it is possible to translate and project a display indicating content to be entered in each entry field of the entry form in the vicinity of the relevant entry field according to the language of the entry person. It is possible to efficiently assist in filling out the filling-in form for those who need it. Furthermore, since a Japanese-language entry form can be used, it is easy for the person in charge at the window to check for incompleteness in the entry form.

実施例1における翻訳表示装置の設置状態を示す斜視図である。FIG. 2 is a perspective view showing an installation state of a translation display device in Embodiment 1. 翻訳表示装置の構造を示す斜視図である。It is a perspective view showing the structure of a translation display. 翻訳表示機能部の構成を示すブロック図である。It is a block diagram which shows the structure of a translation display function part. 実施例1においてカメラにより撮像された画像に含まれる記入用紙の枠線の一部を判別部により画像解析した状態を示す図である。FIG. 7 is a view showing a state in which a part of the frame line of the entry sheet included in the image captured by the camera in the first embodiment is image-analyzed by the determination unit. 表示の投影位置の決定処理のフローチャートを示す図である。It is a figure which shows the flowchart of the determination process of the projection position of a display. 表示の翻訳処理のフローチャートを示す図である。It is a figure which shows the flowchart of a translation process of a display. 翻訳された表示の投影位置の決定処理のフローチャートを示す図である。It is a figure which shows the flowchart of the determination process of the projection position of the translated display. 実施例1においてプロジェクタにより記入用紙に表示が重ねて投影された状態を示す図である。FIG. 7 is a diagram showing a state in which a display is projected by being superimposed on an entry sheet by the projector in Embodiment 1. 実施例1において色付けされた表域が指し示されることにより、プロジェクタにより記入用紙に表示が重ねて追加投影された状態を示す図である。FIG. 7 is a diagram showing a state in which a display is superimposed and additionally projected on an entry sheet by a projector by pointing to a colored area in Example 1; 実施例1において記入用紙の位置の変化に対応して、プロジェクタによる表示の投影位置が調整された状態を示す図である。FIG. 7 is a diagram showing a state in which the projection position of the display by the projector is adjusted in accordance with the change in the position of the entry sheet in the first embodiment. 実施例2においてカメラにより撮像された画像に含まれる記入用紙の枠線の太線部を判別部により画像解析した状態を示す図である。FIG. 17 is a diagram showing a state in which the thick line portion of the frame of the entry sheet included in the image captured by the camera in the second embodiment is image-analyzed by the determination unit.

本発明に係る翻訳表示装置および翻訳表示方法を実施するための形態を実施例に基づいて以下に説明する。   An embodiment for implementing a translation display device and a translation display method according to the present invention will be described below based on examples.

実施例1に係る翻訳表示装置および翻訳表示方法につき、図1から図10を参照して説明する。以下、図1の紙面上側および図4の紙面上側(記入用紙の上側)を日本人担当者側とし、図1の紙面下側および図4の紙面下側(記入用紙の下側)を外国人記入者側として説明する。   The translation display device and the translation display method according to the first embodiment will be described with reference to FIG. 1 to FIG. Hereinafter, the upper side of the sheet of FIG. 1 and the upper side of the sheet of FIG. 4 (upper side of the entry sheet) will be the Japanese person in charge, the lower side of FIG. 1 and the lower side of the sheet of FIG. Explain as the writer.

本実施例における翻訳表示装置1は、図1に示されるように、例えば、役所、不動産事業所、郵便局等の窓口における各種手続きの際に、窓口に設けられるテーブルやカウンタ等の記入台10を挟んで窓口の日本人担当者と外国人記入者とが対面する状況で、対面する日本人担当者と外国人記入者との間、かつ記入台10上に載置された記入用紙11の側方に設置され、翻訳を必要とする外国人記入者の記入用紙11への記入を補助するために使用されるものである。尚、本実施においては、外国人記入者の使用言語を英語とし、外国人記入者が日本語で作成された記入用紙11に記入を行う場合を例に挙げて説明する。   As shown in FIG. 1, the translation display device 1 in the present embodiment is, for example, a writing table such as a table or a counter provided at a window at various procedures at a window such as a government office, a real estate office or a post office. In the situation where the Japanese person in charge of the window and the foreigner fill in a face-to-face relationship between the Japanese person in charge and the foreigner in person and the entry form 11 placed on the writing board 10 It is placed sideways and is used to assist foreigners who need translation in order to complete the entry form 11. In the present embodiment, the language used by the foreigner is English, and the foreigner writes on the entry sheet 11 prepared in Japanese as an example.

図1および図2に示されるように、翻訳表示装置1は、持ち運び可能な卓上スタンド型に形成され、略円錐状を成す支持部2と、カメラ31(撮像手段)およびプロジェクタ32(投影手段)を一体に備える翻訳表示機能部3と、支持部2と翻訳表示機能部3とを連結する連結部4と、から構成されている。   As shown in FIG. 1 and FIG. 2, the translation display device 1 is formed into a portable desk lamp, and has a substantially conical support portion 2, a camera 31 (imaging means) and a projector 32 (projection means) And a linking unit 4 linking the support unit 2 and the translation / display function unit 3.

連結部4は、形状保持可能なフレキシブルチューブから構成され、記入台10上に載置された記入用紙11に対して翻訳表示機能部3の筐体30の先端部分に隣接して設けられるカメラ31およびプロジェクタ32の向きや角度を適宜調整できるようになっている。   The connecting portion 4 is formed of a flexible tube capable of holding its shape, and the camera 31 provided adjacent to the front end portion of the case 30 of the translation display function portion 3 with respect to the entry sheet 11 placed on the entry table 10 The orientation and angle of the projector 32 can be adjusted appropriately.

支持部2には、図示しないバッテリが内蔵され、図示しない電源スイッチをオン状態に切り換えることで連結部4の内部に挿通される図示しない配線を介して翻訳表示機能部3に電力が供給されるようになっている。尚、バッテリおよび電源スイッチは、翻訳表示機能部3に設けられていてもよい。   A battery (not shown) is incorporated in the support portion 2 and power is supplied to the translation display function unit 3 through a wire (not shown) inserted inside the connecting portion 4 by switching a power switch (not shown) to the on state. It is supposed to be. The battery and the power switch may be provided in the translation display function unit 3.

次いで、翻訳表示機能部3の構造について説明する。図2および図3に示されるように、翻訳表示機能部3は、筐体30と、筐体30の先端部分に隣接して設けられるカメラ31およびプロジェクタ32と、筐体30の内部に収容される言語翻訳部5(言語翻訳手段)および表示制御部6(表示制御手段)と、から主に構成されている。尚、カメラ31は、電力が供給された状態においては常に撮像を行っている。また、翻訳表示機能部3を構成するカメラ31およびプロジェクタ32は、よく知られた構成であるため、詳しい説明を省略する。   Next, the structure of the translation display function unit 3 will be described. As shown in FIGS. 2 and 3, the translation display function unit 3 is housed inside the housing 30, the camera 31 and the projector 32 provided adjacent to the tip of the housing 30, and the housing 30. Language translation unit 5 (language translation unit) and display control unit 6 (display control unit). The camera 31 constantly captures an image in a state where power is supplied. In addition, since the camera 31 and the projector 32 that constitute the translation display function unit 3 have well-known configurations, detailed description will be omitted.

図3に示されるように、翻訳表示機能部3において、カメラ31およびプロジェクタ32は、表示制御部6と接続され、表示制御部6は、カメラ31により撮像された画像に基づいて、プロジェクタ32により記入用紙11の各記入欄に記入されるべき内容を示唆する表示D(図8参照)を該当する記入欄の近傍に重ねて投影するための制御を行う。尚、以下に記述される表示Dとは、記入用紙11の各記入欄に記入されるべき内容を示唆する予め設定された文字列であり、具体的には、記入欄の項目である。また、記入台10上におけるカメラ31による撮像範囲は、プロジェクタ32による投影範囲R(図8参照)と略同一、またはプロジェクタ32による投影範囲Rよりも広く設定されるものとする。   As shown in FIG. 3, in the translation display function unit 3, the camera 31 and the projector 32 are connected to the display control unit 6, and the display control unit 6 is controlled by the projector 32 based on the image captured by the camera 31. Control is performed to project a display D (see FIG. 8) indicating contents to be entered in each entry field of the entry form 11 in the vicinity of the relevant entry field in an overlapping manner. The display D described below is a preset character string that suggests the content to be entered in each entry field of the entry form 11, and specifically, is an item of the entry field. Further, it is assumed that an imaging range by the camera 31 on the writing table 10 is set substantially the same as the projection range R (see FIG. 8) by the projector 32 or wider than the projection range R by the projector 32.

また、表示制御部6は、言語翻訳部5と接続され、言語翻訳部5は、プロジェクタ32により投影される表示Dに使用される言語の翻訳を行う。   Further, the display control unit 6 is connected to the language translation unit 5, and the language translation unit 5 translates the language used for the display D projected by the projector 32.

次いで、表示制御部6の構造について説明する。図3に示されるように、表示制御部6は、判別部60(判別手段)を備えている。   Next, the structure of the display control unit 6 will be described. As shown in FIG. 3, the display control unit 6 includes a determination unit 60 (determination unit).

次いで、表示制御部6による表示Dの投影位置の決定方法について説明する。表示制御部6は、カメラ31により撮像された画像に基づいて、判別部60により画像に含まれる記入用紙11の枠線12の一部L(図4参照)の画像解析を行う。尚、記入用紙11の枠線12の一部Lは、枠線12が交差して矩形状に構成された部分のことを示す。判別部60は、窓口で使用される複数種類の記入用紙ごとに特定の枠線の形状を記憶した記入用紙データベース63を備え、画像解析された記入用紙11の枠線12の一部Lと、記入用紙データベース63に記憶される複数種類の記入用紙ごとの特定の枠線の形状とを照合することにより、記入台10に載置された記入用紙11の種類を判別する。尚、記入用紙11の種類の判別は、記入用紙11の枠線12を用いるものに限らず、記入用紙の種類に対応して設定される数字、記号、バーコードおよび二次元コード等が用いられてもよい。   Next, a method of determining the projection position of the display D by the display control unit 6 will be described. The display control unit 6 causes the determination unit 60 to perform image analysis of a part L (see FIG. 4) of the frame 12 of the entry sheet 11 included in the image based on the image captured by the camera 31. In addition, a part L of the frame line 12 of the entry sheet 11 indicates a part formed by crossing the frame line 12 into a rectangular shape. Discrimination unit 60 includes entry form database 63 storing the shape of a specific frame line for each of a plurality of types of entry forms used at the window, and part L of frame line 12 of entry form 11 subjected to image analysis; The type of the entry sheet 11 placed on the entry table 10 is determined by collating the form of the specific frame line for each of a plurality of types of entry sheets stored in the entry sheet database 63. The type of the entry sheet 11 is not limited to the one using the frame 12 of the entry sheet 11, but numbers, symbols, bar codes, two-dimensional codes, etc. set corresponding to the type of entry sheet are used. May be

また、判別部60は、矩形状に構成される記入用紙11の枠線12の一部Lにおける交差する枠線12の配置に基づいて、記入台10に載置された記入用紙11の向きを判別する。さらに、判別部60は、記入用紙11の種類と向きをそれぞれ判別することにより、記入台10に載置された記入用紙11の位置を判別する。   Further, the discrimination unit 60 sets the direction of the entry sheet 11 placed on the entry board 10 on the basis of the arrangement of the intersecting frame lines 12 in the part L of the frame line 12 of the entry sheet 11 configured in a rectangular shape. Determine. Further, the determination unit 60 determines the position of the entry sheet 11 placed on the entry table 10 by determining the type and the direction of the entry sheet 11 respectively.

また、記入用紙データベース63には、複数種類の記入用紙ごとに記入用紙の各記入欄の位置情報が記憶されており、判別部60は、画像解析された記入用紙11の枠線12の一部Lの位置データを基準として、記入用紙11の各記入欄と、撮像した記入用紙11の画像における記入欄の位置情報とを対応させる。   Further, in the entry form database 63, position information of each entry field of the entry form is stored for each of a plurality of types of entry forms, and the discrimination unit 60 is a part of the frame line 12 of the entry form 11 subjected to image analysis. Based on the position data of L, the respective entry fields of the entry form 11 correspond to the position information of the entry fields in the image of the entry form 11 that has been captured.

尚、判別部60における判別に用いられる記入用紙11の枠線12の一部Lは、矩形状のものに限らず、例えば、交差する枠線の交点と、交差する各枠線上における交点以外の1点を含む少なくとも3点以上を結んで構成される形状を有した部分であればよい。   In addition, a part L of the frame line 12 of the entry sheet 11 used for the determination in the determination unit 60 is not limited to the rectangular one, for example, other than the intersection points of the intersecting frame lines and the intersecting frame lines It may be a portion having a shape configured by connecting at least three or more points including one point.

また、記入用紙データベース63には、複数種類の記入用紙ごとに各記入欄と対応する表示Dが記憶されている。   In the entry form database 63, a display D corresponding to each entry field is stored for each of a plurality of types of entry forms.

次いで、表示制御部6の判別部60における表示Dの投影位置の決定処理に関わるシステムフローについて図5を用いて説明する。図5に示されるように、判別部60は、カメラ31により撮像された画像に対して記入用紙の特定の枠線の形状があるか否かの画像処理を行う(ステップSA1)。そして、ステップSA1において撮像された画像から記入用紙の特定の枠線の形状が検出された場合には、記入台10上に記入用紙があると判断し、ステップSA2に移り、画像解析された記入用紙の特定の枠線の形状を複数種類の記入用紙ごとの特定の枠線の形状が記憶される記入用紙データベース63と照合し、ステップSA3に移り、記入台10に載置された記入用紙の種類を判別し、ステップSA4に移り、記入台10に載置された記入用紙の向きを判別し、ステップSA5に移り、記入用紙の種類と向きに基づいて記入台10に載置された記入用紙の位置を判別し、ステップSA6に移り、記入用紙データベース63から対応する記入用紙の各記入欄の位置情報を取得する。そして、ステップSA7に移り、画像解析された記入用紙の特定の枠線の位置を基準として記入用紙の各記入欄に対応する表示Dの投影位置を決定し、ステップSA8に移り、表示Dの投影位置データを抽出し、さらにステップSA9に移り、表示Dの投影位置データを表示制御部6に出力するようになっている。   Next, a system flow relating to the process of determining the projection position of the display D in the determination unit 60 of the display control unit 6 will be described with reference to FIG. As illustrated in FIG. 5, the determination unit 60 performs an image process on the image captured by the camera 31 to determine whether or not there is a specific frame line shape of the entry sheet (step SA1). Then, when the shape of a specific frame line of the entry form is detected from the image captured in step SA1, it is determined that the entry form is on the entry table 10, and the process moves to step SA2 and the image analyzed entry The form of the specific frame line of the form is collated with the entry form database 63 in which the form of the specific frame line for each of a plurality of types of entry forms is stored, and the process proceeds to step SA3 and the entry form placed on the entry table 10 The type is determined, and the process proceeds to step SA4, the direction of the entry sheet placed on the entry board 10 is determined, and the step proceeds to step SA5. The entry sheet placed on the entry table 10 based on the type and direction of entry sheet At step SA6, the position information of each entry field of the corresponding entry form is acquired from the entry form database 63. Then, the process proceeds to step SA7, the projection position of the display D corresponding to each entry field of the entry sheet is determined based on the position of the specific frame line of the entry form subjected to image analysis, and the process proceeds to step SA8. The position data is extracted, and the process proceeds to step SA9, where the projection position data of the display D is output to the display control unit 6.

次いで、言語翻訳部5の構造について説明する。図3に示されるように、言語翻訳部5は、指向性マイク50と、音声認識部51と、表示Dの翻訳に使用される複数種類の言語の翻訳データを複数種類の記入用紙ごとにまとめたテンプレートが記憶される翻訳データベース52と、を備えている。   Next, the structure of the language translation unit 5 will be described. As shown in FIG. 3, the language translation unit 5 combines the directional microphone 50, the speech recognition unit 51, and the translation data of a plurality of types of languages used for translating the display D for each of a plurality of types of entry sheets. And a translation database 52 in which the template is stored.

次いで、言語翻訳部5による表示Dに使用される言語の翻訳方法について説明する。言語翻訳部5は、指向性マイク50により窓口における日本人担当者と外国人記入者との会話音声を集音し、指向性マイク50により集音された会話音声に基づいて、音声認識部51により外国人記入者の使用言語を認識することにより、外国人記入者の使用言語を翻訳に使用される言語として自動的に設定する。また、言語翻訳部5は、前述した表示制御部6の判別部60により判別された記入用紙11の種類の判別データと、対応する表示Dの文字列データを取得することにより、判別データにおける記入用紙11の種類と、翻訳に使用される言語として設定された外国人記入者の使用言語との組み合わせに該当するテンプレートを翻訳データベース52から取得して表示Dの翻訳を行う。尚、言語翻訳部5は、翻訳データベース52を備えるものに限らず、例えば、通信部を設けてインターネット上のサーバから翻訳データをまとめたテンプレートを取得できるようにしてもよい。   Next, a translation method of the language used for display D by the language translation unit 5 will be described. The language translation unit 5 collects conversational speech between a Japanese person in charge at the window and a foreigner by the directional microphone 50, and based on the conversational speech collected by the directional microphone 50, the speech recognition unit 51. By recognizing the language used by the foreigner, the language used by the foreigner is automatically set as the language used for translation. In addition, the language translation unit 5 writes in the discrimination data by acquiring the discrimination data of the type of the entry sheet 11 discriminated by the discrimination unit 60 of the display control unit 6 described above and the corresponding character string data of the display D. A template corresponding to a combination of the type of the sheet 11 and the language used by the foreigner set as the language used for translation is acquired from the translation database 52, and the display D is translated. The language translation unit 5 is not limited to the one provided with the translation database 52. For example, a communication unit may be provided to be able to acquire a template in which translation data are summarized from a server on the Internet.

次いで、言語翻訳部5における表示Dの翻訳処理に関わるシステムフローについて図6を用いて説明する。図6に示されるように、音声認識部51は、指向性マイク50により集音された会話音声に基づいて、音声認識部51により外国人記入者の使用言語を認識する(ステップSB1)。そして、ステップSB1において認識された外国人記入者の使用言語を翻訳に使用する言語として設定し(ステップSB2)、ステップSB3に移り、表示制御部6の判別部60により判別された記入用紙11の種類の判別データと、対応する表示Dの文字列データを取得し、ステップSB4に移り、判別データにおける記入用紙11の種類と、設定された外国人記入者の使用言語との組み合わせに該当するテンプレートを翻訳データベース52から取得する。そして、ステップSB5に移り、翻訳データベース52から取得したテンプレートを利用して表示Dの文字列データを翻訳し、ステップSB6に移り、翻訳された表示Dの翻訳文字列データを抽出し、さらにステップSB7に移り、表示Dの翻訳文字列データを表示制御部6に出力するようになっている。   Next, a system flow relating to the translation process of the display D in the language translation unit 5 will be described with reference to FIG. As shown in FIG. 6, the voice recognition unit 51 recognizes the language used by the foreigner by the voice recognition unit 51 based on the conversation voice collected by the directional microphone 50 (step SB1). Then, the language used by the foreigner recognized in step SB1 is set as the language to be used for translation (step SB2), and the process proceeds to step SB3 where the entry sheet 11 determined by the determination unit 60 of the display control unit 6 is selected. The discrimination data of the type and the character string data of the corresponding display D are acquired, and the process proceeds to step SB4, and a template corresponding to the combination of the type of the entry sheet 11 in the discrimination data and the language used for the set foreigner Are acquired from the translation database 52. Then, the process proceeds to step SB5, the character string data of display D is translated using the template acquired from translation database 52, the process proceeds to step SB6, the translated character string data of display D translated is extracted, and step SB7 Then, the translated character string data of display D is output to the display control unit 6.

次いで、表示制御部6における処理について説明する。表示制御部6は、判別部60から出力された表示Dの投影位置データと、言語翻訳部5から出力された表示Dの翻訳文字列データと、を受けてプロジェクタ32による表示Dの投影を行っている。   Next, processing in the display control unit 6 will be described. The display control unit 6 receives the projection position data of the display D output from the determination unit 60 and the translated character string data of the display D output from the language translation unit 5 and projects the display D by the projector 32. ing.

次いで、表示制御部6における処理に関わるシステムフローについて図7を用いて説明する。図7に示されるように、表示制御部6は、ステップSC1にて判別部60から出力された表示Dの投影位置データの入力を受けると、ステップSC2にて、言語翻訳部5から投影位置データの入力があったか否かの判断をし、言語翻訳部5からの入力があった場合、ステップSC3に移り、投影位置データと翻訳文字列データとから翻訳された表示Dの投影位置の決定を行い、ステップSC4にて翻訳された表示Dの投影位置の情報をプロジェクタ32に出力する。   Next, a system flow related to processing in the display control unit 6 will be described with reference to FIG. As shown in FIG. 7, when the display control unit 6 receives the input of the projection position data of the display D output from the determination unit 60 in step SC1, the display control unit 6 receives the projection position data from the language translation unit 5 in step SC2. If there is an input from the language translation unit 5, the process proceeds to step SC3 where the projection position of the display D translated from the projection position data and the translated character string data is determined. The information on the projection position of the display D translated at step SC4 is output to the projector 32.

次いで、翻訳表示装置1の使用手順の一例について説明する。先ず、記入台10を挟んで窓口の日本人担当者と外国人記入者が対面した状態において、記入台10上に記入用紙11を載置する。次に、日本人担当者は、支持部2に設けられる図示しない電源スイッチをオン状態に切り換える操作を行うことにより、翻訳表示機能部3に電力が供給され、カメラ31による記入台10上の記入用紙11の撮像と、指向性マイク50による会話音声の集音が開始され、表示制御部6による表示Dの投影位置の決定処理と、音声認識部51により認識された外国人記入者の使用言語に基づいて言語翻訳部5における表示Dの翻訳処理が行われた後、プロジェクタ32により翻訳された表示Dが記入用紙11の該当する記入欄の近傍に重ねて投影される(図8参照)。尚、表示Dの翻訳に使用される言語の設定は、音声認識によるものに限らず、例えば、窓口の日本人担当者がキーボードやマウス等の入力手段を操作して翻訳表示装置1に接続される別体の表示端末に表示される言語の選択肢から外国人記入者の使用言語を選択することにより設定できるようにしてもよい。   Next, an example of the procedure of using the translation display device 1 will be described. First, the entry sheet 11 is placed on the entry board 10 in a state in which the Japanese person in charge of the window and the foreign entry person face each other across the entry board 10. Next, when the Japanese person in charge performs an operation to switch the power switch (not shown) provided on the support unit 2 to the on state, power is supplied to the translation display function unit 3 and the entry on the writing table 10 by the camera 31 is performed. The imaging of the sheet 11 and the collection of conversational speech by the directional microphone 50 are started, the process of determining the projection position of the display D by the display control unit 6 and the language used by the foreigner recognized by the speech recognition unit 51 After the translation processing of the display D in the language translation unit 5 is performed based on the above, the display D translated by the projector 32 is superimposed and projected in the vicinity of the corresponding entry field of the entry sheet 11 (see FIG. 8). In addition, the setting of the language used for the translation of the display D is not limited to that by voice recognition, and for example, a Japanese person in charge at the window is connected to the translation display device 1 by operating input means such as a keyboard and a mouse. It may be set by selecting the language used by the foreigner from the language options displayed on the separate display terminal.

これによれば、翻訳表示装置1は、図8に示されるように、記入用紙11の各記入欄に記入されるべき内容を示唆する表示Dを該当する記入欄の近傍に、外国人記入者の使用言語に合わせて翻訳して投影することができるため、翻訳を必要とする外国人記入者の記入用紙11への記入を効率よく補助することができる。さらに、日本語で作成された記入用紙を使用することができるため、窓口の日本人担当者が記入用紙11における記載不備等を確認しやすい。   According to this, as shown in FIG. 8, the translation display apparatus 1 displays foreign D in the vicinity of the corresponding entry column indicating the indication D which indicates the content to be entered in each entry column of the entry sheet 11. Since it can be translated and projected in accordance with the language used, foreigners who need translation can efficiently assist in filling out the entry form 11. In addition, since it is possible to use an entry form prepared in Japanese, it is easy for a Japanese person in charge at the window to check an incomplete entry etc. in the entry form 11.

また、カメラ31により撮像された画像に基づいて、表示制御部6の判別部60において、撮像された画像に含まれる記入用紙11の枠線12の少なくとも一部Lを画像解析することにより、記入用紙11の記入欄の位置を判別して各記入欄に記入されるべき内容を示唆する表示Dを投影する位置を決定することができるため、記入用紙11の載置場所や載置角度に係らず記入用紙11の各記入欄に対して表示Dを正確な位置に投影することができる。また、記入用紙11において白紙部分とのコントラストが強い枠線12を判別部60の判別に用いているため、カメラ31により撮像された画像から画像解析を行いやすく、表示制御部6による表示Dの投影位置の決定処理の精度を高めることができる。   Further, based on the image captured by the camera 31, the determination unit 60 of the display control unit 6 performs image analysis by performing image analysis on at least a portion L of the frame 12 of the entry sheet 11 included in the captured image. Since it is possible to determine the position of the entry column of the form 11 and to determine the position to project the display D suggesting the contents to be entered in each entry column, the position of the entry form 11 and the placement angle The display D can be projected to the correct position for each entry field of the entry form 11. Further, since the frame line 12 having a high contrast with the white paper portion in the entry sheet 11 is used for the determination of the determination unit 60, image analysis is easily performed from the image captured by the camera 31, and the display D The accuracy of the process of determining the projection position can be enhanced.

また、図3に示されるように、表示制御部6は、色付け表示処理部61(色付け表示手段)を備え、色付け表示処理部61は、カメラ31により撮像された画像に基づいて、判別部60により画像解析される記入用紙11に形成される枠線12により囲まれた特定の領域A1,A2,A3をプロジェクタ32により投影して色付け表示することができる(図8参照)。尚、領域A2,A3のように、記入欄の項目の記載箇所を含むように部分的に色付け表示されてもよい。また、色付け表示処理部61は、判別部60により判別される記入用紙11の各記入欄の位置に基づいて、記入用紙11の各記入欄に記入されるべき内容を示唆する表示Dが必要な箇所、例えば、記入用紙11における書類名、氏名の記載箇所や申請日の記入箇所等を色付け表示することもできる。   Further, as shown in FIG. 3, the display control unit 6 includes a coloring display processing unit 61 (coloring display means), and the coloring display processing unit 61 determines the discrimination unit 60 based on the image captured by the camera 31. The projector 32 can project and color-display specific areas A1, A2 and A3 surrounded by the frame lines 12 formed on the entry sheet 11 to be image-analyzed by the image processing (see FIG. 8). As in the areas A2 and A3, the display may be partially colored so as to include the description positions of the items in the entry field. Further, the coloring display processing unit 61 needs a display D that suggests the content to be entered in each entry field of the entry form 11 based on the position of each entry field of the entry form 11 determined by the determination unit 60. For example, the document name in the entry form 11, the description location of the name, the entry location of the application date, etc. may be displayed in color.

これによれば、記入用紙11に形成される枠線12により囲まれた特定の領域や表示Dの表示が必要な箇所を色付け表示することができるため、例えば、記入用紙11における記入必須項目を示して、対応する記入欄への記入を分かり易くガイドすることができる。   According to this, since it is possible to color-display the specific area surrounded by the frame 12 formed on the entry sheet 11 and the part where the display D is required to be displayed, for example, the entry required items in the entry sheet 11 It can be shown to guide the entry in the corresponding field in an easy-to-understand manner.

また、図9に示されるように、表示制御部6は、カメラ31により撮像された画像に基づいて、判別部60により色付け表示処理部61によって色付け表示された特定の領域(例えば、領域A3)が指し示されたことが判別されると、指し示された領域に対応する表示D’を記入欄の近傍にプロジェクタ32により追加投影する、いわゆるポップアップ表示を行うことができる。尚、本実施例においては、常時投影される表示Dは、記入欄の項目を示し、追加投影される表示D’は、記入欄に対する記入内容の説明や記入に関する注意事項等を示しており、表示D’についても、表示Dと同様に外国人記入者の使用言語に合わせて翻訳された状態で投影される。また、表示D’の翻訳に使用される複数種類の言語の翻訳データについても、表示Dと同様に複数種類の記入用紙ごとにまとめたテンプレートが翻訳データベース52に記憶されている。   Further, as shown in FIG. 9, the display control unit 6 displays a specific area (for example, area A3) displayed by the coloring display processing unit 61 by the coloring display processing unit 61 based on the image captured by the camera 31. When it is determined that is pointed, it is possible to perform a so-called pop-up display in which the projector 32 additionally projects the display D 'corresponding to the pointed area to the vicinity of the entry field. In the present embodiment, the display D which is always projected indicates an item in the entry column, and the display D 'which is additionally projected indicates notes on the entry content in the entry column and notes on the entry, etc. Similarly to the display D, the display D 'is projected in a translated state according to the language used by the foreigner. Further, as for the translation data of a plurality of types of languages used for translating the display D ′, templates similar to the display D and stored for each of a plurality of types of entry sheets are stored in the translation database 52.

これによれば、窓口の日本人担当者が必要に応じて記入用紙11において色付け表示された領域を指し示すことにより、その領域に対応する記入欄の近傍に表示D’をプロジェクタ32により追加投影させることができ、外国人記入者との意思疎通を図り易く、記入用紙11への記入を効果的に補助することができる。   According to this, the Japanese person in charge of the window points the area colored and displayed on the entry sheet 11 as necessary, and causes the projector 32 to additionally project the display D 'in the vicinity of the entry column corresponding to the area. It is possible to facilitate communication with foreigners and effectively assist in filling out the entry form 11.

また、判別部60は、色付け表示処理部61によって色付け表示された特定の領域に対して指や筆記用具等の先端が重なった状態が所定時間経過したか否かを基準として、色付け表示された特定の領域が指し示されたことを判別している。尚、色付け表示処理部61によって色付け表示された特定の領域に対して指や筆記用具等の先端が重なった状態であるか否かは、カメラ31により撮像された画像に基づいて、色付け表示された特定の領域に対して指や筆記用具等の先端が重なることによる記入用紙11の枠線12の形状の変形や、色付け表示された特定の領域の色や濃淡の変化等を検出することにより判別される。   In addition, the determination unit 60 performs the color display on the basis of whether a predetermined period of time in which the tip of the finger or the writing instrument overlaps the specific area colored and displayed by the color display processing unit 61 has elapsed. It is determined that a specific area has been indicated. Whether or not the tip of a finger, a writing instrument, or the like overlaps a specific area colored and displayed by the coloring display processing unit 61 is colored and displayed based on the image captured by the camera 31. By detecting the deformation of the shape of the frame 12 of the entry sheet 11 due to the overlapping of the tip of the finger or the writing instrument with the specific area, or the change in color or shade of the specific area displayed in color. It is determined.

尚、カメラ31により撮像された画像に基づいて、判別部60により手全体を認識させることにより、引き出し線等を利用して追加投影される表示D’が記入用紙11上の手と重畳しないように、表示D’の投影位置を変化させてもよい。   It should be noted that, by causing the discrimination unit 60 to recognize the entire hand based on the image captured by the camera 31, the display D 'additionally projected using a lead line or the like may not overlap with the hand on the entry sheet 11. The projection position of the display D ′ may be changed.

また、図3に示されるように、表示制御部6は、表示調整部62(表示調整手段)を備え、表示調整部62は、カメラ31により撮像された画像に基づいて、判別部60により画像における記入用紙11の枠線12の一部L(図4参照)の位置の変化を判別することにより、表示制御部6に対して判別部60から出力される投影位置データに対する補正データを付加的に出力する。表示制御部6は、判別部60から入力された投影位置データと、表示調整部62から入力された補正データに基づいて、表示Dの投影位置をプロジェクタ32の投影範囲R内において移動・回転させることにより補正する(図10参照)。尚、カメラ31により撮像された画像に基づいて、表示Dの投影位置が記入用紙11の各記入欄に対して正しく補正されているかを判別部60により判別させるようにしてもよい。   In addition, as shown in FIG. 3, the display control unit 6 includes a display adjustment unit 62 (display adjustment unit), and the display adjustment unit 62 determines an image by the determination unit 60 based on the image captured by the camera 31. The correction data for the projection position data output from the determination unit 60 to the display control unit 6 is added by determining the change in the position of the part L (see FIG. 4) of the frame line 12 of the entry sheet 11 in Output to The display control unit 6 moves and rotates the projection position of the display D within the projection range R of the projector 32 based on the projection position data input from the determination unit 60 and the correction data input from the display adjustment unit 62. It corrects by (refer FIG. 10). The determination unit 60 may determine whether the projection position of the display D is correctly corrected with respect to each entry field of the entry sheet 11 based on the image captured by the camera 31.

これによれば、外国人記入者による記入用紙11への記入中に記入用紙11の位置が変化しても、記入用紙11の位置の変化に追従させて表示Dを各記入欄の近傍の正しい位置に投影することができるため、外国人記入者の記入用紙11への記入を表示Dにより正確に補助することができる。尚、図示は省略するが、色付け表示処理部61によって色付け表示された特定の領域が指し示されることにより追加投影される表示D’の投影位置についても、表示Dの投影位置に合わせて補正される。   According to this, even if the position of the entry form 11 changes during the entry onto the entry form 11 by the foreigner, the display D is made to follow the change of the position of the entry form 11 and the display D is correct in the vicinity of each entry column. Since the image can be projected to the position, the entry on the entry form 11 of the foreigner can be assisted by the display D more accurately. Although illustration is omitted, the projection position of the display D 'additionally projected by pointing to the specific area colored and displayed by the coloring display processing unit 61 is also corrected according to the projection position of the display D. Ru.

尚、表示調整部62による表示Dの投影位置の調整は、カメラ31により撮像された画像に基づいて、判別部60により判別される記入用紙11の枠線12により囲まれた領域(例えば領域A1)と、記入用紙11の記入欄の位置の変化前に色付け表示処理部61によって色付け表示されていた領域とのずれを揃えるようにキャリブレーションされてもよい。   The adjustment of the projection position of the display D by the display adjustment unit 62 is performed by an area (for example, the area A1) surrounded by the frame 12 of the entry sheet 11 determined by the determination unit 60 based on the image captured by the camera 31. And may be calibrated so as to align the difference between the area displayed in the coloring display processing unit 61 before the change of the position of the entry column of the entry sheet 11.

また、言語翻訳部5は、記入台10上の記入用紙の種類が変更された際に、変更前の記入用紙の記入欄に対応する表示Dの翻訳に使用されていた言語の設定を新たな記入用紙の記入欄に対応する表示Dの翻訳に使用される言語の設定として継続することができる。これによれば、同一の外国人記入者に対して記入用紙の種類が変更される度に、表示Dの翻訳に使用される言語の設定をやり直す必要がなくなるため、言語翻訳部5における処理を簡素化することができ、変更された記入用紙に対応する表示Dを迅速に投影することができる。   In addition, when the type of the entry form on the entry table 10 is changed, the language translation unit 5 newly sets the language used for translating the display D corresponding to the entry field of the entry form before the change. It can be continued as the setting of the language used for translating the display D corresponding to the entry field of the entry form. According to this, every time the type of the entry form is changed for the same foreigner, there is no need to set the language used for translating the display D again, so the processing in the language translation unit 5 It can be simplified and the display D corresponding to the modified form can be projected quickly.

実施例2に係る翻訳表示装置および翻訳表示方法につき、図11を参照して説明する。尚、前記実施例に示される構成部分と同一構成部分については同一符号を付して重複する説明を省略する。   The translation display device and the translation display method according to the second embodiment will be described with reference to FIG. The same reference numerals are given to the same components as the components shown in the above embodiment, and the redundant description will be omitted.

実施例2における翻訳表示装置1の表示制御部6による表示Dの投影位置の決定方法について説明する。図11に示されるように、表示制御部6は、カメラ31により撮像された画像に基づいて、判別部60により画像に含まれる記入用紙111の枠線112の太線部Bの画像解析を行う。判別部60は、窓口で使用される複数種類の記入用紙ごとに枠線の太線部の形状を記憶した記入用紙データベース63を備え、画像解析された記入用紙111の枠線112の太線部Bと、記入用紙データベース63に記憶される複数種類の記入用紙ごとの枠線の太線部の形状とを照合することにより、記入台10に載置された記入用紙111の種類を判別する。   A method of determining the projection position of the display D by the display control unit 6 of the translation display device 1 in the second embodiment will be described. As shown in FIG. 11, the display control unit 6 analyzes the image of the thick line portion B of the frame line 112 of the entry sheet 111 included in the image by the determination unit 60 based on the image captured by the camera 31. Discrimination unit 60 is provided with an entry sheet database 63 storing the shape of the thick line portion of the frame for each of a plurality of types of entry sheets used at the window, and the bold line portion B of frame 112 of entry sheet 111 subjected to image analysis The type of the entry sheet 111 placed on the entry table 10 is determined by collating with the shape of the thick line portion of the frame line for each of a plurality of types of entry sheets stored in the entry sheet database 63.

また、判別部60は、記入用紙111の枠線112の太線部Bの形状に基づいて、記入台10に載置された記入用紙111の向きを判別する。判別部60は、記入用紙111の種類と向きをそれぞれ判別することにより、記入台10に載置された記入用紙111の位置を判別する。   Further, the determination unit 60 determines the direction of the entry sheet 111 placed on the entry table 10 based on the shape of the thick line portion B of the frame line 112 of the entry sheet 111. The determination unit 60 determines the position of the entry sheet 111 placed on the entry table 10 by determining the type and the direction of the entry sheet 111.

また、記入用紙データベース63には、複数種類の記入用紙ごとに記入用紙の各記入欄の位置情報が記憶されており、判別部60は、画像解析された記入用紙111の枠線112の太線部Bの位置データを基準として、記入用紙111の各記入欄と、撮像した記入用紙111の画像における記入欄の位置情報とを対応させる。   Further, position information of each entry field of the entry sheet is stored in the entry sheet database 63 for each of a plurality of types of entry sheets, and the discrimination unit 60 determines the thick line portion of the frame line 112 of the entry sheet 111 subjected to image analysis. Based on the position data of B, the respective entry fields of the entry sheet 111 correspond to the position information of the entry fields in the image of the entry sheet 111 that has been captured.

これによれば、一般的に、記入用紙111において記入者による記入欄であることを認識させやすくするために設けられる太線部Bを基準として、判別部60による記入用紙111の種類や位置の判別を行っているため、カメラ31により撮像された画像に基づいて画像解析を行いやすく、表示制御部6による表示Dの投影位置の決定処理の精度を高めることができる。   According to this, generally, determination of the type and position of the entry sheet 111 by the determination unit 60 on the basis of the bold line portion B provided to facilitate recognition of the entry column by the entry person in the entry sheet 111 Therefore, the image analysis can be easily performed based on the image captured by the camera 31, and the accuracy of the process of determining the projection position of the display D by the display control unit 6 can be enhanced.

以上、本発明の実施例を図面により説明してきたが、具体的な構成はこれら実施例に限られるものではなく、本発明の要旨を逸脱しない範囲における変更や追加があっても本発明に含まれる。   Although the embodiments of the present invention have been described above with reference to the drawings, the specific configuration is not limited to these embodiments, and any changes or additions may be made without departing from the scope of the present invention. Be

例えば、前記実施例では、日本語で作成された記入用紙に英語に翻訳された表示Dを投影する態様として説明したが、これに限らず、記入用紙に使用される言語と表示Dの翻訳に使用される言語は、どのような組み合わせの言語対であってもよい。   For example, although the embodiment has been described as a mode in which the display D translated into English is projected onto an entry form prepared in Japanese, the present invention is not limited to this. The language used may be any combination of language pairs.

また、前記実施例では、翻訳表示機能部3は、カメラ31とプロジェクタ32とが一体に備えられるものとして説明したが、カメラとプロジェクタは、別体であってもよい。   Moreover, in the said Example, although the translation display function part 3 demonstrated as what is integrally equipped with the camera 31 and the projector 32, a camera and a projector may be separate bodies.

また、前記実施例では、記入用紙11に対してプロジェクタ32により表示Dが常時投影され、色付け表示処理部61によって色付け表示された特定の領域が指し示されることにより表示D’が追加投影される態様として説明したが、これに限らず、記入用紙11に対して表示Dと表示D’を常時投影せず、色付け表示処理部61によって色付け表示された特定の領域が指し示されることにより、表示Dと表示D’が組み合わされた状態で追加投影されてもよい。また、全ての表示Dと表示D’が常時投影されていてもよい。   Further, in the above embodiment, the display D is always projected on the entry sheet 11 by the projector 32 and the display D 'is additionally projected by pointing to the specific area colored and displayed by the coloring display processing unit 61. Although the mode has been described, the present invention is not limited to this, and the display D and the display D 'are not always projected on the entry sheet 11, and the display is performed by pointing to a specific area colored and displayed by the coloring display processing unit 61. It may be additionally projected in a state where D and display D 'are combined. Also, all the displays D and displays D 'may be projected at all times.

また、前記実施例では、翻訳データベース52に表示Dおよび表示D’の翻訳に使用される複数種類の言語の翻訳データを複数種類の記入用紙ごとにまとめたテンプレートが記憶される態様として説明したが、これに限らず、例えば、判別部60がカメラ31により撮像された画像に基づいて、記入用紙の各記入欄に対応する記入欄の項目の文字列を認識可能に構成することにより、認識された文字列に対応する翻訳データを翻訳データベース52から取得して翻訳を行うようにしてもよい。   Further, in the above embodiment, the translation database 52 is described as a mode in which the template in which the translation data of a plurality of types of languages used for translating the display D and the display D ′ are organized into a plurality of types of entry sheets is stored. Not limited to this, for example, based on the image picked up by the camera 31, the discrimination unit 60 can recognize the character string of the item of the entry field corresponding to each entry field of the entry sheet so that it can be recognized. The translation data corresponding to the character string may be acquired from the translation database 52 and translation may be performed.

また、判別部60は、カメラ31により撮像された画像に基づいて、記入用紙における記入欄の枠の配置パターンを画像解析することにより、記入用紙の種類や位置等を判別してもよい。   In addition, the determination unit 60 may determine the type, the position, and the like of the entry sheet by analyzing the arrangement pattern of the frame of the entry column in the entry sheet based on the image captured by the camera 31.

1 翻訳表示装置
2 支持部
3 翻訳表示機能部
4 連結部
5 言語翻訳部(言語翻訳手段)
6 表示制御部(表示制御手段)
10 記入台
11,111 記入用紙
12,112 枠線
30 筐体
31 カメラ(撮像手段)
32 プロジェクタ(投影手段)
50 指向性マイク
51 音声認識部
52 翻訳データベース
60 判別部(判別手段)
61 色付け表示処理部(色付け表示手段)
62 表示調整部(表示調整手段)
63 記入用紙データベース
A1〜A3 領域
D,D’ 表示
L 枠線の一部
B 太線部
R 投影範囲
DESCRIPTION OF SYMBOLS 1 translation display apparatus 2 support part 3 translation display function part 4 connection part 5 language translation part (language translation means)
6 Display control unit (display control means)
DESCRIPTION OF SYMBOLS 10 entry stand 11,111 entry form 12,112 frame line 30 housing 31 camera (imaging means)
32 Projector (projection means)
50 directional microphone 51 voice recognition unit 52 translation database 60 determination unit (determination means)
61 Coloring Display Processing Unit (Coloring Display Means)
62 Display Adjustment Unit (Display Adjustment Means)
63 Entry Form Databases A1 to A3 Area D, D 'Display L Frame Line Part B Thick Line R Projection Range

Claims (6)

載置された記入用紙を撮像する撮像手段と、
前記記入用紙の各記入欄に記入されるべき内容を示唆する表示を前記記入用紙に重ねて投影する投影手段と、
前記内容を示唆する表示に使用される言語を翻訳する言語翻訳手段と、
前記内容を示唆する表示を該当する記入欄の近傍に前記投影手段により投影させる表示制御手段と、を備えることを特徴とする翻訳表示装置。
Imaging means for imaging the placed entry form;
Projection means for projecting an indication indicating the contents to be entered in each entry field of the entry form over the entry form;
Language translation means for translating the language used for the indication indicating the content;
And a display control unit for causing the projection unit to project a display indicating the content in the vicinity of the corresponding entry field.
前記表示制御手段は、前記撮像手段により撮像された画像に基づいて、当該画像に含まれる記入用紙の枠線の少なくとも一部を画像解析することにより、前記記入用紙の記入欄の位置を判別する判別手段を備えることを特徴とする請求項1に記載の翻訳表示装置。   The display control means determines the position of the entry field of the entry sheet by image-analyzing at least a part of the frame line of the entry sheet contained in the image based on the image taken by the imaging means. The translation display apparatus according to claim 1, further comprising a determination unit. 前記表示制御手段は、前記記入用紙に形成される枠線により囲まれた特定の領域を色付け表示する色付け表示手段を備えることを特徴とする請求項1または2に記載の翻訳表示装置。   The translation display device according to claim 1 or 2, wherein the display control means includes a coloring display means for coloring and displaying a specific area surrounded by a frame line formed on the entry sheet. 前記表示制御手段は、前記撮像手段により撮像された画像に基づいて、前記色付け表示手段にて色付け表示された特定の領域が指し示されたことを判断し、当該特定の領域に対応する記入欄の近傍に該記入欄に記入されるべき内容を示唆する表示を前記投影手段により投影させることを特徴とする請求項3に記載の翻訳表示装置。   The display control means determines based on the image picked up by the image pickup means that a specific area colored and displayed by the color display means is pointed out, and an entry column corresponding to the specific area 4. The translation display device according to claim 3, wherein the projection means projects a display indicating the contents to be entered in the entry box in the vicinity of. 前記表示制御手段は、前記判別手段により判別される記入用紙の位置の変化に合わせて各記入欄に記入されるべき内容を示唆する表示の位置を調整する表示調整手段を備えていることを特徴とする請求項1ないし4のいずれかに記載の翻訳表示装置。   The display control means is characterized by comprising display adjustment means for adjusting the position of the display indicating the contents to be entered in each entry column in accordance with the change of the position of the entry sheet determined by the determination means. The translation display device according to any one of claims 1 to 4. 載置された記入用紙を撮像するステップと、
前記撮像された画像に基づいて、当該画像に含まれる前記記入用紙の枠線の一部を画像解析するステップと、
前記枠線の一部から前記記入用紙の記入欄の位置を判別するステップと、
前記記入用紙の各記入欄に記入されるべき内容を示唆する表示を投影する位置を決定するステップと、
記入者の使用言語に基づいて前記内容を示唆する表示の翻訳に使用する言語を選択するステップと、
前記内容を示唆する表示を選択された言語に翻訳するステップと、
翻訳された前記内容を示唆する表示を前記記入用紙の該当する記入欄の近傍に重ねて投影するステップと、を備えることを特徴とする翻訳表示方法。
Imaging the placed form;
Image-analyzing a part of the frame of the entry sheet included in the image based on the captured image;
Determining the position of the entry field of the entry form from a part of the frame line;
Determining the position at which to project the indication suggesting the content to be entered in each entry field of the entry form;
Selecting a language to be used for translating the indication suggesting the content based on the language of the writer's use;
Translating the indication indicative of the content into the selected language;
And projecting the display indicating the translated content in the vicinity of the corresponding entry field of the entry form.
JP2017196090A 2017-10-06 2017-10-06 Translation display device and translation display method Pending JP2019070914A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017196090A JP2019070914A (en) 2017-10-06 2017-10-06 Translation display device and translation display method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017196090A JP2019070914A (en) 2017-10-06 2017-10-06 Translation display device and translation display method

Publications (1)

Publication Number Publication Date
JP2019070914A true JP2019070914A (en) 2019-05-09

Family

ID=66441235

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017196090A Pending JP2019070914A (en) 2017-10-06 2017-10-06 Translation display device and translation display method

Country Status (1)

Country Link
JP (1) JP2019070914A (en)

Cited By (52)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020168162A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168147A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168155A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168161A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168149A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168150A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168157A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168151A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168148A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168152A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168158A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168159A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168163A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168160A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168153A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168156A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020178873A (en) * 2019-04-25 2020-11-05 株式会社三洋物産 Game machine
JP2020178870A (en) * 2019-04-25 2020-11-05 株式会社三洋物産 Game machine
JP2020178800A (en) * 2019-04-24 2020-11-05 株式会社三洋物産 Game machine
JP2020178874A (en) * 2019-04-25 2020-11-05 株式会社三洋物産 Game machine
JP2020178799A (en) * 2019-04-24 2020-11-05 株式会社三洋物産 Game machine
JP2020178798A (en) * 2019-04-24 2020-11-05 株式会社三洋物産 Game machine
JP2020178801A (en) * 2019-04-24 2020-11-05 株式会社三洋物産 Game machine
JP2020178871A (en) * 2019-04-25 2020-11-05 株式会社三洋物産 Game machine
JP2020178872A (en) * 2019-04-25 2020-11-05 株式会社三洋物産 Game machine
JP2020178802A (en) * 2019-04-24 2020-11-05 株式会社三洋物産 Game machine
JP2021003408A (en) * 2019-06-27 2021-01-14 株式会社三洋物産 Game machine
JP2021003410A (en) * 2019-06-27 2021-01-14 株式会社三洋物産 Game machine
JP2021003409A (en) * 2019-06-27 2021-01-14 株式会社三洋物産 Game machine
JP2021003403A (en) * 2019-06-27 2021-01-14 株式会社三洋物産 Game machine
JP2021003404A (en) * 2019-06-27 2021-01-14 株式会社三洋物産 Game machine
JP2021003407A (en) * 2019-06-27 2021-01-14 株式会社三洋物産 Game machine
JP2021003402A (en) * 2019-06-27 2021-01-14 株式会社三洋物産 Game machine
JP2021003405A (en) * 2019-06-27 2021-01-14 株式会社三洋物産 Game machine
JP2021003406A (en) * 2019-06-27 2021-01-14 株式会社三洋物産 Game machine
JP2021029495A (en) * 2019-08-22 2021-03-01 株式会社三洋物産 Game machine
JP2021029491A (en) * 2019-08-22 2021-03-01 株式会社三洋物産 Game machine
JP2021029492A (en) * 2019-08-22 2021-03-01 株式会社三洋物産 Game machine
JP2021029497A (en) * 2019-08-22 2021-03-01 株式会社三洋物産 Game machine
JP2021029494A (en) * 2019-08-22 2021-03-01 株式会社三洋物産 Game machine
JP2021029561A (en) * 2019-08-23 2021-03-01 株式会社三洋物産 Game machine
JP2021029560A (en) * 2019-08-23 2021-03-01 株式会社三洋物産 Game machine
JP2021029493A (en) * 2019-08-22 2021-03-01 株式会社三洋物産 Game machine
JP2021029496A (en) * 2019-08-22 2021-03-01 株式会社三洋物産 Game machine
JP2021029498A (en) * 2019-08-22 2021-03-01 株式会社三洋物産 Game machine
JP2021058264A (en) * 2019-10-03 2021-04-15 株式会社三洋物産 Game machine
JP2021058265A (en) * 2019-10-03 2021-04-15 株式会社三洋物産 Game machine
JP2021058269A (en) * 2019-10-03 2021-04-15 株式会社三洋物産 Game machine
JP2021058266A (en) * 2019-10-03 2021-04-15 株式会社三洋物産 Game machine
JP2021058268A (en) * 2019-10-03 2021-04-15 株式会社三洋物産 Game machine
JP2021058267A (en) * 2019-10-03 2021-04-15 株式会社三洋物産 Game machine
WO2022163356A1 (en) * 2021-01-29 2022-08-04 ソニーグループ株式会社 Projection device and image processing system

Cited By (52)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020168162A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168147A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168155A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168161A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168149A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168150A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168157A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168151A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168148A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168152A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168158A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168159A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168163A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168160A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168153A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020168156A (en) * 2019-04-02 2020-10-15 株式会社三洋物産 Game machine
JP2020178800A (en) * 2019-04-24 2020-11-05 株式会社三洋物産 Game machine
JP2020178799A (en) * 2019-04-24 2020-11-05 株式会社三洋物産 Game machine
JP2020178798A (en) * 2019-04-24 2020-11-05 株式会社三洋物産 Game machine
JP2020178801A (en) * 2019-04-24 2020-11-05 株式会社三洋物産 Game machine
JP2020178802A (en) * 2019-04-24 2020-11-05 株式会社三洋物産 Game machine
JP2020178873A (en) * 2019-04-25 2020-11-05 株式会社三洋物産 Game machine
JP2020178870A (en) * 2019-04-25 2020-11-05 株式会社三洋物産 Game machine
JP2020178874A (en) * 2019-04-25 2020-11-05 株式会社三洋物産 Game machine
JP2020178871A (en) * 2019-04-25 2020-11-05 株式会社三洋物産 Game machine
JP2020178872A (en) * 2019-04-25 2020-11-05 株式会社三洋物産 Game machine
JP2021003408A (en) * 2019-06-27 2021-01-14 株式会社三洋物産 Game machine
JP2021003410A (en) * 2019-06-27 2021-01-14 株式会社三洋物産 Game machine
JP2021003409A (en) * 2019-06-27 2021-01-14 株式会社三洋物産 Game machine
JP2021003403A (en) * 2019-06-27 2021-01-14 株式会社三洋物産 Game machine
JP2021003404A (en) * 2019-06-27 2021-01-14 株式会社三洋物産 Game machine
JP2021003407A (en) * 2019-06-27 2021-01-14 株式会社三洋物産 Game machine
JP2021003402A (en) * 2019-06-27 2021-01-14 株式会社三洋物産 Game machine
JP2021003405A (en) * 2019-06-27 2021-01-14 株式会社三洋物産 Game machine
JP2021003406A (en) * 2019-06-27 2021-01-14 株式会社三洋物産 Game machine
JP2021029494A (en) * 2019-08-22 2021-03-01 株式会社三洋物産 Game machine
JP2021029496A (en) * 2019-08-22 2021-03-01 株式会社三洋物産 Game machine
JP2021029492A (en) * 2019-08-22 2021-03-01 株式会社三洋物産 Game machine
JP2021029497A (en) * 2019-08-22 2021-03-01 株式会社三洋物産 Game machine
JP2021029495A (en) * 2019-08-22 2021-03-01 株式会社三洋物産 Game machine
JP2021029491A (en) * 2019-08-22 2021-03-01 株式会社三洋物産 Game machine
JP2021029498A (en) * 2019-08-22 2021-03-01 株式会社三洋物産 Game machine
JP2021029493A (en) * 2019-08-22 2021-03-01 株式会社三洋物産 Game machine
JP2021029561A (en) * 2019-08-23 2021-03-01 株式会社三洋物産 Game machine
JP2021029560A (en) * 2019-08-23 2021-03-01 株式会社三洋物産 Game machine
JP2021058264A (en) * 2019-10-03 2021-04-15 株式会社三洋物産 Game machine
JP2021058265A (en) * 2019-10-03 2021-04-15 株式会社三洋物産 Game machine
JP2021058269A (en) * 2019-10-03 2021-04-15 株式会社三洋物産 Game machine
JP2021058266A (en) * 2019-10-03 2021-04-15 株式会社三洋物産 Game machine
JP2021058268A (en) * 2019-10-03 2021-04-15 株式会社三洋物産 Game machine
JP2021058267A (en) * 2019-10-03 2021-04-15 株式会社三洋物産 Game machine
WO2022163356A1 (en) * 2021-01-29 2022-08-04 ソニーグループ株式会社 Projection device and image processing system

Similar Documents

Publication Publication Date Title
JP2019070914A (en) Translation display device and translation display method
JP2019070915A (en) Translation display device
JPH03201166A (en) Display system at the time of correcting japanese document reading translation system
JP4615897B2 (en) System and method for automatic annotation embedding device for use in ultrasound imaging
KR101648756B1 (en) Examination paper recognition and scoring system
US20090136135A1 (en) Apparatus and method for recognizing characters
US9767388B2 (en) Method and system for verification by reading
KR20040078046A (en) Form definition data creation method and form handling machines
JP2019113803A (en) Chinese character learning device
JP4655824B2 (en) Image recognition apparatus, image recognition method, and image recognition program
JPH08235182A (en) Method and device for document processing
JP2007025105A (en) Braille translation device, braille translation method, braille translation program, and computer readable recording medium with the program recorded thereon
JP5860488B2 (en) Answer determination system
KR101180383B1 (en) System and method for connecting online and offline learning
JP2007233888A (en) Image processor and image processing program
KR20170132643A (en) Method for displaying character and Apparatus thereof
JP6325218B2 (en) Character recognition result verification device and character reading system
KR102293361B1 (en) Apparatus and method for providing handwriting calibration function
JP2006262152A (en) Image forming method and device, and program
JP6710893B2 (en) Electronics and programs
KR20220116818A (en) Mehtod and device for information extraction through deep learning-based answer sheet scanning
JP2020013282A (en) Information processing device and program
JP2020027484A (en) Scoring support device
CN206627954U (en) A kind of English Translation device
JPH08339419A (en) Method and device for generating format information