JP2014515961A - 拡張現実向けの玩具構築システム - Google Patents

拡張現実向けの玩具構築システム Download PDF

Info

Publication number
JP2014515961A
JP2014515961A JP2014511845A JP2014511845A JP2014515961A JP 2014515961 A JP2014515961 A JP 2014515961A JP 2014511845 A JP2014511845 A JP 2014511845A JP 2014511845 A JP2014511845 A JP 2014511845A JP 2014515961 A JP2014515961 A JP 2014515961A
Authority
JP
Japan
Prior art keywords
marker
toy
image
building
toy construction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014511845A
Other languages
English (en)
Other versions
JP6262127B2 (ja
Inventor
ムスヤラ,シドハース
ビーク,ハーム ヤン ファン
ダビデ アライン ギィヨン,ニコラス
ラゾーネ,フランツ
ホルム イェンセン,ミッケル
Original Assignee
レゴ エー/エス
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Family has litigation
First worldwide family litigation filed litigation Critical https://patents.darts-ip.com/?family=46124378&utm_source=google_patent&utm_medium=platform_link&utm_campaign=public_patent_search&patent=JP2014515961(A) "Global patent litigation dataset” by Darts-ip is licensed under a Creative Commons Attribution 4.0 International License.
Application filed by レゴ エー/エス filed Critical レゴ エー/エス
Publication of JP2014515961A publication Critical patent/JP2014515961A/ja
Application granted granted Critical
Publication of JP6262127B2 publication Critical patent/JP6262127B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63HTOYS, e.g. TOPS, DOLLS, HOOPS OR BUILDING BLOCKS
    • A63H33/00Other toys
    • A63H33/04Building blocks, strips, or similar building parts
    • A63H33/042Mechanical, electrical, optical, pneumatic or hydraulic arrangements; Motors
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F9/00Games not otherwise provided for
    • A63F9/24Electric games; Games using electronic circuits not otherwise provided for
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63HTOYS, e.g. TOPS, DOLLS, HOOPS OR BUILDING BLOCKS
    • A63H33/00Other toys
    • A63H33/04Building blocks, strips, or similar building parts
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/60Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor
    • A63F13/65Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor automatically by game devices or servers from real world data, e.g. measurement in live racing competition
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/60Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor
    • A63F13/69Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor by enabling or updating specific game elements, e.g. unlocking hidden features, items, levels or versions
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F9/00Games not otherwise provided for
    • A63F9/24Electric games; Games using electronic circuits not otherwise provided for
    • A63F2009/2448Output devices
    • A63F2009/245Output devices visual
    • A63F2009/2457Display screens, e.g. monitors, video displays
    • A63F2009/246Computer generated or synthesized image
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2250/00Miscellaneous game characteristics
    • A63F2250/28Miscellaneous game characteristics with a two-dimensional real image
    • A63F2250/287Cameras therefor

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Toys (AREA)
  • Processing Or Creating Images (AREA)

Abstract

玩具構築要素を備える玩具構築システムであって、玩具構築要素は、玩具構築要素を脱着可能に相互連結する結合手段を備え、玩具構築システムは、そのような結合手段を備えると共にそれぞれが画像処理手段によって認識可能な視覚的外観を有する1つ又は複数のマーカー構築要素と、画像捕捉手段、画像処理手段及び表示手段を備えるデータ処理システムであって、データ処理システムは、玩具構築要素から構築された玩具構築モデルの画像を捕捉し、捕捉画像を処理して、少なくとも、捕捉画像内のマーカー構築要素のうちの少なくとも1つの存在を検出し、検出されたマーカー構築要素に応じてコンピューター生成画像を生成し、生成されたコンピューター生成画像が重ね合わされた捕捉画像を含む合成画像を表示手段上に表示するように構成される、データ処理システムと、を備える玩具構築システム。
【選択図】図2

Description

本発明は、構築要素を脱着可能に相互連結する結合手段を有する構築要素を備える玩具構築システムに関する。
そのような玩具構築システムは数十年にわたって知られている。特に、構築要素を互いに脱着可能に相互連結する結合手段を有する玩具構築要素を備える玩具構築システムは高い人気を得ている。単純な組立ブロックは、プレイ価値を高める機械的機能又は電気的機能を有する専用構築要素で補われている。そのような機能には、例えばモーター、スイッチ及びランプが含まれる。
物理構築モデルのプレイ価値を高め、ユーザーがコンピューターを介して物理構築モデルと対話することを可能にすることが一般的に望ましい。この目的で、センサーからの入力を受け取り、受信したセンサー入力に応じて機能要素をアクティブ化することができ、かつ適切にプログラムされたコンピューターによってユーザーがプログラムすることができる、プログラマブルプロセッサを備える物理構築モデルが開示されている。
例えば、特許文献1は、構築要素を脱着可能に相互連結する結合手段を有する構築要素を備える玩具構築システムを開示している。玩具構築システムは、構築システムの1つ又は複数の機能要素を制御する1つ又は複数の論理コマンドを生成するプログラミング環境を提供するようにプログラムされたデータ処理システムを更に備える。この目的で、玩具構築システムは、玩具構築モデルをコンピューターに電気的に結合することを可能にし、かつコンピューターが玩具構築モデル内にいずれの機能要素が含まれているかを検出することを可能にするインターフェース構築要素を備える。
上記の従来技術によるシステムが、ユーザーがコンピューターによって物理構築モデルとインタラクトすることを可能にするにもかかわらず、物理構築モデルのより密な統合及びコンピューターにおいて生成される仮想現実を提供することが依然として望ましい。
画像認識及びコンピューターグラフィックの様々な技術分野において、拡張現実(AR)を利用するシステムがますます関心を得ている。拡張現実(AR)は、物理的な現実世界の環境の1つ又は複数のアイテムの捕捉されたライブビューが、コンピューター生成グラフィックによって拡張される、すなわちユーザーが、例えばライブビューをコンピューターグラフィックと重ねた/重畳させた形態で、ライブビュー及びコンピューター生成グラフィックを含む合成ビューを提示される技術である。
これらのシステムにおいて、画像特徴は捕捉されたビュー内で検出され、次にシステムは指定された画像特徴に応じてコンピューター生成画像を生成し、その生成された画像を捕捉されたビュー上に重ね合わせることができる。さらに、画像特徴の検出を容易にする所定の拡張現実マーカー又はタグを含むビデオ画像上へのコンピューター生成画像の重畳も知られている。
拡張現実は、箱に入れて販売される玩具構築要素から組み立てることができる玩具構築モデルのコンピューター生成画像をユーザーに提示するのに用いられてきた。この目的で、箱はその外側に拡張現実マーカーを含む。ユーザーが店内のキオスクシステムのビデオカメラの前で箱を抱えると、キオスクシステムは、箱の捕捉ビデオ画像を、あたかも箱の上に組み立てられたかのように示される構築モデルのコンピューター生成画像により拡張して示す。ユーザーがカメラの前で箱を動かすか又は回転させると、構築モデルのコンピューター生成画像はこれらの動きを追う。
しかしながら、物理構築モデルのより密な統合及びコンピューターにおいて生成される仮想現実を提供することが依然として望ましい。
このため、小さな子供、例えば就学前の児童が、物理的な玩具構築モデルをコンピューターが生成した仮想のプレイ体験と組み合わせることを可能にする玩具構築システムを提供することが問題として残っている。
また、プログラミング技法、制御システム等を詳細に理解しない子供向けの玩具構築システムを提供することが一般的に望ましい。
また、玩具構築システムの教育価値及びプレイ価値を高めることが一般的に望ましい。
国際公開第09/047225号
本明細書において、玩具構築要素が、該玩具構築要素を脱着可能に相互連結する結合手段を備える玩具構築要素を備える、玩具構築システムが開示される。玩具構築システムの実施形態は、そのような結合手段を備え且つそれぞれがマーカー構築要素の捕捉画像において画像処理システムによって認識可能な視覚的外観を有する1つ又は複数のマーカー構築要素と、画像捕捉手段、処理手段及び表示手段を備えるデータ処理システムと、を備える。該データ処理システムは、前記玩具構築要素から構築された玩具構築モデルの画像を捕捉し、前記捕捉画像を処理して、少なくとも、該捕捉画像内の前記マーカー構築要素のうちの少なくとも1つの存在を検出し、前記検出されたマーカー構築要素に応じてコンピューター生成画像を生成し、前記生成されたコンピューター生成画像が重ね合わされた前記捕捉画像を含む合成画像を前記表示手段上に表示する、
ように構成される、データ処理システムと、
を備える。
玩具構築システムと適合する結合手段を含むマーカー構築要素を提供することによって、マーカー構築要素は玩具構築システムの他の構築要素と脱着可能に連結することができる。一般的に、マーカー構築要素は、玩具構築システムと適合する結合手段と、マーカー構築要素の捕捉画像において画像処理システムによって認識可能な視覚的外観、例えばマーカー構築要素の捕捉画像において容易に検出可能な印、とを含む玩具構築要素である。結合手段は、例えば摩擦による連結、ラッチ又はスナップ留め機能、及び/又は任意の他の機械的非接着連結によって、玩具構築要素を互いに機械的に連結する任意の適した手段とすることができる。したがって、ユーザーは1つ又は複数のマーカー要素を玩具構築モデルに繰り返しかつ脱着可能に結合し、それによって玩具構築モデルの特徴を、玩具構築モデルの捕捉画像においてマーカー構築要素を認識するように構成されたARシステムによって検出可能にすることができる。このため、ユーザーは、玩具構築要素から構築された任意の玩具構築モデルをAR使用可能モデルに容易に変換する、すなわち、データ処理システムが、検出されたマーカー構築要素の存在及びオプションで他の特性に応じて、コンピューター生成画像を生成し重ね合わせることを可能にすることができる。このため、ユーザーは、単に玩具構築システムの構築要素をインターフェースとして用いることによって、ARアプリケーションを制御することができる。
本明細書において説明される玩具構築システムの実施形態の更なる利点は、マーカー構築要素が所与の玩具構造内の他のマーカー構築要素と容易に交換可能であり、それによってARシステム内で多岐にわたり異なった起こり得る相互作用を可能にすることができることである。
いくつかの実施形態では、結合手段は、連結方向を規定し、各構築要素を別の構築要素に対し離散した数の所定の相対的な向きでその別の構築要素と相互連結することを可能にするように構成され、マーカー構築要素が玩具構築システムの少なくとも1つの他の玩具構築要素に結合されているとき、全ての印は規定された連結方向に対して少なくとも1つの所定の方向から見えるように配置される。このため、そのような玩具構築システムによって、様々なマーカー構築要素が交換されている場合であっても、印の適切な可視性が容易に保証されるように、マーカー構築要素が玩具構築システムの他の構築要素と相互連結されている玩具構造の構築が可能になる。
いくつかの実施形態では、玩具構築システムは少なくとも2つのマーカー構築要素を含み、これらの2つのマーカー構築要素はそれらの結合手段を介して、複合マーカー要素を形成するように互いに脱着可能に連結可能である。マーカー構築要素は互いに直接的に連結可能とすることができ、及び/又は例えば2つのマーカー構築要素を共通の第3の玩具構築要素(又は構築要素群)と連結することによって、互いに間接的に連結可能とすることができる。コンピューターシステムは、複合マーカー要素を検出し、この複合マーカー要素の検出に応じて選択的にコンピューター生成グラフィックを生成するように構成することができる。このため、マーカー構築要素を異なる形で相互連結することによって、ユーザーは比較的少数の基本マーカー構築要素から多岐にわたる新たな複合マーカー要素を構築し、それによってそのような複合マーカーの検出に応じて、コンピューターによって作成することができる起こり得る拡張現実シナリオの可変性を増大させることができる。例えば、1組のマーカー構築要素は、例えば所定のコードに従って、ARシステムによって認識可能な単語を形成するアルファベットの文字と非常に類似した形で機能することができる。
1つの実施形態では、玩具構築システムは、各面が玩具構築システムの構築要素によって形成された交換可能な面を有するサイコロを含み、マーカー構築要素のうちの1つ又は複数は、マーカー構築要素をサイコロに結合することを可能にするように構成された形状及びサイズ並びに結合手段を有し、マーカー構築要素はサイコロの面を形成するように構成され、ここでマーカー構築要素はサイコロの面を形成するその表面の一部に視覚的に検出可能な印を含む。サイコロの実施形態は、ボードゲーム、カードゲーム又は何らかの他のゲーム等のゲーム用のサイコロとすることができる。ゲーム用サイコロは、平面支持体上にあるときに、ゲーム用サイコロを安定して載置することができる少なくとも6つの面を含む本体を備えることができ、そのような面のうちの1つ又は複数に、印保持マーカー要素を取り付ける結合手段が設けられる。いくつかの実施形態では、サイコロの少なくとも1つの面に、少なくとも2つの印保持マーカー要素を同時に取り付ける結合手段を設けることができる。したがって、コンピューターシステムはマーカー要素(複数可)を検出し、それぞれの応答を作成し、これによってゲーム用サイコロが投げられたときに新たな種類のゲームの更なるオプション又は異なる結果のより多くのオプションを可能にすることができる。
いくつかの実施形態では、結合手段は3次元(3D)格子等の規則的な格子を規定し、玩具構築モデル内の構築要素の位置を上記規則的な格子上の離散的な位置に制限する。特に、結合手段は、例えば互いに平行にかつ規則的な平面内距離に配列される複数の平面状の格子として規定される3次元の規則的な格子の格子点上に位置決めされた複数の結合要素を含むことができる。結合手段によって規定される固有の離散座標系により、異なるマーカー要素間及び/又はマーカー構築要素と玩具構築モデルの別の要素又は特徴との間の空間関係の検出が容易になる。特に、マーカー構築要素の視覚的に検出可能な特徴がマーカー構築要素の結合手段に対し一様な位置に位置決めされているとき、玩具構築モデル内のARマーカーの位置を確実かつ正確に求めることが容易になる。
マーカー構築要素はそれぞれ、印等の視覚的に検出可能な特徴を含むことができる。特に、構築要素が離散的で有限な1組の値(例えば限られた数の別個の色)のうちの1つを仮定することができる少なくとも1つの特性を有するとき、そのような特性は容易に検出可能なARマーカーとして用いることができ、その特性はARコンピューターシステムによって検出可能であり解釈可能である。本説明の目的で、ARシステムによって認識可能なマーカー構築要素の視覚的特徴もARマーカーと呼ばれる。
ARマーカー、例えば印は、例えば本明細書において説明されるような玩具構築システムの固有の座標系又は規則的な格子に対する1つ又は複数の方向を規定し、これによってARシステムがARマーカーの向き、例えばカメラ位置に対する及び/又は別のARマーカーに対する向きを検出することを可能にすることができる。
いくつかの実施形態では、各マーカー構築要素は、コンピューターにより認識可能な印、例えばマーカー構築要素の外面上のコンピューターにより認識可能な印、例えばコンピューターにより認識可能なバーコード、マトリックスコード及び/又は別の適切な2Dシンボル、を含む。
いくつかの実施形態では、マーカー構築要素は2つの異なるARマーカーと、第1の位置と第2の位置との間で動かすことができる可動要素、例えば蝶着された要素、回転可能に配置された要素等とを含むことができ、可動要素が、それぞれ第1の位置及び第2の位置に位置決めされたときに、それぞれのマーカーを見えなくするよう選択的に遮蔽するようになっている。このため、構成要素の動きによって異なるマーカーが視認可能になり、これによってARコンピューターシステムが可動構成要素の状態を検出することが可能になる。
玩具構築システムの実施形態は、ユーザーが、均一で十分構造化された方法で、かつ限られた1組の様々な構築要素を用いて、AR機能を容易にする多岐にわたる玩具構築モデルを構築することを可能にする。例えば、玩具構築システムは、異なる印を有する複数のマーカー構築要素を含む玩具構築セットとして提供することができる。オプションで、そのような玩具構築セットは、以下のもの、すなわち画像捕捉デバイス、従来の構築要素、インストラクションマニュアル(instruction manual)、コンピューターに本明細書において説明される方法の実施形態のステップを実行させるように構成されるコンピュータープログラム手段が記憶されているコンピューター可読媒体等、のうちの1つ又は複数を含むことができる。
玩具組立セットは、当該技術分野において既知の従来の組立ブロック等の、動作/機能を実行又は制御する能力を有するか又は有しない能動及び/又は受動構築要素等の更なるタイプの構築要素を含むことができることに留意されたい。
本発明の異なる態様は、上記及び下記で説明される玩具構築システムと、対応する方法、装置、及び製造手段とを含む様々な形で実施することができる。これらはそれぞれが、上記で説明した態様のうちの少なくとも1つとの関連で説明される利益及び利点のうちの1つ又は複数をもたらし、それぞれが上記及び下記で説明される態様のうちの少なくとも1つとの関連で説明され及び/又は従属請求項において開示される好ましい実施形態に対応する1つ又は複数の好ましい実施形態を有する。さらに、本明細書において説明される態様のうちの1つとの関連で説明される実施形態は、他の態様にも等しく適用することができることが理解されよう。
特に、玩具構築モデルの画像を生成する方法が提供される。さらに、データ処理システム上で実行されると、本明細書において説明される方法のステップをデータ処理システムに実行させるように構成されたプログラムコード手段を備えるコンピュータープログラム製品が提供される。
コンピュータープログラム製品は、CD−ROM、DVD、光ディスク、メモリカード、フラッシュメモリ、磁気記憶デバイス、フロッピーディスク、ハードディスク等のコンピューター可読媒体として提供することができる。他の実施形態ではコンピュータープログラム製品は、ダウンロード可能なソフトウェアパッケージとして、例えばインターネット又は他のコンピューター又は通信ネットワークを介したダウンロード用にウェブサーバー上に提供することができる。特に、玩具構築セットの一実施形態は、本明細書において説明されるような1つ又は複数のマーカー構築要素を含む玩具構築要素と、適切なデータ処理システム上にコンピュータープログラム製品をインストールすることのインストールインストラクション(instructions)とを含むことができる。
データ処理システムは、PC、ポータブル又はハンドヘルドコンピューター、PDA、スマートフォン等の任意の適切なコンピューター又は他の処理デバイスを含むことができる。
データ処理システムの実施形態は、カメラ、例えばビデオカメラ、又は玩具構築モデルの画像を取得する任意の他の適切なデバイス等の画像捕捉手段を含む。
データ処理システムの実施形態は、画像処理手段、例えば特徴検出動作等の1つ又は複数の画像処理動作を捕捉画像に対し実行するように構成された処理手段、を含む。
ここで、及び以下において、処理手段及び処理ユニットという用語は、本明細書において説明される機能を実行するように適切に構成された任意の回路及び/又はデバイスを含むように意図される。特に、上記の用語は、汎用プログラマブルマイクロプロセッサ若しくは専用プログラマブルマイクロプロセッサ、デジタルシグナルプロセッサ(DSP)、特定用途向け集積回路(ASIC)、プログラマブル論理アレイ(PLA)、フィールドプログラマブルゲートアレイ(FPGA)、専用電子回路等、又はそれらの組合せを含むことができる。
このため、本明細書において説明される玩具構築セットの実施形態は、ユーザーが多岐にわたる玩具モデルを構築し、容易にかつ正確に再現可能な方法でコンピューター認識可能なマーカー要素を加えることを可能にする。これによって、適切にプログラムされたコンピューターが玩具モデルの画像を捕捉し、認識されたマーカー構築要素に応じて、捕捉画像をコンピューター生成画像により拡張するか又は捕捉画像をコンピューター生成画像と置き換えることが可能になる。
ARマーカーの検出に応じてコンピューター生成画像を生成することは、ARマーカー、例えば仮想環境におけるアクティビティ、1つ又は複数の仮想キャラクターの行動等のトリガーイベント、の検出によってトリガーされた更なる機能を実行すること、を含むことができる。
さらに、いくつかの実施形態によれば、ユーザーは、適切なマーカー構築要素を玩具構築モデルに結合し、及び/又はそのようなマーカー構築要素を含む玩具構築モデルの少なくとも一部を操作することによって、コンピューター生成画像の生成及び表示を制御することができる。
a−dは、それぞれ従来技術による玩具組立ブリックを示す図である。 本明細書において開示されるような玩具構築システムの一実施形態を示す図である。 マーカー構築要素の例を概略的に示す図である。 マーカー構築要素の例を概略的に示す図である。 a−gは、複合マーカー構築要素の例を示す図である。 複合マーカー構築要素の使用の例を示す図である。 複合マーカー構築要素の使用の例を示す図である。 a−dは、規則的な格子を規定する玩具構築システムの例を示す図である。 本明細書において説明されるような玩具構築システムの例の使用例を示す図である。 本明細書において説明されるような玩具構築システムの例の使用例を示す図である。 a−bは、2つの選択的に視認可能なARマーカーを含むマーカー構築要素の例を示す図である。
ここで、本明細書において開示される玩具構築システムの様々な態様及び実施形態を、ブリックの形態の玩具構築要素を参照して説明する。しかしながら、本発明は玩具構築セットにおいて用いられる他の形態の構築要素に適用することもできる。
図1a〜図1dはそれぞれ、上面の結合スタッド105と、底面からブリック内に延在するキャビティ102とを有する従来技術による玩具組立ブリックを示している。図1a及び図1bは玩具組立ブリックの上面側を示している一方、図1bは同じ玩具組立ブリックの底面側を示している。図1c及び図1dは、異なる大きさの類似した玩具組立ブリックの例を示している。そのような構築要素は、LEGOという商標で広く入手可能である。キャビティは中央のチューブ103を有し、米国特許第3005282号に開示されているように、別のブリックの結合スタッドを摩擦による係合でキャビティ内に受容することができる。残りの図面に示す組立ブリックは、この既知のタイプの結合手段を、協働するスタッド及びキャビティの形態で有することができる。しかしながら、他のタイプの結合手段も用いることができる。結合スタッドは正方形の平面状の格子に配列され、すなわち、結合スタッドのシーケンスがそれに沿って配列される直交方向を規定する。一般に、結合要素のそのような配列によって、玩具ブリックが互いに対し離散的な数の向きで、特に互いに対し直角に、相互連結されることが可能になる。結合要素の他の幾何学的配列により、結果として様々な向きの制約が生じる場合があることが理解されよう。例えば、結合要素は、組立要素が3つの異なる向きで別の組立要素上に配置されることを可能にする、三角形の規則的な格子に配列される場合がある。
図2は、本明細書において開示されているような玩具構築システムの一実施形態を示している。本システムは、コンピューター15と、ディスプレイ1と、ビデオカメラ5と、本明細書において説明されるような玩具構築システムの少なくとも1つの玩具構築要素及び少なくとも1つのマーカー構築要素11から構築された玩具構築モデル10とを備える。コンピューターは、パーソナルコンピューター、デスクトップコンピューター、ラップトップコンピューター、ハンドヘルドコンピューター、ゲームコンソール、ハンドヘルド娯楽デバイス又は任意の他の適切にプログラム可能なコンピューターとすることができる。ディスプレイ1は、コンピューター15に動作可能に結合(例えば統合)され、コンピューター15の制御下でビデオ画像を表示するように動作可能である。本システムは、キーボード、マウス2又は他のポインティングデバイス等の、コンピューター15に動作可能に結合することができる更なるコンピューター周辺デバイスを含むことができることが理解されよう。ビデオカメラ5は、ビデオカメラが配置されている環境、例えば、表面4、例えば机の上、床等の可視表面エリア8を含む視野7のビデオ画像を捕捉するように動作可能である。このため、可視表面エリア8は表面4に対するビデオカメラの視野の投影である。ビデオカメラは、コンピューター15に動作可能に結合(例えば統合)され、捕捉ビデオ画像を、例えばコンピューター15の適切な入力インターフェースを介して、コンピューター15の処理ユニットに転送するように動作可能である。例えば、ビデオカメラは、コンピューター15に接続又は統合されたウェブカメラとすることができる。図2の例では、ビデオカメラは、表面4の上方の所定の高さにカメラを支持する三脚等のカメラ支持体6の上に位置決めされる。
ここで、ビデオカメラ5は、このビデオカメラが配置されている環境8のビデオ画像を捕捉し、捕捉ビデオ画像をコンピューター15に転送する。例えば、ビデオカメラが配置されている環境は玩具構築モデル10を含むことができる。玩具構築モデル10に加えて、環境は、他の日用品、玩具等の更なる物体を含む場合がある。
次に、コンピューター画像はコンピューター15によってディスプレイ1上にレンダリングされる。したがって、ユーザーは玩具構築モデル10をビデオカメラ5の視野の方々で動かし、及び/又は他の形で玩具構築モデルを視野内で操作し、玩具構築モデルのビデオカメラ5からのライブビデオを見ることができる。代替的に又は付加的に、ユーザーは、様々な位置からの(例えば静止した)玩具構築モデルの画像を捕捉するように、ビデオカメラの位置及び/又は向きを変更することができる。それに加えて、コンピューターは、捕捉ビデオ画像を、コンピューターのハードディスク等のストレージデバイス上に記憶し、及び/又は捕捉ビデオを、例えばコンピューターネットワークを介して別のコンピューターに転送するように動作可能とすることができる。例えば、コンピューターは捕捉ビデオ画像をウェブサイトにアップロードするように動作可能とすることができる。
コンピューター15は、拡張現実モードで動作するように適切にプログラムされ、拡張現実モードでは、コンピューターは捕捉ビデオ画像内の1つ又は複数の所定の拡張現実マーカー又はタグを検出するように、その捕捉ビデオ画像に対する画像処理を実行する。検出されたARマーカー(複数の場合もある)に応じて、コンピューターは、変更されたビデオ画像、例えば捕捉ビデオ画像にコンピューター生成画像を重ね合わされたものとして形成されるビデオ画像、又は捕捉ビデオ画像の少なくとも一部分がコンピューター生成画像によって置き換えられているビデオ画像、を生成するようにプログラムすることができる。コンピューター15は、変更されたビデオ画像をディスプレイ1上に表示するように動作可能である。本説明の目的で、ビデオカメラ及びディスプレイに動作可能に接続された、AR機能を実施するように動作可能なコンピューターは、ARシステムとも呼ばれる。
ARマーカーを検出し、検出されたARマーカーに応じて変更されたビデオ画像を生成する画像処理方法は、それ自体が当該技術分野において既知である(例えば、Daniel Wagner及びDieter Schmalstieg「ARToolKitPlus for Pose Tracking on Mobile Devices」Computer Vision Winter Workshop 2007, Michael Grabner, Helmut Grabner (eds.), St. Lambrecht, Austria, February 6-8, Graz Technical Universityを参照されたい)。
図2の例では、物理玩具構築モデル10は、マーカー構築要素11が連結された玩具構築要素9を含む。マーカー構築要素11はその上面に、二次元機械可読コードの形態の印を有する。
コンピューター15は、捕捉画像内の2次元機械可読コードの存在を検出するように動作可能である。さらに、コンピューター15は、ビデオカメラ15の位置に対する2次元機械可読コードの相対的な位置及び向きを求めることができる。
したがって、コンピューター15は、玩具構築モデルの捕捉画像を変更することができ、結果として変更されたビデオ画像12がディスプレイ1上に表示される。この例では、変更された画像は玩具構築モデルの捕捉画像13及び捕捉画像に重ね合わされたコンピューター生成画像要素14を示している。コンピューターは、マーカー構築要素11のARマーカーの検出された位置及び向きから求められたとおりのビデオ画像12内の位置及び向きにおいてコンピューター生成画像要素を生成する。
ユーザーが、ビデオカメラの投影エリア8内で、物理玩具構築モデル10を、例えばその物理モデルを動かし及び/又は回転させることによって操作すると、コンピューター15は物理的な玩具のマーカー構築要素11の印の位置及び向きを追跡する。コンピューター15はビデオカメラ(ミラーモード)のライブビデオフィードをディスプレイ1上に表示し、印の検出された位置及び向きに応じて、ライブビデオフィードに拡張現実の特殊効果を加える。
図3及び図4は、マーカー構築要素の例を概略的に示している。
図3は、図1cの組立ブリックに類似した玩具組立ブリック311、すなわち玩具組立ブリックの上面に平面状の正方形格子に配列された結合スタッド305を含む組立ブリックの形態の玩具構築要素を示している。玩具組立ブリックは、別の類似した玩具構築ブリックの結合スタッドを受容し摩擦により係合する1つ又は複数のキャビティもその底面に含む(図3には示されていない)。玩具組立ブリックは、その側面のうちの1つに、2Dバーコードの形態の拡張現実マーカー321を含む。
2Dバーコードの代わりに他の形態のARマーカーを用いることができることが理解されよう。一般的に、ARマーカーは、既知の画像認識方法を用いて捕捉ビデオ画像内で自動的に区別するのが比較的容易な任意の物体とすることができる。ARマーカーが画像認識方法を用いて検出される場合、ARマーカーは、例えば立方体又は円柱等の3次元物体とすることもできるし、正方形又は円等の2次元マーカーとすることもできる。通常、ARマーカーは、白黒の正方形等の容易に区別可能なパターンを含むが、特定の色又は色のパターン等を用いる等の他の方法をマーカー認識に用いることができる。
ARマーカーは、コンピューターがARマーカーの位置及び/又は向きを検出することを可能にする1つ又は複数の要素を含むことができる。例えば、ARマーカーは、2本以上の交差する線を含むことができる。付加的に又は代替的に、ARマーカーは、情報を符号化し、これによってコンピューターが異なるタイプのマーカーを識別及び区別し、マーカーの特定のタイプに応じてコンピューター生成画像を選択的に生成することを可能にする視覚要素を含むことができる。
ARマーカーは、結合手段、すなわち上面の結合スタッド、及び/又は底面の結合キャビティに対し均一になるように配置することができる。例えば、ARマーカーは結合手段によって規定される平面格子に対し平行又は垂直な方向を規定することができる。これによって、マーカーブリックは交換可能となり、図1〜図3におけるようなブリックから組み立てられた玩具構造において、いくつかのマーカーブリックを交換可能に用いることができ、いくつかの構築において特定のマーカーブリックを用いることができる。玩具構築システムは、様々な印が適用され、コンピューターシステムに様々なコンピューター生成画像を生成させるそのようなマーカーブリックのうちのいくつかを含むことができる。それにもかかわらず、全てのマーカーブリックが均一の位置に印を含む場合、そのようなマーカーブリックは本明細書において説明される組立ブリックから組み立てられた玩具構築内で容易に交換することができる。
印がマーカー構築要素の表面の一部に位置し、印を含む表面の部分が結合手段を一切有しないようになっているとき、印はマーカー構築要素に結合された他の構築要素によって意図せずに遮蔽される可能性がより低い。マーカー構築要素は、例えば玩具構築要素の様々な面上に(又はそうでない場合、表面の様々な部分上に)複数の印を含むことができる。
図4は、マーカー構築要素を玩具構築モデルの別の玩具構築要素にどのように結合することができるかを示している。この例では、玩具構築モデルは玩具構築要素410及び412、並びにマーカー構築要素411を含む。図4aは個々の構築要素を示し、図4bは構築要素410に脱着可能に結合されたマーカー構築要素411を示している。この目的で、玩具構築要素410は、図1との関連で説明したようにその上面に結合スタッド405を含む。マーカー構築要素404は、そのマーカー構築要素が結合スタッド404に摩擦により係合することを可能にするキャビティをその底面に含む(図4には示されていない)。
このため、ユーザーは、3D空間における玩具モデルの追跡を容易にすると共に仮想的なグラフィック及び効果を重ね合わせるように、ARマーカーを含むマーカー構築要素を構築された玩具モデルに連結し、それによって物理的な玩具に仮想的な属性を与えることができ、構築された玩具モデルがARアプリケーションの一部になることを可能にすることができる。図3の例におけるように、マーカー構築要素411の印は、結合要素を含まないマーカー構築要素の面上に位置する。
図5a〜図5gは、複合マーカー構築要素、すなわち、玩具構築システムの結合手段によって、例えば互いに対し所定の空間関係で、直接又は間接的に互いに連結された複数のマーカー構築要素の例を示している。一般的に、複合マーカー構築要素によって、ユーザーは、それぞれ多数の一意的なARマーカーのうちの1つによって識別可能な別個の物体の大きな組を作成することが可能になる。特に、多数の一意的なARマーカーは、個々のマーカー構築要素の比較的限られた組から作成することができる。なぜなら、組立システムを通じてマーカーのより小さな組を組み合わせることによって、組合せの可能性の総数が劇的に増大するためである。
図5aは、3つのマーカー構築要素、すなわち、フィギュアの頭部を模した要素511、フィギュアの胴部を模した要素512、及びフィギュアの脚部を模した要素513から構築される人型フィギュアの例を示している。構築要素は、頭部及び脚部が胴部に脱着可能に結合されることを可能にする結合要素を設けられている。頭部、胴部及び脚部は、例えば頭部の顔特徴並びに胴部及び/又は脚部の衣類特徴の形態で、印を含むことができる。これによって、ARシステムのビデオカメラに提示されると、ARシステムは頭部、胴部及び脚部の特徴を、例えば図5bに概略的に示すようにそれぞれ頭部、胴部及び脚部の検出された特徴521、522、523によって検出することができる。このため、様々な頭部、胴部及び脚部を組み合せることによって、ARマーカーの広範にわたる組合せを作成することができる。いずれのフィギュアがARシステムによって検出されるかに応じて、ARシステムは様々なコンピューター作成画像に応答し、それによって広範にわたる相互作用を可能にすることができる。
図5c及び図5dは、図1cに示すような玩具組立ブリックから構築された類似の複合マーカー構築要素を示している。玩具組立ブリック531、532及び533は、異なる色、例えばそれぞれ赤、白及び青を有する。組立ブリックは、互いの上に積み重ねられ、それぞれの結合手段によって相互連結されるとき、色のシーケンスを規定し、それによってこれらをARシステムによって検出することができる。図5dに示されているように色の順序を変更することによって、3つの異なるマーカー構築要素のみから、様々な一意的な複合ARマーカーを構築することができる。
図5eは、印の形態でARマーカーを側面に有する図3に示す玩具組立ブリックと類似した玩具組立ブリック541、542、543を含む複合マーカー要素の同様の例を示している。
図5f及び図5gは、複合マーカー要素の更に別の例を示している。この例では、複合マーカー要素はベース組立ブリック550、例えば図1cのブリックに類似しているがその上面により多数の結合要素を有するブリックを含む。複合マーカー要素は、ベース組立ブリック550に連結されたマーカー構築要素551、552、553を更に含む。このため、この例では、マーカー構築要素551、552及び553は複合マーカー構築要素を形成するように固定した(rigid)構成で互いに間接的に結合される。この目的で、マーカー構築要素は、その底面に結合要素、例えばキャビティを有し、この結合要素は、ベース組立ブリック550の上面において対応する結合要素、例えばスタッドと係合することができる。各マーカー構築要素はその上面に印を有し、この例ではローマ字の文字である。マーカー構築要素は並んで配列されているので、これらはARシステムによって検出可能な印のシーケンスを規定する。
図5gに示すように、マーカー構築要素の印は面の向きを規定することができ、個々のマーカー要素は互いに対し回転させ、これによって複数のコードを規定する自由度を更に増大させることができる。なぜなら、ARシステムは、互いに対する及び/又は玩具構築モデルの別の特徴に対する、それぞれのARマーカーの向きを検出することができるためである。
このため、図5の例では、それぞれが他のマーカー構築要素と別個の視覚的に検出可能な特徴を含む個々のマーカー構築要素は、視覚的に検出可能な特徴のシーケンスが規定されように、それらの結合要素によって相互連結される。このため、視覚的に検出可能な特徴のそれぞれの別個のシーケンスによって複合ARマーカーを規定することができる。例えば、個々の視覚的に検出可能な特徴は、ARシステムによってコードのシンボルとして検出することができ、検出されたシンボルのシーケンスは、シンボルのシーケンスにより符号化された情報を取得するように、ARシステムによって復号化することができる。いくつかの実施形態では、システムは、検出誤りに対しコードをよりロバストにする既知の誤り検出技法及び/又は誤り訂正技法を用いることができる。
図6及び図7は、複合マーカー構築要素の使用例を示している。
図6a及び図6bは、図5a及び図5bのマーカー構築要素の使用を示している。図6aはARシステムのビデオカメラ5及びディスプレイ1を示している。最初に、ディスプレイはシーン612を示す。ユーザーが人型のフィギュア613をARシステムのビデオカメラ5に提示すると、ARシステムは、頭部、胴部及び脚部の組合せを検出し、対応する組み合わされたARマーカーを決定し、検出された組み合わされたマーカーに応じて表示画像を変更することができる。例えば、ARシステムはシーン612内にフィギュアの画像623を生成することができる。フィギュアは物理的なフィギュア613を模すことができ、検出された組み合わされたARマーカーに応じてARシステムによって決定される行動(例えば友好的、怒る、悲しむ等)を示すようにアニメートすることができる。
図6c及び図6dは、図5c又は図5eのマーカー構築要素の使用を示している。図6cはARシステムのビデオカメラ5及びディスプレイ1を示している。ユーザーが複合マーカー要素633をARシステムのビデオカメラ5に提示すると、ARシステムはマーカー構築要素の組合せを検出することができる。オプションで、ARシステムは、複合マーカー要素を形成する個々のマーカーの互いに対する相対的な位置及び/又は向きを求めることができる。次に、ARシステムは、検出された複合マーカー要素に応じて反応することができる。例えば、図6dに示されているように、ARシステムは組み合わされたマーカー要素を、例えばゲームアプリケーションの所定のレベルまでARシステムの上級機能にアクセスを与えるアクセスコード等として解釈することができる。提示された組み合わされたマーカー要素が記憶されているアクセスコードと一致する場合、ユーザーはアクセスを与えられる。そうでない場合、アクセスを拒否することができる。
図7a〜図7dは、組み合わされたマーカー構築要素、例えば図5f及び図5gに示すタイプのマーカー構築要素の別の使用例を示している。図7aは、玩具構築要素の結合要素705、例えば図1に関して説明されたような結合スタッドを概略的に示している。結合要素は平面状の正方形格子に配列されている。図7bは、結合要素によって玩具構築要素に結合されたマーカー構築要素711を示している。結合要素の配列によって、マーカー構築要素が4つの別個の向きで別の玩具構築要素に連結されることが可能になる。図7の例では、マーカー構築要素711は、方向を規定する印を有する。この特定の例では、印は雲及び太陽の画像を模しており、すなわちこの画像は「上」方向を規定する。図7cは、マーカー構築要素711に隣接して結合要素705に結合されたマーカー構築要素713を示している。マーカー構築要素713も、方向を規定する印を有し、この例では矢印を模す。マーカー構築要素712は、その方向が構築要素711によって規定される方向に対し4つの異なる向きを指した状態でマーカー構築要素711に対し配置することができる。これらの向きのうちの3つが図7において点線の円712によって示されている。同様に、図7dは、マーカー構築要素711に隣接して結合要素705に結合された別のマーカー構築要素715を示している。マーカー構築要素715も、方向を規定する印を有し、この例では矢印を模す。マーカー構築要素715は、その方向が構築要素711によって規定される方向に対し4つの異なる向きを指した状態でマーカー構築要素711に対し配置することができる。これらの向きのうちの3つが図7において点線の円714によって示されている。組み合わされたマーカー構築要素は要素711、713及び715を含み、これによって、順番に配列され、互いに対し検出可能な向きを有するARマーカーのシーケンスを規定する。ARシステムのカメラに提示されると、ARシステムは3つのマーカー構築要素、それらの相対位置及び相対ロケーションを検出することができる。結果として、2つの異なるタイプのマーカー構築要素(「雲及び太陽」タイプのマーカー及び「矢印」マーカー)のみを用いて、マーカー要素を様々な相対的な向き及び/又は位置(例えば異なる順番)で玩具構築要素に結合することによって、多数の異なる複合マーカーを構築することができる。
例えば、コンピューター生成画像要素を生成するとき、ARシステムは気候現象、例えば雲、雨、太陽、雪等を模した画像要素を生成することができる。このため、ARシステムは、マーカー構築要素711、713及び715の向きに応じて気候現象を表示するように制御可能とすることができる。例えば、ARシステムが、ユーザーがマーカー構築要素711を玩具構築モデルに連結したことを検出すると、ARシステムは、気候現象を模した画像要素の表示を制御する機能を始動することができる。マーカー構築要素713を、その矢印が(マーカー構築要素711に対し)上を向いた状態で配置することによって、ARシステムは、太陽を模した画像要素の表示を制御する機能を始動することができる。矢印が左又は下を向いた状態で配置することによって、それぞれ「雨」及び「雪」を表示する表示機能を始動することができる。
マーカー構築要素715を、その矢印が(マーカー構築要素711に対し)右を向いた状態で配置することによって、ARシステムに、選択された画像要素(この例では「太陽」)の「中」程度(例えば雲によって部分的に覆われている)での表示を制御する機能を始動させることができる。矢印が上又は下を向いた状態で配置することによって、選択された画像要素をそれぞれより高い度合い又はより低い度合い(例えば大きな太陽(a lot of sun)又は小さな太陽(a little sun))で表示する機能を始動することができる。
一般的に、マーカー構築要素の結合手段が、玩具構築システムの別の玩具構築要素(例えば別のマーカー構築要素)へのそのマーカー構築要素の結合を、その別の玩具構築システムに対し所定の数の離散的な相対的位置及び/又は離散的な相対的向きでのみ可能にするとき、ARシステムは、互いに対する少なくとも2つのマーカー構築要素の相対的な位置及び/又は向きを検出し、検出された相対的な位置及び/又は向きに応じてコンピューター生成画像特徴を作成するように構成することができる。例えば、マーカー構築要素の結合要素が平面状の規則的な格子を規定し、結合要素がその平面のうちの1つの中で互いに対し所定の数の角度で玩具構築要素の結合を可能にするとき、限られた数の離散的な相対的位置及び向きを提供することができる。
図8a〜図8dは、規則的な格子を規定する玩具構築システムの例を示している。図8aは、格子の各格子点が玩具構築モデル内の連結要素の有効な位置を規定する規則的な3D格子を示している。格子の全ての格子点が実際に結合要素により装着される必要がないが、いくつかの実施形態では、全ての結合要素が規則的な格子の格子点上に位置決めされることが一般的に理解されよう。特に、図8aの例では、格子点は平行な面801a〜d内に配列され、面内の格子点は1つ又は複数の玩具構築要素の表面上の連結要素、例えば図1に示す組立ブリックの結合スタッド、の位置を規定する。平行な面間の距離は、結合要素を有する構築要素の表面間の距離を規定する。例えば、いくつかの実施形態では、構築要素は格子の2つの近傍面間の距離に等しい(又はその整数倍に等しい)高さを有する。
玩具構築システムが規則的な格子を規定するとき、ARマーカーの位置及び/又は向きはARシステムによって格子に対し正確に求めることができる。さらに、組立システムの格子において組立要素に取り付けられた追跡マーカーは、タグ付けされた要素がモデルにおいてどのように用いられるかに関する更なる情報を提供する。タグが正しく組み立てられ、すなわち格子内に収まった場合、アプリケーション内のイベントを選択的にトリガーすることができる。
このため、ARマーカーは、格子に対するARマーカーの所定の位置及び/又は向き(及び/又は他の位置制約)に応じてコンピューター生成画像要素の作成をARシステムに始動させることができる。このため、ARアプリケーションは、組立システムにおいて物理的要素がどのように用いられるかに応じることができる。
図8b〜図8dはそのような位置検知トリガー機能の例を示している。
図8bは、結合要素が図8aに示すような3D格子を規定している、玩具構築要素から構築される玩具構築モデルの例を概略的に示している。このため、構築要素の上面は適切な座標系の原点に対し所定の高さにのみ位置することができる。例えば、図8bの構築要素810aが第1の高さに位置する一方、構築要素810bは第2の高さに位置し、構築要素810cは第3の高さに位置する。
構築要素810a〜810cの上面は、ARシステムによって検出可能とすることができ、仮想ボタンとして機能することができる。図8cに示されているように、ユーザーがマーカー構築要素811を、仮想ボタンとしてARシステムによって解釈されている構築要素のうちの1つに連結する場合、マーカー構築要素の検出によって、ARシステムは仮想動作をトリガーすることができ、例えば図8dに示されているように仮想ボタンのロケーションにコンピューター生成画像要素812を表示することができる。いくつかの実施形態では、トリガーされる動作は、マーカー要素812の印及び/又は他の条件、例えばマーカー要素が仮想ボタンのうちの2つに連結されていることに依拠することもできることが理解されよう。
ARシステムは、ARシステムのカメラの視野内に位置決めされた玩具構築モデルによって規定された固有の離散座標系の格子点のロケーションを求めように構成することができることが理解されよう。例えば、ARシステムは、対応するマーカー構築要素の結合要素に対し所定の空間関係で配置された結合要素の位置及び/又はARマーカーの位置を検出することができる。求められたグリッドロケーションに基づいて、ARシステムは、カメラ位置に対する規則的な格子の位置及び/又は向きを求めることができる。ARシステムは、更には検出された物理的な格子から規則的な画像格子を作成することができ、例えば画像格子が物理的結合要素の画像と合致する格子点を有するようにすることができる。次に、ARシステムは画像格子を用いて、検出された画像格子に対する或るロケーションにおいてコンピューター生成画像の画像特徴を生成することができる。
図9及び図10は、本明細書において説明されるような玩具構築システムの例の使用例を示している。
図9は、図1に示すタイプの玩具構築要素911a及び911bを示している。この例では、異なる構築要素はそれぞれの印、異なる色、及び/又は別の区別可能な視覚特徴を有する。玩具構築要素のそれぞれは、玩具構築モデル内のARシステムによって検出されるとき、所定の動作をトリガーする。例えば、図9の例では、構築要素911a〜911dのそれぞれが、草地、水域、雪、火等の異なるタイプの風景又は環境現象を表す。このため、各構築要素は、ARシステムによって検出されるとき、ARシステムがそれぞれ草地、水域、雪、火を表す対応する画像要素を表示することによって拡張することができる。これによって、ユーザーは、例えば図9bに示されているように、構築要素によって風景を組み立てることが可能になる。
マーカー構築要素はARシステム内の更なる動作をトリガーすることもできることが理解されよう。例えば、図9bの風景はARシステムにおいて、ゲームが実行される風景として用いることができ、すなわちユーザーは物理的な組立要素を用いることによってコンピューターゲームのユーザー独自のレベルを組み立てることができる。
図10は、6つの同一の面を有する本体部材2を含むゲーム用サイコロを示しており、これらの面のそれぞれは、ゲーム用サイコロを投げた後にそのゲーム用サイコロが所与の面で止まる確率が、そのゲーム用サイコロの全ての面について等しい高さであるように実質的に正方形であるように構成される。
本体部材2の面は実質的に同一であり、このためそのようなゲーム用サイコロを投げること自体は有意味でなく、ユーザー又はARシステムがそのようにサイコロを投げた結果を区別することは不可能である。したがって、このサイコロの例によれば、4つの結合スタッド3が本体部材2の面のそれぞれに設けられ、結合スタッド3が正方形の角を形成するように正方形パターンに配列され、これらの結合スタッド3は、玩具組立システムからの組立要素を結合スタッド3上に取り付けることが可能であるように構成され、ゲーム用サイコロの面に異なるそのような組立要素を取り付けると、そのゲーム用サイコロの面が特性を変更することができるようにされる。
組立要素4a、4b、4cの下側には、組立要素4a、4b、4cのゲーム用サイコロへの取付け後にそのゲーム用サイコロ上の結合スタッド3の外面に摩擦により接合する結合フランジが構成される。そのような結合フランジを様々な方法で構成する数多くの機会が存在し、当業者はそのようなオプションを自由に指摘することができる。
このため、ゲーム用サイコロ上に様々な組立要素を取り付けることによって、ゲーム用サイコロ上に取り付けられた要素の数、形状又は外観自体が変動する場合、ゲーム用サイコロの各面に独自の特性を与えることが可能である。
図10は、ゲーム用サイコロの少なくとも3つの可視の面に玩具組立システムからの組立プレート4a、4b、4cが取り付けられている同じゲーム用サイコロを示している。このため、上を向く1つの面上にその面の4つ全ての結合スタッドを覆う正方形の組立プレート4aが取り付けられ、組立プレートがその面上に更なる組立要素を取り付ける余地を残さないようにされる。ゲーム用サイコロの2つの他の可視の面では、一方の面において結合スタッド3のうちの正確に1つの単一の結合スタッドを覆う単一の正方形の組立プレート4bが取り付けられ、他方の面において、それぞれがその面の正確に2つの結合スタッド3をそれぞれ覆う2つの長方形組立プレート4cが取り付けられ、それらの2つの長方形組立プレート4cがその面上に更なる取付けの余地を残さないようにされる。
このため、異なるARマーカーをゲーム用サイコロの異なる面と関連付けることができる。このため、本明細書において説明されるようにARシステムのビデオカメラの視野内でサイコロを投げることによって、ARシステムに、例えばサイコロの面上のARマーカーを検出させ、仮想ゲームの対応する結果を提示させることができる。様々なARマーカーをサイコロの面と関連付けることができるので、ARシステムはARシステムを再プログラムする必要も、別の形で再構成する必要もなく、単にサイコロのそれぞれの面に連結されたARマーカー構築要素を置き換えることによって様々なゲームを実施することができる。
図11a及び図11bは、2つの選択的に可視のARマーカーを含むマーカー構築要素の例を示している。図11a及び図11bは、ドア1103が図11aに示すような閉位置と図11bに示すような開位置との間で枢動することを可能にするフレーム1102に蝶着されたドア1103を含む玩具構築モデル1101を概略的に示している。フレーム及びドアは、例えば蝶番を適所にスナップ留めすることによって、互いに脱着可能に相互連結可能とすることができる。代替的に又は付加的に、フレーム1102は、例えば玩具構造における開口部を覆う移動可能な障壁を提供するように、フレーム及びドア構造がより大きな玩具構築モデルに連結することを可能にする1つ又は複数の結合要素(図11には明示的に示されていない)を含むことができる。ドア1103は、ドアのそれぞれの側に異なるマーカー構築要素1111a及び1111bが連結されることを可能にする結合要素(図11には明示的に示されていない)を両側に有する。例えば、構築マーカー要素1111a及び1111bは、図4aの要素411に類似した要素とすることができる。マーカー構築要素1111a及び1111bは、それぞれの面上にドアから離れる方に向いた異なる印を含む。図11の例では、マーカー構築要素1111aは、正方形のフレーム及びフレーム内の文字「A」を含む一方、マーカー構築要素1111bは、正方形のフレーム及びフレーム内の文字「B」を含む。このため、印1111aは、ドアが閉位置にあるときに可視である一方、印1111bはドアが開位置にあるときに可視である。このため、本明細書において説明されるように構造1101がARシステムのビデオカメラ1105の視野内に位置決めされるとき、ARシステムは印のうちのいずれが可視であるかを検出し、それによってドアが開位置にあるか又は閉位置にあるかを検出することができ、ドアの検出された状態に応じてコンピューター生成画像を生成することができる。例えば、ARシステムは閉位置にあるとき、玩具構造によって規定された環境の回りを動く可動物体(例えば人又は動物のようなフィギュア)のコンピューター生成画像により、ドアを含む玩具構造のライブビューを拡張することができる。ARシステムが、ドアが閉じられることを検出すると、可動物体の動きを環境の一部分に制約することができる(又は物体を全く見えないようにすることができる)一方、ドアが開位置にあることが検出されると、可動物体はドアによって覆われた開口部を通り抜けるように示されることができる。
このため、2つのARマーカーが、それらのマーカーのうちのいずれか一方が機能要素の状態に応じて可視となるように玩具構築モデルの機能要素に連結されると、機能要素の状態がARシステムによって検出可能となる。ARマーカー構築要素1111a及び1111bは、異なる機能玩具構築要素に脱着可能に連結することができるので、玩具構築システムは第1の状態を示す第1のマーカー構築要素及び第2の状態を示す第2のマーカー構築要素を含み、これによってARシステムが異なる機能構築要素の異なる状態を検出することを可能にすることができる。
いくつかの手段を列挙する装置クレームにおいて、これらの手段のうちのいくつかを、ハードウェアの全く同じ要素、構成要素又はアイテムによって実施することができる。単に或る特定の手段(measure)が互いに異なる従属クレームで挙げられることも、異なる実施形態において説明されることも、これらの手段の組み合わせを用いて利益を得ることができないことを意味するものではない。
用語「備える、含む(comprises/comprising)」は、本明細書において用いられるとき、述べた特徴、整数、ステップ、又は構成要素の存在を特定するために使われるが、1つ又は複数の他の特徴、整数、ステップ、構成要素、又はそれらのグループの存在又は付加を排除するものではないことを強調すべきである。

Claims (17)

  1. 玩具構築要素を備える玩具構築システムであって、前記玩具構築要素は、前記玩具構築要素を脱着可能に相互連結する結合手段を備え、前記玩具構築システムは、
    そのような結合手段を備えると共に、それぞれが画像処理手段によって認識可能な視覚的外観を有する1つ又は複数のマーカー構築要素と、
    画像捕捉手段、画像処理手段及び表示手段を備えるデータ処理システムと、を備え、
    前記データ処理システムは、前記玩具構築要素から構築された玩具構築モデルの画像を捕捉し、前記捕捉画像を処理して、少なくとも、前記捕捉画像内の前記マーカー構築要素のうちの少なくとも1つの存在を検出し、前記検出されたマーカー構築要素に応じてコンピューター生成画像を生成し、前記生成されたコンピューター生成画像が重ね合わされた前記捕捉画像を含む合成画像を前記表示手段上に表示する、ように構成される、玩具構築システム。
  2. 少なくとも2つのマーカー構築要素を備え、複合マーカー要素を形成するように、前記2つのマーカー構築要素は、前記マーカー構築要素のそれぞれの結合手段により互いに脱着可能に連結可能である、請求項1に記載の玩具構築システム。
  3. 前記データ処理システムは、前記複合マーカー要素を検出し、前記複合マーカー要素の検出に応じて前記コンピューター生成画像を選択的に生成するように更に構成される、請求項2に記載の玩具構築システム。
  4. 各マーカー構築要素は、情報を符号化するコードのコードシンボルを示す印を含み、前記データ処理システムは、前記複合マーカー要素の視覚的外観から符号化されたコードシンボルの組を求め、前記求められたコードシンボルの組を復号化して復号化された情報を得るように更に構成される、請求項3に記載の玩具構築システム。
  5. 平面支持体上にあるときに、ゲーム用サイコロを安定して載置することができる少なくとも6つの面を含む本体を備える前記ゲーム用サイコロを備え、そのような面のうちの少なくとも1つ又は複数に、前記少なくとも1つのマーカー構築要素のうちの1つを取り付ける結合手段が設けられる、請求項1〜4のいずれか1項に記載の玩具構築システム。
  6. 前記結合手段は、玩具構築モデルにおける前記玩具構築要素の位置及び/又は向きを、規則的な格子に対し離散的位置及び/又は離散的向きに制限する前記規則的な格子を規定する、請求項1〜5のいずれか1項に記載の玩具構築システム。
  7. 少なくとも2つのマーカー構築要素を含み、前記データ処理システムは、前記規則的な格子に対する玩具構築モデルにおける前記2つのマーカー構築要素のそれぞれの位置及び/又は向きを検出し、前記検出されたそれぞれの位置及び/又は向きに応じて前記コンピューター生成画像を生成するように構成される、請求項6に記載の玩具構築システム。
  8. 前記データ処理システムは、前記マーカー構築要素の前記検出されたロケーションから規則的な画像格子の格子ロケーションを求め、前記検出された画像格子に対し或るロケーションにおいてコンピューター生成画像の画像特徴を生成するように構成される、請求項7に記載の玩具構築システム。
  9. 前記玩具構築要素は少なくとも1つの特性を有し、前記玩具構築システムの各マーカー構築要素は前記特性の値を有し、前記値は前記特性の所定の離散値の組から選択される、請求項1〜8のいずれか1項に記載の玩具構築システム。
  10. 前記マーカー構築要素は、印と、第1の位置と第2の位置との間で動くことができる可動要素とを含み、前記可動要素は、前記第1の位置に位置決めされるとき、前記印が見えるようにし、前記第2の位置に位置決めされるとき、前記印を視界から遮り、前記データ処理システムは、前記印の少なくとも可視性を検出し、前記印の前記検出された可視性に応じて前記コンピューター生成画像を生成するように構成される、請求項1〜9のいずれか1項に記載の玩具構築システム。
  11. 前記結合手段は、連結の方向を規定する1つ又は複数の規則的な平面状の格子に配列され、各マーカー構築要素は、前記マーカー構築要素が前記玩具構築システムの少なくとも1つの他の玩具構築要素に連結されているとき、前記平面状の格子のうちの少なくとも1つに平行な方向から、又は前記平面状の格子のうちの少なくとも1つに対し垂直な方向から見える印を含む、請求項1〜10のいずれか1項に記載の玩具構築システム。
  12. 前記マーカー構築要素のそれぞれは、上面、底面、及び少なくとも1つの側面を有し、前記結合手段は前記上面及び前記底面のうちの少なくとも一方の上に配置され、前記マーカー構築要素は結合手段を有しない少なくとも第1の面を含み、前記第1の面は前記印を含む、請求項11に記載の玩具構築システム。
  13. 前記結合手段は、1つ又は複数の突起部及び1つ又は複数のキャビティを含み、各キャビティは摩擦係合で前記突起部のうちの少なくとも1つを受容するように構成される、請求項1〜12のいずれか1項に記載の玩具構築システム。
  14. 玩具構築システムの玩具構築要素から構築された玩具構築モデルの画像を生成するためにコンピューターで実施される方法であって、前記玩具構築要素は、前記玩具構築要素を脱着可能に相互連結する結合手段を備え、前記玩具構築システムは、そのような結合手段を備えると共にそれぞれが画像処理システムによって認識可能な視覚的外観を有する1つ又は複数のマーカー構築要素を備え、前記方法は、
    前記玩具構築要素から構築された玩具構築モデルの画像を捕捉することと、
    前記捕捉画像を処理し、少なくとも、前記捕捉画像内の前記マーカー構築要素のうちの少なくとも1つの存在を検出することと、
    前記検出されたマーカー構築要素に応じてコンピューター生成画像を生成することと、
    前記生成されたコンピューター生成画像が重ね合わされた前記捕捉画像を含む合成画像を表示することと、
    を含む、コンピューターで実施される方法。
  15. 画像捕捉手段、処理手段及び表示手段を備えるデータ処理システムであって、前記データ処理システムによって実行されたときに、前記データ処理システムに請求項14に記載の方法のステップを実行させるように構成されるコンピュータープログラム手段を備える、データ処理システム。
  16. データ処理システムによって実行されたときに、前記データ処理システムに請求項14に記載の方法のステップを実行させるように構成されるプログラムコード手段を備える、コンピュータープログラム。
  17. 玩具構築要素を備える玩具構築セットであって、前記構築要素は、前記玩具構築要素を脱着可能に相互連結する結合手段を備え、前記玩具構築セットは、
    そのような結合手段を備えると共にそれぞれが画像処理システムによって認識可能な視覚的外観を有する1つ又は複数のマーカー構築要素と、
    画像捕捉手段、処理手段及び表示手段を備えるデータ処理システム上に、請求項16に記載のコンピュータープログラムをインストールするためのユーザーインストラクションと、
    を備える、玩具構築セット。
JP2014511845A 2011-05-23 2012-05-22 拡張現実向けの玩具構築システム Active JP6262127B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
DKPA201170254 2011-05-23
DKPA201170254 2011-05-23
PCT/EP2012/059469 WO2012160055A1 (en) 2011-05-23 2012-05-22 A toy construction system for augmented reality

Publications (2)

Publication Number Publication Date
JP2014515961A true JP2014515961A (ja) 2014-07-07
JP6262127B2 JP6262127B2 (ja) 2018-01-17

Family

ID=46124378

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014511845A Active JP6262127B2 (ja) 2011-05-23 2012-05-22 拡張現実向けの玩具構築システム

Country Status (13)

Country Link
US (4) US9827507B2 (ja)
EP (4) EP2714222B2 (ja)
JP (1) JP6262127B2 (ja)
KR (1) KR101898754B1 (ja)
CN (1) CN103998107B (ja)
BR (2) BR112013029916B1 (ja)
CA (1) CA2836360C (ja)
DK (4) DK3511062T3 (ja)
ES (1) ES2570852T3 (ja)
HK (1) HK1196327A1 (ja)
MX (1) MX339520B (ja)
PL (1) PL2714222T3 (ja)
WO (1) WO2012160055A1 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016080437A1 (ja) * 2014-11-21 2016-05-26 株式会社ネクスト 画像処理装置および方法
JP2017068413A (ja) * 2015-09-29 2017-04-06 富士フイルム株式会社 三次元造形システム、情報処理装置及び方法、並びにプログラム
JP2019517902A (ja) * 2016-05-27 2019-06-27 スワップボッツ・リミテッド 拡張現実玩具
JP2020035278A (ja) * 2018-08-31 2020-03-05 積水ハウス株式会社 シミュレーションシステム
JP2021137221A (ja) * 2020-03-04 2021-09-16 株式会社ナイアー Ar対応物品セット及びこれを構成するar対応物品
JP7219997B1 (ja) 2022-07-21 2023-02-09 株式会社G-ant ブロックオブジェクトの設計図を出力する方法

Families Citing this family (73)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8754886B2 (en) 2008-12-29 2014-06-17 Intel Corporation Systems and methods for transporting physical objects from real physical life into virtual worlds
US8742814B2 (en) 2009-07-15 2014-06-03 Yehuda Binder Sequentially operated modules
WO2012160055A1 (en) * 2011-05-23 2012-11-29 Lego A/S A toy construction system for augmented reality
DE102012017305A1 (de) * 2012-09-03 2014-03-06 Leonhard Oschütz Verbindungskonstruktion zwischen Konstruktionselementen und Konstruktionselement
WO2014145532A1 (en) * 2013-03-15 2014-09-18 Rubicon Group Holding Limited Augmented reality systems and methods used to identify toys and trigger video and graphics
KR101391582B1 (ko) * 2013-06-05 2014-05-07 (주)캡보이트레이딩 장식불록이나 완구와 같은 조립체 장식용 모자
KR101479411B1 (ko) * 2013-07-08 2015-01-27 지승환 증강현실 콘트롤러가 부착되는 완구
US10188939B2 (en) 2014-03-11 2019-01-29 Microsoft Technology Licensing, Llc Modular construction for interacting with software
US9703896B2 (en) 2014-03-11 2017-07-11 Microsoft Technology Licensing, Llc Generation of custom modular objects
US9592443B2 (en) 2014-03-11 2017-03-14 Microsoft Technology Licensing, Llc Data store for a modular assembly system
US9526979B2 (en) 2014-03-11 2016-12-27 Microsoft Technology Licensing, Llc Storing state for physical modular toys
US10150043B2 (en) 2014-03-11 2018-12-11 Microsoft Technology Licensing, Llc Interactive smart beads
US9555326B2 (en) 2014-03-11 2017-01-31 Microsoft Technology Licensing, Llc Gaming system for modular toys
WO2015179796A1 (en) * 2014-05-22 2015-11-26 GM Global Technology Operations LLC Systems and methods for utilizing smart toys with vehicle entertainment systems
US10583354B2 (en) 2014-06-06 2020-03-10 Lego A/S Interactive game apparatus and toy construction system
US10518188B2 (en) 2014-06-30 2019-12-31 Microsoft Technology Licensing, Llc Controlling physical toys using a physics engine
US10537821B2 (en) 2014-06-30 2020-01-21 Microsoft Technology Licensing, Llc Interactive play sets
US10478723B2 (en) 2014-06-30 2019-11-19 Microsoft Technology Licensing, Llc Track based play systems
US9892560B2 (en) 2014-09-11 2018-02-13 Nant Holdings Ip, Llc Marker-based augmented reality authoring tools
US10646780B2 (en) 2014-10-02 2020-05-12 Lego A/S Game system
US9919226B2 (en) 2014-10-08 2018-03-20 Microsoft Technology Licensing, Llc Storage and charging device for game pieces
US9696757B2 (en) 2014-10-08 2017-07-04 Microsoft Corporation Transfer of attributes between generations of characters
GB2532075A (en) 2014-11-10 2016-05-11 Lego As System and method for toy recognition and detection based on convolutional neural networks
US9916772B1 (en) * 2015-01-29 2018-03-13 Schell Games Llc Atomic and molecular modeling system
US10232249B2 (en) 2015-02-12 2019-03-19 Geeknet, Inc. Building brick game using magnetic levitation
US10026228B2 (en) 2015-02-25 2018-07-17 Intel Corporation Scene modification for augmented reality using markers with parameters
DE102016105496A1 (de) * 2015-03-26 2016-09-29 Faro Technologies Inc. System zur Prüfung von Objekten mittels erweiterter Realität
CN104888469B (zh) * 2015-05-25 2017-09-15 卢军 基于图像识别的智能编程积木玩具及其实现方法
CN105013177A (zh) * 2015-06-23 2015-11-04 广东邦宝益智玩具股份有限公司 拼接玩具车的游戏方法
DK180058B1 (en) * 2018-07-06 2020-02-27 Lego A/S toy system
CN108136257B (zh) * 2015-08-17 2021-09-21 乐高公司 创建虚拟游戏环境的方法和采用该方法的互动游戏系统
US10552550B2 (en) 2015-09-26 2020-02-04 Intel Corporation Technologies for physical programming
KR101756385B1 (ko) * 2015-11-27 2017-07-27 (주) 라온 엔터테인먼트 증강현실을 이용한 멀티플레이 로봇게임의 수익 시스템
WO2017161127A1 (en) 2016-03-16 2017-09-21 The Trustees Of The University Of Pennsylvania Systems of stacking interlocking blocks
WO2017168404A1 (en) * 2016-03-29 2017-10-05 Play Properties Entertainment Ltd. A computerized system and method of using a physical toy construction set
US10600240B2 (en) 2016-04-01 2020-03-24 Lego A/S Toy scanner
HK1216278A (zh) * 2016-04-27 2016-10-28 Kam Ming Lau 種使用虛擬機器人的教育系統
CN105915635B (zh) * 2016-06-03 2019-01-08 杭州小丸子电子商务有限公司 磁力片玩具组件搭建技巧开发培训系统及方法
EP3481520A1 (en) * 2016-07-05 2019-05-15 Lego A/S Method for creating a virtual object
HUE063637T2 (hu) * 2016-08-12 2024-01-28 Trimiti Moebius Design Pty Ltd Játék építõelem
CN110035807A (zh) 2016-10-14 2019-07-19 乐高公司 游戏系统
CN106506464B (zh) * 2016-10-17 2019-11-12 武汉秀宝软件有限公司 一种基于增强现实的玩具交互方法和系统
CN106548518B (zh) * 2016-10-31 2019-02-19 杭州汉典科技有限公司 一种基于色彩阵列的增强现实互动方法及装置
ES2812851T3 (es) * 2016-11-01 2021-03-18 Previble AB Dispositivo de previsualización
WO2018087268A1 (en) 2016-11-11 2018-05-17 Lego A/S Virtual card game system
CN108076303A (zh) * 2016-11-11 2018-05-25 中兴通讯股份有限公司 一种视频图像显示方法和装置
CN106823408B (zh) * 2016-12-30 2019-05-07 武汉市马里欧网络有限公司 基于ar的儿童积木搭建系统及方法
JP2018116471A (ja) * 2017-01-18 2018-07-26 富士通株式会社 表示制御方法、装置及びプログラム
US10847046B2 (en) * 2017-01-23 2020-11-24 International Business Machines Corporation Learning with smart blocks
CN106970708A (zh) * 2017-03-30 2017-07-21 苏州悠优互娱网络科技有限公司 绘画角色的显示方法和装置
JP6984158B2 (ja) * 2017-04-24 2021-12-17 凸版印刷株式会社 Arマーカー付き立体物、arマーカーシステム及びarマーカーサーバ
GB2564715B (en) * 2017-07-21 2022-08-24 Firebolt Games Ltd Systems and methods of forming virtual models
EP3697511A1 (en) 2017-10-16 2020-08-26 Lego A/S Interactive play apparatus
CN108245881A (zh) * 2017-12-29 2018-07-06 武汉市马里欧网络有限公司 基于ar的三维拼板模型搭建系统
CN108325206A (zh) * 2017-12-29 2018-07-27 武汉市马里欧网络有限公司 拼板模型模拟搭建系统
US10894342B2 (en) 2018-03-29 2021-01-19 Kraft Foods Group Brands Llc System and method for molding comestible building blocks
USD844394S1 (en) 2018-03-29 2019-04-02 Kraft Foods Group Brands Llc Mold
EP3591608A1 (en) * 2018-07-06 2020-01-08 Tata Consultancy Services Limited Method and system for image reconstruction using deep dictionary learning (ddl)
GB201813450D0 (en) 2018-08-17 2018-10-03 Hiltermann Sean Augmented reality doll
CN109240682B (zh) * 2018-09-30 2021-11-30 上海葡萄纬度科技有限公司 基于ar的交互编程系统、方法、介质及智能设备
CN111346390B (zh) * 2018-12-21 2020-12-25 上海葡萄纬度科技有限公司 编程积木
US11957995B2 (en) 2019-01-23 2024-04-16 Lego A/S Toy system for augmented reality
US11403823B2 (en) * 2019-02-14 2022-08-02 Lego A/S Toy system for asymmetric multiplayer game play
KR20220007886A (ko) * 2019-05-10 2022-01-19 브릭핏 피티와이 엘티디 인터랙티브 인간 활동 추적 시스템
CN110180167B (zh) * 2019-06-13 2022-08-09 张洋 增强现实中智能玩具追踪移动终端的方法
US20220266159A1 (en) * 2019-08-20 2022-08-25 Lego A/S Interactive music play system
JP2021072001A (ja) * 2019-10-31 2021-05-06 キヤノン株式会社 プログラム、情報処理装置、情報処理方法、及び情報処理システム
US11188755B2 (en) 2019-11-01 2021-11-30 Pinfinity, Llc Augmented reality systems and methods incorporating wearable pin badges
CN110992472A (zh) * 2019-12-06 2020-04-10 广东邦宝益智玩具股份有限公司 一种积木3d模型智能搭建系统的构建方法
US11393153B2 (en) * 2020-05-29 2022-07-19 The Texas A&M University System Systems and methods performing object occlusion in augmented reality-based assembly instructions
US11524238B1 (en) 2021-04-09 2022-12-13 Kevin Neil Hannah Augmented reality tag recognition and game miniature identification system and process for uniquely identifying game miniatures corresponding to character attributes in a role
US20240165520A1 (en) * 2022-08-09 2024-05-23 Reuven Bakalash Build and Design-an Integrated-Reality Educational Gaming Application
US20240050854A1 (en) * 2022-08-09 2024-02-15 Reuven Bakalash Integrated Reality Gaming

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002159019A (ja) * 2000-11-16 2002-05-31 Canon Inc 表示制御装置、撮影位置推測装置、表示システム、撮影システム、画像位置決め方法、撮影位置推測方法、及び処理プログラムを記録した記録媒体
JP2006040045A (ja) * 2004-07-28 2006-02-09 Sony Corp 情報処理装置、立体物、情報処理システム及び情報処理方法
JP2007034981A (ja) * 2005-07-29 2007-02-08 Canon Inc 画像処理システム、画像処理装置
JP2010049690A (ja) * 2008-08-19 2010-03-04 Sony Computer Entertainment Europe Ltd エンタテイメント装置、システム、及び方法
US20100164953A1 (en) * 2008-12-29 2010-07-01 Intel Corporation Systems and methods for transporting physical objects from real physical life into virtual worlds

Family Cites Families (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3005282A (en) 1958-01-28 1961-10-24 Interlego Ag Toy building brick
US3670941A (en) 1970-03-02 1972-06-20 Fred I Grinnell Retractable guard and guide for nailer
US3670942A (en) 1970-10-15 1972-06-20 Omark Industries Inc Automatic feeding of fasteners
DK154964C (da) 1986-01-22 1989-05-29 Lego As Legetoejsbyggelement med elementer for tilvejebringelse af positionsinformation
EP0271422A3 (en) 1986-12-09 1988-09-14 JANE, Sociedad Anonima Improvements in foldable frames for children's pushchairs
US5724074A (en) * 1995-02-06 1998-03-03 Microsoft Corporation Method and system for graphically programming mobile toys
US5867166A (en) * 1995-08-04 1999-02-02 Microsoft Corporation Method and system for generating images using Gsprites
US6389375B1 (en) 1999-01-22 2002-05-14 Interlego Ag Virtual reality modelling
US6741245B1 (en) 1999-04-23 2004-05-25 Mitsubishi Electric Research Laboratories, Inc. Method for decorating a virtual model
US7502759B2 (en) * 1999-08-30 2009-03-10 Digimarc Corporation Digital watermarking methods and related toy and game applications
DE10006834A1 (de) 2000-02-16 2001-08-23 Joachim Schwarz Baukastensystem
US20020127944A1 (en) 2000-07-20 2002-09-12 Donald Spector Construction kit for custom toys or other personalized products
US20020196250A1 (en) 2001-06-20 2002-12-26 Gateway, Inc. Parts assembly for virtual representation and content creation
WO2004066200A2 (en) 2003-01-17 2004-08-05 Yeda Research And Development Co. Ltd. Reactive animation
JP4545151B2 (ja) 2003-02-06 2010-09-15 シーラス コーポレイション 非食細胞中への侵入について減弱化されているリステリア、そのリステリアを含むワクチン、およびそれらの使用法
WO2004104811A2 (en) 2003-05-20 2004-12-02 Lego A/S Method and system for manipulating a digital representation of a three-dimensional object
US7596473B2 (en) * 2003-05-20 2009-09-29 Interlego Ag Method of constructing a virtual construction model
JP4085918B2 (ja) * 2003-07-18 2008-05-14 ソニー株式会社 3次元モデル処理装置、および3次元モデル処理方法、並びにコンピュータ・プログラム
US20070262984A1 (en) * 2004-06-17 2007-11-15 Lego A/S Automatic Generation of Building Instructions for Building Block Models
WO2006056231A1 (en) * 2004-11-29 2006-06-01 Nokia Corporation Mobile gaming with external devices in single and multiplayer games
WO2011017393A1 (en) 2009-08-04 2011-02-10 Eyecue Vision Technologies Ltd. System and method for object extraction
EP2132706A1 (de) * 2007-03-08 2009-12-16 Siemens Aktiengesellschaft Verfahren und vorrichtung zur generierung von trackingkonfigurationen für augmented-reality-anwendungen
US7979251B2 (en) 2007-03-16 2011-07-12 Lego A/S Automatic generation of building instructions for building element models
US8374829B2 (en) * 2007-03-16 2013-02-12 Lego A/S Automatic generation of building instructions for building element models
US8894461B2 (en) * 2008-10-20 2014-11-25 Eyecue Vision Technologies Ltd. System and method for interactive toys based on recognition and tracking of pre-programmed accessories
US20090029771A1 (en) 2007-07-25 2009-01-29 Mega Brands International, S.A.R.L. Interactive story builder
PL2217341T3 (pl) 2007-10-11 2015-04-30 Lego As System konstrukcyjny zabawek
US20090197678A1 (en) * 2008-02-04 2009-08-06 Chung-Jen Huang Pretend play toy with reality and virtual interaction
WO2010029553A1 (en) 2008-09-11 2010-03-18 Netanel Hagbi Method and system for compositing an augmented reality scene
GB2470072B (en) * 2009-05-08 2014-01-01 Sony Comp Entertainment Europe Entertainment device,system and method
GB2470073B (en) 2009-05-08 2011-08-24 Sony Comp Entertainment Europe Entertainment device, system and method
US8418085B2 (en) 2009-05-29 2013-04-09 Microsoft Corporation Gesture coach
WO2010150232A1 (en) * 2009-06-25 2010-12-29 Zyx Play Aps A game system comprising a number of building elements
US20110065496A1 (en) * 2009-09-11 2011-03-17 Wms Gaming, Inc. Augmented reality mechanism for wagering game systems
WO2012160055A1 (en) * 2011-05-23 2012-11-29 Lego A/S A toy construction system for augmented reality

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002159019A (ja) * 2000-11-16 2002-05-31 Canon Inc 表示制御装置、撮影位置推測装置、表示システム、撮影システム、画像位置決め方法、撮影位置推測方法、及び処理プログラムを記録した記録媒体
JP2006040045A (ja) * 2004-07-28 2006-02-09 Sony Corp 情報処理装置、立体物、情報処理システム及び情報処理方法
JP2007034981A (ja) * 2005-07-29 2007-02-08 Canon Inc 画像処理システム、画像処理装置
JP2010049690A (ja) * 2008-08-19 2010-03-04 Sony Computer Entertainment Europe Ltd エンタテイメント装置、システム、及び方法
US20100164953A1 (en) * 2008-12-29 2010-07-01 Intel Corporation Systems and methods for transporting physical objects from real physical life into virtual worlds

Non-Patent Citations (6)

* Cited by examiner, † Cited by third party
Title
"LEGO SIGNS", [ONLINE], JPN6016021513, 27 May 2016 (2016-05-27), ISSN: 0003335338 *
"LEGOで作るサイコロ", CLUB LEGO, JPN6016045574, 26 December 2008 (2008-12-26), ISSN: 0003448176 *
"LEGOの"とってもLEGOらしい"ARカタログ", [ONLINE], JPN6016021515, 27 May 2016 (2016-05-27), ISSN: 0003335339 *
"レゴ クリエイター マイホーム 5891 その3", 子供と遊ぼうレゴ日記, JPN6016045575, 31 January 2011 (2011-01-31), ISSN: 0003448177 *
3Dマーケティングがビジネスを変える, JPN6016021512, 10 May 2011 (2011-05-10), pages 40, ISSN: 0003681433 *
SKAWALTD: "LEGO Platformer game - Mobile Augmented Reality (AR)", YOUTUBE, JPN6016045572, 14 January 2011 (2011-01-14), ISSN: 0003448175 *

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5999802B1 (ja) * 2014-11-21 2016-09-28 株式会社ネクスト 画像処理装置および方法
WO2016080437A1 (ja) * 2014-11-21 2016-05-26 株式会社ネクスト 画像処理装置および方法
JP2017068413A (ja) * 2015-09-29 2017-04-06 富士フイルム株式会社 三次元造形システム、情報処理装置及び方法、並びにプログラム
JP2022130648A (ja) * 2016-05-27 2022-09-06 スワップボッツ・リミテッド 拡張現実玩具
JP2019517902A (ja) * 2016-05-27 2019-06-27 スワップボッツ・リミテッド 拡張現実玩具
JP7473596B2 (ja) 2016-05-27 2024-04-23 スワップボッツ・リミテッド 拡張現実玩具
US11103786B2 (en) 2016-05-27 2021-08-31 Swapbots Ltd Augmented reality toy
JP7100023B2 (ja) 2016-05-27 2022-07-12 スワップボッツ・リミテッド 拡張現実玩具
JP7206706B2 (ja) 2018-08-31 2023-01-18 積水ハウス株式会社 シミュレーションシステム
JP2020035278A (ja) * 2018-08-31 2020-03-05 積水ハウス株式会社 シミュレーションシステム
JP2021137221A (ja) * 2020-03-04 2021-09-16 株式会社ナイアー Ar対応物品セット及びこれを構成するar対応物品
JP7219997B1 (ja) 2022-07-21 2023-02-09 株式会社G-ant ブロックオブジェクトの設計図を出力する方法
JP2024014161A (ja) * 2022-07-21 2024-02-01 株式会社G-ant ブロックオブジェクトの設計図を出力する方法

Also Published As

Publication number Publication date
CN103998107B (zh) 2016-01-20
MX2013013545A (es) 2014-12-04
EP2714222A1 (en) 2014-04-09
BR112013029916B1 (pt) 2021-02-09
EP2714222B2 (en) 2019-07-31
US11911709B2 (en) 2024-02-27
US20200147507A1 (en) 2020-05-14
BR112013029916A2 (pt) 2017-01-24
US20140378023A1 (en) 2014-12-25
DK2714222T4 (da) 2019-11-04
DK3042704T3 (da) 2019-06-11
US20220105440A1 (en) 2022-04-07
MX339520B (es) 2016-05-30
ES2570852T3 (es) 2016-05-20
EP3511062A1 (en) 2019-07-17
CA2836360C (en) 2019-07-02
JP6262127B2 (ja) 2018-01-17
US10549209B2 (en) 2020-02-04
EP3785779A1 (en) 2021-03-03
HK1196327A1 (zh) 2014-12-12
US9827507B2 (en) 2017-11-28
DK2714222T3 (en) 2016-06-13
CA2836360A1 (en) 2012-11-29
DK3511062T3 (da) 2021-01-18
DK3785779T3 (da) 2023-08-07
EP3042704B1 (en) 2019-03-06
US20180126293A1 (en) 2018-05-10
WO2012160055A1 (en) 2012-11-29
PL2714222T3 (pl) 2016-07-29
EP2714222B1 (en) 2016-03-23
KR101898754B1 (ko) 2018-09-13
EP3511062B1 (en) 2020-10-21
CN103998107A (zh) 2014-08-20
EP3042704A1 (en) 2016-07-13
US11014014B2 (en) 2021-05-25
KR20140043904A (ko) 2014-04-11
BR122020022596B1 (pt) 2021-11-03
EP3785779B1 (en) 2023-05-03

Similar Documents

Publication Publication Date Title
US11014014B2 (en) Toy construction system for augmented reality
US9821242B2 (en) Generation of building instructions for construction element models
CA2963298C (en) Game system
US9224231B2 (en) Augmented reality system indexed in three dimensions
CN113382790B (zh) 用于增强现实的玩具系统
KR20190059068A (ko) 증강현실을 이용한 격자 맵의 미션 기반 퍼즐 조립 시스템 및 방법
US20240112424A1 (en) Authoring systems and methods for enabling bidirectional binding of augmented reality with toys in real-time

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150512

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160609

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160822

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161129

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20170228

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170523

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171114

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171213

R150 Certificate of patent or registration of utility model

Ref document number: 6262127

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250