[go: up one dir, main page]

JP2017010578A - Portable terminal device, terminal program, augmented reality system, and clothing - Google Patents

Portable terminal device, terminal program, augmented reality system, and clothing Download PDF

Info

Publication number
JP2017010578A
JP2017010578A JP2016167433A JP2016167433A JP2017010578A JP 2017010578 A JP2017010578 A JP 2017010578A JP 2016167433 A JP2016167433 A JP 2016167433A JP 2016167433 A JP2016167433 A JP 2016167433A JP 2017010578 A JP2017010578 A JP 2017010578A
Authority
JP
Japan
Prior art keywords
image
augmented reality
character
terminal device
clothing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016167433A
Other languages
Japanese (ja)
Inventor
光隆 井上
Mitsutaka Inoue
光隆 井上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Bandai Co Ltd
Original Assignee
Bandai Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Bandai Co Ltd filed Critical Bandai Co Ltd
Priority to JP2016167433A priority Critical patent/JP2017010578A/en
Publication of JP2017010578A publication Critical patent/JP2017010578A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】消費者が購入したキャラクタ商品のデザインと関連した拡張現実画像を簡易に再生する仕組みを構築することにより、趣向を高め、キャラクタ商品の販売促進効果を得る。
【解決手段】制御部27は、撮像部21が、キャラクタ商品10にプリントされ、または貼付されたキャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識し、画像認識したデザインのそれぞれに対応付けて用意された演出用画像と、キャラクタ商品10を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して表示部22に表示する。
【選択図】図2
A system for easily reproducing an augmented reality image associated with a design of a character product purchased by a consumer is constructed, thereby enhancing the taste and obtaining a sales promotion effect for the character product.
A control unit 27 image-recognizes at least a part of a design of an image obtained by photographing an image of a character printed or pasted on a character product 10 by an image capturing unit 21, and each of the image-recognized designs. The augmented reality image is generated by combining the effect image prepared in association with the subject image of the person wearing the character product 10 and displayed on the display unit 22.
[Selection] Figure 2

Description

本発明は、携帯端末装置、端末プログラム、拡張現実感システム、および衣類等のキャラクタ商品に関する。   The present invention relates to a mobile terminal device, a terminal program, an augmented reality system, and character goods such as clothes.

プリントTシャツは、シルクスクリーン等の加工技法を用いて図柄やモチーフ、のイメージを静止画としてTシャツにプリントしたものである。最近では子供向けに人気キャラクタや人気アニメをプリントしたTシャツ、バッグ、あるいは玩具等のキャラクタ商品(キャラクタグッズともいう)が市場を賑わしており子供から好評を得ている。   A printed T-shirt is a T-shirt printed with a still image of an image of a pattern or motif using a processing technique such as silk screen. Recently, character goods (also called character goods) such as T-shirts, bags, and toys that print popular characters and popular anime for children are popular in the market, and are well received by children.

一方、携帯端末装置の多機能化が進み、最近では、携帯電話に代わって、インターネット接続を行うネットワーク通信環境を強化したスマートフォンが普及してきた。スマートフォンによれば、市場に流通しているアプリケーションプログラムをダウンロードにより取得することで、データ管理やメール作成のユーティリティ系、天気予報や乗換え案内、グルメ案内、衛星を使用したナビゲーション等の実用系、メモツールや名詞管理等のビジネス系、「Skype」(登録商標)や「Twitter」(登録商標)等のコミュニケーション系、あるいはオンラインゲーム等のエンターテイメント系のツールとして幅広いジャンルに渡って便利にカスタマイズすることができる。   On the other hand, as mobile terminal devices have become more multifunctional, smartphones with enhanced network communication environment for connecting to the Internet have recently become widespread in place of mobile phones. According to smartphones, by acquiring application programs distributed in the market by downloading, utility systems such as data management, e-mail creation utilities, weather forecasts and transfer guides, gourmet guidance, navigation using satellites, memos, etc. Can be conveniently customized across a wide range of genres such as tools such as tools and noun management, communication tools such as “Skype” (registered trademark) and “Twitter” (registered trademark), and entertainment tools such as online games. it can.

ところで、従来、人間が知覚する現実環境をコンピュータによって拡張するAR(Augment Reality)技術が知られている。例えば、特許文献1には、拡張現実画像において、現実世界の様子を表す画像に合成されるオブジェクト画像を適切に変化させる技術が紹介されている。   By the way, AR (Augment Reality) technology for extending a real environment perceived by humans with a computer has been known. For example, Patent Document 1 introduces a technique for appropriately changing an object image to be combined with an image representing the state of the real world in an augmented reality image.

特開2011−204047号公報JP 2011-204047 A

上記した特許文献1に開示されているように、AR技術は、3次元位置認識のために用いられるマーカと呼ばれる所定形状の図形を現実世界の中に配置し、撮影機器がそのマーカを含む現実世界を撮影する。したがって、マーカは、撮影された画像内において透視変換された形態で配置される。そして、このマーカに対応付けられたオブジェクトに透視変換技術が適用され、撮影された画像を背景にして得られたオブジェクト画像が合成され、拡張現実画像が生成される。このAR技術により動画や静止画によるCG(Computer Graphics)再生が可能になる。   As disclosed in Patent Document 1 described above, AR technology places a figure of a predetermined shape called a marker used for three-dimensional position recognition in the real world, and the imaging device includes the marker. Shoot the world. Therefore, the marker is arranged in a perspective-transformed form in the captured image. Then, the perspective transformation technique is applied to the object associated with the marker, and the object image obtained with the captured image as a background is synthesized to generate an augmented reality image. This AR technology enables CG (Computer Graphics) playback using moving images and still images.

ところで、上記したスマートフォンとプリントTシャツ等のキャラクタ商品とを連携させることにより、消費者と消費者が購入したキャラクタ商品のデザインと関連した演出用画像とを合成することにより生成される拡張現実画像を再生できれば、そのキャラクタ商品に付加価値を与えることができ、趣向を高めるとともに販売促進効果も得られるはずである。また、これを実現するにあたって高度な透視変換技術を使用することなく、簡易に拡張現実画像を再生したいという要望もある。   By the way, the augmented reality image generated by combining the above-described smartphone and a character product such as a print T-shirt, and the effect image related to the design of the character product purchased by the consumer and the consumer. Can be added to the character merchandise, it should be able to increase the taste and promote sales. In addition, there is a desire to easily reproduce an augmented reality image without using an advanced perspective transformation technique to realize this.

本発明は、上記した課題を解決するためになされたものであり、消費者が購入したキャラクタ商品のデザインと関連した拡張現実画像を簡易に再生する仕組みを構築することにより、趣向を高め、キャラクタ商品の販売促進効果を得ることができる、携帯端末装置、端末プログラム、拡張現実感システム、およびキャラクタ商品を提供することを目的とする。   The present invention has been made in order to solve the above-described problems. By constructing a mechanism for easily reproducing an augmented reality image related to the design of a character product purchased by a consumer, the taste is improved and the character is improved. An object of the present invention is to provide a mobile terminal device, a terminal program, an augmented reality system, and a character product capable of obtaining a product sales promotion effect.

本発明の携帯端末装置は、少なくとも、撮像部と、表示部と、を有し、前記撮像部が、衣類にプリントされ、または貼付されたキャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識し、前記画像認識した前記デザインのそれぞれに対応付けて用意された演出用画像と、前記衣類を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して前記表示部に表示する制御部、を備えている。   The mobile terminal device of the present invention includes at least an imaging unit and a display unit, and the imaging unit is a design of at least a part of an image obtained by photographing a character printed on or affixed to clothing. Image is recognized, and an augmented reality image is generated by synthesizing an effect image prepared corresponding to each of the image-recognized designs and a subject image of a person wearing the clothing to generate the display. A control unit for displaying on the unit.

本発明において、前記制御部は、前記被写体像の画像サイズに応じて前記演出用画像の画像サイズを変化させることが好ましい。   In the present invention, it is preferable that the control unit changes the image size of the effect image according to the image size of the subject image.

本発明において、音声出力部を更に有し、前記制御部は、前記演出用画像が前記表示部に表示されると効果音を生成し、前記生成した効果音を前記音声出力部に出力することが好ましい。   In this invention, it further has an audio | voice output part, The said control part produces | generates a sound effect, if the said effect image is displayed on the said display part, The said produced | generated sound effect is output to the said audio | voice output part. Is preferred.

本発明の端末プログラムは、特定のキャラクタがプリントされ、または貼付された衣類と、少なくとも、撮像部と表示部とを有し、前記撮像部により撮影された映像の少なくとも一部のデザインから拡張現実画像を生成して前記表示部に表示する携帯端末装置とを有する拡張現実感システムにおいて、前記携帯端末装置に使用されるコンピュータによって制御される端末プログラムであって、前記コンピュータに、前記撮像部が前記キャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識する処理と、前記画像認識した前記デザインのそれぞれに対応付けて用意された演出用画像と、前記衣類を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して前記表示部に表示する処理と、を実行させる。   The terminal program according to the present invention includes a garment on which a specific character is printed or affixed, at least an imaging unit and a display unit, and an augmented reality based on the design of at least a part of the video imaged by the imaging unit. In an augmented reality system having a mobile terminal device that generates an image and displays the image on the display unit, the terminal program is controlled by a computer used in the mobile terminal device, and the computer includes the imaging unit. A process for recognizing at least a part of a design of a video obtained by photographing the character, an effect image prepared in association with each of the designs recognized for the image, and a person wearing the clothing A process of generating an augmented reality image by combining the subject image and displaying it on the display unit is executed.

本発明の拡張現実感システムは、特定のキャラクタがプリントされ、または貼付された衣類と、少なくとも、撮像部と、表示部とを有し、前記撮像部が、前記キャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識し、前記画像認識した前記デザインのそれぞれに対応付けて用意された演出用画像と、前記衣類を身につけた人物の被写体像とを合成することにより拡張現実画像を生成し、前記表示部に表示する制御部、を備えた携帯端末装置と、を有する。   The augmented reality system of the present invention includes a clothing on which a specific character is printed or affixed, at least an imaging unit, and a display unit, and the imaging unit captures the character. An augmented reality image by recognizing at least a part of the image and synthesizing a rendering image prepared in association with each of the image-recognized designs and a subject image of a person wearing the clothing And a portable terminal device including a control unit that generates and displays on the display unit.

本発明の衣類は、特定のキャラクタがプリントされ、または貼付された衣類であって、前記キャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識し、前記認識したデザインのそれぞれに対応付けて用意された演出用画像と、前記衣類を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して表示する携帯端末装置からなる拡張現実感システムに使用される。   The garment of the present invention is a garment on which a specific character is printed or affixed, and recognizes at least a part of a design of an image obtained by photographing the character and corresponds to each of the recognized designs. It is used in an augmented reality system including a mobile terminal device that generates and displays an augmented reality image by synthesizing a presentation image prepared and a subject image of a person wearing the clothing.

本発明の衣類は、特定のキャラクタがプリントされ、または貼付された衣類であって、前記プリント、または、貼付されたキャラクタは、前記衣類を身に付けた人物を撮影した携帯端末装置において、撮影された前記衣類を身に付けた人物の被写体像に含まれる前記キャラクタの画像から画像認識されるデザインを少なくとも一部に含んでおり、前記デザインは、前記携帯端末装置において対応する演出用画像が用意されており、かつ、当該演出用画像は、前記携帯端末装置において前記衣類を身につけた人物の被写体像と合成されることにより拡張現実画像の生成に利用される。 The garment of the present invention is a garment on which a specific character is printed or affixed, and the printed or affixed character is photographed in a portable terminal device that photographs a person wearing the garment. At least partly includes a design that is image-recognized from the image of the character included in the subject image of the person wearing the clothing, and the design includes an effect image corresponding to the mobile terminal device. The effect image prepared is used for generating an augmented reality image by being combined with a subject image of a person wearing the clothing in the portable terminal device.

本発明によれば、消費者が購入した衣類等のキャラクタ商品のデザインと関連した拡張現実画像を簡易に再生する仕組みを構築することにより、趣向を高め、キャラクタ商品の販売促進効果を得ることができる、携帯端末装置、端末プログラム、拡張現実感システム、およびキャラクタ商品を提供することができる。   According to the present invention, by constructing a mechanism for easily reproducing an augmented reality image associated with the design of a character product such as clothes purchased by a consumer, it is possible to enhance the taste and obtain the sales promotion effect of the character product. A portable terminal device, a terminal program, an augmented reality system, and a character product can be provided.

本発明の実施の形態に係る拡張現実感システムのイメージ図である。It is an image figure of the augmented reality system which concerns on embodiment of this invention. 本発明の実施の形態に係る携帯端末装置の内部構成を示すブロック図である。It is a block diagram which shows the internal structure of the portable terminal device which concerns on embodiment of this invention. 本発明の実施の形態に係る携帯端末装置の動作を示すフローチャートである。It is a flowchart which shows operation | movement of the portable terminal device which concerns on embodiment of this invention. 本発明の実施の形態に係る携帯端末装置の動作を画面上で表現した図である。It is the figure which represented operation | movement of the portable terminal device which concerns on embodiment of this invention on a screen.

(実施形態の構成)
以下、添付図面を参照して本発明を実施するための実施の形態(以下、単に本実施形態という)について詳細に説明する。
(Configuration of the embodiment)
Hereinafter, an embodiment for carrying out the present invention (hereinafter simply referred to as the present embodiment) will be described in detail with reference to the accompanying drawings.

図1に、本実施形態に係る拡張現実感システム100が示されている。図1に示されるように、本実施形態に係る拡張現実感システム100は、特定のキャラクタがプリントされ、または貼付されたキャラクタ商品10と、このキャラクタ商品にプリントされたキャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識し、当該画像認識したデザインのそれぞれに対応付けて用意された演出用画像と、キャラクタ商品を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して画面に表示するスマートフォン等の携帯端末装置20と、からなる。   FIG. 1 shows an augmented reality system 100 according to the present embodiment. As shown in FIG. 1, the augmented reality system 100 according to the present embodiment is obtained by photographing a character product 10 on which a specific character is printed or pasted and a character printed on the character product. Augmented reality image by recognizing at least a part of the design of the image and combining the image for presentation prepared corresponding to each of the image-recognized design and the subject image of the person wearing the character product And a mobile terminal device 20 such as a smartphone that generates and displays on the screen.

ここでは、キャラクタ商品10として、戦隊ものヒーロー等のキャラクタがプリントされた子供向けのTシャツが例示されている。このTシャツを購入した消費者(ほとんどの場合Tシャツを着用する子供の親)は、携帯端末装置20を用い、商品タグに付属のQRコード(登録商標)を読み取ることにより、Tシャツ販売事業者、あるいはTシャツにプリントされたキャラクタの版権を所有する事業者等のサイトから拡張現実画像を再生するアプリケーションプログラム(後述する端末プログラム260)を無償でダウンロードにより取得する。   Here, as the character product 10, a T-shirt for children on which a character such as a hero of a squadron is printed is illustrated. Consumers who purchase these T-shirts (mostly parents of children who wear T-shirts) use the mobile terminal device 20 to read the QR code (registered trademark) attached to the product tag, thereby selling T-shirts. An application program (a terminal program 260 described later) for reproducing an augmented reality image is obtained free of charge from a site of a person who owns the copyright of the character printed on the T-shirt or the like.

そして、消費者は、ダウンロードすることにより取得した端末プログラム260を起動することより、そのTシャツを着用した子供の前身デザインにピントを合わせ、撮影によりキャラクタのデザインを読み込む。この撮影操作のみで、現実には子供だけであるが、例えば、戦闘ポーズをとったヒーローが演出用画像として隣に出現する、子供とヒーローとによる簡単なAR技術を使用した2ショット撮影が可能になる。このとき、携帯端末装置20は、撮影により得たキャラクタ商品の映像の少なくとも一部のデザインを画像認識し、画像認識したデザインのそれぞれに対応付けて予め用意された演出用画像と、Tシャツを着用した子供による被写体像とを合成することによって拡張現実画像を生成して画面上に表示する。   The consumer activates the terminal program 260 acquired by downloading, thereby focusing on the predecessor design of the child wearing the T-shirt and reading the character design by photographing. With this shooting operation alone, in reality, there are only children, but, for example, a two-shot shooting using a simple AR technology by a child and a hero, where a hero in a fighting pose appears next as a directing image, is possible. become. At this time, the mobile terminal device 20 recognizes at least a part of the design of the video of the character merchandise obtained by shooting, and displays an effect image prepared in advance in association with each of the image-recognized designs and a T-shirt. An augmented reality image is generated by synthesizing a subject image of a worn child and displayed on the screen.

図2に本実施形態に係る携帯端末装置20の内部構成が示されている。図2に示されるように、携帯端末装置20は、撮像部21と、表示部22と、操作部23と、音声出力部24と、通信部25と、記憶部26と、制御部27と、を含み構成される。   FIG. 2 shows an internal configuration of the mobile terminal device 20 according to the present embodiment. As shown in FIG. 2, the mobile terminal device 20 includes an imaging unit 21, a display unit 22, an operation unit 23, an audio output unit 24, a communication unit 25, a storage unit 26, a control unit 27, It is comprised including.

撮像部21は、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等の光電変換素子と、その制御回路等により構成されるカメラである。表示部22は、多数の画素(複数色の発光素子の組み合わせ)を縦横に配して構成される、例えばLCD(Liquid Crystal Display Device)や有機EL(Electro-Luminescence)を用いて構成されており、制御部27により生成され、記憶部26の所定の領域(VRAM領域)に書き込まれた拡張現実画像を含む表示情報を表示する。   The imaging unit 21 is a camera configured by a photoelectric conversion element such as a CCD (Charge Coupled Device) or a CMOS (Complementary Metal Oxide Semiconductor) image sensor, a control circuit thereof, and the like. The display unit 22 is configured using, for example, an LCD (Liquid Crystal Display Device) or an organic EL (Electro-Luminescence), which is configured by arranging a large number of pixels (a combination of light emitting elements of a plurality of colors) vertically and horizontally. The display information including the augmented reality image generated by the control unit 27 and written in a predetermined area (VRAM area) of the storage unit 26 is displayed.

操作部23は、例えば、電源キー、通話キー、数字キー、文字キー、方向キー(左右上下)、決定キー、発信キー、撮像キー等、各種の機能が割り当てられたキースイッチを有しており、これらのキーが操作者によって操作された場合に、その操作内容に対応する信号を発生し、これを操作者の指示として制御部27に出力する。なお、この操作部23は、位置情報を入力するタッチパネルで実現してもよい。この場合、タッチバネル上に上記したキースイッチ類や拡張現実画像が表示される。   The operation unit 23 includes a key switch to which various functions are assigned, such as a power key, a call key, a numeric key, a character key, a direction key (left / right / up / down), a determination key, a call key, and an imaging key. When these keys are operated by the operator, a signal corresponding to the operation content is generated and output to the control unit 27 as an instruction from the operator. The operation unit 23 may be realized by a touch panel for inputting position information. In this case, the above key switches and augmented reality image are displayed on the touch panel.

音声出力部24は、制御部27により生成される効果音を含む音声を出力するスピーカである。通信部25は、無線通信システムを捕捉し、通信ネットワークに接続される不図示の基地局との間で無線通信を行い、各種データの送受信を行う。ここで、各種データとは、音声通話時の音声データ、メール送受信時のメールデータ、Web(World Wide Web)閲覧時のWebページデータ等である。本発明と関係するところでは、この通信部25により、キャラクタ商品10に対応した拡張現実画像生成のために必要なデータを事業者のサイト(サーバ)からダウンロードにより取得する。このとき、通信部25は、例えば、TCP/IP(Transmission Control Protocol/Internet Protocol)に準拠したプロトコルにしたがい不図示のサーバとの接続を行う。   The sound output unit 24 is a speaker that outputs sound including sound effects generated by the control unit 27. The communication unit 25 captures a wireless communication system, performs wireless communication with a base station (not shown) connected to the communication network, and transmits and receives various data. Here, the various data includes voice data at the time of voice call, mail data at the time of mail transmission / reception, Web page data at the time of browsing the Web (World Wide Web), and the like. In connection with the present invention, the communication unit 25 obtains data necessary for generating an augmented reality image corresponding to the character product 10 from the operator's site (server) by downloading. At this time, the communication unit 25 connects to a server (not shown) according to a protocol compliant with TCP / IP (Transmission Control Protocol / Internet Protocol), for example.

記憶部26は、本実施形態に係る端末プログラム260が格納されるプログラム領域の他に、作業領域とVRAM(Video RAM)領域が割当てられている。作業領域には、制御部27により生成される拡張現実画像、あるいはインターネット経由で取得される拡張現実画像が都度格納され、VRAM領域には、この拡張現実画像を含む表示情報が描画される。なお、記憶部26として、例えば、半導体記憶素子、磁気、あるいは光記憶素子が実装される。   The storage unit 26 is assigned a work area and a VRAM (Video RAM) area in addition to a program area in which the terminal program 260 according to the present embodiment is stored. An augmented reality image generated by the control unit 27 or an augmented reality image acquired via the Internet is stored in the work area each time, and display information including the augmented reality image is drawn in the VRAM area. As the storage unit 26, for example, a semiconductor storage element, magnetism, or an optical storage element is mounted.

制御部27は、撮像部21が撮影して得た映像の少なくとも一部のデザインを画像認識し、当該画像認識したデザインのそれぞれに対応付けて用意された演出用画像と、キャラクタ商品を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して表示部22に表示する機能を有する。このとき、制御部27は、被写体像の画像サイズに応じて演出用画像の画像サイズを変化させてもよい。また、演出用画像が表示部22に表示されると効果音を生成し、当該生成した効果音を音声出力部24に出力してもよい。   The control unit 27 recognizes at least a part of the design of the video captured by the imaging unit 21, and wears a production image and a character product prepared in association with each of the image-recognized designs. A function of generating an augmented reality image by combining the subject image of the person and displaying it on the display unit 22 is provided. At this time, the control unit 27 may change the image size of the effect image according to the image size of the subject image. Further, when the effect image is displayed on the display unit 22, a sound effect may be generated, and the generated sound effect may be output to the sound output unit 24.

このため、制御部27が実行する端末プログラム260の構造を機能的に分解して図示すれば、図2に示すように、主制御部270と、画像取得部271と、画像認識部272と、演出制御部273と、表示制御部274と、からなる。   For this reason, if the structure of the terminal program 260 executed by the control unit 27 is functionally disassembled and illustrated, as shown in FIG. 2, a main control unit 270, an image acquisition unit 271, an image recognition unit 272, An effect control unit 273 and a display control unit 274 are included.

画像取得部271は、撮像部21が、Tシャツ等のキャラクタ商品10にプリントされ、または貼付されるキャラクタのデザインを撮影して得た画像を取り込んで画像認識部272に出力する。画像認識部272は、画像取得部271が取り込んだデザインを画像認識して演出制御部273に出力する。演出制御部273は、画像認識部272で画像認識されたデザインのそれぞれに対応付けて用意された演出用画像と、キャラクタ商品10を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して表示部22に表示する。   The image acquisition unit 271 captures an image obtained by photographing the design of the character printed or pasted on the character commodity 10 such as a T-shirt, and outputs the image to the image recognition unit 272. The image recognition unit 272 recognizes the design captured by the image acquisition unit 271 and outputs the design to the effect control unit 273. The effect control unit 273 combines the effect image prepared in association with each of the designs recognized by the image recognition unit 272 and the subject image of the person wearing the character product 10 to augment the reality image. Is generated and displayed on the display unit 22.

このとき演出制御部273は、実写により得られる被写体像の画像サイズに応じて演出用画像の画像サイズを変化させることができる。また、演出用画像が表示部22に表示されると効果音を生成し、当該生成した効果音を音声出力部24に出力してもよい。   At this time, the effect control unit 273 can change the image size of the effect image according to the image size of the subject image obtained by actual shooting. Further, when the effect image is displayed on the display unit 22, a sound effect may be generated, and the generated sound effect may be output to the sound output unit 24.

表示制御部274は、演出制御部273により生成される拡張現実画像を記憶部26のVRAM領域に描画し、描画した表示情報を表示タイミングに同期して読み出して表示部22に表示する。   The display control unit 274 draws the augmented reality image generated by the effect control unit 273 in the VRAM area of the storage unit 26, reads the drawn display information in synchronization with the display timing, and displays it on the display unit 22.

なお、主制御部270は、制御部27が、撮像部21により撮影して得た映像の少なくとも一部のデザインを画像認識し、当該画像認識したデザインのそれぞれに対応付けて用意された演出用画像と、キャラクタ商品を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して表示部22に表示するために、上記した画像取得部271と、画像認識部272と、演出制御部273と、表示制御部274の各部のシーケンス制御を司る。   The main control unit 270 performs image recognition on at least a part of the design of the video obtained by the control unit 27 taken by the imaging unit 21, and for the effects prepared in association with each of the image-recognized designs. In order to generate an augmented reality image by combining the image and the subject image of the person wearing the character product and display it on the display unit 22, the above-described image acquisition unit 271, image recognition unit 272, and production It controls the sequence control of each part of the control unit 273 and the display control unit 274.

(実施形態の動作)
以下、本実施形態の携帯端末装置20の動作について、図3のフローチャートに基づき、更には図1および図4(a)(b)の画面構成を参照しながら詳細に説明する。
(Operation of the embodiment)
Hereinafter, the operation of the mobile terminal device 20 of the present embodiment will be described in detail based on the flowchart of FIG. 3 and further referring to the screen configurations of FIGS. 1 and 4A and 4B.

まず、携帯端末装置20の制御部27(主制御部270)は、電源が投入されると、携帯端末装置20に端末プログラム260がインストール済みか否かを判定する(ステップS101)。主制御部270は、記憶部26の所定のエリアに割当てられて記憶されるインストールアプリ一覧(不図示)を参照することによりインストール有無の判定が可能である。ここで、未だインストールされていないと判定されると(ステップS101“NO”)、主制御部270は、その旨を示すメッセージを生成して表示部22に表示し、消費者に対して端末プログラム260の取得を促す。消費者はこのメッセージにしたがい、例えば、図4(a)に示すように、商品タグ30に付属のQRコード(登録商標)を読み取る(ステップS102)。このことにより、端末プログラム260が携帯端末装置20に自動的にダウンロードされ、更に、インストールすることによって記憶部26のプログラム領域に格納される(ステップS103)。   First, when the power is turned on, the control unit 27 (main control unit 270) of the mobile terminal device 20 determines whether or not the terminal program 260 has been installed in the mobile terminal device 20 (step S101). The main control unit 270 can determine the presence or absence of installation by referring to a list of installed applications (not shown) allocated and stored in a predetermined area of the storage unit 26. Here, if it is determined that it has not been installed yet (step S101 “NO”), the main control unit 270 generates a message to that effect and displays it on the display unit 22 to the terminal program for the consumer. 260 is obtained. In accordance with this message, for example, the consumer reads the QR code (registered trademark) attached to the product tag 30 as shown in FIG. 4A (step S102). As a result, the terminal program 260 is automatically downloaded to the portable terminal device 20 and further stored in the program area of the storage unit 26 by being installed (step S103).

一方、ステップS101で、携帯端末装置20に端末プログラム260が既にインストールされていれと判定されると(ステップS101“YES”)、消費者は、その端末プログラム260を立ち上げるための操作を実行する。端末プログラム260が起動すると(ステップS104)、後述するように、キャラクタ商品10にプリントされたキャラクタのデザインの画像認識、画像認識結果に基づく拡張現実画像の生成が可能になる。   On the other hand, if it is determined in step S101 that the terminal program 260 is already installed in the mobile terminal device 20 (step S101 “YES”), the consumer performs an operation for starting up the terminal program 260. . When the terminal program 260 is activated (step S104), as described later, it is possible to perform image recognition of the character design printed on the character product 10 and generation of an augmented reality image based on the image recognition result.

端末プログラム260が起動すると、消費者は、例えば、図4(b)に示すように、子供が着用したTシャツの前身にプリントされたキャラクタにフォーカスしてピント合わせを行なう(ステップS105)。そして、消費者が、操作部23の撮像キー、または表示部22の一部領域に割り当てられている撮像ボタンをONすると(ステップS106“YES”)、主制御部270はこれを検知して画像取得部271に制御を移す。画像取得部271は、撮影部21が撮像したキャラクタデザインを画像認識部272に引渡し、画像認識部272は、そのキャラクタのデザインの画像認識を行なう(ステップS107)。   When the terminal program 260 is activated, as shown in FIG. 4B, for example, the consumer focuses on the character printed on the front of the T-shirt worn by the child (step S105). When the consumer turns on the imaging key of the operation unit 23 or the imaging button assigned to a partial area of the display unit 22 (step S106 “YES”), the main control unit 270 detects this and detects an image. Control is passed to the acquisition unit 271. The image acquisition unit 271 delivers the character design captured by the photographing unit 21 to the image recognition unit 272, and the image recognition unit 272 performs image recognition of the character design (step S107).

画像認識部272によるデザインの画像認識結果は演出制御部273に出力される。演出制御部273は、画像認識したキャラクタデザインのそれぞれに対応付けて用意された演出用画像を読み込む(ステップS108)。演出制御部273は、読み込んだ演出用画像を、表示制御部274経由で表示部22に表示するにあたり、例えば、図1の両方向矢印で示すように、被写体像の画像サイズに応じて演出用画像の画像サイズを変化させる処理を実行する(ステップS109)。すなわち、演出制御部273は、被写体像の画像サイズが大きい場合は、被写体と携帯端末装置20との間の撮影距離dが近いと判断して演出用画像を相対的に大きな画像サイズで表示する。逆に、被写体像の画像サイズが小さくなっていく場合には演出用画像の画像サイズも相対的に小さくすることにより、Tシャツを着用している子供の被写体像に演出用画像の画像サイズを合わせることができる。   The image recognition result of the design by the image recognition unit 272 is output to the effect control unit 273. The effect control unit 273 reads an effect image prepared in association with each of the character designs recognized as images (step S108). When the effect control unit 273 displays the read effect image on the display unit 22 via the display control unit 274, for example, as shown by a double-headed arrow in FIG. 1, the effect image depends on the image size of the subject image. A process of changing the image size is executed (step S109). That is, when the image size of the subject image is large, the effect control unit 273 determines that the shooting distance d between the subject and the mobile terminal device 20 is short and displays the effect image with a relatively large image size. . Conversely, when the image size of the subject image is decreasing, the image size of the effect image is reduced to the image of the child image wearing the T-shirt by relatively reducing the image size of the effect image. Can be matched.

すなわち、被写体像である子供と携帯端末装置20との間の距離が近すぎると演出用画像も大きく表示され、表示部22の有効表示画面領域に演出用画像の全てが写らない。そのため、消費者は、撮影時に撮影距離dを調整(バックして撮像)することにより演出用画像を表示部22の有効表示領域に収める。この場合、子供の画像サイズも合わせて小さくなるため、演出用画像の画像サイズも小さくして被写体像と演出用画像の画像サイズが最適なところで撮影位置の調整を行う。このように、撮影距離dにより、被写体像と演出用画像との画像サイズ感を調整している。   That is, if the distance between the child, which is the subject image, and the mobile terminal device 20 is too close, the effect image is displayed large, and the effect image is not entirely reflected in the effective display screen area of the display unit 22. Therefore, the consumer adjusts the shooting distance d at the time of shooting (back imaging) to store the effect image in the effective display area of the display unit 22. In this case, since the child image size is also reduced, the image size of the effect image is also reduced, and the shooting position is adjusted where the image size of the subject image and the effect image is optimal. Thus, the image size feeling between the subject image and the effect image is adjusted by the shooting distance d.

なお、撮影距離に応じて変化する被写体像の大小判定は、例えば、図1に示すように、撮影距離dが2[m]の場合における画像サイズを基準として比較することにより行う。すなわち、被写体である子供の体格と、携帯端末装置20の撮像部21として通常使用されるレンズの被写界深度との関係から、撮影距離dとして2[m]程度の距離が最適である。   Note that the size of the subject image that changes in accordance with the shooting distance is determined by, for example, comparing on the basis of the image size when the shooting distance d is 2 [m] as shown in FIG. That is, a distance of about 2 [m] is optimal as the shooting distance d from the relationship between the physique of the child as the subject and the depth of field of the lens normally used as the imaging unit 21 of the mobile terminal device 20.

続いて消費者により撮像キーがONされ、主制御部270がこれを検知すると(ステップS110“YES”)、演出制御部273は、先に撮影位置が調整された演出用画像とTシャツを着用した子供の被写体像とを合成することにより拡張現実画像を生成して表示制御部274に出力する。表示制御部274は、演出制御部273により生成される拡張現実画像を記憶部26のVRAM領域に描画し、描画した拡張現実画像を表示部22の表示タイミングに同期して読み出して表示部22に表示する(ステップS111)。すなわち、現実に被写体は子供だけであるが、表示部22の画面上には簡易なAR技術によりヒーローが隣に出現した拡張現実画像による2ショット画像が表示され、あたかもTシャツを着ている子供がヒーローと記念撮影しているかのような画像が表示される。   Subsequently, when the imaging key is turned on by the consumer and the main control unit 270 detects this (step S110 “YES”), the effect control unit 273 wears the effect image and the T-shirt whose shooting position has been adjusted first. The augmented reality image is generated by combining the child's subject image and output to the display control unit 274. The display control unit 274 draws the augmented reality image generated by the effect control unit 273 in the VRAM area of the storage unit 26, reads the rendered augmented reality image in synchronization with the display timing of the display unit 22, and displays it on the display unit 22. It is displayed (step S111). That is, although the subject is actually only a child, a two-shot image based on an augmented reality image in which a hero appears next to the screen of the display unit 22 by a simple AR technique is displayed as if the child is wearing a T-shirt. An image appears as if he was taking a commemorative photo with the hero.

なお、このとき演出制御部273は、演出用画像が表示部22に表示されると効果音を生成し、生成した効果音を音声出力部24に出力してもよい。このとき、音声出力部24がその効果音を外界へ出力することによりヒーロー出現感を演出でき、その結果、演出効果が高まる(ステップS112)。   At this time, the effect control unit 273 may generate a sound effect when the effect image is displayed on the display unit 22, and output the generated sound effect to the sound output unit 24. At this time, the sound output unit 24 outputs the sound effect to the outside world, thereby making it possible to produce a hero appearance, and as a result, the effect is enhanced (step S112).

以上説明のように本実施形態に係る携帯端末装置20によれば、制御部27は、撮像部21でキャラクタ商品10にプリントまたは貼付されたキャラクタを撮影して得た映像のデザインを画像認識し、デザインのそれぞれに対応付けて用意された演出用画像と、キャラクタ商品を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して表示部22に表示する。このため、透視変換技術を必要とすることなく、演出用画像と被写体像とからなる拡張現実画像を簡易に生成することができる。また、消費者が購入したキャラクタ商品のキャラクタと関連した拡張現実画像を表示することによって趣向を高め、キャラクタ商品の販売促進効果を得ることができる。   As described above, according to the mobile terminal device 20 according to the present embodiment, the control unit 27 recognizes the image design obtained by photographing the character printed or pasted on the character product 10 by the imaging unit 21. Then, an augmented reality image is generated by combining the effect image prepared in association with each design and the subject image of the person wearing the character product, and displayed on the display unit 22. For this reason, an augmented reality image composed of an effect image and a subject image can be easily generated without requiring a perspective conversion technique. Further, by displaying an augmented reality image related to the character of the character product purchased by the consumer, it is possible to enhance the taste and obtain the sales promotion effect of the character product.

なお、本実施形態に係る端末プログラム260は、例えば、図2のブロック図に示すように、特定のキャラクタがプリントされ、または貼付されたキャラクタ商品10と、少なくとも、撮像部21と表示部22とを有し、撮像部21により撮影された映像の少なくとも一部のデザインから拡張現実画像を生成して表示部22に表示する携帯端末装置20とからなる拡張現実感システム100において、携帯端末装置20に使用されるコンピュータ(制御部27)によって制御される端末プログラム260である。そして、例えば、図3のフローチャートに示すように、コンピュータ(制御部27)に、撮像部21がキャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識する処理(S105〜S107)と、画像認識したデザインのそれぞれに対応付けて用意された演出用画像と、キャラクタ商品を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して表示部22に表示する処理(S108〜S111)と、を実行させる。   The terminal program 260 according to the present embodiment includes, for example, a character product 10 on which a specific character is printed or pasted, and at least the imaging unit 21 and the display unit 22 as illustrated in the block diagram of FIG. In the augmented reality system 100 including the mobile terminal device 20 that generates an augmented reality image from at least a part of the design of the video captured by the imaging unit 21 and displays it on the display unit 22, the mobile terminal device 20 It is the terminal program 260 controlled by the computer (control part 27) used for the. For example, as shown in the flowchart of FIG. 3, processing (S105 to S107) for recognizing at least a part of the design of the video obtained by the imaging unit 21 capturing a character on the computer (control unit 27). A process of generating an augmented reality image by synthesizing an effect image prepared in association with each of the image-recognized designs and a subject image of a person wearing a character product and displaying the augmented reality image on the display unit 22 ( S108 to S111).

本実施形態に係る端末プログラム260によれば、コンピュータ(制御部27)がこの端末プログラム260を逐次読み出し実行することにより、キャラクタ商品10にプリントまたは貼付されたキャラクタを撮影して得た映像のデザインを画像認識させ、デザインのそれぞれに対応付けて用意された演出用画像と、キャラクタ商品を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して表示可能な端末プログラム260を提供することができる。このため、透視変換技術を必要とすることなく、演出用画像と被写体像とからなる簡易な拡張現実画像を生成することができる。また、消費者が購入したキャラクタ商品と関連した拡張現実画像を表示することによって趣向を高め、キャラクタ商品の販売促進効果を得ることができる。   According to the terminal program 260 according to the present embodiment, the computer (control unit 27) sequentially reads out and executes the terminal program 260, so that the design of the video obtained by photographing the character printed or pasted on the character product 10 is obtained. A terminal program 260 capable of generating and displaying an augmented reality image by synthesizing a rendering image prepared in association with each design and a subject image of a person wearing a character product. Can be provided. Therefore, it is possible to generate a simple augmented reality image composed of an effect image and a subject image without requiring a perspective conversion technique. Further, by displaying the augmented reality image related to the character product purchased by the consumer, it is possible to enhance the taste and obtain the sales promotion effect of the character product.

また、本実施形態に係る拡張現実感システム100は、例えば、図1に示すように、特定のキャラクタがプリントされ、または貼付されたキャラクタ商品10と、少なくとも、撮像部21と、表示部22とを有し、撮像部21が、キャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識し、画像認識したデザインのそれぞれに対応付けて用意された演出用画像と、キャラクタ商品を身につけた人物の被写体像とを合成し、表示部22に表示する制御部27、を備えた携帯端末装置20と、から構成される。   Further, the augmented reality system 100 according to the present embodiment includes, for example, as shown in FIG. 1, a character product 10 on which a specific character is printed or pasted, at least an imaging unit 21, a display unit 22, and the like. The imaging unit 21 recognizes an image of at least a part of a video image obtained by photographing a character, and creates an effect image prepared in association with each of the image-recognized designs and a character product. The mobile terminal device 20 includes a control unit 27 that synthesizes the subject image of the person attached to the mobile phone and displays it on the display unit 22.

本実施形態に係る拡張現実感システム100によれば、携帯端末装置20が、キャラクタ商品10にプリントまたは貼付されたキャラクタを撮影して得た映像のデザインを画像認識し、デザインのそれぞれに対応付けて用意された演出用画像と、キャラクタ商品を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して表示する拡張現実感システム100を提供することができる。このため、透視変換技術を必要とすることなく、演出用画像と被写体像とからなる拡張現実画像を簡易に生成することができる。その結果、消費者が購入したキャラクタ商品と関連した拡張現実画像を表示することによって趣向を高め、キャラクタ商品の販売促進効果を得ることができる。   According to the augmented reality system 100 according to the present embodiment, the mobile terminal device 20 recognizes an image of a video image obtained by photographing a character printed or pasted on the character product 10 and associates it with each design. It is possible to provide the augmented reality system 100 that generates and displays an augmented reality image by synthesizing the effect image prepared in advance and the subject image of a person wearing a character product. For this reason, an augmented reality image composed of an effect image and a subject image can be easily generated without requiring a perspective conversion technique. As a result, by displaying the augmented reality image related to the character product purchased by the consumer, it is possible to enhance the taste and obtain the sales promotion effect of the character product.

また、本実施形態に係るキャラクタ商品10は、例えば、図1、あるいは図4(a)(b)に示すように、特定のキャラクタがプリントされ、または貼付されたキャラクタ商品10である。このキャラクタ商品10は、キャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識し、認識したデザインのそれぞれに対応付けて用意された演出用画像と、キャラクタ商品10を身につけた人物の被写体像とを合成して表示する携帯端末装置20を用いることによって実現される拡張現実感システム100に使用される。   Further, the character product 10 according to the present embodiment is a character product 10 on which a specific character is printed or pasted as shown in FIG. 1 or FIGS. 4 (a) and 4 (b), for example. This character product 10 image-recognizes at least a part of the design of a video obtained by photographing the character, and a person wearing the character product 10 and an effect image prepared in association with each recognized design. It is used for the augmented reality system 100 realized by using the portable terminal device 20 that synthesizes and displays the subject image.

本実施形態に係るキャラクタ商品10によれば、特定のキャラクタがプリントされ、または貼付されたキャラクタ商品10により、携帯端末装置20に、キャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識させ、認識させたデザインのそれぞれに対応付けて用意された演出用画像と、キャラクタ商品10を身につけた人物の被写体像とを合成することによって拡張現実画像を生成させ、表示させることができる。また、本実施形態に係るキャラクタ商品10によれば、キャラクタ商品10にプリント、または、貼付されたキャラクタは、キャラクタ商品10を身に付けた人物を撮影した携帯端末装置20において、撮影されたキャラクタ商品10を身に付けた人物の被写体像に含まれるキャラクタの画像から画像認識されるデザインを少なくとも一部に含んでおり、該デザインは、携帯端末装置20において対応する演出用画像が用意されており、かつ、該演出用画像は、携帯端末装置20においてキャラクタ商品10を身につけた人物の被写体像と合成され、拡張現実画像を生成することができる。本実施形態に係るキャラクタ商品10によれば、商品の販売促進効果が得られるのは勿論のこと、キャラクタ商品10のファッション価値はそのまま維持して楽しさだけが倍増し、キャラクタ商品10を愛用する子供と、携帯端末装置20を操作する親との間の会話を自然に促すといった派生的効果も得ることができる。   According to the character product 10 according to the present embodiment, an image of at least a part of an image obtained by photographing a character is imaged on the mobile terminal device 20 by the character product 10 on which a specific character is printed or pasted. The augmented reality image can be generated and displayed by synthesizing the effect image prepared in correspondence with each of the recognized designs and the subject image of the person wearing the character product 10. . Further, according to the character product 10 according to the present embodiment, the character printed or pasted on the character product 10 is a character photographed by the mobile terminal device 20 that photographed the person wearing the character product 10. At least partly includes a design that is image-recognized from an image of a character included in a subject image of a person wearing the product 10, and the design includes a corresponding effect image in the mobile terminal device 20. In addition, the effect image can be combined with the subject image of the person wearing the character product 10 in the mobile terminal device 20 to generate an augmented reality image. According to the character product 10 according to the present embodiment, not only the sales promotion effect of the product can be obtained, but the fashion value of the character product 10 is maintained as it is, and only the enjoyment is doubled, and the character product 10 is used habitually. It is also possible to obtain a derivative effect such as naturally promoting conversation between the child and the parent who operates the mobile terminal device 20.

なお、上記した本実施形態に係るキャラクタ商品10として、プリントTシャツについてのみ例示して説明したが、バッグ、ピンバッチ他、キャラクタが印刷され、あるいは貼付された全ての衣類(衣服)や装身具(装飾品)等、着用、あるいは身につけて使用するもの、玩具や日用品等にも適用が可能である。また、携帯端末装置20が生成する演出用画像として、静止画のみ例示したが、イラスト、あるいは2次元や3次元アニメーションCG等の動画であってもよい。また、演出用画像としては、キャラクタに対応付けられた画像であれば特に限定されるものではないが、キャラクタがポージングした画像であることが好ましい。それにより、演出用画像と、キャラクタ商品を身につけた人物の被写体像とを合成することによって得られる画像が記念写真のような形になり、興趣性を向上させることができる。また、キャラクタとは、漫画やアニメなどに登場する仮想のキャラクタに限らず、アイドルや俳優などの実在の人物であってもよい。更に、携帯端末装置20としてスマートフォンを例示したが、撮影機能とインターネット接続環境を有する携帯電話やPDA(Personal Digital Assistance)、あるいはPC(Personal Computer)であってもよい。   In addition, although illustrated only about the print T-shirt as the character goods 10 according to the above-described embodiment, all clothing (clothes) and accessories (decorations) on which characters are printed or pasted, such as bags, pin batches, and the like It can also be applied to items that are worn or worn, such as toys and daily necessities. Further, although only the still image is illustrated as the effect image generated by the mobile terminal device 20, an illustration or a moving image such as a two-dimensional or three-dimensional animation CG may be used. The effect image is not particularly limited as long as it is an image associated with the character, but is preferably an image in which the character is posing. Thereby, the image obtained by synthesizing the effect image and the subject image of the person wearing the character product has a shape like a souvenir photo, and the interest can be improved. Further, the character is not limited to a virtual character appearing in comics or animation, but may be a real person such as an idol or an actor. Furthermore, although the smart phone was illustrated as the portable terminal device 20, it may be a mobile phone, a PDA (Personal Digital Assistance), or a PC (Personal Computer) having a photographing function and an Internet connection environment.

以上、本発明の好ましい実施形態について詳述したが、本発明の技術的範囲は上記実施形態に記載の範囲には限定されないことは言うまでもない。上記実施形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。またその様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。   As mentioned above, although preferred embodiment of this invention was explained in full detail, it cannot be overemphasized that the technical scope of this invention is not limited to the range as described in the said embodiment. It will be apparent to those skilled in the art that various modifications or improvements can be added to the above-described embodiments. Further, it is apparent from the scope of the claims that the embodiments added with such changes or improvements can be included in the technical scope of the present invention.

10…キャラクタ商品、20…携帯端末装置、30…商品タグ、21…撮像部、22…表示部、23…操作部、24…音声出力部、25…通信部、26…記憶部、27…制御部、100…拡張現実感システム、260…端末プログラム、270…主制御部、271…画像取得部、272…画像認識部、273…演出制御部、274…表示制御部。   DESCRIPTION OF SYMBOLS 10 ... Character goods, 20 ... Portable terminal device, 30 ... Product tag, 21 ... Imaging part, 22 ... Display part, 23 ... Operation part, 24 ... Audio | voice output part, 25 ... Communication part, 26 ... Memory | storage part, 27 ... Control , 100 ... augmented reality system, 260 ... terminal program, 270 ... main control unit, 271 ... image acquisition unit, 272 ... image recognition unit, 273 ... production control unit, 274 ... display control unit.

本発明の携帯端末装置は、少なくとも、撮像部と、表示部と、を有し、前記撮像部が、衣類にプリントされ、または貼付されたキャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識し、前記画像認識した前記デザインのそれぞれに対応付けて用意された演出用画像と、前記衣類を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して前記表示部に表示する制御部、を備えている。また、本発明の携帯端末装置は、衣類を撮影して拡張現実映像を生成する携帯端末装置であって、前記携帯端末装置は、少なくとも撮像部と表示部と制御部と、を有し、前記撮像部で前記衣類に付されたコードを読取ると、サーバより拡張現実感システムを機能させる端末プログラムを取得可能となり、前記携帯端末装置が前記端末プログラムを取得した場合において、前記制御部は、前記撮像部にて前記衣類にプリントされ、または貼付されたキャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識させ、前記画像認識した前記デザインのそれぞれに対応付けて用意された演出用画像と、前記衣類を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して前記表示部に表示させることを特徴とする。 The mobile terminal device of the present invention includes at least an imaging unit and a display unit, and the imaging unit is a design of at least a part of an image obtained by photographing a character printed on or affixed to clothing. Image is recognized, and an augmented reality image is generated by synthesizing an effect image prepared corresponding to each of the image-recognized designs and a subject image of a person wearing the clothing to generate the display. A control unit for displaying on the unit. The mobile terminal device of the present invention is a mobile terminal device that captures clothing and generates an augmented reality video, and the mobile terminal device includes at least an imaging unit, a display unit, and a control unit, When a code attached to the clothing is read by the imaging unit, it becomes possible to acquire a terminal program that causes the augmented reality system to function from a server, and when the mobile terminal device acquires the terminal program, the control unit An image for at least a part of a design obtained by photographing a character printed or affixed to the clothing in the imaging unit is image-recognized, and is provided in association with each of the image-recognized designs An augmented reality image is generated by combining an image and a subject image of a person wearing the clothing, and is displayed on the display unit.

本発明の端末プログラムは、特定のキャラクタがプリントされ、または貼付された衣類と、少なくとも、撮像部と表示部とを有し、前記撮像部により撮影された映像の少なくとも一部のデザインから拡張現実画像を生成して前記表示部に表示する携帯端末装置とを有する拡張現実感システムにおいて、前記携帯端末装置に使用されるコンピュータによって制御される端末プログラムであって、前記コンピュータに、前記撮像部が前記キャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識する処理と、前記画像認識した前記デザインのそれぞれに対応付けて用意された演出用画像と、前記衣類を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して前記表示部に表示する処理と、を実行させる。また、本発明の端末プログラムは、特定のキャラクタがプリントされ、または貼付された衣類と、少なくとも、撮像部と表示部とを有し、前記撮像部により撮影された映像の少なくとも一部のデザインから拡張現実画像を生成して前記表示部に表示する携帯端末装置とからなる拡張現実感システムにおいて、前記携帯端末装置に使用されるコンピュータによって制御される端末プログラムであって、前記端末プログラムは、前記撮像部で前記衣類に付されたコードを読取ることにより前記携帯端末装置によってサーバより取得可能となるものであり、前記端末プログラムを前記携帯端末装置が取得した場合において、前記コンピュータに、前記撮像部が前記キャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識する処理と、前記画像認識した前記デザインのそれぞれに対応付けて用意された演出用画像と、前記衣類を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して前記表示部に表示する処理と、を実行させる。 The terminal program according to the present invention includes a garment on which a specific character is printed or affixed, and at least an imaging unit and a display unit. In an augmented reality system having a mobile terminal device that generates an image and displays the image on the display unit, the terminal program is controlled by a computer used in the mobile terminal device, and the computer includes the imaging unit. A process for recognizing at least a part of a design of a video obtained by photographing the character, an effect image prepared in association with each of the designs recognized for the image, and a person wearing the clothing A process of generating an augmented reality image by combining the subject image and displaying it on the display unit is executed. Further, the terminal program of the present invention includes a garment on which a specific character is printed or affixed, at least an imaging unit and a display unit, and is based on at least a design of an image photographed by the imaging unit. In an augmented reality system including a mobile terminal device that generates an augmented reality image and displays the augmented reality image on the display unit, the terminal program is controlled by a computer used in the mobile terminal device, and the terminal program includes: When the portable terminal device acquires the terminal program by reading the code attached to the clothing by the imaging unit, and the portable terminal device acquires the terminal program, the imaging unit Processing for recognizing at least a part of the design of the video obtained by photographing the character; A process of generating an augmented reality image by synthesizing an effect image prepared in association with each of the recognized designs and a subject image of a person wearing the clothing and displaying the augmented reality image on the display unit And execute.

本発明の拡張現実感システムは、特定のキャラクタがプリントされ、または貼付された衣類と、少なくとも、撮像部と、表示部とを有し、前記撮像部が、前記キャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識し、前記画像認識した前記デザインのそれぞれに対応付けて用意された演出用画像と、前記衣類を身につけた人物の被写体像とを合成することにより拡張現実画像を生成し、前記表示部に表示する制御部、を備えた携帯端末装置と、を有する。また、本発明の拡張現実感システムは、拡張現実感システムであって、特定のキャラクタがプリントされ、または貼付された衣類と、少なくとも、撮像部と、表示部とを有し、前記撮像部が、前記キャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識し、前記画像認識した前記デザインのそれぞれに対応付けて用意された演出用画像と、前記衣類を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して前記表示部に表示する制御部、を備えた携帯端末装置と、を有し、前記拡張現実感システムは、前記携帯端末装置の前記撮像部で前記衣類に付されたコードを読取ると、前記携帯端末装置によってサーバより取得可能となる端末プログラムにより機能される。 The augmented reality system of the present invention includes a clothing on which a specific character is printed or affixed, at least an imaging unit, and a display unit, and the imaging unit captures the character. An augmented reality image by recognizing at least a part of the image and synthesizing a rendering image prepared in association with each of the image-recognized designs and a subject image of a person wearing the clothing And a portable terminal device including a control unit that generates and displays on the display unit. Further, the augmented reality system of the present invention is an augmented reality system, and includes a garment on which a specific character is printed or affixed, at least an imaging unit, and a display unit, and the imaging unit , Recognizing at least a part of a design of a video obtained by photographing the character, providing an effect image prepared in association with each of the recognized designs, and a subject of a person wearing the clothing And a portable terminal device including a control unit that generates an augmented reality image by combining the image and displays the augmented reality image on the display unit, and the augmented reality system includes the imaging unit of the portable terminal device. When the code attached to the garment is read, the mobile terminal device functions by a terminal program that can be acquired from a server.

本発明の衣類は、特定のキャラクタがプリントされ、または貼付された衣類であって、前記キャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識し、前記認識したデザインのそれぞれに対応付けて用意された演出用画像と、前記衣類を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して表示する携帯端末装置からなる拡張現実感システムに使用される。また、本発明の衣類は、特定のキャラクタがプリントされ、または貼付された衣類であって、前記衣類は、コードを有し、少なくとも撮像部と表示部とを有する携帯端末装置の前記撮像部で前記コードを読取ると、サーバより前記携帯端末装置によって拡張現実感システムを機能させる端末プログラムが取得可能となり、前記携帯端末装置が前記端末プログラムを取得した場合において、前記キャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識し、前記認識したデザインのそれぞれに対応付けて用意された演出用画像と、前記衣類を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して表示する携帯端末装置からなる拡張現実感システムに使用されることを特徴とする。 The garment of the present invention is a garment on which a specific character is printed or affixed, and recognizes at least a part of a design of an image obtained by photographing the character and corresponds to each of the recognized designs. It is used in an augmented reality system including a mobile terminal device that generates and displays an augmented reality image by synthesizing a presentation image prepared and a subject image of a person wearing the clothing. The clothing of the present invention is a clothing on which a specific character is printed or affixed, and the clothing has a code, and is at least the imaging unit of the mobile terminal device having an imaging unit and a display unit. When the code is read, a terminal program for causing the augmented reality system to function by the mobile terminal device can be acquired from the server, and when the mobile terminal device acquires the terminal program, an image obtained by photographing the character The image of at least a part of the image is recognized, and an augmented reality image is generated by synthesizing the effect image prepared in association with each of the recognized designs and the subject image of the person wearing the clothing The present invention is characterized in that it is used in an augmented reality system including a mobile terminal device that displays the information.

本発明の衣類は、特定のキャラクタがプリントされ、または貼付された衣類であって、前記プリント、または、貼付されたキャラクタは、前記衣類を身に付けた人物を撮影した携帯端末装置において、撮影された前記衣類を身に付けた人物の被写体像に含まれる前記キャラクタの画像から画像認識されるデザインを少なくとも一部に含んでおり、前記デザインは、前記携帯端末装置において対応する演出用画像が用意されており、かつ、当該演出用画像は、前記携帯端末装置において前記衣類を身につけた人物の被写体像と合成されることにより拡張現実画像の生成に利用される。また、本発明の衣類は、特定のキャラクタがプリントされ、または貼付された衣類であって、前記衣類は、コードを有し、前記コードは、少なくとも撮像部と表示部とを有する携帯端末装置の前記撮像部で前記コードを読取ると、サーバより前記携帯端末装置によって拡張現実感システムを機能させる端末プログラムが取得可能となり、前記携帯端末装置が前記端末プログラムを取得した場合において、前記プリント、または、貼付されたキャラクタは、前記衣類を身に付けた人物を撮影した携帯端末装置において、撮影された前記衣類を身に付けた人物の被写体像に含まれる前記キャラクタの画像から画像認識されるデザインを少なくとも一部に含んでおり、前記デザインは、前記携帯端末装置において対応する演出用画像が用意されており、かつ、当該演出用画像は、前記携帯端末装置において前記衣類を身につけた人物の被写体像と合成されることにより拡張現実画像の生成に利用されることを特徴とする。 The garment of the present invention is a garment on which a specific character is printed or affixed, and the printed or affixed character is photographed in a portable terminal device that photographs a person wearing the garment. At least partly includes a design that is image-recognized from the image of the character included in the subject image of the person wearing the clothing, and the design includes an effect image corresponding to the mobile terminal device. The effect image prepared is used for generating an augmented reality image by being combined with a subject image of a person wearing the clothing in the portable terminal device. The clothing of the present invention is a clothing on which a specific character is printed or affixed. The clothing has a code, and the code is a mobile terminal device having at least an imaging unit and a display unit. When the code is read by the imaging unit, a terminal program that causes the augmented reality system to function by the mobile terminal device can be acquired from a server, and when the mobile terminal device acquires the terminal program, the print, or The affixed character has a design that is image-recognized from the image of the character included in the photographed subject image of the person wearing the clothing in the mobile terminal device that photographed the person wearing the clothing. The design includes at least a part of the design image corresponding to the mobile terminal device. And, the effect for image, characterized in that it is used for generating the augmented reality image by the fact that the garment is combined with a subject image of a person wearing in the portable terminal device.

Claims (7)

少なくとも撮像部と、表示部と、を有し、
前記撮像部が、衣類にプリントされ、または貼付されたキャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識し、前記画像認識した前記デザインのそれぞれに対応付けて用意された演出用画像と、前記衣類を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して前記表示部に表示する制御部、
を備えることを特徴とする携帯端末装置。
Having at least an imaging unit and a display unit,
The imaging unit recognizes at least a part of a design of a video obtained by photographing a character printed or affixed to clothing, and is provided in association with each of the image-recognized designs. A control unit that generates an augmented reality image by combining an image and a subject image of a person wearing the clothing and displays the image on the display unit;
A portable terminal device comprising:
請求項1において、
前記制御部は、
前記被写体像の画像サイズに応じて前記演出用画像の画像サイズを変化させる携帯端末装置。
In claim 1,
The controller is
A portable terminal device that changes an image size of the effect image according to an image size of the subject image.
請求項1または請求項2において、
音声出力部を更に有し、
前記制御部は、
前記演出用画像が前記表示部に表示されると効果音を生成し、前記生成した効果音を前記音声出力部に出力する携帯端末装置。
In claim 1 or claim 2,
An audio output unit;
The controller is
A portable terminal device that generates a sound effect when the effect image is displayed on the display unit and outputs the generated sound effect to the sound output unit.
特定のキャラクタがプリントされ、または貼付された衣類と、少なくとも、撮像部と表示部とを有し、前記撮像部により撮影された映像の少なくとも一部のデザインから拡張現実画像を生成して前記表示部に表示する携帯端末装置とからなる拡張現実感システムにおいて、前記携帯端末装置に使用されるコンピュータによって制御される端末プログラムであって、
前記コンピュータに、
前記撮像部が前記キャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識する処理と、
前記画像認識した前記デザインのそれぞれに対応付けて用意された演出用画像と、前記衣類を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して前記表示部に表示する処理と、
を実行させる端末プログラム。
The display includes a garment on which a specific character is printed or affixed, at least an imaging unit and a display unit, and generates an augmented reality image from at least a part of the design of the video captured by the imaging unit. In an augmented reality system comprising a mobile terminal device to be displayed on a part, a terminal program controlled by a computer used for the mobile terminal device,
In the computer,
Processing for recognizing at least a part of the design of the video obtained by the imaging unit capturing the character;
A process of generating an augmented reality image by combining an image for presentation prepared in association with each of the recognized designs and a subject image of a person wearing the clothing and displaying the augmented reality image on the display unit When,
A terminal program that executes
特定のキャラクタがプリントされ、または貼付された衣類と、
少なくとも、撮像部と、表示部とを有し、前記撮像部が、前記キャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識し、前記画像認識した前記デザインのそれぞれに対応付けて用意された演出用画像と、前記衣類を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して前記表示部に表示する制御部、を備えた携帯端末装置と、
を有する拡張現実感システム。
Clothing with a specific character printed or affixed,
And at least an imaging unit and a display unit, wherein the imaging unit recognizes an image of at least a part of a video obtained by photographing the character, and associates the design with each of the recognized designs. A portable terminal device including a control unit that generates an augmented reality image by combining the prepared image for production and a subject image of a person wearing the clothing and displays the augmented reality image on the display unit;
Augmented reality system.
特定のキャラクタがプリントされ、または貼付された衣類であって、
前記キャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識し、前記認識したデザインのそれぞれに対応付けて用意された演出用画像と、前記衣類を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して表示する携帯端末装置からなる拡張現実感システムに使用される前記衣類。
A clothing with a specific character printed or affixed,
Recognizing at least a part of a design of an image obtained by photographing the character, an effect image prepared in association with each of the recognized designs, and a subject image of a person wearing the clothing The garment used in an augmented reality system including a mobile terminal device that generates and displays an augmented reality image by combining.
特定のキャラクタがプリントされ、または貼付された衣類であって、
前記プリント、または、貼付されたキャラクタは、前記衣類を身に付けた人物を撮影した携帯端末装置において、撮影された前記衣類を身に付けた人物の被写体像に含まれる前記キャラクタの画像から画像認識されるデザインを少なくとも一部に含んでおり、
前記デザインは、前記携帯端末装置において対応する演出用画像が用意されており、かつ、当該演出用画像は、前記携帯端末装置において前記衣類を身につけた人物の被写体像と合成されることにより拡張現実画像の生成に利用される前記衣類。
A clothing with a specific character printed or affixed,
The printed or affixed character is an image from the character image included in the photographed subject image of the person wearing the clothing in a mobile terminal device that photographs the person wearing the clothing. At least part of the recognized design,
The design is expanded by providing a production image corresponding to the portable terminal device, and the production image is combined with a subject image of a person wearing the clothing in the portable terminal device. The clothing used for generation of a real image.
JP2016167433A 2016-08-30 2016-08-30 Portable terminal device, terminal program, augmented reality system, and clothing Pending JP2017010578A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016167433A JP2017010578A (en) 2016-08-30 2016-08-30 Portable terminal device, terminal program, augmented reality system, and clothing

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016167433A JP2017010578A (en) 2016-08-30 2016-08-30 Portable terminal device, terminal program, augmented reality system, and clothing

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2012160019A Division JP6192264B2 (en) 2012-07-18 2012-07-18 Portable terminal device, terminal program, augmented reality system, and clothing

Publications (1)

Publication Number Publication Date
JP2017010578A true JP2017010578A (en) 2017-01-12

Family

ID=57761713

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016167433A Pending JP2017010578A (en) 2016-08-30 2016-08-30 Portable terminal device, terminal program, augmented reality system, and clothing

Country Status (1)

Country Link
JP (1) JP2017010578A (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190137026A (en) * 2019-09-23 2019-12-10 주식회사 경신 Two-way joint connector
KR20190137029A (en) * 2019-09-23 2019-12-10 주식회사 경신 Two-way joint connector
KR20190137028A (en) * 2019-09-23 2019-12-10 주식회사 경신 Two-way joint connector
KR20190137027A (en) * 2019-09-23 2019-12-10 주식회사 경신 Two-way joint connector
US11568608B2 (en) 2020-06-14 2023-01-31 Square Enix Co., Ltd. Augmented reality display device and program recording medium

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190137026A (en) * 2019-09-23 2019-12-10 주식회사 경신 Two-way joint connector
KR20190137029A (en) * 2019-09-23 2019-12-10 주식회사 경신 Two-way joint connector
KR20190137028A (en) * 2019-09-23 2019-12-10 주식회사 경신 Two-way joint connector
KR20190137027A (en) * 2019-09-23 2019-12-10 주식회사 경신 Two-way joint connector
KR102077016B1 (en) 2019-09-23 2020-02-13 주식회사 경신 Two-way joint connector
KR102077018B1 (en) 2019-09-23 2020-02-13 주식회사 경신 Two-way joint connector
KR102077017B1 (en) 2019-09-23 2020-02-13 주식회사 경신 Two-way joint connector
KR102077019B1 (en) 2019-09-23 2020-02-13 주식회사 경신 Two-way joint connector
US11568608B2 (en) 2020-06-14 2023-01-31 Square Enix Co., Ltd. Augmented reality display device and program recording medium

Similar Documents

Publication Publication Date Title
JP6192264B2 (en) Portable terminal device, terminal program, augmented reality system, and clothing
JP5551205B2 (en) Portable terminal device, terminal program, augmented reality system, and toy
JP7098120B2 (en) Image processing method, device and storage medium
EP3913902B1 (en) Electronic device and method of providing user interface for emoji editing while interworking with camera function by using said electronic device
JP2017010578A (en) Portable terminal device, terminal program, augmented reality system, and clothing
TW201136300A (en) Terminal and method for providing augmented reality
US20230298240A1 (en) Control program for terminal device, terminal device, control method for terminal device, control program for server device, server device, and control method for server device
CN114995924A (en) Information display processing method, device, terminal and storage medium
JP5583741B2 (en) Portable terminal device, terminal program, and toy
CN112783316A (en) Augmented reality-based control method and apparatus, electronic device, and storage medium
CN108920113A (en) Video frame images Method of printing, device and computer readable storage medium
JP5519751B2 (en) Image viewing system, image viewing method, image viewing server, and terminal device
JP2014211879A (en) Portable terminal device, terminal program, augmented reality system, and toy
CN114862504A (en) Information display method, device, terminal and medium
JP6955541B2 (en) Game system, game method and program
US12265747B2 (en) Method and medium for multiple users participating in a communication service to watch a same distribution image
JP2006227838A (en) Image processor and image processing program
JP5468152B1 (en) Portable terminal device, program, seal, and capsule product including seal
JP2014220000A (en) Portable terminal, terminal program and toy
CN117008789A (en) Interface display method, device, equipment and media
HK1192031A (en) Mobile terminal device, control method, augmented reality system, and clothing
JP2013050955A (en) Image appreciation system, image appreciation method, image appreciation server, and console unit
JP2009122903A (en) Image appreciation system and image appreciation method
JP2006313433A (en) Electronic equipment
KR20060082984A (en) How to create a 3D avatar