JP7570711B2 - 仮想室内空間コンテンツ提供方法およびそのためのサーバー - Google Patents
仮想室内空間コンテンツ提供方法およびそのためのサーバー Download PDFInfo
- Publication number
- JP7570711B2 JP7570711B2 JP2022545060A JP2022545060A JP7570711B2 JP 7570711 B2 JP7570711 B2 JP 7570711B2 JP 2022545060 A JP2022545060 A JP 2022545060A JP 2022545060 A JP2022545060 A JP 2022545060A JP 7570711 B2 JP7570711 B2 JP 7570711B2
- Authority
- JP
- Japan
- Prior art keywords
- virtual
- point
- indoor space
- information
- mobile terminal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01P—MEASURING LINEAR OR ANGULAR SPEED, ACCELERATION, DECELERATION, OR SHOCK; INDICATING PRESENCE, ABSENCE, OR DIRECTION, OF MOVEMENT
- G01P15/00—Measuring acceleration; Measuring deceleration; Measuring shock, i.e. sudden change of acceleration
- G01P15/02—Measuring acceleration; Measuring deceleration; Measuring shock, i.e. sudden change of acceleration by making use of inertia forces using solid seismic masses
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/60—Editing figures and text; Combining figures or text
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/24—Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Business, Economics & Management (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Tourism & Hospitality (AREA)
- Computing Systems (AREA)
- Medical Informatics (AREA)
- Evolutionary Computation (AREA)
- Databases & Information Systems (AREA)
- Artificial Intelligence (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Human Resources & Organizations (AREA)
- Marketing (AREA)
- Economics (AREA)
- General Business, Economics & Management (AREA)
- Strategic Management (AREA)
- Primary Health Care (AREA)
- Processing Or Creating Images (AREA)
- Information Transfer Between Computers (AREA)
- Telephone Function (AREA)
Description
Claims (11)
- 実際の室内空間に対応する仮想室内空間コンテンツを提供するサーバーであって、
メモリ;
通信モジュール;および
前記メモリおよび前記通信モジュールと作動的に(operatively)連結される少なくとも一つのプロセッサを含み、
前記少なくとも一つのプロセッサは、
前記通信モジュールを通じて、モバイル端末から、前記仮想室内空間コンテンツの生成のための映像データ-前記映像データは、複数の室内地点それぞれに対して、それぞれの室内地点で獲得した全方位イメージおよび当該室内地点に対する相対的位置情報を含む-を受信し、前記相対的位置情報に基づいて前記複数の室内地点に対応する複数の仮想地点を仮想室内空間上にマッピングして前記仮想室内空間コンテンツを生成し、
更に、前記モバイル端末は、慣性測定センサを備え、それによって慣性センシングデータを測定し、
前記プロセッサは、前記モバイル端末の移動方向と移動距離のうち少なくとも一つを含む視覚的移動情報を生成し、また、前記慣性センシングデータを用いて、前記モバイル端末の移動方向と移動距離のうち少なくとも一つを含む慣性的移動情報を生成し、その慣性的移動情報に基づいて前記視覚的移動情報を検証することによって前記相対的位置情報の精度を上げ、
前記少なくとも一つのプロセッサは、
前記映像データに含まれた、開始地点に対する開始地点情報、前記開始地点以後の第1地点に対する第1地点情報および前記第1地点に対する第1相対的位置情報を確認し、
前記実際の室内空間に対応する平面情報で、前記開始地点に対応する仮想開始地点をマッピングし、前記仮想開始地点に対して前記第1相対的位置情報を適用して前記第1地点に対応する第1仮想地点をマッピングする
ことを特徴とするサーバー。 - 前記少なくとも一つのプロセッサは、
前記映像データに含まれた、前記第1地点以後の第2地点に対する第2地点情報および前記第2地点に対する第2相対的位置情報をさらに確認し、
前記実際の室内空間に対応する平面情報で、前記第1仮想地点に対して前記第2相対的位置情報を適用して前記第2地点に対応する第2仮想地点をマッピングする
請求項1に記載のサーバー。 - 前記全方位イメージは、
互いに異なる角度を基準として撮像された複数の部分イメージを含み、
前記少なくとも一つのプロセッサは、
前記複数の部分イメージで互いに共通する特徴を基準として前記複数の部分イメージを整合して全方位で確認加能な全方位仮想イメージを生成する
請求項1に記載のサーバー。 - 前記少なくとも一つのプロセッサは、
前記全方位仮想イメージを、当該全方位イメージが獲得された室内地点に対応する仮想地点に関連させて保存する
請求項3に記載のサーバー。 - 前記少なくとも一つのプロセッサは、
前記通信モジュールを通じて、使用者端末に前記実際の室内空間に対応する仮想室内空間コンテンツに対する平面情報を提供するものの、
前記平面情報は、
前記複数の室内地点それぞれにマッピングされる複数の仮想地点を含む
請求項3に記載のサーバー。 - 前記少なくとも一つのプロセッサは、
前記通信モジュールを通じて、使用者端末から、前記複数の仮想地点のうちいずれか一つに対する要請を受信すると、当該仮想地点に関連した前記全方位仮想イメージを前記使用者端末に提供する
請求項5に記載のサーバー。 - 実際の室内空間に対応する仮想室内空間コンテンツをサービスするサーバーで遂行される仮想室内空間コンテンツ提供方法であって、
モバイル端末から、実際の室内空間に対応する仮想室内空間コンテンツ生成のための映像データ-前記映像データは、複数の室内地点それぞれに対して、それぞれの室内地点で獲得した全方位イメージおよび当該室内地点に対する相対的位置情報を含む-を受信する段階;および
前記相対的位置情報に基づいて前記複数の室内地点に対応する複数の仮想地点を仮想室内空間上にマッピングして前記仮想室内空間コンテンツを生成する段階;を含み、
更に、前記モバイル端末は、慣性測定センサを備え、それによって慣性センシングデータを測定し、
前記モバイル端末の移動方向と移動距離のうち少なくとも一つを含む視覚的移動情報を生成し、また、前記慣性センシングデータを用いて、前記モバイル端末の移動方向と移動距離のうち少なくとも一つを含む慣性的移動情報を生成し、その慣性的移動情報に基づいて前記視覚的移動情報を検証することによって前記相対的位置情報の精度を上げ、
前記仮想室内空間コンテンツを生成する段階は、
前記映像データに含まれた、開始地点に対する開始地点情報、前記開始地点以後の第1地点に対する第1地点情報および前記第1地点に対する第1相対的位置情報を確認する段階;および、
前記実際の室内空間に対応する平面情報で、前記開始地点に対応する仮想開始地点をマッピングし、前記仮想開始地点に対して前記第1相対的位置情報を適用して前記第1地点に対応する第1仮想地点をマッピングする段階;を含む
ことを特徴とする仮想室内空間コンテンツ提供方法。 - 前記仮想室内空間コンテンツを生成する段階は、
前記映像データに含まれた、前記第1地点以後の第2地点に対する第2地点情報および前記第2地点に対する第2相対的位置情報をさらに確認する段階;および
前記実際の室内空間に対応する平面情報で、前記第1仮想地点に対して前記第2相対的位置情報を適用して前記第2地点に対応する第2仮想地点をマッピングする段階;をさらに含む
請求項7に記載の仮想室内空間コンテンツ提供方法。 - 前記全方位イメージは、
互いに異なる角度を基準として撮像された複数の部分イメージを含み、
前記仮想室内空間コンテンツを生成する段階は、
前記複数の部分イメージで互いに共通する特徴を基準として前記複数の部分イメージを整合して全方位で確認加能な全方位仮想イメージを生成する段階;および
前記全方位仮想イメージを、当該全方位イメージが獲得された室内地点に対応する仮想地点に関連させて保存する段階;を含む
請求項7に記載の仮想室内空間コンテンツ提供方法。 - 前記仮想室内空間コンテンツ提供方法は、
通信モジュールを通じて、使用者端末に前記実際の室内空間に対応する仮想室内空間コンテンツに対する平面情報-前記平面情報は、前記複数の室内地点それぞれにマッピングされる複数の仮想地点を含む-を提供する段階;および
使用者端末から、前記複数の仮想地点のうちいずれか一つに対する要請を受信すると、当該仮想地点に関連した全方位仮想イメージを前記使用者端末に提供する段階;を含む
請求項7に記載の仮想室内空間コンテンツ提供方法。 - コンピュータ読み取り可能なインストラクション(instructions)を保存している保存媒体において、
前記インストラクションは、サーバーによって実行される時、前記サーバーに、
モバイル端末から、実際の室内空間に対応する仮想室内空間コンテンツ生成のための映像データ-前記映像データは、複数の室内地点それぞれに対して、それぞれの室内地点で獲得した全方位イメージおよび当該室内地点に対する相対的位置情報を含む-を受信する動作;および
前記相対的位置情報に基づいて前記複数の室内地点に対応する複数の仮想地点を仮想室内空間上にマッピングして前記仮想室内空間コンテンツを生成する動作;を遂行するようにし、
更に、前記モバイル端末は、慣性測定センサを備え、それによって慣性センシングデータを測定し、
前記モバイル端末の移動方向と移動距離のうち少なくとも一つを含む視覚的移動情報を生成し、また、前記慣性センシングデータを用いて、前記モバイル端末の移動方向と移動距離のうち少なくとも一つを含む慣性的移動情報を生成し、その慣性的移動情報に基づいて前記視覚的移動情報を検証することによって前記相対的位置情報の精度を上げ、
前記仮想室内空間コンテンツを生成する動作は、
前記映像データに含まれた、開始地点に対する開始地点情報、前記開始地点以後の第1地点に対する第1地点情報および前記第1地点に対する第1相対的位置情報を確認する動作;および、
前記実際の室内空間に対応する平面情報で、前記開始地点に対応する仮想開始地点をマッピングし、前記仮想開始地点に対して前記第1相対的位置情報を適用して前記第1地点に対応する第1仮想地点をマッピングする動作;を含む
ことを特徴とする保存媒体。
Applications Claiming Priority (5)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020210070117A KR102575503B1 (ko) | 2021-05-31 | 2021-05-31 | 가상 실내공간 컨텐츠 생성을 위한 모바일 단말 및 그 모바일 단말의 제어 방법 |
| KR1020210070118A KR102600421B1 (ko) | 2021-05-31 | 2021-05-31 | 가상 실내공간 컨텐츠 제공 방법 및 그를 위한 서버 |
| KR10-2021-0070117 | 2021-05-31 | ||
| KR10-2021-0070118 | 2021-05-31 | ||
| PCT/KR2021/012651 WO2022255546A1 (ko) | 2021-05-31 | 2021-09-16 | 가상 실내공간 컨텐츠 제공 방법 및 그를 위한 서버 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2023532831A JP2023532831A (ja) | 2023-08-01 |
| JP7570711B2 true JP7570711B2 (ja) | 2024-10-22 |
Family
ID=84194201
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2022545060A Active JP7570711B2 (ja) | 2021-05-31 | 2021-09-16 | 仮想室内空間コンテンツ提供方法およびそのためのサーバー |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US12266032B2 (ja) |
| EP (1) | EP4138042A4 (ja) |
| JP (1) | JP7570711B2 (ja) |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2010136303A (ja) | 2008-12-08 | 2010-06-17 | Sony Corp | 撮像装置、撮像方法、およびプログラム |
| JP2021072627A (ja) | 2019-09-03 | 2021-05-06 | 3アイ インコーポレイテッド | 3dツアーの比較表示システム及び方法 |
Family Cites Families (16)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US7126630B1 (en) | 2001-02-09 | 2006-10-24 | Kujin Lee | Method and apparatus for omni-directional image and 3-dimensional data acquisition with data annotation and dynamic range extension method |
| CN1531826A (zh) | 2001-02-09 | 2004-09-22 | 带有数据注释的全向图像和3维数据获取的方法和装置以及动态范围扩展方法 | |
| WO2007030026A1 (en) * | 2005-09-09 | 2007-03-15 | Industrial Research Limited | A 3d scene scanner and a position and orientation system |
| KR100757751B1 (ko) | 2006-06-01 | 2007-09-11 | 한국과학기술연구원 | 실내 환경의 환경맵 생성 장치 및 방법 |
| JP5915996B2 (ja) * | 2012-06-20 | 2016-05-11 | 清水建設株式会社 | 合成画像表示システム及びその方法 |
| KR101212231B1 (ko) * | 2012-07-13 | 2012-12-13 | 송헌주 | 이동 자유도를 개선한 융합형 가상현실 구현 방법 |
| DE102013110581B4 (de) * | 2013-09-24 | 2018-10-11 | Faro Technologies, Inc. | Verfahren zum optischen Abtasten und Vermessen einer Umgebung und Vorrichtung hierzu |
| US9392212B1 (en) * | 2014-04-17 | 2016-07-12 | Visionary Vr, Inc. | System and method for presenting virtual reality content to a user |
| KR101583286B1 (ko) | 2014-05-16 | 2016-01-07 | 네이버 주식회사 | 공간 정보를 제공하기 위한 증강 현실 제공 방법과 시스템, 그리고 기록 매체 및 파일 배포 시스템 |
| EP3333538B1 (en) * | 2016-12-07 | 2020-09-09 | Hexagon Technology Center GmbH | Scanner vis |
| JP2018151997A (ja) * | 2017-03-14 | 2018-09-27 | 株式会社日の丸リムジン | 拡張現実感景観表示システム |
| JP6939195B2 (ja) * | 2017-07-27 | 2021-09-22 | 株式会社大林組 | 検査処理システム、検査処理方法及び検査処理プログラム |
| KR102559011B1 (ko) * | 2017-12-06 | 2023-07-24 | 주식회사 케이티 | 가상 현실 체험 서비스를 제공하는 방법, 단말 및 서버 |
| US10902172B2 (en) | 2018-08-13 | 2021-01-26 | Faro Technologies, Inc. | System and method of automatic re-localization and automatic alignment of existing non-digital floor plans |
| US10809066B2 (en) * | 2018-10-11 | 2020-10-20 | Zillow Group, Inc. | Automated mapping information generation from inter-connected images |
| WO2020113273A1 (en) | 2018-12-04 | 2020-06-11 | Startinno Ventures Pty Ltd | Mixed reality visualisation system |
-
2021
- 2021-09-16 JP JP2022545060A patent/JP7570711B2/ja active Active
- 2021-09-16 EP EP21939982.1A patent/EP4138042A4/en not_active Withdrawn
-
2022
- 2022-08-01 US US17/878,180 patent/US12266032B2/en active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2010136303A (ja) | 2008-12-08 | 2010-06-17 | Sony Corp | 撮像装置、撮像方法、およびプログラム |
| JP2021072627A (ja) | 2019-09-03 | 2021-05-06 | 3アイ インコーポレイテッド | 3dツアーの比較表示システム及び方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2023532831A (ja) | 2023-08-01 |
| US20220383557A1 (en) | 2022-12-01 |
| EP4138042A1 (en) | 2023-02-22 |
| US12266032B2 (en) | 2025-04-01 |
| EP4138042A4 (en) | 2024-06-05 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR102665643B1 (ko) | 아바타 표시를 제어하기 위한 방법 및 그 전자 장치 | |
| US20170337743A1 (en) | System and method for referencing a displaying device relative to a surveying instrument | |
| KR102079097B1 (ko) | 투명 디스플레이를 이용한 증강현실 구현 장치 및 그 방법 | |
| CN108389264B (zh) | 坐标系统确定方法、装置、存储介质及电子设备 | |
| US20120026088A1 (en) | Handheld device with projected user interface and interactive image | |
| US10319141B2 (en) | Method and system for vision based 3D reconstruction and object tracking | |
| JP6476657B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
| US20130176337A1 (en) | Device and Method For Information Processing | |
| US8838381B1 (en) | Automatic video generation for navigation and object finding | |
| KR20150082358A (ko) | 기준 좌표계 결정 | |
| CN104662435A (zh) | 确定与用于捕获至少一个图像的捕获装置关联的装置的位置和方向的方法 | |
| JP2002259992A (ja) | 画像処理装置およびその方法並びにプログラムコード、記憶媒体 | |
| CN111742281B (zh) | 用于针对显示在显示器上的第一内容提供根据外部对象的移动的第二内容的电子装置及其操作方法 | |
| JP2009278456A (ja) | 映像表示装置 | |
| CN113474819A (zh) | 信息处理装置、信息处理方法和程序 | |
| KR20230155413A (ko) | 가상 실내공간 컨텐츠 제공 방법 및 그를 위한 서버 | |
| KR102337209B1 (ko) | 주변 상황 정보를 통지하기 위한 방법, 전자 장치 및 저장 매체 | |
| CN114092655A (zh) | 构建地图的方法、装置、设备及存储介质 | |
| CN113628284A (zh) | 位姿标定数据集生成方法、装置、系统、电子设备及介质 | |
| KR101914660B1 (ko) | 자이로 센서를 기반으로 증강현실 컨텐츠의 표시를 제어하는 방법 및 그 장치 | |
| CN111896015A (zh) | 导航方法、装置、存储介质及电子设备 | |
| JP2015233240A (ja) | 表示処理装置、表示処理方法、及びプログラム | |
| JP7570711B2 (ja) | 仮想室内空間コンテンツ提供方法およびそのためのサーバー | |
| CN117321634A (zh) | 立体深度弯曲校正 | |
| KR102701606B1 (ko) | Ar hud를 이용하여 운전자의 주행을 돕는 방법 및 장치 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220728 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230919 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231219 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240312 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240612 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240924 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20241002 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7570711 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |