[go: up one dir, main page]

KR101303166B1 - 이동 단말기 및 그의 사진 검색방법 - Google Patents

이동 단말기 및 그의 사진 검색방법 Download PDF

Info

Publication number
KR101303166B1
KR101303166B1 KR1020120007753A KR20120007753A KR101303166B1 KR 101303166 B1 KR101303166 B1 KR 101303166B1 KR 1020120007753 A KR1020120007753 A KR 1020120007753A KR 20120007753 A KR20120007753 A KR 20120007753A KR 101303166 B1 KR101303166 B1 KR 101303166B1
Authority
KR
South Korea
Prior art keywords
picture
information
location
displayed
camera view
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
KR1020120007753A
Other languages
English (en)
Inventor
김연구
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to KR1020120007753A priority Critical patent/KR101303166B1/ko
Priority to US13/750,428 priority patent/US9043318B2/en
Application granted granted Critical
Publication of KR101303166B1 publication Critical patent/KR101303166B1/ko
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/53Querying
    • G06F16/532Query formulation, e.g. graphical querying
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/587Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using geographical or spatial information, e.g. location
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B1/00Details of transmission systems, not covered by a single one of groups H04B3/00 - H04B13/00; Details of transmission systems not characterised by the medium used for transmission
    • H04B1/38Transceivers, i.e. devices in which transmitter and receiver form a structural unit and in which at least one part is used for functions of transmitting and receiving
    • H04B1/40Circuits
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/02Services making use of location information

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Library & Information Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Mathematical Physics (AREA)
  • Telephone Function (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

본 발명은 증강현실을 이용하여 카메라 뷰상에 특정 위치에 관련되어 클라우딩 시스템 및 SNS시스템에 공유된 사진을 검색하여 표시할 수 있는 이동 단말기 및 그의 사진 검색방법에 관한 것이다 이를 이하여 본 발명은 증강현실 기반의 카메라 뷰상에서 사진검색 기능이 선택되면 카메라 뷰의 포커스가 맞춰지는 적어도 하나 이상의 위치에 관련된 사진정보를 네트워크 시스템으로부터 검색하여, 상기 검색ㄷ괸 사진정보를 DB소스별로 카메라 뷰상의 각 위치에 표시한다.

Description

이동 단말기 및 그의 사진 검색방법{MOBILE TERMINAL AND PHOTO SEARCHING METHOD THEREOF}
본 발명은 증강현실 기반의 카메라 뷰상의 위치에 관련된 사진을 클라우드 및/또는 SNS시스템으로부터 검색하여 표시할 수 있도록 한 이동 단말기 및 그의 사진 검색방법에 관한 것이다.
이동 단말기는 다양한 기능을 수행할 수 있도록 구성될 수 있다. 그러한 다양한 기능들의 예로 데이터 및 음성 통신 기능, 카메라를 통해 사진이나 동영상을 촬영하는 기능, 음성 저장 기능, 스피커 시스템을 통한 음악 파일의 재생 기능, 이미지나 비디오의 디스플레이 기능 등이 있다. 일부 이동 단말기는 게임을 실행할 수 있는 추가적 기능을 포함하고, 다른 일부 이동 단말기는 멀티미디어 기기로서 구현되기도 한다. 더욱이 최근의 이동단말기는 방송이나 멀티캐스트(multicast) 신호를 수신하여 비디오나 텔레비전 프로그램을 시청할 수 있다.
또한, 상기 이동 단말기의 기능 지지 및 증대를 위한 노력들이 계속되고 있다. 상술한 노력은 이동 단말기를 형성하는 구조적인 구성요소의 변화 및 개량뿐만 아니라 소프트웨어나 하드웨어의 개량도 포함한다. 그 중에서 이동 단말기의 터치 기능은 터치 스크린을 이용하여 버튼/키 입력이 익숙하지 않은 사용자도 편리하게 단말기의 동작을 수행할 수 있도록 한 것으로서, 최근에는 단순한 입력뿐만 아니라 사용자 인터페이스(UI)와 함께 단말기의 중요한 기능으로서 자리 잡아가고 있다. 따라서, 상기 터치 기능이 이동단말기에 더욱 다양한 형태로 적용됨에 따라 그에 맞는 사용자 인터페이스(UI)의 개발이 더욱 요구되고 있다.
최근 디스플레이 기술의 발달에 따라 이동 단말기는 2차원 영상의 표시 수준을 넘어 깊이 지각(depth perception) 내지 입체시(stereovision)를 가능하게 하는 3차원(3D) 입체 영상을 표시할 수 있도록 진화하고 있으며 그에 관련된 제품들도 다양하게 출시되고 있다. 따라서 사용자는 3차원 입체 영상을 통하여 보다 실감나는 사용자 인터페이스 또는 컨텐츠를 이용할 수 있게 되었다.
증강현실(Augmented Reality : AR)은 사용자가 눈으로 보는 실제 환경에 가상 사물을 합성하여 보여주는 그래픽 기법으로, 기본적으로 현실세계를 바탕으로 그 위에 가상정보를 입히는 기술이다.
따라서, 상기 증강현실 기술에 대한 연구가 시작된 이래 다양한 분야에서 상기 증강현실을 응용하려는 연구가 이어져 오고 있다. 최근에는 스마트 폰의 개발로 인하여 증강현실을 이용한 다양한 어플리케이션이 개발되고 있으며, 이동 단말기, PDA(Personal digital Assiants), UMPS(Ultra Mobile Personal Computer)등 모바일 기기의 컴퓨팅 능력 향상과 무선 네트워크장치의 발달로 손안(Handheld)의 증강형실 시스템이 가능하게 되었다.
상기 증강현실을 이용한 응용의 예로는 위치정보를 이용하여 사용자에게 주변 지역(위치)의 건물 정보등을 제공하는 서비스가 있으며, 영상인식 기술 및 QR코드등을 활용해 검색, 모바일, 쇼핑, 광고 및 사물도감 등을 제공하는 영상검색 및 위치정보 서비스등과 같은 서비스가 있다.
한편 트위터와 페이스북같은 SNS(Socila Network Service)와 가상서버를 통한 클라우드 컴퓨팅환경을 제공하는 클라우드(Cloud) 시스템이 정착되면서 많은 사람들이 자신의 사진을 이동 단말기에 저장할 뿐만 아니라 상기 클라우드 시스템, 블로그 및 SNS를 통해 저장하여 다른 사람에게 보여주거나 괸리하고 있다. 따라서, 상기 상기 클라우드 시스템, 블로그 및 SNS의 특정 저장영역에는 시간의 흐름에 따라 촬영된 사진(예를들면 태어날 때부터 성장기까지) 또는 여행 및 이벤트등에 대한 다양한 사진들이 저장될 것이다.
그런데, 일정 시간이 흐른 후에 사용자가 동일한 장소(e.g., 관공지, 이벤트장소, 식당 및 기타)에 갔을 때 그 곳에 대한 추억이 그리울 때가 있다. 만약 이동 단말기의 카메라 뷰를 통해 해당 장소와 관련되어 이전에 저장된 사진들을 검색하여 볼 수 있다면 추억을 되새기는데 많은 도움이 될 것이다. 하지만, 이러한 기능은 아직 이동 단말기에서 제공하고 있지 않기 때문에 사용자가 일일이 이전에 저장한 사진중에서 해당 장소와 관련된 사진들을 찾아야 하는 어려움이 있었다.
따라서 본 발명의 목적은 증강현실 및 클라우드 기술을 이용하여 SNS 또는 클라우드 시스템에 공유된(저장된) 사진 및 사진의 위치정보를 검색 및 정렬하여 표시할 수 있는 이동 단말기 및 그의 사진 검색방법을 제공하는데 있다.
본 발명의 다른 목적은 증강현실 및 클라우드 기술을 이용하여 검색된 사진과 동일한 장소 및 구도로 사진을 촬영할 수 있도록 하는 이동 단말기 및 그의 사진 검색방법을 제공하는데 있다.
상기와 같은 목적을 달성하기 위하여 본 발명의 실시예에 따른 이동 단말기의 사진 검색방법은, 증강현실 기반의 카메라 뷰를 표시하는 단계; 카메라 뷰의 포커스가 맞춰지는 적어도 하나 이상의 위치에 관련된 사진정보를 네트워크 시스템으로부터 검색하는 단계; 및 상기 검색된 사진정보를 저장 소스별로 카메라 뷰상의 각 위치에 표시하는 단계;를 포함한다.
상기 적어도 하나 이상의 위치는 관광지. 특정 건물, 산, 바다 및 고향 및 기타 장소를 포함한다.
상기 사진정보는 사진 및 위치정보를 포함하며, 상기 사진은 소정의 근접거리이내의 위치에서 촬영된 사진들로 상기 위치정보와 별도의 영역에 표시된다.
상기 네트워크 시스템은 클라우딩 시스템 및 SNS시스템을 포함한다.
상기 사진정보는 시간별 또는 거리별로 정렬되어 표시된다.
상기 사진정보는 사용자 이동에 의해 카메라 뷰상에 새로운 위치가 진입하거나 사용자가 검색범위를 변경하면 상기 네트워크 시스템으로부터 검색된 새로운 사진정보로 갱신된다.
상기 네트워크 시스템에서 특정 사진이 삭제되면 상기 표시되는 정보중에서 해당 사진에 관련된 정보는 삭제된다.
상기 검색 단계는 사진검색 기능이 선택되면 사용자의 현재 위치를 확인하는 단계; 기 저장된 검색설정을 리드하는 단계; 상기 리드된 검색설정에 따라 검색범위를 중심으로 클라우드 및 SNS시스템의 DB소스에 공유되어 있는 컨텐츠 표시범위내의 사진을 검색하는 단계; 및 상기 검색된 사진들을 정렬 방법 및 근접 거리에 따라 정렬하는 단계를 포함한다.
상기 검색설정은 사용자의 현재 위치로부터 사진을 검색할 거리를 나타내는 검색범위; 검색할 사진의 종류를 나타내는 컨텐츠 표시범위; 사진을 검색할 서비스 공급업체를 나타내는 DB소스; 검색된 사진을 시간 또는 거리별로 정렬하기 위한 정렬방법; 및 카메라뷰의 일측 영역에 표시될 근접거리를 나타내는 근접거리 범위를 포함한다.
상기 이동 단말기의 사진검색방법은, 표시된 사진정보를 선택하면 해당 위치에서 촬영된 사진을 표시하는 단계; 상기 표시된 사진에 대한 검색기능이 선택돼면 해당 위치에 관련된 정보를 검색하여 화면에 표시하는 단계; 및 상기 표시된 정보를 네트워크 시스템으로 전송하는 단계;를 더 포함한다.
상기 해당 위치에 관련된 정보는 각종 블로그, 트위터, 신문 및 방송에서 검색하고, 상기 검색된 정보는 사용자의 선택에 따라 클라우드, SNS, 블로그 또는 이메일로 전송된다.
상기 이동 단말기의 사진검색방법은, 상기 검색된 사진정보가 표시된 상태에서 추적기능이 선택되면 사진이 촬영된 위치들의 리스트를 표시하는 단계; 상기 리스트중에서 특정 위치가 선택되면 가장 가까운 위치에서 다음 위치까지의 경로를 각각 화살표로 표시하는 단계; 및 상기 화살표중에서 특정 화살표가 선택되면 해당 위치로 이동 가능한 가장 빠른 길을 표시하는 단계;를 더 포함한다.
상기 이동 단말기의 사진검색방법은, 상기 선택된 위치로 이동중에 동일장소 검색기능이 선택되면 사용자의 위치와 사진의 위치를 비교하는 단계; 상기 두 위치가 동일하지 않으면 이동방향을 표시하고, 두 위치가 동일하면 사용자의 모드설정에 따라 카메라 뷰상의 구도와 해당 위치에서 촬영된 사진의 구도를 맞추기 위한 정보를 표시하는 단계; 및 상기 정보를 근거로 사용자가 이동하거나 줌기능을 선택하여 두 구도가 일치하게 되면 해당 위치에 대한 사진촬영을 수행하는 단계를 더 포함한다.
상기 사용자의 모드설정은 기존 사진의 외곽선을 카메라 뷰에 중첩시켜 표시하는 외곽선 엣지모드와, 상기 카메라 뷰의 구도와 이전 사진의 구도간의 동기율을 나타내는 동기율모드중의 하나이며, 상기 정보는 와곽선 또는 동기율이다.
상기와 같은 목적을 달성하기 위하여 본 발명의 실시예에 따른 이동 단말기는, 증강현실 기반의 카메라 뷰를 표시하는 디스플레이부; 사용자의 검색설정을 저정하는 메모리; 및 카메라 뷰의 포커스가 맞춰지는 적어도 하나 이상의 위치에 관련된 사진정보를 검색설정에 따라 네트워크 시스템으로부터 검색하여, 해당 사진정보를 DB소스별로 카메라 뷰상의 각 위치에 표시하는 제어부;를 포함한다.
상기 적어도 하나 이상의 위치는 관광지. 특정 건물, 산, 바다, 고향 및 기타 장소를 포함한다.
상기 검색설정은 사용자의 현재 위치로부터 사진을 검색할 거리를 나타내는 검색범위; 검색할 사진의 종류를 나타내는 컨텐츠 표시범위; 사진을 검색할 서비스 공급업체를 나타내는 DB소스; 검색된 사진을 시간 또는 거리별로 정렬하기 위한 정렬방법; 및 카메라뷰의 일측 영역에 표시될 근접거리를 나타내는 근접거리범위를 포함한다.
상기 사진정보는 사진 및 위치정보를 포함하며, 상기 사진은 소정의 근접거리이내의 위치에서 촬영된 사진들로 상기 위치정보와 별도의 영역에 표시된다.
상기 네트워크 시스템은 클라우딩 시스템 및 SNS시스템을 포함한다.
상기 제어부는 시간별 또는 거리별로 정렬하여 사진정보를 표시한다.
상기 제어부는 카메라 뷰에 새로운 위치가 진입하거나 사용자가 검색범위를 변경하면 상기 네트워크 시스템으로부터 검색된 새로운 사진정보로 상기 사진정보를 갱신한다.
상기 제어부는 네트워크 시스템에서 특정 사진이 삭제되면 상기 네트워크 시스템의 갱신정보에 따라 해당 사진에 관련된 정보를 삭제한다.
상기 제어부는 사진검색 기능이 선택되면 사용자의 현재 위치를 확인한 후 기 저장된 검색설정을 리드하고, 상기 리드된 검색설정에 따라 현 위치에서 검색범위를 중심으로 클라우드 및 SNS시스템의 DB소스에 공유되어 있는 컨텐츠 표시범위내의 사진을 검색하여, 상기 검색된 사진의 위치정보를 시간 또는 거리에 따라 정렬하여 표시한다.
상기 제어부는 특정 사진정보가 선택되면 해당 위치에서 촬영된 사진을 표시하고, 상기 표시된 사진에 대한 검색기능이 선택돼면 해당 위치에 관련된 정보를 검색하여 화면에 표시하며, 사용자 선택에 따라 상기 표시된 정보를 네트워크 시스템으로 전송한다.
상기 제어부는 검색된 사진정보가 표시된 상태에서 추적기능이 선택되면 사진이 촬영된 위치들의 리스트를 표시하고, 상기 리스트중에서 특정 위치가 선택되면 가장 가까운 위치에서 다음 위치까지의 경로를 각각 화살표로 표시하며, 상기 화살표중에서 특정 화살표가 선택되면 해당 위치로 이동 가능한 가장 빠른 길을 표시한다.
상기 제어부는 선택된 위치로 이동중에 동일장소 검색기능이 선택되면 사용자의 위치와 사진의 위치를 비교하고, 상기 두 위치가 동일하지 않으면 이동방향을 표시하고, 두 위치가 동일하면 사용자의 모드설정에 따라 카메라 뷰상의 구도와 해당 위치에서 촬영된 사진의 구도를 맞추기 위한 정보를 표시하며, 상기 정보를 근거로 사용자가 이동하거나 줌기능을 선택하여 두 구도가 일치하게 되면 해당 위치에 대한 사진촬영을 수행한다.
상기 사용자의 모드설정은 기존 사진의 외곽선을 카메라 뷰에 중첩시켜 표시하는 외곽선 엣지모드와, 상기 카메라 뷰의 구도와 이전 사진의 구도간의 동기율을 나타내는 동기율모드중의 하나이며, 상기 정보는 와곽선 또는 동기율이다.
본 발명은 본 발명은 증강현실을 이용하여 카메라 뷰상에 특정 위치에 관련되어 클라우딩 시스템 및 SNS시스템에 공유된 사진정보를 검색하여 표시함으로써 사용자에게 특정 위치에 대한 추억을 되새길 수 있고, 해당 사진의 위치에 대한 각종 정보에 대한 검색 및 이전에 촬영한 위치와 동일한 위치에서 촬영할 수 있는 기능을 제공함으로써 사요자에게 편리함을 제공할 수 있는 효과가 있다.
도 1은 본 발명의 일 실시예에 관련된 이동 단말기의 블록 구성도.
도 2는 본 발명의 일 실시예에 관련된 이동 단말기가 동작할 수 있는 무선 통신 시스템에 대한 블록도.
도 3a 및 도 3b는 본 발명의 실시예에 따라 증강현실에 기반한 카메라 뷰에 특정 장소에 관련된 위치정보가 표시된 화면을 나타낸 도면.
도 4a 내지 도 4c는 사진검색 메뉴에 포함된 각 항목을 이용하여 클라우드 시스템 및 SNS에 검색할 사진의 검색 범위 및 정렬방법을 설정하는 예.
도 5a 내지 도 5c는 사진검색 메뉴에서 추적메뉴의 설정 및 그의 화면 표시를 나타낸 도면.
도 6은 과거에 촬영한 사진속의 장소와 동일한 위치에서 사진 찍기를 수행하기 위한 모드설정의 예를 나타낸 도면.
도 7a 및 도 7b는 외각선 엣지 모드와 동기율 모드를 이용하여 사진찍기를 수행하는 예를 나타낸 도면.
도 8은 본 발명의 실시예에 따른 이동 단말기의 사진 검색방법을 나타낸 순서도.
도 9a 및 도 9b는 카메라 뷰상에서 위치정보를 선택하여 해당 영역에 관련된 사진을 표시하는 예를 나타낸 도면.
도 10은 동일장소 검색 기능을 이용하여 이전의 사진과 동일한 위치에서 사진을 촬영하는 동작을 나타낸 순서도.
도 11은 사용자 이동에 의해 검색범위내에 새로운 위치정보가 진입할 경우 사진을 검색하는 동작을 나타낸 순서도.
도 12는 클라우드 또는 SNS시스템에서 사진 삭제시 검색결과를 갱신하는 동작을 나타낸 순서도.
이하, 본 발명과 관련된 이동 단말기에 대하여 도면을 참조하여 보다 상세하게 설명한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 단순히 본 명세서 작성의 용이함만이 고려되어 부여되는 것으로서, 그 자체로 특별히 중요한 의미 또는 역할을 부여하는 것은 아니다. 따라서, 상기 "모듈" 및 "부"는 서로 혼용되어 사용될 수도 있음을 유념해야 한다.
단말기는 다양한 형태로 구현될 수 있다. 예를 들어, 본 명세서에서 기술되는 단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(notebook computer), 디지털방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 네비게이션 등과 같은 이동 단말기와, 디지털 TV, 데스크탑 컴퓨터 등과 같은 고정 단말기가 있다. 이하의 설명에서는 상기 단말기가 이동 단말기인 것으로 가정하고 설명한다. 그러나, 이하의 설명에 따른 구성은 이동용을 위해 특별히 구성된 구성요소를 제외한다면 상기 고정 단말기에도 적용될 수도 있음을 본 기술분야의 당업자라면 쉽게 알 수 있을 것이다.
도 1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도(block diagram)이다.
상기 이동 단말기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1은 다양한 구성요소를 가지고 있는 이동 단말기를 나타내고 있다. 그러나 도시된 구성요소 모두가 필수구성요소인 것은 아니다. 도시된 구성요소 보다 많은 구성요소에 의해 이동 단말기가 구현될 수도 있고, 그 보다 적은 구성요소에 의해서도 이동 단말기가 구현될 수 있다.
이하 상기 구성요소들에 대해 차례로 살펴본다.
무선 통신부(110)는 이동 단말기(100)와 무선 통신 시스템 간의 무선 통신 또는 이동 단말기(100)와 이동 단말기(100)가 위치한 네트웍간의 무선 통신을 하게 하는 하나 이상의 구성요소를 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 등을 포함할 수 있다.
방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다.
한편, 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있으며, 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.
상기 방송 관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVB-H(Digital Video Broadcast-Handheld)의 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.
상기 방송 수신 모듈(111)은, 각종 방송 시스템을 이용하여 방송 신호를 수신하는데, 특히, DMB-T(Digital Multimedia Broadcasting-Terrestrial), DMB-S(Digital Multimedia Broadcasting-Satellite), MediaFLO(Media Forward Link Only), DVB-H(Digital Video Broadcast-Handheld), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 상기 방송 수신 모듈(111)은, 상술한 디지털 방송 시스템뿐만 아니라 방송 신호를 제공하는 모든 방송 시스템에 적합하도록 구성된다.
방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.
또한, 이동통신 모듈(112)은, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 여기에서, 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.
무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 무선 인터넷 모듈(113)은 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다.
근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee 등이 이용될 수 있다.
또한, 위치정보 모듈(115)은 이동 단말기의 위치를 확인하거나 얻기 위한 모듈이다. 상기 위치정보 모듈(115)의 대표적인 예로는 GPS(Global Position System)모듈이 있다. 현재 기술에 의하면, 상기 GPS모듈은 3개 이상의 위성으로부터 떨어진 거리 정보와 정확한 시간 정보를 산출한 다음 상기 산출된 정보에 삼각법을 적용함으로써, 위도, 경도, 및 고도에 따른 3차원의 현 위치 정보를 정확히 산출할 수 있다. 현재, 3개의 위성을 이용하여 위치 및 시간 정보를 산출하고, 또 다른 1개의 위성을 이용하여 상기 산출된 위치 및 시간 정보의 오차를 수정하는 방법이 널리 사용되고 있다. 또한, GPS 모듈은 현 위치를 실시간으로 계속 산출함으로써 속도 정보를 산출할 수 있다.
한편, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(121)와 마이크(122) 등이 포함될 수 있다. 카메라(121)은 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 그리고, 처리된 화상 프레임은 디스플레이 모듈(151)에 표시될 수 있다.
카메라(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다. 카메라(121)은 단말기의 구성 태양에 따라 2개 이상이 구비될 수도 있다.
마이크(122)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 그리고, 처리된 음성 데이터는 통화 모드인 경우 이동통신 모듈(112)를 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)는 외부의 음향 신호를 입력 받는 과정에서 발생되는 잡음(noise)를 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.
사용자 입력부(130)는 사용자가 단말기의 동작 제어를 위한 입력 데이터를 발생시킨다. 사용자 입력부(130)는 키 패드(key pad), 돔 스위치 (dome switch), 터치 패드(정압/정전), 조그 휠, 조그 스위치 등으로 구성될 수 있다. 특히, 터치 패드가 후술하는 디스플레이 모듈(151)과 상호 레이어 구조를 이룰 경우, 이를 터치 스크린이라 부를 수 있다.
센싱부(140)는 이동 단말기(100)의 개폐 상태, 이동 단말기(100)의 위치, 사용자 접촉 유무, 이동 단말기의 방위, 이동 단말기의 가속/감속 등과 같이 이동 단말기 (100)의 현 상태를 감지하여 이동 단말기(100)의 동작을 제어하기 위한 센싱 신호를 발생시킨다. 예를 들어 이동 단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 센싱할 수 있다. 또한, 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등과 관련된 센싱 기능을 담당한다. 한편, 상기 센싱부(140)는 근접 센서(141)를 포함할 수 있다. 이에 대해서는 나중에 터치스크린과 관련되어 후술된다.
또한, 상기 센싱부(140)는 사용자가 이동할 때 이동방향을 계산하는 지자기 센서, 회전방향을 계산하는 자이로 센서 및 가속도센서를 포함한다.
인터페이스부(170)는 이동 단말기(100)에 연결되는 모든 외부기기와의 인터페이스 역할을 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O(Input/Output) 포트, 이어폰 포트 등이 포함될 수 있다.
여기에서, 식별 모듈은 이동 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(User Identify Module; 'UIM'), 가입자 인증 모듈(Subscriber Identify Module; 'SIM'), 범용 사용자 인증 모듈(Universal Subscriber Identity Module; 'USIM') 등을 포함할 수 있다. 또한, 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 포트를 통하여 단말기(100)와 연결될 수 있다. 이와 같은 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나 전원을 공급받아 이동 단말기(100) 내부의 각 구성 요소에 전달하거나 이동 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다.
또한, 상기 인터페이스부(170)는 이동단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동단말기로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동단말기가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.
출력부(150)는 오디오 신호 또는 비디오 신호 또는 알람(alarm) 신호의 출력을 위한 것으로, 이에는 디스플레이 모듈(151), 음향 출력 모듈(152), 및 알람부(153) 등이 포함될 수 있다.
디스플레이 모듈(151)는 이동 단말기(100)에서 처리되는 정보를 표시 출력한다. 예를 들어 이동 단말기가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다.
한편, 전술한 바와 같이, 디스플레이 모듈(151)과 터치패드가 상호 레이어 구조를 이루어 터치 스크린으로 구성되는 경우, 디스플레이 모듈(151)은 출력 장치 이외에 입력 장치로도 사용될 수 있다. 디스플레이 모듈(151)은 액정 디스플레이(liquid crystal display), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display), 유기 발광 다이오드(organic light-emitting diode), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수 있다. 이들 중 일부 디스플레이는 이를 통해 외부를 볼 수 있도록 투명하도록 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(transparent organic light emitting diode) 등이 있다. 그리고 이동 단말기(100)의 구현 형태에 따라 디스플레이 모듈(151)이 2개 이상 존재할 수도 있다. 예를 들어, 이동 단말기(100)에 외부 디스플레이 모듈(미도시)과 내부 디스플레이 모듈(미도시)이 동시에 구비될 수 있다. 상기 터치스크린은 터치 입력 위치 및 면적 뿐만 아니라 터치 입력 압력까지도 검출할 수 있도록 구성될 수 있다.
음향 출력 모듈(152)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력한다. 또한, 음향 출력 모듈(152)은 이동 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력한다. 이러한 음향 출력 모듈(152)에는 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.
알람부(153)는 이동 단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기에서 발생되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(153)는 오디오 신호나 비디오 신호 이외에 다른 형태로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 예를 들면, 진동 형태로 신호를 출력할 수 있다. 호 신호가 수신되거나 메시지가 수신된 경우, 이를 알리기 위해 알람부(153)는 진동을 출력할 수 있다. 또는, 키 신호가 입력된 경우, 키 신호 입력에 대한 피드백으로 알람부(153)는 진동을 출력할 수 있다. 상기와 같은 진동 출력을 통해 사용자는 이벤트 발생을 인지할 수 있다. 물론 이벤트 발생 알림을 위한 신호는 디스플레이 모듈(151)이나 음향 출력 모듈(152)을 통해서도 출력될 수 있다.
메모리(160)는 제어부(180)의 처리 및 제어를 위한 프로그램이 저장될 수도 있고, 입/출력되는 데이터들(예를 들어, 폰북, 메시지, 정지영상, 동영상 등)의 임시 저장을 위한 기능을 수행할 수도 있다. 또한, 상기 메모리(160)에는 상기 터치스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.
메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(RAM, Random Access Memory) SRAM(Static Random Access Memory), 롬(ROM, Read-Only Memory), EEPROM (Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory) 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 또한, 이동 단말기(100)는 인터넷(internet)상에서 상기 메모리(160)의 저장 기능을 수행하는 웹 스토리지(web storage)를 운영할 수도 있다.
그리고 제어부(180)는 통상적으로 이동 단말기의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 또한, 제어부(180)는 멀티 미디어 재생을 위한 멀티미디어 모듈(181)을 구비할 수도 있다. 멀티미디어 모듈(181)은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.
상기 제어부(180)는 상기 터치스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다.
전원 공급부(190)는 배터리로서 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다.
여기에 설명되는 다양한 실시예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.
하드웨어적인 구현에 의하면, 여기에 설명되는 실시예는 ASICs (application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs(field programmable gate arrays, 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 그러한 실시예들이 제어부(180)에 의해 구현될 수 있다.
소프트웨어적인 구현에 의하면, 절차나 기능과 같은 실시예들은 적어도 하나의 기능 또는 작동을 수행하게 하는 별개의 소프트웨어 모듈과 함께 구현될 수 있다. 소프트웨어 코드는 적절한 프로그램 언어로 쓰여진 소프트웨어 어플리케이션에 의해 구현될 수 있다. 또한, 소프트웨어 코드는 메모리(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.
도 1에 도시된 단말기(100)는, 유무선 통신 시스템 및 위성 기반 통신 시스템을 포함하여, 프레임(frame) 또는 패킷(packet)을 통하여 데이터(data)를 전송할 수 있는 통신 시스템에서 동작 가능하도록 구성될 수 있다.
이하에서는, 도 2를 참조하여, 본 발명에 관련된 단말기가 동작 가능한 통신 시스템에 대하여 살펴보겠다.
통신 시스템은, 서로 다른 무선 인터페이스 및/또는 물리 계층을 이용할 수도 있다. 예를 들어, 통신 시스템에 의해 이용 가능한 무선 인터페이스에는, 주파수 분할 다중 접속(Frequency Division Multiple Access; 'FDMA'), 시분할 다중 접속(Time Division Multiple Access; 'TDMA'), 코드 분할 다중 접속(Code Division Multiple Access; 'CDMA'), 범용 이동통신 시스템(Universal Mobile Telecommunications Systems; 'UMTS')(특히, LTE(Long Term Evolution)), 이동통신 글로벌 시스템(Global System for Mobile Communications; 'GSM') 등이 포함될 수 있다. 이하에서는, 설명의 편의를 위하여, CDMA에 한정하여 설명하도록 한다. 그러나, 본 발명은, CDMA 무선 통신 시스템을 포함한 모든 통신 시스템 적용될 있음은 당연하다.
도 2에 도시된 바와 같이, CDMA 무선 통신 시스템은, 복수의 단말기들(100), 복수의 기지국(Base Station; 'BS')(270), 기지국 제어부(Base Station Controllers; 'BSCs')(275), 이동 스위칭 센터(Mobile Switching Center; 'MSC')(280)를 포함할 수 있다. MSC(280)는, 일반 전화 교환망(Public Switched Telephone Network; 'PSTN')(290)과 연결되도록 구성되고, BSCs(275)와도 연결되도록 구성된다. BSCs(275)는, 백홀 라인(backhaul line)을 통하여, BS(270)과 짝을 이루어 연결될 수 있다. 백홀 라인은, E1/T1, ATM, IP, PPP, Frame Relay, HDSL, ADSL 또는 xDSL 중 적어도 하나에 따라서 구비될 수 있다. 따라서, 복수의 BSCs(275)가 도 2에 도시된 시스템에 포함될 수 있다.
각각의 BS(270)는, 적어도 하나의 섹터를 포함할 수 있고, 각각의 섹터는, 전방향성 안테나 또는 BS(270)으로부터 방사상의 특정 방향을 가리키는 안테나를 포함할 수 있다. 또한, 각각의 섹터는, 다양한 형태의 안테나를 두 개 이상 포함할 수도 있다. 각각의 BS(270)는, 복수의 주파수 할당을 지원하도록 구성될 수 있고, 복수의 주파수 할당 각각은, 특정 스펙트럼(예를 들어, 1.25MHz, 5MHz 등)을 갖는다.
섹터와 주파수 할당의 교차는, CDMA 채널이라고 불릴 수 있다. BS(270)은, 기지국 송수신 하부 시스템(Base Station Transceiver Subsystem; 'BTSs')이라고 불릴수 있다. 이러한 경우, "기지국"이라는 단어는, 하나의 BSC(275) 및 적어도 하나의 BS(270)을 합하여 불릴 수도 있다. 기지국은, 또한 "셀 사이트"를 나타낼 수도 있다. 또는, 특정 BS(270)에 대한 복수의 섹터들 각각은, 복수의 셀 사이트로 불릴 수도 있다.
도 2에 도시된 바와 같이, 방송 송신부(Broadcasting Transmitter; 'BT')(295)는, 시스템 내에서 동작하는 단말기들(100)에게 방송 신호를 송신한다. 도 1에 도시된 방송수신 모듈(111)은, BT(295)에 의해 전송되는 방송 신호를 수신하기 위해 단말기(100) 내에 구비된다.
뿐만 아니라, 도 2에서는, 여러 개의 위성 위치 확인 시스템(Global Positioning System; 'GPS') 위성(300)을 도시한다. 상기 위성들(300)은, 복수의 단말기(100) 중 적어도 하나의 단말기의 위치를 파악하는 것을 돕는다. 도 2에서는 두 개의 위성이 도시되어 있지만, 유용한 위치 정보는, 두 개 이하 또는 이상의 위성들에 의해 획득될 수도 있다. 도 1에 도시된 위치정보 모듈(115)은, 원하는 위치 정보를 획득하기 위하여 위성들(300)과 협력한다. 여기에서는, GPS 추적 기술뿐만 아니라 위치를 추적할 수 있는 모든 기술들을 이용하여 위치를 추적할 수 있다. 또한, GPS 위성들(300) 중 적어도 하나는, 선택적으로 또는 추가로 위성 DMB 전송을 담당할 수도 있다.
무선 통신 시스템의 전형적인 동작 중, BS(270)은, 다양한 단말기들(100)로부터 역 링크 신호를 수신한다. 이때, 단말기들(100)은, 호를 연결 중이거나, 메시지를 송수신 중이거나 또는 다른 통신 동작을 수행하고 있다. 특정 기지국(270)에 의해 수신된 역 링크 신호들 각각은, 특정 기지국(270)에 의해 내에서 처리된다. 상기 처리 결과 생성된 데이터는, 연결된 BSC(275)로 송신된다. BSC(275)는, 기지국들(270) 간의 소프트 핸드오프(soft handoff)들의 조직화를 포함하여, 호 자원 할당 및 이동성 관리 기능을 제공한다. 또한, BSC(275)는, 상기 수신된 데이터를 MSC(280)으로 송신하고, MSC(280)은, PSTN(290)과의 연결을 위하여 추가적인 전송 서비스를 제공한다. 유사하게, PSTN(290)은 MSC(280)과 연결하고, MSC(280)은 BSCs(275)와 연결하고, BSCs(275)는 단말기들(100)로 순 링크 신호를 전송하도록 BS들(270)을 제어한다.
본 발명은 사용자가 특정 위치(관광지/건물)에 대한 추억을 되살리기 위하여 증강현실(AR)기술과 클라우드 기술을 활용한 카메라 기능, 즉, 카메라 뷰어의 포커스를 해당 위치에 맞추면, 해당 위치에 관련되어 이동 단말기의 메모리, SNS및 클라우드(Cloud) 시스템에 저장 또는 공유된 사진을 검색하여 그 검색결과를 특정 위치에 표시해주는 방안을 제안한다.
이러한 기능은 3G/LTE가 범용화되고 클라우드 시스템이 활발하게 활용되는 환경에서 더욱 유용하다. 특히 상기 기능은 사용자가 이동 단말기의 메모리, SNS및 클라우드 시스템에 사진을 저장하거나 공유할 때 촬영 날짜, 위치 및 간단한 메모 등을 기록해 둔다면 더욱 정확하게 동작될 것이다.
본 발명은 사용자가 추억이 깃든 특정 장소(관광지/특정 건물/산,바다/고향 등)에서 증강 현실(AR)기능을 이용한 카메라 뷰를 통해 각 클라우드 시스템 및 SNS에 저장된 가족/친지/친구/내 사진들과 공유된 사진의 정보를 검색하여 사용자가 설정한 범위내에 해당 위치에 검색된 사진을 표시하는 뷰어(Viewer)기능과, 상기 검색된 컨텐츠가 사진일 경우 해당 사진과 동일한 위치 및 구도로 새로운 사진을 촬영할 수 있는 촬영기능을 제공한다.
상기 검색된 사진의 정보(사진 또는 위치정보)를 표시하는 뷰어기능은 자식들의 성장 과정, 10년전 고향 마을 모습등을 시간 순서로 볼 수 있는 시간정렬 기능과, 어느 곳에서 사진을 찍었는지 거리별로 알 수 있는 위치 정렬 기능을 갖는다.
상기 검색된 정보중에서 소정 거리로 인접한 사진은 정렬되어 카메라 뷰상에서 위치정보와 다른 영역, 예를들면 화면 상단에 표시한다.
상기 검색된 사진을 표시할 때 위치가 저장된 사진은 화면상에 다른 색으로 표시하여, 사용자가 카메라뷰 메뉴상의 트레이스(Trace) 선택시 상기 저장된 위치를 연결하여 추억을 답사할 수 있도록 한다.
본 발명은 메모리, SNS및 클라우드 시스템에 저장된 사진의 검색 범위 및 정렬 범위를 설정할 수 있는 설정 메뉴를 제공한다. 상기 설정 메뉴는 검색 영역, 정렬 방법, DB 소스 범위, 잠금 설정 및 트레이스(trace) 등을 설정할 수 있는 항목을 포함한다.
도 3a 및 도 3b는 본 발명의 실시예에 따라 증강현실에 기반한 카메라 뷰에 특정 장소에 관련된 사진정보가 표시된 화면을 나타낸다. 도 3a는 사진정보를 시간에 따라 정렬하여 표시한 예이고, 도 3b는 거리에 따라 정렬하여 표시한 예이다.
사용자가 메뉴에서 소정의 모드를 실행하거나 또는 바로가기 형태로 구현된 어플리케이션을 실행하면 디스플레이부(151)에 증강현실(AR)기반한 카메라 뷰가 표시된다.
상기 카메라 뷰(프리 뷰)에는 기본적으로 증강현실에 따른 대상물(장소, 풍경)와 그 대상물 정보(명칭)과 함께 상기 대상물에 관련되어 저장된 사진정보를 클라우드 시스템 및 SNS등으로부터 검색 및 정렬하여 표시한다.
상기 대상물은 관광지, 특정 건물, 산, 바다 및 고향 등과 같이 사용자가 접근할 수 있는 모든 공간을 포함한다.
상기 사진정보는 클라우드 시스템 및 SNS으로부터 검색된 실제 사진(가족/친지/친구/내 사진), 사진제목(또는 메모), 사진 갯수 및 사진이 저장된 소스등의 정보를 포함한다. 특히 상기 검색된 사진중에서 소정의 근접 거리이내에 있는 적어도 하나 이상의 사진들은 카메라뷰의 별도의 영역(50)에 표시된다. 상기 별도의 영역(50)은 정렬된 사진이 표시되는 영역으로 기본적으로 카메라 뷰의 상단부에 표시되지만 그 표시위치는 사용자 설정에 따라 달라질 수 있다. 상기 표시영역(50)에는 정해진 수의 사진만이 표시되며, 표시되지 않은 사진은 더 있는 경우에는 식별자가 표시된다. 상기 식별자는 화살표 형태로구현될 수 있다. 또한, 상기 사진을 제외하고 카메라 뷰에 표시된 사진정보(위치정보)는 소스의 아이콘 형태로 표시되며 특정 장소에 복수의 사진이 있는 경우에는 다른 소스를 보기 위한 식별자(화살표)가 표시된다. 상기 표시영역(50)에 표시된 사진을 선택하면 해당 사진이 확대되어 화면에 표시된다.
상기 사진정보의 검색은 사용자의 위치로부터 사용자가 설정한 검색 영역(e.g., 5km)이내의 대상물에 대하여 수행된다.
상기 검색된 사진의 정렬은 사용자가 설정한 정렬 방법(시간 또는 거리)에 따라 수행된다. 사진이 시간에 따라 정렬될 경우에는 각 사진(표시영역에 표시된 사진) 또는 사진정보의 상단부에 사진 저장시 작성했던 메모를 표시하고, 거리에 따라 정렬한 경우에는 각 사진 또는 사진정보의 상단부에 사용자의 현재 위치로부터의 거리가 표시된다. 또한, 상기 표시영역(50)에 표시된 각 사진의 하단부에는 사진을 촬영한 시간정보(날짜, 시간)가 공통적으로 표시된다.
상기 카메라 뷰에는 사진검색 메뉴(51)가 표시된다. 상기 사진검색 메뉴(51)는 프리뷰가 실행된 초기에 소정 시간동안 표시될 수 있다. 다른 예로서 상기 사진검색 메뉴(51)는 사용자의 터치동작에 따라 표시되거나 사라질 수 있다.
상기 사진검색 메뉴(51)는 클라우드 시스템 및 SNS으로부터 검색할 사진의 검색 범위 및 정렬 범위를 설정하기 위한 적어도 하나의 서브 메뉴를 포함한다. 상기 적어도 하나 이상의 서브 메뉴는 사진 또는 동영상을 촬영하는 메뉴, 해당 사진이 저장된 DB소스를 설정하는 소스메뉴, 정렬방법(시간 또는 거리)을 설정하는 정렬메뉴, 과거에 촬영한 장소로 찾아가기 기능을 제공하는 추적(trace)메뉴, 검색결과의 표시여부를 설정하는 잠금(lock) 메뉴 및 사진의 검색 범위, 사진의 표시범위 및 상기 표시영역(50)에 표시될 사진의 정렬 범위(근접거리)를 설정하는 설정메뉴 등을 포함한다. 상기 서브 메뉴들은 필요에 따라 서로 통합되거나 분리될 수 있다.
또한, 상기 표시영역(50)의 상단에는 사진의 검색조건이 요약되어(e.g., 검색범위, 현재 위치 및 정렬조건)이 표시된다.
도 4a 내지 도 4c는 사진검색 메뉴에 포함된 각 항목을 이용하여 클라우드 시스템 및 SNS에 검색할 사진의 검색 범위 및 정렬방법을 설정하는 예이다.
도 4a는 사진검색 메뉴를 이용하여 사진의 검색 소스를 선택하는 예이다.
사용자가 사진검색 메뉴(51)의 소스메뉴를 선택하면 카메라 뷰(프리뷰)의 하단부에 DB소스 영역(52)이 표시된다. 상기 DB소스영역(52)에는 사용자가 사용하고 있는 클라우드 시스템 및 SNS네트워크에서 검색할 수 있는 아이콘 형태의 복수의 소스목록, 각 소스를 선택할 수 있는 체크박스 및 상기 DB소스영역(52)에 표시되지 않은 다른 소스가 있음을 나타내는 식별자가 표시된다. 따라서 사용자는 상기 식별자를 이용하여 복수의 소스를 검색하고, 상기 체크박스를 이용하여 사진을 검색할 적어도 하나의 소스를 선택한다.
도 4b 및 도 4c는 사진검색 메뉴를 이용하여 검색된 사진의 정렬 방법과 락 설정을 선택하는 예이다.
도 4b에 도시된 바와같이, 사용자는 사진검색 메뉴(51)에서 정렬메뉴를 선택하여, 클라우드 시스템 및 SNS로부터 검색된 사진을 거리별로 표시할지 아니면 시간별로 표시할지를 선택할 수 있다. 또한, 사용자는 락메뉴를 이용하여 검색된 사진에 대하여 락 설정을 on 또는 off로 설정할 수 있다. 이때 락메뉴는 off가 디폴트 설정이며 이 상태에서 사용자가 사진 검색을 요청하면 제어부(180)는 소스별 검색결과를 화면에 표시한다. 만약 락 메뉴가 on으로 설정되어 있으면(락모드) 제어부 (180)는 화면에 사진 검색결과를 표시하지 않으며, 상단의 표시영역(50)에도 사진을 잠금상태로 표시한다.
도 5a 내지 도 5c는 사진검색 메뉴에서 추적메뉴의 설정 및 그의 화면 표시를 나타낸다.
카메라 뷰 모드에서 사용자가 표시영역(50)에 표시된 특정 사진을 선택한 후 저장버튼을 눌러 해당 사진의 위치를 저장한 경우 카메라 뷰 화면에 빨간색으로 표시된다.
상기 추적(trace)메뉴는 위치정보가 저장된 경우 활성화되는 메뉴로서, 위치정보가 저장되어 있지 않은 경우는 그레이(gray)처리되어 선택할 수 없다. 추적메뉴가 선택되면 경유지 항목내에 위치정보 리스트(53)가 표시된다. 사용자가 특정 리스트를 선택하면 도 5b에 도시된 바와같이, 가장 가까운 곳부터 다음 위치까지 화면상에 화살표로 표시된다. 사용자가 특정 화살표를 선택하면 제어부(180)는 도 5c에 도시된 바와같이, GPS와 네비게이터(navigator)를 연결하여 해당 위치에 도달하는 가장 빠른 길을 화면에 표시한다.
또한, 상기 추적메뉴는 과거에 촬영한 사진속의 장소와 동일한 위치로 찾아갈 수 있는 동일장소 찾기 기능을 제공하며, 해당 위치에 도착하면 사진찍기 모드에서 원하는 모드를 선택하여 사진을 찍을 수 있다.
도 6은 과거에 촬영한 사진속의 장소와 동일한 위치에서 사진 찍기를 수행하기 위한 모드설정의 예를 나타낸다.
상기 추적 메뉴를 이용한 추적기능은 GPS정보에만 의존하기 때문에 과거에 사진을 찍은 정확한 위치와 오차가 발생할 수 있다. 이러한 오차를 보상하기 위하여 사진 메뉴의 모드설정 메뉴에 일반모드 이외에 구도조정모드 즉, 외곽선 엣지모드와 동기율(Sync. rate)모드를 추가하여 사용한다.
상기 일반모드는 위치정보가 저장되어 있지 않은 일반적인 사진 찍기모드이며, 외각선 엣지 모드와 동기율 모드는 사진의 위치정보가 단말기내에 저장되어 있는 경우 활성화 되는 모드이다(Default로 비활성화 됨). 상기 외각선 엣지 모드와 동기율 모드는 사용자에 의해 저장된 위치 정보가 있는 경우 활성화되며, 사용자의 필요에 따라 선택할 수도 있다. 상기 외각선 엣지 모드는 이전 사진과 동일 위치의 동일한 구도에서 사진을 찍기 원할 때 사용하며, 동기율 모드는 이전 사진과 동일 위치에서 비슷한 구도로 사진을 찍기 원할 때 사용한다. 이때 사진의 위치정보가 저장되어 있는 경우와 그렇지 않은 경우를 구분하는 기준은 카메라 뷰 상태에서 사용자가 특정 이미지를 선택해서 저장 버튼을 눌렀을 때 위치 정보를 저장한 경우를 기준으로 한다.
도 7a 및 도 7b는 외각선 엣지 모드와 동기율 모드를 이용하여 사진찍기를 수행하는 예이다.
도 7a에 도시된 바와같이, 사진찍기 모드에서 사용자가 외각선 엣지 모드를 선택하면, 제어부(180)는 기존 사진의 외곽선을 추출한 후 카메라 뷰와 중첩시켜 표시한다. 사용자는 기존 사진의 외각선과 현재 카메라 뷰상에 보여지는 외각선이 일치하도록 줌 기능을 이용하거나 위치를 이동함으로써 기존의 사진과 동일한 위치에서 사진을 찍을 수 있다.
반면에 도 7b에 도시된 바와같이, 사진찍기 모드에서 사용자가 동기율 모드를 선택하면(또는 카메라 뷰의 AF버튼을 누르면), 제어부(180)는 기존의 사진과 현재 카메라 뷰간의 동기율을 화면에 표기하여 이전 사진과 현재 구도가 일치하는 정도를 표시한다.
이하 증강현실 기반의 카메라 뷰에 상기 설정된 각종 사용자 설정에 따라 클라우드 시스템 및 SNS로부터 검색된 사진을 정렬하여 표시하는 방법을 첨부된 도면을 참조하여 설명하면 다음과 같다.
도 8은 본 발명의 실시예에 따른 이동 단말기의 증강현실 기반의 사진 검색방법을 나타낸 순서도이다.
사용자는 사진검색 메뉴(51)에서 사진 검색 및 정렬을 위하여, 검색 범위(반경), 컨텐츠 표시 범위, DB소스 및 정렬방법을 설정할 수 있다.
상기 검색 범위는 앞에서도 설명한 바와같이 현재 위치를 중심으로 반경 수 Km ~ 수십 Km 위치(e.g., 500m/1Km/5Km/10Km/30Km)에 있는 사진들을 검색하기 위한 범위를 나타내고, 상기 컨텐츠 표시 범위는 개인/가족/동료/친구/애완동물 등 SNS 및 Cloud 시스템과 공유된 사진들을 함께 검색할 수 있도록 하기 위한 범위이다. 상기 범위들은 설정메뉴를 통해 선택되는 항목으로 예를들면 체크 박스 형태로 선택할 수 있다.
상기 DB소스는 사용자가 가입한 클라우드 및 SNS 서비스 공급 업체의 리스트중에 사진 검색을 하고자 하는 서비스 공급 업체로서, 소스메뉴에서 체크 박스 형태로 선택할 수 있다.
상기 정렬방법은 정렬메뉴에서 설정되며, 클라우드 및 SNS시스템에서 검색된 사진들을 시간별 또는 거리별 정렬을 나타낸다.
그리고, 사용자는 사진검색 메뉴(51)에서 특정 장소, 예를들면 유명 숙박/음식점/관광지의 표기를 선택할 수 있다. 대부분 여행과 함께 사진을 저장하기 때문에 상기장소의 정보를 사진정보와 함께 카메라뷰상에 표시하도록 체크 박스 형태로 선택 할 수 있다.
또한, 설정메뉴에서 사용자는 근접거리 설정, 파일 저장 설정 및 위치 정보 삭제 설정을 수행할 수 있다.
상기 근접거리 설정은 사진 정렬 영역(Sorting Box)(50)에 표시될 사진의 근접 범위(거리)(10m/30m/50m/100m)를 설정하는 것으로, 상기 범위내에 있는 사진들만 표시 영역(50)에 표시된다. 상기 파일 저장 설정은 검색된 사진을 SD(Secure Digital) 카드 또는 내장 메모리에 저장할 것인지에 대한 설정을 나타내며, 상기 위치 정보 삭제 설정은 저장된 위치 정보 중에 필요에 의해 삭제가 필요한 경우 삭제 가능한 설정을 나타낸다. 상기 설정된 모든 사용자 설정값은 메모리(160)에 저장된다.
도 8에 도시된 바와같이, 사용자가 카메라 뷰에서 사진검색 기능을 선택하거나 또는 사진찾기 어플리케이션(바로가기 기능)을 실행하면(S10), 제어부(180)는 GPS정보를 이용하여 사용자의 현재 위치를 확인한다(S11). 사용자의 현재 위치가 확인되면 제어부(180)는 메모리 (160)로부터 사용자 설정값(검색 범위, DB소스, 컨텐츠 표시범위 및 기타)을 리드(read)한 후(S12) 저장파일 즉, 캐싱 파일(caching)을 생성한다(S13).
상기 캐싱파일이 생성되면 제어부(180)는 사용자가 기설정한 DB소스 및 검색 범위내의 사진(사진정보 : 사진 및 위치정보)들을 클라우드 및 SNS시스템으로부터 검색한 후(S14) 상기 캐싱파일에 저장한다(S14, S15).
따라서, 제어부(180)는 상기 저장된 사진들을 기 설정된 정렬방법에 따라 정렬한 후 카메라 뷰를 온(on)하여, 상기 카메라 뷰상에 검색결과를 각 DB소스(클라우드 시스템 또는 SNS네트워크)별로 표시한다(S16, S17).
상기 검색된 사진들은 정렬메뉴 및 설정메뉴의 설정에 따라 시간별 또는 거리별로 정렬된다. 상기 정렬된 사진중에서 일부 사진 즉, 근접거리 설정에 해당하는 사진들은 정렬방법(거리 또는 시간)에 따라 표시 영역(50)에 표시되고, 나머지 사진들은 카메라 뷰상에서 아이콘 형태로 표시된다. 상기 검색된 사진들이 시간별로 정렬되는 경우 표시 영역(50) 및 목적지상에 사진이 저장된 DB 및 메모가 표시되고, 거리별로 수행된 경우 사진이 저장된 DB소스 및 목적지까지의 거리가 표시된다.
따라서, 사용자는 표시 영역(50)내의 사진 또는 카메라 뷰상의 사진 요약정보를 검색하여 원하는 사진을 볼 수 있으며, 간단한 터치 동작에 의해 사진검색 메뉴(51)를 다시 표시하여 현재 카메라 뷰에 표시되는 각종 설정값을 변경시킬 수 있다.
도 9a 및 도 9b는 카메라 뷰상에서 위치정보를 선택하여 해당 영역에 관련된 사진을 표시하는 예이다.
클라우드 시스템 또는 SNS네트워크에서 공유된 사진들이 사용자가 설정한 검색조건(검색 범위, 컨텐츠 표시 범위, DB소스 및 정렬방법)에 따라 카메라 뷰에 표시되면, 사용자는 상기 표시된 사진중에서 원하는 사진을 선택할 수 있다, 이때, 사진의 선택은 표시 영역(50)에 표시된 실제 사진의 선택 및 상기 표시 영역(50)이외의 영역에 표시된 아이콘의 선택을 모두 포함한다.
도 9a는 거리에 따라 카메라 뷰에 표시된 사진 검색결과 중에서 특정 장소에서 촬영한 하나의 사진을 선택하는 예이다.
도 9a에 도시된 바와같이, 카메라 뷰에서 사용자가 DB소스를 나타내는 특정 아이콘을 선택하면 제어부(180)는 해당 검색결과에 해당되는 사진을 표시한다. 상기 표시된 사진의 우측 상단부에는 저장된 DB소스(e.g., 트워터)가 표시되고, 좌측 상단부에는 사진의 요약정보(사진 저장 날짜와 시간, 작성 메모, 작성자 및 공유자 그리고 사진 촬영위치)가 표시된다. 또한, 상기 사진의 하단부에는 해당 사진에 대한 후속동작(저장, 공유, 메시지 전송, 검색, back))등을 수행할 수 있는 메뉴가 표시된다.
예를들어 사용자가 사진과 함께 저장된 위치 정보를 근거로 해당 위치에 찾아 왔는데 개발/보수/철거 등으로 인해 장소가 어떠한 이유로 인해 바뀌었을 경우 궁금할 것이다. 이 경우 검색메뉴를 선택하면 위치 정보를 바탕으로 해당 기사를 표시함으로써 사용자는 현재의 위치가 어떠한 이유로 변경되었는지 알 수 있을 것이다. 또한, 추억이 깃든 곳이 입장료가 있다거나, 예전의 음식점 가격 및 이전한 장소 또는 숙박 업소 등을 검색할 수 있도록 한다. 검색 범위는 각종 블로그/트위터/신문 및 방송/기타 등을 선택하여 다양하게 검색할 수 있다. 예를 들면, 저장된 사진의 날짜와 GPS의 위치 정보를 바탕으로 그 시절의 주변의 음식점 값, 숙박 업소, 입장료를 표기하고 현재의 음식점 값, 숙박 업소등을 표기해 준다면 얼마나 많이 변했는지 알 수 있도록 한다. 검색된 내용 중에 스크랩 하고 싶은 내용은 자신의 클라우드, SNS, 블로그 또는 E-mail로 전송할 수 있도록 한다.
도 9b는 거리에 따라 카메라 뷰에 표시된 사진 검색결과 중에서 특정 장소에서 촬영한 복수의 사진을 선택하는 예이다. 특히 동일한 장소에서 복수의 사진이 복수의 DB소스에 저장 또는 공유된 경우 초기에는 대표되는 하나의 사진 아이콘이 표시되고, 나머지 사진들은 화살표를 이용하여 검색할 수 있다.
따라서, 사용자가 카메라 뷰에서 사용자가 DB소스를 나타내는 특정 아이콘을 선택하면 제어부(180)는 해당 검색결과에 해당되는 사진을 표시한다. 도 9a에서와 같이 상기 표시된 사진의 우측 상단부에는 저장된 DB소스(e.g., 유튜브)가 표시되고, 좌측 상단부에는 사진의 요약정보(사진 저장 날짜와 시간, 작성 메모, 작성자 및 공유자 그리고 사진 촬영위치)가 표시된다. 사용자는 다른 사진이 더 있음을 나타내는 식별자(e.g., 화살표)를 선택하여 다른 사진을 볼 수 있다. 또한, 상기 사진의 하단부에는 해당 사진에 대한 후속동작(저장, 공유, 메시지 전송, 파노라마, 검색, back))등을 수행할 수 있는 메뉴가 표시된다.
상기 메뉴중에서 파노라마 보기 메뉴를 선택하면, 제어부(180)는 각 DB소스별로 공유된 사진을 화면에 표시한다. 사용자는 다른 사진이 더 있음을 나타내는 식별자(e.g., 화살표)를 선택하여 다른 사진을 볼 수 있으며, 정렬메뉴를 이용하여 시간별로 사진을 정렬할 수도 있다.
도 10은 동일장소 검색 기능을 이용하여 이전의 사진과 동일한 위치에서 사진을 촬영하는 동작을 나타낸 순서도이다.
사용자가 추적메뉴를 선택하여 이전에 촬영한 위치를 찾아가는 도중에 위치 동일장소 검색기능을 선택하면 제어부(180)는 GPS를 이용하여 현재의 위치와 사용자가 선택한 이전 사진의 위치를 비교한다(S20, S21).
비교결과 두 위치가 일치하지 않는 경우 제어부(180)는 네비게이션 기능과 연동하여 화면에 사용자가 이동해야 할 방향을 화살표로 표시하고(S22), 두 위치가 동일하면 카메라 뷰의 구도와 저장된 이전 사진의 구도를 비교한다(S23, S24).
카메라 뷰(현재 구도)와 저장된 이전 사진의 구도를 비교할 때 제어부(180)는 사용자의 설정(외과선 엣지 모드 또는 동기율 모드)에 따라 이전 사진의 외곽선을 추출하여 카메라 뷰상에 표시여주거나 또는 이전 사진과 현재 구도의 동기율을 화면에 표시한다.
비교결과 카메라 뷰상의 구도와 이전 사진의 구도가 일치하지 않는 경우 제어부(180)는 줌 기능을 이용하거나 위치를 이동하여 구도를 일치시키고(S25), 상기 두 구도가 일치하는 경우에는 카메라(121)를 제어하여 이전 사진과 동일한 구도에서 촬영을 수행한다(S26,S27).
도 11은 사용자 이동에 의해 검색범위내에 새로운 위치정보가 진입할 경우 사진을 검색하는 동작을 나타낸 순서도이다. 특히 도 11은 사용자가 이동하여 카메라 뷰의 검색범위내에 이전에 촬영한 위치가 새롭게 추가된 경우 카메라 뷰의 사진 표시를 갱신하는 동작이다.
카메라 뷰 표시상태에서 사용자의 이동 또는 메뉴 설정 변경에 의해 검색 범위내에 새로운 사진의 위치정보가 진입하면(S30, S31), 제어부(180)는 해당 위치를 확인한 후 사용자 설정값에 따라 해당 위치의 사진을 클라우드 또는 SNS시스템으로부터 검색하여(S32), 저장파일(caching file)(임시저장)을 갱신한 후 상기 검색된 파일을 정렬하여 카메라 뷰상에 표시함으로써 검색결과를 갱신한다(S33,S34). 그리고, 검색범위를 벗어난 위치정보에 해당되는 사진은 저장파일로부터 삭제되고, 사용자 저장을 선택한 사진은 메모리9160)에 저장된다.
도 12는 클라우드 또는 SNS시스템에서 사진 삭제시 검색결과를 갱신하는 동작을 나타낸 순서도이다.
클라우드 또는 SNS시스템에서 공유되는 특정 사진이 삭제되면(S40), 해당 클라우드 또는 SNS시스템으로부터 갱신정보가 수신된다. 제어부(180)는 수신된 갱신정보를 근거로 삭제된 사진의 인덱스를 확인하여 삭제한 후 저장파일(caching file)을 갱신하고, 카메라 뷰상에 표시되는 검색결과를 갱신한다(S41~S43).
이와같이 도 11처럼 사용자의 이동에 따라 카메라 뷰상의 검색결과를 갱신하거나 클라우드 또는 SNS시스템에서 특정 사진의 삭제에 따라 카메라 뷰상의 검색결과를 갱신한다.
상술한 바와같이 본 발명은 증강현실을 통한 카메라 뷰의 포커스를 사용자의 추억이 깃든 특정 장소(관광지/특정 건물/산,바다/고향 등)에 맞추면 클라우드 시스템 및 SNS에 저장된 가족/친지/친구/내 사진들과 공유된 사진들을 검색하여 카메라 뷰상에 정렬함으로써 표시함으로써 사용자가 편리하게 옛 추억과 관련된 사진을 검색할 수 있게 된다.
또한, 본 발명의 일 실시예에 의하면, 전술한 방법은, 프로그램이 기록된 매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 매체는, 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 매체의 예로는, ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장장치 등이 있으며, 또한 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 또한, 상기 컴퓨터는, 단말기의 제어부를 포함할 수도 있다.
상기와 같이 설명된 이동 단말기는 상기 설명된 실시예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.
50 : 표시 영역 51 : 사진검색 메뉴
52 : DB소스영역 53 : 위치정보 리스트
110 : 무선통신부 111 : 방송수신모듈
112 : 이동통신모듈 113 : 무선인터넷모듈
140 : 센싱부 150 : 출력부
151 : 디스플레이부 160 : 메모리
180 : 제어부

Claims (29)

  1. 증강현실 기반의 카메라 뷰를 표시하는 단계;
    소정 장소에서 카메라 뷰의 포커스가 맞춰지면 해당 포커스 화면에 포함된 적어도 하나 이상의 대상물에 대한 정보를 표시하는 단계;
    상기 대상물에 대한 정보가 표시된 상태에서 사진검색 기능이 선택되면 포커스 화면내의 적어도 하나 이상의 위치에서 촬영되어 네트워크 시스템에서 공유되고 있는 사진정보를 검색하는 단계; 및
    상기 검색된 사진정보를 저장 소스별로 카메라 뷰상에 표시하는 단계;를 포함하고, 상기 사진 정보중에서 사진은 카메라 뷰의 별도의 영역에 표시되고, 사진 관련정보는 대상물 정보 및 사진과 함께 표시되는 것을 특징으로 하는 이동 단말기의 사진 검색방법.
  2. 제1항에 있어서, 상기 소정 장소는
    관광지. 특정 건물, 산, 바다 및 고향등을 포함하는 이동 단말기의 사진 검색방법.
  3. 제1항에 있어서, 상기 사진 관련정보는
    사진의 제목, 사진 갯수 및 사진의 저장 소스를 포함하는 것을 특징으로 하는 이동 단말기의 사진 검색방법.
  4. 제1항에 있어서, 상기 별도의 영역에는
    소정의 근접거리이내의 위치에서 촬영된 소정수의 사진들만 표시되는 것을 특징으로 하는 이동 단말기의 사진 검색방법.
  5. 제1항에 있어서, 상기 네트워크 시스템은
    클라우딩 시스템 및 SNS시스템을 포함하는 이동 단말기의 사진 검색방법.
  6. 제1항에 있어서, 상기 사진정보는
    시간별 또는 거리별로 정렬되어 표시되는 것을 특징으로 하는 이동 단말기의 사진 검색방법.
  7. 제1항에 있어서, 상기 사진정보는
    사용자 이동에 의해 카메라 뷰상에 새로운 위치가 진입하거나 사용자가 검색범위를 변경하면 상기 네트워크 시스템으로부터 검색된 새로운 사진정보로 갱신되는 것을 특징으로 하는 이동 단말기의 사진 검색방법.
  8. 제1항에 있어서, 상기 네트워크 시스템에서 특정 사진이 삭제되면 상기 표시되는 정보중에서 해당 사진에 관련된 정보는 삭제되는 것을 특징으로 하는 이동 단말기의 사진 검색방법.
  9. 제1항에 있어서, 상기 검색 단계는
    사진검색 기능이 선택되면 사용자의 현재 위치를 확인하는 단계;
    기 저장된 검색설정을 리드하는 단계;
    상기 리드된 검색설정에 따라 검색범위를 중심으로 클라우드 및 SNS시스템의 DB소스에 공유되어 있는 컨텐츠 표시범위내의 사진을 검색하는 단계; 및
    상기 검색된 사진들을 정렬 방법 및 근접 거리에 따라 정렬하는 단계를 포함하는 이동 단말기의 사진 검색방법.
  10. 제9항에 있어서, 상기 검색설정은
    사용자의 현재 위치로부터 사진을 검색할 거리를 나타내는 검색범위;
    검색할 사진의 종류를 나타내는 컨텐츠 표시범위;
    사진을 검색할 서비스 공급업체를 나타내는 DB소스;
    검색된 사진을 시간 또는 거리별로 정렬하기 위한 정렬방법; 및
    카메라뷰의 일측 영역에 표시될 근접거리를 나타내는 근접거리범위를 포함하는 이동 단말기의 사진 검색방법.
  11. 제1항에 있어서, 상기 표시된 사진정보를 선택하면 해당 위치에서 촬영된 사진을 표시하는 단계;
    상기 표시된 사진에 대한 검색기능이 선택되면 해당 위치에 관련된 정보를 검색하여 화면에 표시하는 단계; 및
    상기 표시된 정보를 네트워크 시스템으로 전송하는 단계;를 더 포함하는 이동 단말기의 사진 검색방법.
  12. 제11항에 있어서, 상기 해당 위치에 관련된 정보는
    각종 블로그, 트위터, 신문 및 방송에서 검색하고, 상기 검색된 정보는 사용자 선택에 따라 클라우드, SNS, 블로그 또는 이메일로 전송되는 것을 특징으로 하는 이동 단말기의 사진 검색방법.
  13. 제1항에 있어서, 상기 카메라 뷰에 사진이 표시된 상태에서 추적기능이 선택되면 각 사진이 촬영된 위치들의 리스트를 표시하는 단계;
    상기 리스트에서 특정 위치가 선택되면 가장 가까운 위치에서 다음 위치까지의 경로를 화살표로 표시하는 단계; 및
    상기 화살표 중에서 특정 화살표가 선택되면 해당 위치로 이동 가능한 가장 빠른 길을 표시하는 단계;를 더 포함하는 것을 특징으로 하는 이동 단말기의 사진 검색방법.
  14. 제1항에 있어서, 상기 카메라 뷰에 표시된 특정 사진에 대한 동일장소 검색기능이 선택되면 현재 사용자의 위치와 각 사진의 위치를 비교하는 단계;
    상기 두 위치가 동일하지 않으면 이동 방향을 표시하고, 두 위치가 동일하면 사용자의 모드설정에 따라 카메라 뷰상의 구도와 해당 위치에서 이전에 촬영된 사진의 구도를 맞추기 위한 정보를 표시하는 단계; 및
    상기 표시된 정보를 근거로 사용자가 이동하거나 줌기능을 선택하여 두 구도가 일치하면 해당 위치에 대한 사진촬영을 수행하는 단계;를 포함하는 이동 단말기의 사진 검색방법.
  15. 제14항에 있어서, 상기 사용자의 모드설정은
    이전에 촬영된 사진의 외곽선을 카메라 뷰에 중첩시켜 표시하는 외곽선 엣지모드와, 상기 카메라 뷰의 구도와 이전에 촬영된 사진의 구도간의 동기율을 나타내는 동기율 모드중의 하나이며, 상기 구도를 맞추기 위한 정보는 와곽선 또는 동기율인 것을 특징으로 하는 이동 단말기의 사진 검색방법.
  16. 증강현실 기반의 카메라 뷰를 표시하는 디스플레이부;
    사용자의 검색설정을 저장하는 메모리; 및
    소정 장소에서 카메라 뷰의 포커스가 맞춰지면 해당 포커스 화면에 포함된 적어도 하나 이상의 대상물에 대한 정보를 표시하고, 사진검색 기능이 선택되면 포커스 화면내의 적어도 하나 이상의 위치에서 촬영되어 네트워크 시스템에서 공유되고 있는 사진정보를 검색하여, 검색된 사진정보를 저장 소스별로 카메라 뷰상에 표시하는 제어부;를 포함하며,
    상기 제어부는 검색된 사진 정보중에서 사진은 카메라 뷰의 별도의 영역에 표시하고, 사진 관련정보는 대상물 정보 및 사진과 함께 표시하는 것을 특징으로 하는 이동 단말기.
  17. 제16항에 있어서, 상기 소정 장소는
    관광지, 특정 건물, 산, 바다 및 고향을 포함하는 이동 단말기.
  18. 제16항에 있어서, 상기 검색설정은
    사용자의 현재 위치로부터 사진을 검색할 거리를 나타내는 검색범위;
    검색할 사진의 종류를 나타내는 컨텐츠 표시범위;
    사진을 검색할 서비스 공급업체를 나타내는 DB소스;
    검색된 사진을 시간 또는 거리별로 정렬하기 위한 정렬방법; 및
    카메라뷰의 일측 영역에 표시될 근접거리를 나타내는 근접거리범위를 포함하는 이동 단말기.
  19. 제16항에 있어서, 상기 사진 관련정보는
    사진의 제목, 사진 갯수 및 사진의 저장 소스를 포함하는 이동 단말기.
  20. 제16항에 있어서, 상기 별도의 영역에는
    소정의 근접거리이내의 위치에서 촬영된 소정수의 사진들만 표시되는 것을 특징으로 하는 이동 단말기.
  21. 제16항에 있어서, 상기 네트워크 시스템은
    클라우딩 시스템 및 SNS시스템을 포함하는 이동 단말기.
  22. 제16항에 있어서, 상기 제어부는
    시간별 또는 거리별로 정렬하여 사진정보를 표시하는 것을 특징으로 하는 이동 단말기.
  23. 제16항에 있어서, 상기 제어부는
    카메라 뷰에 새로운 위치가 진입하거나 사용자가 검색범위를 변경하면 상기 네트워크 시스템으로부터 검색된 새로운 사진정보로 상기 사진정보를 갱신하는 것을 특징으로 하는 이동 단말기.
  24. 제16항에 있어서, 상기 제어부는
    네트워크 시스템에서 특정 사진이 삭제되면 상기 네트워크 시스템의 갱신정보에 따라 해당 사진에 관련된 정보를 삭제하는 것을 특징으로 하는 이동 단말기.
  25. 제16항에 있어서, 상기 제어부는
    사진검색 기능이 선택되면 사용자의 현재 위치를 확인한 후 기 저장된 검색설정을 리드하고, 상기 리드된 검색설정에 따라 현 위치에서 검색범위를 중심으로 클라우드 및 SNS시스템의 DB소스에 공유되어 있는 컨텐츠 표시범위내의 사진을 검색하여, 상기 검색된 사진의 위치정보를 시간 또는 거리에 따라 정렬하여 표시하는 이동 단말기.
  26. 제16항에 있어서, 상기 제어부는
    특정 사진정보가 선택되면 해당 위치에서 촬영된 사진을 표시하고, 상기 표시된 사진에 대한 검색기능이 선택돼면 해당 위치에 관련된 정보를 검색하여 화면에 표시하며, 사용자 입력에 따라 상기 표시된 정보를 네트워크 시스템으로 전송하는 것을 특징으로 하는 이동 단말기.
  27. 제16항에 있어서, 상기 제어부는
    과거의 촬영 위치를 찾기 위한 추적기능이 선택되면 현재 카메라 뷰에 표시된 사진이 촬영된 위치들의 리스트를 표시하고, 리스트에서 특정 위치가 선택되면 가장 가까운 위치에서 다음 위치까지의 경로를 화살표로 표시하고, 특정 화살표 선택시 해당 위치로 이동 가능한 가장 빠른 길을 안내하는 것을 특징으로 하는 이동 단말기.
  28. 제16항에 있어서, 상기 제어부는
    카메라 뷰에 표시된 특정 사진에 대한 동일장소 검색기능이 선택되면 사용자의 위치와 각 사진의 위치를 비교하여, 두 위치가 동일하지 않으면 이동방향을 표시하고 두 위치가 동일하면 사용자의 모드설정에 따라 카메라 뷰상의 구도와 해당 위치에서 이전에 촬영된 사진의 구도를 맞추기 위한 정보를 표시하여, 상기 정보를 근거로 사용자가 이동하거나 줌기능을 선택하여 두 구도가 일치하면 해당 위치에 대한 사진촬영을 수행하는 것을 특징으로 하는 이동 단말기.
  29. 제28항에 있어서, 상기 사용자의 모드설정은
    이전에 촬영된 사진의 외곽선을 카메라 뷰에 중첩시켜 표시하는 외곽선 엣지모드와, 상기 카메라 뷰의 구도와 이전에 촬영된 사진의 구도간의 동기율을 나타내는 동기율 모드중의 하나이며, 상기 구도를 맞추기 위한 정보는 와곽선 또는 동기율인 것을 특징으로 하는 이동 단말기.
KR1020120007753A 2012-01-26 2012-01-26 이동 단말기 및 그의 사진 검색방법 Expired - Fee Related KR101303166B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020120007753A KR101303166B1 (ko) 2012-01-26 2012-01-26 이동 단말기 및 그의 사진 검색방법
US13/750,428 US9043318B2 (en) 2012-01-26 2013-01-25 Mobile terminal and photo searching method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020120007753A KR101303166B1 (ko) 2012-01-26 2012-01-26 이동 단말기 및 그의 사진 검색방법

Publications (1)

Publication Number Publication Date
KR101303166B1 true KR101303166B1 (ko) 2013-09-09

Family

ID=48871193

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020120007753A Expired - Fee Related KR101303166B1 (ko) 2012-01-26 2012-01-26 이동 단말기 및 그의 사진 검색방법

Country Status (2)

Country Link
US (1) US9043318B2 (ko)
KR (1) KR101303166B1 (ko)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150079005A (ko) * 2013-12-31 2015-07-08 주식회사 케이티 제약없는 시공간 위치 기반 비디오 컨텐츠를 제공하는 방법 및 장치
KR20170102084A (ko) * 2016-02-29 2017-09-07 한국전자통신연구원 증강 현실 서비스 제공 장치 및 방법
KR20180060865A (ko) * 2016-11-29 2018-06-07 김강 위치 정보가 수록된 정보 관리가 가능한 통신 단말기 및 통신단말기용 어플리케이션의 정보 제공 방법
CN109541641A (zh) * 2018-12-12 2019-03-29 青岛捷利达地理信息集团有限公司 一种具有gps导航与信息集成功能的便携式海域管理终端系统
KR20190040589A (ko) * 2017-10-11 2019-04-19 이태홍 증강현실을 이용한 전동휠의 철로 주행장치
KR102515263B1 (ko) 2022-12-20 2023-03-29 주식회사 아티젠스페이스 휴대 단말 및 시스템
US11678047B2 (en) 2019-02-19 2023-06-13 Samsung Electronics Co., Ltd. Electronic device and method providing content associated with image to application
KR102580250B1 (ko) 2022-12-20 2023-09-19 주식회사 아티젠스페이스 휴대 단말 및 시스템
KR20240143250A (ko) 2023-03-24 2024-10-02 주식회사 아티젠스페이스 휴대 단말 및 시스템
KR20240143249A (ko) 2023-03-24 2024-10-02 주식회사 아티젠스페이스 휴대 단말 및 시스템

Families Citing this family (209)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8106856B2 (en) 2006-09-06 2012-01-31 Apple Inc. Portable electronic device for photo management
US8554868B2 (en) 2007-01-05 2013-10-08 Yahoo! Inc. Simultaneous sharing communication interface
US8698762B2 (en) 2010-01-06 2014-04-15 Apple Inc. Device, method, and graphical user interface for navigating and displaying content in context
EP2732383B1 (en) 2011-07-12 2018-04-04 Snap Inc. Methods and systems of providing visual content editing functions
US9615015B2 (en) * 2012-01-27 2017-04-04 Disney Enterprises, Inc. Systems methods for camera control using historical or predicted event data
US8972357B2 (en) 2012-02-24 2015-03-03 Placed, Inc. System and method for data collection to validate location data
US8768876B2 (en) 2012-02-24 2014-07-01 Placed, Inc. Inference pipeline system and method
US11734712B2 (en) 2012-02-24 2023-08-22 Foursquare Labs, Inc. Attributing in-store visits to media consumption based on data collected from user devices
US10155168B2 (en) 2012-05-08 2018-12-18 Snap Inc. System and method for adaptable avatars
KR101981964B1 (ko) * 2012-12-03 2019-05-24 삼성전자주식회사 증강현실을 구현하기 위한 단말 및 그 방법
US9870422B2 (en) * 2013-04-19 2018-01-16 Dropbox, Inc. Natural language search
US10439972B1 (en) 2013-05-30 2019-10-08 Snap Inc. Apparatus and method for maintaining a message thread with opt-in permanence for entries
US9705831B2 (en) 2013-05-30 2017-07-11 Snap Inc. Apparatus and method for maintaining a message thread with opt-in permanence for entries
US9742713B2 (en) 2013-05-30 2017-08-22 Snap Inc. Apparatus and method for maintaining a message thread with opt-in permanence for entries
KR102105463B1 (ko) 2013-09-02 2020-04-28 엘지전자 주식회사 이동 단말기 및 그것의 제어 방법
CN103677517B (zh) 2013-12-02 2016-06-29 三星电子(中国)研发中心 一种图片查找方法和装置
US10586395B2 (en) 2013-12-30 2020-03-10 Daqri, Llc Remote object detection and local tracking using visual odometry
US9264479B2 (en) 2013-12-30 2016-02-16 Daqri, Llc Offloading augmented reality processing
US9628950B1 (en) 2014-01-12 2017-04-18 Investment Asset Holdings Llc Location-based messaging
US10082926B1 (en) 2014-02-21 2018-09-25 Snap Inc. Apparatus and method for alternate channel communication initiated through a common message thread
US8909725B1 (en) 2014-03-07 2014-12-09 Snapchat, Inc. Content delivery network for ephemeral objects
KR102316846B1 (ko) * 2014-04-09 2021-10-25 삼성전자 주식회사 미디어 컨텐츠를 선별하는 방법 및 이를 구현하는 전자장치
US9276886B1 (en) 2014-05-09 2016-03-01 Snapchat, Inc. Apparatus and method for dynamically configuring application component tiles
US9396354B1 (en) 2014-05-28 2016-07-19 Snapchat, Inc. Apparatus and method for automated privacy protection in distributed images
US9537811B2 (en) 2014-10-02 2017-01-03 Snap Inc. Ephemeral gallery of ephemeral messages
IL239238B (en) 2014-06-05 2022-04-01 Mobli Tech 2010 Ltd Automatic article enrichment by social media trends
US9113301B1 (en) 2014-06-13 2015-08-18 Snapchat, Inc. Geo-location based event gallery
US9225897B1 (en) 2014-07-07 2015-12-29 Snapchat, Inc. Apparatus and method for supplying content aware photo filters
US9304235B2 (en) 2014-07-30 2016-04-05 Microsoft Technology Licensing, Llc Microfabrication
US10324733B2 (en) 2014-07-30 2019-06-18 Microsoft Technology Licensing, Llc Shutdown notifications
US10678412B2 (en) 2014-07-31 2020-06-09 Microsoft Technology Licensing, Llc Dynamic joint dividers for application windows
US10592080B2 (en) 2014-07-31 2020-03-17 Microsoft Technology Licensing, Llc Assisted presentation of application windows
US9836464B2 (en) * 2014-07-31 2017-12-05 Microsoft Technology Licensing, Llc Curating media from social connections
US9787576B2 (en) 2014-07-31 2017-10-10 Microsoft Technology Licensing, Llc Propagating routing awareness for autonomous networks
US10254942B2 (en) 2014-07-31 2019-04-09 Microsoft Technology Licensing, Llc Adaptive sizing and positioning of application windows
US9414417B2 (en) 2014-08-07 2016-08-09 Microsoft Technology Licensing, Llc Propagating communication awareness over a cellular network
US10055717B1 (en) 2014-08-22 2018-08-21 Snap Inc. Message processor with application prompts
US10423983B2 (en) 2014-09-16 2019-09-24 Snap Inc. Determining targeting information based on a predictive targeting model
US10824654B2 (en) 2014-09-18 2020-11-03 Snap Inc. Geolocation-based pictographs
US11216869B2 (en) 2014-09-23 2022-01-04 Snap Inc. User interface to augment an image using geolocation
US10284508B1 (en) 2014-10-02 2019-05-07 Snap Inc. Ephemeral gallery of ephemeral messages with opt-in permanence
US9015285B1 (en) 2014-11-12 2015-04-21 Snapchat, Inc. User interface for accessing media at a geographic location
US10402086B2 (en) 2014-11-14 2019-09-03 Lg Electronics Inc. Mobile terminal and method for controlling the same
US10311916B2 (en) 2014-12-19 2019-06-04 Snap Inc. Gallery of videos set to an audio time line
US9385983B1 (en) 2014-12-19 2016-07-05 Snapchat, Inc. Gallery of messages from individuals with a shared interest
US9754355B2 (en) 2015-01-09 2017-09-05 Snap Inc. Object recognition based photo filters
US11388226B1 (en) 2015-01-13 2022-07-12 Snap Inc. Guided personal identity based actions
US10133705B1 (en) 2015-01-19 2018-11-20 Snap Inc. Multichannel system
US9521515B2 (en) 2015-01-26 2016-12-13 Mobli Technologies 2010 Ltd. Content request by location
US9535253B2 (en) 2015-02-09 2017-01-03 Microsoft Technology Licensing, Llc Display system
US9372347B1 (en) 2015-02-09 2016-06-21 Microsoft Technology Licensing, Llc Display system
US9513480B2 (en) 2015-02-09 2016-12-06 Microsoft Technology Licensing, Llc Waveguide
US11086216B2 (en) 2015-02-09 2021-08-10 Microsoft Technology Licensing, Llc Generating electronic components
US10317677B2 (en) 2015-02-09 2019-06-11 Microsoft Technology Licensing, Llc Display system
US9827209B2 (en) 2015-02-09 2017-11-28 Microsoft Technology Licensing, Llc Display system
US9429692B1 (en) 2015-02-09 2016-08-30 Microsoft Technology Licensing, Llc Optical components
US10018844B2 (en) 2015-02-09 2018-07-10 Microsoft Technology Licensing, Llc Wearable image display system
US10223397B1 (en) 2015-03-13 2019-03-05 Snap Inc. Social graph based co-location of network users
EP4325806A3 (en) 2015-03-18 2024-05-22 Snap Inc. Geo-fence authorization provisioning
US9692967B1 (en) 2015-03-23 2017-06-27 Snap Inc. Systems and methods for reducing boot time and power consumption in camera systems
US10135949B1 (en) 2015-05-05 2018-11-20 Snap Inc. Systems and methods for story and sub-story navigation
US9881094B2 (en) 2015-05-05 2018-01-30 Snap Inc. Systems and methods for automated local story generation and curation
US20160350332A1 (en) * 2015-05-29 2016-12-01 International Business Machines Corporation Individualized on-demand image information acquisition
US9916075B2 (en) 2015-06-05 2018-03-13 Apple Inc. Formatting content for a reduced-size user interface
US9843987B2 (en) * 2015-06-15 2017-12-12 At&T Intellectual Property I, L.P. Consumer service cloud for implementing location-based services to control smart devices
US10993069B2 (en) 2015-07-16 2021-04-27 Snap Inc. Dynamically adaptive media content delivery
US10817898B2 (en) 2015-08-13 2020-10-27 Placed, Llc Determining exposures to content presented by physical objects
US9652896B1 (en) 2015-10-30 2017-05-16 Snap Inc. Image based tracking in augmented reality systems
US10474321B2 (en) 2015-11-30 2019-11-12 Snap Inc. Network resource location linking and visual content sharing
US9984499B1 (en) 2015-11-30 2018-05-29 Snap Inc. Image and point cloud based tracking and in augmented reality systems
US12411890B2 (en) 2015-12-08 2025-09-09 Snap Inc. System to correlate video data and contextual data
US10354425B2 (en) 2015-12-18 2019-07-16 Snap Inc. Method and system for providing context relevant media augmentation
KR102553886B1 (ko) 2015-12-24 2023-07-11 삼성전자주식회사 전자 장치 및 전자 장치의 이미지 제어 방법
US10285001B2 (en) 2016-02-26 2019-05-07 Snap Inc. Generation, curation, and presentation of media collections
US11023514B2 (en) 2016-02-26 2021-06-01 Snap Inc. Methods and systems for generation, curation, and presentation of media collections
US10679389B2 (en) 2016-02-26 2020-06-09 Snap Inc. Methods and systems for generation, curation, and presentation of media collections
US10339365B2 (en) 2016-03-31 2019-07-02 Snap Inc. Automated avatar generation
CN106095881A (zh) * 2016-06-07 2016-11-09 惠州Tcl移动通信有限公司 一种显示照片相应信息的方法、系统及移动终端
DK201670595A1 (en) 2016-06-11 2018-01-22 Apple Inc Configuring context-specific user interfaces
AU2017100670C4 (en) 2016-06-12 2019-11-21 Apple Inc. User interfaces for retrieving contextually relevant media content
US20170357644A1 (en) 2016-06-12 2017-12-14 Apple Inc. Notable moments in a collection of digital assets
DK201670608A1 (en) 2016-06-12 2018-01-02 Apple Inc User interfaces for retrieving contextually relevant media content
US11785161B1 (en) 2016-06-20 2023-10-10 Pipbin, Inc. System for user accessibility of tagged curated augmented reality content
US10334134B1 (en) 2016-06-20 2019-06-25 Maximillian John Suiter Augmented real estate with location and chattel tagging system and apparatus for virtual diary, scrapbooking, game play, messaging, canvasing, advertising and social interaction
US10805696B1 (en) 2016-06-20 2020-10-13 Pipbin, Inc. System for recording and targeting tagged content of user interest
US11876941B1 (en) 2016-06-20 2024-01-16 Pipbin, Inc. Clickable augmented reality content manager, system, and network
US10638256B1 (en) 2016-06-20 2020-04-28 Pipbin, Inc. System for distribution and display of mobile targeted augmented reality content
US11044393B1 (en) 2016-06-20 2021-06-22 Pipbin, Inc. System for curation and display of location-dependent augmented reality content in an augmented estate system
US11201981B1 (en) 2016-06-20 2021-12-14 Pipbin, Inc. System for notification of user accessibility of curated location-dependent content in an augmented estate
US9681265B1 (en) 2016-06-28 2017-06-13 Snap Inc. System to track engagement of media items
US10430838B1 (en) 2016-06-28 2019-10-01 Snap Inc. Methods and systems for generation, curation, and presentation of media collections with automated advertising
US10733255B1 (en) 2016-06-30 2020-08-04 Snap Inc. Systems and methods for content navigation with automated curation
US10360708B2 (en) 2016-06-30 2019-07-23 Snap Inc. Avatar based ideogram generation
US10855632B2 (en) 2016-07-19 2020-12-01 Snap Inc. Displaying customized electronic messaging graphics
CN106100983A (zh) * 2016-08-30 2016-11-09 黄在鑫 一种基于增强现实与gps定位技术的移动社交网络系统
KR102606785B1 (ko) 2016-08-30 2023-11-29 스냅 인코포레이티드 동시 로컬화 및 매핑을 위한 시스템 및 방법
CN109791702B (zh) 2016-09-23 2023-09-29 苹果公司 头像创建和编辑
US10432559B2 (en) 2016-10-24 2019-10-01 Snap Inc. Generating and displaying customized avatars in electronic messages
CN106302551A (zh) * 2016-10-26 2017-01-04 邵春满 一种网络在线虚拟旅游服务系统
CN112738408B (zh) 2016-11-07 2022-09-16 斯纳普公司 图像修改器的选择性识别和排序
US10203855B2 (en) 2016-12-09 2019-02-12 Snap Inc. Customized user-controlled media overlays
US11616745B2 (en) 2017-01-09 2023-03-28 Snap Inc. Contextual generation and selection of customized media content
US10217000B2 (en) * 2017-01-17 2019-02-26 International Business Machines Corporation Context-based extraction and information overlay for photographic images
US10454857B1 (en) 2017-01-23 2019-10-22 Snap Inc. Customized digital avatar accessories
US10915911B2 (en) 2017-02-03 2021-02-09 Snap Inc. System to determine a price-schedule to distribute media content
US11250075B1 (en) 2017-02-17 2022-02-15 Snap Inc. Searching social media content
US10319149B1 (en) 2017-02-17 2019-06-11 Snap Inc. Augmented reality anamorphosis system
US10074381B1 (en) 2017-02-20 2018-09-11 Snap Inc. Augmented reality speech balloon system
US10565795B2 (en) 2017-03-06 2020-02-18 Snap Inc. Virtual vision system
US10523625B1 (en) 2017-03-09 2019-12-31 Snap Inc. Restricted group content collection
US10582277B2 (en) 2017-03-27 2020-03-03 Snap Inc. Generating a stitched data stream
US10581782B2 (en) 2017-03-27 2020-03-03 Snap Inc. Generating a stitched data stream
US11170393B1 (en) 2017-04-11 2021-11-09 Snap Inc. System to calculate an engagement score of location based media content
US10387730B1 (en) 2017-04-20 2019-08-20 Snap Inc. Augmented reality typography personalization system
CN111010882B (zh) 2017-04-27 2023-11-03 斯纳普公司 在基于地图的社交媒体平台上的位置隐私关联
US11893647B2 (en) 2017-04-27 2024-02-06 Snap Inc. Location-based virtual avatars
US10212541B1 (en) 2017-04-27 2019-02-19 Snap Inc. Selective location-based identity communication
US10467147B1 (en) 2017-04-28 2019-11-05 Snap Inc. Precaching unlockable data elements
US10803120B1 (en) 2017-05-31 2020-10-13 Snap Inc. Geolocation based playlists
US11475254B1 (en) 2017-09-08 2022-10-18 Snap Inc. Multimodal entity identification
US10740974B1 (en) 2017-09-15 2020-08-11 Snap Inc. Augmented reality system
US10499191B1 (en) 2017-10-09 2019-12-03 Snap Inc. Context sensitive presentation of content
US10573043B2 (en) 2017-10-30 2020-02-25 Snap Inc. Mobile-based cartographic control of display content
EP4246447A3 (en) 2017-11-20 2023-11-01 Huawei Technologies Co., Ltd. Method and device for dynamically displaying icon according to background image
US11265273B1 (en) 2017-12-01 2022-03-01 Snap, Inc. Dynamic media overlay with smart widget
US11017173B1 (en) 2017-12-22 2021-05-25 Snap Inc. Named entity recognition visual context and caption data
US10678818B2 (en) 2018-01-03 2020-06-09 Snap Inc. Tag distribution visualization system
US10387487B1 (en) 2018-01-25 2019-08-20 Ikorongo Technology, LLC Determining images of interest based on a geographical location
US11507614B1 (en) 2018-02-13 2022-11-22 Snap Inc. Icon based tagging
US10885136B1 (en) 2018-02-28 2021-01-05 Snap Inc. Audience filtering system
US10979752B1 (en) 2018-02-28 2021-04-13 Snap Inc. Generating media content items based on location information
US10327096B1 (en) 2018-03-06 2019-06-18 Snap Inc. Geo-fence selection system
US10933311B2 (en) 2018-03-14 2021-03-02 Snap Inc. Generating collectible items based on location information
US11163941B1 (en) 2018-03-30 2021-11-02 Snap Inc. Annotating a collection of media content items
US10219111B1 (en) 2018-04-18 2019-02-26 Snap Inc. Visitation tracking system
US11243996B2 (en) 2018-05-07 2022-02-08 Apple Inc. Digital asset search user interface
DK180171B1 (en) 2018-05-07 2020-07-14 Apple Inc USER INTERFACES FOR SHARING CONTEXTUALLY RELEVANT MEDIA CONTENT
US11086935B2 (en) 2018-05-07 2021-08-10 Apple Inc. Smart updates from historical database changes
US11145294B2 (en) 2018-05-07 2021-10-12 Apple Inc. Intelligent automated assistant for delivering content from user experiences
US10896197B1 (en) 2018-05-22 2021-01-19 Snap Inc. Event detection system
US10679393B2 (en) 2018-07-24 2020-06-09 Snap Inc. Conditional modification of augmented reality object
US10997760B2 (en) 2018-08-31 2021-05-04 Snap Inc. Augmented reality anthropomorphization system
US10846343B2 (en) 2018-09-11 2020-11-24 Apple Inc. Techniques for disambiguating clustered location identifiers
US10803135B2 (en) 2018-09-11 2020-10-13 Apple Inc. Techniques for disambiguating clustered occurrence identifiers
US10698583B2 (en) 2018-09-28 2020-06-30 Snap Inc. Collaborative achievement interface
US10778623B1 (en) 2018-10-31 2020-09-15 Snap Inc. Messaging and gaming applications communication platform
US11199957B1 (en) 2018-11-30 2021-12-14 Snap Inc. Generating customized avatars based on location information
US10939236B1 (en) 2018-11-30 2021-03-02 Snap Inc. Position service to determine relative position to map features
US12411834B1 (en) 2018-12-05 2025-09-09 Snap Inc. Version control in networked environments
US11321411B1 (en) * 2018-12-28 2022-05-03 Meta Platforms, Inc. Systems and methods for providing content
KR102620877B1 (ko) * 2019-01-09 2024-01-05 삼성전자주식회사 이미지의 촬영 장소를 추천하는 전자 장치 및 방법
US11032670B1 (en) 2019-01-14 2021-06-08 Snap Inc. Destination sharing in location sharing system
US10939246B1 (en) 2019-01-16 2021-03-02 Snap Inc. Location-based context information sharing in a messaging system
US11294936B1 (en) 2019-01-30 2022-04-05 Snap Inc. Adaptive spatial density based clustering
US11972529B2 (en) 2019-02-01 2024-04-30 Snap Inc. Augmented reality system
US10936066B1 (en) 2019-02-13 2021-03-02 Snap Inc. Sleep detection in a location sharing system
US10838599B2 (en) 2019-02-25 2020-11-17 Snap Inc. Custom media overlay system
US10964082B2 (en) 2019-02-26 2021-03-30 Snap Inc. Avatar based on weather
US10852918B1 (en) 2019-03-08 2020-12-01 Snap Inc. Contextual information in chat
US12242979B1 (en) 2019-03-12 2025-03-04 Snap Inc. Departure time estimation in a location sharing system
US11868414B1 (en) 2019-03-14 2024-01-09 Snap Inc. Graph-based prediction for contact suggestion in a location sharing system
US11852554B1 (en) 2019-03-21 2023-12-26 Snap Inc. Barometer calibration in a location sharing system
US11249614B2 (en) 2019-03-28 2022-02-15 Snap Inc. Generating personalized map interface with enhanced icons
US11166123B1 (en) 2019-03-28 2021-11-02 Snap Inc. Grouped transmission of location data in a location sharing system
US10810782B1 (en) 2019-04-01 2020-10-20 Snap Inc. Semantic texture mapping system
DK201970535A1 (en) 2019-05-06 2020-12-21 Apple Inc Media browsing user interface with intelligently selected representative media items
US10575131B1 (en) 2019-05-30 2020-02-25 Snap Inc. Wearable device location accuracy systems
US10582453B1 (en) 2019-05-30 2020-03-03 Snap Inc. Wearable device location systems architecture
US10560898B1 (en) 2019-05-30 2020-02-11 Snap Inc. Wearable device location systems
US10893385B1 (en) 2019-06-07 2021-01-12 Snap Inc. Detection of a physical collision between two client devices in a location sharing system
US11134036B2 (en) 2019-07-05 2021-09-28 Snap Inc. Event planning in a content sharing platform
US11307747B2 (en) 2019-07-11 2022-04-19 Snap Inc. Edge gesture interface with smart interactions
US11821742B2 (en) 2019-09-26 2023-11-21 Snap Inc. Travel based notifications
US11218838B2 (en) 2019-10-31 2022-01-04 Snap Inc. Focused map-based context information surfacing
US10880496B1 (en) 2019-12-30 2020-12-29 Snap Inc. Including video feed in message thread
US11429618B2 (en) 2019-12-30 2022-08-30 Snap Inc. Surfacing augmented reality objects
US11128715B1 (en) 2019-12-30 2021-09-21 Snap Inc. Physical friend proximity in chat
US11169658B2 (en) 2019-12-31 2021-11-09 Snap Inc. Combined map icon with action indicator
US11343323B2 (en) 2019-12-31 2022-05-24 Snap Inc. Augmented reality objects registry
US11228551B1 (en) 2020-02-12 2022-01-18 Snap Inc. Multiple gateway message exchange
US11516167B2 (en) 2020-03-05 2022-11-29 Snap Inc. Storing data based on device location
US11619501B2 (en) 2020-03-11 2023-04-04 Snap Inc. Avatar based on trip
US11430091B2 (en) 2020-03-27 2022-08-30 Snap Inc. Location mapping for large scale augmented-reality
US10956743B1 (en) 2020-03-27 2021-03-23 Snap Inc. Shared augmented reality system
US11411900B2 (en) 2020-03-30 2022-08-09 Snap Inc. Off-platform messaging system
US11483267B2 (en) 2020-06-15 2022-10-25 Snap Inc. Location sharing using different rate-limited links
US11314776B2 (en) 2020-06-15 2022-04-26 Snap Inc. Location sharing using friend list versions
US11290851B2 (en) 2020-06-15 2022-03-29 Snap Inc. Location sharing using offline and online objects
US11503432B2 (en) 2020-06-15 2022-11-15 Snap Inc. Scalable real-time location sharing framework
US11308327B2 (en) 2020-06-29 2022-04-19 Snap Inc. Providing travel-based augmented reality content with a captured image
US11349797B2 (en) 2020-08-31 2022-05-31 Snap Inc. Co-location connection service
US12469182B1 (en) 2020-12-31 2025-11-11 Snap Inc. Augmented reality content to locate users within a camera user interface
US11606756B2 (en) 2021-03-29 2023-03-14 Snap Inc. Scheduling requests for location data
JP7600829B2 (ja) * 2021-03-31 2024-12-17 トヨタ自動車株式会社 情報処理装置、プログラム及び情報処理方法
US11645324B2 (en) 2021-03-31 2023-05-09 Snap Inc. Location-based timeline media content system
US12026362B2 (en) 2021-05-19 2024-07-02 Snap Inc. Video editing application for mobile devices
US11829834B2 (en) 2021-10-29 2023-11-28 Snap Inc. Extended QR code
US12166839B2 (en) 2021-10-29 2024-12-10 Snap Inc. Accessing web-based fragments for display
US12499628B2 (en) 2022-04-19 2025-12-16 Snap Inc. Augmented reality experiences with dynamically loadable assets
US12001750B2 (en) 2022-04-20 2024-06-04 Snap Inc. Location-based shared augmented reality experience system
US12243167B2 (en) 2022-04-27 2025-03-04 Snap Inc. Three-dimensional mapping using disparate visual datasets
US12164109B2 (en) 2022-04-29 2024-12-10 Snap Inc. AR/VR enabled contact lens
US11973730B2 (en) 2022-06-02 2024-04-30 Snap Inc. External messaging function for an interaction system
US12020384B2 (en) 2022-06-21 2024-06-25 Snap Inc. Integrating augmented reality experiences with other components
US12020386B2 (en) 2022-06-23 2024-06-25 Snap Inc. Applying pregenerated virtual experiences in new location
CN117793522A (zh) * 2022-09-28 2024-03-29 华为技术有限公司 一种图片拍摄与分享方法及电子设备
US12475658B2 (en) 2022-12-09 2025-11-18 Snap Inc. Augmented reality shared screen space
US12265664B2 (en) 2023-02-28 2025-04-01 Snap Inc. Shared augmented reality eyewear device with hand tracking alignment
US12361664B2 (en) 2023-04-19 2025-07-15 Snap Inc. 3D content display using head-wearable apparatuses

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20080044610A (ko) * 2006-11-17 2008-05-21 고려대학교 산학협력단 지피에스 이미지 검색 방법, 지리적 위치 서비스 기반의지피에스 이미지 검색 방법, 블로그 서비스 기반의지피에스 이미지 검색 방법 및 지역별 블로그 서비스 제공방법
KR20110132771A (ko) * 2010-06-03 2011-12-09 엘지전자 주식회사 이동 단말기 및 그 제어 방법
KR20120003323A (ko) * 2010-07-02 2012-01-10 엘지전자 주식회사 이동단말기 및 그의 증강현실을 이용한 정보 표시 방법

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4093833B2 (ja) * 2002-09-25 2008-06-04 シャープ株式会社 電子機器
GB2404749B (en) * 2003-08-01 2005-10-05 Sec Dep Acting Through Ordnanc Smart symbols
JP2007121548A (ja) * 2005-10-26 2007-05-17 Olympus Imaging Corp 画像管理装置、画像管理プログラム、画像管理方法及び記録媒体
US7797019B2 (en) * 2006-03-29 2010-09-14 Research In Motion Limited Shared image database with geographic navigation
JP5083150B2 (ja) * 2008-09-30 2012-11-28 カシオ計算機株式会社 画像処理装置、及びその処理順設定方法、処理順設定プログラム
EP2378392B1 (en) * 2008-12-25 2016-04-13 Panasonic Intellectual Property Management Co., Ltd. Information displaying apparatus and information displaying method
TWI649730B (zh) * 2009-02-20 2019-02-01 日商尼康股份有限公司 資訊取得系統、攜帶型終端、伺服器、以及攜帶資訊機器用程式
KR101612785B1 (ko) * 2009-06-01 2016-04-26 엘지전자 주식회사 차량 내비게이션 방법 및 그 장치
WO2011063034A1 (en) * 2009-11-17 2011-05-26 Rtp, Llc Systems and methods for augmented reality
US9122707B2 (en) * 2010-05-28 2015-09-01 Nokia Technologies Oy Method and apparatus for providing a localized virtual reality environment
KR101606727B1 (ko) * 2010-06-25 2016-03-28 엘지전자 주식회사 휴대 단말기 및 그 동작 방법
US9910866B2 (en) * 2010-06-30 2018-03-06 Nokia Technologies Oy Methods, apparatuses and computer program products for automatically generating suggested information layers in augmented reality
JP5571498B2 (ja) * 2010-08-09 2014-08-13 Necマグナスコミュニケーションズ株式会社 周囲情報検索装置及び周囲情報検索方法
US10127606B2 (en) * 2010-10-13 2018-11-13 Ebay Inc. Augmented reality system and method for visualizing an item
US8698843B2 (en) * 2010-11-02 2014-04-15 Google Inc. Range of focus in an augmented reality application
US9342927B2 (en) * 2010-11-08 2016-05-17 Sony Corporation Augmented reality system for position identification
US9342928B2 (en) * 2011-06-29 2016-05-17 Honeywell International Inc. Systems and methods for presenting building information
JP5854714B2 (ja) * 2011-09-05 2016-02-09 キヤノン株式会社 表示制御装置、表示制御装置の制御方法、プログラム
US8959440B2 (en) * 2011-09-08 2015-02-17 Citizen, Inc. Inner-circle social sourcing
US8917913B2 (en) * 2011-09-22 2014-12-23 International Business Machines Corporation Searching with face recognition and social networking profiles
KR101873525B1 (ko) * 2011-12-08 2018-07-03 삼성전자 주식회사 휴대단말기의 콘텐츠 표시장치 및 방법
US20130275411A1 (en) * 2012-04-13 2013-10-17 Lg Electronics Inc. Image search method and digital device for the same
US9020278B2 (en) * 2012-06-08 2015-04-28 Samsung Electronics Co., Ltd. Conversion of camera settings to reference picture
US9367870B2 (en) * 2012-10-05 2016-06-14 Sap Se Determining networked mobile device position and orientation for augmented-reality window shopping
US9449343B2 (en) * 2012-10-05 2016-09-20 Sap Se Augmented-reality shopping using a networked mobile device
US9600351B2 (en) * 2012-12-14 2017-03-21 Microsoft Technology Licensing, Llc Inversion-of-control component service models for virtual environments
US9761139B2 (en) * 2012-12-20 2017-09-12 Wal-Mart Stores, Inc. Location based parking management system
US9383218B2 (en) * 2013-01-04 2016-07-05 Mx Technologies, Inc. Augmented reality financial institution branch locator

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20080044610A (ko) * 2006-11-17 2008-05-21 고려대학교 산학협력단 지피에스 이미지 검색 방법, 지리적 위치 서비스 기반의지피에스 이미지 검색 방법, 블로그 서비스 기반의지피에스 이미지 검색 방법 및 지역별 블로그 서비스 제공방법
KR20110132771A (ko) * 2010-06-03 2011-12-09 엘지전자 주식회사 이동 단말기 및 그 제어 방법
KR20120003323A (ko) * 2010-07-02 2012-01-10 엘지전자 주식회사 이동단말기 및 그의 증강현실을 이용한 정보 표시 방법

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102120786B1 (ko) 2013-12-31 2020-06-09 주식회사 케이티 제약없는 시공간 위치 기반 비디오 컨텐츠를 제공하는 방법 및 장치
KR20150079005A (ko) * 2013-12-31 2015-07-08 주식회사 케이티 제약없는 시공간 위치 기반 비디오 컨텐츠를 제공하는 방법 및 장치
KR20170102084A (ko) * 2016-02-29 2017-09-07 한국전자통신연구원 증강 현실 서비스 제공 장치 및 방법
KR102010252B1 (ko) * 2016-02-29 2019-08-14 한국전자통신연구원 증강 현실 서비스 제공 장치 및 방법
KR20180060865A (ko) * 2016-11-29 2018-06-07 김강 위치 정보가 수록된 정보 관리가 가능한 통신 단말기 및 통신단말기용 어플리케이션의 정보 제공 방법
KR20190040589A (ko) * 2017-10-11 2019-04-19 이태홍 증강현실을 이용한 전동휠의 철로 주행장치
KR101988128B1 (ko) * 2017-10-11 2019-06-11 이태홍 증강현실을 이용한 전동휠의 철로 주행장치
CN109541641A (zh) * 2018-12-12 2019-03-29 青岛捷利达地理信息集团有限公司 一种具有gps导航与信息集成功能的便携式海域管理终端系统
US11678047B2 (en) 2019-02-19 2023-06-13 Samsung Electronics Co., Ltd. Electronic device and method providing content associated with image to application
US12520034B2 (en) 2019-02-19 2026-01-06 Samsung Electronics Co., Ltd. Electronic device and method providing content associated with image to application
KR102515263B1 (ko) 2022-12-20 2023-03-29 주식회사 아티젠스페이스 휴대 단말 및 시스템
KR102580250B1 (ko) 2022-12-20 2023-09-19 주식회사 아티젠스페이스 휴대 단말 및 시스템
KR20240143250A (ko) 2023-03-24 2024-10-02 주식회사 아티젠스페이스 휴대 단말 및 시스템
KR20240143249A (ko) 2023-03-24 2024-10-02 주식회사 아티젠스페이스 휴대 단말 및 시스템

Also Published As

Publication number Publication date
US9043318B2 (en) 2015-05-26
US20130198176A1 (en) 2013-08-01

Similar Documents

Publication Publication Date Title
KR101303166B1 (ko) 이동 단말기 및 그의 사진 검색방법
US8515398B2 (en) Mobile terminal and method for managing phone book data thereof
US9477687B2 (en) Mobile terminal and metadata setting method thereof
CA2637541C (en) Communication device and method of providing location information therein
EP2051491B1 (en) Communication device and method of providing location information therein
EP2051490B1 (en) Communication device and method of providing location information therein
US8515456B2 (en) Communication device and method of providing location information therein
KR100983027B1 (ko) 이동 단말기 및 이를 이용한 데이터 송수신 방법
US10048833B2 (en) Mobile terminal providing an improved memo function for various separate applications and method for controlling the same
US8326354B2 (en) Portable terminal for explaining information of wine and control method thereof
US10785324B2 (en) Method for managing picture file and terminal, computer storage medium
CN105357370A (zh) 一种聊天消息定位方法及终端
CN106331145A (zh) 一种信息推荐方法、设备和系统
US9245042B2 (en) Method and apparatus for searching and storing contents in portable terminal
US20110225151A1 (en) Methods, devices, and computer program products for classifying digital media files based on associated geographical identification metadata
CN106385502B (zh) 一种照片整理方法和一种移动终端
CN105915592A (zh) 一种信息处理方法、移动终端和服务器
KR101977081B1 (ko) 스크롤 바를 이용한 컨텐츠 제어 기능을 갖는 이동 단말기 및 그의 제어방법
CN105208203B (zh) 一种移动终端、数据信息管理系统及方法
KR101973994B1 (ko) 이동 단말기 및 그의 그룹 태그 활용 방법
KR101726225B1 (ko) Ufid를 통한 정보제공 기능을 갖는 이동 단말기 및 그 제공방법
CN106814967B (zh) 一种图库中检索图片的装置和方法
CN106855887A (zh) 一种文件管理的方法、装置和终端
CN106658197B (zh) 一种视频播放方法、装置和终端
KR101801191B1 (ko) 이동 단말기 및 그의 폰북 갱신 방법

Legal Events

Date Code Title Description
A201 Request for examination
PA0109 Patent application

St.27 status event code: A-0-1-A10-A12-nap-PA0109

PA0201 Request for examination

St.27 status event code: A-1-2-D10-D11-exm-PA0201

D13-X000 Search requested

St.27 status event code: A-1-2-D10-D13-srh-X000

D14-X000 Search report completed

St.27 status event code: A-1-2-D10-D14-srh-X000

E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

St.27 status event code: A-1-2-D10-D21-exm-PE0902

P11-X000 Amendment of application requested

St.27 status event code: A-2-2-P10-P11-nap-X000

P13-X000 Application amended

St.27 status event code: A-2-2-P10-P13-nap-X000

E701 Decision to grant or registration of patent right
PE0701 Decision of registration

St.27 status event code: A-1-2-D10-D22-exm-PE0701

GRNT Written decision to grant
PR0701 Registration of establishment

St.27 status event code: A-2-4-F10-F11-exm-PR0701

PR1002 Payment of registration fee

St.27 status event code: A-2-2-U10-U11-oth-PR1002

Fee payment year number: 1

PG1601 Publication of registration

St.27 status event code: A-4-4-Q10-Q13-nap-PG1601

PN2301 Change of applicant

St.27 status event code: A-5-5-R10-R13-asn-PN2301

St.27 status event code: A-5-5-R10-R11-asn-PN2301

L13-X000 Limitation or reissue of ip right requested

St.27 status event code: A-2-3-L10-L13-lim-X000

U15-X000 Partial renewal or maintenance fee paid modifying the ip right scope

St.27 status event code: A-4-4-U10-U15-oth-X000

FPAY Annual fee payment

Payment date: 20160722

Year of fee payment: 4

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 4

FPAY Annual fee payment

Payment date: 20170724

Year of fee payment: 5

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 5

FPAY Annual fee payment

Payment date: 20180724

Year of fee payment: 6

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 6

P22-X000 Classification modified

St.27 status event code: A-4-4-P10-P22-nap-X000

FPAY Annual fee payment

Payment date: 20190724

Year of fee payment: 7

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 7

PN2301 Change of applicant

St.27 status event code: A-5-5-R10-R13-asn-PN2301

St.27 status event code: A-5-5-R10-R11-asn-PN2301

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 8

P22-X000 Classification modified

St.27 status event code: A-4-4-P10-P22-nap-X000

PC1903 Unpaid annual fee

St.27 status event code: A-4-4-U10-U13-oth-PC1903

Not in force date: 20210829

Payment event data comment text: Termination Category : DEFAULT_OF_REGISTRATION_FEE

PC1903 Unpaid annual fee

St.27 status event code: N-4-6-H10-H13-oth-PC1903

Ip right cessation event data comment text: Termination Category : DEFAULT_OF_REGISTRATION_FEE

Not in force date: 20210829