[go: up one dir, main page]

JP2017033401A - Customer information collection device, customer information collection system and customer information collection method - Google Patents

Customer information collection device, customer information collection system and customer information collection method Download PDF

Info

Publication number
JP2017033401A
JP2017033401A JP2015154398A JP2015154398A JP2017033401A JP 2017033401 A JP2017033401 A JP 2017033401A JP 2015154398 A JP2015154398 A JP 2015154398A JP 2015154398 A JP2015154398 A JP 2015154398A JP 2017033401 A JP2017033401 A JP 2017033401A
Authority
JP
Japan
Prior art keywords
customer
product
information
customer information
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2015154398A
Other languages
Japanese (ja)
Inventor
清人 寒河江
Kiyoto Sakae
清人 寒河江
高弘 清野
Takahiro Kiyono
高弘 清野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
impactTV
Impacttv Inc
Original Assignee
impactTV
Impacttv Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by impactTV, Impacttv Inc filed Critical impactTV
Priority to JP2015154398A priority Critical patent/JP2017033401A/en
Publication of JP2017033401A publication Critical patent/JP2017033401A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Cash Registers Or Receiving Machines (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

PROBLEM TO BE SOLVED: To solve the problem in which information on customers not purchasing products and the like is not obtained, observation of sales clerks of the stores is low in reliability of information on the non-purchasing customer, interest or needs of the customer cannot be correctly obtained based on only behaviors of the customer obtained from cameras, and further, from the camera only installed in the stores or other input information, it cannot be checked how much the customer shows understanding with respect to products exhibited on shelves, and is willing to purchase on the basis of the information.SOLUTION: On a product shelf in a store selling the product, information about a product from devices outputting video images or sounds adjacent to the product is provided to customers, and a sensor captures reaction indicated by customers with respect to the information, and thereby deeper data is obtained that is owned by the customer with respect to the product. The data is collected at a plurality of stores, and thereby, a broad-range product strategy such as its product life, a next product planning, a sales strategy and the like can be obtained.SELECTED DRAWING: Figure 1

Description

本発明は、顧客に商品等もしくはサービス(以降、商品等)を提供する店舗の商品棚前通路における顧客の属性(性別や年齢層など)と顧客が提供された商品等に対して下した購入・非購入の判断およびその時の顧客の判断理由や関心事等の顧客情報を、顧客情報収集装置に接続されたカメラ、マイク等の入力機器により入手した顧客の行動情報から推定し、必要に応じてその顧客の行動情報を複数の店舗より収集し、顧客のその商品等に対する関心や購入判断を推定し、その商品等の商品戦略、販売戦略等に生かすための、顧客情報収集装置、顧客情報収集システムおよび顧客情報収集方法に関するものである。   The present invention provides purchases made for customer attributes (gender, age group, etc.) and merchandise provided by the customer in the store shelf passage of a store that provides merchandise or services (hereinafter referred to as merchandise) to the customer.・ Customer information such as non-purchase decisions, customer judgment reasons and concerns at that time are estimated from customer behavior information obtained from cameras, microphones and other input devices connected to the customer information collection device, and as necessary Customer information collection device, customer information to collect customer behavior information from multiple stores, estimate customer's interest in the product etc. and purchase decision, and use it for product strategy, sales strategy etc. of the product etc. The present invention relates to a collection system and a customer information collection method.

店舗において販売する商品等について、商品等の企画からその商品等の販売戦略、そしてブランド戦略を策定する上で、顧客がその商品等に対しどのような理由で購入・非購入を決定するか、そして、例え非購入の場合でもどのような商品等の特徴や仕様に対して興味を示したか等の顧客が有する顧客のその商品等に対する顧客情報は、その商品等を製造・販売する事業者にとって非常に重要な情報である。それは、そのような顧客情報が商品等を事業展開する事業者が市場の動向を知り、現在販売している商品等のより効率的な販売戦略を立案したり、また、次期商品等を企画したりする上で必須な情報であり、さらには、その商品等を販売する事業主のブランドをより高めそしてより強固にするためにも、大変重要な情報である。   The reason why customers decide whether to purchase or not purchase products, etc., in the planning of products, etc., from the planning of products, etc. And even if the product is not purchased, the customer information about the product, etc. of the customer that the customer has expressed such as what features and specifications of the product, etc., is for the business that manufactures and sells the product etc. This is very important information. This is because such customer information allows businesses that develop products etc. to know the trends in the market and formulate more efficient sales strategies for the products that are currently being sold, etc. This information is indispensable in order to improve the brand of the business owner who sells the product, and is very important information.

従来、このような顧客情報を得るのに、商品等にアンケートを同封しその回答を顧客に求めるのが通例であった。   Conventionally, in order to obtain such customer information, it has been usual to enclose a questionnaire with products and ask the customer for an answer.

このアンケートによる顧客情報を入手する方法では、購入した顧客が有する顧客情報を入手することは出来るものの、購入しなかった顧客がなぜ購入しなかったか、という理由等の顧客情報は知ることが困難であった。   In this method of obtaining customer information by questionnaire, customer information possessed by the purchased customer can be obtained, but it is difficult to know the customer information such as the reason why the customer who did not purchase did not purchase. there were.

また、顧客がアンケートに回答するために、顧客の余計な時間を必要とするため顧客から回答を得る割合が小さくなったり、また、例え回答が得られても、顧客が本当の気持ちをアンケートに回答しない可能性があり、信頼性の高い顧客情報にはなり得なかった。   In addition, since the customer needs extra time to answer the questionnaire, the rate of obtaining answers from the customer is reduced, and even if an answer is obtained, the customer can see the true feelings in the questionnaire. There was a possibility of not answering, and it could not be reliable customer information.

また、購入しなかった顧客がなぜ購入しないかを知ろうとして、顧客の店舗における行動を販売店の店員が観察して、なぜ顧客がその商品等を購入しないか推定することも行われてきたが、この推定は店員の個性に依存し、信頼性の高い顧客判断関心情報にはなり得なかった。また情報の量を増やすには大勢の人間を動員する必要があり、高額の費用がかかるという問題があった。   In addition, in order to know why a customer who did not purchase does not purchase, the store clerk observes the behavior of the customer's store and estimates why the customer does not purchase the product. However, this estimate depends on the individuality of the store clerk and could not be reliable customer judgment interest information. In addition, in order to increase the amount of information, it was necessary to mobilize a large number of people, and there was a problem that it was expensive.

近年、これらの要求を満たすために、コンピュータおよび各種入力機器を用いて、店舗に来店した顧客の属性を入手したり、顧客の行動パターンを入手したり、さらに顧客のより詳細な行動を分析して、商品等の被注目度に着目する、等の店舗における顧客の行動データを効率的に入手しようとするいくつかの試みが行われている。   In recent years, in order to satisfy these demands, we used computers and various input devices to obtain the attributes of customers who visited the store, to obtain customer behavior patterns, and to analyze more detailed behaviors of customers. Some attempts have been made to efficiently obtain customer behavior data in stores such as focusing on the degree of attention of products and the like.

第1の試みは、購入データが直接得られるPOSレジスタのところで、カメラを設置し購入顧客の属性を得て、商品の顧客情報を自動に得ようとする方法である(特許文献1)。   The first attempt is a method of automatically obtaining customer information of a product by installing a camera at a POS register where purchase data can be directly obtained, obtaining attributes of the purchased customer (Patent Document 1).

例えば、特許文献1によれば、商品の販売時情報を取得可能なPOSレジスタと、商品購入時の顧客の姿をカメラによって撮影することにより、どのような顧客がその商品を購入したかデータ化する。この際、顧客の属性を判断するのに顧客のプライバーシー侵害にならないような各種処理が撮影された映像に加えられる。このシステムによって、従来人が行っていた、どのような顧客がどのような商品を購入したかという、顧客リストのデータ化には大きな進展が得られた。   For example, according to Patent Literature 1, a POS register that can acquire information on the sale of a product and a customer's purchase at the time of product purchase are photographed with a camera, thereby converting the customer who purchased the product into data. To do. At this time, in order to determine the attributes of the customer, various processes that do not infringe on the privacy of the customer are added to the captured video. This system has made great progress in the data conversion of customer lists, such as what customers have purchased what products, which has been done by conventional people.

しかし、このシステムでは、購入した顧客の属性からなるデータは得ることができるが、購入しなかった顧客に関するデータを得ることが出来ない。例えば、購入しなかった顧客がどの位存在していたか、その理由が何であったかを知ることは出来ない。   However, in this system, data consisting of attributes of purchased customers can be obtained, but data relating to customers who did not purchase cannot be obtained. For example, it is not possible to know how many customers did not purchase and why.

また、購入した顧客がどの程度購入決断に迷ったか、またどのような仕様に注目して購入を決めたか、などのより詳細な顧客情報に関するデータは得られない、という課題が存在していた。   In addition, there is a problem that data regarding more detailed customer information such as how much the purchased customer is confused about the purchase decision and what kind of specification is focused on and decides to purchase cannot be obtained.

次の試みは、商品を販売する店舗内の通路や商品の前の場所における顧客の行動をカメラ等で撮影して、この映像情報から顧客のトラッキングデータを得て、これらのデータから、その商品の店舗における販売促進に活用しようとするものである。(特許文献2)   The next attempt was to capture the customer's tracking data from this video information by taking a picture of the customer's behavior in the aisle in the store where the product is sold or in front of the product. It is intended to be used for sales promotion in other stores. (Patent Document 2)

例えば、特許文献2によれば、商品棚前通路に顧客の行動を撮影するカメラが設置され、商品にはICタグが付され、店舗に設置されたICタグ読取装置が設置されている。これらの機器によって顧客の店舗内における行動、商品棚における行動、商品を携帯しての顧客の移動、に関するデータ収集可能とした。また、商品棚に設置された顧客情報収集から商品の広告を流すことにより販売促進をすることを可能にした。   For example, according to Patent Document 2, a camera for photographing a customer's behavior is installed in a passage in front of a product shelf, an IC tag is attached to the product, and an IC tag reader installed in a store is installed. With these devices, it was possible to collect data related to customer behavior in stores, behavior in merchandise shelves, and customer movement with products. In addition, sales can be promoted by running advertisements of products from customer information collection installed on product shelves.

このシステムは、商品を購入しなかった顧客を把握することが可能となり、従来よりはより詳細な顧客の商品に対する判断情報が得られるようになった。   This system makes it possible to grasp customers who have not purchased a product, and more detailed judgment information about the product of the customer can be obtained than before.

しかし、より質の高い情報である、顧客がその商品に対してなぜ購入の判断をしたのか、もしくは非購入の判断をしたのか、また、顧客がその商品のどのような仕様や特徴に興味を有したのか、またどのような仕様や特徴が気に入らなかったのか、等のより質の高い顧客情報に関するデータは得られない、という課題が存在していた。   However, the quality information, why the customer made a purchase decision for the product, or the non-purchase decision, and what specifications and features of the product the customer was interested in There was a problem that data on higher-quality customer information such as whether they had it, what specifications and features they did not like, etc. could not be obtained.

特許第4230049号公報Japanese Patent No. 4230049 特開2014−56356号公報JP 2014-56356 A

解決しようとする課題は、商品等にアンケートを入れる方法では商品等を購入しなかった顧客の情報が得られない、店舗の店員の観察では購入しなかった顧客の情報の信頼性が低い、カメラから得た顧客の単なる行動からでは顧客が有する関心や要求をより正確に知ることが出来ない、というものであった。   The problem to be solved is that the information of customers who did not purchase products cannot be obtained by putting a questionnaire into the products, etc., the information of customers who did not purchase by observation of store clerk is low in reliability, camera It is said that the customer's interests and demands cannot be known more accurately from the mere behavior of the customer obtained from.

また、単に店頭に設置したカメラやその他の入力情報からでは、顧客の通過行為は把握できても、展示されている商品等に対してどの程度理解できているか、そしてその情報に基づき購入したいと考えているかどうか確認できない点である。そして、これらの情報がないと、顧客が求める機能、仕様、価格等、生産業者が商品企画をする上で真に知りたい情報を得ることができなかった。   Also, even if you can grasp the customer's passing behavior from the camera and other input information installed at the store, you can understand how much the products on display are understood, and you want to purchase based on that information It is a point that cannot be confirmed whether it is thinking. Without these pieces of information, it was impossible to obtain information that the producers really wanted to know when planning a product, such as the functions, specifications, and prices required by customers.

本発明は、このような課題を解決するためになされたものであり、その目的は、販売店で展示されている顧客の行動を詳細に把握し、この行動から顧客がどのように考えて商品等の購入や非購入の判断をしたか等のより詳細な顧客情報を信頼性高く入手できる装置と方法を提供するものである。   The present invention has been made in order to solve such a problem, and its purpose is to grasp in detail the behavior of the customer displayed at the store and how the customer thinks about the behavior from this behavior. It is an object of the present invention to provide an apparatus and method that can obtain more detailed customer information such as whether or not a purchase or non-purchase has been determined.

上記課題を解決するために、本発明に係る顧客情報収集装置およびこれを用いた顧客情報収集システムおよび顧客情報収集方法は、以下のものを提供する。   In order to solve the above-described problems, a customer information collecting apparatus, a customer information collecting system and a customer information collecting method using the same according to the present invention provide the following.

(1) 店舗に設置された商品棚に商品と隣接して設置される顧客情報収集装置において、前記顧客情報収集装置の一部であるPC部分に、顧客に対して提供する商品の情報を作成する商品情報提供部と、商品棚の前の通路を通行中の顧客の人数のカウントをする通行顧客人数カウント部、商品棚の前の通路を通行中の顧客が前記顧客情報収集装置の映像表示部の画面を視認したことを判断する顧客視認判断部と、前期視認した顧客の属性を推定する顧客属性推定部と、前期視認した顧客が前記顧客情報収集装置もしくは顧客情報収集装置に隣接されて設置されている該当商品に近づくことを判断する顧客接近判断部と、接近した顧客が前記設置されている該当商品を手に取ったかを判断する商品接触判断部と、この商品を精算のための場所に持ち運んだかを判断する商品購入判断部、からなるソフトウェアを含み、前記の商品情報提供部から提供される情報を映し出す映像表示部、PC部分に映像を取り込むカメラ、顧客の手を認識するセンサーを構成要素として含む顧客情報収集装置。   (1) In a customer information collection device installed adjacent to a product on a product shelf installed in a store, information on the product to be provided to the customer is created on the PC portion that is a part of the customer information collection device. Product information providing unit, a passing customer number counting unit for counting the number of customers passing through the passage in front of the product shelf, and a video display of the customer information collecting device by the customer passing through the passage in front of the product shelf A customer visual recognition determination unit that determines that the screen of the part has been visually recognized, a customer attribute estimation unit that estimates an attribute of the customer viewed in the previous period, and the customer visually recognized in the previous period are adjacent to the customer information collection device or the customer information collection device A customer approach determining unit that determines that the product is close to the installed product, a product contact determining unit that determines whether the approaching customer has picked up the installed product, and the product for settlement place It includes software consisting of a product purchase determination unit that determines whether it has been carried, and includes a video display unit that displays information provided by the product information providing unit, a camera that captures video on the PC portion, and a sensor that recognizes the customer's hand Customer information collection device included as an element.

本発明によれば、商品展示前の通路を通行中の顧客の人数、通行中の顧客が通路の横に展示されている商品に関心があるか否か、そして、関心がある顧客がさらに商品の詳細な説明を求めているか否か、そして、この顧客が実際に商品を手にとって実際に商品を確認しているか否か、そして、その商品を購入するために商品棚から持ち運んだか否か、そしてこの顧客の属性である、性別、概略年齢を知ることが出来る。   According to the present invention, the number of customers passing through the passage before the product display, whether the passing customer is interested in the product displayed beside the passage, and the interested customer Whether this customer wants a detailed description of the item, whether the customer actually picked up the item, actually checked the item, and whether it was carried from the item shelf to purchase the item, And you can know the gender and approximate age that are the attributes of this customer.

(2) 前記商品情報提供部が、前記顧客視認判断部の結果、前記顧客属性推定部の結果、前記顧客接近判断部の結果、前記商品接触判断部の結果の少なくともいずれか一つの結果に対応して、提供する内容をインターラクティブに変化させることを特徴とする顧客情報収集装置。   (2) The product information providing unit corresponds to at least one of the result of the customer visual recognition determination unit, the result of the customer attribute estimation unit, the result of the customer approach determination unit, and the result of the product contact determination unit. And the customer information collection device characterized by changing the contents to provide interactively.

本発明によれば、顧客に対して一律の情報を提供するのではなく、顧客の関心、属性、に合わせて、顧客情報収集から提供する情報をインターラクティブに変えることができ、より詳細に顧客が関心を寄せる情報を収集することが出来る。   According to the present invention, it is possible to interactively change the information provided from the customer information collection according to the customer's interests and attributes, instead of providing uniform information to the customer. You can collect information that interests you.

(3) 前記商品情報提供部により提供された情報を映し出す映像表示部の画面を顧客が視認したかを判断する顧客視認判断部が、前記カメラによって撮影された映像情報から顧客の顔の特徴点を抽出する特徴点抽出部と、この特徴点の動きからこの顧客が商品の方を向いたかを判断する顧客顔面正対判断部と、を含むことを特徴とする顧客情報収集装置。   (3) A customer visual recognition determination unit that determines whether a customer visually recognizes a screen of a video display unit that displays the information provided by the product information providing unit is a feature point of a customer's face from the video information captured by the camera A customer information collection device comprising: a feature point extraction unit that extracts a customer face, and a customer face confrontation determination unit that determines whether the customer is facing the product from the movement of the feature point.

本発明によれば、商品展示前の通路を通行中の顧客が通路の横に展示されている商品に関心があるか否かは、カメラに撮影された顧客の映像からコンピュータ処理で特徴点の動きから判断されるため、そのデータには信頼性が高く、かつ、購入しなかった客が全く関心が無かったのか、関心はあるものの購入までには至らなかったのか、という重要な顧客情報を得ることができる。   According to the present invention, whether or not a customer who is passing through a passage before displaying a product is interested in the product displayed beside the passage is determined by a computer process from a customer image captured by a camera. Because it is judged from the movement, the data is highly reliable, and important customer information such as whether the customer who did not purchase was not interested at all or whether it was interested but did not reach the purchase Can be obtained.

(4) 前記顧客視認判断部で視認した顧客の抽出された顔の特徴点および顧客の顔の輪郭形状から、顧客の性別、年齢層、を推定する顧客属性推定部を含むことを特徴とする顧客情報収集装置。   (4) It includes a customer attribute estimation unit for estimating the sex and age group of a customer from the extracted facial feature points of the customer visually recognized by the customer visual recognition determination unit and the outline shape of the customer's face. Customer information collection device.

本発明によれば、商品展示前の通路を通行中の顧客のうち、商品に関心がある顧客の属性が、カメラに撮影された顧客の映像からコンピュータ処理で特徴点や輪郭形状、等から判断されるため、そのデータには信頼性が高く、かつ、購入判断した顧客、購入しなかった顧客、等の詳細な分類が属性毎に行うことができる。   According to the present invention, the attributes of the customers who are interested in the product among the customers who are passing through the aisle before the product display are judged from the feature points, the contour shape, etc. by computer processing from the image of the customer photographed by the camera. Therefore, the data is highly reliable, and detailed classification such as a customer who has made a purchase decision and a customer who has not made a purchase can be performed for each attribute.

(5) 前記顧客接近判断部は、前記カメラによって撮影された映像情報から捕捉された顧客の輪郭形状が当初の形状より一定値を超えたことによって顧客が接近したと判断することを特徴とする顧客情報収集装置。   (5) The customer approach determination unit determines that the customer has approached when the contour shape of the customer captured from the video information captured by the camera exceeds a certain value from the initial shape. Customer information collection device.

本発明によれば、商品展示前の通路を通行中の顧客が通路の横に展示されている商品にさらに関心があるか否かは、カメラに撮影された顧客の映像の大小から接近具合が判断されるため、そのデータには信頼性が高く、通路で視認したうちのどの位の割合の顧客が商品の方に近づいたかという重要な顧客情報を得ることができる。   According to the present invention, whether or not a customer who is passing through a passage before displaying a product is more interested in the product displayed beside the passage depends on the degree of access from the size of the customer's image captured by the camera. As a result, the data is highly reliable, and it is possible to obtain important customer information indicating how much of the customers viewed in the passage approached the product.

(6) 前記顧客情報収集装置は、映像表示部の周辺部にドップラーセンサーを有し、前記顧客接近判断部は、ドップラーセンサーによって検出されるドップラー量が一定値を超えたことによって接近したと判断することを特徴とする顧客情報収集装置。   (6) The customer information collection device includes a Doppler sensor in a peripheral portion of the video display unit, and the customer approach determination unit determines that the approach has occurred because the Doppler amount detected by the Doppler sensor exceeds a certain value. A customer information collecting device characterized by:

本発明によれば、商品展示前の通路を通行中の顧客が通路の横に展示されている商品にさらに関心があるか否かは、ドップラーセンサーによってドップラー波照射エリア内に物体(手、腕)が入ってきたことを検出され、顧客が商品に接近したか否か判断されるため、そのデータには信頼性が高く、通路で視認したうちのどの位の割合の顧客が商品の方に近づいたかという重要な顧客情報を得ることができる。   According to the present invention, whether or not a customer who is passing through a passage before displaying a product is more interested in the product displayed beside the passage is determined by the Doppler sensor in the Doppler wave irradiation area. ) Is detected and it is determined whether or not the customer has approached the product, so the data is highly reliable and what percentage of the customers viewed in the aisle You can get important customer information that you are approaching.

(7) 前記商品接触判断部は、前記映像表示部の周辺部に付属した赤外線センサーにより、この赤外線センサーによって検出される赤外線量が一定の値を超えたときに、この顧客の手と該当する商品が接触したと判断することを特徴とする顧客情報収集装置。   (7) The product contact determination unit corresponds to the customer's hand when the amount of infrared detected by the infrared sensor exceeds a certain value by the infrared sensor attached to the periphery of the video display unit. A customer information collecting apparatus characterized by determining that a product has come into contact.

本発明によれば、接近した顧客が前記設置されている該当商品を手に取ったか否かは、映像表示部の画面の周辺部に付属した赤外線センサーにより、この赤外線センサーに近傍に接近する赤外線発生物体からの赤外線量が一定の値を超えたときに、この顧客の手と該当する商品が接触したと判断されるため、そのデータには信頼性が高く、商品の方に近づいた顧客の内、どの位の割合の顧客が商品を手に取ったかという重要な顧客情報を得ることができる。   According to the present invention, whether an approaching customer has picked up the corresponding installed product is determined by the infrared sensor attached to the peripheral part of the screen of the video display unit. When the amount of infrared rays from the generated object exceeds a certain value, it is judged that the customer's hand and the corresponding product are in contact, so the data is highly reliable and the data of the customer approaching the product It is possible to obtain important customer information such as how many customers have picked up the product.

(8) 前記商品接触判断部は、前記カメラによって撮影された映像情報から捕捉された顧客の手の特徴点を抽出し、この顧客の手と該当する商品が接触したと判断することを特徴とする顧客情報収集装置。   (8) The product contact determination unit extracts a feature point of the customer's hand captured from the video information captured by the camera, and determines that the customer's hand and the corresponding product are in contact with each other. To collect customer information.

本発明によれば、商品情報提供部に近接されて設置されている商品に接近した顧客が前記設置されている該当商品を手に取ったか否かは、商品と検出された手がカメラによって撮影された映像情報から判断されるため、そのデータには信頼性が高く、商品の方に近づいた顧客の内、どの位の割合の顧客が商品を手に取ったかという重要な顧客情報を得ることができる。   According to the present invention, whether a customer approaching a product installed in the vicinity of the product information providing unit has picked up the corresponding product installed is determined by photographing the hand detected as the product with a camera. Because the data is judged from the recorded video information, the data is highly reliable, and important customer information on how many of the customers who approached the product have picked up the product is obtained. Can do.

(9) 前記顧客情報収集装置は映像表示部の周辺部にマイクを有し、前記商品接触判断部は、このマイクに顧客が商品を接触した際の音が一定の値を超えたときに、この顧客の手と該当する商品が接触したと判断することを特徴とする顧客情報収集装置。   (9) The customer information collection device has a microphone in the periphery of the video display unit, and the product contact determination unit, when the sound when the customer contacts the product with the microphone exceeds a certain value, A customer information collecting apparatus, characterized in that it is determined that the customer's hand contacts the corresponding product.

本発明によれば、接近した顧客が前記設置されている該当商品を手に取ったか否かは、映像表示部の画面の周辺部に付属したマイクにより、顧客が商品を手に取った時の音を収集し、この音量が一定の値を超えたときに、この顧客の手と該当する商品が接触したと判断されるため、そのデータには信頼性が高く、商品の方に近づいた顧客の内、どの位の割合の顧客が商品を手に取ったかという重要な顧客情報を得ることができる。   According to the present invention, whether or not the approaching customer has picked up the corresponding product is determined by the microphone attached to the periphery of the screen of the video display unit when the customer picks up the product. When the sound is collected and the volume exceeds a certain value, it is determined that the customer's hand is in contact with the product, so the data is highly reliable and the customer is closer to the product. Among them, it is possible to obtain important customer information such as how many customers have picked up the product.

(10) 前記顧客情報収集装置は商品棚に置かれた商品の下に設置された圧力をセンシングする圧力シートと接続され、前記商品接触判断部は、この圧力シートが感じる圧力量が一定の値を下回ったときに、この顧客の手と該当する商品が接触したと判断することを特徴とする顧客情報収集装置。   (10) The customer information collection device is connected to a pressure sheet that senses a pressure installed under a product placed on a product shelf, and the product contact determination unit has a constant pressure amount felt by the pressure sheet. The customer information collecting device characterized by determining that the customer's hand is in contact with the corresponding product when the value falls below

本発明によれば、接近した顧客が前記設置されている該当商品を手に取ったか否かは、商品の下に圧力をセンシングする圧力シートが設置され、この圧力センサーが感じる圧力量が一定の値を下回ったときに、この顧客の手と該当する商品が接触したと判断されるため、そのデータには信頼性が高く、商品の方に近づいた顧客の内、どの位の割合の顧客が商品を手に取ったかという重要な顧客情報を得ることができる。   According to the present invention, whether or not the approaching customer has picked up the corresponding installed product is determined by installing a pressure sheet for sensing pressure under the product, and a pressure amount sensed by the pressure sensor is constant. When the value falls below this value, it is determined that the customer's hand has come into contact with the product in question, so the data is highly reliable, and what percentage of customers who are close to the product It is possible to obtain important customer information indicating whether the product is picked up.

(11) 前記商品購入判断部は、顧客の手と商品が接触したと判断した赤外線センサーの値が再度上がることが無かった場合に、該当商品を顧客が購入手続きのためにレジまで持ち運んだと判断することを特徴とする顧客情報収集装置。   (11) When the value of the infrared sensor determined that the product is in contact with the customer's hand is not increased again, the product purchase determination unit carries the product to the cash register for purchase procedure. A customer information collecting device characterized by judging.

本発明によれば、商品を手に取った顧客によって、顧客の手と商品が接触したと判断した赤外線センサーの値が、再度上がることが無かった場合、商品を持った顧客の手が商品棚に近づかなかった、すなわち、商品を棚に返さず購入手続きのためにレジまで持ち運んだと判断される。このため、そのデータには信頼性が高く、商品を手に取った顧客の内、どの位の割合の顧客が商品を購入手続きのためレジに運んだかという重要な顧客情報を得ることができる。   According to the present invention, when the value of the infrared sensor determined that the customer's hand and the product are in contact with each other is not increased again by the customer who picked up the product, the customer's hand holding the product is It is determined that the product has not been approached, that is, the product has not been returned to the shelf and has been carried to the cash register for purchase procedures. For this reason, the data is highly reliable, and it is possible to obtain important customer information indicating how many of the customers who have picked up the product have taken the product to the cash register for the purchase procedure.

(12) 前記商品購入判断部は、顧客によって手にとられた商品を前記カメラで撮影し、この商品が画面の外に移動されたことで、該当商品が購入手続きのためにレジまで持ち運んだと判断することを特徴とする顧客情報収集装置。   (12) The product purchase determination unit takes the product picked up by the customer with the camera, and the product is moved to the cash register for the purchase procedure when the product is moved out of the screen. A customer information collecting device characterized in that

本発明によれば、商品を手に取った顧客によって、商品を前記カメラで撮影し、この商品が画面の外に移動されたことで、該当商品が購入手続きのためにレジまで持ち運んだと判断されるため、そのデータには信頼性が高く、商品を手に取った顧客の内、どの位の割合の顧客が商品を購入手続きのためレジに運んだかという重要な顧客情報を得ることができる。   According to the present invention, a customer who picked up a product takes a picture of the product with the camera, and the product is moved to the outside of the screen. Therefore, the data is highly reliable and can provide important customer information about how many of the customers who picked up the product have taken the product to the checkout for purchase. .

(13) 前記商品購入判断部は、前記商品の下に敷かれた圧力シートが有する圧力センサーが感じる圧力量が一定の値を下回り一定時間内にこの値が戻らなかったときに、この顧客は該当商品が購入手続きのためにレジまで持ち運んだと判断することを特徴とする顧客情報収集装置。   (13) When the product purchase determination unit detects that the amount of pressure sensed by the pressure sensor in the pressure sheet placed under the product is below a certain value and does not return within a certain time, the customer A customer information collecting device that judges that the product has been carried to a cash register for purchase procedures.

本発明によれば、商品を手にとった顧客が購入手続きのためにその商品をレジまで持ち運んだか否かは、商品の下に設置された圧力シートの圧力センサー商品が戻されて再度上がることが無かった場合、顧客はこの商品を棚から持ち去ってレジに運んだと判断される。このため、そのデータには信頼性が高く、商品を手に取った顧客の内、どの位の割合の顧客がこの商品を購入したかという重要な顧客情報を得ることができる。   According to the present invention, whether the customer who picked up the product has carried the product to the cash register for the purchase procedure is returned to the pressure sensor product of the pressure sheet installed under the product. If there is no item, it is determined that the customer took the item from the shelf and brought it to the cash register. For this reason, the data is highly reliable, and it is possible to obtain important customer information indicating how many customers who have purchased the product have purchased the product.

(14) (1)から(13)のいずれか記載の顧客情報収集装置が複数台店舗に設置され、かつ、複数の店舗に設置され、それぞれがネットワークを介して接続され、すべての店舗の情報の収集分析を行う、顧客情報収集システム。   (14) The customer information collection device according to any one of (1) to (13) is installed in a plurality of stores and is installed in a plurality of stores, each connected via a network, and information on all stores Customer information collection system that collects and analyzes data.

本発明によれば、顧客情報収集装置が複数の店舗に設置され、それぞれがネットワークを介して接続される。各顧客情報収集装置からは、設置された流通店舗名、店舗の中の位置、隣のゾーンの展示商品、棚の構造、該当商品が置かれている棚の位置、キャンペーン実施の有無、顧客情報収集の画面サイズ、販売員の有無、マネキンの有無、等のデータと合わせて、顧客情報を収集している日時、曜日、天候、等のデータも一緒に収集される。これらのデータの収集分析を行うため、該当商品に関する重要な顧客情報を得ることができる。   According to the present invention, customer information collection devices are installed in a plurality of stores, and each is connected via a network. From each customer information collection device, the name of the installed distribution store, the location in the store, the displayed product in the adjacent zone, the shelf structure, the location of the shelf on which the product is placed, whether the campaign has been implemented, customer information Together with data such as the screen size of collection, presence / absence of salesperson, presence / absence of mannequin, data such as date / time of collecting customer information, day of the week, weather, etc. are also collected. Since these data are collected and analyzed, it is possible to obtain important customer information related to the product.

(15) 商品に関するに情報を商品展示前の通路を通行中の顧客に示すステップと、この通行中の顧客の人数をカウントするステップと、顧客情報収集装置に付属する映像表示部の画面もしくは近接されて設置されている該当商品を視認したことを判断するステップと、前記視認した顧客の属性を推定するステップと、前記視認した顧客が前記商品情報収集装置に近接されて設置されている該当商品に近づくことを判断するステップと、該当商品に接近した顧客が該当商品を手に取ったかを判断するステップと、この商品を精算のための場所に持ち運んだかを判断するステップと、を含むことを特徴とする顧客情報収集方法。   (15) A step of showing information related to a product to a customer who is passing through a passage before the product display, a step of counting the number of customers who are passing, and a screen or proximity of a video display unit attached to the customer information collecting device A step of judging that the corresponding product that has been installed has been visually recognized, a step of estimating the attribute of the visually recognized customer, and a corresponding product in which the visually confirmed customer is installed in proximity to the product information collection device Determining whether the customer approaching the product has picked up the product, and determining whether the product has been taken to a place for checkout. Characteristic customer information collection method.

本発明によれば、顧客情報収集装置により、商品展示前の通路を通行中の顧客の人数、商品情報提供部の画面を視認した顧客の人数、前期視認した顧客が前記商品情報提供部もしくは前記商品情報提供部に近接されて設置されている該当商品に近づく人数、商品情報提供部に近接されて設置されている商品に接近した顧客が前記設置されている該当商品を手に取に取る人数、この商品を精算のための場所に持ち運んだ購入人数、購入に至るのに要した顧客の該当商品の前での滞留時間、もしくは非購入に至るのに要した顧客の該当商品の前での滞留時間、という重要な顧客情報を得ることができる。   According to the present invention, by the customer information collection device, the number of customers who are passing through the passage before the product display, the number of customers who viewed the screen of the product information providing unit, Number of people approaching the corresponding product installed in the proximity of the product information provider, and the number of customers approaching the product installed in proximity to the product information provider picking up the corresponding product installed , The number of buyers who brought this product to the checkout location, the customer's residence time before the purchase, or the customer's product before the purchase Important customer information such as residence time can be obtained.

(16) 前記視認した顧客に対して、映像表示部の画面の内容を、推定した属性に適合した内容の画面に変えて表示するステップを含むことを特徴とする顧客情報収集方法。   (16) A method for collecting customer information, comprising: displaying the content of the screen of the video display unit to the visually recognized customer by changing the screen to a screen having a content suitable for the estimated attribute.

本発明によれば、顧客情報収集装置により、視認を判断した顧客に対して、映像表示部の画面の内容を、推定した属性に適合した内容の画面に変えた表示することにより、顧客の関心、判断基準等のより詳細な顧客情報を得ることができる。   According to the present invention, the customer information collection device displays the content of the screen of the video display unit to the customer whose visual recognition is determined, by changing the content of the screen to a screen suitable for the estimated attribute. More detailed customer information such as judgment criteria can be obtained.

(17) 商品情報提供部に近接されて設置されている商品に接近した顧客に対して、映像表示部の画面の内容を、推定した属性に適合した内容の画面に変えて表示するステップを含むことを特徴とする顧客情報収集方法。   (17) For a customer approaching a product installed close to the product information providing unit, the content of the screen of the video display unit is changed to a screen having a content suitable for the estimated attribute and displayed. A method for collecting customer information.

本発明によれば、顧客情報収集装置により、商品情報提供部に近接されて設置されている商品に接近した顧客した顧客に対して、映像表示部の画面の内容を、推定した属性に適合した内容の画面に変えた表示することにより、顧客の関心、判断基準等のより詳細な顧客情報を得ることができる。   According to the present invention, the customer information collection device adapts the content of the screen of the video display unit to the estimated attribute for the customer who has approached the product installed close to the product information providing unit. By displaying the content on the screen, it is possible to obtain more detailed customer information such as customer interests and judgment criteria.

(18) 商品情報提供部に近接されて設置されている商品に接近した顧客に対して、映像表示部の画面の表面に設置されたタッチパネルにより顧客により選択された内容の画面に変えて表示するステップを含むことを特徴とする顧客情報収集方法。   (18) For a customer approaching a product installed close to the product information providing unit, the screen is changed to a screen of content selected by the customer using a touch panel installed on the surface of the screen of the video display unit. A customer information collecting method comprising steps.

本発明によれば、顧客情報収集装置により、商品情報提供部に近接されて設置されている商品に接近した顧客した顧客に対して、映像表示部の画面の表面に設置されたタッチパネルにより顧客により選択された内容の画面に変えて表示することにより、顧客の関心、判断基準、等のより詳細な顧客情報を得ることができる。   According to the present invention, the customer information collecting device allows the customer who has approached the product installed close to the product information providing unit to the customer by the touch panel installed on the surface of the screen of the video display unit. By displaying the selected content instead of the screen, it is possible to obtain more detailed customer information such as customer interests, judgment criteria, and the like.

(19) 顧客情報収集装置により、該当商品を手に取ったかと判断された顧客に対して、映像表示部の画面の内容を異なる内容の画面に変えて表示するステップを含むことを特徴とする顧客情報収集方法。   (19) The method includes a step of changing the screen content of the video display unit to a screen with a different content for a customer who has been judged to have picked up the corresponding product by the customer information collection device. Customer information collection method.

本発明によれば、顧客情報収集装置により、該当商品を手に取ったと判断された顧客に対して、映像表示部の画面の内容を、推定した属性に適合した内容の画面に変えた表示することにより、顧客の関心、判断基準、等のより詳細な顧客情報を得ることができる。   According to the present invention, the customer information collection device displays the content of the screen of the video display unit changed to a screen that matches the estimated attribute for the customer who is determined to have picked up the corresponding product. This makes it possible to obtain more detailed customer information such as customer interests, judgment criteria, and the like.

本発明の顧客情報収集装置、顧客情報収集システムおよび顧客情報収集方法は、店舗における顧客のうち該当商品等を購入した顧客のみならず、購入に至らなかった顧客を含めて、それらの顧客がどのような商品等情報に関心を持ち、どのような情報が購入決定に至ったかという、該当商品等を販売する上で重要な情報を信頼性高く得ることが出来る。   The customer information collection apparatus, customer information collection system, and customer information collection method of the present invention include not only customers who have purchased the corresponding product among the customers in the store, but also those customers who have not been purchased. Interested in such product information, it is possible to obtain information that is important in selling such products, such as what kind of information has been decided to purchase, with high reliability.

より具体的に本発明の効果を説明する。顧客情報収集装置は、映像表示部とスピーカーを有し、かつ顧客に説明するための商品等に関する情報がPC部分の内部にある商品情報提供部にあらかじめ保存されている。そして、顧客が通路を通ると、これらの情報が映像表示部とスピーカーを介して顧客に対して情報提供される。そして、通路を通る顧客は、これらの商品等の情報に関して興味があると、該当商品もしくは情報提供している映像表示部の方を振り返る。この振り返る動作は、顧客の顔の映像を撮影することにより認識される。さらに、この商品に興味を有する顧客は、この商品や映像表示部に接近する。この接近は、カメラの映像から判断される方法、ドップラーセンサーによる方法、がある。さらに興味がある顧客は、商品を手にとってみる。この顧客の動きは、カメラの映像から判断される方法、赤外線センサーによる方法、マイクによる方法、圧力センサーによる方法がある。ここで、この商品の購入を決定した顧客は、この商品を棚に戻さずレジに運ぶ動作をする。この動きは、カメラの映像から判断される方法、赤外線センサーによる方法がある。また、顧客が単に通行しているとき、商品もしくは映像表示部とスピーカーから提供される商品等に関する情報に関心を示して振り向いたとき、顧客が商品に接近してきたとき、顧客が映像表示部に張り付けられたタッチパネルから入力にしたとき、それぞれ提供される内容が商品情報提供部によって変えられる。これらの一連のやりとりおよび顧客の該当商品前の滞留時間によって、購入した顧客がどのような商品等の情報に関心が高く購入を決めたか、また、逆に、購入しなかった顧客どのような商品等の情報に不満足で非購入を決めたか、顧客情報を詳細に収集することができる。   The effect of the present invention will be described more specifically. The customer information collection device has a video display unit and a speaker, and information related to products and the like for explaining to the customer is stored in advance in a product information providing unit inside the PC portion. When the customer passes through the passage, the information is provided to the customer via the video display unit and the speaker. When the customer passing through the passage is interested in information on these products, the customer looks back at the product or the video display unit that provides the information. This turning action is recognized by taking a picture of the customer's face. Furthermore, a customer who is interested in this product approaches this product and the video display unit. This approach includes a method of judging from the image of the camera and a method using a Doppler sensor. More interested customers take a look at the product. This customer movement includes a method of judging from a camera image, a method using an infrared sensor, a method using a microphone, and a method using a pressure sensor. Here, the customer who has decided to purchase the product operates to carry the product to the cash register without returning it to the shelf. This movement includes a method of judging from the image of the camera and a method using an infrared sensor. In addition, when the customer is simply passing, when the customer turns to the product or the information about the product provided by the video display unit and the speaker, when the customer approaches the product, the customer is in the video display unit. When the input is made from the pasted touch panel, the contents to be provided are changed by the product information providing unit. Based on these series of exchanges and the customer's residence time before the corresponding product, the customer who purchased the product was interested in what kind of information and decided to purchase, and conversely, what the customer did not purchase. It is possible to collect customer information in detail as to whether or not to decide not to purchase because of dissatisfaction with such information.

また、カメラで撮影された顧客の顔の特徴点、顔の輪郭から、顧客の性別、概略の年齢、といった顧客の属性が推定される。   Also, customer attributes such as customer gender and approximate age are estimated from feature points and face contours of the customer's face taken by the camera.

これらの商品等を前にして顧客が示した顧客情報データ、属性データ、の情報を店舗の棚に設置された顧客情報収集装置が取得し、この顧客情報収集装置をネットを介して複数店舗間で接続し、すべての情報をサーバーに集める顧客情報システムが形成される。   Customer information collection device installed on store shelves obtains customer information data and attribute data indicated by customers in front of these products, etc., and this customer information collection device is connected to multiple stores via the network. A customer information system is created that connects all the information to the server.

サーバーに顧客情報を収集する際、上記顧客情報データ、属性データのみならず、天候、曜日、等の外的要因データを加えて、顧客情報収集装置が設置されている流通店舗名、店舗の中の位置、隣のゾーンの展示商品、棚の構造、該当商品が置かれている棚の位置、キャンペーン実施の有無、映像表示部の画面サイズ、販売員の有無、マネキンの有無等のデータがサーバーに集められる。   When collecting customer information on the server, in addition to the above customer information data and attribute data, add external factor data such as weather, day of the week, etc. Data such as the location of the product, the product displayed in the adjacent zone, the structure of the shelf, the location of the shelf where the product is placed, whether or not the campaign is implemented, the screen size of the video display, the presence or absence of a salesperson, the presence or absence of a mannequin To be collected.

これらのデータによって、商品等の企画、ブランディング、ターゲッティング、パッケージコンセプト、プライシング、製品の改廃、在庫最適配置等の製品戦略、およびプロモーション企画、販促費の適正化、売り場企画、店舗・店舗ゾーンの評価の見直し等の販売戦略を立案することが可能となる顧客情報収集装置、顧客情報収集システムおよび顧客情報収集方法が提供される。   Based on these data, product planning, branding, targeting, package concept, pricing, product strategy such as product revision and abolition, optimal placement of inventory, promotion planning, optimization of sales promotion expenses, sales floor planning, store / store zone evaluation A customer information collection device, a customer information collection system, and a customer information collection method that can plan a sales strategy such as review of the customer information are provided.

本発明からなる顧客情報収集装置が店舗の通路を通行中の顧客から顧客情報を収集している状況を説明する図で、11は顧客、12は顧客情報収集装置、13は通路、14は該当商品、15は他の商品、16は商品棚、17はカメラ、18は赤外線センサー、22は映像表示部をそれぞれ示す。It is a figure explaining the situation where the customer information collection device which consists of this invention collects customer information from the customer who is passing the passage of the store, 11 is customer, 12 is customer information collection device, 13 is passage, 14 is applicable Product, 15 is another product, 16 is a product shelf, 17 is a camera, 18 is an infrared sensor, and 22 is an image display unit. 本発明からなる顧客情報収集装置12のハードウェア部の構成を示す図で、21はPC部、22は映像表示部、27はスピーカー、17はカメラ、18は赤外線センサー、26はタッチスクリーン、28はマイク、をそれぞれ示す。1 is a diagram showing a configuration of a hardware unit of a customer information collecting apparatus 12 according to the present invention, in which 21 is a PC unit, 22 is a video display unit, 27 is a speaker, 17 is a camera, 18 is an infrared sensor, 26 is a touch screen, 28 Indicates a microphone, respectively. 本発明からなる顧客情報収集装置12のソフトウェア部の構成を示す図で、これらのソフトウェア部はPC部21の中にインストールされている。これらのソフトウェア部は、31は商品情報提供部、32は通行顧客人数カウント部、33は顧客視認判断部、34は顧客属性推定部、35は顧客接近判断部、36は商品接触判断部、37は商品購入判断部、を有する。FIG. 2 is a diagram illustrating a configuration of a software unit of a customer information collecting apparatus 12 according to the present invention, and these software units are installed in a PC unit 21. These software units include 31 a product information providing unit, 32 a passing customer number counting unit, 33 a customer visual recognition determination unit, 34 a customer attribute estimation unit, 35 a customer approach determination unit, 36 a product contact determination unit, 37 Has a product purchase decision section. 本発明からなる顧客情報収集装置12が、店舗内通路を通る顧客の人数をカウントする部分を説明する図である。11は顧客、41は顧客情報収集装置のカメラで捕捉された映像画面を示す。It is a figure explaining the part which the customer information collection apparatus 12 which consists of this invention counts the number of the customers who pass a store passage. Reference numeral 11 denotes a customer, and 41 denotes a video screen captured by the camera of the customer information collecting apparatus. 本発明からなる顧客情報収集装置12が、店舗内通路を通る顧客のうち、該当商品14もしくは顧客情報収集装置の映像表示部22を振り向く顧客を認識する部分を説明する図である。51は顧客の目の特徴点、52は顧客の鼻の特徴点、53は顧客の口の特徴点、54は顧客の顔の輪郭の特徴点を示す。It is a figure explaining the part which the customer information collection apparatus 12 which consists of this invention recognizes the customer who turns around the image display part 22 of the applicable goods 14 or a customer information collection apparatus among the customers who pass an in-store passage. Reference numeral 51 denotes a customer eye feature point, 52 denotes a customer nose feature point, 53 denotes a customer mouth feature point, and 54 denotes a customer face contour feature point. 本発明からなる顧客情報収集装置12が、顧客情報収集装置12の映像表示部22を振り向く顧客のうち、顧客情報収集装置12もしくは該当商品14に近づく顧客を認識する部分を説明する図である。61は近づいた顧客の目の特徴点、62は近づいた顧客の鼻の特徴点、63は近づいた顧客の口の特徴点、64は近づいた顧客の顔の輪郭の特徴点を示す。It is a figure explaining the part which the customer information collection apparatus 12 which consists of this invention recognizes the customer who approaches the customer information collection apparatus 12 or the applicable goods 14 among the customers who look around the video display part 22 of the customer information collection apparatus 12. FIG. 61 is a feature point of the approaching customer's eye, 62 is a feature point of the approaching customer's nose, 63 is a feature point of the approaching customer's mouth, and 64 is a feature point of the approaching customer's face. 本発明からなる顧客情報収集装置12が、顧客情報収集装置12もしくは該当商品14に近づいた顧客が該当商品14を手に取ろうとしてところをカメラで捕捉された映像画面である。71は該当商品14に伸ばした顧客の手で、11は顧客、14は該当商品である。The customer information collecting device 12 according to the present invention is a video screen captured by a camera when a customer approaching the customer information collecting device 12 or the corresponding product 14 tries to pick up the corresponding product 14. 71 is the customer's hand extended to the corresponding product 14, 11 is the customer, and 14 is the corresponding product. 本発明からなる顧客情報収集装置が、該当商品を手にとってみる顧客のうち、該当商品を購入することを決めた顧客を認識する部分を説明する図である。11は顧客、14は該当商品である。It is a figure explaining the part which the customer information collection apparatus which consists of this invention recognizes the customer who decided to purchase applicable goods among the customers who look at applicable goods. 11 is a customer and 14 is a corresponding product. 本発明からなる顧客情報収集システムを示す構成図である。91はネットワーク、92は各店舗の顧客情報収集装置、93はサーバーである。It is a block diagram which shows the customer information collection system which consists of this invention. 91 is a network, 92 is a customer information collection device of each store, and 93 is a server. 本発明からなる顧客情報収集方法を説明するフローチャートである。It is a flowchart explaining the customer information collection method which consists of this invention. 本発明からなる通行顧客人数カウント部32のフローチャートである。It is a flowchart of the passing customer number counting part 32 which consists of this invention. 本発明からなる顧客視認判断部33および顧客属性推定部34、顧客接近判断部35を説明するフローチャートである。It is a flowchart explaining the customer visual recognition judgment part 33, the customer attribute estimation part 34, and the customer approach judgment part 35 which consist of this invention. 本発明からなる商品接触判断部36、商品購入判断部37を説明するフローチャートである。It is a flowchart explaining the goods contact judgment part 36 and the goods purchase judgment part 37 which consist of this invention. 本発明からなる商品購入判断部37説明するフローチャートである。It is a flowchart explaining the goods purchase judgment part 37 which consists of this invention. 本発明からなる顧客の特徴点抽出および利用部分のフローチャートである。It is a flowchart of the customer's feature point extraction and utilization part which consists of this invention.

図1は、本実施例からなる顧客情報収集装置12が店舗において顧客11に対して顧客情報を収集している場面を示す概略図である。顧客11が店舗の通路13を歩いて通過中である。顧客11は、該当商品14、他の商品15が展示されている商品棚16の前を通過する。該当商品14の隣には、本発明からなる顧客情報収集装置12が設置されている。この装置顧客情報収集装置12が、通行する顧客11の該当商品14についての情報を収集する。   FIG. 1 is a schematic view showing a scene in which a customer information collecting apparatus 12 according to the present embodiment collects customer information for a customer 11 in a store. The customer 11 is walking through the store aisle 13. The customer 11 passes in front of the product shelf 16 on which the corresponding product 14 and other products 15 are displayed. Next to the corresponding product 14, a customer information collecting device 12 according to the present invention is installed. This device customer information collecting device 12 collects information about the corresponding product 14 of the customer 11 who passes.

顧客情報収集装置12はハードウェア部とソフトウェア部からなり、ソフトウェア部はPC部21の内部の記憶装置に存在する。図2は、本実施例からなる顧客情報収集装置12のハードウェア部の構成を示す図である。主な構成部分として、処理装置および記録装置を有するPC部21、映像表示部22、スピーカー27、カメラ17、赤外線センサー18、タッチスクリーン26、マイク28で構成される。   The customer information collection device 12 includes a hardware part and a software part, and the software part exists in a storage device inside the PC part 21. FIG. 2 is a diagram illustrating a configuration of a hardware unit of the customer information collecting apparatus 12 according to the present embodiment. The main components include a PC unit 21 having a processing device and a recording device, a video display unit 22, a speaker 27, a camera 17, an infrared sensor 18, a touch screen 26, and a microphone 28.

図3は顧客情報収集装置のPC部21に内蔵される、ソフトウェア部分を示す概略図である。本ソフトウェアは、商品情報提供部31、通行顧客人数カウント部32、顧客視認判断部33、顧客属性推定部34、顧客接近判断部35、商品接触判断部36、商品購入判断部37、からなるソフトウェア部分を有する。   FIG. 3 is a schematic diagram showing a software part built in the PC unit 21 of the customer information collecting apparatus. The software includes a product information providing unit 31, a passing customer number counting unit 32, a customer visibility determining unit 33, a customer attribute estimating unit 34, a customer approach determining unit 35, a product contact determining unit 36, and a product purchase determining unit 37. Has a part.

以下、本実施例からなる顧客情報収集装置12が販売店の通路を歩く顧客11から顧客11が有する該当商品14に対する情報を収集する手順を説明する。   Hereinafter, a procedure for collecting information on the corresponding product 14 of the customer 11 from the customer 11 walking in the store passage by the customer information collecting device 12 according to the present embodiment will be described.

図1で示すように、店舗の通路13に顧客11が通りかかると、商品情報提供部31なるソフトウェアに従って、該当商品14の商品情報が顧客情報収集装置12の映像表示部22およびスピーカー27を通じて通路13を通る顧客11に対して提供される。顧客が通路を歩いている状態では、該当商品14が商品棚16に存在していることをアピールするための情報を流す。この情報には、この商品の特徴を示したり、価格情報、他社商品との比較情報を流したり、顧客が関心を持ちそうな情報が含まれる。   As shown in FIG. 1, when the customer 11 passes through the store passage 13, the product information of the corresponding product 14 is passed through the video display unit 22 and the speaker 27 of the customer information collection device 12 in accordance with the software of the product information providing unit 31. 13 for customers 11 passing through. In a state where the customer is walking along the passage, information for appealing that the corresponding product 14 exists in the product shelf 16 is sent. This information includes information that indicates the characteristics of this product, circulates price information, comparison information with other companies' products, and is likely to be of interest to customers.

本実施例では、該当商品14の商品情報が顧客情報収集装置12の映像表示部22およびスピーカー27を通じて通路13を通る顧客11に対して提供されたが、映像表示部22の映像情報もしくはスピーカー27の音声情報のいずれか一方に限定して提供しても良い。   In this embodiment, the product information of the corresponding product 14 is provided to the customer 11 passing through the passage 13 through the video display unit 22 and the speaker 27 of the customer information collection device 12. It is also possible to provide only one of the audio information.

本実施例では、該当商品が商品棚に存在していることをアピールするための情報として、この商品の特徴を示したり、価格情報、他社商品との比較情報を流したり、顧客が関心をもちそうな情報を流したが、商品棚の構成、商品販売戦略に応じて、この情報の中身は変えることが可能である、特に内容について制限されない。   In this example, as information for appealing that the corresponding product exists on the product shelf, the characteristics of this product are indicated, price information, comparison information with other companies' products, and the customer is interested. Although such information has been distributed, the contents of this information can be changed according to the configuration of the product shelf and the product sales strategy, and the content is not particularly limited.

本実施例では、店舗の通路13に顧客11が通りかかると、商品情報提供部31は該当商品14の情報提供を開始したが、このタイミングはこれに限定されない。   In the present embodiment, when the customer 11 passes through the store passage 13, the product information providing unit 31 starts providing information on the product 14, but this timing is not limited to this.

次に、本実施例になる顧客情報収集装置12は、通路13を通過した顧客11の人数をカウントする。通行顧客人数カウント部を説明する。図4は、通路13を通行してきた顧客11が該当商品14が展示されている商品棚16の前を通りかかるところを示している。図11は、この場面で顧客情報収集装置12の動作を規定するソフトウェアである通行顧客人数カウント部32のフローチャートである。   Next, the customer information collection device 12 according to the present embodiment counts the number of customers 11 that have passed through the passage 13. The traffic customer number counting part will be described. FIG. 4 shows that the customer 11 who has passed through the passage 13 passes in front of the product shelf 16 on which the corresponding product 14 is displayed. FIG. 11 is a flowchart of the number-of-passengers counting unit 32 that is software that defines the operation of the customer information collection device 12 in this scene.

図11を用いて、通行顧客人数カウント部32の動作を説明する。顧客情報収集装置12のカメラ17は、通路に向けて動画を撮影する。撮影されたフレーム映像を取り込み、時系列にフレーム間の差分検出を行う。もし、フレーム映像内に動くものが存在すると差分が発生し、差分が動いた対象物の輪郭を形成する。この実施例では、動くものは顧客11以外に通常は存在しないので、この輪郭が検出された際に、顧客11をカメラ17で取り込む映像内に対象1として設定する。対象1が設定されると、時間計測が開始される。そして、対象Aがカメラに対して正対しているか否かが判定される。正対判定は、図12で説明するフローチャートに従って行われる。正対判定で正対していないと判定され、かつ対象Aがフレーム内に留まらず、フレームの外に出ていったと判断されると、通過と判定され、カウンターが働き、通過人数が積算される。この際、本実施例では、通過時間も記録する。一方、正対判定で正対と判定された顧客、および正対はしないがフレーム内に留まっている顧客の人数と時間もそれぞれ記録される。   The operation of the passing customer number counting unit 32 will be described with reference to FIG. The camera 17 of the customer information collection device 12 captures a moving image toward the passage. Captured frame images are taken and difference detection between frames is performed in time series. If there is a moving object in the frame image, a difference is generated, and the contour of the object in which the difference has moved is formed. In this embodiment, since there is usually no moving object other than the customer 11, the customer 11 is set as the target 1 in the video captured by the camera 17 when this contour is detected. When the target 1 is set, time measurement is started. Then, it is determined whether or not the object A is facing the camera. The facing determination is performed according to the flowchart described in FIG. If it is determined that the person is not facing in the face-to-face determination, and it is determined that the object A does not stay in the frame but has gone out of the frame, it is determined that the object has passed, the counter is activated, and the number of persons passing is accumulated. . At this time, in this embodiment, the passage time is also recorded. On the other hand, the number of customers and the time of customers who are determined to be facing in the facing determination and the customers who are not facing but stay in the frame are also recorded.

上記方法で、正対もせず、通過してしまった顧客は、該当商品14に全く関心がない顧客と推定される。そして、これらのグループに属する顧客の人数と滞留時間が得られる。一方、カメラのフレーム内に留まっている顧客は、該当商品14もしくは顧客情報収集装置から提供された商品情報にある程度関心を有していると推定される。そしてこのグループに属する顧客の人数および該当商品前で滞留している時間がそれぞれ記録される。   In the above method, the customer who has not passed the face and has passed is estimated to be a customer who is not interested in the product 14 at all. And the number of customers belonging to these groups and the residence time can be obtained. On the other hand, it is estimated that the customer who remains in the frame of the camera has some interest in the product information provided from the corresponding product 14 or the customer information collection device. Then, the number of customers belonging to this group and the time staying in front of the corresponding product are recorded.

次に、顧客視認判断部33を説明する。図5は、通路13を通行してきた顧客11が該当商品14が展示されている商品棚16の前を通りかかり、該当商品14もしくは顧客情報収集装置12の映像表示部22およびスピーカー27を通じて提供された商品情報に関心を示し、顧客11が該当商品14もしくは顧客情報収集装置12の方を振り向いた場面を説明する図である。図12は、この場面で顧客収集装置12の動作を規定するソフトウェアである顧客視認判断部のフローチャートである。   Next, the customer visual recognition determination unit 33 will be described. In FIG. 5, the customer 11 passing through the passage 13 passes in front of the product shelf 16 on which the corresponding product 14 is displayed, and is provided through the video display unit 22 and the speaker 27 of the corresponding product 14 or the customer information collecting device 12. It is a figure explaining the scene which showed interest in merchandise information and the customer 11 turned to the applicable merchandise 14 or the customer information collection apparatus 12. FIG. FIG. 12 is a flowchart of the customer visual recognition determination unit that is software that defines the operation of the customer collection device 12 in this scene.

図12を用いて、顧客視認判断部33の動作を説明する。顧客が該当商品に関心があるかどうかの判断は、顧客をカメラ17で撮影し、撮影されたフレーム映像を再度取り込む。このフレーム映像の中で、顧客の顔の特徴点を抽出する。より詳細に説明すると、顧客11が該当商品14もしくは映像表示部22に表示された商品情報提供部31から提供された情報に関心をもって、振り向いたことは、カメラ17によって撮影された顧客の顔のフレーム映像から判断される。まず、再度取り込まれたフレーム映像から、顔の特徴である目、鼻、口の検出を行う。ここで、検出ができない場合は、正対しなかった、すなわち関心が無かったと判断する。   The operation of the customer visual recognition determination unit 33 will be described with reference to FIG. To determine whether or not the customer is interested in the corresponding product, the customer is photographed by the camera 17 and the captured frame image is captured again. The feature points of the customer's face are extracted from this frame image. More specifically, the fact that the customer 11 turned around with interest in the information provided from the product information providing unit 31 displayed on the corresponding product 14 or the video display unit 22 is that the customer's face photographed by the camera 17 is reflected. Judged from the frame image. First, eyes, nose, and mouth, which are facial features, are detected from the recaptured frame image. Here, if it cannot be detected, it is determined that the person has not faced, that is, has no interest.

図15を用いて、顧客の特徴点を抽出しそのデータの利用について説明する。目、鼻、口が検出された場合、これらの目、鼻、口の形状データから顔ベクトルデータ人特徴抽出が行われる。そして、特徴抽出されたデータは人物1としてデータベースに顔ベクトルデータとして登録する。以降、人物1を特徴づける顔ベクトルデータは、その後の行動データとともに記録される。また、顔ベクトルデータは、性別、年齢の判定にも利用される。   Using FIG. 15, the feature points of the customer are extracted and the use of the data will be described. When eyes, nose, and mouth are detected, face vector data human feature extraction is performed from these eye, nose, and mouth shape data. The feature-extracted data is registered as face vector data in the database as person 1. Thereafter, the face vector data characterizing the person 1 is recorded together with the subsequent action data. The face vector data is also used for determination of gender and age.

顔ベクトルデータ人特徴抽出は、具体的には、目の特徴点51として目の輪郭、鼻の特徴点52のとして鼻の輪郭、および口の特徴点53として口の端部を検出する。これら抽出された特徴点から、目が両目認識され、鼻の位置が顔の中心部に位置し、口全体が捕捉され、これらの特徴点が顔輪郭の中心にあるか否かで、顧客11の顔が正対したか否かを判断する。正対したとみなされた顧客に対しては正対状態フラグを設定し、正対時間のカウントアップがスタートする。   Specifically, the face vector data human feature extraction detects the contour of the eye as the feature point 51 of the eye, the contour of the nose as the feature point 52 of the nose, and the end of the mouth as the feature point 53 of the mouth. From these extracted feature points, both eyes are recognized, the position of the nose is located in the center of the face, the entire mouth is captured, and whether or not these feature points are in the center of the face contour, the customer 11 It is determined whether or not the face of the person has faced up. For the customer who is considered to have faced, a face-to-face state flag is set, and the count-up of the time to face is started.

顧客11が、正対すなわち該当商品14に関心を持ったと顧客情報収集装置12が認識すると、商品情報提供部31は、提供する情報を該当商品14のより詳しい情報の提供に切り替える。また、それまで通過した顧客全体の中の視認率を算出して、その視認率に従って、適切な該当商品14のより詳しい情報の提供に切り替えることも出来る。また、顧客の視認している時間によって、適切な該当商品14のより詳しい情報の提供に切り替えることも出来る。   When the customer information collecting apparatus 12 recognizes that the customer 11 is directly facing, that is, interested in the corresponding product 14, the product information providing unit 31 switches the information to be provided to providing more detailed information on the corresponding product 14. It is also possible to calculate the visibility rate of all the customers who have passed so far, and switch to providing more detailed information on the appropriate product 14 according to the visibility rate. Moreover, it can also switch to provision of the more detailed information of the appropriate applicable goods 14 with the time which the customer is visually recognizing.

振り向いた顧客の顔の特徴点が抽出されたら、顧客属性推定部34によって顧客の属性が推定される。男性と女性の区別は、髪型、顔の特徴点、服装などからデータベースに従って推定される。年齢は、顔の特徴点、顔の皮膚のしわ、姿勢、などからデータベースに従って推定される。   When the feature points of the face of the customer turned around are extracted, the customer attribute estimation unit 34 estimates the customer attribute. The distinction between men and women is estimated according to the database from the hairstyle, facial feature points, clothes, and the like. The age is estimated according to the database from facial feature points, facial skin wrinkles, posture, and the like.

顧客情報収集装置12が顧客11の属性を推定すると、商品情報提供部31は、提供する情報を顧客の属性に適した該当商品14のより詳しい情報の提供に切り替える。   When the customer information collection device 12 estimates the attribute of the customer 11, the product information providing unit 31 switches the information to be provided to providing more detailed information on the corresponding product 14 suitable for the customer's attribute.

次に、顧客接近判断部を説明する。図6は、該当商品14もしくは顧客情報収集装置12の商品情報提供部31から提供された商品情報に関心をもって振り向いた顧客11が、商品もしくは顧客情報収集装置12に向かって近づいてくるところをカメラ17によって撮影した映像である。撮影された近づいた顧客の顔の輪郭の特徴点64、近づいた顧客の目の特徴点61、近づいた顧客の鼻の特徴点62、近づいた顧客の口の特徴点63を時系列に比較し、これらの特徴点の増大率が求められる。この増大率が一定値を超えたことをもって、商品情報提供部に近接されて設置されている商品に接近したと顧客接近判断部35によって判断する。   Next, the customer approach determination unit will be described. FIG. 6 shows a camera in which the customer 11 who turns with interest in the product information provided from the product information provider 31 of the product 14 or the customer information collection device 12 approaches the product or the customer information collection device 12. 17 is a video imaged by 17. The feature point 64 of the approached customer's face contour, the feature point 61 of the approaching customer's eye, the feature point 62 of the approaching customer's nose, and the feature point 63 of the approaching customer's mouth are compared in time series. The increase rate of these feature points is required. When the increase rate exceeds a certain value, the customer approach determination unit 35 determines that the product approaching the product information providing unit is approaching.

図12は、この場面で顧客情報収集装置12の動作を規定するソフトウェアである顧客接近判断部35のフローチャートである。正対状態フラグが設定された顧客11に対して、再度フレーム映像を取り込む。この取り込まれた映像の中の顧客の顔の輪郭のほぼ中心に、目、鼻、口があるかを判断する。もしあれば、顧客11は正対を続けていると判断する。そして、中心にない場合は、正対が終わったと判断する。次に、最初の正対時の目、鼻、口、顔輪郭が同比率で拡大が見られるかを判断する。この判断は、拡大比率が増加もしくは一定値を超えているか否かで行われる。そして、拡大が判断された場合、顧客11は該当商品14に興味を示し接近したと判定する。   FIG. 12 is a flowchart of the customer approach determination unit 35 which is software that defines the operation of the customer information collection device 12 in this scene. For the customer 11 in which the facing state flag is set, the frame video is captured again. It is determined whether or not the eyes, nose, and mouth are at the center of the outline of the customer's face in the captured image. If there is, it is determined that the customer 11 continues to face. If it is not at the center, it is determined that the confrontation has ended. Next, it is determined whether or not the eyes, nose, mouth, and face outline at the time of first facing are enlarged at the same ratio. This determination is made based on whether the enlargement ratio is increased or exceeds a certain value. When the enlargement is determined, it is determined that the customer 11 is interested in the product 14 and has approached.

上述した実施例では、請求項5のカメラによる映像で顧客接近判断が行われたが、請求項6の発明では、ドップラーセンサーを用いて顧客の接近が判断される。商品展示前の通路を通行中の顧客が通路の横に展示されている商品にさらに関心があるか否かは、ドップラーセンサーによってドップラー波照射エリア内に物体(手、腕)が入ってきたことを検出され、顧客が商品に接近したか否か判断されるため、そのデータには信頼性が高く、通路で視認したうちのどの位の割合の顧客が商品の方に近づいたかという重要な顧客情報を得ることができる。   In the embodiment described above, the customer approach determination is performed using the video image of the camera according to claim 5, but in the invention of claim 6, the customer approach is determined using the Doppler sensor. Whether a customer traveling in the aisle before the product display is more interested in the products displayed next to the aisle, an object (hand, arm) has entered the Doppler wave irradiation area by the Doppler sensor. Is detected, and it is determined whether or not the customer has approached the product. Therefore, the data is highly reliable, and it is important to determine how much of the customers viewed in the aisle approached the product. Information can be obtained.

また、本実施例では、情報収集装置12に設置された赤外線センサー18によって、感知される顧客が発する赤外線量を測定し、顧客接近を判断する。上記カメラによる顧客の輪郭増大率のデータと、赤外線量のデータを組み合わせて、顧客の接近を判断することも行われる。   Further, in this embodiment, the infrared sensor 18 installed in the information collecting device 12 measures the amount of infrared rays emitted by the perceived customer and determines the approach of the customer. The approach of the customer is also determined by combining the data of the customer contour increase rate by the camera and the data of the amount of infrared rays.

顧客情報収集装置12の顧客接近判断部35が顧客11が該当商品もしくは顧客情報収集装置12に接近したと判断すると、商品情報提供部31は、提供する情報を該当商品14のより詳しい情報の提供にインターラクティブに切り替えることが出来る。また、顧客の接近に適合して、スピーカー27から出る音量を変えることが出来る。   When the customer approach determining unit 35 of the customer information collecting device 12 determines that the customer 11 has approached the corresponding product or the customer information collecting device 12, the product information providing unit 31 provides more detailed information of the corresponding product 14 to the information to be provided. Can be switched to interactive. Moreover, the sound volume emitted from the speaker 27 can be changed according to the approach of the customer.

図7に示すように、商品情報提供部に近接されて設置されている商品に接近して来た顧客11の次の行動として、該当商品14を手に取り上げる行動がある。この行動の判断は、商品接触判断部に従って行われる。この判断結果は、この顧客11が購入につながる強い関心を持っていることとして重要な行動を示すデータとなる。具体的には、顧客情報収集装置12に付属したカメラ17と赤外線センサー18の両方もしくは片方のデータを用いて認識される。   As shown in FIG. 7, there is an action of picking up the corresponding product 14 as the next action of the customer 11 who has approached the product installed close to the product information providing unit. The determination of this behavior is performed according to the product contact determination unit. This determination result is data indicating an important action as the customer 11 has a strong interest that leads to purchase. Specifically, it is recognized using data of both or one of the camera 17 and the infrared sensor 18 attached to the customer information collection device 12.

本実施例では、赤外線センサー18に顧客の手から発せられる赤外線を捕捉することによって行われる。この赤外線量が一定値をこえるとこの顧客の手が商品を手に取る位置まで近づいたと判断する。図13は、この場面で顧客情報収集装置12の動作を規定するソフトウェアである商品接触判断部36のフローチャートである。接近が確認された人物1に対して、再度フレーム映像を取り込む。この取り込まれた映像の中に、人物1が検出されるかを確認し、検出された場合、赤外線センサーが人物1の手が発する赤外線を感知しているかを調べる。もし、感知されれば、人物1なる顧客11は該当商品を手に取ったと判断する。   In the present embodiment, the infrared sensor 18 captures infrared rays emitted from the customer's hand. When the amount of infrared rays exceeds a certain value, it is determined that the customer's hand has approached the position for picking up the product. FIG. 13 is a flowchart of the merchandise contact determination unit 36 which is software that defines the operation of the customer information collection device 12 in this scene. A frame image is captured again for the person 1 whose approach has been confirmed. It is confirmed whether or not the person 1 is detected in the captured image, and if it is detected, it is checked whether or not the infrared sensor senses infrared rays emitted from the hand of the person 1. If it is detected, it is determined that the customer 11 as the person 1 has picked up the corresponding product.

別の実施例では、商品の特徴を予め顧客情報装置に入力しておき、カメラ17で撮影した顧客の映像情報の中にこの商品が映り込むことで顧客が手にとったと判断する。図8は、カメラ17で捕捉された映像画面41のなかで、顧客11の手の中に、該当商品14がとらえられている。   In another embodiment, the feature of the product is input to the customer information device in advance, and it is determined that the customer has picked up the product by reflecting the product in the video information of the customer photographed by the camera 17. In FIG. 8, the corresponding product 14 is captured in the hands of the customer 11 in the video screen 41 captured by the camera 17.

別の実施例では、顧客の手から発せられる赤外線量を赤外線センサー18で測定し、かつ、カメラで撮影した顧客の映像情報の中にこの商品が映り込むことの両方を行い、両方の値から、顧客が手にとったと判断する。 In another embodiment, the amount of infrared rays emitted from the customer's hand is measured by the infrared sensor 18 and the product is reflected in the customer's video information captured by the camera. , Determine that the customer has picked up.

別の実施例では、商品棚の商品の下に圧力センサーを有する圧力シートが敷かれている。この圧力センサーは、このシートの上にある一定以上の重量物が置かれると電気的特性が変わるものである。顧客が顧客情報収集装置に隣接されて設置されている商品に接近した顧客が、商品を手に取ると、圧力センサーは重量が減ったことを感知し、この反応をもって商品接触判断部36が、商品を顧客が手にとったと判断する。   In another embodiment, a pressure sheet having a pressure sensor is laid under the product in the product shelf. The pressure sensor changes its electrical characteristics when a certain weight or more is placed on the sheet. When a customer approaching a product installed adjacent to the customer information collection device picks up the product, the pressure sensor senses that the weight has decreased, and the product contact determination unit 36 with this reaction, Assume that the customer has picked up the product.

顧客11が商品に接近し、もしくは商品を手に取ったタイミングに合わせて、顧客情報収集装置12の商品情報提供部31から提供される商品情報を、顧客の属性、顧客の関心に合わせてその内容をインターラクティブに変える。そして、顧客が知りたい情報を、映像表示部22の表面に張り付けられたタッチスクリーン26によって選択することが出来る。また、これまでの顧客の行動を学習して、その結果に合わせて提供する商品情報をインターラクティブに変えることが出来る。   The product information provided from the product information providing unit 31 of the customer information collecting device 12 is matched with the customer's attributes and the customer's interest according to the timing when the customer 11 approaches the product or picks up the product. Change content interactively. Information that the customer wants to know can be selected by the touch screen 26 attached to the surface of the video display unit 22. In addition, it is possible to learn the behavior of the customer so far and change the product information provided according to the result interactively.

図3に示すように、顧客による商品の購入の判断は商品購入判断部37に従って顧客情報収集装置12によって行われる。顧客が手に取った商品を購入する場合、この商品を買物籠やカートに乗せたり、そのまま手に取ってレジまで運ぶ。赤外線センサーの測定する顧客から発せられる赤外線の値が商品を手にすることで増加し、商品を持った手が赤外線センサーから遠ざかりこの赤外線量が減少し、そのまま赤外線量が増加しないとき、該当商品が、商品棚に戻らず顧客11が購入のためレジに運んだと商品購入判断部37が判断し、購入が判断される。   As shown in FIG. 3, the customer information collection device 12 determines the purchase of the product by the customer according to the product purchase determination unit 37. When a customer purchases a product that the customer has picked up, the customer places the product in a shopping basket or cart, or picks it up and carries it to a cash register. The value of the infrared rays emitted from the customer measuring the infrared sensor increases when the product is picked up, and when the hand holding the product moves away from the infrared sensor, the amount of infrared rays decreases, and the amount of infrared rays does not increase. However, the product purchase determination unit 37 determines that the customer 11 has taken to the cash register for purchase without returning to the product shelf, and purchase is determined.

図13の下部は、この場面で顧客情報収集装置12の動作を規定するソフトウェアである商品購入判断部37のフローチャートである。該当商品14に接触が確認された人物1に対して、再度フレーム映像を取り込む。このフレーム映像の中に、人物1が検出されない場合。この人物1は手にした該当商品14を持ち去る、すなわち、購入手続きのためにレジに該当商品14をもち運び、購入したと判断する。   The lower part of FIG. 13 is a flowchart of the product purchase determination unit 37, which is software that defines the operation of the customer information collection device 12 in this scene. A frame image is captured again for the person 1 whose contact with the corresponding product 14 is confirmed. The person 1 is not detected in this frame image. It is determined that the person 1 takes away the corresponding product 14 in his / her hand, that is, carries the corresponding product 14 to the cash register for purchase procedure and purchases it.

図14は次の場面での顧客情報収集装置12の動作を規定するソフトウェアである商品購入判断部37の前半部分のフローチャートである。赤外線センサーが再び赤外線を検知した場合、人物1は該当商品14をもとの商品棚に戻したと推定され、人物1は該当商品14を購入しなかったと判断される。また、赤外線センサーの代わりにカメラで撮られた映像の中に再び人物1の手が商品棚に伸びたことを捉えた場合、人物1は該当商品14を購入しなかったと判断される。一方、赤外線センサーが再び赤外線を検知することなく、かつ、人物1の顔の特徴である目、鼻、口が検出されない場合は、人物1は該当商品14を商品棚に戻すことなく、該当商品をレジまで運んだと推定し、この場合、購入と判断する。   FIG. 14 is a flowchart of the first half of the product purchase determination unit 37, which is software that defines the operation of the customer information collection device 12 in the next scene. When the infrared sensor detects infrared rays again, it is estimated that the person 1 has returned the corresponding product 14 to the original product shelf, and the person 1 is determined not to purchase the corresponding product 14. Further, when it is captured that the hand of the person 1 has again extended to the product shelf in the video taken by the camera instead of the infrared sensor, it is determined that the person 1 has not purchased the product 14. On the other hand, if the infrared sensor does not detect infrared rays again, and the eyes, nose, and mouth that are the features of the face of the person 1 are not detected, the person 1 does not return the corresponding product 14 to the product shelf. In this case, it is determined to be purchased.

別の実施例では、前記顧客によって手にとられた商品をカメラ17で撮影し、この商品が画面の外に移動されたことで、該当商品14が購入手続きのためにレジまで持ち運んだと商品購入判断部37で判断する。   In another embodiment, the product picked up by the customer is photographed with the camera 17, and the product is moved to the outside of the screen, so that the product 14 is carried to the cash register for purchase procedure. The purchase determination unit 37 makes the determination.

別の実施例では、顧客による商品の購入の判断は、該当商品14の下に敷かれた圧力シートを用いて、商品購入判断部37に従って顧客情報収集装置によって行われる。手に取った商品を顧客が購入する場合、この商品を買物籠やカートに乗せたり、そのまま手に取ってレジまで運ぶ。該当商品14の下に敷かれた圧力シートが有する圧力センサーが感じる圧力量が一定の値を下回り、一定時間内にこの値が戻らなかったときに、この顧客は該当商品14が購入手続きのためにレジまで持ち運んだと商品購入判断部37が判断する。   In another embodiment, the purchase of the product by the customer is determined by the customer information collection device according to the product purchase determination unit 37 using a pressure sheet placed under the product 14. When a customer purchases a product that is picked up, the customer places the product in a shopping basket or cart, or picks it up and carries it to a cash register. When the amount of pressure felt by the pressure sensor on the pressure sheet placed under the product 14 is below a certain value and this value does not return within a certain time, this customer is in charge of purchasing the product 14 The product purchase determination unit 37 determines that the item has been carried to the cash register.

上記実施例では、顧客の行動を把握するのに、1台のカメラによったが、複数のカメラを用いても良い。また、得られた映像情報を、3次元処理して顧客の行動判断に用いることもできる。   In the above embodiment, one camera is used to grasp the customer's behavior, but a plurality of cameras may be used. Further, the obtained video information can be three-dimensionally processed and used for customer behavior determination.

上記実施例では、顧客の商品情報を選択する入力手段タッチスクリーン26であったが、マイク28を用いて音声入力によって顧客が選択入力を行ってもよい。   In the above-described embodiment, the input unit touch screen 26 is used to select customer product information. However, the customer may perform selection input by voice input using the microphone 28.

上記実施例では、顧客の行動を把握するのに、カメラ17、マイク28、赤外線センサー18、スピーカー27、映像表示部22とPC部21は一体物であったが、別構成であってもよい。   In the above embodiment, the camera 17, the microphone 28, the infrared sensor 18, the speaker 27, the video display unit 22 and the PC unit 21 are integrated to grasp the customer's behavior, but may be configured separately. .

図9は、本発明になる顧客情報調査システムの一実施例の全体構成を説明する図である。図2で示した各店舗の顧客情報収集装置92が、ネットワーク91を通じてサーバー93に接続している。このサーバー93は、同一店舗の他の顧客情報収集装置もしくは他の店舗の顧客情報収集装置92に接続して、設置されたすべての顧客情報収集装置のデータを収集可能となっている。   FIG. 9 is a diagram for explaining the overall configuration of an embodiment of the customer information survey system according to the present invention. The customer information collection device 92 of each store shown in FIG. 2 is connected to the server 93 through the network 91. The server 93 is connected to another customer information collecting device of the same store or a customer information collecting device 92 of another store, and can collect data of all installed customer information collecting devices.

このようにして得られた異なる店舗のデータごとの該当商品に対する顧客の情報は、必要に応じて、POSデータや気候、月日時、曜日ごとに分け、さらに、外的要因データを加えて、これらの商品の企画、ブランディング、ターゲッティング、パッケージコンセプト、プライシング、商品の改廃、在庫最適配置等の商品戦略、およびプロモーション企画、販促費の適正化、売り場企画、店舗・店舗ゾーンの評価の見直し等の販売戦略を立案することが可能となる。   The customer information for the corresponding product for each different store data obtained in this way is divided into POS data, climate, month, date, and day of the week as necessary, and external factor data is added. Product planning, branding, targeting, package concept, pricing, product reform and abolition, optimal inventory placement, etc., and promotion planning, optimization of sales promotion expenses, sales floor planning, review of store / store zone evaluation, etc. It becomes possible to make a strategy.

外的要因データとしては、流通店舗名、販売店の販売力、販売店における棚の広さ、流している提供情報、情報提供装置画面のサイズ、販売店内の棚の位置、キャンペーンの有無、紙ポップ等によるマーチャンダイズ状況、販売員の有無、推奨販売の有無などがある。   External factor data includes: distribution store name, sales force of the store, shelf size at the store, provided information, size of the information provision device screen, shelf position in the store, presence / absence of campaign, paper There are merchandising situations such as pop, presence / absence of salesperson, presence / absence of recommended sales.

次に図10を用いて、本発明の顧客情報収集方法の最適の実施例の動作の各ステップを説明する。   Next, each step of the operation of the optimum embodiment of the customer information collecting method of the present invention will be described with reference to FIG.

第1のステップは、商品情報提供部31に基づき、通路に面した商品棚に設置された顧客情報収集装置の映像表示部もしくはスピーカーによって商品情報を提供する。該当商品の説明開始は、顧客が画面内に捕捉したタイミングとあわせてもよく、顧客がある一定以上の数通過する場合は、定型の説明を繰り返してもよい。   In the first step, based on the product information providing unit 31, product information is provided by a video display unit or a speaker of a customer information collecting device installed on a product shelf facing the passage. The description start of the corresponding product may be synchronized with the timing captured by the customer in the screen, and if the customer passes a certain number or more, the fixed description may be repeated.

ップでは、顧客情報収集装置に付属したカメラで通路を撮影する。通路に通行人が通行し、顧客情報収集装置の前を通行すると、撮影しているカメラの画面に顧客が入り、映像情報を記録する。この記録の時系列での変化から、画面を通った通行人をカウントする。この通行人数は、通行顧客人数カウント部32に基づき、データとして出力される。 At the top, the passage is photographed with a camera attached to the customer information collecting device. When a passerby passes through the aisle and passes in front of the customer information collection device, the customer enters the screen of the camera that is shooting and records video information. Passers who pass through the screen are counted from the time-series changes in this record. The number of passengers is output as data based on the number of passengers counting unit 32.

第3のステップでは、映像表示部とスピーカーで行われた該当商品の説明に反応して、通路を通過しようとした顧客が映像表示部もしくは該当商品の方を振り向いたか否かを顧客視認判断部33によって判断する。顧客が映像表示部もしくは商品の方を振り向いたか否かは、カメラで捕捉されたオブジェクトが一定時間画面内に留まっていた顧客の顔の特徴を識別し、この顔がカメラ方向を向いたか否かを判断する。この処理は、補足したオブジェクトの画像にから、目、鼻、口、顔の輪郭を検出し、その相対位置が正対相当になったかを判断して行う。   In the third step, in response to the explanation of the corresponding product performed by the video display unit and the speaker, the customer visual judgment unit determines whether the customer who tried to pass through the passage turned around the video display unit or the corresponding product. Judgment by 33 is made. Whether or not the customer turned to the video display part or the product, whether the object captured by the camera stayed within the screen for a certain period of time was identified, and whether or not this face turned to the camera Judging. This process is performed by detecting the contours of the eyes, nose, mouth, and face from the supplemented object image, and determining whether the relative position corresponds to the front.

映像表示部とスピーカーで行われた該当商品の説明に反応せず、通路を通過した顧客のデータはここで出力される。このステップで、顧客が映像表示部のどの画像に反応して画面内に留まり、顔を向けたのか、もしくはスピーカーのどの音で反応して画面内に留まり、顔を向けたのかを判断する。さらに、このようにして、一定時間画面内に留まっていた顧客、もしくは、顧客の顔がカメラ方向を向いたか顧客を、この商品に関心を示した顧客と判断し、この顧客の反応と、顧客が関心を示した商品説明の内容と合わせて、サーバーに収集される。   The data of the customer who passes through the passage without being responded to the explanation of the corresponding product performed by the video display unit and the speaker is output here. In this step, it is determined which image on the video display unit the customer has responded to stay in the screen and faced, or which sound of the speaker has reacted to stay in the screen and faced. Further, in this way, the customer who stayed within the screen for a certain period of time or the customer's face turned to the camera is determined to be the customer who showed interest in this product, and this customer's reaction and customer Is collected on the server together with the contents of the product description that has shown interest.

第4のステップでは、顧客属性推定部34により、カメラ17が該当商品に近づいてきた拡大された顧客の姿を撮影したさい、この顧客の映像から、その特徴抽出がなされ、男女、子供、大人などの属性が判断される。これらの判断は、すでに蓄えられたデータベースとの比較で判断される。ここで、判断の用いられるデータベースは、日本人の全体の特徴をデータベース化した商用のデータベースが用いられるが、自ら構築したものでも良い。   In the fourth step, when the customer attribute estimation unit 34 takes a picture of an enlarged customer approaching the corresponding product by the camera 17, the feature is extracted from the customer image, and sexes, children, adults And other attributes are determined. These determinations are made by comparison with an already stored database. Here, the database used for the judgment is a commercial database in which the characteristics of the Japanese as a whole are used as a database.

第5のステップでは、顧客接近判断部35により、行われる。第3のステップで説明に興味を有したと特定された顧客が、さらに通路から商品もしくは端末の方に近づくか否かを判断し、この顧客の接近に合わせて異なるコンテンツを提供する。   The fifth step is performed by the customer approach determination unit 35. It is determined whether the customer identified as interested in the explanation in the third step further approaches the product or the terminal from the passage, and different contents are provided according to the approach of the customer.

通路から商品もしくは端末の方に近づくか否かを判断は、顧客の顔がカメラもしくは商品の方を向いたと認識された顧客の輪郭画像が一定の大きさまで拡大したかで判断する。また、顧客情報収集装置12に設置された赤外線センサー18によって、感知される顧客が発する赤外線量を測定し、判断することもできる。上記カメラによる顧客の輪郭増大率のデータと、赤外線量のデータを組み合わせて、顧客の接近を判断することも行われる。   Whether or not the product or the terminal is approached from the passage is determined based on whether or not the contour image of the customer recognized that the customer's face is facing the camera or the product has been enlarged to a certain size. In addition, the infrared sensor 18 installed in the customer information collecting device 12 can measure and judge the amount of infrared rays emitted by the perceived customer. The approach of the customer is also determined by combining the data of the customer contour increase rate by the camera and the data of the amount of infrared rays.

顧客が商品に近づいたと判断した顧客情報収集装置12は、さらに詳細なコンテンツを映像表示部22およびスピーカー27に流す。   The customer information collection device 12 that has determined that the customer has approached the product sends more detailed content to the video display unit 22 and the speaker 27.

第6のステップは顧客接触判断部36により、第5のステップで顧客情報収集装置12もしくは該当商品14に近づいてきた顧客のうち、顧客が商品を手にとるか否かの判断を行う。この判断は、カメラ17と赤外線センサー18の両方もしくは片方のデータを用いて認識される。   In the sixth step, the customer contact determination unit 36 determines whether or not the customer picks up the product among the customers who have approached the customer information collection device 12 or the corresponding product 14 in the fifth step. This determination is recognized using data of both or one of the camera 17 and the infrared sensor 18.

カメラ17に撮影された映像からは、商品の特徴を予め顧客情報装置に入力しておき、該当商品が設置された場所から移動したと判断されたことを顧客が手に取ったと判断する。   From the video captured by the camera 17, the characteristics of the product are input to the customer information device in advance, and it is determined that the customer has picked up that the product has been moved from the place where the product is installed.

また、顧客の手から発せられる赤外線量を赤外線センサー18で測定し、この両が一定値を超えたとき、手にとったと判断することもできる。また、両方の値から、顧客が手にとったと判断することもできる。   In addition, the amount of infrared rays emitted from the customer's hand is measured by the infrared sensor 18, and when both exceed a certain value, it can be determined that the infrared ray is taken by the hand. Moreover, it can also be judged that the customer has picked up from both values.

顧客11が商品に接近し、もしくは商品を手に取ったタイミングに合わせて、顧客情報収集装置12の商品情報提供部に表示される情報をより詳細な情報に変えることができる。そして、顧客が知りたい情報を、表示部表面に張り付けられてタッチセンサーによって選択することが出来る。この際、コンテンツの内容は、あらかじめ決めたコンテンツを流してもよく、また顧客がタッチパネルで示された要望に合わせたコンテンツをインターラクティブに流してもよい。   The information displayed on the product information providing unit of the customer information collecting device 12 can be changed to more detailed information in accordance with the timing when the customer 11 approaches the product or picks up the product. Information that the customer wants to know can be pasted on the display unit surface and selected by the touch sensor. At this time, the content may be a predetermined content, or may be interactively flowed according to the customer's request indicated on the touch panel.

第7のステップは商品購入判断部37により、第6のステップで顧客の手に取られた商品が購入されたか否かを判断する。この判断は、カメラで捕捉された手に取られた商品がこのカメラの範囲の外に持ち出されたか否かを測定し、持ち出された場合購入のために顧客が運んだと判断する。また、顧客の手の赤外線を赤外線センサーで測定し、感知の有無で、商品の購入・非購入を判断する方法でもよい。   In the seventh step, the product purchase determination unit 37 determines whether the product taken in the customer's hand in the sixth step has been purchased. This determination measures whether or not the product picked up by the hand captured by the camera is taken out of the range of the camera, and if it is taken out, determines that the customer has carried it for purchase. Alternatively, the customer's hand infrared may be measured with an infrared sensor, and the purchase / non-purchase of the product may be determined based on the presence or absence of sensing.

通常は、この処理のみで購入の判断が行われるが、より情報の精度を高めるために、レジにおけるPOSのデータを入手して、判断してもよい。   Usually, the purchase is determined only by this processing. However, in order to further improve the accuracy of information, the determination may be made by obtaining POS data at the cash register.

第8のステップは、上記判断により、顧客のとった行動が下記の次の行動パターンに分類する。これらの行動パターンへの分類判断は、上記データをすべてサーバーに集め、行われる。
(1) 映像表示部情報やスピーカー情報を取得せず、商品を手にとり、購入手続きを行うために、レジに向かう。(最初から購入を決めていた顧客)
(2) 商品の存在を視認しるも、映像表示部の内容にはまったく関心を示さず商品に近寄ることもなく、そこを立ち去る。(購入の意思が最初からなく、関心もまったくない顧客)
(3) 商品の存在を視認し、映像表示部に示された商品情報を聞き始め、その後、商品を手にとるが、もとの棚に戻し、そこを立ち去る。(購入の意思は最初はないものの、関心はある。しかし、購入判断にはいたらない顧客)
(4) 商品の存在を視認し、映像表示部に示された商品情報を聞き始め、その後、商品を手にとり、購入手続きを行うために、レジに向かう。(購入の意思は最初はないものの、映像表示部に示された商品の説明により購入と決めた顧客)
(5) 商品の存在を視認し、映像表示部に示された商品情報を聞き始め、その後、商品を手にとり、さらに、タッチパネル6に接触し、より詳細な情報を入手し、そしてそのまま購入手続きを行うために、レジに向かう。(購入の意思は最初はないものの、映像表示部に示された商品の詳細な説明、自分が知りたかった情報を積極的に入手し、その後購入を決めた顧客)
In the eighth step, the behavior taken by the customer is classified into the following behavior patterns based on the above determination. Classification of these behavior patterns is performed by collecting all the data on a server.
(1) Go to the cash register in order to pick up the product and carry out the purchase procedure without acquiring the video display unit information and speaker information. (Customers who decided to purchase from the beginning)
(2) Even if the presence of the product is visually confirmed, the user does not show any interest in the contents of the video display unit and does not approach the product, and leaves there. (Customers who are not willing to purchase and have no interest at all)
(3) Visually confirm the existence of the product, start listening to the product information shown on the video display unit, and then pick up the product, return it to the original shelf, and leave it. (While there is no intention to purchase at first, there is interest, but customers who do not make a purchase decision)
(4) Visually confirm the presence of the product, start listening to the product information shown on the video display unit, and then go to the cash register to pick up the product and perform the purchase procedure. (Customers who did not intend to purchase but decided to purchase based on the product description shown on the video display)
(5) Visually confirm the existence of the product, start listening to the product information shown on the video display unit, then pick up the product, touch the touch panel 6 to obtain more detailed information, and purchase procedure as it is Go to the cashier to do. (Although there is no intention to purchase at first, customers who have actively obtained detailed explanations of the products shown on the video display and information they wanted to know and then decided to purchase)

本実施例の効果Effects of this example

本実施例による本発明によれば、アンケートを用いる従来の方法による顧客関心情報を、購入しなかった客を含めて情報を得ることが出来る。   According to the present invention according to the present embodiment, it is possible to obtain customer interest information by a conventional method using a questionnaire including customers who have not purchased.

本実施例による本発明によれば、アンケートを用いる従来の方法による課題であった、顧客の余計な時間を必要とすることもなく、そのためによる顧客の回答数が少なくなることもなく、顧客がアンケート回答時に本当の気持ちを変えてしまって回答するということのなく、顧客関心情報を得ることが出来る。   According to the present invention according to the present embodiment, there is no need for the customer's extra time, which is a problem with the conventional method using a questionnaire, and therefore the number of customer responses is not reduced. Customer interest information can be obtained without changing the true feeling when answering a questionnaire.

本実施例による本発明によれば、顧客の店舗における行動を人間が観察して、店舗の店員がなぜ顧客がその商品等を購入しないか推定する方法での課題である、店員の個性に依存することもなく信頼性の高い顧客判断関心情報が得られ、また情報の量を増やすことも店舗に設置する端末を増やすだけで容易に増加可能であり、大勢の人間を動員する必要もなく、安価な費用で可能となった。   According to the present invention according to the present embodiment, depending on the individuality of the store clerk, which is a problem in the method in which humans observe the behavior of the customer in the store and the store clerk estimates why the customer does not purchase the product etc. You can get reliable and reliable customer decision information, and you can easily increase the amount of information just by increasing the number of devices installed in the store, without the need to mobilize many people, It became possible at low cost.

また、商品の販売時情報を取得可能なPOSレジスタと、商品購入時の顧客の姿をカメラによって撮影するシステムでは、購入した顧客の属性からなるデータは得ることができるが、購入しなかった顧客に関するデータを得ることが出来ないという課題があったが、本発明の実施例では、購入しなかった顧客がどの位存在していたか、その理由が何であったか、また、購入した顧客がどの程度購入決断に迷ったか、またどのような仕様に注目して購入を決めたか、などの顧客判断関心情報に関するデータを得ることが出来る。   In addition, with a POS register that can acquire information on the sale of products and a system that captures the appearance of customers at the time of purchase with a camera, data consisting of attributes of purchased customers can be obtained, but customers who have not purchased However, in the embodiment of the present invention, how many customers did not purchase, what was the reason, and how much customers purchased It is possible to obtain data related to customer judgment interest information, such as whether he / she has lost his decision or what kind of specifications he / she has decided to purchase.

また、顧客の店舗前や店舗内の商品フィールドにおける行動をカメラ等で撮影して、この映像情報から顧客の滞留時間を含むトラッキングデータを得て、これらのデータから、その商品の店舗における販売促進に活用しようとするシステムでは得られなかった、より質の高い情報である、顧客その商品等に対してなぜ購入判断したのか、もしくは非購入の判断をしたのか、また、顧客がその商品のどのような仕様や特徴に興味を有したのか、またどのような仕様や特徴が気に入らなかったのか、等のより質の高い顧客の判断関心情報を得ることが出来る。   In addition, the behavior of the customer in front of the store or the product field in the store is photographed with a camera or the like, tracking data including the customer's residence time is obtained from this video information, and sales promotion of the product in the store is obtained from these data. The customer has made a decision to purchase or not purchase the product, which is higher quality information that could not be obtained by the system to be used for the customer. It is possible to obtain high-quality customer judgment interest information such as whether you are interested in such specifications and features, and what specifications and features you do not like.

11 顧客
12 顧客情報収集装置
13 通路
14 該当商品
15 他の商品
16 商品棚
17 カメラ
18 赤外線センサー
21 PC部(PC部分)
22 映像表示部
26 タッチスクリーン
27 スピーカー
28 マイク
31 商品情報提供部
32 通行顧客人数カウント部
33 顧客視認判断部
34 顧客属性推定部
35 顧客接近判断部
36 商品接触判断部
37 商品購入判断部
41 カメラで捕捉された映像画面
51 目の特徴点
52 鼻の特徴点
53 口の特徴点
54 顔の輪郭の特徴点
61 近づいた顧客の目の特徴点
62 近づいた顧客の鼻の特徴点
63 近づいた顧客の口の特徴点
64 近づいた顧客の顔の輪郭の特徴点
71 商品棚に伸ばした顧客の手
91 ネットワーク
92 各店舗の顧客情報収集装置
93 サーバー

DESCRIPTION OF SYMBOLS 11 Customer 12 Customer information collection device 13 Passage 14 Corresponding product 15 Other product 16 Product shelf 17 Camera 18 Infrared sensor 21 PC part (PC part)
22 Video display unit 26 Touch screen 27 Speaker 28 Microphone 31 Product information providing unit 32 Passenger number of people counting unit 33 Customer visibility determining unit 34 Customer attribute estimating unit 35 Customer approach determining unit 36 Product contact determining unit 37 Product purchase determining unit 41 With camera Captured video screen 51 Eye feature point 52 Nose feature point 53 Mouth feature point 54 Facial contour feature point 61 Approaching customer eye feature 62 Approaching customer nose feature point 63 Approaching customer nose feature 63 Mouth feature 64 Mouth customer's facial contour feature 71 Customer's hand stretched on product shelf 91 Network 92 Customer information collection device at each store 93 Server

Claims (19)

店舗に設置された商品棚に商品と隣接して設置される顧客情報収集装置において、前記顧客情報収集装置の一部であるPC部分に、顧客に対して提供する商品の情報を作成する商品情報提供部と、商品棚の前の通路を通行中の顧客の人数のカウントをする通行顧客人数カウント部、商品棚の前の通路を通行中の顧客が前記顧客情報収集装置の映像表示部の画面を視認したことを判断する顧客視認判断部と、前期視認した顧客の属性を推定する顧客属性推定部と、前期視認した顧客が前記顧客情報収集装置もしくは顧客情報収集装置に隣接されて設置されている該当商品に近づくことを判断する顧客接近判断部と、接近した顧客が前記設置されている該当商品を手に取ったかを判断する商品接触判断部と、この商品を精算のための場所に持ち運んだかを判断する商品購入判断部と、からなるソフトウェアを含み、前記商品情報提供部から提供される情報を映し出す映像表示部、PC部分に映像を取り込むカメラ、顧客の手を認識するセンサーを構成要素として含む顧客情報収集装置。   Product information for creating information on products to be provided to customers in a PC portion that is a part of the customer information collection device in a customer information collection device installed adjacent to the product on a product shelf installed in a store A providing unit, a passing customer number counting unit that counts the number of customers passing through the passage in front of the product shelf, and a screen of the video display unit of the customer information collecting device when the customer passing through the passage in front of the product shelf A customer visibility judging unit for judging that the customer has visually recognized, a customer attribute estimating unit for estimating an attribute of the customer visually recognized in the previous term, and a customer visually recognized in the previous term are installed adjacent to the customer information collecting device or the customer information collecting device. A customer approach judgment unit for judging that the product is approaching, a product contact judgment unit for judging whether the approaching customer has picked up the installed product, and holding the product at a place for settlement. luck A product purchase determination unit for determining whether or not, a video display unit for displaying information provided by the product information providing unit, a camera for capturing video into a PC portion, and a sensor for recognizing a customer's hand Including customer information collection device. 前記商品情報提供部が、前記顧客視認判断部の結果、前記顧客属性推定部の結果、前記顧客接近判断部の結果、前記商品接触判断部の結果の少なくともいずれか一つの結果に対応して、提供する内容をインターラクティブに変化させることを特徴とする請求項1記載の顧客情報収集装置。   The product information providing unit corresponds to at least one of the result of the customer visual recognition determination unit, the result of the customer attribute estimation unit, the result of the customer approach determination unit, the result of the product contact determination unit, The customer information collecting apparatus according to claim 1, wherein contents to be provided are changed interactively. 前記商品情報提供部により提供された情報を映し出す映像表示部の画面を顧客が視認したかを判断する顧客視認判断部が、前記カメラによって撮影された映像情報から顧客の顔の特徴点を抽出する特徴点抽出部と、この特徴点の動きからこの顧客が商品の方を向いたかを判断する顧客顔面正対判断部と、を含むことを特徴とする請求項1記載の顧客情報収集装置。   A customer visual recognition determination unit that determines whether a customer visually recognizes a screen of a video display unit that displays the information provided by the product information providing unit, extracts feature points of the customer's face from the video information captured by the camera The customer information collection device according to claim 1, further comprising: a feature point extraction unit; and a customer face confrontation determination unit that determines whether the customer is facing the product from the movement of the feature point. 前記顧客視認判断部で視認した顧客の抽出された顔の特徴点および顧客の顔の輪郭形状から、顧客の性別、年齢層を推定する顧客属性推定部を含むことを特徴とする請求項1記載の顧客情報収集装置。   The customer attribute estimation part which estimates a customer's sex and an age group from the feature point of the customer's extracted face visually recognized by the said customer visual recognition judgment part and the outline shape of a customer's face is included. Customer information collection device. 前記顧客接近判断部は、前記カメラによって撮影された映像情報から捕捉された顧客の輪郭形状が当初の形状より一定値を超えたことによって顧客が接近したと判断することを特徴とする請求項1記載の顧客情報収集装置。   The customer approach determining unit determines that the customer has approached when the contour shape of the customer captured from the video information photographed by the camera exceeds a predetermined value from the initial shape. The customer information collection device described. 前記顧客情報収集装置は映像表示部の周辺部にドップラーセンサーを有し、前記顧客接近判断部は、ドップラーセンサーによって検出されるドップラー量が一定値を超えたことによって接近したと判断することを特徴とする請求項1記載の顧客情報収集装置。   The customer information collection device has a Doppler sensor in the periphery of the video display unit, and the customer approach determination unit determines that the approach has occurred due to the Doppler amount detected by the Doppler sensor exceeding a certain value. The customer information collecting apparatus according to claim 1. 前記商品接触判断部は、前記映像表示部の周辺部に付属した赤外線センサーにより、この赤外線センサーによって検出される赤外線量が一定の値を超えたときに、この顧客の手と該当する商品が接触したと判断することを特徴とする請求項1記載の顧客情報収集装置。   The product contact determination unit is configured such that when the amount of infrared rays detected by the infrared sensor exceeds a certain value by an infrared sensor attached to a peripheral portion of the video display unit, the customer's hand contacts the corresponding product. The customer information collection device according to claim 1, wherein the customer information collection device is determined. 前記商品接触判断部は、前記カメラによって撮影された映像情報から捕捉された顧客の手の特徴点を抽出し、この顧客の手と該当する商品が接触したと判断することを特徴とする請求項1記載の顧客情報収集装置。   The product contact determination unit extracts a feature point of a customer's hand captured from video information photographed by the camera, and determines that the customer's hand contacts the corresponding product. 1. The customer information collecting apparatus according to 1. 前記顧客情報収集装置は映像表示部の周辺部にマイクを有し、前記商品接触判断部は、このマイクに顧客が商品を接触した際の音が一定の値を超えたときに、この顧客の手と該当する商品が接触したと判断することを特徴とする請求項1記載の顧客情報収集装置。   The customer information collection device has a microphone in the periphery of the video display unit, and the product contact determination unit is configured to detect the customer's contact when the sound when the customer touches the product exceeds a certain value. 2. The customer information collecting apparatus according to claim 1, wherein it is determined that the hand and the corresponding product are in contact with each other. 前記顧客情報収集装置は商品棚に置かれた商品の下に設置された圧力をセンシングする圧力シートと接続され、前記商品接触判断部は、この圧力シートが感じる圧力量が一定の値を下回ったときに、この顧客の手と該当する商品が接触したと判断することを特徴とする請求項1記載の顧客情報収集装置。   The customer information collection device is connected to a pressure sheet that senses the pressure installed under the product placed on the product shelf, and the product contact determination unit has a pressure amount felt by the pressure sheet falls below a certain value. 2. The customer information collecting apparatus according to claim 1, wherein it is determined that the customer's hand is in contact with the corresponding product. 前記商品購入判断部は、顧客の手と商品が接触したと判断した赤外線センサーの値が再度上がることが無かった場合に、該当商品を顧客が購入手続きのためにレジまで持ち運んだと判断することを特徴とする請求項7記載の顧客情報収集装置。   The product purchase determination unit determines that the customer has carried the product to the cash register for purchase procedure when the value of the infrared sensor determined that the product is in contact with the customer's hand has not increased again. 8. The customer information collecting apparatus according to claim 7. 前記商品購入判断部は、顧客によって手にとられた商品を前記カメラで撮影し、この商品が画面の外に移動されたことで、該当商品が購入手続きのためにレジまで持ち運んだと判断することを特徴とする請求項1記載の顧客情報収集装置。   The product purchase determination unit captures the product taken by the customer with the camera, and determines that the product has been carried to the cash register for purchase procedure by moving the product out of the screen. The customer information collecting apparatus according to claim 1, wherein: 前記商品購入判断部は、前記商品の下に敷かれた圧力シートが有する圧力センサーが感じる圧力量が一定の値を下回り一定時間内にこの値が戻らなかったときに、この顧客は該当商品が購入手続きのためにレジまで持ち運んだと判断することを特徴とする請求項10記載の顧客情報収集装置。   The product purchase determination unit determines that when the pressure amount felt by the pressure sensor of the pressure sheet laid under the product falls below a certain value and does not return within a certain time, the customer 11. The customer information collecting apparatus according to claim 10, wherein it is determined that the item has been carried to a cash register for purchase procedure. 請求項1から13のいずれか記載の請求項1記載の顧客情報収集装置が複数台店舗に設置され、かつ、複数の店舗に設置され、それぞれがネットワークを介して接続され、すべての店舗の情報の収集分析を行う、顧客情報収集システム。   The customer information collection device according to any one of claims 1 to 13 is installed in a plurality of stores and is installed in a plurality of stores, each connected via a network, and information on all stores Customer information collection system that collects and analyzes data. 顧客情報収集装置に付属する映像表示部によって商品に関するに情報を商品展示前の通路を通行中の顧客に示すステップと、この通行中の顧客の人数をカウントするステップと、顧客情報収集装置に付属する映像表示部の画面もしくは近接されて設置されている該当商品を視認したことを判断するステップと、前記視認した顧客の属性を推定するステップと、前記視認した顧客が前記商品情報収集装置に近接されて設置されている該当商品に近づくことを判断するステップと、該当商品に接近した顧客が該当商品を手に取ったかを判断するステップと、この商品を精算のための場所に持ち運んだかを判断するステップと、を含むことを特徴とする顧客情報収集方法。   A step of showing information related to the product to the customer who is passing through the passage before the product display by a video display unit attached to the customer information collecting device, a step of counting the number of customers in the passage, and attached to the customer information collecting device A step of judging that the corresponding product installed on the screen or in the vicinity of the video display unit has been visually recognized, a step of estimating the attribute of the visually recognized customer, and the visually recognized customer approaching the product information collecting device The step of determining that the product is close to the installed product, the step of determining whether the customer who has approached the product has picked up the product, and whether the product has been carried to the checkout location And a customer information collecting method. 前記視認した顧客に対して、映像表示部の画面の内容を前記推定した属性に適合した内容の画面に変えて表示するステップを含むことを特徴とする請求項15記載の顧客情報収集方法。   16. The customer information collecting method according to claim 15, further comprising the step of displaying the contents of the screen of the video display unit by changing the contents of the screen of the video display unit to a screen having contents adapted to the estimated attribute. 前記接近した顧客に対して、映像表示部の画面の内容を前記推定した属性に適合した内容の画面に変えて表示するステップを含むことを特徴とする請求項15記載の顧客情報収集方法。   16. The customer information collecting method according to claim 15, further comprising the step of displaying the approaching customer by changing the contents of the screen of the video display unit to a screen having contents adapted to the estimated attribute. 前記接近した顧客に対して、映像表示部の画面の表面に設置されたタッチパネルにより顧客により選択された内容の画面に変えて表示するステップを含むことを特徴とする請求項15記載の顧客情報収集方法。   16. The customer information collection according to claim 15, further comprising the step of displaying the approaching customer in place of a screen selected by the customer using a touch panel installed on the surface of the screen of the video display unit. Method. 該当商品を手に取ったと判断された顧客に対して、映像表示部の画面の内容を異なる内容の画面に変えて表示するステップを含むことを特徴とする請求項15記載の顧客情報収集方法。   16. The method for collecting customer information according to claim 15, further comprising the step of changing the content of the screen of the video display unit to a screen with a different content for the customer who is determined to have picked up the corresponding product.
JP2015154398A 2015-08-04 2015-08-04 Customer information collection device, customer information collection system and customer information collection method Pending JP2017033401A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015154398A JP2017033401A (en) 2015-08-04 2015-08-04 Customer information collection device, customer information collection system and customer information collection method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015154398A JP2017033401A (en) 2015-08-04 2015-08-04 Customer information collection device, customer information collection system and customer information collection method

Publications (1)

Publication Number Publication Date
JP2017033401A true JP2017033401A (en) 2017-02-09

Family

ID=57988221

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015154398A Pending JP2017033401A (en) 2015-08-04 2015-08-04 Customer information collection device, customer information collection system and customer information collection method

Country Status (1)

Country Link
JP (1) JP2017033401A (en)

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108197971A (en) * 2017-12-08 2018-06-22 北京天正聚合科技有限公司 Information collecting method, information processing method, apparatus and system
JP2018206159A (en) * 2017-06-06 2018-12-27 株式会社 ディー・エヌ・エー System, method, and program for managing products
KR20190072562A (en) * 2017-03-07 2019-06-25 알리바바 그룹 홀딩 리미티드 Method and apparatus for determining order information
JP2019164842A (en) * 2018-07-03 2019-09-26 百度在線網絡技術(北京)有限公司 Human body action analysis method, human body action analysis device, equipment, and computer-readable storage medium
JP2020091267A (en) * 2018-12-07 2020-06-11 ヤフー株式会社 Correction device, correction method, and correction program
KR20200073519A (en) * 2018-12-14 2020-06-24 주식회사 세중아이에스 Stand-alone type apparatus and method for automatically analyzing clientele
WO2020195846A1 (en) * 2019-03-26 2020-10-01 フェリカネットワークス株式会社 Information processing device, information processing method, and program
CN112132600A (en) * 2019-06-24 2020-12-25 北京沃东天骏信息技术有限公司 Data collection method, device, equipment, system, medium and electronic equipment
JP2021033713A (en) * 2019-08-26 2021-03-01 東芝テック株式会社 Article management apparatus and program
JP2021131786A (en) * 2020-02-21 2021-09-09 株式会社 impactTV Customer information collection terminal, customer information collection system and customer information collection method
JP2022072825A (en) * 2020-10-30 2022-05-17 株式会社Vaak Behavior estimation device, behavior estimation method, program and behavior estimation system
WO2022220375A1 (en) * 2021-04-13 2022-10-20 주식회사 베이리스 Electronic system using artificial intelligence
JP2023063034A (en) * 2021-10-22 2023-05-09 株式会社Nttドコモ Information provision device
WO2024018548A1 (en) * 2022-07-19 2024-01-25 富士通株式会社 Generation program, generation method, and information processing device
WO2024018545A1 (en) * 2022-07-19 2024-01-25 富士通株式会社 Generation program, generation method, and information processing device
KR20240079876A (en) * 2022-11-29 2024-06-05 대한민국(과학기술정보통신부 국립중앙과학관장) Automatic counting system for spectating and participating visitors over a certain period of time
KR102687243B1 (en) * 2023-10-20 2024-07-23 (주)티씨비 Customer reaction monitoring system in product display space

Cited By (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190072562A (en) * 2017-03-07 2019-06-25 알리바바 그룹 홀딩 리미티드 Method and apparatus for determining order information
KR102192884B1 (en) 2017-03-07 2020-12-22 어드밴스드 뉴 테크놀로지스 씨오., 엘티디. Method and device for determining order information
JP2018206159A (en) * 2017-06-06 2018-12-27 株式会社 ディー・エヌ・エー System, method, and program for managing products
CN108197971A (en) * 2017-12-08 2018-06-22 北京天正聚合科技有限公司 Information collecting method, information processing method, apparatus and system
JP2019164842A (en) * 2018-07-03 2019-09-26 百度在線網絡技術(北京)有限公司 Human body action analysis method, human body action analysis device, equipment, and computer-readable storage medium
US10970528B2 (en) 2018-07-03 2021-04-06 Baidu Online Network Technology (Beijing) Co., Ltd. Method for human motion analysis, apparatus for human motion analysis, device and storage medium
JP7068152B2 (en) 2018-12-07 2022-05-16 ヤフー株式会社 Correction device, correction method, and correction program
JP2020091267A (en) * 2018-12-07 2020-06-11 ヤフー株式会社 Correction device, correction method, and correction program
KR20200073519A (en) * 2018-12-14 2020-06-24 주식회사 세중아이에스 Stand-alone type apparatus and method for automatically analyzing clientele
KR102153967B1 (en) * 2018-12-14 2020-09-09 주식회사 세중아이에스 Stand-alone type apparatus and method for automatically analyzing clientele
WO2020195846A1 (en) * 2019-03-26 2020-10-01 フェリカネットワークス株式会社 Information processing device, information processing method, and program
CN112132600A (en) * 2019-06-24 2020-12-25 北京沃东天骏信息技术有限公司 Data collection method, device, equipment, system, medium and electronic equipment
JP2021033713A (en) * 2019-08-26 2021-03-01 東芝テック株式会社 Article management apparatus and program
JP7500168B2 (en) 2019-08-26 2024-06-17 東芝テック株式会社 Item management device and program
JP2021131786A (en) * 2020-02-21 2021-09-09 株式会社 impactTV Customer information collection terminal, customer information collection system and customer information collection method
JP2022072825A (en) * 2020-10-30 2022-05-17 株式会社Vaak Behavior estimation device, behavior estimation method, program and behavior estimation system
WO2022220375A1 (en) * 2021-04-13 2022-10-20 주식회사 베이리스 Electronic system using artificial intelligence
JP2023063034A (en) * 2021-10-22 2023-05-09 株式会社Nttドコモ Information provision device
WO2024018548A1 (en) * 2022-07-19 2024-01-25 富士通株式会社 Generation program, generation method, and information processing device
WO2024018545A1 (en) * 2022-07-19 2024-01-25 富士通株式会社 Generation program, generation method, and information processing device
KR20240079876A (en) * 2022-11-29 2024-06-05 대한민국(과학기술정보통신부 국립중앙과학관장) Automatic counting system for spectating and participating visitors over a certain period of time
KR102807606B1 (en) * 2022-11-29 2025-05-22 대한민국 Automatic counting system for spectating and participating visitors over a certain period of time
KR102687243B1 (en) * 2023-10-20 2024-07-23 (주)티씨비 Customer reaction monitoring system in product display space

Similar Documents

Publication Publication Date Title
JP2017033401A (en) Customer information collection device, customer information collection system and customer information collection method
CN110033298B (en) Information processing apparatus, control method thereof, system thereof, and storage medium
US8010402B1 (en) Method for augmenting transaction data with visually extracted demographics of people using computer vision
TWI778030B (en) Store apparatus, store management method and program
KR101779094B1 (en) A integration store management system using intelligent type image analysis technology
JP4125634B2 (en) Customer information collection management method and system
JP5666772B2 (en) Information providing apparatus, information providing method, and program
US8295542B2 (en) Adjusting a consumer experience based on a 3D captured image stream of a consumer response
US9747497B1 (en) Method and system for rating in-store media elements
KR101779096B1 (en) The object pursuit way in the integration store management system of the intelligent type image analysis technology-based
US20110199486A1 (en) Customer behavior recording device, customer behavior recording method, and recording medium
JP4778532B2 (en) Customer information collection management system
JP6058982B2 (en) Consumer needs analysis system and consumer needs analysis method
JP5002441B2 (en) Marketing data analysis method, marketing data analysis system, data analysis server device, and program
JP2006113711A (en) Marketing information provision system
JP2010140287A (en) Purchase action analysis device, method and computer program
JP6498900B2 (en) Advertisement evaluation system, advertisement evaluation method
JP2012088878A (en) Customer special treatment management system
JP7092354B2 (en) Product information management device, product information management method and program
JP6886537B1 (en) Customer information collection terminal, customer information collection system and customer information collection method
CN113887884B (en) Supermarket service system
JP2018005691A (en) Information processing system, information processing device and information processing method
CN110322262B (en) Store information processing method and device and store system
JP2006350751A (en) In-store sales analysis apparatus and method
JP2005309951A (en) Sales promotion support system

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151008

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180806