[go: up one dir, main page]

JP2019061665A - Image processing system, control method thereof, and program - Google Patents

Image processing system, control method thereof, and program Download PDF

Info

Publication number
JP2019061665A
JP2019061665A JP2018169467A JP2018169467A JP2019061665A JP 2019061665 A JP2019061665 A JP 2019061665A JP 2018169467 A JP2018169467 A JP 2018169467A JP 2018169467 A JP2018169467 A JP 2018169467A JP 2019061665 A JP2019061665 A JP 2019061665A
Authority
JP
Japan
Prior art keywords
person
count
counting
image
predetermined position
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018169467A
Other languages
Japanese (ja)
Other versions
JP6669977B2 (en
Inventor
高志 羽部
Takashi Habe
高志 羽部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Marketing Japan Inc
Original Assignee
Canon Marketing Japan Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Marketing Japan Inc filed Critical Canon Marketing Japan Inc
Publication of JP2019061665A publication Critical patent/JP2019061665A/en
Priority to JP2020027862A priority Critical patent/JP6982263B2/en
Application granted granted Critical
Publication of JP6669977B2 publication Critical patent/JP6669977B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Abstract

【課題】画像から所定の位置を通過した人数を算出する時に、目的に適した人数を算出することが可能な仕組みを提供すること。【解決手段】画像処理システムは、人物が写った複数の画像を取得する取得手段と、前記画像に写った人物であって所定の位置を通過した人物の人数をカウントするカウント手段と、前記画像に写った人物が前記所定の位置を通過した通過方向を示す通過方向情報を取得する通過方向取得手段と、前記通過方向取得手段により取得された前記通過方向情報に基づき、前記所定の位置を通過した人物が、前記カウント手段による人数のカウントから除外するカウント除外対象であるか否かを判定するカウント除外手段と、を備え、前記カウント手段は、前記カウント除外手段により前記カウント除外対象であると判定された場合には、前記カウント除外対象であると判定された人物の人数をカウントから除外する。【選択図】図1To provide a mechanism capable of calculating the number of people who have passed a predetermined position from an image and calculating the number of people suitable for the purpose. An image processing system includes an acquisition unit that acquires a plurality of images in which a person is photographed, a counting unit that counts the number of persons in the image who have passed a predetermined position, and the image And a passing direction acquisition means for acquiring passing direction information indicating a passing direction in which the person who has passed through the predetermined position passes through the predetermined position based on the passing direction information acquired by the passing direction acquisition means. A counting exclusion means for determining whether or not the counted person is a count exclusion target excluded from the counting of the number of people by the counting means, and the counting means is the count exclusion target by the count exclusion means If determined, the number of persons determined to be excluded from the count is excluded from the count. [Selection] Figure 1

Description

本発明は、画像処理システム、画像処理システムの制御方法、およびプログラムに関する。   The present invention relates to an image processing system, a control method of the image processing system, and a program.

近年ネットワークカメラの映像を用いて人数をカウントするシステムが提案されている。例えば特許文献1には、カメラから出力された撮影画像を取得し、当該撮影画像に対して顔認識を行うことで、当該撮影画像中の顔の数に応じた人数を算出する仕組みが提案されている。   In recent years, a system for counting the number of people using video of a network camera has been proposed. For example, Patent Document 1 proposes a mechanism for calculating the number of people according to the number of faces in the captured image by acquiring the captured image output from the camera and performing face recognition on the captured image. ing.

また特許文献2には、特定箇所を撮影し、撮影された映像を画像処理することによって当該特定箇所を通過した人数をカウントする仕組みが提案されている。   Further, Patent Document 2 proposes a mechanism for photographing a specific part and performing image processing on the photographed image to count the number of people who have passed the specific part.

特開2011−221906号公報JP, 2011-221906, A 特開2008−217205号公報JP 2008-217205 A

特許文献1および特許文献2の仕組みを利用してネットワークカメラの画像(映像)を解析することで、画像中に写っている人の人数や、所定の位置を通過した人の人数を算出することができる。   Analyzing the image (video) of the network camera using the mechanisms of Patent Document 1 and Patent Document 2 to calculate the number of people appearing in the image and the number of people passing through the predetermined position Can.

しかしながら、これら特許文献にて提案された技術を利用した場合、例えばイベント会場などで参加した人の人数を数えたい場合に、係員などイベントの参加者ではない人まで数えてしまうことになってしまう。   However, when using the technology proposed in these patent documents, for example, when it is desired to count the number of people who have participated in the event hall, etc., even people who are not participants of the event will be counted. .

また、長時間滞在した人や短時間しか滞在していない人も同様に数えてしまうためユーザごとの滞在時間を算出することができないという問題もあった。   In addition, there is also a problem that it is not possible to calculate the stay time for each user because people who stay for a long time and people who stay only for a short time are counted similarly.

また、同じユーザが何度もカウントされてしまうことによって、実人数を数えたい場合などには正しい人数を算出することができないとう問題もあった。   In addition, when the same user is counted many times, there is also a problem that the correct number of people can not be calculated when it is desired to count the actual number of people.

そこで本発明では、これら問題点に鑑み、画像から所定の位置を通過した人数を算出する時に、目的に適した人数を算出することが可能な仕組みを提供することを目的とする。   Therefore, in view of these problems, it is an object of the present invention to provide a mechanism capable of calculating the number of persons suitable for the purpose when calculating the number of persons who have passed a predetermined position from an image.

本発明に係る画像処理システムは、所定の位置を通過した人物の人数をカウントすることが可能な画像処理システムであって、人物が写った複数の画像を取得する取得手段と、画像に写った人物であって所定の位置を通過した人物の人数をカウントするカウント手段と、画像に写った人物が所定の位置を通過した通過方向を示す通過方向情報を取得する通過方向取得手段と、通過方向取得手段により取得された通過方向情報に基づき、所定の位置を通過した人物が、カウント手段による人数のカウントから除外するカウント除外対象であるか否かを判定するカウント除外手段と、を備え、カウント手段は、カウント除外手段によりカウント除外対象であると判定された場合には、カウント除外対象であると判定された人物の人数をカウントから除外する。   The image processing system according to the present invention is an image processing system capable of counting the number of persons who have passed a predetermined position, and an acquisition unit for acquiring a plurality of images in which a person is photographed, and an image processing system A counting means for counting the number of persons who are persons who have passed a predetermined position, a passing direction acquiring means for acquiring passing direction information indicating a passing direction in which the person shown in the image has passed the predetermined position, Count exclusion means for determining whether a person who has passed a predetermined position is a target for exclusion from the count of the number of people by the count means based on the passing direction information acquired by the acquisition means; If the means is determined by the count exclusion means to be count exclusion target, does the means count the number of persons determined to be count exclusion targets? Excluded.

本発明に係る画像処理システムの制御方法は、所定の位置を通過した人物の人数をカウントする画像処理システムの制御方法であって、人物が写った複数の画像を取得する取得ステップと、画像に写った人物であって所定の位置を通過した人物の人数をカウントするカウントステップと、画像に写った人物が所定の位置を通過した通過方向を示す通過方向情報を取得する通過方向取得ステップと、通過方向取得ステップにおいて取得された通過方向情報に基づき、所定の位置を通過した人物が、カウントステップにおける人数のカウントから除外するカウント除外対象であるか否かを判定するカウント除外ステップと、を含み、カウントステップは、カウント除外ステップにおいてカウント除外対象であると判定された場合には、カウント除外対象であると判定された人物の人数をカウントから除外する。   A control method of an image processing system according to the present invention is a control method of an image processing system that counts the number of persons who have passed a predetermined position, and an acquisition step of acquiring a plurality of images in which a person is photographed; A counting step for counting the number of persons who are photographed persons who have passed a predetermined position; and a passing direction acquiring step for acquiring passing direction information indicating a passing direction in which the person photographed in the image has passed a predetermined position; A count exclusion step of determining whether a person who has passed a predetermined position is a target of count exclusion to be excluded from the count of the number of people in the count step based on the passage direction information acquired in the passage direction acquisition step; , And counting step, if it is determined in the counting exclusion step that it is the target of counting exclusion, counting It excludes the number of the person who is determined to be a target from the count.

本発明に係るプログラムは、所定の位置を通過した人物の人数をカウントする画像処理システムで読み取り可能なプログラムであって、画像処理システムを、人物が写った複数の画像を取得する取得手段と、画像に写った人物であって所定の位置を通過した人物の人数をカウントするカウント手段と、画像に写った人物が所定の位置を通過した通過方向を示す通過方向情報を取得する通過方向取得手段と、通過方向取得手段により取得された通過方向情報に基づき、所定の位置を通過した人物が、カウント手段による人数のカウントから除外するカウント除外対象であるか否かを判定するカウント除外手段として機能させ、カウント手段を、カウント除外手段によりカウント除外対象であると判定された場合には、カウント除外対象であると判定された人物の人数をカウントから除外するように機能させるためのプログラムである。   A program according to the present invention is a program readable by an image processing system for counting the number of persons who have passed a predetermined position, the image processing system comprising: acquiring means for acquiring a plurality of images in which a person is photographed; Counting means for counting the number of persons who are persons who are captured in an image and have passed a predetermined position, and passage direction acquisition means for acquiring passage direction information indicating the passage direction in which the person who is captured in the image has passed a predetermined position And function as count exclusion means for determining whether or not a person who has passed a predetermined position is an exclusion target to be excluded from the count of the number of people by the counting means based on the passing direction information acquired by the passing direction acquiring means If the counting means is determined to be the count exclusion target by the count exclusion means, it is determined that the count exclusion target is Is a program for causing the functions to exclude the number of constant is the person from the count.

本発明によると、画像から所定の位置を通過した人数を算出する時に、目的に適した人数を算出することが可能な仕組みを提供することができる。   According to the present invention, it is possible to provide a mechanism capable of calculating the number of people suitable for the purpose when calculating the number of people who have passed a predetermined position from an image.

本発明の実施形態における画像処理システムのシステム構成の一例を示すシステム構成図である。FIG. 1 is a system configuration diagram showing an example of a system configuration of an image processing system according to an embodiment of the present invention. 本発明の実施形態における画像処理システムのサーバ100、クライアントPC101に適用可能な情報処理装置のハードウェア構成の一例を示す図である。It is a figure which shows an example of the hardware constitutions of the information processing apparatus applicable to the server 100 of the image processing system in embodiment of this invention, and client PC101. 本発明の実施形態におけるネットワークカメラ102のハードウェアの構成の一例を示す図である。It is a figure showing an example of the composition of the hardware of network camera 102 in an embodiment of the present invention. 本発明の実施形態における画像処理システムの機能構成の一例を示す機能構成図である。It is a functional block diagram which shows an example of a functional structure of the image processing system in embodiment of this invention. 本発明の実施形態における人数カウントに利用される画像の一例を示す図である。It is a figure which shows an example of the image utilized for the people count in embodiment of this invention. 本発明の実施形態における通過人数カウントに利用される画像の一例を示す図である。It is a figure which shows an example of the image utilized for the passage person count in embodiment of this invention. 本発明の実施形態における画像処理システムの画像保存処理の一例を示すフローチャートである。It is a flowchart which shows an example of the image preservation | save process of the image processing system in embodiment of this invention. 本発明の実施形態における画像処理システムの通過人数カウント処理の一例を示すフローチャートである。It is a flowchart which shows an example of the passing people count process of the image processing system in embodiment of this invention. 本発明の実施形態における画像処理システムの人数カウント処理の一例を示すフローチャートである。It is a flowchart which shows an example of the people count process of the image processing system in embodiment of this invention. 本発明の実施形態における画像処理システムの顔認識処理の一例を示すフローチャートである。It is a flowchart which shows an example of the face recognition process of the image processing system in embodiment of this invention. 本発明の実施形態における画像処理システムの閲覧処理の一例を示すフローチャートである。It is a flowchart which shows an example of the browsing process of the image processing system in embodiment of this invention. 本発明の実施形態における画像処理システムの人物DBの一例を示す図である。It is a figure which shows an example of person DB of the image processing system in embodiment of this invention. 本発明の実施形態における人数カウントの閲覧画面の一例を示す図である。It is a figure which shows an example of the browsing screen of the people count in embodiment of this invention. 本発明の実施形態における通過人数カウントの閲覧画面の一例を示す図である。It is a figure which shows an example of the browsing screen of passing people count in embodiment of this invention. 別の実施形態に係る画像処理システムの通過人数カウント処理の一例を示すフローチャートである。It is a flowchart which shows an example of the passing people count process of the image processing system which concerns on another embodiment. 人物位置情報DBの一例を示す図である。It is a figure which shows an example of person position information DB. 境界越え情報DBの一例を示す図である。It is a figure which shows an example of border crossing information DB. ラインカウンタDBの一例を示す図である。It is a figure which shows an example of line counter DB. 別の実施形態に係る画像処理システムにおける画像に写った人数のカウント処理の一例を示すフローチャートである。It is a flowchart which shows an example of the count processing of the number of persons shown to the image in the image processing system which concerns on another embodiment. 人数カウントの閲覧画面の一例を示す図である。It is a figure which shows an example of the browsing screen of people count.

以下、図面を参照して、本発明の実施形態を詳細に説明する。なお、以下説明する実施形態は、本発明を具体的に実施した場合の一例を示すもので、特許請求の範囲に記載した構成の具体的な実施形態の1つである。   Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings. The embodiment described below shows an example when the present invention is specifically implemented, and is one of the specific embodiments of the configuration described in the claims.

図1は、本発明の実施形態における画像処理システムのシステム構成の一例を示すシステム構成図である。   FIG. 1 is a system configuration diagram showing an example of a system configuration of an image processing system according to an embodiment of the present invention.

本発明の実施形態における画像処理システム(情報処理システム)は、サーバ100、クライアントPC101、撮像装置であるネットワークカメラ102が、無線(または有線)LAN120を介して通信接続可能に接続されている。尚、図1のシステム構成は一例であり、用途や目的に応じて様々な構成例がある。   In an image processing system (information processing system) according to an embodiment of the present invention, a server 100, a client PC 101, and a network camera 102 which is an imaging device are communicably connected via a wireless (or wired) LAN 120. The system configuration of FIG. 1 is an example, and there are various configuration examples according to the application and purpose.

サーバ100は、ネットワークカメラ102において撮影された画像データを記憶管理する。また、サーバ100は、当該サーバ100で記憶管理する画像データを解析し、画像データに含まれるユーザの人数のカウントや、所定の領域を通過した人数のカウントを行う機能を有する。   The server 100 stores and manages image data captured by the network camera 102. The server 100 also has a function of analyzing image data stored and managed by the server 100, counting the number of users included in the image data, and counting the number of people who have passed through a predetermined area.

本発明の実施形態における画像管理システムは、ネットワークカメラ102を複数[ネットワークカメラ102(A)や(B)]含み、また、TCP/IPプロトコルで通信を行っており、各ネットワークカメラ102には、固定のIPアドレスが独自に割り当てられると共に、ネットワーク群毎に割り当てられた外部ポート番号が割り当てられている。   The image management system according to the embodiment of the present invention includes a plurality of network cameras 102 (network cameras 102 (A) and (B)), and performs communication by the TCP / IP protocol. A fixed IP address is uniquely assigned, and an external port number assigned to each network group is assigned.

従って、サーバ100では、受信した画像データが何れのネットワークカメラ102から送信されたものなのかを識別することが可能であり、受信した画像データと何れのネットワークカメラ102から送信されたものなのかを対応づけて記憶管理することが可能である。   Therefore, in the server 100, it is possible to identify from which network camera 102 the received image data has been transmitted, and it is possible to identify the received image data and from which network camera 102 it has been transmitted. It is possible to correspond and store and manage.

ネットワークカメラ102は、例えば、企業の建物のフロアの打ち合わせスペースや催し物会場(以下、「所定の領域」ともいう)ごとに設けられ、例えばネットワークカメラ102(A)は所定の領域全体の静止画または動画を撮影し、ネットワークカメラ102(B)はそこで撮影された人物を特定するための静止画または動画の撮影を行ったりする。   The network camera 102 is provided, for example, for each meeting space of the floor of a company building or an entertainment venue (hereinafter also referred to as “predetermined area”). For example, the network camera 102 (A) is a still image of the entire predetermined area or The moving image is taken, and the network camera 102 (B) takes a still image or a moving image to specify the person taken there.

所定の領域の例としては、領域の全体を示す領域106、領域A103、領域B104などである。領域A103と領域B104の間に設けられた位置105は、当該位置105を通過したユーザ(USER)の人数をカウントする場合の基準位置である。すなわち、本位置は、領域A103と領域B104とを区分けする境界である。本位置は、線状に設定されてもよいし、円状に設定されてもよいし、矩形で設定されてもよい。   Examples of the predetermined area include an area 106 indicating the entire area, an area A 103, an area B 104, and the like. A position 105 provided between the area A 103 and the area B 104 is a reference position when counting the number of users (USERs) who have passed the position 105. That is, the present position is a boundary that divides the area A103 and the area B104. The present position may be set to be linear, may be set to be circular, or may be set to be rectangular.

クライアントPC101は、サーバ100で管理する画像データ(ネットワークカメラ102の映像)をユーザが閲覧するために用いられる。ユーザは、クライアントPC101を介して、モニタリングシステムにログインすることにより、画像データの閲覧が可能となる。   The client PC 101 is used by the user to browse image data (video of the network camera 102) managed by the server 100. The user can browse image data by logging in to the monitoring system via the client PC 101.

次に、図2を用いて、図1に示したサーバ100、クライアントPC101に適用可能な情報処理装置のハードウェア構成の一例について説明する。   Next, an example of the hardware configuration of the information processing apparatus applicable to the server 100 and the client PC 101 shown in FIG. 1 will be described using FIG.

図2は、本発明の実施形態における画像処理システムのサーバ100、クライアントPC101に適用可能な情報処理装置のハードウェア構成の一例を示す図である。   FIG. 2 is a diagram showing an example of a hardware configuration of an information processing apparatus applicable to the server 100 and the client PC 101 of the image processing system according to the embodiment of the present invention.

図2において、201はCPUで、システムバス204に接続される各デバイスやコントローラを統括的に制御する。また、ROM202あるいは外部メモリ211には、CPU201の制御プログラムであるBIOS(Basic Input / Output System)やオペレーティングシステムプログラム(以下、OS)や、PCの実行する機能を実現するために必要な後述する各種プログラム等が記憶されている。   In FIG. 2, reference numeral 201 denotes a CPU, which centrally controls devices and controllers connected to the system bus 204. Further, the ROM 202 or the external memory 211 may be a BIOS (Basic Input / Output System) which is a control program of the CPU 201, an operating system program (hereinafter referred to as an OS), and various kinds of later described necessary for realizing functions executed by the PC. Programs and the like are stored.

203はRAMで、CPU201の主メモリ、ワークエリア等として機能する。CPU201は、処理の実行に際して必要なプログラム等をROM202あるいは外部メモリ211からRAM203にロードして、ロードしたプログラムを実行することで各種動作を実現するものである。   A RAM 203 functions as a main memory, a work area, and the like of the CPU 201. The CPU 201 loads programs necessary for execution of processing from the ROM 202 or the external memory 211 to the RAM 203, and implements various operations by executing the loaded programs.

また、205は入力コントローラで、キーボード(KB)209等のポインティングデバイス等からの入力を制御する。206はビデオコントローラで、CRTディスプレイ(CRT)210等の表示器への表示を制御する。なお、図2では、CRT210と記載しているが、表示器はCRTだけでなく、液晶ディスプレイ等の他の表示器であってもよい。   An input controller 205 controls an input from a pointing device such as a keyboard (KB) 209 or the like. A video controller 206 controls display on a display such as a CRT display (CRT) 210 or the like. Although FIG. 2 describes the CRT 210, the display may be not only a CRT but also another display such as a liquid crystal display.

207はメモリコントローラで、ブートプログラム、各種のアプリケーション、フォントデータ、ユーザファイル、編集ファイル、各種データ等を記憶する外部記憶装置(ハードディスク(HD))や、フレキシブルディスク(FD)、或いはPCMCIAカードスロットにアダプタを介して接続されるCFメモリ等の外部メモリ211へのアクセスを制御する。   A memory controller 207 is an external storage device (hard disk (HD)) for storing a boot program, various applications, font data, user files, editing files, various data, etc., a flexible disk (FD), or a PCMCIA card slot. An access to an external memory 211 such as a CF memory connected via an adapter is controlled.

208は通信I/Fコントローラで、ネットワークを介して外部機器と接続・通信するものであり、ネットワークでの通信制御処理を実行する。例えば、TCP/IPを用いた通信等が可能である。   A communication I / F controller 208 connects and communicates with an external device via a network, and executes communication control processing in the network. For example, communication using TCP / IP is possible.

なお、CPU201は、例えばRAM203内の表示情報用領域へアウトラインフォントの展開(ラスタライズ)処理を実行することにより、CRT210上での表示を可能としている。また、CPU201は、CRT210上の不図示のマウスカーソル等でのユーザ指示を可能とする。   The CPU 201 enables display on the CRT 210 by executing, for example, outline font rasterization processing on a display information area in the RAM 203. Further, the CPU 201 enables user's instruction with a mouse cursor (not shown) on the CRT 210 or the like.

本発明を実現するための後述する各種プログラムは、外部メモリ211に記録されており、必要に応じてRAM203にロードされることによりCPU201によって実行されるものである。さらに、上記プログラムの実行時に用いられる設定ファイル等も外部メモリ211に格納されており、これらについての詳細な説明も後述する。以上で、図2の説明を終了する。   Various programs to be described later for realizing the present invention are stored in the external memory 211, and are executed by the CPU 201 by being loaded into the RAM 203 as necessary. Furthermore, setting files and the like used at the time of execution of the program are also stored in the external memory 211, and a detailed description of these will be described later. This is the end of the description of FIG.

次に、図3を用いて、図1に示したネットワークカメラ102のハードウェア構成の一例について説明する。   Next, an example of the hardware configuration of the network camera 102 shown in FIG. 1 will be described using FIG.

図3は、本発明の実施形態におけるネットワークカメラ102のハードウェアの構成の一例を示す図である。   FIG. 3 is a diagram showing an example of a hardware configuration of the network camera 102 according to the embodiment of the present invention.

CPU301は、システムバス304に接続される各デバイスやコントローラを統括的に制御する。また、ROM302あるいは外部メモリ305には、CPU301の制御プログラムであるBIOS(Basic Input / Output System)やオペレーティングシステムプログラム(以下、OS)や、画像処理サーバ108の実行する機能を実現するために必要な後述する各種プログラム等が記憶されている。RAM303は、CPU301の主メモリ、ワークエリア等として機能する。   The CPU 301 centrally controls the devices and controllers connected to the system bus 304. Further, the ROM 302 or the external memory 305 is required to realize a function that is executed by the image processing server 108 such as a BIOS (Basic Input / Output System) which is a control program of the CPU 301, an operating system program (OS). Various programs to be described later are stored. The RAM 303 functions as a main memory, a work area, and the like of the CPU 301.

CPU301は、処理の実行に際して必要なプログラム等をRAM303にロードして、プログラムを実行することで各種動作を実現するものである。   The CPU 301 loads various programs and the like necessary for execution of processing into the RAM 303 and executes various programs to realize various operations.

メモリコントローラ(MC)306は、ブートプログラム、各種のアプリケーション、フォントデータ、ユーザファイル、編集ファイル、各種データ、画像データ等を記憶するハードディスク(HD)やPCMCIAカードスロットにアダプタを介して接続されるCFメモリやスマートメディア(登録商標)等の外部メモリ305へのアクセスを制御する。   A memory controller (MC) 306 is a CF connected via an adapter to a hard disk (HD) that stores a boot program, various applications, font data, user files, editing files, various data, image data, etc. and a PCMCIA card slot. It controls access to the external memory 305 such as memory and smart media (registered trademark).

カメラ部307は、画像処理部308と接続されており、監視対象に対して向けられたレンズを透過して得られた光をCCDやCMOS等の受光セルによって光電変換を行った後、RGB信号や補色信号を画像処理部308に対して出力する。   The camera unit 307 is connected to the image processing unit 308, and photoelectrically converts light obtained by transmitting light through a lens directed to a monitoring target by a light receiving cell such as a CCD or CMOS, and then converts the light into an RGB signal. And a complementary color signal to the image processing unit 308.

画像処理部308は、RGB信号や捕色信号に基づいて、ホワイトバランス調整、ガンマ処理、シャープネス処理を行い、更に、YC信号処理を施して輝度信号Yとクロマ信号(以下、YC信号)を生成し、YC信号を所定の圧縮形式(例えばJPEGフォーマット、あるいはMotionJPEGフォーマット等)で圧縮し、この圧縮されたデータは、画像データとして外部メモリ305へ一時保管される。   The image processing unit 308 performs white balance adjustment, gamma processing, and sharpness processing based on the RGB signal and the color capture signal, and further performs YC signal processing to generate a luminance signal Y and a chroma signal (hereinafter, YC signal). The YC signal is compressed in a predetermined compression format (for example, JPEG format or Motion JPEG format etc.), and this compressed data is temporarily stored in the external memory 305 as image data.

通信I/Fコントローラ(通信I/FC)309は、ネットワークを介して、外部機器と接続・通信するものであり、ネットワークでの通信制御処理を実行しており、外部メモリ305に記憶された画像データは、通信I/Fコントローラ309によって外部機器へ送信される。以上で、図3の説明を終了する。   A communication I / F controller (communication I / FC) 309 is for connecting and communicating with an external device via a network, executes communication control processing in the network, and stores the image stored in the external memory 305. The data is transmitted by the communication I / F controller 309 to an external device. This is the end of the description of FIG.

図4は、本発明の実施形態における画像処理システムの機能構成の一例を示す機能構成図である。   FIG. 4 is a functional configuration diagram showing an example of a functional configuration of the image processing system according to the embodiment of the present invention.

本実施形態に係る画像処理システムは、サーバ100が、画像取得部411、人数カウント部412、人物認識部413、人物除外部414、および結果画面表示制御部415の各機能を有する。なお、サーバ100は、図4に図示した機能構成に限られず、例えば、カウント除外対象であると判定された人物を記憶する記憶部、人物が所定の位置を通過した方向を示す通過方向情報を取得する通過方向取得部、人物が所定の領域に滞在している時間を算出する滞在時間算出手段等、その他の種々の機能構成を有していてもよい。   In the image processing system according to the present embodiment, the server 100 has the functions of an image acquisition unit 411, a people count unit 412, a person recognition unit 413, a person exclusion unit 414, and a result screen display control unit 415. Note that the server 100 is not limited to the functional configuration illustrated in FIG. 4 and, for example, a storage unit that stores a person determined to be a count exclusion target, passing direction information indicating a direction in which the person has passed a predetermined position It may have other various functional configurations such as a passing direction acquisition unit to be acquired, and a staying time calculating unit that calculates a time during which a person stays in a predetermined area.

画像取得部411は、図7で説明するようにネットワークカメラ102で撮影した画像を取得する。画像には静止画および動画が含まれる。実施例では、ネットワークカメラ102(A)は、所定の領域を撮影し、ネットワークカメラ102(B)は、識別された人物を認識し(例えば顔認証)、個人の特定を行うために利用する。   The image acquisition unit 411 acquires an image captured by the network camera 102 as described in FIG. 7. Images include still images and moving images. In the embodiment, the network camera 102 (A) captures a predetermined area, and the network camera 102 (B) recognizes the identified person (for example, face recognition) and uses it to identify an individual.

人数カウント部412は、ネットワークカメラ102(A)で撮影された画像を利用して、図9で説明するように所定の領域に写っている人物の人数カウントや、図8で説明するように所定の位置を通過した人物の人数カウントを行う。   The people counting section 412 counts the number of people in a predetermined area as described with reference to FIG. 9 using an image captured by the network camera 102 (A), and a predetermined number as described with FIG. Count the number of people who passed the position of.

人物認識部413は、ネットワークカメラ102(B)で撮影された画像を利用して、画像に写っている人物の認証を行う。認証処理の一例については、図10にて説明する。   The person recognition unit 413 uses the image captured by the network camera 102 (B) to authenticate the person shown in the image. An example of the authentication process will be described with reference to FIG.

人物除外部414は、画像取得部411により取得された画像に基づき、画像に写った人物が、人数カウント部412による人数のカウントから除外するカウント除外対象であるか否かを判定する。人物除外部414は、人数カウント部412による人数カウントから除外する人物を特定したり、認証された人物を図12に示す人物テーブルや通過人物テーブルに保存したりする処理を行う。人物除外部414は、例えば、画像に写った人物が所定の位置を通過した通過方向を示す通過方向情報に基づき、所定の位置を通過した人物がカウント除外対象であるか否かを判定する。また、人物除外部414は、画像に写った人物の所定の領域における滞在時間に基づき、画像に写った人物がカウント除外対象であるか否かを判定する。   Based on the image acquired by the image acquisition unit 411, the person exclusion unit 414 determines whether or not the person shown in the image is a count exclusion target to be excluded from the count of the number of people by the number counting unit 412. The person excluding unit 414 performs processing for specifying a person to be excluded from the number counting by the number counting unit 412, and storing the authenticated person in the person table and the passing person table shown in FIG. For example, the person excluding unit 414 determines whether or not the person who has passed the predetermined position is to be excluded from the count based on passing direction information indicating a passing direction in which the person shown in the image has passed the predetermined position. In addition, the person excluding unit 414 determines whether the person included in the image is to be excluded from the count based on the staying time of the person included in the image in the predetermined area.

結果画面表示制御部415は、ユーザの要求に従って、画像処理結果をユーザの端末に表示するよう制御する処理を行う。   The result screen display control unit 415 performs processing to control to display the image processing result on the terminal of the user according to the request of the user.

図5は、本発明の実施形態における人数カウントに利用される画像の一例を示す図である。   FIG. 5 is a view showing an example of an image used for counting the number of people according to the embodiment of the present invention.

画像A501は、ある場所における所定の領域が撮影された画像であり、画像B502は、画像Aと同じ地点・同じ領域を異なる時刻に撮影された画像である。これらの画像は比較対象となる画像として管理される。   The image A 501 is an image obtained by capturing a predetermined area at a certain place, and the image B 502 is an image obtained by capturing the same point / same area as the image A at different times. These images are managed as images to be compared.

図5では、画像AにAさんからEさんまでの5名が写っていていて、例えば5分後の画像である画像Bには、同じ5名であっても、DさんとEさんがいなくなり、FさんとGさんが写っているという例である。ここで、例えばAさん、Bさん、及びCさんは、5分前の画像Bにも写っていたユーザであるので、人数カウントから除外される。すなわち、人物除外部414は、所定の領域501における滞在時間が5分以上であるAさん、Bさん、及びCさんを、カウント除外対象として判定する。そして、人数カウント部412は、人物除外部414によりカウント除外対象であると判定された人物を除外して人数カウントをおこなう。   In FIG. 5, five persons from Mr. A to Mr. E appear in the image A. For example, in the image B which is an image after 5 minutes, Mr. D and Mr. E disappear even if they are the same five persons. , Mr. F and Mr. G are examples. Here, for example, since Mr. A, Mr. B, and Mr. C are users who are also shown in the image B five minutes ago, they are excluded from the people count. That is, the person excluding unit 414 determines Mr. A, Mr. B, and Mr. C whose staying time in the predetermined area 501 is 5 minutes or more as the count exclusion target. Then, the number counting unit 412 counts the number of people excluding the person determined to be the count exclusion target by the person excluding unit 414.

また、例えば係員のためAさんは人数カウントから除外するという設定も可能である。すなわち、人物除外部414は、既定の人物であることに基づきAさんをカウント除外対象であると判定してもよい。なお、人数カウント部412は、人物除外部414によりカウント除外対象であると判定された人物に限られず、予め管理者等によって設定された人物を除外して人数カウントをおこなってもよい。   In addition, for example, because of the clerk, it is possible to exclude Mr. A from the people count. That is, the person excluding unit 414 may determine that Mr. A is to be excluded from counting based on the fact that the person is a predetermined person. The number counting unit 412 is not limited to the person determined to be a count exclusion target by the person excluding unit 414, and may count the number of people excluding a person set in advance by a manager or the like.

本実施形態では、ここで写っている人の変化状況を図13で示す画面にて表示可能に構成されている。   In the present embodiment, it is configured to be able to display the change situation of the person shown here on the screen shown in FIG.

図6は、本発明の実施形態における通過人数カウントに利用される画像の一例を示す図である。   FIG. 6 is a view showing an example of an image used for counting the number of passing persons according to the embodiment of the present invention.

ある場所における所定の領域が撮影された画像であり、それぞれ画像A601→画像B602→画像C602の順に時間が経過したものである。   A predetermined area in a certain place is an image taken, and time has elapsed in the order of image A 601 → image B 602 → image C 602.

ここでは、所定の位置604を基準に領域Aから領域Bへ移動(またはその逆の領域Bから領域Aへ移動)した人数のカウントを行い、同じ方向に複数回移動する同一人物や既定のユーザをカウントから除外可能にするものである。ここで、同じ方向とは、ある一点からある一点に向かう直線上の全く同じ方向に限られず、例えば第一領域から第二領域に向かう方向として同じ方向であることをいう。便宜的に、領域Aを基準として、領域Bに人物が移動した場合を「OUT」、領域Bから領域Aに人物が移動した場合を「IN」とカウントすることとして説明する。この場合、同じ方向とは、何れも「OUT」(又は何れも「IN」)であることをいう。   Here, the number of people who moved from area A to area B (or vice versa move from area B to area A) based on the predetermined position 604 is counted, and the same person who moves multiple times in the same direction or the default user Can be excluded from the count. Here, the same direction is not limited to exactly the same direction on a straight line from a certain point to a certain point, and means, for example, the same direction as a direction from the first area to the second area. For convenience, with reference to the area A, a case where a person moves to the area B is described as “OUT”, and a case where a person moves from the area B to the area A is counted as “IN”. In this case, the same direction means that both are "OUT" (or both are "IN").

画像Aでは、Cさんが、領域Aから領域Bに移動(所定の位置604を領域Aから領域Bに移動)している様子を示している(OUT)。   The image A shows that Mr. C is moving from the area A to the area B (moving the predetermined position 604 from the area A to the area B) (OUT).

画像Bでは、Cさんが領域Bから領域Aに移動し、Dさんが領域Bから領域Aに移動した様子を示している(IN)。   Image B shows that Mr. C moved from Area B to Area A and Mr. D moved from Area B to Area A (IN).

画像Cでは、Cさんが再度領域Aから領域Bに移動し、Aさんが領域Aから領域Bに移動した様子を示している(OUT)。ここで、Cさんは同じ方向への2度目の移動となるので、人数カウントから除外される。すなわち、人物除外部414は、同じ通過方向に所定の位置604を複数回通過するCさんを、カウント除外対象であると判定する。そして、人数カウント部412は、人物除外部414によりカウント除外対象であると判定された人物を除外して人数カウントをおこなう。   The image C shows that Mr. C has moved from the area A to the area B again and the A has moved from the area A to the area B (OUT). Here, since Mr. C is the second movement in the same direction, it is excluded from the people count. That is, the person excluding unit 414 determines that Mr. C who passes the predetermined position 604 a plurality of times in the same passage direction is the count exclusion target. Then, the number counting unit 412 counts the number of people excluding the person determined to be the count exclusion target by the person excluding unit 414.

また、Aさんは予め除外されることが既定されているので、初めての移動であっても除外される。すなわち、人物除外部414は、既定の人物であることに基づきAさんをカウント除外対象であると判定してもよい。なお、人数カウント部412は、人物除外部414によりカウント除外対象であると判定された人物に限られず、予め管理者等によって設定された人物を除外して人数カウントをおこなってもよい。   Also, since Mr. A is predetermined to be excluded in advance, even the first move is excluded. That is, the person excluding unit 414 may determine that Mr. A is to be excluded from counting based on the fact that the person is a predetermined person. The number counting unit 412 is not limited to the person determined to be a count exclusion target by the person excluding unit 414, and may count the number of people excluding a person set in advance by a manager or the like.

図7は、本発明の実施形態における画像処理システムの画像保存処理の一例を示すフローチャートである。   FIG. 7 is a flowchart showing an example of the image storage process of the image processing system according to the embodiment of the present invention.

本処理は、ネットワークカメラ102によって撮影された画像をサーバ100に送信して保存する処理である。   The present process is a process of transmitting an image captured by the network camera 102 to the server 100 for storage.

ステップS701では、ネットワークカメラ102は、監視エリア(領域106)を撮影し、ステップS702で撮影した画像をサーバに送信する。   In step S701, the network camera 102 captures an image of the monitoring area (area 106), and transmits the image captured in step S702 to the server.

ステップS703でサーバ100は、ネットワークカメラ102から画像を受信し、ステップS704で、録画ファイルとして受信した画像をサーバの外部メモリ211などに保存し処理を終了する。   In step S703, the server 100 receives an image from the network camera 102. In step S704, the server 100 stores the image received as a recording file in the external memory 211 of the server or the like, and ends the processing.

ここで保存した画像を利用して本画像処理システムは、画像に写っているユーザの人数又は通過人数をカウントする。   The image processing system counts the number of users or the number of passing users shown in the image using the image saved here.

図8は、本発明の実施形態における画像処理システムの通過人数カウント処理の一例を示すフローチャートである。   FIG. 8 is a flowchart showing an example of passing people counting processing of the image processing system according to the embodiment of the present invention.

本処理は、所定の領域(例えば601)に設定された所定の位置(例えば604)を何人のユーザが通過したのかをカウントする処理であって、サーバに保存された画像から所定時間の画像を対象として処理を行う。   This process is a process of counting how many users have passed through a predetermined position (for example, 604) set in a predetermined area (for example, 601), and an image of a predetermined time from an image stored in the server Process as target.

ステップS801では、ユーザや管理者に指定された所定時間繰り返し処理を行う。本実施例では、9:00から9:05の5分間が指定されたものとして説明する。また、実際には、5分間分を動画にするには多数の画像から構成されるが、本実施例では、便宜的に3枚の画像を利用して説明する。   In step S801, the process is repeatedly performed for a predetermined time designated by the user or the administrator. In this embodiment, it will be described that five minutes from 9:00 to 9:05 are designated. Also, in actuality, in order to convert 5 minutes into a moving image, it is composed of a large number of images, but in the present embodiment, explanation will be made using three images for convenience.

画像601は9:00、画像602は9:03、画像603は9:05に撮影されたものとする。   It is assumed that the image 601 is captured at 9:00, the image 602 is captured at 9:03, and the image 603 is captured at 9:05.

ステップS802では、ライン通過検知エリア情報を読み取る。具体的には、所定の位置604を通過した人物がいたかどうかの判定を行う。   In step S802, line passage detection area information is read. Specifically, it is determined whether there is a person who has passed the predetermined position 604.

ステップS803で、人物が識別(認識)できた場合はステップS804に進み、識別(認識)できなかった場合ステップS811に進み、ループの判定(所定時間経過したどうか)を行う。   If the person can be identified (recognized) in step S 803, the process advances to step S 804. If the person can not be identified (recognized), the process advances to step S 811 to perform loop determination (whether predetermined time has elapsed).

ステップS804では、画像解析処理等により、ステップS802で所定の位置を通過したと判定された人物が、所定の位置を通過した方向を示す通過方向情報を取得する(通過方向取得手段)。通過方向情報とは、領域Aから領域Bへ向かう第一方向と、領域Bから領域Aへ向かう第二方向との何れかを示す情報であって、ここでは、領域Aから領域Bへの移動(第一方向)を「OUT」、領域Bから領域Aへの移動(第二方向)を「IN」とする(逆でも構わない)。   In step S804, passage direction information indicating a direction in which a person who has been determined to have passed the predetermined position in step S802 by image analysis processing or the like is acquired (passing direction acquisition means). The passing direction information is information indicating either the first direction from the area A to the area B or the second direction from the area B to the area A, and here, the movement from the area A to the area B The “first direction” is “OUT”, and the movement from the region B to the region A (second direction) is “IN” (the reverse is also possible).

ステップS805では、ステップS803において認識した人物を特定する処理を行う。本処理については、図10にて説明するが、認識した人物を特定する処理である(人物特定手段)。この処理により、識別された人物のうち不要な人物を人数カウントから除外することができるようになる。   In step S805, processing for specifying the person recognized in step S803 is performed. This process is described with reference to FIG. 10, but is a process of specifying a recognized person (person specifying means). By this process, unnecessary persons can be excluded from the people count among the identified persons.

ステップS806は、ステップS803において認識された人物がカウント除外対象であるか否かを判定する。ステップS806で対象の人物がカウント除外対象であると判定された場合は、ステップS808に進み、当該人物の移動をカウント除外対象として記憶し(記憶手段)人数カウントに反映されないようにし、ステップS809に進む。ステップS806で対象の人物がカウント除外対象でないと判定された場合は、ステップS807に進み、IN/OUTの移動カウントをインクリメントし、ステップS809に進む。   In step S806, it is determined whether the person recognized in step S803 is to be excluded from counting. If it is determined in step S806 that the target person is the count exclusion target, the process proceeds to step S808, the movement of the person is stored as the count exclusion target (storage means) and is not reflected in the people count, and the process proceeds to step S809. move on. If it is determined in step S806 that the target person is not the count exclusion target, the process proceeds to step S807, the movement count of IN / OUT is incremented, and the process proceeds to step S809.

ステップS809では、ステップS803で認識した人物の全ての処理が終了したかの確認を行い、終了していない場合はステップS804に戻り次の人物についての処理を行い、全人物に対する処理が完了した場合は、ステップS810に進む。   In step S809, confirmation is made as to whether all the processes of the person recognized in step S803 have been completed. If not completed, the process returns to step S804 and the process for the next person is performed, and the process for all persons is completed. The process proceeds to step S810.

ステップS810では、本フローで処理した内容を結果テーブルに保存し、処理を終了する。なお、本処理は、本ステップでまとめて保存してもよいし、フローチャートの各ステップで都度保存するようにしてもよい。   In step S810, the contents processed in this flow are stored in the result table, and the process ends. Note that this process may be saved collectively in this step, or may be saved each time in each step of the flowchart.

次に図12を利用して本フローチャートで保存される結果テーブル(人物テーブル)について説明する。   Next, a result table (person table) stored in this flowchart will be described using FIG.

図12は、本発明の実施形態における画像処理システムの人物DBの一例を示す図である。人物DB1200は、図9で説明する人数カウント処理の結果が保存された結果テーブルである。人物DB1200には、画像Aおよび画像Bで認識されたユーザのユーザ名およびそのユーザの種別が保存されている。詳細については後述する。   FIG. 12 is a diagram showing an example of the person DB of the image processing system according to the embodiment of the present invention. The person DB 1200 is a result table in which the result of the people counting process described in FIG. 9 is stored. In the person DB 1200, user names of users recognized in the images A and B and types of the users are stored. Details will be described later.

通過人物DB1210は、図8のライン通過カウント処理にて保存される結果テーブルである、通過人物DBの一例である。   The passing person DB 1210 is an example of a passing person DB, which is a result table stored in the line passage count processing of FIG. 8.

通過人物DB1210には、画像1211、その画像の撮影された時刻1212、通過方向1213、ユーザ1214、およびカウンタ1215が対応付いて記憶されている。   The passing person DB 1210 stores an image 1211, a time 1212 at which the image was captured, a passing direction 1213, a user 1214, and a counter 1215 in association with each other.

画像1211は、画像名であり、例えば画像のファイル名である。画像A〜画像Cは、それぞれ図6の画像A601〜画像C603に対応しており、それぞれ、9時0分、9時3分、9時5分に撮影されたものである。   An image 1211 is an image name, for example, a file name of the image. The images A to C respectively correspond to the images A601 to C603 in FIG. 6, and are photographed at 9:00, 9:03, and 9: 5, respectively.

通過方向1213は、ステップS804で検知された方向が記憶されており、ユーザ1214は、ステップS805で特定されたユーザが記憶される。   As the passing direction 1213, the direction detected in step S804 is stored, and the user 1214 stores the user specified in step S805.

カウンタ1215は、ステップS807のIN/OUTカウンタとなっており、INユーザおよびOUTユーザの人数のカウンタである。例えば、OUTは2名、INは1名カウントされたことが分かる。   The counter 1215 is an IN / OUT counter in step S807, and is a counter of the number of IN users and OUT users. For example, it can be seen that OUT was counted by two and IN was counted by one.

また、画像CのCさんが除外となっている。これは、「所定時間内の同じ方向への同一ユーザの移動はカウントから除外」する設定による。すなわち、人物除外部414によって、所定時間内の同じ方向へ移動する同一ユーザがカウント除外対象であると判定され、その判定結果が結果テーブルに保存されている。   In addition, Mr. C of image C is excluded. This is due to the setting that “movement of the same user in the same direction within a predetermined time is excluded from counting”. That is, the person excluding unit 414 determines that the same user who moves in the same direction within the predetermined time is the count exclusion target, and the determination result is stored in the result table.

また、画像CのAさんが除外となっている。これは、図6に示すように、「Aさんは既定で(除外)」する設定による。すなわち、人物除外部414によって、既定のユーザがカウント除外対象者であると判定され、その判定結果が結果テーブルに保存される。設定は本設定以外にも予め管理者によって設定することが可能になっている。   In addition, Mr. A of image C is excluded. This is due to the setting that "Mr. A is default (excluded)" as shown in FIG. That is, the person excluding unit 414 determines that the predetermined user is the count exclusion target person, and the determination result is stored in the result table. The setting can be set by an administrator in advance as well as this setting.

図9は、本発明の実施形態における画像処理システムの人数カウント処理の一例を示すフローチャートである。   FIG. 9 is a flowchart showing an example of the process of counting the number of persons of the image processing system according to the embodiment of the present invention.

本処理は、所定の領域(例えば501)に何人のユーザが写っているのかをカウントする処理であって、サーバに保存された画像を対象とする。   The present process is a process of counting how many users appear in a predetermined area (for example, 501), and targets an image stored in the server.

例えば、画像A501にも画像B502にも5名写っているが、2枚の画像を比較して、同じユーザを除外したり、所定のユーザを除外したり、新しいユーザの人数だけを表示したりする処理を行うことができる。すなわち、予め設定された除外対象者に限られず、画像に基づき、当該人物がカウント除外対象であるか否かを判定し、カウント除外対象であると判定された人物を人数カウントから除外する処理を行うことができる。   For example, although five images are shown in both the image A 501 and the image B 502, two images are compared, the same user is excluded, a predetermined user is excluded, or only the number of new users is displayed. Processing can be performed. That is, the present invention is not limited to the preset exclusion target person, and it is determined whether or not the person is the count exclusion target based on the image, and processing for excluding the person determined to be the count exclusion target from the people count. It can be carried out.

また、本処理は、画像の比較を行うので、セットされた所定の枚数の人数カウントを行うようになっており、本実施例では、画像Aと画像Bとで2枚が所定の枚数となる。   Further, since the present process compares images, the number of people in the set number is counted, and in the present embodiment, two images A and B have a predetermined number. .

ステップS901で、エリア情報を読み取る。エリア情報とは例えば図1の領域106のことであり、ネットワークカメラ102でプリセットされて撮影された領域の画像に対応する。   In step S901, area information is read. The area information is, for example, the area 106 in FIG. 1 and corresponds to the image of the area preset and photographed by the network camera 102.

ステップS902で、領域内で人物を識別(認識)したかどうかの判定を行い、識別した場合は、ステップS903に進み、人物特定処理を行う。人物特定処理は図10にて説明するが、人物特定処理により、当該認識された人物が除外対象かどうか決定される。   In step S902, it is determined whether a person has been identified (recognized) in the area. If the person has been identified, the process advances to step S903 to perform person identification processing. The person specifying process will be described with reference to FIG. 10. However, the person specifying process determines whether the recognized person is an exclusion target.

ステップS904では、ステップS902で認識された人物が除外対象かどうかの判定を行い、当該人物が除外対象であると判定された場合はステップS906に進み、当該人物が除外対象でないと判定された場合はステップS905に進む。   In step S904, it is determined whether the person recognized in step S902 is an exclusion target. If it is determined that the person is an exclusion target, the process proceeds to step S906, and it is determined that the person is not an exclusion target. The process proceeds to step S905.

ステップS906では、除外対象であると判定された人物を人数カウントに反映されないようにし、ステップS907に進む。ステップS905では、ステップS902で認識された人物の人数をカウントし、ステップS907へ進む。   In step S906, the person determined to be an exclusion target is not reflected in the number of people, and the process proceeds to step S907. In step S905, the number of persons recognized in step S902 is counted, and the process proceeds to step S907.

ステップS907では、全画像(ここでは2枚)についての処理が完了したかどうかの判定を行い、処理が完了していない場合は、ステップS903に戻り、処理が完了した場合は、ステップS908に進み、結果テーブルに処理の内容を保存して処理を終了する。なお、本処理は、本ステップでまとめて保存してもよいし、フローチャートの各ステップで都度保存するようにしてもよい。   In step S 907, it is determined whether the processing for all the images (two in this case) is completed. If the processing is not completed, the process returns to step S 903. If the processing is completed, the process proceeds to step S 908. Save the contents of the process in the result table and end the process. Note that this process may be saved collectively in this step, or may be saved each time in each step of the flowchart.

本フローチャートで保存される結果テーブルについて、図12の人物DB1200を利用して説明する。画像Aは9時0分に撮影された画像で、画像Bは9時5分に撮影された画像である。   The result table stored in the flowchart will be described using the person DB 1200 in FIG. The image A is an image captured at 9:00, and the image B is an image captured at 9: 5.

人物DB1200は、それぞれの画像について、認識されたユーザの人数と、そのユーザが除外対象なのかどうかと、を管理している。   The person DB 1200 manages, for each image, the number of recognized users and whether the user is an exclusion target.

画像Aに対応する人物DB1200には、ユーザ種別1201とユーザ名が記憶されている。当該人物DB1200には、ユーザ名1202として、図5の画像501に基づき認識されたユーザA〜Eさんの5人の情報が格納されている。また、既定で除外対象とされるユーザAさんのユーザ種別1201が「既定」とされている。。   In the person DB 1200 corresponding to the image A, a user type 1201 and a user name are stored. Information of five persons of users A to E recognized based on the image 501 of FIG. 5 is stored in the person DB 1200 as the user name 1202. In addition, the user type 1201 of the user A who is excluded by default is set as “default”. .

画像Bに対応する人物DB1200には、ユーザ名1204として、ユーザA〜C、F、Gさの5人の情報が格納されている。画像Aには存在しないユーザ(新規)であるユーザF、Gさんのユーザ種別1203は空白となっている。   In the person DB 1200 corresponding to the image B, information of five persons of users A to C, F, and G is stored as the user name 1204. The user types 1203 of the users F and G who are users (new) not present in the image A are blank.

またユーザAさんのユーザ種別1204が「既定」とされている他、画像Aでも特定されたユーザA〜Cさんのユーザ種別1204は、「特定済」として(特定済・A)として記憶されている。すなわち、人物除外部414によって、所定時間経過後も同じフロアに位置する同一ユーザがカウント除外対象であると判定され、その判定結果を結果テーブルに保存する。ここでは、特定済のユーザや既定のユーザを除外対象として扱うものとする。   In addition to the user type 1204 of the user A being "default", the user types 1204 of the users A to C specified also in the image A are stored as (specified and A) as "specified". There is. That is, the person excluding unit 414 determines that the same user located on the same floor is the count exclusion target even after a predetermined time has elapsed, and stores the determination result in the result table. Here, it is assumed that a specified user or a default user is treated as an exclusion target.

図10は、本発明の実施形態における画像処理システムの顔認識処理の一例を示すフローチャートである。   FIG. 10 is a flowchart showing an example of face recognition processing of the image processing system according to the embodiment of the present invention.

この顔認識処理は、図8のS805および図9のステップS903の人物特定処理に対応する。本実施例では、顔認識による人物特定処理について説明するが、人物が特定できれば顔認識処理に限られず何の技術を用いてよい。   This face recognition process corresponds to the person specifying process of S805 of FIG. 8 and step S903 of FIG. In the present embodiment, person identification processing by face recognition will be described. However, if a person can be identified, the present invention is not limited to face recognition processing, and any technique may be used.

ステップS1001では、画像で認識された人物イメージを受信し、ステップS1002では、当該人物の特徴点を切り出して個人特定を行う。この人物の特徴点を切り出して個人特定を行う処理は、既に提案されている技術を利用するものとする。   In step S1001, the person image recognized in the image is received, and in step S1002, the feature points of the person are cut out to identify the individual. The process of extracting the feature points of the person and performing individual identification uses the already proposed technology.

ステップS1003では、特定された人物が結果テーブル(図8の場合は、通過人物DB1210、図9の場合は、人物DB1200)に登録されているかどうかを確認し、登録済の場合は、ステップS1006に進み、登録済でない場合は、ステップS1004に進む。   In step S1003, it is checked whether or not the identified person is registered in the result table (in FIG. 8, the passing person DB 1210, in FIG. 9, the person DB 1200), and in the case of being registered, in step S1006. If it is not registered, the process proceeds to step S1004.

ステップS1006では、結果テーブルに登録済みの人物を、除外人物(除外対象)として返信する。登録済とは、人物DB1200の場合は、ユーザ種別1201,1203が除外対象として登録されているかどうかによって判定する。具体的には、画像Aの場合はAさんが、ユーザ種別が既定なので除外対象となり、画像Bの場合は、既定のAさん、および特定済のA〜Cさんが除外人物(除外対象)として返信され、処理が終了する。   In step S1006, the persons registered in the result table are returned as excluded persons (exclusion targets). In the case of the person DB 1200, “registered” is determined based on whether or not the user types 1201 and 1203 are registered as exclusion targets. Specifically, in the case of image A, Mr. A is excluded because the user type is default, and in the case of image B, Mr. A of default and Mr. A to C as identified persons are excluded persons (exclusion target) The reply is sent and the process ends.

また、通過人物DB1210の場合は、既定のAさん、および、同じ方向に2度目の移動(複数回移動)となる画像CのCさん(OUT)が除外人物(除外対象)として返信され、処理が終了する。   Further, in the case of the passing person DB 1210, Mr. A of the default and Mr. C (OUT) of the image C which is the second movement (movement multiple times) in the same direction are returned as excluded persons (exclusion targets) and processed Ends.

ステップS1004では、ステップS1003で登録済でないと判定された人物を結果テーブルに(除外として)登録する。例えば、人物DB1200においては、画像Aに対応する人物DB1200において特定済であることに基づく登録がなされていないA〜Cさんが、画像Bに対応する人物DB1200において、画像Aで特定済であることが登録される。   In step S1004, the person determined as not registered in step S1003 is registered (as exclusion) in the result table. For example, in person DB 1200, persons A to C who have not been registered based on being specified in person DB 1200 corresponding to image A have already been specified in image A in person DB 1200 corresponding to image B. Is registered.

また、通過人物DB1210においては、同一ユーザが同一方向への移動である場合で登録されていないケースである画像CのCさん(OUT)および、既定ユーザである場合の画像CのAさん(OUT・既定)が除外対象として登録される。続いて、ステップS1005では、ステップS1004で登録された人物が非除外人物(非除外対象)として返信され、処理を終了する。   In addition, in the passing person DB 1210, Mr. C (OUT) of the image C, which is a case where the same user is moving in the same direction and is not registered, and Mr. A of the image C (OUT, when the default user is・ Default) is registered as an exclusion target. Subsequently, in step S1005, the person registered in step S1004 is returned as a non-exclusion person (non-exclusion target), and the process ends.

図11は、本発明の実施形態における画像処理システムの閲覧処理の一例を示すフローチャートである。   FIG. 11 is a flowchart showing an example of the browsing process of the image processing system according to the embodiment of the present invention.

本処理は、画像処理された結果をユーザからの指示によりユーザの端末へ表示制御する処理である。   The present process is a process of displaying and controlling the result of the image processing on the terminal of the user according to an instruction from the user.

ステップS1101では、表示するカメラの選択を行う。例えばネットワークカメラ102(A)のシリアル番号や名称を選択し、ステップS1102で選択したカメラで撮影された画像の要求を行う。この画像は、静止画形式であっても動画形式であってもLIVE動画であっても構わない。   In step S1101, a camera to be displayed is selected. For example, the serial number or the name of the network camera 102 (A) is selected, and an image photographed by the selected camera is requested in step S1102. This image may be a still image format, a moving image format, or a LIVE moving image.

ステップS1103で、要求する画像が、人数カウント(図5)なのかライン通過人数カウント(図6)なのかの判定を行い、人数カウントの場合はステップS1104に進み、LINE通過の場合はステップS1105に進む。   In step S1103, it is determined whether the requested image is the people count (FIG. 5) or the line passing people count (FIG. 6). If it is the people count, the process proceeds to step S1104. If it is LINE passage, the process proceeds to step S1105. move on.

ステップS1104では、人数情報として図13に示す人数カウントの閲覧画面を表示すべく処理をする。ステップS1105では、図14に示す通過人数カウントの閲覧画面を表示すべく処理をする。閲覧画面の詳細についは、図13および図14を利用して後述する。   In step S1104, processing is performed to display a browsing screen of the number of people count shown in FIG. 13 as the number of people information. In step S1105, processing is performed to display the browsing screen of the passing people count shown in FIG. The details of the browsing screen will be described later with reference to FIGS. 13 and 14.

ステップS1106では、表示すべき項目を閲覧画面に画像合成する処理を行い、ステップS1107でクライアントの画面に表示すべく画面の表示制御を行い、処理を終了する。   In step S1106, processing for combining the items to be displayed on the browsing screen is performed, and in step S1107, display control of the screen is performed to be displayed on the screen of the client, and the processing ends.

図13は、本発明の実施形態における人数カウントの閲覧画面の一例を示す図である。   FIG. 13 is a diagram showing an example of a browsing screen of people count according to the embodiment of the present invention.

人数カウント閲覧画面1301および人数カウント閲覧画面1310の二つの例について説明する。   Two examples of the people count browsing screen 1301 and the people count browsing screen 1310 will be described.

人数カウント閲覧画面1301では、現在の画像1302、認識した人数(5名)1303、既定の除外対象(1名)1304、個人特定済の除外対象(3名)1305、および当該画面にて新たに認識された人物および人数(2名)1306が表示される。   In the people count viewing screen 1301, the current image 1302, the recognized number of people (5) 1303, the default exclusion target (1 person) 1304, the personal identification already excluded exclusion target (3 persons) 1305, and the new screen The recognized person and number of people (two people) 1306 are displayed.

人数カウント閲覧画面1310は、1301の別の閲覧画面例であり、1301の表示内容を含んで表示することも可能である。   The number-of-people count browsing screen 1310 is another browsing screen example of 1301 and can be displayed including the display contents of 1301.

除外対象者を除いたカウント人数、既定の除外対象人数1311および、取得した画像が表示される。   The count number excluding the exclusion target person, the predetermined exclusion target number 1311 and the acquired image are displayed.

また、カウントした人物を太枠などの枠線で囲って表示することで視認性を高めてもよく、また、既定の除外対象者であるAさんを異なる色や線で他のユーザと識別可能に表示してもよい。   In addition, the visibility may be enhanced by displaying the counted person in a frame such as a thick frame, and it is possible to distinguish Mr. A, who is the default excluded person, from other users by different colors and lines. It may be displayed on

また、人物特定処理において個人特定できたユーザにはユーザ名(例えばAさんやBさんなど)を合成して表示し、個人特定できなかったユーザには何も表示しないなど、表示を異ならせることも有効である。   In addition, the user name that can be identified individually in the person identification process is displayed by combining the user name (for example, Mr. A or Mr. B) and the display is different such that nothing is displayed for the user who can not identify the individual. Is also valid.

図14は、本発明の実施形態における通過人数カウントの閲覧画面の一例を示す図である。   FIG. 14 is a view showing an example of a browsing screen of passing people count according to the embodiment of the present invention.

通過人数カウント閲覧画面1401および通過人数カウント閲覧画面1410の二つの例について説明する。   Two examples of the passing people count viewing screen 1401 and the passing people count viewing screen 1410 will be described.

通過人数カウント閲覧画面1401では、所定のライン(位置)を通過した人数および方向1402、既定の除外対象(1名)1403、および2度通過することによる除外者および人数1404が表示される。   In the passing people count viewing screen 1401, the number and direction 1402 of passing the predetermined line (position), the default exclusion target (one person) 1403, and the excluded person and the number 1404 of passing twice are displayed.

通過人数カウント閲覧画面1410は、1401の別の閲覧画面例であり、1401の表示内容を含んで表示することも可能である。   The passing people count viewing screen 1410 is another viewing screen example of 1401 and can be displayed including the display contents of 1401.

通過人数/方向/除外数1411および、取得した画像が表示される。実施例では、IN(1名)、OUT(2名)、除外数(2名)となっているが、この除外数は、1403および1404の両方の除外対象を含んだものである。   The number of persons passing / direction / number of exclusions 1411 and the acquired image are displayed. In the example, IN (one person), OUT (two person), and the exclusion number (two persons) are included, but the exclusion number includes both of 1403 and 1404 exclusion targets.

画像には、ライン通過によりカウントされた人物を太枠などの枠線で囲って表示することで視認性を高めてもよく、また、既定の除外対象者であるAさんを異なる色や線で他のユーザと識別可能に表示してもよい。また、ライン通過されなかったユーザ1412には枠線などの協調表示をせず(便宜上点線で示しているが、何も表示しなくてもよい)通過した人物と識別可能に表示することも可能である。   In the image, the visibility may be enhanced by displaying the people counted by line passage by surrounding them with a frame such as a thick frame, and Mr. A, who is the default excluded person, with different colors and lines. It may be displayed distinguishably from other users. In addition, the user 1412 that has not passed through the line can be displayed distinguishably from the person who passed (without showing a dotted line for convenience but may not have to display anything), without displaying cooperatively with a frame or the like. It is.

また、人物特定処理において個人特定できたユーザにはユーザ名(例えばAさんやBさんなど)を合成して表示し、個人特定できなかったユーザには何も表示しないなど、表示を異ならせることも有効である。   In addition, the user name that can be identified individually in the person identification process is displayed by combining the user name (for example, Mr. A or Mr. B) and the display is different such that nothing is displayed for the user who can not identify the individual. Is also valid.

次に、通過人数カウント処理を行う場合に適用可能な別の実施形態に係る画像処理システムについて説明する。当該別の実施形態では、人物除外部414が、境界ラインを越えた人物が、境界ライン上をうろうろする人物、すなわち所定の位置を所定時間(例えば5分程度)内で繰り返し通過する(跨ぐ)人物であるか否かに基づき、カウント除外対象であるか否かを判定する点が、上記実施形態とは異なる。以下、この判定を、「うろうろ除外判定」ともいう。   Next, an image processing system according to another embodiment applicable to the case of performing passing people count processing will be described. In the other embodiment, the person excluding unit 414 repeatedly (passes over) a person who goes over the boundary line, who is crawling on the boundary line, that is, a predetermined position within a predetermined time (for example, about 5 minutes). The point which determines whether it is a count exclusion object based on whether it is a person differs from the said embodiment. Hereinafter, this determination is also referred to as "smooth exclusion determination".

以下、図15を参照して、当該別の実施形態について詳述する。図15は、別の実施形態に係る画像処理システムの通過人数カウント処理の一例を示すフローチャートである。   Hereinafter, the other embodiment will be described in detail with reference to FIG. FIG. 15 is a flowchart showing an example of passing people counting processing of the image processing system according to another embodiment.

本処理は、所定の領域(例えば画像601に写った領域)に設定された所定の境界ライン(例えば位置604)を何人のユーザが通過したのかをカウントする通過人数カウント処理において、所定時間内に境界ライン上をうろうろと繰り返し通過する人物を人数カウントから除外する処理である。本処理は、画像処理システムのサーバ100が行う。   The present process is a process for counting the number of passers, which counts how many users have passed through a predetermined boundary line (for example, the position 604) set in a predetermined area (for example, the area captured in the image 601). It is a process which excludes the person who passes repeatedly along the boundary line from people count. This process is performed by the server 100 of the image processing system.

本処理は、例えば、本処理を開始するための開始指示がユーザによって入力された場合に開始する。また、本処理は、例えば、後述するステップS1504で全ての人物について解析したと判定された場合、ユーザによる終了指示が入力された場合、又は、予め設定された処理時間が完了した場合等に、終了する。   The present process starts, for example, when a user inputs a start instruction to start the present process. Further, for example, when it is determined that all persons have been analyzed in step S1504 to be described later, when an end instruction from the user is input, or when a preset processing time is completed, etc. finish.

まず、ステップS1501では、境界ライン情報、および、うろうろ見なし間隔時間を取得する。境界ライン情報、および、うろうろ見なし時間間隔は、例えば予めユーザ等によって設定された設定情報から取得される。   First, in step S 1501, boundary line information and a bracing interval time are acquired. The boundary line information and the bracing time interval are acquired from, for example, setting information set in advance by a user or the like.

境界ライン情報は、境界ラインの位置情報であって、例えば画像601の左上端を基準とするピクセル座標で示される。うろうろ見なし間隔時間は、同一人物が境界ラインを複数回通過するタイミングの間隔を、領域Aから領域B(又は領域Bから領域A)に移動するために境界ラインを通過しているのではなく単に境界ライン上をうろうろと徘徊しているものと見なす時間であって、例えば5分と設定される。   The boundary line information is position information of the boundary line, and is indicated by pixel coordinates based on the upper left end of the image 601, for example. The interval time during which the same person passes the boundary line a plurality of times is not simply passing through the boundary line to move from the area A to the area B (or from the area B to the area A). It is a time that is considered to be crawling on the boundary line, and is set to, for example, 5 minutes.

続いて、ステップS1502では、画像取得部411が、ネットワークカメラ102により撮影された画像を取得する。画像取得部411は、例えば所定の時間内で撮影された画像を取得する。   Subsequently, in step S1502, the image acquisition unit 411 acquires an image captured by the network camera 102. The image acquisition unit 411 acquires, for example, an image captured within a predetermined time.

続いて、ステップS1503では、人物認識部413が、ステップS1503で取得した画像に写っている全人物とその位置を認識して、全人物とその位置のリストをメモリ上に作成する。   Subsequently, in step S1503, the person recognition unit 413 recognizes all the persons and their positions in the image acquired in step S1503, and creates a list of all the persons and their positions on the memory.

続いて、ステップS1504では、ステップS1503で作成したリスト上に、解析をしていない人物がいるか否かを判定する。ここで、解析とは、後述するステップS1505以降のステップの処理を行うことをいう。   Subsequently, in step S1504, it is determined whether there is a person who is not analyzed on the list created in step S1503. Here, analysis means performing the process of step S1505 and subsequent steps described later.

解析をしていない人物がいないと判定された場合(ステップS1504;NO)、すなわち全ての人物について解析をした場合には、処理を終了する。なお、この場合に、処理を終了せずにステップS1503の処理に戻り、再度画像を取得してステップS1504以降の処理を繰り返してもよい。   If it is determined that there is no person who has not been analyzed (step S1504; NO), that is, if all the people have been analyzed, the process ends. In this case, the process may return to the process of step S1503 without ending the process, the image may be acquired again, and the processes after step S1504 may be repeated.

解析していない人物がいると判定された場合には(ステップS1504;YES)、ステップS1505の処理へ進む。すなわち、全ての人物について解析が完了するまで、ステップS1505以降の処理を繰り返す。   If it is determined that there is a person who is not analyzed (step S1504; YES), the process proceeds to step S1505. That is, the processes in step S1505 and subsequent steps are repeated until analysis is completed for all persons.

続いて、ステップS1505では、ステップS1503で作成したリスト上の解析をしていない未処理の人物のうち、次に解析をする人物情報を取得する。   Subsequently, in step S1505, among the unprocessed persons not analyzed on the list created in step S1503, the personal information to be analyzed next is acquired.

続いて、ステップS1506では、人物認識部413が、ステップS1505で取得された次に解析をする人物情報が示す人物と同一の人物を認識する。   Subsequently, in step S1506, the person recognition unit 413 recognizes the same person as the person indicated by the person information to be analyzed next acquired in step S1505.

続いて、ステップS1507では、人物認識部413が、ステップS1506で同一人物と認識した人物の位置情報をキャッシュする。具体的には、図16に示されるような人物位置情報DB1600として保存する。図16は、人物位置情報DB1600の一例を示す図である。   Subsequently, in step S1507, the person recognition unit 413 caches the position information of the person who is recognized as the same person in step S1506. Specifically, it is stored as a person position information DB 1600 as shown in FIG. FIG. 16 is a diagram showing an example of the person position information DB 1600.

図16に示されるように、人物位置情報DB1600には、タイムスタンプ1601、人物ID1602、カメラID1603、および位置情報1604が、互いに対応付けられて格納されている。   As shown in FIG. 16, in the person position information DB 1600, a time stamp 1601, a person ID 1602, a camera ID 1603 and position information 1604 are stored in association with one another.

タイムスタンプ1601は、人物が認識された画像をネットワークカメラで撮影した日時を示す文字列である。図16の例では、タイムスタンプ1601の日時が時系列で上から順に並ぶように格納されている。例えば、タイムスタンプ1601として「2018.07.27 12:00:01:00」の次に、タイムスタンプ1601として「2018.07.27 12:00:00:00」が格納されている。すなわち、タイムスタンプ1601が「2018.07.27 12:00:00:00」である日時と、タイムスタンプ1601が「2018.07.27 12:00:01:00」である日時とは、時系列的に互いに前後関係にある。以下、このような前後関係にある日時のうち、タイムスタンプ1601が「2018.07.27 12:00:00:00」である前の時間を単に「前時間」ともいい、タイムスタンプ1601が「2018.07.27 12:00:01:00」である後の時間を単に「後時間」ともいう。   The time stamp 1601 is a character string indicating the date and time when an image of a person was recognized by the network camera. In the example of FIG. 16, the date and time of the time stamp 1601 are stored so as to be arranged in order from the top in chronological order. For example, “2012.07.27 12: 00: 00: 00” is stored as the time stamp 1601 next to “2012.07.27 12: 00: 01: 00” as the time stamp 1601. That is, the date and time when the time stamp 1601 is "2012.07.27 12: 00: 00: 00" and the date and time when the time stamp 1601 is "2012.07.27 12: 00: 01: 00" are mutually time-series It is in context. Hereinafter, among the dates and times in such a sequential relationship, the time before the time stamp 1601 is "2012.07.27 12: 00: 00: 00" may be simply referred to as "the previous time", and the time stamp 1601 may be "2016.07. 27 The time after 12: 00: 01: 00 is also simply referred to as "aftertime".

なお、図16の例では、図示を省略しているが、実際には、図示したタイムスタンプ1601の日時よりも前の日時を含む所定時間のタイムスタンプ1601に対応付けられたデータが格納されている。   Although illustration is omitted in the example of FIG. 16, actually, data associated with the time stamp 1601 of a predetermined time including the date and time before the date and time of the time stamp 1601 illustrated is stored. There is.

人物ID1602は、ステップS1506で認識した人物を示す識別情報である。カメラID1603は、ステップS1506で認識した人物を撮影したネットワークカメラ102を示す識別情報である。位置情報1604は、ステップS1506で認識した人物の位置情報であって、例えば画像601の左上端を基準とするピクセル座標で示される。位置情報1604aは、X座標で示される位置情報であって、位置情報1604bは、Y座標で示される位置情報である。   The person ID 1602 is identification information indicating the person recognized in step S1506. The camera ID 1603 is identification information indicating the network camera 102 that has captured the person recognized in step S1506. Position information 1604 is position information of the person recognized in step S1506, and is indicated by pixel coordinates based on the upper left end of the image 601, for example. The position information 1604a is position information indicated by an X coordinate, and the position information 1604b is position information indicated by a Y coordinate.

再度図15を参照し、続くステップS1508では、ステップS1506で同一人物と認識した人物について、人物位置情報DB1600に基づき、例えば1時間等の所定時間内での移動位置および移動方向を算出する。   Referring again to FIG. 15, in the subsequent step S1508, the movement position and movement direction within a predetermined time such as one hour are calculated based on the person position information DB 1600 for the person recognized as the same person in step S1506.

移動位置は、同一人物が所定時間内に移動した位置である。移動位置は、例えば同一の人物ID1602かつ所定時間内のタイムスタンプ1601に対応付けられた位置情報1604が示す各位置として算出される。   The movement position is a position at which the same person moves within a predetermined time. The movement position is calculated, for example, as each position indicated by position information 1604 associated with the same person ID 1602 and a time stamp 1601 within a predetermined time.

移動方向は、同一人物が所定時間内に移動した方向である。移動方向は、例えば、算出した各位置に基づき、前時間での位置から後時間での位置に向かう方向を示すベクトルとして算出される。   The movement direction is the direction in which the same person has moved within a predetermined time. The movement direction is calculated, for example, as a vector indicating the direction from the position at the previous time to the position at the later time based on the calculated positions.

続いて、ステップS1509では、ステップS1501で取得された境界ライン情報と、ステップS1508で算出された移動位置および移動方向とに基づき、同一人物が境界ラインを通過したか否かを判定する。   Subsequently, in step S1509, it is determined based on the boundary line information acquired in step S1501 and the movement position and movement direction calculated in step S1508 whether or not the same person has passed the boundary line.

同一人物が境界ラインを通過していないと判定された場合(ステップS1509;NO)、ステップS1504に戻り、解析をしていない人物がいるか否かの判定が行われる。同一人物が境界ラインを通過したと判定された場合(ステップS1509;YES)、ステップS1510に進む。   If it is determined that the same person has not passed the boundary line (step S1509; NO), the process returns to step S1504, and it is determined whether there is a person who has not been analyzed. If it is determined that the same person has passed the boundary line (step S1509; YES), the process proceeds to step S1510.

ステップS1510では、ステップS1509において境界ラインを通過したと判定された人物について、境界ラインの通過情報をキャッシュする。具体的には、境界ラインの通過情報を、図17に示されるような境界越え情報DB1700として保存する。図17は、境界越え情報DB1700の一例を示す図である。   In step S1510, passage information of the boundary line is cached for the person determined to have passed through the boundary line in step S1509. Specifically, the passage information of the boundary line is stored as the boundary-boundary information DB 1700 as shown in FIG. FIG. 17 is a diagram showing an example of the boundary crossing information DB 1700.

図17に示されるように、境界越え情報DB1700には、タイムスタンプ1701、人物ID1702、カメラID1703、および境界越え方向1704が、互いに対応付けられて格納されている。   As shown in FIG. 17, in the boundary crossing information DB 1700, a time stamp 1701, a person ID 1702, a camera ID 1703, and a boundary crossing direction 1704 are stored in association with one another.

タイムスタンプ1701は、同一人物が境界ラインを通過したときの時間を示す文字列である。人物ID1702は、ステップS1509で境界ラインを通過したと判定された人物を示す識別情報である。カメラID1703は、ステップS1509で境界ラインを通過したと判定された人物を撮影したネットワークカメラ102を示す識別情報である。   The timestamp 1701 is a character string indicating the time when the same person passes the boundary line. The person ID 1702 is identification information indicating a person determined to have passed the boundary line in step S1509. The camera ID 1703 is identification information indicating the network camera 102 that has photographed the person determined to have passed the boundary line in step S1509.

境界越え方向1704は、ステップS1509で境界ラインを通過したと判定された人物の境界ラインを越えた方向を示す情報であって、前述した「IN」又は「OUT」で示される。境界越え方向1704は、例えば、ステップS1508で算出された移動位置および移動方向と、ステップS1501で取得された境界ライン情報とに基づき算出され(通過方向情報取得手段)、記憶される。   The over-boundary direction 1704 is information indicating a direction beyond the border line of the person determined to have passed through the border line in step S1509, and is indicated by "IN" or "OUT" described above. The over-boundary direction 1704 is calculated based on, for example, the movement position and movement direction calculated in step S1508 and the boundary line information acquired in step S1501 (passing direction information acquisition unit), and is stored.

続いて、ステップS1511では、ステップS1510で記憶された境界越え情報DB1700を参照し、同一人物が、所定の時間(例えば、1時間)内に境界ラインを通過した情報を複数検索する。   Subsequently, in step S1511, the boundary crossing information DB 1700 stored in step S1510 is referenced, and a plurality of pieces of information in which the same person passes the boundary line within a predetermined time (for example, one hour) are searched.

続いて、ステップS1512では、ステップS1511で検索された情報に基づき、境界ラインをうろうろ通過しているか否かを判定する。例えば、ステップS1501で取得したうろうろ見なし間隔時間(例えば、5分)内において、反対方向への移動(「IN」から「OUT」、又は、「OUT」から「IN」への移動)が1回以上あった場合には、境界ラインをうろうろ通過していると判定する。   Subsequently, in step S1512, based on the information searched in step S1511, it is determined whether the border line is passed over. For example, movement in the opposite direction (movement from “IN” to “OUT” or “OUT” to “IN”) is one time within the crawling interval time (for example, 5 minutes) acquired in step S1501. If there is more than one, it is determined that the boundary line is passed around.

ステップS1512において境界ラインをうろうろ通過していると判定された場合(ステップS1512;YES)には、ステップS1513に進む。ステップS1513では、人物除外部414が、境界ラインを通過した人物をカウント除外対象であると判定し、人数カウント部412が、カウント除外対象と判定された人物の人数をカウントから除外する。ステップS1513の後は、ステップS1504に戻り、解析をしていない人物がいるか否かの判定が再度行われる。   If it is determined in step S1512 that the boundary line is being passed back and forth (step S1512; YES), the process proceeds to step S1513. In step S1513, the person excluding unit 414 determines that the person who has passed the boundary line is the count exclusion target, and the number counting unit 412 excludes from the count the number of persons who are determined to be the count exclusion target. After step S1513, the process returns to step S1504 to determine again whether there is a person who has not been analyzed.

なお、本明細書において、カウントから除外するとは、人数のカウントをインクリメントしない場合だけでなく、一度インクリメントしたカウントをデクリメントする場合も含む。   In the present specification, excluding from the count includes not only incrementing the number of people but also decrementing the count once incremented.

ステップS1512において境界ラインをうろうろ通過していないと判定された場合(ステップS1512;NO)には、ステップS1514に進み、通常の人数カウント処理と同様の処理を行う。具体的には、まずステップS1514において、テップS1511で検索された情報に基づき、同一人物が同じ方向へ複数回移動したか否かを判定する。   If it is determined in step S1512 that the boundary line has not passed over the border (step S1512; NO), the process proceeds to step S1514 to perform the same process as normal people count processing. Specifically, first, in step S1514, based on the information retrieved in step S1511, it is determined whether the same person has moved in the same direction a plurality of times.

ステップS1514において同じ方向へ複数回移動したと判定された場合(ステップS1514;YES)、ステップS1515へ進み、人物除外部414が、境界ラインを通過した人物をカウント除外対象であると判定し、人数カウント部412が、カウント除外対象と判定された人物の人数をカウントから除外する。ステップS1514の後は、ステップS1504に戻り、解析をしていない人物がいるか否かの判定が再度行われる。   If it is determined in step S1514 that the user has moved multiple times in the same direction (step S1514; YES), the process proceeds to step S1515, and the person excluding unit 414 determines that the person who has passed the boundary line is the count exclusion target. The counting unit 412 excludes from the count the number of persons determined to be excluded from counting. After step S1514, the process returns to step S1504, and it is determined again whether or not there is a person who has not been analyzed.

ステップS1514において同じ方向へ複数回移動していないと判定された場合(ステップS1514;NO)、ステップS1516へ進み、IN/OUTの通過方向毎に、境界ラインを通過した人数のカウントをインクリメントする。ステップS1516の後は、ステップS1504に戻り、解析をしていない人物がいるか否かの判定が再度行われる。   If it is determined in step S1514 that the user has not moved a plurality of times in the same direction (step S1514; NO), the process advances to step S1516 to increment the count of the number of people who have passed the boundary line for each passing direction of IN / OUT. After step S1516, the process returns to step S1504, and it is determined again whether there is a person who has not been analyzed.

ステップS1516においてインクリメントされた人数カウントの結果は、例えば図18に示されるようなラインカウンタDB1800として保存される。図18は、ラインカウンタDB1800の一例を示す図である。   The result of the people count incremented in step S1516 is stored, for example, as a line counter DB 1800 as shown in FIG. FIG. 18 is a diagram showing an example of the line counter DB 1800. As shown in FIG.

図18に示されるように、ラインカウンタDB1800には、タイムスタンプ1801、カメラID1802、およびカウント数1803が、互いに対応付けられて格納されている。   As shown in FIG. 18, in the line counter DB 1800, a time stamp 1801, a camera ID 1802, and a count number 1803 are stored in association with one another.

タイムスタンプ1801は、人数カウントがインクリメントされた直近の日時を示す文字列である。カメラID1802は、人数カウントがインクリメントされた人物を撮影したネットワークカメラ102を示す識別情報である。カウント数1803は、カメラIDおよび通過方向毎にインクリメントされた人数であって、ある始点からの総加算人数である。カウント数1803aは、「IN」方向へ通過した人数であり、カウント数1803bは、「OUT」方向へ通過した人数である。   The timestamp 1801 is a character string indicating the latest date and time when the people count is incremented. The camera ID 1802 is identification information indicating the network camera 102 that has photographed a person whose count is incremented. The count number 1803 is the camera ID and the number of people incremented for each passing direction, and is the total number of people added from a certain starting point. The count number 1803a is the number of people who have passed in the “IN” direction, and the count number 1803b is the number of people who have passed in the “OUT” direction.

図18に示されるように、ステップS1506においては、カメラIDおよび通過方向毎にカウントされた人数が記憶される。   As shown in FIG. 18, in step S1506, the camera ID and the number of people counted for each passing direction are stored.

以上、本実施形態によれば、人物が境界ラインを通過した通過方向に基づき、同一人物が第一方向(例えば「IN」)に移動した後、所定のうろうろ見なし間隔時間内に、第二方向(例えば「OUT」)に移動した場合には、当該同一人物が通過カウントから除外される。よって、領域Aから領域B(又は領域Bから領域A)に移動するために境界ラインを通過しているのではなく、単に境界ライン上をうろうろと徘徊しているような人物を、通過人数カウントのノイズとして除去することができる。   As described above, according to the present embodiment, after the same person moves in the first direction (for example, “IN”) based on the passing direction in which the person passes the boundary line, the second direction is detected within the predetermined tailing interval time. When moving to (for example, “OUT”), the same person is excluded from the passage count. Therefore, the number of people who pass the boundary line to move from the region A to the region B (or from the region B to the region A), but merely crawling over the boundary line is counted. Noise can be removed.

次に、画像に写った人数のカウント処理を行う場合に適用可能な別の実施形態に係る画像処理システムについて説明する。当該別の実施形態では、人物除外部414が、所定の領域における長時間滞在者および短時間滞在者の少なくとも一方をカウント除外対象と判定する点が、上記実施形態とは異なる。   Next, an image processing system according to another embodiment applicable to the case of performing the process of counting the number of people captured in an image will be described. The second embodiment is different from the first embodiment in that the person excluding unit 414 determines at least one of the long staying person and the short staying person in the predetermined area as the count exclusion target.

以下、図19を参照して、当該別の実施形態について詳述する。図19は、別の実施形態に係る画像処理システムにおける画像に写った人数のカウント処理の一例を示すフローチャートである。   Hereinafter, the other embodiment will be described in detail with reference to FIG. FIG. 19 is a flowchart illustrating an example of a process of counting the number of persons shown in an image in an image processing system according to another embodiment.

本処理は、画像に含まれる人物の人数をカウントする人数カウント処理において、所定の領域(例えば領域601内の一部の領域)における長時間滞在者および短時間滞在者の少なくとも何れかを人数カウントから除外する処理である。本処理は、画像処理システムのサーバ100が行う。   The present process counts the number of people staying for a long time and / or for a short time stay in a predetermined area (for example, a partial area in the area 601) in the people counting process of counting the number of people included in the image. It is processing to exclude from. This process is performed by the server 100 of the image processing system.

本処理は、例えば、本処理を開始するための開始指示がユーザによって入力された場合に開始する。また、本処理は、例えば、後述するステップS1904で全ての人物について解析したと判定された場合、ユーザによる終了指示が入力された場合、又は、予め設定された処理時間が完了した場合等に、終了する。   The present process starts, for example, when a user inputs a start instruction to start the present process. In addition, for example, when it is determined in step S1904 described later that analysis has been performed for all persons, when an end instruction from the user is input, or when a preset processing time is completed, etc. finish.

まず、ステップS1901では、滞在領域の位置情報、および、滞在判定時間を取得する。所定の領域の位置情報、および、滞在判定時間は、例えば予めユーザ等によって設定された設定情報から取得される。   First, in step S1901, position information of a stay area and a stay determination time are acquired. The position information of the predetermined area and the stay determination time are acquired from, for example, setting information set in advance by the user or the like.

滞在領域、例えば領域601中の一部の所定の領域であって、矩形や円形等の所定の形状を呈するように囲まれた領域である。滞在領域の位置情報は、例えば、領域601を写す画像の左上端を基準とするピクセル座標で示される。滞在判定時間は、滞在領域に同一人物が滞在する時間が長時間であるか短時間であるかを判定するための時間である。滞在判定時間は、例えば、長時間であるか否かを判定するための長時間滞在判定時間(例えば1時間)と、短時間であるか否かを判定するための短時間滞在判定時間(例えば10分)と、を含む。   A stay area, for example, a part of a predetermined area in the area 601 is an area surrounded to have a predetermined shape such as a rectangle or a circle. The position information of the staying area is indicated, for example, by pixel coordinates with reference to the upper left end of the image that shows the area 601. The stay determination time is a time for determining whether the time during which the same person stays in the stay area is a long time or a short time. The stay determination time is, for example, a long stay determination time (for example, one hour) for determining whether or not it is a long time, and a short stay determination time for which it is determined whether or not it is a short time (for example, 10 minutes) and.

続くステップS1902〜ステップS1907の処理は、前述した図15におけるステップS1502〜ステップS1507の処理と同様であるため、その説明を省略する。   The subsequent processes of steps S1902 to S1907 are the same as the processes of steps S1502 to S1507 in FIG. 15 described above, and thus the description thereof will be omitted.

ステップS1907に続くステップS1908では、ステップS1901で取得された滞在領域の位置情報と、ステップS1907でキャッシュされた人物の位置情報とに基づき、ステップS1906で認識された同一人物が滞在領域に入っているか否かを判定する。   In step S1908 following step S1907, is the same person recognized in step S1906 in the stay area based on the position information of the stay area acquired in step S1901 and the position information of the person cached in step S1907? It is determined whether or not.

ステップS1908において同一人物が滞在領域に入っていないと判定された場合(ステップS1908;NO)、ステップS1904に戻り、解析をしていない人物がいるか否かの判定が行われる。ステップS1908において同一人物が滞在領域に入っていると判定された場合(ステップS1908;YES)、ステップS1909に進む。   If it is determined in step S1908 that the same person is not in the stay area (step S1908; NO), the process returns to step S1904, and it is determined whether there is a person who has not been analyzed. If it is determined in step S1908 that the same person is in the stay area (step S1908; YES), the process proceeds to step S1909.

ステップS1909では、ステップS1908で滞在領域に入っていると判定された同一人物の滞在時間を算出する。具体的には、ステップS1907で記憶した人物位置情報DB1600に基づき、滞在領域に入っていると判定された同一人物に紐づく最新の時間帯を検索し、当該時間帯の中で最も古い時刻と最も新しい時刻との差分を算出することで、同一人物の滞在時間を算出する。   In step S1909, the stay time of the same person determined to be in the stay area in step S1908 is calculated. Specifically, based on the person position information DB 1600 stored in step S1907, the latest time slot linked to the same person determined to be in the stay area is searched, and the oldest time in the time slot is searched. By calculating the difference with the latest time, the stay time of the same person is calculated.

続いて、ステップS1910では、ステップS1909で算出した滞在時間が、ステップS1901で取得した長時間滞在判定時間以上であるか否かを判定する。すなわち、認識された同一人物が滞在領域において所定の時間(例えば、1時間)以上滞在している長時間滞在者であるか否かを判定する。   Subsequently, in step S1910, it is determined whether the stay time calculated in step S1909 is equal to or longer than the long stay determination time acquired in step S1901. That is, it is determined whether or not the recognized same person is a long-time stayer staying in the stay area for a predetermined time (for example, one hour) or more.

ステップS1910において滞在時間が長時間滞在判定時間以上であると判定された場合(ステップS1910;YES)、ステップS1911に進む。ステップS1911では、人物除外部414が、長時間滞在者と判定された人物をカウント除外対象であると判定し、人数カウント部412が、カウント除外対象と判定された人物の人数をカウントから除外する。ステップS1911の後は、ステップS1904に戻り、解析をしていない人物がいるか否かの判定が再度行われる。   If it is determined in step S1910 that the stay time is equal to or longer than the long stay determination time (step S1910; YES), the process proceeds to step S1911. In step S1911, the person excluding unit 414 determines that the person determined to be a long-time resident is to be excluded from counting, and the number counting unit 412 excludes the number of persons determined to be excluded from counting from the count. . After step S1911, the process returns to step S1904, and it is determined again whether there is a person who has not been analyzed.

ステップS1911においてカウント除外された人物は、カウント除外されるタイミングで、長時間滞在によるカウント除外対象として記憶される。また、ステップS1911においてカウント除外された人数は、カウント除外されるタイミングで、長時間滞在によるカウント除外人数としてインクリメントされる。   The person whose count is excluded in step S1911 is stored as the count exclusion target due to long-term stay at the timing when the count is excluded. In addition, the number of people excluded from counting in step S1911 is incremented as the number of people excluded from counting due to long-term stay at timing when the count is excluded.

ステップS1910において滞在時間が長時間滞在判定時間以上でないと判定された場合(ステップS1910;NO)、ステップS1912に進む。ステップS1912では、ステップS1909で算出した滞在時間が、ステップS1901で取得した短時間滞在判定時間以上であるか否かを判定する。すなわち、認識された同一人物が滞在領域において所定の時間(例えば、10分)未満しか滞在していない短時間滞在者であるか否かを判定する。   If it is determined in step S 1910 that the stay time is not longer than the long stay determination time (step S 1910; NO), the process proceeds to step S 1912. In step S1912, it is determined whether the stay time calculated in step S1909 is equal to or greater than the short stay determination time acquired in step S1901. That is, it is determined whether the recognized same person is a short time staying person who has stayed for less than a predetermined time (for example, 10 minutes) in the stay area.

ステップS1912において滞在時間が短時間滞在判定時間未満であると判定された場合(ステップS1912;YES)、ステップS1913に進む。ステップS1913では、人物除外部414が、短時間滞在者と判定された人物をカウント除外対象であると判定し、人数カウント部412が、カウント除外対象と判定された人物の人数をカウントから除外する。ステップS1913の後は、ステップS1904に戻り、解析をしていない人物がいるか否かの判定が再度行われる。   If it is determined in step S1912 that the stay time is less than the short stay determination time (step S1912; YES), the process proceeds to step S1913. In step S1913, the person excluding unit 414 determines that the person determined to be a short-time resident is to be excluded from counting, and the number counting unit 412 excludes from the count the number of persons determined to be excluded from counting. . After step S1913, the process returns to step S1904, and it is determined again whether there is a person who has not been analyzed.

ステップS1913においてカウント除外された人物は、カウント除外されるタイミングで、短時間滞在によるカウント除外対象として記憶される。また、ステップS1913においてカウント除外された人数は、カウント除外されるタイミングで、短時間滞在によるカウント除外人数としてインクリメントされる。   The person whose count is excluded in step S1913 is stored as a count exclusion target due to short-term stay at timing when the count is excluded. In addition, the number of people excluded from counting in step S1913 is incremented as the number of people excluded from counting due to short-term stay at timing when the count is excluded.

ステップS1912において滞在時間が短時間滞在判定時間未満でないと判定された場合(ステップS1912;NO)、ステップS1914に進み、人数カウンタをインクリメントする。すなわち滞在時間が短時間判定時間以上でかつ長時間判定時間未満の人物だけをカウントすることができる。以下、短時間判定時間以上でかつ長時間判定時間未満の時間を「適正時間」ともいい、滞在時間が適正時間である人物を「適正時間滞在者」ともいう。ステップS1914の後は、ステップS1904に戻り、解析をしていない人物がいるか否かの判定が再度行われる。   If it is determined in step S1912 that the stay time is not less than the short stay determination time (step S1912; NO), the process proceeds to step S1914 and the people counter is incremented. That is, it is possible to count only persons who are staying for a short time determination time or more and less than a long time determination time. Hereinafter, a time which is equal to or more than a short time judgment time and less than a long time judgment time may be referred to as an "appropriate time", and a person whose stay time is an appropriate time may be referred to as an "appropriate time stay person". After step S1914, the process returns to step S1904, and it is determined again whether there is a person who has not been analyzed.

本実施形態において、結果画面表示制御部415は、人数カウントの結果を閲覧する閲覧画面として例えば図20で示される画面を表示する。   In the present embodiment, the result screen display control unit 415 displays, for example, a screen shown in FIG. 20 as a browsing screen for browsing the result of the people count.

図20は、人数カウントの閲覧画面の一例を示す図である。図20に示されるように、閲覧画面においては、カウント除外対象を除外してカウントしたカウント人数2001と、カウント除外対象としてカウント除外された人数2002と、が表示される。   FIG. 20 is a diagram showing an example of a browsing screen of the number of people. As shown in FIG. 20, on the browsing screen, the number of people 2001 who has counted excluding the count exclusion target and the number of people 2002 who have been count-excluded as the count exclusion target are displayed.

また、カウント除外対象としてカウント除外された人数2002のうち、長時間滞在者としてカウント除外された人数2003と、短時間滞在者としてカウント除外された人数2004と、が、それぞれ識別可能に表示される。   In addition, among the number of people 2002 who are excluded from being counted out, the number of people 2003 who are excluded as long stayers and the number of people 2004 who are excluded from counting as short stayers are displayed distinguishably. .

また、一点鎖線で示される滞在領域2005に滞在している人物のうち、長時間滞在者、短時間滞在者、および適正滞在者が、それぞれ識別可能に表示される。   Further, among the persons staying in the stay area 2005 indicated by the one-dot chain line, the long stayers, the short stayers, and the appropriate stayers are displayed so as to be distinguishable.

例えば、長時間滞在者が実線の矩形枠2006で囲って表示され、短時間滞在者が破線の矩形枠2007で囲って表示され、適正滞在者は、何も囲まれない状態で表示される。また、各人物の滞在領域2005における滞在時間が表示されてもよい。   For example, a long-time stayer is displayed surrounded by a solid rectangular frame 2006, a short-time stayer is displayed surrounded by a dashed rectangular frame 2007, and a proper stayer is displayed without being surrounded by anything. In addition, the stay time in the stay area 2005 of each person may be displayed.

以上、本実施形態によれば、滞在領域における長時間滞在者および短時間滞在者がカウントから除外されるので、滞在領域における長時間滞在者でも短時間滞在者でもない適正時間滞在者だけをカウントすることができる。適正時間は、長時間滞在判定時間や短時間判定時間を適宜設定変更することにより、ユーザの所望の時間に設定することができる。よって、ユーザが所望する適正時間だけ滞在している人物をカウントすることができる。   As described above, according to the present embodiment, since long-term stayers and short-time stayers in the stay area are excluded from the count, only appropriate-time stayers who are neither long-time stayers nor short-term stayers in the stay area are counted. can do. The appropriate time can be set to a desired time of the user by appropriately changing and setting the long stay determination time and the short time determination time. Therefore, the person who has stayed for the appropriate time which a user desires can be counted.

また、本実施形態によれば、長時間滞在者、短時間滞在者、および適正滞在者とその人数とが、それぞれ識別可能に表示される。よって、滞在領域に滞在している人物が、滞在領域にどの程度滞在し続けている状態なのかを容易に把握することができる。   Moreover, according to the present embodiment, the long-time stayer, the short-time stayer, the appropriate stayer, and the number of persons are displayed in a distinguishable manner. Therefore, it is possible to easily grasp how much the person staying in the stay area continues to stay in the stay area.

なお、本実施形態では、滞在領域における長時間滞在者および短時間滞在者をカウントから除外する例について説明したが、これに限られず、滞在領域における長時間滞在者および短時間滞在者の何れか一方をカウントから除外してもよい。例えば、長時間滞在者だけをカウントから除外する場合は、短時間判定時間を0とすればよい。また、短時間滞在者だけをカウントから除外する場合は、長時間判定時間を非常に大きな値とすればよい。   In the present embodiment, although an example has been described in which long-time stayers and short-time stayers in the stay area are excluded from the counting, the present invention is not limited thereto, either long-time stayers or short-time stayers in the stay area One may be excluded from the count. For example, in the case where only long-time residents are excluded from the count, the short-time determination time may be set to zero. In addition, in the case where only short-term residents are excluded from the counting, the long time determination time may be set to a very large value.

以上、実施形態について説明したが、本発明は、例えば、システム、装置、方法、プログラム若しくは記憶媒体等としての実施形態も可能であり、具体的には、複数の機器から構成されるシステムに適用してもよいし、また、1つの機器からなる装置に適用してもよい。   Although the embodiments have been described above, the present invention can also be embodied as, for example, a system, an apparatus, a method, a program, a storage medium, etc. Specifically, the present invention is applied to a system including a plurality of devices. It may be applied to an apparatus consisting of one device.

なお、本発明は、前述した実施形態の機能を実現するソフトウェアのプログラムを、システム或いは装置に直接、或いは遠隔から供給するものを含む。そして、そのシステム或いは装置のコンピュータが前記供給されたプログラムコードを読み出して実行することによっても達成される場合も本発明に含まれる。   Note that the present invention includes one that directly or remotely supplies a program of software that implements the functions of the above-described embodiments to a system or an apparatus. The present invention is also included in the present invention if the computer of the system or apparatus reads out and executes the supplied program code.

したがって、本発明の機能処理をコンピュータで実現するために、前記コンピュータにインストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明は、本発明の機能処理を実現するためのコンピュータプログラム自体も含まれる。   Therefore, the program code itself installed in the computer to realize the functional processing of the present invention by the computer also implements the present invention. That is, the present invention also includes a computer program itself for realizing the functional processing of the present invention.

その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等の形態であってもよい。   In that case, as long as it has the function of a program, it may be in the form of an object code, a program executed by an interpreter, script data supplied to an OS, or the like.

プログラムを供給するための記録媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、MO、CD−ROM、CD−R、CD−RWなどがある。また、磁気テープ、不揮発性のメモリカード、ROM、DVD(DVD−ROM,DVD−R)などもある。   Examples of recording media for supplying the program include a flexible disk, a hard disk, an optical disk, a magneto-optical disk, an MO, a CD-ROM, a CD-R, and a CD-RW. There are also magnetic tapes, non-volatile memory cards, ROMs, DVDs (DVD-ROMs, DVD-Rs) and the like.

その他、プログラムの供給方法としては、クライアントコンピュータのブラウザを用いてインターネットのホームページに接続する。そして、前記ホームページから本発明のコンピュータプログラムそのもの、若しくは圧縮され自動インストール機能を含むファイルをハードディスク等の記録媒体にダウンロードすることによっても供給できる。   In addition, as a program supply method, a browser on a client computer is used to connect to an Internet home page. Then, the program can be supplied by downloading the computer program of the present invention itself or a compressed file including an automatic installation function from the home page to a recording medium such as a hard disk.

また、本発明のプログラムを構成するプログラムコードを複数のファイルに分割し、それぞれのファイルを異なるホームページからダウンロードすることによっても実現可能である。つまり、本発明の機能処理をコンピュータで実現するためのプログラムファイルを複数のユーザに対してダウンロードさせるWWWサーバも、本発明に含まれるものである。   The present invention can also be realized by dividing the program code constituting the program of the present invention into a plurality of files and downloading each file from different home pages. That is, the present invention also includes a WWW server which allows a plurality of users to download program files for realizing the functional processing of the present invention by a computer.

また、本発明のプログラムを暗号化してCD−ROM等の記憶媒体に格納してユーザに配布し、所定の条件をクリアしたユーザに対し、インターネットを介してホームページから暗号化を解く鍵情報をダウンロードさせる。そして、ダウンロードした鍵情報を使用することにより暗号化されたプログラムを実行してコンピュータにインストールさせて実現することも可能である。   In addition, the program of the present invention is encrypted, stored in a storage medium such as a CD-ROM, and distributed to users, and the user who has cleared predetermined conditions downloads key information that decrypts encryption from the homepage via the Internet. Let Then, it is possible to execute the program encrypted by using the downloaded key information and install it on a computer.

また、コンピュータが、読み出したプログラムを実行することによって、前述した実施形態の機能が実現される。その他、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどが、実際の処理の一部又は全部を行い、その処理によっても前述した実施形態の機能が実現され得る。   Also, the functions of the above-described embodiments are realized by the computer executing the read program. In addition, based on the instructions of the program, an OS or the like running on the computer performs part or all of the actual processing, and the functions of the above-described embodiment can be realized by the processing.

さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれる。その後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部又は全部を行い、その処理によっても前述した実施形態の機能が実現される。   Furthermore, the program read from the recording medium is written to a memory provided in a function expansion board inserted in the computer or a function expansion unit connected to the computer. Thereafter, based on the instruction of the program, a CPU or the like provided in the function expansion board or the function expansion unit performs part or all of the actual processing, and the function of the above-described embodiment is also realized by the processing.

なお、前述した実施形態は、本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。即ち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。   The embodiments described above merely show examples of implementation in practicing the present invention, and the technical scope of the present invention should not be interpreted in a limited manner by these. That is, the present invention can be implemented in various forms without departing from the technical concept or the main features thereof.

100 サーバ
101 クライアントPC
102 ネットワークカメラ
100 server 101 client PC
102 Network Camera

本発明に係る画像処理システムは、所定の位置を通過した人物の人数をカウントすることが可能な画像処理システムであって、人物が写った複数の画像を取得する取得手段と、画像に写った人物であって所定の位置を通過した人物の人数をカウントするカウント手段と、画像に写った人物が所定の位置を通過した通過方向を示す通過方向情報を取得する通過方向取得手段と、所定の位置を通過した人物のうち、通過方向取得手段により取得された通過方向情報に基づく所定の条件を満たす人物を特定する人物特定手段と、を備えるThe image processing system according to the present invention is an image processing system capable of counting the number of persons who have passed a predetermined position, and an acquisition unit for acquiring a plurality of images in which a person is photographed, and an image processing system A counting means for counting the number of persons who are persons who have passed a predetermined position, a passing direction acquiring means for obtaining passing direction information indicating a passing direction in which the person shown in the image has passed a predetermined position , And a person specifying means for specifying a person who satisfies a predetermined condition based on the passing direction information acquired by the passing direction acquiring means among the persons who have passed the position .

本発明に係る画像処理システムの制御方法は、所定の位置を通過した人物の人数をカウントする画像処理システムの制御方法であって、人物が写った複数の画像を取得する取得ステップと、画像に写った人物であって所定の位置を通過した人物の人数をカウントするカウントステップと、画像に写った人物が所定の位置を通過した通過方向を示す通過方向情報を取得する通過方向取得ステップと、所定の位置を通過した人物のうち、通過方向取得ステップにおいて取得された通過方向情報に基づく所定の条件を満たす人物を特定する人物特定ステップと、を含むA control method of an image processing system according to the present invention is a control method of an image processing system that counts the number of persons who have passed a predetermined position, and an acquisition step of acquiring a plurality of images in which a person is photographed; A counting step for counting the number of persons who are photographed persons who have passed a predetermined position; and a passing direction acquiring step for acquiring passing direction information indicating a passing direction in which the person photographed in the image has passed a predetermined position; And a person specifying step of specifying a person who satisfies a predetermined condition based on the passing direction information acquired in the passing direction acquiring step among the persons who have passed through the predetermined position .

本発明に係るプログラムは、所定の位置を通過した人物の人数をカウントする画像処理システムで読み取り可能なプログラムであって、画像処理システムを、人物が写った複数の画像を取得する取得手段と、画像に写った人物であって所定の位置を通過した人物の人数をカウントするカウント手段と、画像に写った人物が所定の位置を通過した通過方向を示す通過方向情報を取得する通過方向取得手段と、所定の位置を通過した人物のうち、通過方向取得手段により取得された通過方向情報に基づく所定の条件を満たす人物を特定する人物特定手段として機能させるためのプログラムである。 A program according to the present invention is a program readable by an image processing system for counting the number of persons who have passed a predetermined position, the image processing system comprising: acquiring means for acquiring a plurality of images in which a person is photographed; Counting means for counting the number of persons who are persons who are captured in an image and have passed a predetermined position, and passage direction acquisition means for acquiring passage direction information indicating the passage direction in which the person who is captured in the image has passed a predetermined position And a program for functioning as a person specifying means for specifying a person who satisfies a predetermined condition based on the passing direction information acquired by the passing direction acquiring means among the persons who have passed through the predetermined position .

Claims (11)

所定の位置を通過した人物の人数をカウントすることが可能な画像処理システムであって、
人物が写った複数の画像を取得する取得手段と、
前記画像に写った人物であって前記所定の位置を通過した人物の人数をカウントするカウント手段と、
前記画像に写った人物が前記所定の位置を通過した通過方向を示す通過方向情報を取得する通過方向取得手段と、
前記通過方向取得手段により取得された前記通過方向情報に基づき、前記所定の位置を通過した人物が、前記カウント手段による人数のカウントから除外するカウント除外対象であるか否かを判定するカウント除外手段と、を備え、
前記カウント手段は、前記カウント除外手段により前記カウント除外対象であると判定された場合には、前記カウント除外対象であると判定された人物の人数をカウントから除外する、画像処理システム。
An image processing system capable of counting the number of persons who have passed a predetermined position
Acquisition means for acquiring a plurality of images in which a person is photographed;
Counting means for counting the number of persons appearing in the image and having passed the predetermined position;
Passing direction acquisition means for acquiring passing direction information indicating a passing direction in which a person captured in the image has passed the predetermined position;
Counting exclusion means for determining whether or not a person who has passed the predetermined position is a counting exclusion target to be excluded from the counting of the number of people by the counting means based on the passing direction information obtained by the passing direction obtaining means And
The image processing system, wherein the counting means excludes, from the count, the number of persons determined to be the count exclusion target, when the count exclusion means determines that the count exclusion target is the target.
前記カウント除外手段により前記カウント除外対象であると判定された人物を記憶する記憶手段を備える、請求項1に記載の画像処理システム。   The image processing system according to claim 1, further comprising storage means for storing a person determined to be the count exclusion target by the count exclusion means. 前記通過方向は、前記所定の位置を区分けする第一領域から第二領域に向かう第一方向と、前記第二領域から前記第一領域に向かう第二方向との何れかであって、
前記カウント除外手段は、前記画像に写った同一の人物が、前記第一方向および前記第二方向の何れかと同じ前記通過方向に前記所定の位置を複数回通過する場合には、当該同一の人物を前記カウント除外対象であると判定する、請求項1又は2に記載の画像処理システム。
The passing direction is one of a first direction from a first area dividing the predetermined position toward a second area and a second direction from the second area toward the first area.
When the same person shown in the image passes the predetermined position a plurality of times in the same passing direction as one of the first direction and the second direction, the count excluding means may be the same person. The image processing system according to claim 1, wherein the image processing system is determined to be the count exclusion target.
前記通過方向は、前記所定の位置を区分けする第一領域から第二領域に向かう第一方向と、前記第二領域から前記第一領域に向かう第二方向との何れかであって、
前記カウント除外手段は、前記画像に写った同一の人物が、前記第一方向に前記所定の位置を通過した後、所定の時間内に前記第二方向に前記所定の位置を通過した場合には、当該同一の人物を前記カウント除外対象であると判定する、請求項1〜3の何れか一項に記載の画像処理システム。
The passing direction is one of a first direction from a first area dividing the predetermined position toward a second area and a second direction from the second area toward the first area.
When the same person captured in the image passes through the predetermined position in the first direction, the count exclusion means passes the predetermined position in the second direction within the predetermined time. The image processing system according to any one of claims 1 to 3, wherein the same person is determined as the count exclusion target.
前記カウント手段は、前記通過方向取得手段により取得された通過方向情報が示す通過方向毎に、人数をカウントすることを特徴とする請求項1〜4の何れか一項に記載の画像処理システム。   The image processing system according to any one of claims 1 to 4, wherein the counting means counts the number of people for each passing direction indicated by the passing direction information acquired by the passing direction acquiring means. 前記カウント除外手段は、前記所定の位置を通過した人物と、前記通過方向取得手段により取得された通過方向情報が示す通過方向との組み合わせに基づき、前記所定の位置を通過した人物が前記カウント除外対象であるか否かを判定する、請求項1〜5の何れか一項に記載の画像処理システム。   The count exclusion means excludes the person who passed the predetermined position based on a combination of the person who has passed the predetermined position and the passing direction indicated by the passing direction information acquired by the passage direction acquiring means. The image processing system according to any one of claims 1 to 5, wherein it is determined whether or not it is a target. 前記所定の位置を通過した人物の人数を表示制御する表示制御手段を備え、
前記表示制御手段は、前記カウント手段により前記カウント除外対象の人物を除いてカウントされた人数と、前記カウント除外対象の人物の人数と、を表示制御する、請求項1〜6の何れか一項に記載の画像処理システム。
A display control unit configured to display and control the number of persons who have passed the predetermined position;
7. The display control means according to any one of claims 1 to 6, wherein the display control means performs display control of the number of people counted by the counting means excluding the count exclusion target person and the number of the count exclusion target person. Image processing system described in.
前記表示制御手段は、前記カウント手段によって前記カウント除外対象を除いて人数がカウントされた人物と、前記カウント除外対象の人物と、を識別可能に表示する、請求項7に記載の画像処理システム。 8. The image processing system according to claim 7, wherein the display control means displays the person whose number has been counted excluding the count exclusion target by the counting means so as to distinguishably display the count exclusion target person. 前記画像を撮影する撮像装置を更に備え、
前記取得手段は、前記撮像装置によって撮影された画像を取得することを特徴とする請求項1〜8の何れか一項に記載の画像処理システム。
It further comprises an imaging device for capturing the image;
The image processing system according to any one of claims 1 to 8, wherein the acquisition unit acquires an image captured by the imaging device.
所定の位置を通過した人物の人数をカウントする画像処理システムの制御方法であって、
人物が写った複数の画像を取得する取得ステップと、
前記画像に写った人物であって前記所定の位置を通過した人物の人数をカウントするカウントステップと、
前記画像に写った人物が前記所定の位置を通過した通過方向を示す通過方向情報を取得する通過方向取得ステップと、
前記通過方向取得ステップにおいて取得された前記通過方向情報に基づき、前記所定の位置を通過した人物が、前記カウントステップにおける人数のカウントから除外するカウント除外対象であるか否かを判定するカウント除外ステップと、を含み、
前記カウントステップは、前記カウント除外ステップにおいて前記カウント除外対象であると判定された場合には、前記カウント除外対象であると判定された人物の人数をカウントから除外する、画像処理システムの制御方法。
A control method of an image processing system for counting the number of persons who have passed a predetermined position,
An acquisition step of acquiring a plurality of images in which a person is photographed;
A counting step for counting the number of persons appearing in the image and having passed the predetermined position;
A passing direction obtaining step of obtaining passing direction information indicating a passing direction in which a person captured in the image has passed the predetermined position;
A count exclusion step of determining whether a person who has passed the predetermined position is a count exclusion target to be excluded from the count of the number of people in the count step based on the passage direction information acquired in the passage direction acquisition step And, and
The control method of the image processing system, wherein the counting step excludes, from the counting, the number of persons determined to be the count exclusion target when it is determined that the count exclusion target is the target in the count exclusion step.
所定の位置を通過した人物の人数をカウントする画像処理システムで読み取り可能なプログラムであって、
画像処理システムを、
人物が写った複数の画像を取得する取得手段と、
前記画像に写った人物であって前記所定の位置を通過した人物の人数をカウントするカウント手段と、
前記画像に写った人物が前記所定の位置を通過した通過方向を示す通過方向情報を取得する通過方向取得手段と、
前記通過方向取得手段により取得された前記通過方向情報に基づき、前記所定の位置を通過した人物が、前記カウント手段による人数のカウントから除外するカウント除外対象であるか否かを判定するカウント除外手段として機能させ、
前記カウント手段を、前記カウント除外手段により前記カウント除外対象であると判定された場合には、前記カウント除外対象であると判定された人物の人数をカウントから除外するように機能させるためのプログラム。
A program readable by an image processing system for counting the number of persons who have passed a predetermined position, comprising:
Image processing system
Acquisition means for acquiring a plurality of images in which a person is photographed;
Counting means for counting the number of persons appearing in the image and having passed the predetermined position;
Passing direction acquisition means for acquiring passing direction information indicating a passing direction in which a person captured in the image has passed the predetermined position;
Counting exclusion means for determining whether or not a person who has passed the predetermined position is a counting exclusion target to be excluded from the counting of the number of people by the counting means based on the passing direction information obtained by the passing direction obtaining means To act as
A program for causing the counting means to exclude from the count the number of persons determined to be the count exclusion target when the count exclusion means determines that the count exclusion target is the count exclusion target.
JP2018169467A 2017-09-27 2018-09-11 Image processing system, control method for image processing system, and program Active JP6669977B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020027862A JP6982263B2 (en) 2017-09-27 2020-02-21 Image processing system, image processing system control method, and program

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017185539 2017-09-27
JP2017185539 2017-09-27

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2020027862A Division JP6982263B2 (en) 2017-09-27 2020-02-21 Image processing system, image processing system control method, and program

Publications (2)

Publication Number Publication Date
JP2019061665A true JP2019061665A (en) 2019-04-18
JP6669977B2 JP6669977B2 (en) 2020-03-18

Family

ID=66177494

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2018169467A Active JP6669977B2 (en) 2017-09-27 2018-09-11 Image processing system, control method for image processing system, and program
JP2020027862A Active JP6982263B2 (en) 2017-09-27 2020-02-21 Image processing system, image processing system control method, and program

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2020027862A Active JP6982263B2 (en) 2017-09-27 2020-02-21 Image processing system, image processing system control method, and program

Country Status (1)

Country Link
JP (2) JP6669977B2 (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022020223A (en) * 2020-07-20 2022-02-01 キヤノン株式会社 Information processing device, information processing method and program
JP2022068663A (en) * 2020-10-22 2022-05-10 キヤノン株式会社 Imaging apparatus, information processing method, and program
JP2022079319A (en) * 2020-11-16 2022-05-26 株式会社デンソーテン Information processing equipment and information processing method
WO2024236933A1 (en) * 2023-05-16 2024-11-21 コニカミノルタ株式会社 Management apparatus

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113096391A (en) * 2021-03-25 2021-07-09 合肥革绿信息科技有限公司 Traffic management system based on face recognition
CN115187636B (en) * 2022-07-26 2023-09-19 金华市水产技术推广站(金华市水生动物疫病防控中心) Multi-window-based fry identification and counting method and system

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003109001A (en) * 2001-09-27 2003-04-11 Ced System Inc System and program for detecting person
JP2005234947A (en) * 2004-02-20 2005-09-02 Omron Corp People counting device
JP2014191711A (en) * 2013-03-28 2014-10-06 Oki Electric Ind Co Ltd Video analysis device, video analysis method, program, and video analysis system
JP2016045654A (en) * 2014-08-21 2016-04-04 日本システム開発株式会社 User identification device, user identification method, and computer program

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5594672B2 (en) * 2011-04-14 2014-09-24 株式会社 日立産業制御ソリューションズ Object recognition apparatus and object recognition method
JP5834254B2 (en) * 2014-04-11 2015-12-16 パナソニックIpマネジメント株式会社 People counting device, people counting system, and people counting method

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003109001A (en) * 2001-09-27 2003-04-11 Ced System Inc System and program for detecting person
JP2005234947A (en) * 2004-02-20 2005-09-02 Omron Corp People counting device
JP2014191711A (en) * 2013-03-28 2014-10-06 Oki Electric Ind Co Ltd Video analysis device, video analysis method, program, and video analysis system
JP2016045654A (en) * 2014-08-21 2016-04-04 日本システム開発株式会社 User identification device, user identification method, and computer program

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
月舘 瑞男: ""自動追尾撮影装置ATR−365シリーズ、通過人数計測装置IIS−365C2"", 映像情報インダストリアル, vol. 38, no. 3, JPN6019032995, 1 March 2006 (2006-03-01), JP, pages 37 - 40, ISSN: 0004200791 *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022020223A (en) * 2020-07-20 2022-02-01 キヤノン株式会社 Information processing device, information processing method and program
JP7665299B2 (en) 2020-07-20 2025-04-21 キヤノン株式会社 Information processing device, information processing method, and program
JP2022068663A (en) * 2020-10-22 2022-05-10 キヤノン株式会社 Imaging apparatus, information processing method, and program
JP2022079319A (en) * 2020-11-16 2022-05-26 株式会社デンソーテン Information processing equipment and information processing method
JP7512175B2 (en) 2020-11-16 2024-07-08 株式会社デンソーテン Information processing device and information processing method
WO2024236933A1 (en) * 2023-05-16 2024-11-21 コニカミノルタ株式会社 Management apparatus

Also Published As

Publication number Publication date
JP6669977B2 (en) 2020-03-18
JP2020102852A (en) 2020-07-02
JP6982263B2 (en) 2021-12-17

Similar Documents

Publication Publication Date Title
JP7348529B2 (en) Image processing system, image processing system control method, and program
JP6982263B2 (en) Image processing system, image processing system control method, and program
JP6442751B2 (en) Information processing apparatus, information processing system, control method, and program
JP6617547B2 (en) Image management system, image management method, and program
JP2001282673A (en) Image distribution system, control method therefor, and information processing apparatus
JP6515852B2 (en) Information processing apparatus, personal identification system, control method thereof, personal identification method, program thereof
US20190362148A1 (en) Method and system for enabling information in augmented reality applications
JP2021192238A (en) Information processing apparatus, method for controlling information processing apparatus, and program
JP6485522B2 (en) Management server, information processing terminal, control method, and program
WO2020021758A1 (en) Information processing device, image data generation device, information processing system, information processing method, and program
JP5999232B2 (en) File management device, file management system, control method, program
JP6090366B2 (en) Information processing system, control method, and program
JP6788205B2 (en) Information processing device, personal authentication system, its control method, personal authentication method, its program
US12388946B2 (en) Display terminal, communication system, and display method
CN115130070B (en) Methods, devices, and AR equipment for granting and displaying user permissions in AR scenarios
JP6613553B2 (en) Information processing apparatus, information processing system, control method thereof, and program
JP6955067B1 (en) Display control device, display control method and display control program
JP6947247B1 (en) Editing management device, editing management method and program
JP6128798B2 (en) Transmission device, transmission method, and program
JP5970092B2 (en) Work support system and work support method
JP2001094960A (en) Information processing apparatus, control method therefor, and storage medium
JP2016126612A (en) Information processing apparatus, information processing method, and program
JP2020017259A (en) Image data generation device, image data generation method, and program
JP2018107772A (en) Information processing device, method for controlling information processing device, and program
JP2001142815A (en) Remote data collection system

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181010

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181010

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20181031

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190109

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190821

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190903

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191031

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200128

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200210

R151 Written notification of patent or utility model registration

Ref document number: 6669977

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250