[go: up one dir, main page]

JP7416237B2 - 処理装置、処理方法及びプログラム - Google Patents

処理装置、処理方法及びプログラム Download PDF

Info

Publication number
JP7416237B2
JP7416237B2 JP2022527434A JP2022527434A JP7416237B2 JP 7416237 B2 JP7416237 B2 JP 7416237B2 JP 2022527434 A JP2022527434 A JP 2022527434A JP 2022527434 A JP2022527434 A JP 2022527434A JP 7416237 B2 JP7416237 B2 JP 7416237B2
Authority
JP
Japan
Prior art keywords
product
display time
detected
products
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022527434A
Other languages
English (en)
Other versions
JPWO2021240772A1 (ja
Inventor
悠 鍋藤
壮馬 白石
貴美 佐藤
克 菊池
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2021240772A1 publication Critical patent/JPWO2021240772A1/ja
Priority to JP2023220563A priority Critical patent/JP7619427B2/ja
Application granted granted Critical
Publication of JP7416237B2 publication Critical patent/JP7416237B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/97Determining parameters from multiple pictures
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/08Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
    • G06Q10/087Inventory or stock management, e.g. order filling, procurement or balancing against orders
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/68Food, e.g. fruit or vegetables
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30128Food products
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30Computing systems specially adapted for manufacturing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Multimedia (AREA)
  • Accounting & Taxation (AREA)
  • Finance (AREA)
  • Economics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Strategic Management (AREA)
  • Marketing (AREA)
  • General Business, Economics & Management (AREA)
  • Development Economics (AREA)
  • Human Resources & Organizations (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Tourism & Hospitality (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本発明は、処理装置、処理方法及びプログラムに関する。
特許文献1は、冷蔵庫の内部を撮影した時系列な画像群各々内の食材を認識し、認識結果に基づき食材の移動の有無を判断し、移動していない期間が閾値を超えた食材は放置品と判断して警告を行う技術を開示している。
特開2016-57022号公報
事故回避等の目的で、商品に販売期限を設ける店舗がある。このような店舗においては、販売期限を過ぎた商品や販売期限間近の商品等を店員が把握する手段が必要となる。例えば、各商品に賞味期限や消費期限等の各種情報を印字したラベルが付与される場合、陳列されている商品各々のラベルを確認する手段が利用できる。しかし、コロッケ、焼き鳥等のような個包装されていな総菜や生鮮食品などの商品においては、ラベルを付与できない場合がある。また、陳列されている商品各々のラベルを確認する作業は、非常に手間である。特許文献1は、このような店舗での課題及び解決手段を開示していない。
本発明は、陳列されている商品各々の販売期限の状況を把握するための技術を提供することを課題とする。
本発明によれば、
陳列領域を含む複数の時系列な画像を取得する取得手段と、
複数の時系列な前記画像各々から商品を検出する商品検出手段と、
互いに異なる前記画像から検出された商品の同一性を判断する同一性判断手段と、
前記検出結果と、前記同一性の判断結果とに基づき、検出された商品各々の陳列時間を管理する陳列時間管理手段と、
検出された商品各々の前記陳列時間に関する情報を出力する出力手段と、
を有する処理装置が提供される。
また、本発明によれば、
コンピュータが、
陳列領域を含む複数の時系列な画像を取得し、
複数の時系列な前記画像各々から商品を検出し、
互いに異なる前記画像から検出された商品の同一性を判断し、
前記検出結果と、前記同一性の判断結果とに基づき、検出された商品各々の陳列時間を管理し、
検出された商品各々の前記陳列時間に関する情報を出力する処理方法が提供される。
また、本発明によれば、
コンピュータを、
陳列領域を含む複数の時系列な画像を取得する取得手段、
複数の時系列な前記画像各々から商品を検出する商品検出手段、
互いに異なる前記画像から検出された商品の同一性を判断する同一性判断手段、
前記検出結果と、前記同一性の判断結果とに基づき、検出された商品各々の陳列時間を管理する陳列時間管理手段、
検出された商品各々の前記陳列時間に関する情報を出力する出力手段、
として機能させるプログラムが提供される。
本発明によれば、陳列されている商品各々の販売期限の状況を把握するための技術が実現される。
本実施形態の処理装置のハードウエア構成の一例を示す図である。 本実施形態の処理装置の機能ブロック図の一例である。 本実施形態の処理装置が処理する情報の一例を示す図である。 本実施形態の処理装置の処理の流れの一例を示すフローチャートである。 本実施形態の処理装置が出力する画像の一例を示す図である。 本実施形態の処理装置が処理する情報の一例を示す図である。 本実施形態の処理装置が出力する画像の一例を示す図である。
「前提事項」
本実施形態の処理装置を利用する店舗では、少なくとも一部の商品の販売期限が、その商品の陳列時間(陳列されている時間)に基づき定められる。具体的には、陳列時間が上限値を超えたタイミングが販売期限となる。
陳列時間に基づき販売期限を管理される少なくとも一部の商品は、例えばコロッケ、焼き鳥等のようなラベルを付与できない商品であってもよいし、ラベルを付与できる商品であってもよい。また、当該商品は、例えば食品であるがこれに限定されず、家電製品や文房具のようなその他の商品であってもよい。
販売期限を過ぎた商品又は販売期限間近の商品は、陳列棚から回収されたり、値引き販売されたりする。
「概要」
本実施形態の処理装置は、商品の陳列領域を含む複数の時系列な画像各々から商品を検出すると、互いに異なる画像から検出された商品の同一性を判断し、検出結果及び同一性の判断結果に基づき、陳列領域に陳列されている商品各々の陳列時間を管理する。そして、処理装置は、陳列されている商品各々の陳列時間に関する情報を出力する。
店員は、処理装置が出力した情報に基づき、陳列されている商品各々の販売期限の状況、すなわち「販売期限を過ぎているか否か」や「販売期限間近か否か」等を把握することができる。
「ハードウエア構成」
次に、処理装置のハードウエア構成の一例を説明する。処理装置の各機能部は、任意のコンピュータのCPU(Central Processing Unit)、メモリ、メモリにロードされるプログラム、そのプログラムを格納するハードディスク等の記憶ユニット(あらかじめ装置を出荷する段階から格納されているプログラムのほか、CD(Compact Disc)等の記憶媒体やインターネット上のサーバ等からダウンロードされたプログラムをも格納できる)、ネットワーク接続用インターフェイスを中心にハードウエアとソフトウエアの任意の組合せによって実現される。そして、その実現方法、装置にはいろいろな変形例があることは、当業者には理解されるところである。
図1は、処理装置のハードウエア構成を例示するブロック図である。図1に示すように、処理装置は、プロセッサ1A、メモリ2A、入出力インターフェイス3A、周辺回路4A、バス5Aを有する。周辺回路4Aには、様々なモジュールが含まれる。処理装置は周辺回路4Aを有さなくてもよい。なお、処理装置は物理的及び/又は論理的に分かれた複数の装置で構成されてもよいし、物理的及び/又は論理的に一体となった1つの装置で構成されてもよい。処理装置が物理的及び/又は論理的に分かれた複数の装置で構成される場合、複数の装置各々が上記ハードウエア構成を備えることができる。
バス5Aは、プロセッサ1A、メモリ2A、周辺回路4A及び入出力インターフェイス3Aが相互にデータを送受信するためのデータ伝送路である。プロセッサ1Aは、例えばCPU、GPU(Graphics Processing Unit)などの演算処理装置である。メモリ2Aは、例えばRAM(Random Access Memory)やROM(Read Only Memory)などのメモリである。入出力インターフェイス3Aは、入力装置、外部装置、外部サーバ、外部センサー、カメラ等から情報を取得するためのインターフェイスや、出力装置、外部装置、外部サーバ等に情報を出力するためのインターフェイスなどを含む。入力装置は、例えばキーボード、マウス、マイク、物理ボタン、タッチパネル等である。出力装置は、例えばディスプレイ、スピーカ、プリンター、メーラ等である。プロセッサ1Aは、各モジュールに指令を出し、それらの演算結果をもとに演算を行うことができる。
「機能構成」
図2に、処理装置10の機能ブロック図の一例を示す。図示するように、処理装置10は、取得部11と、商品検出部12と、同一性判断部13と、陳列時間管理部14と、出力部15とを有する。
取得部11は、陳列領域を含む複数の時系列な画像を取得する。陳列領域は、商品が陳列される領域であり、例えば商品陳列棚等により実現される。処理装置10を利用する店舗では、陳列領域に陳列された商品(好ましくは、陳列領域に陳列されたすべての商品)を撮影する位置及び向きでカメラが設置される。
カメラは動画像を常時(例えば、営業時間中)撮影してもよいし、動画像のフレーム間隔よりも大きい時間間隔で静止画像を継続的に撮影してもよい。取得部11は、このようなカメラが生成した画像を取得する。
商品検出部12は、時系列な複数の画像各々から商品を検出する。そして、商品検出部12は、検出結果として、検出した商品毎に、画像内の位置を示す位置情報(以下、「商品位置情報」)、及び、商品識別情報(商品コード、商品名等)を出力する。
商品の検出は、周知のあらゆる商品認識技術を利用して実現することができる。例えば、商品検出部12は、周知の物体検出技術を用いて、画像内の物体領域(物体が存在する領域)を検出する。商品検出部12は、物体及びその周辺を含む領域(例えば矩形領域)を、物体領域として検出してもよい。その他、商品検出部12は、物体のみが存在する物体の輪郭に沿った形状の領域を、物体領域として検出してもよい。後者は、例えば、セマンティックセグメンテーションやインスタンスセグメンテーションと呼ばれる検出対象が存在するピクセル領域を検出する手法を利用して実現することができる。
そして、商品検出部12は、周知の商品認識技術(特徴点マッチング、ディープラーニング等)を用いて、物体領域の画像に含まれる商品を認識する。
商品位置情報は、例えば画像上に設定された二次元座標系の座標で示される。商品位置情報は、画像内の一点で示されてもよいし、画像内の一部を占める領域で示されてもよい。例えば、商品位置情報は、上記物体領域の代表点(中心、重心等)を示す情報であってもよいし、上記物体領域(画像内の一部領域)を示す情報であってもよい。
同一性判断部13は、互いに異なる画像から検出された商品の同一性を判断する。すなわち、同一性判断部13は、第1の画像から検出された商品と、第2の画像から検出された商品とが同一か否かを判断する。ここでの同一は、同一の個体であることを意味する。すなわち、商品識別情報が一致していても、異なる個体である場合、ここでの同一に該当しない。以下、同一性を判断する処理の例を説明する。
<判断例1>
同一性判断部13は、互いに異なる画像各々から検出された商品の画像内の位置に基づき、商品の同一性を判断することができる。複数の画像各々から検出された商品の画像内の位置が同じか又はその差が閾値以内である場合、複数の画像各々から検出された商品は同一の商品と判断することができる。この例の場合、画像生成タイミング(撮影タイミング)の差が基準時間以下の2つの画像が、同一性判断の処理対象(上記第1の画像及び第2の画像)となる。基準時間は設計的事項であるが、ある程度小さい値となる。
商品位置情報が画像内の一点で示されている場合、同一性判断部13は、「点間の距離が閾値以下」を、同一の商品と判断する条件としてもよい。また、商品位置情報が画像内の一部領域で占めされている場合、同一性判断部13は、「互いに重なる領域が、各々の商品位置情報が示す領域の基準割合以上を占める」を、同一の商品と判断する条件としてもよい。ここで例示した同一の商品と判断する条件はあくまで一例であり、これに限定されない。
なお、同一性判断部13は、「上述の条件を満たし、かつ、商品識別情報が一致すること」を、同一の商品と判断する条件としてもよい。
<判断例2>
同一性判断部13は、互いに異なる画像各々から検出された商品の外観の特徴量(形状、大きさ、色等)に基づき、商品の同一性を判断することができる。同一種類(商品識別情報が一致)であっても、商品の外観に個体差が現れる場合がある。同一性判断部13は、このような外観の個体差に基づき、商品の同一性を判断することができる。
陳列時間管理部14は、商品検出部12による検出結果と、同一性判断部13による同一性の判断結果とに基づき、商品検出部12により検出された商品各々の陳列時間を管理する。
例えば、陳列時間管理部14は、画像から検出された商品の中の、時系列順がそれ以前の画像から検出された商品のいずれとも同一と判断されなかった商品を、新たに陳列領域に陳列された商品として陳列時間の管理を開始することができる。また、陳列時間管理部14は、画像から検出された商品の中の、それ以降の画像から検出された商品のいずれとも同一と判断されなかった商品の陳列時間の管理を終了することができる。
ここで、図3及び図4を用いて、陳列時間管理部14による処理の具体例を説明する。まず、陳列時間管理部14は、図3に示すような陳列時間管理情報を管理している。図示する陳列時間管理情報は、通番と、商品識別情報と、商品位置情報と、陳列開始時刻とを互いに紐付けている。通番は、陳列時間理情報で管理されている商品を互いに識別するための情報である。商品識別情報は、陳列時間理情報で管理されている商品の商品識別情報である。商品位置情報は、陳列時間理情報で管理されている商品各々の最新の商品位置情報である。陳列開始時刻は、陳列時間理情報で管理されている商品各々の陳列が開始された時刻である。なお、陳列開始時刻に代えて、陳列開始日時や陳列開始日等としてもよい。
図4に示すように、商品検出部12が第1の画像から商品を検出すると(S10)、同一性判断部13は検出された商品各々の商品位置情報と、図3に示すような陳列時間管理情報で管理されている商品各々の商品位置情報とに基づき、第1の画像から検出された商品各々と、陳列時間管理情報で管理されている商品との同一性を判断する(S11)。
そして、陳列時間管理部14は、第1の画像から検出された商品の中に、陳列時間管理情報で管理されている商品いずれとも同一と判断されない商品が存在する場合(S12のYes)、その商品の陳列時間の管理を開始する(S13)。具体的には、陳列時間管理部14は、新たな通番に紐付けて、その商品の商品識別情報及び商品位置情報を登録するとともに、第1の画像の生成タイミング(撮影タイミング)またはその近辺のタイミングを、陳列開始時刻として登録する。
なお、S11の判断タイミングにおいて、陳列時間管理情報で管理されている商品がない場合、陳列時間管理部14は、第1の画像から検出された商品の中に、陳列時間管理情報で管理されている商品いずれとも同一と判断されない商品が存在すると判断し(S12のYes)、第1の画像から検出されたすべての商品の陳列時間の管理を開始することとなる(S13)。
一方、第1の画像から検出された商品の中に、陳列時間管理情報で管理されている商品いずれとも同一と判断されない商品が存在しない場合(S12のNo)、陳列時間管理部14は、S13の処理を実行しない。
また、陳列時間管理部14は、陳列時間管理情報で管理されている商品の中に、第1の画像から検出された商品いずれとも同一と判断されない商品が存在する場合(S14のYes)、その商品の陳列時間の管理を終了する(S15)。例えば、陳列時間管理部14は、その商品の情報を陳列時間管理情報から削除してもよい。その他、陳列時間管理部14は、その商品に紐付けて陳列時間の管理が終了した旨を示す情報を登録してもよい。
なお、上述した「陳列時間の管理が終了した旨を示す情報」は、第1の画像の生成タイミング(撮影タイミング)またはその近辺のタイミングを示す時間情報又は日時情報であってもよい。このような情報を登録することにより、複数の商品各々の陳列開始時刻及び陳列終了時刻を記録することができる。そして、当該情報をマーケティング等で利用することができる。
一方、陳列時間管理情報で管理されている商品の中に、第1の画像から検出された商品いずれとも同一と判断されない商品が存在しない場合(S14のNo)、陳列時間管理部14は、S15の処理を実行しない。
また、陳列時間管理部14は、陳列時間管理情報で管理されている商品の中に、第1の画像から検出された商品のいずれかと同一と判断される商品が存在する場合(S16のYes)、陳列時間管理情報で管理されているその商品の商品位置情報を、第1の画像から検出されたその商品の商品位置情報に更新する(S17)。
一方、陳列時間管理情報で管理されている商品の中に、第1の画像から検出された商品のいずれかと同一と判断される商品が存在しない場合(S16のNo)、陳列時間管理部14は、S17の処理を実行しない。
なお、S12、S14及びS16の判断順は図示する例に限定されない。
図2に戻り、出力部15は、商品検出部12により検出された商品各々の陳列時間に関する情報を出力する。例えば、出力部15は、取得部11が取得した画像上に、当該画像から検出された商品各々に紐付けて、各々の陳列時間に関する情報を表示した加工画像を出力する。出力部15は、処理装置10に接続されたディスプレイ、投影装置、プリンター、メーラ等の出力装置を介して上記情報の出力を実現してもよいし、他の外部装置に上記情報を送信してもよい。以下、陳列時間に関する情報の例を説明する。
<陳列時間に関する情報の例1>
出力される「陳列時間に関する情報」は、「陳列時間の目安を示す情報」であってもよい。例えば、陳列時間は、「M1未満」、「M1以上M2未満」、「M2以上」等のように複数のグループに分けられる。なお、グループの数は2以上の任意の数である。そして、「陳列時間の目安を示す情報」は、各商品の現在の陳列時間がどのグループに属するかを示す情報となる。
図5に当該情報を表示した加工画像の一例を示す。図示する例では、商品検出部12により検出された商品P各々に紐付けて枠Fを表示している。枠Fの表示位置は、例えば各商品Pの商品位置情報に基づき決定される。各商品Pの枠Fの表示態様(線の色、線の濃淡、線の種類等)は、各商品Pの陳列時間がいずれのグループに属するかに応じて変化する。予め、図6に示すような陳列時間に応じた枠Fの表示態様が定められており、それに応じた表示態様で各商品Pの枠Fが表示される。
なお、図6に示すような枠表示基準は、商品Pごとに異なってもよい。すなわち、枠表示基準のM1、M2の値は、商品Pごとに異なってもよい。また、図6に示す例では3つのグループに分かれているが、グループの数も商品Pごとに異なってもよい。
また、出力部15は、陳列時間が上限値を超えた商品Pを強調表示してもよい。強調表示の手法は様々であるが、例えば該当する商品Pの枠Fを点滅させたり、所定の色(赤)で表示したりしてもよい。上限値は、商品Pごとに異なってもよい。
<陳列時間に関する情報の例2>
出力される「陳列時間に関する情報」は、「販売期限までの残時間の目安を示す情報」であってもよい。販売期限までの残時間(以下、単に「残時間」という場合がある)は、上述した上限値から陳列時間を引くことで算出される。例えば、残時間は、「L1未満」、「L1以上L2未満」、「L2以上」等のように複数のグループに分けられる。なお、グループの数は2以上の任意の数である。そして、「残時間の目安を示す情報」は、各商品の残時間がどのグループに属するかを示す情報となる。
図5に当該情報を表示した加工画像の一例を示す。図示する例では、商品検出部12により検出された商品P各々に紐付けて枠Fを表示している。枠Fの表示位置は、例えば各商品Pの商品位置情報に基づき決定される。各商品Pの枠Fの表示態様(線の色、線の濃淡、線の種類等)は、各商品Pの残時間がいずれのグループに属するかに応じて変化する。予め、残時間に応じた枠Fの表示態様が定められており、それに応じた表示態様で各商品Pの枠Fが表示される。
なお、枠表示基準は、商品Pごとに異なってもよい。また、上記グループの数も商品Pごとに異なってもよい。また、出力部15は、残時間が下限値を下回った商品Pを強調表示してもよい。強調表示の手法は様々であるが、例えば該当する商品Pの枠Fを点滅させたり、所定の色(赤)で表示したりしてもよい。
<陳列時間に関する情報の例3>
出力される「陳列時間に関する情報」は、「陳列時間」や「販売期限までの残時間」そのものであってもよい。図7に当該情報を表示した加工画像の一例を示す。枠Fに紐付いて表示されている数字が、「陳列時間」又は「販売期限までの残時間」を示す。「陳列時間」や「販売期限までの残時間」は、「月」、「日」、「時間」、「分」、「秒」等の任意の単位で示される。例えば、「1」が紐付いている商品は、陳列時間又は残時間が、「1カ月」、「1日」、「1時間」、「1分」又は「1秒」であることを示す。
なお、上記した例1乃至3において、枠Fを他のマークに変更してもよい。
<陳列時間に関する情報の例4>
当該例では、陳列時間管理部14は、複数の陳列領域における商品各々の陳列時間を、陳列領域毎に管理する。そして、出力部15は、陳列時間が報告基準値を超えた商品が存在する陳列領域識別情報を、陳列時間に関する情報として出力する。陳列領域識別情報は、複数の陳列領域を互いに識別する情報である。報告基準値は商品毎に異なってもよい。
「作用効果」
以上、本実施形態の処理装置10によれば、陳列領域を含む複数の時系列な画像に基づき、陳列領域に陳列されている商品の陳列時間を管理することができる。そして、処理装置10は、陳列されている商品各々の陳列時間に関する情報を出力することができる。店員は、処理装置10が出力した情報に基づき、陳列されている商品各々の販売期限の状況、すなわち「販売期限を過ぎているか否か」や「販売期限間近か否か」等を把握することができる。
また、処理装置10は、図5及び図7に示すように、陳列領域を含む画像上に、当該画像から検出された商品各々に紐付けて陳列時間を示す情報を表示した加工画像を出力することができる。このような加工画像によれば、店員は、直感的に陳列されている商品各々の販売状況を把握することができる。
なお、本明細書において、「取得」とは、ユーザ入力に基づき、又は、プログラムの指示に基づき、「自装置が他の装置や記憶媒体に格納されているデータを取りに行くこと(能動的な取得)」、たとえば、他の装置にリクエストまたは問い合わせして受信すること、他の装置や記憶媒体にアクセスして読み出すこと等、および、ユーザ入力に基づき、又は、プログラムの指示に基づき、「自装置に他の装置から出力されるデータを入力すること(受動的な取得)」、たとえば、配信(または、送信、プッシュ通知等)されるデータを受信すること、また、受信したデータまたは情報の中から選択して取得すること、及び、「データを編集(テキスト化、データの並び替え、一部データの抽出、ファイル形式の変更等)などして新たなデータを生成し、当該新たなデータを取得すること」の少なくともいずれか一方を含む。
以上、実施形態(及び実施例)を参照して本願発明を説明したが、本願発明は上記実施形態(及び実施例)に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限定されない。
1. 陳列領域を含む複数の時系列な画像を取得する取得手段と、
複数の時系列な前記画像各々から商品を検出する商品検出手段と、
互いに異なる前記画像から検出された商品の同一性を判断する同一性判断手段と、
前記検出結果と、前記同一性の判断結果とに基づき、検出された商品各々の陳列時間を管理する陳列時間管理手段と、
検出された商品各々の前記陳列時間に関する情報を出力する出力手段と、
を有する処理装置。
2. 前記出力手段は、前記画像上に、前記画像から検出された商品各々に紐付けて前記陳列時間を示す情報を表示した加工画像を出力する1に記載の処理装置。
3. 前記出力手段は、前記画像から検出された商品各々に紐付けて、前記陳列時間の長さに応じた情報を表示した前記加工画像を出力する2に記載の処理装置。
4. 前記出力手段は、前記陳列時間が上限値を超えた商品を強調表示する前記加工画像を出力する2に記載の処理装置。
5. 前記上限値は、商品毎に異なる4に記載の処理装置。
6. 前記同一性判断手段は、互いに異なる前記画像各々から検出された商品の前記画像内の位置に基づき、商品の同一性を判断する1から5のいずれか1項に記載の処理装置。
7. 前記陳列時間管理手段は、前記画像から検出された商品の中の、それ以前の前記画像から検出された商品のいずれとも同一と判断されなかった商品を、新たに前記陳列領域に陳列された商品として前記陳列時間の管理を開始する1から6のいずれかに記載の処理装置。
8. 前記陳列時間管理手段は、前記画像から検出された商品の中の、それ以降の前記画像から検出された商品のいずれとも同一と判断されなかった商品の前記陳列時間の管理を終了する1から7のいずれかに記載の処理装置。
9. コンピュータが、
陳列領域を含む複数の時系列な画像を取得し、
複数の時系列な前記画像各々から商品を検出し、
互いに異なる前記画像から検出された商品の同一性を判断し、
前記検出結果と、前記同一性の判断結果とに基づき、検出された商品各々の陳列時間を管理し、
検出された商品各々の前記陳列時間に関する情報を出力する処理方法。
10. コンピュータを、
陳列領域を含む複数の時系列な画像を取得する取得手段、
複数の時系列な前記画像各々から商品を検出する商品検出手段、
互いに異なる前記画像から検出された商品の同一性を判断する同一性判断手段、
前記検出結果と、前記同一性の判断結果とに基づき、検出された商品各々の陳列時間を管理する陳列時間管理手段、
検出された商品各々の前記陳列時間に関する情報を出力する出力手段、
として機能させるプログラム。

Claims (10)

  1. 陳列領域を含む複数の時系列な画像を取得する取得手段と、
    複数の時系列な前記画像各々から商品を検出する商品検出手段と、
    互いに異なる前記画像から検出された商品の同一性を判断する同一性判断手段と、
    前記検出結果と、前記同一性の判断結果とに基づき、検出された商品各々の陳列時間を管理する陳列時間管理手段と、
    検出された商品各々の前記陳列時間に関する情報を出力する出力手段と、
    を有する処理装置。
  2. 前記出力手段は、前記画像上に、前記画像から検出された商品各々に紐付けて前記陳列時間を示す情報を表示した加工画像を出力する請求項1に記載の処理装置。
  3. 前記出力手段は、前記画像から検出された商品各々に紐付けて、前記陳列時間の長さに応じた情報を表示した前記加工画像を出力する請求項2に記載の処理装置。
  4. 前記出力手段は、前記陳列時間が上限値を超えた商品を強調表示する前記加工画像を出力する請求項2に記載の処理装置。
  5. 前記上限値は、商品毎に異なる請求項4に記載の処理装置。
  6. 前記同一性判断手段は、互いに異なる前記画像各々から検出された商品の前記画像内の位置に基づき、商品の同一性を判断する請求項1から5のいずれか1項に記載の処理装置。
  7. 前記陳列時間管理手段は、前記画像から検出された商品の中の、それ以前の前記画像から検出された商品のいずれとも同一と判断されなかった商品を、新たに前記陳列領域に陳列された商品として前記陳列時間の管理を開始する請求項1から6のいずれか1項に記載の処理装置。
  8. 前記陳列時間管理手段は、前記画像から検出された商品の中の、それ以降の前記画像から検出された商品のいずれとも同一と判断されなかった商品の前記陳列時間の管理を終了する請求項1から7のいずれか1項に記載の処理装置。
  9. コンピュータが、
    陳列領域を含む複数の時系列な画像を取得し、
    複数の時系列な前記画像各々から商品を検出し、
    互いに異なる前記画像から検出された商品の同一性を判断し、
    前記検出結果と、前記同一性の判断結果とに基づき、検出された商品各々の陳列時間を管理し、
    検出された商品各々の前記陳列時間に関する情報を出力する処理方法。
  10. コンピュータを、
    陳列領域を含む複数の時系列な画像を取得する取得手段、
    複数の時系列な前記画像各々から商品を検出する商品検出手段、
    互いに異なる前記画像から検出された商品の同一性を判断する同一性判断手段、
    前記検出結果と、前記同一性の判断結果とに基づき、検出された商品各々の陳列時間を管理する陳列時間管理手段、
    検出された商品各々の前記陳列時間に関する情報を出力する出力手段、
    として機能させるプログラム。
JP2022527434A 2020-05-29 2020-05-29 処理装置、処理方法及びプログラム Active JP7416237B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2023220563A JP7619427B2 (ja) 2020-05-29 2023-12-27 処理装置、処理方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2020/021316 WO2021240772A1 (ja) 2020-05-29 2020-05-29 処理装置、処理方法及びプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2023220563A Division JP7619427B2 (ja) 2020-05-29 2023-12-27 処理装置、処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2021240772A1 JPWO2021240772A1 (ja) 2021-12-02
JP7416237B2 true JP7416237B2 (ja) 2024-01-17

Family

ID=78723190

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2022527434A Active JP7416237B2 (ja) 2020-05-29 2020-05-29 処理装置、処理方法及びプログラム
JP2023220563A Active JP7619427B2 (ja) 2020-05-29 2023-12-27 処理装置、処理方法及びプログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2023220563A Active JP7619427B2 (ja) 2020-05-29 2023-12-27 処理装置、処理方法及びプログラム

Country Status (3)

Country Link
US (1) US20230206507A1 (ja)
JP (2) JP7416237B2 (ja)
WO (1) WO2021240772A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2023106034A1 (ja) * 2021-12-08 2023-06-15

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010121784A (ja) 2008-11-17 2010-06-03 Toshiba Corp 冷蔵庫の在庫管理装置
JP2016196981A (ja) 2015-04-03 2016-11-24 三菱電機株式会社 庫内管理システムおよび庫内管理方法
WO2018179361A1 (ja) 2017-03-31 2018-10-04 日本電気株式会社 画像処理装置、画像処理方法、および記録媒体

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101517083B1 (ko) * 2009-05-11 2015-05-15 엘지전자 주식회사 냉장고를 제어하는 휴대 단말기 및 그 동작 방법
KR102024595B1 (ko) * 2013-04-25 2019-09-24 엘지전자 주식회사 냉장고 및 그 제어방법
JP2016057022A (ja) 2014-09-11 2016-04-21 株式会社東芝 食材管理システム
JP6341388B2 (ja) * 2016-01-20 2018-06-13 パナソニックIpマネジメント株式会社 商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法
KR101830660B1 (ko) * 2016-01-29 2018-02-21 엘지전자 주식회사 냉장고와 통신하는 센서 및 상기 센서를 포함하는 냉장고 제어 시스템
US10281200B2 (en) * 2016-03-14 2019-05-07 Amazon Technologies, Inc. Image-based spoilage sensing refrigerator
US10922541B2 (en) * 2016-04-06 2021-02-16 Nec Corporation Object type identifying apparatus, object type identifying method, and recording medium
JP6755713B2 (ja) * 2016-05-25 2020-09-16 キヤノン株式会社 追尾装置、追尾方法及びプログラム
US10157308B2 (en) * 2016-11-30 2018-12-18 Whirlpool Corporation Interaction recognition and analysis system
US10324439B2 (en) * 2017-01-07 2019-06-18 International Business Machines Corporation Food freshness management
JP6996093B2 (ja) 2017-03-13 2022-01-17 日本電気株式会社 管理装置、管理方法及びプログラム
US20200394599A1 (en) 2017-11-29 2020-12-17 Ntt Docomo, Inc. Shelf-allocation information generating device and shelf-allocation information generating program
JP2019114000A (ja) 2017-12-22 2019-07-11 キヤノンマーケティングジャパン株式会社 情報処理装置、情報処理装置の制御方法及びプログラム
US10643059B2 (en) * 2018-01-10 2020-05-05 Trax Technology Solutions Pte Ltd. Inspecting store shelf capacity
KR102551358B1 (ko) * 2018-09-21 2023-07-04 삼성전자주식회사 냉장고 내 객체의 상태와 관련된 정보를 제공하는 방법 및 시스템
US11386621B2 (en) * 2018-12-31 2022-07-12 Whirlpool Corporation Augmented reality feedback of inventory for an appliance

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010121784A (ja) 2008-11-17 2010-06-03 Toshiba Corp 冷蔵庫の在庫管理装置
JP2016196981A (ja) 2015-04-03 2016-11-24 三菱電機株式会社 庫内管理システムおよび庫内管理方法
WO2018179361A1 (ja) 2017-03-31 2018-10-04 日本電気株式会社 画像処理装置、画像処理方法、および記録媒体

Also Published As

Publication number Publication date
WO2021240772A1 (ja) 2021-12-02
JP2024023957A (ja) 2024-02-21
JP7619427B2 (ja) 2025-01-22
US20230206507A1 (en) 2023-06-29
JPWO2021240772A1 (ja) 2021-12-02

Similar Documents

Publication Publication Date Title
EP3211388B1 (en) Weighing system
JP6549558B2 (ja) 売上登録装置、プログラム及び売上登録方法
JP5238933B2 (ja) 客層付販売情報生成システム
CN103366474A (zh) 信息处理装置及信息处理方法
JP2016207059A (ja) 行動分析システム及び行動分析方法
WO2020179480A1 (ja) 物品推定装置、物品推定方法、及びプログラム
JPWO2019123714A1 (ja) 情報処理装置、商品推薦方法、およびプログラム
JP6624063B2 (ja) 自動販売機認識装置、商品棚認識装置、自動販売機認識方法、プログラムおよび画像処理装置
JP2014075090A (ja) 陳列位置分析システム
JP6565639B2 (ja) 情報表示プログラム、情報表示方法、及び情報表示装置
JP2017102573A (ja) 購買行動分析プログラム、購買行動分析方法、及び購買行動分析装置
JP7619427B2 (ja) 処理装置、処理方法及びプログラム
JP2017102564A (ja) 表示制御プログラム、表示制御方法、及び表示制御装置
JP2016062372A (ja) 情報処理装置及び情報処理プログラム
JP7487732B2 (ja) 情報処理装置、表示システム、情報処理方法およびプログラム
JP2011128761A (ja) 情報処理プログラム及び情報処理方法
JP6394340B2 (ja) 商品登録装置、商品登録方法およびプログラム
JP2015194791A (ja) Pos端末装置
JP6877806B6 (ja) 情報処理装置、プログラム及び情報処理方法
JP7484887B2 (ja) 情報処理装置、処理方法とプログラム
CN115605898A (zh) 订购管理装置及订购管理方法
JP2022061583A (ja) 在庫管理装置、在庫管理方法及びプログラム
JP7715245B2 (ja) 処理装置、処理方法及びプログラム
JP7435716B2 (ja) 登録装置、登録方法及びプログラム
JP7660819B2 (ja) 情報処理システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221124

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231218

R151 Written notification of patent or utility model registration

Ref document number: 7416237

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151