CN111192407B - 商品取出装置 - Google Patents
商品取出装置 Download PDFInfo
- Publication number
- CN111192407B CN111192407B CN201910656684.3A CN201910656684A CN111192407B CN 111192407 B CN111192407 B CN 111192407B CN 201910656684 A CN201910656684 A CN 201910656684A CN 111192407 B CN111192407 B CN 111192407B
- Authority
- CN
- China
- Prior art keywords
- product
- article
- taken out
- commodity
- processor
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1612—Programme controls characterised by the hand, wrist, grip control
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J11/00—Manipulators not otherwise provided for
- B25J11/008—Manipulators for service tasks
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J15/00—Gripping heads and other end effectors
- B25J15/08—Gripping heads and other end effectors having finger members
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J15/00—Gripping heads and other end effectors
- B25J15/08—Gripping heads and other end effectors having finger members
- B25J15/10—Gripping heads and other end effectors having finger members with three or more finger members
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J19/00—Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
- B25J19/02—Sensing devices
- B25J19/021—Optical sensing devices
- B25J19/023—Optical sensing devices including video camera means
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/06—Programme-controlled manipulators characterised by multi-articulated arms
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1694—Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
- B25J9/1697—Vision controlled systems
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q20/00—Payment architectures, schemes or protocols
- G06Q20/08—Payment architectures
- G06Q20/20—Point-of-sale [POS] network systems
-
- G—PHYSICS
- G07—CHECKING-DEVICES
- G07F—COIN-FREED OR LIKE APPARATUS
- G07F11/00—Coin-freed apparatus for dispensing, or the like, discrete articles
- G07F11/02—Coin-freed apparatus for dispensing, or the like, discrete articles from non-movable magazines
- G07F11/04—Coin-freed apparatus for dispensing, or the like, discrete articles from non-movable magazines in which magazines the articles are stored one vertically above the other
- G07F11/16—Delivery means
- G07F11/165—Delivery means using xyz-picker or multi-dimensional article picking arrangements
-
- G—PHYSICS
- G07—CHECKING-DEVICES
- G07F—COIN-FREED OR LIKE APPARATUS
- G07F11/00—Coin-freed apparatus for dispensing, or the like, discrete articles
- G07F11/62—Coin-freed apparatus for dispensing, or the like, discrete articles in which the articles are stored in compartments in fixed receptacles
-
- G—PHYSICS
- G07—CHECKING-DEVICES
- G07F—COIN-FREED OR LIKE APPARATUS
- G07F11/00—Coin-freed apparatus for dispensing, or the like, discrete articles
- G07F11/64—Coin-freed apparatus for dispensing, or the like, discrete articles in which the articles are individually suspended from stationary supports
Landscapes
- Engineering & Computer Science (AREA)
- Robotics (AREA)
- Mechanical Engineering (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- Accounting & Taxation (AREA)
- General Health & Medical Sciences (AREA)
- Orthopedic Medicine & Surgery (AREA)
- Health & Medical Sciences (AREA)
- Finance (AREA)
- Strategic Management (AREA)
- General Business, Economics & Management (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Manipulator (AREA)
- Specific Conveyance Elements (AREA)
Abstract
本发明公开一种商品取出装置,其能够不靠人手就能可靠地取出利用者想要的商品,该商品取出装置具有摄像头、控制器、臂及把持机构。摄像头摄像包含配置在规定的配置位置的取出对象商品的摄像范围的图像。控制器根据摄像头摄像的摄像图像指定在取出对象商品中的基准位置,并将基准位置作为基准根据取出对象商品的尺寸指定取出对象商品的两侧面的位置。臂使顶端部向取出对象商品的正面移动。把持机构设置在臂的顶端部,基于控制器指定的取出对象商品的两侧面的位置通过向取出对象商品的侧方进行插入的把持部件把持取出对象商品。
Description
本申请主张申请日为2018年11月14日、申请号为JP2018-213735的日本申请为优先权,并引用上述申请的内容,通过引用将其公开内容全部结合于此。
技术领域
本发明的实施例涉及一种商品取出装置。
背景技术
近年来,因人手不足等而在店铺中正在要求有将用于向顾客销售商品的业务进行省力化或无人化的技术。目前,关于指定种类的商品,有顾客向店员传达希望购买的商品,店员手动作业交给顾客希望的商品的销售形态。例如,烟草(烟)、酒类等商品从防止向未成年人销售等的观点出发,大多店铺采用店员在确认顾客的年龄等的同时将商品交给顾客的运用方法。此外,烟草等商品大多也配置在收银机里侧的货架等的顾客不能直接碰到的地方。
当从顾客接受到希望购买这样的商品时,店员根据需要确认顾客的年龄等,并从收银机里侧的货架取出顾客希望的商品。此外,也有采用店员将从收银机里侧的货架取出的商品的信息作为结算对象的商品信息向结算装置进行输入的运用方法的店铺。在这样运用的店铺中,店员在通过输入了商品信息的结算装置的结算处理完成后将该商品交给顾客。如上述那样,根据来自顾客(利用者)的要求销售要取出的商品的作业,对不熟练的店员来说存在有成为较大负担这样的问题。
发明内容
鉴于上述问题,本发明所要解决的技术问题是,提供一种商品取出装置,其能够不靠人手就能可靠地取出利用者想要的商品。
为解决上述问题,本发明的一实施例,提供了一种商品取出装置,具有摄像头、控制器、臂及把持机构。摄像头摄像包含配置在规定的配置位置的取出对象商品的摄像范围的图像。控制器根据摄像头摄像的摄像图像指定在取出对象商品中的基准位置,并将基准位置作为基准根据取出对象商品的尺寸指定取出对象商品的两侧面的位置。臂使顶端部向取出对象商品的正面移动。把持机构设置在臂的顶端部,基于控制器指定的取出对象商品的两侧面的位置通过向取出对象商品的侧方进行插入的把持部件把持取出对象商品。
根据这样的构成,能够不靠人手就能可靠地取出利用者想要的商品。
对于商品取出装置,在一种可能的实施方式中,所述把持机构具有一对夹持部件作为所述把持部件,通过向所述取出对象商品的两侧方进行插入的一对夹持部件夹持在所述取出对象商品中的两侧面。
根据这样的构成,能够平稳地夹持取出对象商品。
对于商品取出装置,在一种可能的实施方式中,所述控制器还指定所述取出对象商品中的上表面或下表面的位置,所述把持机构还具有支撑所述取出对象商品的上表面或下表面的支撑部件,针对所述取出对象商品在用支撑部件支撑上表面或下表面的同时用所述夹持部件夹持两侧面。
根据这样的构成,能够更平稳地取出取出对象商品。
对于商品取出装置,在一种可能的实施方式中,所述控制器根据所述摄像头摄像的摄像图像确认所述取出对象商品的侧方所存在的间隙的大小,所述把持机构根据所述间隙的大小在所述取出对象商品的侧方中的插入位置插入所述把持部件。
根据这样的构成,通过考虑到在取出对象商品的侧方中的间隙能够容易插入把持部件。
对于商品取出装置,在一种可能的实施方式中,所述控制器在从所述配置位置取出所述把持机构把持的所述取出对象商品后,如果在再摄像了已取出所述取出对象商品的位置的图像中与所述取出对象商品相同的商品未在所述配置位置上则判定是否有应该向所述配置位置补充的库存,当判定出为有应该补充的库存时告知向所述配置位置进行补充,当判定出为没有应该补充的库存时告知没有库存。
根据这样的构成,能够支援商品的补充作业及发货作业等。
对于商品取出装置,在一种可能的实施方式中,所述控制器还确定放置所述支撑部件的在所述取出对象商品中的上表面或下表面的支撑位置,所述把持机构针对所述取出对象商品在用所述支撑部件放置在所述支撑位置上进行支撑的同时,用所述夹持部件夹持两侧面。
根据这样的构成,能够可靠地取出取出对象商品。
对于商品取出装置,在一种可能的实施方式中,所述夹持部件是一对多关节手指,所述支撑部件是一根多关节手指,所述把持机构在针对所述取出对象商品用作为所述支撑部件的一根多关节的手指支撑上表面或下表面的同时用作为所述夹持部件的一对多关节手指夹持两侧面。
根据这样的构成,能够更稳定地取出取出对象商品。
对于商品取出装置,在一种可能的实施方式中,所述多关节手指的各个多关节手指的顶端部分别具有吸附所述取出对象商品的吸附机构。
根据这样的构成,能够更可靠地把持取出对象商品。
对于商品取出装置,在一种可能的实施方式中,还包括:用户界面,具有作为识别利用者发出的声音,并输出基于声音的引导的对话装置的功能。
根据这样的构成,能够便于与利用者进行对话。
对于商品取出装置,在一种可能的实施方式中,所述把持机构在所述取出对象商品的侧方中的所述间隙的中间位置插入所述把持部件。
根据这样的构成,能够更容易插入把持部件。
附图说明
下面,参照附图对实施例所涉及的商品取出装置进行说明。当结合附图考虑时,通过参照下面的详细描述,能够更完整更好地理解本发明以及容易得知其中许多伴随的优点,但此处所说明的附图用来提供对本发明的进一步理解,构成本申请的一部分,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定,其中:
图1是概略地示出作为实施例所涉及的商品取出装置的机器人的设置例的图;
图2是表示作为实施例所涉及的商品取出装置的机器人的臂所设置的把持机构的构成例的图;
图3是表示作为实施例所涉及的商品取出装置的机器人的控制系统的构成例的框图;
图4是表示作为实施例所涉及的商品取出装置的机器人所参照的商品管理数据库的构成例的图;
图5是表示作为实施例所涉及的商品取出装置的机器人所参照的货架管理数据库的构成例的图;
图6是用于对作为实施例所涉及的商品取出装置的机器人的动作例进行说明的流程图;
图7是用于对作为实施例所涉及的商品取出装置的机器人的动作例进行说明的流程图;
图8是用于对作为实施例所涉及的商品取出装置的机器人的动作例进行说明的流程图;
图9是用于对作为实施例所涉及的商品取出装置的机器人的动作例进行说明的流程图;
图10是表示实施例所涉及的商品取出装置所把持的商品处于已被配置在货架上的状态的图;
图11是表示作为实施例所涉及的商品取出装置的机器人的把持机构处于把持商品的状态的图;
图12是表示作为实施例所涉及的商品取出装置的机器人进行取出的作为取出对象的商品被悬挂的例子的图;以及
图13是表示作为实施例所涉及的商品取出装置的机器人把持已被悬挂的商品的样子的图。
附图标记说明
1 商品取出装置(机器人)
2 结算装置(收银机) 3 收银台
11 传感器 12 摄像头
13A、13B 臂 14 臂部
15 把持机构 15a 手指(支撑部件)
15b、15c 手指(把持部件、夹持部件)
16 臂摄像头
21 系统控制器(控制装置)
22 臂装置 23 用户界面
具体实施方式
以下,参照附图对实施例进行说明。
图1是概略地示出实施例所涉及的商品取出装置(机器人)1及包含商品取出装置1和结算(对账结算)装置2的交易系统的外观构成的示意图。
商品取出装置(以下仅称为机器人)1是从规定的配置位置取出顾客(利用者)所指示的商品的装置。在图1所示的构成例中,机器人1被配置在设置有结算装置(收银机)2的收银台3和设置在收银台3的里侧的货架4之间。例如,机器人1具有模仿顾客容易亲近那样的人物的人型的外观,根据顾客发出的声音识别顾客希望购买的商品。机器人1从货架4取出识别出的商品。
在配置机器人1的收银台3的里侧设置配置指定种类的商品的货架4。作为货架4所配置的商品,假设有烟草(烟)或酒类等。货架4将前面(正面)朝向收银台3一侧配置。在货架4上相同商品以从跟前(前面侧)向里侧排成一列的方式被配置。在货架4的正面,在与将商品排成一列进行配置的配置位置(列)对应的每个位置上设置有平板(金属板)P。换言之,在货架4中的各个平板P的背面(后面),排列配置与平板P对应的相同商品。
货架4中的设置了各个平板P的各个配置位置,具有每当拿出跟前(最前面)的商品后面一侧的商品都被向跟前推压的推压机构。通过推压机构,在各个配置位置中的列的最前头的商品(最前面的商品)在处于被平板P顶住的状态中被保持。推压机构既可以是通过弹性部件向前方推压位于列的最后的商品的机构,又可以是各个商品通过各自商品的自重向前方进行移动的机构。
另外,在以下说明的本实施例中,主要假想图1所示那样的具有箱型的形状的烟草作为商品被配置在货架4上的情况进行说明。不过,货架4所配置的商品只要是机器人1能够取出的商品就可以。例如,货架4所配置的商品也可以是包含例如罐、瓶、塑料瓶等圆筒形的形状的商品。
结算装置2是对顾客要购买的商品的货款进行结算(对账结算)的装置。在图1所示的构成例中,收银台3所设置的结算装置2与机器人1进行连接。机器人1和结算装置2构成进行商品的结算业务的交易系统。例如,当机器人1将从货架4所取出的商品放置在收银台3上时,结算装置2取得表示由机器人1放置到收银台3上的商品的信息(商品信息)。当取得收银台3所放置的商品的商品信息时,则结算装置2基于所取得的商品信息进行结算处理。
在图1所示的构成例中,机器人1具有主体10、传感器11、摄像头12、第一臂13A、第二臂13B、臂摄像头16、扬声器17、话筒18、显示器19及信息输入器20等。
主体10在正面设置传感器11、摄像头12、扬声器17、话筒18、显示器19及信息输入器20等。此外,主体10左右设置第一臂13A及第二臂13B。主体10也可以具有能够改变方向的机构。例如,主体10也可以既能将正面朝向收银台3一侧,又能将正面朝向货架4。此外,主体10也可以设置进行移动的机构。例如,主体10也可以面对收银台3或货架4在左右方向上进行移动。
传感器11检测在主体10的正面所存在的人。如图1所示,如果主体10朝向收银台3一侧,则传感器11检测向收银台3靠过来的人。传感器11只要是能够检测有无人的传感器就可以。例如,传感器11是使用红外线检测人或商品的红外线传感器。
摄像头12摄像在主体10的正面中的图像。如果主体10的正面朝向收银台3一侧,则摄像头12摄像收银台3周边的图像。此外,当将主体10的正面朝向货架4时,摄像头12也可以摄像货架4的图像。此外,摄像头12也可以具有通过调整摄像方向或摄像距离等来变更摄像区域的功能。
第一臂13A及第二臂13B各自分别具有臂部14和把持机构15。臂部14是安装在机器人1的主体10上的多关节的臂。把持机构15是把持商品的机构。臂部14只要能够使把持机构15的把持位置三维自如地移动就可以。例如,把持机构15分别设置在各个臂部14的顶端部上。第一臂13A及第二臂13B在把持机构15把持住商品的状态中操纵臂部。通过这样,第一臂13A及第二臂13B进行取出货架4所配置的商品的动作。
图2是表示把持机构15的构成例的图。
在图2所示的构成例中,把持机构15具有多个多关节的手指15a、15b、15c。各个手指15a、15b、15c以多个关节为支撑点进行动作。各个手指15a、15b、15c以在支撑位于货架4的作为取出对象的商品(取出对象商品)的上表面或下表面的同时夹持该商品的两侧面的方式进行动作。把持机构15的手指15a是支撑商品的上表面(或下表面)的支撑部件。此外,手指15b及手指15c是夹持手指15a支撑上表面(或下表面)的商品的两侧面的一对夹持部件。手指15b及手指15c在手指15a处于支撑着商品的上表面的状态中夹持该商品的两侧面。通过这样,能够能够平稳夹持(取出)商品(取出对象商品)。
不过,把持机构15并不限定于由多个手指构成的机构。把持机构15只要包含在支撑商品的上表面或下表面的同时夹持商品的两侧面的机构就可以。例如,各个手指15a、15b、15c的顶端部,也可以具有吸附商品的吸附机构。通过这样,能够更可靠地把持(取出)商品(取出对象商品)。这时,吸附机构可以是使在与商品的外表面接触的吸附部中的气压变化而控制对商品的吸附及放开的构成的吸附机构。
此外,夹持商品的侧面的夹持部件也可以具有与在处于放置在货架4上的状态中的商品的侧面的外形对应的形状。作为具体例,如果商品是圆筒形的罐或瓶等,则把持机构15所使用的夹持部件也可以是用与商品的侧面的形状对应的半圆状的夹持部件夹持商品的构成。
臂摄像头16是在三维空间中摄像位置移动自如的摄像头。在图1所示的构成例中,臂摄像头16设置于第一臂13A的顶端部分,摄像位置通过第一臂13A的动作进行移动。不过,臂摄像头16既可以设置于第二臂13B,又可以设置于第一臂13A及第二臂13B的两方。此外,臂摄像头16也可以不设置于第一臂13A或第二臂13B,而作为摄像位置移动自如的摄像头另外设置。在本实施例中,臂摄像头16摄像包含所指定的商品(或商品的配置位置)的图像。臂摄像头16摄像的图像用于确定商品实际所存在(实际存在)的位置。此外,臂摄像头16摄像的图像也可用作提取指定商品的商品指定信息或平板所显示的信息的图像。
另外,商品指定信息只要是从商品的外观能读取的信息就可以。例如,商品指定信息是商品的包装所打印的条码。此外,商品指定信息既可以是可识别商品的数字、文字等的文字列,又可以是附在商品上的标签的图像,还可以是商品整体的轮廓(外形)等。第一臂13A或第二臂13B也可以设置读取作为商品指定信息的条码的臂扫描仪。读取条码的臂扫描仪只要在通过第一臂13A或第二臂13B被移动的读取位置上读取条码就可以。
扬声器17、话筒18、显示器19及信息输入器20具有作为用户界面的功能。
扬声器17输出声音。扬声器17向利用者输出引导等的声音。话筒18输入声音。话筒18输入利用者发出的声音。扬声器17及话筒18也可以构成以与利用者对话形式进行声音的输入输出的对话装置。
显示器19显示图像。例如,显示器19通过图像或文本等向利用者显示引导等。
信息输入器20是用于输入信息的设备。例如,信息输入器20是用于确认利用者的年龄的按钮。此外,信息输入器20也可以是读取用于确认利用者的年龄或利用者具有的资格等的存储介质(ID卡等)的装置。
接着,对作为实施例所涉及的商品取出装置的机器人1中的控制系统的构成进行说明。
图3是表示作为实施例所涉及的商品取出装置的机器人1的控制系统的构成例的框图。
在图3所示的构成例中,机器人1构成作为具有系统控制器(控制装置)21、臂装置22及用户界面23的系统。
系统控制器(控制器)21统括地控制机器人1中的各装置。在图3所示的构成例中,系统控制器21具有处理器31、存储器32、接口(I/F)33、通信部34、图像存储器35、传感器11及摄像头12。
处理器31通过执行程序实现各种处理。处理器31例如是CPU。存储器32包含ROM、RAM及可改写的非易失性存储器等的存储器。例如,存储器32包含存储程序及控制数据等的非易失性的存储器。此外,存储器32包含用于暂时存储数据的RAM等的工作存储器。
存储器32存储的程序除包含基本程序外,还包含各种应用程序。应用程序包含用于执行后述的各种处理的程序等。处理器31通过执行存储器32存储的各种程序来实现后述的各种处理。
接口(I/F)33是在机器人1中的与各装置进行通信用的接口。
通信部34是用于与外部装置进行通信的通信接口。在图3所示的构成例中,通信部34包含用于与结算装置2进行通信的接口。此外,通信部34也包含用于访问各种数据库(DB)的接口。在图3所示的构成例中,通信部34具有用于与商品管理数据库41及货架管理数据库42等进行通信连接的接口。商品管理数据库41是用于存储与在该店铺中所经售的商品有关的信息的数据库。货架管理数据库42是用于存储与货架4所配置的商品有关的信息的数据库。另外,商品管理数据库41、货架管理数据库42等的数据库也可以设置于机器人1内所具有的存储装置。
传感器11对人进行检测。传感器11与处理器31连接。传感器11只要是对在检测范围内有无人进行检测的传感器就可以,并将表示检测人的结果的检测信号供给给处理器31。
摄像头12摄像图像。摄像头12与处理器31连接。摄像头12摄像的图像存储在图像存储器35中。摄像头12也可以是作为控制图像的摄像范围的功能,具有根据来自处理器31的控制改变方向(摄像方向)等的摄像头驱动机构的摄像头。
另外,机器人1也可以设置取得机器人1的外部所设置的摄像头摄像的图像的摄像头接口来替代摄像头12。而且,机器人1也可以具有读取商品所记载的条码等的商品指定信息的扫描仪。
在系统控制器21中,处理器31通过执行存储器32存储的程序来实现各种处理。例如,存储器32存储用于处理器31向各装置给予控制指示、从各装置取得信息的程序。处理器31通过执行程序向各装置给予控制指示、从各装置取得信息。例如,处理器31向臂装置22指示使用第一臂13A或第二臂13B取出位于货架4上的商品。
此外,存储器32存储用于执行指定商品的商品指定处理的程序。处理器31通过执行存储器32存储的程序来实现商品指定处理等。处理器31作为商品指定处理,进行基于臂摄像头16摄像的图像指定处于臂摄像头16的摄像范围内的商品的商品指定处理。
此外,存储器32也可以存储用于执行指定商品的商品指定处理及识别平板所显示的信息(编号)的信息识别处理的程序。通过这样,处理器31执行从臂摄像头16摄像的图像检测出条码等商品指定信息并对商品进行指定(识别)的商品指定处理。此外,处理器31也执行根据臂摄像头16摄像的图像识别货架4所设置的平板所记载的信息的信息识别处理。此外,处理器31也可以进行根据摄像头12摄像的图像推测在收银台3的跟前(收银机2的跟前)的利用者的特征(年龄等)的处理。
接着,对机器人1中的臂装置22的控制系统的构成例进行说明。
在图3所示的构成例中,臂装置22具有处理器51、存储器52、接口(I/F)53、臂驱动机构54、第一臂13A、第二臂13B及臂摄像头16等。
处理器51通过执行程序来实现各种处理。处理器51例如是CPU。存储器52由ROM、RAM及可改写的非易失性存储器等的存储器构成。例如,存储器52包含存储程序及控制数据等的非易失性的存储器。此外,存储器52包含用于暂时存储数据的RAM等的工作存储器。
接口(I/F)53是用于与系统控制器21进行通信的接口。在本实施例中,处理器51根据通过接口53从系统控制器21的处理器31供给的控制指示来控制各部。
臂驱动机构54使臂部14及把持机构15动作。第一臂13A及第二臂13B各自分别由臂驱动机构54、臂部14及把持机构15构成。例如,臂驱动机构54根据来自系统控制器21的动作指示来操纵臂部14使把持机构15向把持位置移动。此外,臂驱动机构54根据来自系统控制器21的指示使把持机构15动作而执行把持商品的动作。
此外,臂驱动机构54根据来自系统控制器21的指示使臂部14动作从而使把持机构15把持的商品向交接(交货)位置(收银台3的上面)移动。通过这样,臂驱动机构54根据来自系统控制器21的指示把持货架4所配置的商品。
此外,臂驱动机构54根据来自系统控制器21的指示使臂部14动作从而使臂部14的顶端部所设置的臂摄像头16的位置移动。
接着,对机器人1中的用户界面(UI)23的控制系统的构成例进行说明。
用户界面23用声音或图像等向利用者提供信息。此外,用户界面23输入来自利用者的信息,并输出作为针对所输入的信息的应答的信息。用户界面(UI)23也具有作为识别利用者发出的声音并输出基于声音的引导的对话装置的功能。通过这样,能够便于与利用者进行对话。
在图3所示的构成例中,用户界面23具有处理器61、存储器62、接口(I/F)63、扬声器17、话筒18、显示器19及信息输入器20等。
处理器61通过执行程序来实现各种处理。处理器61例如是CPU。存储器62由ROM、RAM及可改写的非易失性存储器等的存储器构成。接口(I/F)63是用于与系统控制器21进行通信的接口。
处理器61根据来自系统控制器21的指示等从扬声器17输出声音。此外,处理器61将输入给话筒18的声音信息供给给系统控制器21。通过这样,处理器61使用扬声器17及话筒18进行与利用者基于对话形式的声音的输出输入。此外,处理器61根据来自系统控制器21的指示等在显示器19上显示信息。此外,处理器61取得向信息输入器20输入的信息。
另外,作为商品取出装置的机器人1也可以与结算装置2一体地构成。此外,机器人1也可以具有对商品的货款进行结算的功能。而且,机器人1也可以设置基于信用卡或电子货币等的结算功能。这时,机器人1不仅能够取出商品,而且,还能够用信用卡或电子货币等对已取出的商品的货款进行结算。例如,机器人1也可以取出顾客指定的商品,如果结算完成则将该商品交给顾客。此外,机器人1也可以完成顾客指定的商品的结算之后进行取出该商品。
此外,结算方法也可以是微信支付、支付宝支付、百度钱包支付等的扫码支付也可以是Apple Pay、NFC(近距离通信)支付、扫描支付、支付圈、财付通、盛付通、银联、一网通支付等,或者未来出现的新的支付手段,关于结算支付方法,这里没有特别限定,只要是能够支付货款(服务费用)就可以。
接着,对商品管理数据库41和货架管理数据库42进行说明。
图4是表示商品管理数据库41的构成例的图。
商品管理数据库41是用于存储与在设置货架4的店铺中经售的商品有关的信息的数据库。在图4所示的例子中,商品管理数据库41关于在设置货架4的店铺中经售的各个商品,存储种类、商品ID、商品名(牌子)、销售条件、价格、店铺库存等的信息。
种类是表示商品的种类的信息。商品ID是表示商品的识别信息的信息。商品名(牌子)是表示商品的名称的信息。销售条件表示出售该商品用的条件。例如,有年龄限制的商品,作为销售条件存储可销售的年龄。价格是表示商品的货款的信息。店铺库存是表示在店铺内的库存的信息。店铺库存例如是表示库存的个数的信息。
图5是表示货架管理数据库42的构成例的图。
货架管理数据库42是存储与配置在货架4上的商品有关的信息的数据库。在图5所示的例子中,货架管理数据库42关于货架4配置的各个商品,存储类别、商品ID、商品名(牌子)、货架编号、货架库存、销售条件、尺寸、配置位置及移动路径等的信息。
类别是表示商品的类别的信息。商品ID是表示商品的识别信息的信息。商品名(牌子)是表示商品的名称的信息。货架编号示出配置商品的地方所设定的编号。货架编号是对应每个商品设定的编号。此外,货架编号也有与配置该商品的配置位置对应设置的平板P所显示的编号(平板的编号)。货架库存是表示在货架4上是否有该商品的信息。此外,货架库存也可以是表示应该在货架4上的商品的个数的信息。
销售条件表示出售该商品用的条件。例如,有年龄限制的商品,作为销售条件存储可销售的年龄。尺寸是表示商品的大小的信息。例如,尺寸表示处于放置在货架4上的状态中的高度h、宽度w、深度(长度)d。此外,作为尺寸也可以存储距离基准位置的尺寸。例如,也可以存储表示从平板P的上端部到商品的上表面的高度的信息。
配置位置是表示配置商品的位置的信息。配置位置既可以是三维空间中的坐标,又可以是货架4的前面(正面)中的二维的坐标。移动路径是表示用于使臂13A从待机位置向与配置位置对应的取出位置(后述)进行移动的路径的信息。移动路径既可以每当执行取出处理都进行追记,又可以向最新的路径进行更新。
接着,对作为实施例所涉及的商品取出装置的机器人1的动作进行说明。
图6至图9是用于对作为实施例所涉及的商品取出装置的机器人1的动作例进行说明的流程图。
在待机状态中,在机器人1中的系统控制器21的处理器31使用将收银台3的附近作为检测范围的传感器11监视有无人(ACT11)。当通过传感器11对人进行检测时(ACT11的YES),则处理器31通过将收银台3周边作为摄像区域(检测人用的摄像区域)的摄像头12摄像图像(ACT12)。检测人用的摄像区域只要是能够摄像传感器11检测出的人或者因商品的结算等而出现在收银台3的跟前的人那样的摄像区域就可以。
例如,处理器31在摄像头12中进行设定以使将包含收银台3的跟前的空间的区域作为检测人用的摄像范围。此外,处理器31也可以推定传感器11检测出的人的位置,根据推定出的人的位置来控制摄像头12的方向、位置等。另外,处理器31也可以将摄像头12所摄像的图像保存在图像存储器35中。此外,处理器31也可以用摄像头12连续地摄像多个图像,并将所摄像的多个图像保存在图像存储器35中。
当通过摄像头12摄像收银台3周边的图像时,则处理器31判断在摄像头12所摄像的摄像图像中是否存在有作为利用者的人(ACT13)。通过这样,处理器31能够从摄像头12摄像的摄像图像检测出在收银台3的附近的利用者。处理器31基于从摄像图像检测利用者的检测结果判断在收银台3的附近是否有利用者。当不能判断为有利用者时(ACT13的NO),处理器31返回到ACT11,再次执行上述的处理。
当判断出为有利用者时(ACT13的YES),处理器31使用用户界面23进行针对该利用者的引导(ACT14)。例如,处理器31通过用户界面23的扬声器17用声音输出“欢迎光临”等的问候语。
而且,处理器31也可以通过扬声器17用声音输出接受在货架4上的商品的订购的意思的订购接受引导。例如,处理器31输出“接受在货架上的商品(烟草)的订购。请说出希望的商品名或与商品对应的平板(名称板)的编号”等的声音引导。此外,处理器31也可以在用户界面23的显示器19上显示订购接受引导。
当进行针对利用者的订购接受引导时,则处理器31接受来自利用者的商品的订购(ACT15)。在可接受订购的状态中,处理器31通过分析由话筒18取得的声音,接受利用者所说出的商品的订购。例如,处理器31根据由话筒18取得的声音识别“商品名”、“编号(平板的编号)”或者“商品名和编号”等的关键字。当利用者说出“请给我10号的烟”时,处理器31通过声音识别取得“烟”、“10号”、“请”等的关键字。当通过声音识别取得“烟”和“10号”时,则处理器31识别为平板10号的烟已被订购。
当接受商品的订购时,则处理器31判断已被订购的商品是否是由机器人1经售的商品(ACT17)。例如,当接受用商品名订购时,则处理器31参照货架管理数据库42,判断接受了订购的商品(通过声音识别出的商品名的商品)是否是货架4所配置的商品(机器人1经售的商品)。此外,当接受到用平板编号订购时,处理器31也可以判断接受到订购的编号的平板是否被设置在货架4上。
当已被订购的商品是不经售的商品时(ACT17的NO),处理器31通过声音等引导是不经售的商品的意思(ACT18)。例如,处理器31从扬声器17输出“对不起,不经售已订购的商品”的声音引导。此外,处理器31也可以不仅用声音引导,而且,还可以将不经售的意思的引导显示在显示器19上。当进行了不经售的引导时,处理器31结束针对已订购的商品的一连串的处理。这时,处理器31也可以返回到ACT14,接受下一订购。
当已被订购的商品(订购商品)有经售时(ACT17的YES),处理器31判断订购商品在货架4上是否有库存(货架库存)(ACT19)。例如,处理器31参照货架管理数据库42,判断订购商品(声音识别出的商品名的商品)是否有货架库存。此外,处理器31也可以参照商品管理数据库41判断订购商品是否有库存。
当判断出为订购商品没有库存时(ACT19的NO),处理器31对订购商品没有库存(处于断货状态)的情况进行引导(ACT20)。例如,处理器31从扬声器17输出“对不起,订购商品现在已经卖完了”等的商品没有货架库存的意思的声音引导。此外,处理器31也可以不仅用声音引导,而且,还可以在显示器19上显示没有库存的意思的引导。当进行了无库存的引导时,处理器31结束针对已订购的商品的一连串的处理。这时,处理器31也可以返回到ACT14,接受下一订购。
当判断出为订购商品有库存时(ACT19的YES),处理器31确认在订购商品中是否有销售条件(例如年龄限制)(ACT21)。例如,处理器31参照货架管理数据库42确认在订购商品中是否有销售条件。在本实施例中,假设烟草(烟)作为配置在货架4上的商品。烟草(烟)是被禁止向未满20岁的人出售的商品,并是在订购商品中有销售条件(年龄限制)的商品。
当在订购商品中有销售条件时(ACT21的YES),处理器31执行确认是否可以向该利用者出售订购商品的处理(ACT22)。在这里,假设订购商品是被禁止向未满20岁的人出售的烟草的情况进行说明。也就是说,处理器31当接受了烟草的订购时,执行确认利用者是否是大于等于20岁的人的处理(年龄确认处理)。
年龄确认处理既可以是基于利用者的申报确认年龄的处理,又可以是基于利用者出示的ID卡确认年龄的处理。当为前者时,处理器31请求利用者在信息输入器20中向申报是大于等于20岁的人的申报按钮输入。处理器31当检测向申报是大于等于20岁的人的申报按钮输入时,则判断能够向该利用者出售该商品(烟草)。这时,处理器31也可以通过摄像头12摄像用于确认利用者的人脸图像并进行保存。
此外,当基于ID卡确认年龄时,机器人1作为信息输入器20设置读卡器。这时,处理器31基于通过读卡器从利用者出示的ID卡读取的信息取得利用者的年龄。如果利用者的年龄大于等于20岁,则处理器31判断为可以向该利用者出售该商品(烟草)。此外,处理器31也可以使用摄像头12摄像利用者出示的ID卡的卡面,从摄像图像识别(取得)卡面所记载的利用者的年龄。
另外,如果是以利用者是已登记年龄等的登记者(顾客)为前提的运用,则处理器31也可以指定利用者是哪位登记者后确认年龄。这时,处理器31只要通过从利用者出示的卡等的存储介质读取的信息或者从利用者取得的生体(生物)信息(例如摄像头12摄像的人脸图像)进行个人认证就可以。
当不能确认可向利用者出售订购商品时(ACT23的NO),处理器31对不能出售订购商品的意思进行引导(ACT24)。当接受到烟草的订购时,处理器31如果不能确认利用者是大于等于20岁,则判断为不可出售烟草后进行不可出售的引导。例如,处理器31从扬声器17输出“由于不能确认是大于等于20岁,所以不能出售”等的不可出售商品的意思的声音引导。此外,处理器31也可以不仅用声音引导,而且,还可以在显示器19上显示不可销售的意思的引导。当进行不可销售的引导时,则处理器31结束对该利用者的一连串的处理。
当能够确认可以向利用者出售订购商品时(ACT23的YES),处理器31开始从货架4取出订购商品的处理。首先,处理器31从货架管理数据库42取得与在货架4中配置有订购商品的配置位置有关的信息(配置信息)(ACT31)。
当取得订购商品的配置信息时,则处理器31确定使设置了把持商品的把持机构15的臂13A(或13B)的顶端部移动的位置(取出位置)(ACT32)。当确定取出位置时,则处理器31使臂13A(13B)的顶端部向已确定的取出位置移动(ACT33)。例如,处理器31将从在货架4中的订购商品的配置位置的正面成为规定距离的位置作为取出位置使臂13A的顶端部向取出位置移动。另外,在以下的说明中,对臂13A的臂部14及把持机构15取出订购商品的情况进行说明。不过,以下说明的臂13A的动作也可以由臂13B进行。
此外,在货架管理数据库42中,也可以对应配置在货架4上的商品存储臂13A的移动路径。这时,处理器31基于货架管理数据库42所存储的移动路径使臂13A移动。在货架管理数据库42中也可以每当实施取出商品都记录(更新或追记)实际使臂13A移动了的移动路径。
当使臂13A移动时,则处理器31通过臂摄像头16摄像包含订购商品的配置位置的摄像范围的图像(ACT34)。当臂摄像头16摄像图像时,则处理器31基于臂摄像头16所摄像的图像确认可取出的订购商品(取出对象商品)实际存在的情况(ACT35)。例如,当用商品名接受到订购时,处理器31确认已订购的商品名的订购商品在货架4上实际存在的情况。此外,处理器31从臂摄像头16所摄像的摄像图像提取取出对象商品的图像。处理器31当能够提取取出对象商品时判断为取出对象商品实际存在,当不能提取取出对象商品时判断为在货架4上没有取出对象商品。
当不能确认订购商品在货架4上实际存在的情况时(ACT36的NO),处理器31向利用者告知订购商品不能取出的意思(ACT37)。例如,处理器31从扬声器17输出“对不起,无法确认商品”等的声音引导,结束一连串的与订购商品有关的处理。
此外,当能够确认订购商品实际存在在货架4上时(ACT36的YES),处理器31确认与已确认的订购商品对应的位置的平板P的编号是否相符合(ACT38)。处理器31根据臂摄像头16的摄像图像识别与该订购商品对应的位置的平板P所显示的编号。当识别平板P所显示的编号时,则处理器31确认识别出的编号和该订购商品的平板P所应该设定的编号(订购商品的编号)是否一致。处理器31判断与订购商品对应的平板的编号与货架管理数据库42所存储的信息(订购商品所设定的编号)是否一致。
例如,从利用者接受“请给xxx(商品名、牌子)”的订购后确认出商品名为“xxx”的订购商品在货架4上实际存在。这时,处理器31通过臂摄像头16摄像包含配置有商品名为“xxx”的订购商品的位置的摄像范围。处理器31根据摄像图像确认与该订购商品对应而设置的平板的编号与该订购商品所设定的编号是否一致。
当与订购商品对应的平板P的编号不相符合时(ACT38的NO),处理器31向管理者或店员告知平板的编号不正确(ACT39)。例如,处理器31将与已订购的商品名的商品对应的平板的编号有错误的意思的邮件或信息发送给管理者或店员。在这里,确认了已订购的商品名的订购商品在货架4上实际存在。因此,处理器31在向管理者告知了与该订购商品对应的平板的编号不正确的意思后,前进到ACT40,进行取出该订购商品。
另外,当接受到未用商品名的指定而用平板的编号的订购时,处理器31将在与平板的编号对应的配置位置的商品作为订购商品。这时,处理器31也可以省略ACT38及ACT39的处理。
此外,当接受到包含平板的编号和商品名的两方的订购时,处理器31也可以通过臂摄像头16摄像与平板的编号对应的配置位置。这时,处理器31也可以根据摄像图像确认在与已订购的编号(订购编号)的平板对应的配置位置是否实际存在已订购的商品名的商品。如果在与订购编号的平板对应的配置位置没有订购商品,则处理器31也可以向利用者进行没有订购商品的意思的引导。
例如,当接受到“请给10号的xxx(商品名、牌子)”的订购时,处理器31确认在与“10”号的平板对应的位置是否实际存在有商品名为“xxx”的商品。如果在与“10”号的平板对应的位置未实际存在商品名为“xxx”的商品,则处理器31也可以从扬声器17输出“对不起,“xxx”现在已经售完”等的声音引导。
此外,当接受到包含平板的编号和商品名的两方的订购时,处理器31也可以基于货架管理数据库42对平板编号和商品名之间的匹配进行确认。例如,当接受到“请给10号的xxx(商品名、牌子)”的订购时,处理器31在货架管理数据库42中确认“10”号的平板所配置的商品是否已被设定为“xxx”。如果“10”号的平板的配置位置所应该配置的商品不是“xxx”,则处理器31也可以从扬声器17输出“对不起,“xxx”现在已经售完”等的声音引导。
当判断出为订购商品的平板相符合时(ACT38的NO),处理器31根据臂摄像头16的摄像图像指定在取出对象商品中的两侧面的位置(ACT40)。例如,处理器31根据摄像图像将在取出对象商品中的任一方的侧面指定作为基准位置(基准面)。而且,处理器31从货架管理数据库42取得该取出对象商品的宽度的尺寸。处理器31以任一方的侧面为基准基于该商品的宽度的尺寸指定该商品的两侧面的位置。
此外,处理器31根据臂摄像头16的摄像图像确认在该商品的侧方的间隙的大小(ACT41)。例如,处理器31根据摄像图像计算出从该商品的侧面到邻接的商品的间隙的大小。此外,处理器31也可以将平板P的位置为基准计算出间隙的大小。而且,处理器31也可以将平板P所显示的基准线或标识为基准计算出间隙的大小。
当对该商品的侧面的位置和间隙的大小进行指定时,则处理器31确定用于将作为把持部件的手指15b、15c向该商品的侧方进行插入的插入位置(ACT42)。例如,处理器31根据该商品的侧面的位置确定插入手指15b、15c的位置。此外,处理器31也可以考虑间隙的大小后确定在商品的侧方插入手指15b、15c的位置。例如,处理器31也可以将在商品的侧方中的间隙(与该商品相邻的商品或与壁之间)的中间位置作为插入手指15b、15c的位置。也就是说,把持机构15在商品(取出对象商品)的侧方中的间隙的中间位置插入手指15b、15c(把持部件)。因此,能够更容易插入手指15b、15c(把持部件)。通过这样,机器人1不仅考虑该商品的侧面的位置,而且,也考虑在商品的侧方中的间隙从而能够插入手指15b、15c。
当确认插入手指15b、15c的插入位置时,则处理器31根据该商品的深度(进深)的尺寸d确定在商品的两侧面放置手指15b、15c的位置(把持位置)(ACT43)。例如,处理器31从货架管理数据库42取得该商品的进深的尺寸d。处理器31根据商品的侧面的位置和进深的尺寸来确定作为放置手指15b、15c的位置的把持位置以把持该商品。
此外,处理器31根据臂摄像头16的摄像图像指定在取出对象商品中的上表面的位置(ACT44)。例如,处理器31在摄像图像中指定用于确定取出对象商品的上表面的位置的基准位置。基准位置只要是根据商品的尺寸等能够确定上表面位置的位置就可以。作为基准位置也可以是平板P的上端部Pt、平板的下端部、平板P显示的基准线或标识等。当指定基准位置时,则处理器31基于商品的尺寸及平板的位置等,通过离基准位置的距离来确定该商品的上表面的位置。
图10是用于对货架4所配置的商品M和平板P之间的关系进行说明的图。
在本实施例中,在货架4上在从跟前朝向里侧排成一列配置的商品M的正前面设置平板P。因此,位于最跟前的成为取出对象的商品M,从臂13A一侧角度看下方的区域部分被平板P遮挡住。臂13A的把持机构15在平板P的上部的区域把持取出对象商品。
在图10中,如果将平板P的上端部Pt作为基准位置,则商品的上表面在从平板P的上端部Pt提高高度ph的位置。高度ph通过商品的高度减去平板P的高度来计算出。这样的高度ph只要与该商品对应存储在货架管理数据库42等中就可以。另外,当将平板P显示的基准线等作为基准位置时,表示从基准位置到商品的上表面的高度的信息也可以事先存储在货架管理数据库42中。
当指定商品的上表面的位置时,则处理器31确定手指15a支撑该商品的上表面的上表面支撑位置(放置手指15a的位置)(ACT45)。处理器31根据商品的上表面的位置和进深的尺寸d来确定放置手指15a的上表面支撑位置。例如,处理器31从货架管理数据库42取得商品的进深的尺寸。处理器31根据商品的上表面的位置和进深的尺寸来确定放置手指15a的位置以支撑手指15b、15c进行把持的商品。也就是说,处理器31(控制器)还确定放置手指15a(支撑部件)的在商品(取出对象商品)中的(上表面或下表面)支撑位置,把持机构15针对商品(取出对象商品)在用手指15a(支撑部件)放置在支撑位置上进行支撑的同时,用手指15b、15c(夹持部件)夹持商品(取出对象商品)的两侧面。通过这样,能够可靠地(更稳定地)取出商品(取出对象商品)。
当确定放置作为支撑部件的手指15a的上表面支撑位置时,则处理器31将手指15a放置在商品的上表面中的上表面支撑位置上(ACT45)。处理器31使把持机构15中的手指15a动作从而将手指15a的顶端部放置到商品的上表面中的上表面支撑位置。这时,处理器31也可以根据需要使臂部14动作。不过,处理器31在将手指15a的顶端部放置到上表面支撑位置上的状态中将手指15b、15c配置在插入位置上。
当将手指15a放置到上表面支撑位置时,则处理器31将手指15b、15c从插入位置向该商品的侧方进行插入(ACT47)。处理器31在商品的两侧面将手指15b、15c向里侧插入到与要放置手指15b、15c的把持位置对应的位置。当将手指15b、15c插入到与把持位置对应的位置时,则处理器31在商品的两侧面的把持位置放置手指15b、15c后夹持商品的两侧面(ACT48)。当手指15b、15c夹持商品时,则处理器31使臂13A的臂部14驱动从而从货架4中夹出手指15b、15c夹持的商品(ACT49)。
图11是表示通过臂13A的把持机构15把持住商品的状态的图。
如图11所示,臂13A的把持机构15在用手指15a的顶端部压住商品的上表面并进行支撑的同时由手指15b、15c夹持该商品的两侧面。手指15b及手指15c夹持商品的位置(把持位置)设置在从平板P的上端部Pt到商品的上表面之间。不过,手指15b及手指15c夹持商品的两侧面的把持位置,根据商品的配置状态、商品的重量、商品的外形的硬度等的每个商品的特征来设定。另外,在货架4中,已取出的商品的列被从后方推出与已取出的商品对应的进深(距离),排在已取出的商品后面的商品处于与平板P接触的状态。
处理器31当夹紧(保持)把持机构15进行把持的商品时,则使臂13A的臂部14驱动而使该商品移动到交货位置(ACT51)。例如,处理器31以将臂13A的把持机构15把持的商品运至作为交货位置的收银台3上的方式进行控制。这时,臂13A使把持机构15进行把持的、从货架4夹出的商品向收银台3移动。通过这样,在货架4上的订购商品被通过臂13A取出后被运至收银台3上。
另外,使从货架4取出的商品移动的交货位置并不限定于收银台3上。例如,处理器31也可以进行将臂13A的把持机构15进行把持的商品直接交给利用者那样的控制。
当将商品运至交货位置时,则处理器31将与已取出的商品(收银台3所放置的商品)有关的信息存储在货架管理数据库42中(ACT52)。例如,处理器31将表示执行了取出该商品的取出位置的信息存储在存储器32中。此外,处理器31也可以与进行了取出处理的商品关联将执行了取出该商品的取出位置等的信息存储在货架管理数据库42中。
处理器31在使商品移动到交货位置后,向结算装置2通知表示已取出的商品(收银台3所放置的商品)的信息(ACT53)。通过这样,结算装置2取得机器人1从货架4取出并放置在收银台3上的商品的信息作为结算对象的商品的信息。结算装置2能够基于来自处理器31的商品的信息执行包含机器人1从货架4取出的商品的商品货款的结算处理。
另外,处理器31也可以在通过结算装置2的结算完成之前,不松开把持机构15进行把持的商品(从货架4取出的商品)。也就是,也可以不将从货架4取出的商品立即放置到收银台3上,而在通过结算装置2的结算完成后将该商品放置到收银台3上的方式进行控制把持机构15。
在使商品移动到交货位置后,处理器31也可以进行确认在取出了商品后的货架的状态等的货架检验处理。例如,当传感器11检测的利用者不在时,预测为不会从利用者直接接受下一商品的订购。因此,处理器31当传感器11检测的利用者不在时,也可以进行货架检验处理。这时,处理器31也可以在传感器11检测利用者的期间不执行货架检验处理。
当执行货架检验处理时(ACT54的YES),处理器31为摄像包含有过已取出的商品的位置的区域的图像而使臂摄像头16移动(ACT55)。在图1所示的构成例中,臂摄像头16与把持机构15一起设置在臂13A的顶端部上。因此,处理器31向执行了取出商品的取出位置移动臂摄像头16(臂13A的顶端部)。也就是,位于臂13A的顶端部的臂摄像头16为摄像有过已取出的商品的位置而向进行了取出商品的取出位置移动。
当臂摄像头16向取出位置进行移动时,则处理器31通过臂摄像头16摄像包含有过商品的位置的区域的图像(ACT56)。当臂摄像头16摄像图像时,则处理器31基于臂摄像头16所摄像的图像判定在有过已取出的商品的位置是否存在有下一商品(ACT57)。
如果在有过已取出的商品的位置没有下一商品(ACT57的YES),则处理器31判定是否有应该向货架4补充的与已取出的商品相同的商品的库存(以下称为店铺库存)(ACT58)。例如,处理器31参照商品管理数据库41判定是否有针对已取出的商品的店铺库存。
当判定出为有店铺库存时(ACT58的YES),处理器31向管理者或店员告知应该向货架4补充该商品的意思(ACT59)。例如,处理器31用邮件或信息向管理者或店员通知应该向货架4补充商品或者表示应该向货架4补充的商品的信息。作为具体例,处理器31向管理者或店员通知“xxx在商品货架上没有。请补充”等的邮件或信息。
当判定出为没有店铺库存时(ACT58的NO),处理器31向管理者或店员告知针对已取出的商品没有店铺库存的意思(ACT60)。例如,处理器31用邮件或信息向管理者或店员通知该商品在货架4上没有且也没有店铺库存。作为具体例,处理器31向管理者或店员通知“xxx在商品货架和库存中都没有。请订货”等的邮件或信息。
此外,处理器31将表示在货架4中有无该商品的信息作为货架库存存储在货架管理数据库42中(ACT61)。例如,如果在有过已取出的商品的位置上有下一商品,则处理器31在货架管理数据库42中存储(更新)针对已取出的商品有货架库存的情况。此外,如果在有过已取出的商品的位置上没有下一商品,则处理器31在货架管理数据库42中存储(更新)针对已取出的商品没有货架库存的情况。
而且,处理器31在通过臂摄像头16摄像了有过商品的位置后,使臂13A从取出位置向规定的待机位置移动(ACT62)。例如,处理器31计算出用于臂13A从取出位置向待机位置进行移动的路径(臂13A的驱动顺序)。处理器31使臂13A通过计算出的路径向待机位置进行移动。此外,处理器31将使臂13A从取出位置向待机位置移动的路径存储在货架管理数据库42中(ACT63)。
机器人1在待机状态中使臂13A在规定的待机位置进行待机。因此,当接着从利用者接受到订购时,机器人1能够使臂13A从待机位置向下一订购商品的取出位置移动。如果相同商品(同一商品名的商品)在大致相同取出位置,则从取出位置向待机位置进行移动的路径的相反路径能够成为用于从待机位置向取出位置进行移动的移动路径。货架管理数据库42事先存储从这样的取出位置向待机位置的移动路径。通过这样,当接着进行取出相同商品时,机器人1能够基于过去所使用的路径确定使臂13A移动的移动路径。
根据以上动作,机器人1能够从货架4取出由利用者所订购的商品,也能够与结算装置2协作进行已取出的商品的结算处理。此外,机器人1能够进行要交接商品的利用者的年龄确认等的销售条件的确认,并能够支援恰当销售各种的商品的作业。而且,机器人1能够针对要取出的商品确认货架中的库存及店铺中的库存,并能够支援向货架补充商品的作业及商品的发货作业等。
变形例
在上述的实施例中,虽然对取出货架4所放置的商品的动作进行了说明,但是机器人1也可以进行取出用悬挂器等悬挂的商品的动作。另外,作为变形例所涉及的商品取出装置的机器人1的构成也可以与图1至图3所示那样的上述构成相同。
图12是表示用悬挂器悬挂的商品的例子的图。
在图12所示的例子中,各商品M所安装的悬挂器71悬挂在支撑棒72上。在一根支撑棒72上从跟前向里侧排列悬挂相同商品。此外,支撑棒72以跟前侧相对于重力方向变低的方式倾斜设置。此外,支撑棒72的跟前侧的端部向上方弯曲而形成。通过这样,支撑棒72所吊起来的各商品因自重而紧密地向跟前侧排列。此外,在支撑棒72上,相当于图1所示的平板P的平板P′设置在从跟前能看到的位置。
图13是表示用把持机构15把持图12所示的商品的样子的图。
机器人1的系统控制器21也可以按照在上述的ACT40~49中已说明的顺序取出所悬挂的商品。不过,如图13所示,关于所悬挂的商品,用手指15a支撑不是作为取出对象的商品的上表面而是下表面。
也就是说,处理器31根据通过臂摄像头16摄像的摄像图像指定在取出对象商品中的两侧面的位置及间隙的大小。处理器31根据该商品的两侧面的位置和间隙的大小来确定用于向该商品的侧方插入作为把持部件的手指15b、15c的插入位置。而且,处理器31根据臂摄像头16的摄像图像指定在取出对象商品中的下表面的位置。这时,处理器31也只要在摄像图像中指定用于确定下表面的位置的基准位置,并根据商品的尺寸等确定下表面的位置就可以。例如,基准位置也可以是平板P′的上端部或下端部、平板P′所显示的基准线或标识等。
处理器31确定在该商品的下表面中的下表面支撑位置(放置手指15a的位置)后,用手指15a支撑下表面。此外,处理器31将手指15b、15c从插入位置向商品的侧方进行插入,并根据该商品的进深在已确定的把持位置夹持商品的两侧面。通过这样,如图13所示,把持机构15通过在用手指15a支撑下表面的同时用手指15b、15c夹持商品的两侧面从而可靠地把持商品。当用把持机构15把持住悬挂商品时,处理器31使臂部14驱动而夹出该商品以使从支撑棒72取下所把持的商品的悬挂器71。
根据上述变形例的动作,机器人1也能够可靠地取出用悬挂器等悬挂在支撑棒上的商品。
如以上那样,作为实施例所涉及的商品取出装置的机器人1,具有摄像头、控制器、臂及把持机构。控制器根据摄像头摄像的摄像图像指定商品中的基准位置,并将基准位置作为基准根据商品的尺寸信息指定商品的两侧面的位置。把持机构通过臂向取出对象商品的正面移动顶端部,在向已指定两侧面的位置的取出对象商品的侧方插入了把持部件后把持该取出对象商品。通过这样,作为商品取出装置的机器人能够可靠地取出利用者所订购的商品。作为其结果,机器人能够支援通过结算装置2进行的商品的结算处理的自动化。
此外,作为实施例所涉及的商品取出装置的机器人,在从配置位置取出了商品后,摄像取出了商品的配置位置而确认在配置位置是否有商品。商品取出装置当在配置位置没有商品时,如果有店铺的库存,则向管理者或店员告知向配置位置补充该商品,如果没有店铺的库存,则告知没有库存的意思。通过这样,作为商品取出装置的机器人能够支援与库存对应的商品管理。
虽然对本发明的几个实施例进行了说明,但是这些实施例是作为例子提出的,并不意图限定发明的范围。这些新颖的实施例可以用其他的各种形式来实施,在不脱离发明要旨的范围内可以进行各种省略、替换、变更。这些实施例及其变形均被包含在发明的范围或要旨中,而且,包含在权利要求的范围所记载的发明和其均等的范围内。
Claims (9)
1.一种商品取出装置,其特征在于,包括:
摄像头,摄像包含配置在规定的配置位置的取出对象商品的摄像范围的图像;
控制器,根据所述摄像头摄像的摄像图像指定在所述取出对象商品中的基准位置,并将所述基准位置作为基准根据所述取出对象商品的尺寸指定所述取出对象商品的两侧面的位置;
臂,使所述臂的顶端部向所述取出对象商品的正面移动;以及
把持机构,设置于所述臂的顶端部,基于所述控制器指定的所述取出对象商品的两侧面的位置通过向所述取出对象商品的侧方进行插入的把持部件把持所述取出对象商品,其中,
所述控制器根据所述摄像头摄像的摄像图像确认所述取出对象商品的侧方所存在的间隙的大小,
所述把持机构根据所述间隙的大小在所述取出对象商品的侧方中的插入位置插入所述把持部件。
2.根据权利要求1所述的商品取出装置,其中,
所述把持机构具有一对夹持部件作为所述把持部件,通过向所述取出对象商品的两侧方进行插入的一对夹持部件夹持在所述取出对象商品中的两侧面。
3.根据权利要求2所述的商品取出装置,其中,
所述控制器还指定所述取出对象商品中的上表面或下表面的位置,
所述把持机构还具有支撑所述取出对象商品的上表面或下表面的支撑部件,针对所述取出对象商品在用支撑部件支撑上表面或下表面的同时用所述夹持部件夹持两侧面。
4.根据权利要求1至3中任一项所述的商品取出装置,其中,
所述控制器在从所述配置位置取出所述把持机构把持的所述取出对象商品后,如果在再摄像了已取出所述取出对象商品的位置的图像中与所述取出对象商品相同的商品未在所述配置位置上则判定是否有应该向所述配置位置补充的库存,当判定出为有应该补充的库存时告知向所述配置位置进行补充,当判定出为没有应该补充的库存时告知没有库存。
5.根据权利要求3所述的商品取出装置,其中,
所述控制器还确定放置所述支撑部件的在所述取出对象商品中的上表面或下表面的支撑位置,
所述把持机构针对所述取出对象商品在用所述支撑部件放置在所述支撑位置上进行支撑的同时,用所述夹持部件夹持两侧面。
6.根据权利要求3所述的商品取出装置,其中,
所述夹持部件是一对多关节手指,所述支撑部件是一根多关节手指,
所述把持机构在针对所述取出对象商品用作为所述支撑部件的一根多关节的手指支撑上表面或下表面的同时用作为所述夹持部件的一对多关节手指夹持两侧面。
7.根据权利要求6所述的商品取出装置,其中,
所述多关节手指的各个多关节手指的顶端部分别具有吸附所述取出对象商品的吸附机构。
8.根据权利要求7所述的商品取出装置,其中,还包括:
用户界面,具有作为识别利用者发出的声音,并输出基于声音的引导的对话装置的功能。
9.根据权利要求1所述的商品取出装置,其中,
所述把持机构在所述取出对象商品的侧方中的所述间隙的中间位置插入所述把持部件。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2018-213735 | 2018-11-14 | ||
| JP2018213735A JP7156916B2 (ja) | 2018-11-14 | 2018-11-14 | 商品取出装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN111192407A CN111192407A (zh) | 2020-05-22 |
| CN111192407B true CN111192407B (zh) | 2022-04-19 |
Family
ID=67438014
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201910656684.3A Active CN111192407B (zh) | 2018-11-14 | 2019-07-19 | 商品取出装置 |
Country Status (4)
| Country | Link |
|---|---|
| US (1) | US11161240B2 (zh) |
| EP (1) | EP3653349A1 (zh) |
| JP (1) | JP7156916B2 (zh) |
| CN (1) | CN111192407B (zh) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP7156916B2 (ja) * | 2018-11-14 | 2022-10-19 | 東芝テック株式会社 | 商品取出装置 |
| JP7551397B2 (ja) * | 2020-08-21 | 2024-09-17 | 東芝テック株式会社 | 画像処理装置 |
| US20240139957A1 (en) * | 2022-11-02 | 2024-05-02 | Markbotix, Inc. | Mobile robotic arm configured to provide on-demand assistance |
Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH09323281A (ja) * | 1996-05-31 | 1997-12-16 | Shinko Electric Co Ltd | 書籍取出し用のロボットハンド |
| US6535790B2 (en) * | 2000-02-21 | 2003-03-18 | Kanazawa Institute Of Technology | Automated library system with retrieving and respositing robot |
| EP1340700A1 (en) * | 2002-02-28 | 2003-09-03 | Ferrari & Cigarini S.r.l. | Device for depalletising tile stacks |
| CN101484373A (zh) * | 2006-05-02 | 2009-07-15 | 芒罗·切尔诺马斯 | 用于销售物品的自动化仓库 |
| JP2009269110A (ja) * | 2008-05-02 | 2009-11-19 | Olympus Corp | 組立装置 |
| CN103398702A (zh) * | 2013-08-05 | 2013-11-20 | 青岛海通机器人系统有限公司 | 一种移动机器人远程操控装置及其操控技术 |
| CN104044145A (zh) * | 2013-03-14 | 2014-09-17 | 株式会社安川电机 | 机器人系统及被加工物的制造方法 |
| CN106003129A (zh) * | 2016-06-17 | 2016-10-12 | 西安交通大学 | 一种欠驱动的自适应拟人机械手 |
| CN206011103U (zh) * | 2016-08-29 | 2017-03-15 | 昆山塔米机器人有限公司 | 仿人型机器人自动售卖机 |
| CN107657727A (zh) * | 2017-09-28 | 2018-02-02 | 成都禹港科技有限公司 | 一种智能语音售货装置 |
| JP2018069425A (ja) * | 2016-11-04 | 2018-05-10 | 株式会社東芝 | ロボット装置、及びロボット装置の制御方法 |
| CN108212807A (zh) * | 2017-12-29 | 2018-06-29 | 深圳市越疆科技有限公司 | 一种机器人分拣物品的方法、装置及机械臂 |
Family Cites Families (32)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH10118975A (ja) * | 1996-10-18 | 1998-05-12 | Komatsu Ltd | ハンドリング位置認識方法および認識装置 |
| JP4461203B2 (ja) | 1999-09-21 | 2010-05-12 | ムラテックオートメーション株式会社 | ストッカ用ロボットの教示方法、ストッカ用ロボットの教示装置及び記録媒体 |
| JP2003094367A (ja) | 2001-09-21 | 2003-04-03 | Ricoh Co Ltd | 手先視覚付ロボットハンド |
| WO2004103864A1 (ja) * | 2003-05-21 | 2004-12-02 | Matsushita Electric Industrial Co., Ltd. | 物品管理システム、物品管理サーバ、物品管理方法 |
| JP2007109072A (ja) | 2005-10-14 | 2007-04-26 | Matorikkusu:Kk | 無人販売システム |
| US7896243B2 (en) * | 2006-06-07 | 2011-03-01 | Michael Herskovitz | Self-service autonomous merchandising machine |
| JP2010005736A (ja) | 2008-06-26 | 2010-01-14 | Fuji Heavy Ind Ltd | 危険物把持装置 |
| US8843236B2 (en) * | 2012-03-15 | 2014-09-23 | GM Global Technology Operations LLC | Method and system for training a robot using human-assisted task demonstration |
| JP2014161965A (ja) * | 2013-02-26 | 2014-09-08 | Toyota Industries Corp | 物品取り出し装置 |
| US9102055B1 (en) * | 2013-03-15 | 2015-08-11 | Industrial Perception, Inc. | Detection and reconstruction of an environment to facilitate robotic interaction with the environment |
| JP2014205209A (ja) | 2013-04-11 | 2014-10-30 | 三菱電機株式会社 | ロボットシステム、及びロボットシステムの制御方法 |
| TWI530375B (zh) * | 2014-02-05 | 2016-04-21 | 廣明光電股份有限公司 | 機器手臂的教導裝置及方法 |
| US9981389B2 (en) * | 2014-03-03 | 2018-05-29 | California Institute Of Technology | Robotics platforms incorporating manipulators having common joint designs |
| US9623569B2 (en) * | 2014-03-31 | 2017-04-18 | Intelligrated Headquarters, Llc | Autonomous truck loader and unloader |
| US9561587B2 (en) | 2014-12-16 | 2017-02-07 | Amazon Technologies, Inc. | Robotic grasping of items in inventory system |
| JP2016167246A (ja) | 2015-03-04 | 2016-09-15 | パナソニックIpマネジメント株式会社 | 自動荷詰装置および買物支援システム |
| JP6407927B2 (ja) | 2015-11-12 | 2018-10-17 | 株式会社東芝 | 搬送装置、搬送システム、搬送方法、制御装置、およびプログラム |
| JP6571583B2 (ja) | 2016-04-15 | 2019-09-04 | ファナック株式会社 | ロボット用把持装置 |
| US10227176B2 (en) | 2016-09-05 | 2019-03-12 | Kabushiki Kaisha Toshiba | Picking apparatus |
| US10239701B2 (en) * | 2016-10-20 | 2019-03-26 | Intelligrated Headquarters, Llc | Conveyor screening during robotic article unloading |
| US10315866B2 (en) * | 2016-10-20 | 2019-06-11 | Intelligrated Headquarters, Llc | 3D-2D vision system for robotic carton unloading |
| JP6707485B2 (ja) * | 2017-03-22 | 2020-06-10 | 株式会社東芝 | 物体ハンドリング装置およびその較正方法 |
| US10455222B2 (en) * | 2017-03-30 | 2019-10-22 | Intel Corporation | Technologies for autonomous three-dimensional modeling |
| JP2018176334A (ja) * | 2017-04-10 | 2018-11-15 | キヤノン株式会社 | 情報処理装置、計測装置、システム、干渉判定方法および物品の製造方法 |
| CN106846632A (zh) | 2017-04-19 | 2017-06-13 | 殷正浩 | 一种无人值守超市系统 |
| CA3030734C (en) * | 2017-06-16 | 2023-01-10 | Robotiq Inc. | Robotic arm camera system and method |
| US11453129B2 (en) * | 2018-01-17 | 2022-09-27 | Toyota Research Institute, Inc. | User assisting robot for shopping applications |
| JP2018158439A (ja) | 2018-03-15 | 2018-10-11 | 株式会社東芝 | 物体ハンドリング装置、制御装置、および較正方法 |
| US10759051B2 (en) * | 2018-04-23 | 2020-09-01 | General Electric Company | Architecture and methods for robotic mobile manipulation system |
| US10399778B1 (en) * | 2018-10-25 | 2019-09-03 | Grey Orange Pte. Ltd. | Identification and planning system and method for fulfillment of orders |
| JP7156916B2 (ja) * | 2018-11-14 | 2022-10-19 | 東芝テック株式会社 | 商品取出装置 |
| US11720112B2 (en) * | 2019-09-17 | 2023-08-08 | JAR Scientific LLC | Autonomous object relocation robot |
-
2018
- 2018-11-14 JP JP2018213735A patent/JP7156916B2/ja active Active
-
2019
- 2019-07-03 US US16/503,306 patent/US11161240B2/en active Active
- 2019-07-18 EP EP19187046.8A patent/EP3653349A1/en active Pending
- 2019-07-19 CN CN201910656684.3A patent/CN111192407B/zh active Active
Patent Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH09323281A (ja) * | 1996-05-31 | 1997-12-16 | Shinko Electric Co Ltd | 書籍取出し用のロボットハンド |
| US6535790B2 (en) * | 2000-02-21 | 2003-03-18 | Kanazawa Institute Of Technology | Automated library system with retrieving and respositing robot |
| EP1340700A1 (en) * | 2002-02-28 | 2003-09-03 | Ferrari & Cigarini S.r.l. | Device for depalletising tile stacks |
| CN101484373A (zh) * | 2006-05-02 | 2009-07-15 | 芒罗·切尔诺马斯 | 用于销售物品的自动化仓库 |
| JP2009269110A (ja) * | 2008-05-02 | 2009-11-19 | Olympus Corp | 組立装置 |
| CN104044145A (zh) * | 2013-03-14 | 2014-09-17 | 株式会社安川电机 | 机器人系统及被加工物的制造方法 |
| CN103398702A (zh) * | 2013-08-05 | 2013-11-20 | 青岛海通机器人系统有限公司 | 一种移动机器人远程操控装置及其操控技术 |
| CN106003129A (zh) * | 2016-06-17 | 2016-10-12 | 西安交通大学 | 一种欠驱动的自适应拟人机械手 |
| CN206011103U (zh) * | 2016-08-29 | 2017-03-15 | 昆山塔米机器人有限公司 | 仿人型机器人自动售卖机 |
| JP2018069425A (ja) * | 2016-11-04 | 2018-05-10 | 株式会社東芝 | ロボット装置、及びロボット装置の制御方法 |
| CN107657727A (zh) * | 2017-09-28 | 2018-02-02 | 成都禹港科技有限公司 | 一种智能语音售货装置 |
| CN108212807A (zh) * | 2017-12-29 | 2018-06-29 | 深圳市越疆科技有限公司 | 一种机器人分拣物品的方法、装置及机械臂 |
Also Published As
| Publication number | Publication date |
|---|---|
| US11161240B2 (en) | 2021-11-02 |
| JP7156916B2 (ja) | 2022-10-19 |
| JP2020078853A (ja) | 2020-05-28 |
| EP3653349A1 (en) | 2020-05-20 |
| CN111192407A (zh) | 2020-05-22 |
| US20200147792A1 (en) | 2020-05-14 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111192407B (zh) | 商品取出装置 | |
| US11049373B2 (en) | Storefront device, storefront management method, and program | |
| TWI793719B (zh) | 店鋪裝置、店鋪系統、店鋪管理方法及程式 | |
| CN109726759B (zh) | 无人售货方法、装置、系统、电子设备及计算机可读介质 | |
| JP7225434B2 (ja) | 情報処理システム | |
| US20090302105A1 (en) | Automated dry cleaning delivery system | |
| CN114764962B (zh) | 不正当行为识别装置及存储介质、不正当行为识别方法 | |
| CN105788071B (zh) | 一种远程控制的自动售货处理方法、装置、机器人及系统 | |
| CN107403528A (zh) | 商品销售数据处理装置及系统、以及控制方法 | |
| US10423910B2 (en) | Retail inventory supply chain management | |
| CN111185913A (zh) | 商品取出装置 | |
| JP6997840B2 (ja) | 払出装置 | |
| CN114549109A (zh) | 商品销售系统 | |
| US20250078059A1 (en) | Point of sale terminal, method, and medium | |
| JP2019001622A (ja) | ピッキングシステム | |
| JP5117060B2 (ja) | 物品の出入管理システム | |
| CN112446280A (zh) | 销售管理系统及销售管理方法 | |
| JP2019143453A (ja) | ロッカーシステム | |
| US10210361B1 (en) | Systems and methods for checkouts, scan portal, and pay station environments with improved attendant work stations | |
| JP2022187268A (ja) | 情報処理システム、情報処理装置及びその制御プログラム | |
| KR102488693B1 (ko) | 무인택배 관리시스템 | |
| TWM570489U (zh) | 智慧商店購物系統 | |
| JP2019101507A (ja) | 認識システム、それを用いた収容システム、及び買物支援システム、並びに収容制御方法及びプログラム | |
| JP7337625B2 (ja) | 購買行動データ収集システム、及び購買行動データ収集プログラム | |
| JP2023141730A (ja) | 不正行為推定装置及びプログラム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |