[go: up one dir, main page]

JP2018153872A - 洗浄工程最適化装置及び機械学習装置 - Google Patents

洗浄工程最適化装置及び機械学習装置 Download PDF

Info

Publication number
JP2018153872A
JP2018153872A JP2017050083A JP2017050083A JP2018153872A JP 2018153872 A JP2018153872 A JP 2018153872A JP 2017050083 A JP2017050083 A JP 2017050083A JP 2017050083 A JP2017050083 A JP 2017050083A JP 2018153872 A JP2018153872 A JP 2018153872A
Authority
JP
Japan
Prior art keywords
cleaning
state
target
learning
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017050083A
Other languages
English (en)
Other versions
JP6502983B2 (ja
Inventor
力 丹後
Chikara Tango
力 丹後
真弘 室田
Shinko Murota
真弘 室田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fanuc Corp
Original Assignee
Fanuc Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fanuc Corp filed Critical Fanuc Corp
Priority to JP2017050083A priority Critical patent/JP6502983B2/ja
Priority to DE102018001893.9A priority patent/DE102018001893B4/de
Priority to US15/921,359 priority patent/US10754312B2/en
Priority to CN201810213849.5A priority patent/CN108621154B/zh
Publication of JP2018153872A publication Critical patent/JP2018153872A/ja
Application granted granted Critical
Publication of JP6502983B2 publication Critical patent/JP6502983B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B15/00—Systems controlled by a computer
    • G05B15/02—Systems controlled by a computer electric
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00—Programme-controlled manipulators
    • B25J9/16—Programme controls
    • B25J9/1628—Programme controls characterised by the control loop
    • B25J9/163—Programme controls characterised by the control loop learning, adaptive, model based, rule based expert control
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B08—CLEANING
    • B08B—CLEANING IN GENERAL; PREVENTION OF FOULING IN GENERAL
    • B08B13/00—Accessories or details of general applicability for machines or apparatus for cleaning
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B08—CLEANING
    • B08B—CLEANING IN GENERAL; PREVENTION OF FOULING IN GENERAL
    • B08B3/00—Cleaning by methods involving the use or presence of liquid or steam
    • B08B3/02—Cleaning by the force of jets or sprays
    • B08B3/024—Cleaning by means of spray elements moving over the surface to be cleaned
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B13/00—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion
    • G05B13/02—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric
    • G05B13/0265—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric the criterion being a learning criterion
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00—Programme-control systems
    • G05B19/02—Programme-control systems electric
    • G05B19/18—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
    • G05B19/406—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by monitoring or safety
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/004—Artificial life, i.e. computing arrangements simulating life
    • G06N3/006—Artificial life, i.e. computing arrangements simulating life based on simulated virtual individual or collective life forms, e.g. social simulations or particle swarm optimisation [PSO]
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/004—Artificial life, i.e. computing arrangements simulating life
    • G06N3/008—Artificial life, i.e. computing arrangements simulating life based on physical entities controlled by simulated intelligence so as to replicate intelligent life forms, e.g. based on robots replicating pets or humans in their appearance or behaviour
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0499—Feedforward networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/09—Supervised learning
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/092—Reinforcement learning
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/098—Distributed learning, e.g. federated learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Automation & Control Theory (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • Manufacturing & Machinery (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • Cleaning By Liquid Or Steam (AREA)
  • Auxiliary Devices For Machine Tools (AREA)
  • Numerical Control (AREA)

Abstract

【課題】工作機械やワークの状態に応じて適切な洗浄条件を決定できる洗浄工程最適化装置及び機械学習装置を提供すること。【解決手段】本発明の洗浄工程最適化装置１０は、洗浄対象を洗浄する際の洗浄条件を学習する機械学習装置２０を備え、機械学習装置２０は、洗浄対象を洗浄する際の洗浄条件を示す洗浄条件データ、及び該洗浄対象を洗浄する前に測定される該洗浄状態の汚れ状態を示す汚れ状態データを、環境の現在状態を表す状態変数として観測する状態観測部２２と、洗浄対象の洗浄後の汚れ状態の精度の適否判定結果を示す判定データを取得する判定データ取得部２４と、状態変数と判定データとを用いて、洗浄対象を洗浄する際の洗浄条件を汚れ状態データと関連付けて学習する学習部２６と、を備える。【選択図】図１

Description

本発明は、洗浄工程最適化装置及び機械学習装置に関する。
工作機械では、加工空間をカバーで覆い、切粉・クーラントが周囲に飛散することを防止している。工具によってワークを加工する際に大量の切粉が発生し、カバーで覆われた空間（以後「機内」とする）には、切粉が蓄積する。切粉が工作機械の機構部へと進入することで、機構部が故障に至る場合がある。そのため、機内に溜まった切粉を洗浄する必要があるが、このような機内の洗浄作業は人手によって行われる場合や、ポンプを用いて機内へとクーラントを送り、そのクーラントと共に切粉を機外へと排出させる機内洗浄装置を用いて洗浄する場合などがある（特許文献１など）。
一方、現在、工作機械で加工対象のワークは幅広く、その種類は高能率加工から高品位加工など多岐に渡っている。その際、加工後のワークの表面には切粉やクーラント等が付着したりすることがあり、このような汚れを放置すると、例えば後の作業工程で切粉がワークの表面を傷つける、といったような問題が生じることがある。このような問題を防止するためには、加工が終了した後に可能な限り迅速にワークの表面を洗浄する必要がある。ワークの洗浄作業は、人手で行う場合や、ワーク洗浄装置を用いて行われる場合がある（特許文献２など）。
特開２０１６−１６８６４９号公報 特開２００８−１５６７１５号公報
工作機械やワークの洗浄工程は、工作機械を用いた加工作業の一連の流れの中で重要な要素となる。しかしながら、ワークの加工によって生じる切粉は機内の広範囲に渡って飛散し、飛散位置や量、大きさなどが異なり、汚れが均一とはならないため、汚れの状態に応じて洗浄条件（洗浄ノズルの角度や噴射・吸引の圧力、洗浄時間など）を調整する必要があるという課題がある。また、ワークの表面に付着する切粉やクーラント等についても、その付着位置や付着量などが異なり、更にワークの洗浄の場合、洗浄によってワークの表面に傷をつけてしまうことがあるため、そのようなことが無いように、洗浄条件（洗浄ノズルの角度や、洗浄・吸引の圧力、洗浄時間など）を微調整しながらきめ細やかな洗浄を行う必要があり、膨大な工数がかかるという課題がある。
そこで本発明の目的は、工作機械やワークの状態に応じて適切な洗浄条件を決定できる洗浄工程最適化装置及び機械学習装置を提供することである。
本発明の一態様は、洗浄対象の洗浄を行う際の洗浄条件を最適化する洗浄工程最適化装置であって、前記洗浄対象を洗浄する際の洗浄条件を学習する機械学習装置を備え、前記機械学習装置は、前記洗浄対象を洗浄する際の洗浄条件を示す洗浄条件データ、及び該洗浄対象を洗浄する前に測定される該洗浄状態の汚れ状態を示す汚れ状態データを、環境の現在状態を表す状態変数として観測する状態観測部と、前記洗浄対象の洗浄後の汚れ状態の精度の適否判定結果を示す判定データを取得する判定データ取得部と、前記状態変数と前記判定データとを用いて、前記洗浄対象を洗浄する際の洗浄条件を前記汚れ状態データと関連付けて学習する学習部と、を備える洗浄工程最適化装置である。
本発明の他の態様は、洗浄対象の洗浄を行う際の洗浄条件を学習する機械学習装置において、前記洗浄対象を洗浄する際の洗浄条件を示す洗浄条件データ、及び該洗浄対象を洗浄する前に測定される該洗浄状態の汚れ状態を示す汚れ状態データを、環境の現在状態を表す状態変数として観測する状態観測部と、前記洗浄対象の洗浄後の汚れ状態の精度の適否判定結果を示す判定データを取得する判定データ取得部と、前記状態変数と前記判定データとを用いて、前記洗浄対象を洗浄する際の洗浄条件を前記汚れ状態データと関連付けて学習する学習部と、を備える機械学習装置を備える機械学習装置である。
本発明により、工作機械やワークの洗浄を行う既知の技術と機械学習を組み合わせて、工作機械の機内の状態やワークの表面状態に合わせて洗浄工程を最適化できるため、様々な工作機械やワークに対して効率良く洗浄を行うことが可能となる。
第１の実施形態による洗浄工程最適化装置の概略的な機能ブロック図である。 洗浄工程最適化装置の一形態を示す概略的な機能ブロック図である。 機械学習方法の一形態を示す概略的なフローチヤートである。 洗浄工程最適化装置の他の形態を示す概略的な機能ブロック図である。 ニューロンを説明する図である。 ニューラルネットワークを説明する図である。 第２の実施形態による洗浄工程最適化装置の概略的な機能ブロック図である。 洗浄システムの一形態を示す概略的な機能ブロック図である。 洗浄システムの他の形態を示す概略的な機能ブロック図である。
以下、本発明の実施形態を図面と共に説明する。
図１は、第１の実施形態による洗浄工程最適化装置１０の概略的な機能ブロック図である。洗浄工程最適化装置１０は、例えば、工作機械やワークを洗浄するために用いられる産業機械（図示せず）を制御する制御装置として実装することができる。工作機械やワークを洗浄するために用いられる産業機械は、例えばポンプにより洗浄液を噴射する洗浄ノズルを備えた洗浄装置と、該洗浄ノズルを把持したロボットなどが挙げられる。洗浄工程最適化装置１０は、工作機械やワークの洗浄工程における洗浄条件（洗浄ノズルの角度や、洗浄・吸引の圧力、洗浄時間など）を、いわゆる機械学習により自ら学習するためのソフトウェア（学習アルゴリズム等）及びハードウェア（コンピュータのＣＰＵ等）を含む機械学習装置２０を備える。洗浄工程最適化装置１０が備える機械学習装置２０が学習する洗浄条件は、洗浄対象となる工作機械やワークの汚れ状態（切粉やクーラントの量など）と、当該洗浄対象の洗浄における洗浄条件との、相関性を表すモデル構造に相当する。
図１に機能ブロックで示すように、洗浄工程最適化装置１０が備える機械学習装置２０は、工作機械やワークなどの洗浄対象（図示せず）に対して為される洗浄条件を示す洗浄条件データＳ１と、工作機械やワークなどの洗浄対象の汚れ状態を示す汚れ状態データＳ２を含む環境の現在状態を表す状態変数Ｓとして観測する状態観測部２２と、洗浄が為された洗浄対象の汚れ状態の適否判定結果を示す判定データＤを取得する判定データ取得部２４と、状態変数Ｓと判定データＤとを用いて、洗浄条件データＳ１に汚れ状態データＳ２と関連付けて学習する学習部２６とを備える。
状態観測部２２は、例えばコンピュータのＣＰＵの一機能として構成できる。或いは状態観測部２２は、例えばコンピュータのＣＰＵを機能させるためのソフトウェアとして構成できる。状態観測部２２が観測する状態変数Ｓのうち、洗浄条件データＳ１は、例えば熟練した作業者により申告されて洗浄工程最適化装置１０に与えられる洗浄条件の申告データを用いたり、洗浄に用いられる産業機械を用いている場合には、洗浄時の動作パラメータを該産業機械から取得して用いることができる。洗浄条件データＳ１は、例えば、洗浄時における汚れ中心位置からの洗浄ノズルの距離、洗浄ノズルの角度、洗浄・吸引の圧力、洗浄時間、洗浄液の温度、洗浄回数などを用いることができる。
また状態変数Ｓのうち、汚れ状態データＳ２は、例えば洗浄工程最適化装置が制御する洗浄のために用いられる産業機械に付設される第１の測定装置（図示せず）により実測することで取得できる。
第１の測定装置は、例えば洗浄対象が工作機械である場合には、工作機械の機内の全体または少なくとも１つの着目点を所定の位置から測定することができる。第１の測定装置は、例えば洗浄対象がワークである場合には、ワークの全体または少なくとも１つの着目点を所定の位置から測定することができる。第１の測定装置は、汚れがついていない洗浄対象についてあらかじめ測定して取得された洗浄対象の全体または少なくとも１つの着目点の測定値との差に基づいて、洗浄対象の各部分の汚れ状態データＳ２を演算できる。第１の測定装置は、汚れがついていない洗浄対象についてあらかじめ測定して取得された洗浄対象の全体または少なくとも１つの着目点の測定値との差分から、当該差分の量（面積、体積など）や、当該差分の色彩などを汚れ状態データＳ２に含めることができる。この演算は、例えば洗浄工程最適化装置１０が行ったり、状態観測部２２自体が行ったりすることもできる。第１の測定装置としては、光学的撮像装置、赤外線レーザ、超音波計測器等を採用できる。
判定データ取得部２４は、例えばコンピュータのＣＰＵの一機能として構成できる。或いは判定データ取得部２４は、例えばコンピュータのＣＰＵを機能させるためのソフトウェアとして構成できる。判定データ取得部２４が取得する判定データＤは、洗浄が為された後に洗浄対象について、例えば洗浄機械に付設される第１の測定装置により実測することで取得できる。判定データＤは、状態変数Ｓの下で洗浄作業を実行したときの結果を表す指標であって、洗浄作業が行われた環境の現在状態を間接的に表すものである。
このように、洗浄工程最適化装置１０が備える機械学習装置２０が学習を進める間、環境においては、第１の測定装置による洗浄対象の汚れ状態の測定、該洗浄対象に対する洗浄作業の実施、及び第１の測定装置による洗浄後の洗浄対象の汚れ状態の再測定が実施される。
学習部２６は、例えばコンピュータのＣＰＵの一機能として構成できる。或いは学習部２６は、例えばコンピュータのＣＰＵを機能させるためのソフトウェアとして構成できる。学習部２６は、機械学習と総称される任意の学習アルゴリズムに従い、洗浄対象に対して為される洗浄の洗浄条件を学習する。学習部２６は、複数の洗浄対象に対して、前述した状態変数Ｓと判定データＤとを含むデータ集合に基づく学習を反復実行することができる。複数の洗浄対象に対する学習サイクルの反復中、状態変数Ｓのうち洗浄条件データＳ１は、前回までの学習サイクルで得た洗浄条件とし、また判定データＤは、当該決定した洗浄条件に基づく洗浄対象の洗浄に対する適否判定結果とする。
このような学習サイクルを繰り返すことにより、学習部２６は、洗浄対象の汚れ状態（汚れ状態データＳ２）と該洗浄対象に対する洗浄の洗浄条件との相関性を暗示する特徴を自動的に識別することができる。学習アルゴリズムの開始時には汚れ状態データＳ２と洗浄条件との相関性は実質的に未知であるが、学習部２６は、学習を進めるに従い徐々に特徴を識別して相関性を解釈する。汚れ状態データＳ２と洗浄条件との相関性が、ある程度信頼できる水準まで解釈されると、学習部２６が反復出力する学習結果は、現在状態（つまり汚れ状態）の洗浄対象に対してどのような洗浄条件の下で洗浄するべきかと言う行動の選択（つまり意思決定）を行うために使用できるものとなる。つまり学習部２６は、学習アルゴリズムの進行に伴い、洗浄対象の現在状態と、当該現在状態の洗浄対象に対してどのような洗浄条件での洗浄をするべきかという行動との、相関性を最適解に徐々に近づけることができる。
上記したように、洗浄工程最適化装置１０が備える機械学習装置２０は、状態観測部２２が観測した状態変数Ｓと判定データ取得部２４が取得した判定データＤとを用いて、学習部２６が機械学習アルゴリズムに従い、洗浄対象を洗浄する際の洗浄条件を学習するものである。状態変数Ｓは、洗浄条件データＳ１及び汚れ状態データＳ２といった、外乱の影響を受け難いデータで構成され、また判定データＤは、洗浄後の洗浄対象を計測することにより一義的に求められる。汚れ状態データＳ２については、例えば第１の測定装置の能力としての機械の各部の測定精度に依存するが、それ自体高精度の汚れ状態データＳ２を観測できることが期待される。また判定データＤについても同様に、第１の測定装置の測定精度に依存して、高精度の判定データＤを取得できることが期待される。したがって、洗浄工程最適化装置１０が備える機械学習装置２０によれば、学習部２６の学習結果を用いることで、洗浄対象の汚れ状態に応じた該洗浄対象を洗浄する際の洗浄条件を、演算や目算によらずに自動的に、しかも正確に求めることができるようになる。
洗浄対象を洗浄する際の洗浄条件を、演算や目算によらずに自動的に求めることができれば、洗浄対象の洗浄開始前に該洗浄対象を実測して汚れ状態（汚れ状態データＳ２）を取得するだけで、洗浄対象を洗浄する際の洗浄条件を迅速に決定することができる。したがって、洗浄対象の洗浄作業に係る時間を短縮することができる。
洗浄工程最適化装置１０が備える機械学習装置２０の一変形例として、状態観測部２２は、状態変数Ｓとして、洗浄対象の種別を識別する種別情報Ｓ３をさらに観測することができる。種別情報Ｓ３は例えば、洗浄対象が工作機械である場合には、工作機械の種類や型番など、洗浄対象がワークである場合には該ワークの製品種別や材質等を含むことができる。例えば種別情報Ｓ３を、バーコード等の識別子で洗浄対象に表示したりすることができる。状態観測部２２は例えば、バーコードリーダの出力から種別情報Ｓ３を取得できる。学習部２６は、洗浄対象の洗浄における洗浄条件を、汚れ状態データＳ２及び種別情報Ｓ３の双方と関連付けて学習することができる。
上記変形例によれば、製造対象の汚れ状態と正常対象の種別との双方に応じた最適な正常対象の洗浄条件を学習することができる。例えば２つの洗浄対象となるワークについて、該ワークの汚れ状態（汚れ状態データＳ２）が略同一であっても、当該ワークの材質等（種別情報Ｓ３）が異なる場合、該ワークを洗浄する際の洗浄条件が、微妙に異なる状況が生じ得る。上記構成によれば、このような状況においても材質等（種別情報Ｓ３）に応じて洗浄対象を洗浄する際の洗浄条件を最適化することができる。或いは、学習を進めるうちに洗浄対象の汚れ状態（汚れ状態データＳ２）と洗浄対象の種別（種別情報Ｓ３）との相関性を見出すことができる場合もある。この場合には、種別情報Ｓ３から汚れ状態データＳ２をある程度予測できるようになるので、第１の測定装置による機械の各部分の測定精度が低い場合であっても、学習を適正に収束させて洗浄対象を洗浄する際の洗浄条件を最適化することができる。
洗浄工程最適化装置１０が備える機械学習装置２０の他の変形例として、学習部２６は、同一の構成を有する複数の洗浄に用いられる産業機械のそれぞれについて得られた状態変数Ｓ及び判定データＤを用いて、それら洗浄に用いられる産業機械のそれぞれにおける洗浄対象を洗浄する際の洗浄条件を学習することができる。この構成によれば、一定時間で得られる状態変数Ｓと判定データＤとを含むデータ集合の量を増加できるので、より多様なデータ集合を入力として、洗浄対象を洗浄する際の洗浄条件の学習の速度や信頼性を向上させることができる。
上記構成を有する機械学習装置２０では、学習部２６が実行する学習アルゴリズムは特に限定されず、機械学習として公知の学習アルゴリズムを採用できる。図２は、図１に示す洗浄工程最適化装置１０の一形態であって、学習アルゴリズムの一例として強化学習を実行する学習部２６を備えた構成を示す。強化学習は、学習対象が存在する環境の現在状態（つまり入力）を観測するとともに現在状態で所定の行動（つまり出力）を実行し、その行動に対し何らかの報酬を与えるというサイクルを試行錯誤的に反復して、報酬の総計が最大化されるような方策（本願の機械学習装置では洗浄対象を洗浄する際の洗浄条件）を最適解として学習する手法である。
図２に示す洗浄工程最適化装置１０が備える機械学習装置２０において、学習部２６は、状態変数Ｓに基づいて洗浄対象を洗浄することにより得られる洗浄後の洗浄対象の汚れ状態の適否判定結果（次の学習サイクルで用いられる判定データＤに相当）に関連する報酬Ｒを求める報酬計算部２８と、報酬Ｒを用いて、洗浄対象の洗浄時に採用される洗浄条件の価値を表す関数Ｑを更新する価値関数更新部３０とを備える。学習部２６は、価値関数更新部３０が関数Ｑの更新を繰り返すことによって洗浄対象を洗浄する際の洗浄条件を学習する。
学習部２６が実行する強化学習のアルゴリズムの一例を説明する。この例によるアルゴリズムは、Ｑ学習（Ｑ−ｌｅａｒｎｉｎｇ）として知られるものであって、行動主体の状態ｓと、その状態ｓで行動主体が選択し得る行動ａとを独立変数として、状態ｓで行動ａを選択した場合の行動の価値を表す関数Ｑ（ｓ，ａ）を学習する手法である。状態ｓで価値関数Ｑが最も高くなる行動ａを選択することが最適解となる。状態ｓと行動ａとの相関性が未知の状態でＱ学習を開始し、任意の状態ｓで種々の行動ａを選択する試行錯誤を繰り返すことで、価値関数Ｑを反復して更新し、最適解に近付ける。ここで、状態ｓで行動ａを選択した結果として環境（つまり状態ｓ）が変化したときに、その変化に応じた報酬（つまり行動ａの重み付け）ｒが得られるように構成し、より高い報酬ｒが得られる行動ａを選択するように学習を誘導することで、価値関数Ｑを比較的短時間で最適解に近付けることができる。
価値関数Ｑの更新式は、一般に下記の数１式のように表すことができる。数１式において、ｓt及びａtはそれぞれ時刻ｔにおける状態及び行動であり、行動ａtにより状態はｓt+1に変化する。ｒt+1は、状態がｓtからｓt+1に変化したことで得られる報酬である。ｍａｘＱの項は、時刻ｔ＋１で最大の価値Ｑになる（と時刻ｔで考えられている）行動ａを行ったときのＱを意味する。α及びγはそれぞれ学習係数及び割引率であり、０＜α≦１、０＜γ≦１で任意設定される。
Figure 2018153872
学習部２６がＱ学習を実行する場合、状態観測部２２が観測した状態変数Ｓ及び判定データ取得部２４が取得した判定データＤは、更新式の状態ｓに該当し、現在状態（つまり汚れ状態）の洗浄対象に対して該洗浄対象を洗浄する際の洗浄条件をどのように変更するべきかという行動は、更新式の行動ａに該当し、報酬計算部２８が求める報酬Ｒは、更新式の報酬ｒに該当する。よって価値関数更新部３０は、現在状態の洗浄対象を洗浄する際の洗浄条件の価値を表す関数Ｑを、報酬Ｒを用いたＱ学習により繰り返し更新する。
報酬計算部２８が求める報酬Ｒは、例えば、洗浄対象を洗浄する際の洗浄条件を決定した後に該洗浄条件に基づいて洗浄対象の洗浄を実施したときに、洗浄後の洗浄対象の汚れ状態が「適」と判定される場合（つまり、洗浄後の洗浄対象の汚れ具合が許容できる範囲に収まる場合）に正（プラス）の報酬Ｒとし、洗浄対象を洗浄する際の洗浄条件を決定した後に該洗浄条件に基づいて洗浄対象の洗浄を実施したときに、洗浄後の洗浄対象の汚れ状態が「否」と判定される場合（つまり、洗浄後の洗浄対象の汚れ具合が許容できる範囲外である場合）に負（マイナス）の報酬Ｒとすることができる。正負の報酬Ｒの絶対値は、互いに同一であってもよいし異なっていてもよい。ここで、汚れ具合が許容できるか否かは、例えば第１の測定装置で測定した洗浄対象の汚れの量（面積や体積など）が所定の閾値以下であるか否かで判定するようにしても良い。
このとき、洗浄後の洗浄対象の各部分のそれぞれについて、汚れ状態が許容できる範囲に収まるか否かを判定して、全ての部分について汚れ状態が許容範囲に収まる場合に「適」と判定するようにしても良いし、洗浄後の洗浄対象の各部分の汚れ状態の総和が許容範囲に収まる場合に「適」と判定するようにしても良い。また、これらを組み合わせて判定するようにしても良い。
また、洗浄後の洗浄対象の汚れ状態の適否判定結果を、「適」及び「否」の二通りだけでなく、汚れの度合いに応じて複数段階に設定することができる。例として、許容範囲の最大値がＴｍａｘの場合、洗浄後の洗浄対象に残った汚れの量Ｋが、０≦Ｋ＜Ｔmax／５のときは報酬Ｒ＝５を与え、Ｔmax／５≦Ｋ＜Ｔmax／２のときは報酬Ｒ＝２を与え、Ｔmax／２≦Ｋ≦Ｔmaxのときは報酬Ｒ＝１を与えるような構成とすることができる。さらに、学習の初期段階はＴmaxを比較的大きく設定し、学習が進行するにつれてＴmaxを縮小する構成とすることもできる。
更に、報酬Ｒとして、洗浄時間があらかじめ定めた所定の閾値よりも短くなるほどに正の報酬を与えるようにしても良い。このようにすることで、洗浄対象の汚れ状態が「適」となった洗浄条件の中で、洗浄時間が短いものが優先して洗濯されるようになるため、洗浄工程のサイクルタイムを短くすることができる。
価値関数更新部３０は、状態変数Ｓと判定データＤと報酬Ｒとを、関数Ｑで表される行動価値（例えば数値）と関連付けて整理した行動価値テーブルを持つことができる。この場合、価値関数更新部３０が関数Ｑを更新するという行為は、価値関数更新部３０が行動価値テーブルを更新するという行為と同義である。Ｑ学習の開始時には環境の現在状態と洗浄対象を洗浄する際の洗浄条件との相関性は未知であるから、行動価値テーブルにおいては、種々の状態変数Ｓと判定データＤと報酬Ｒとが、無作為に定めた行動価値の値（関数Ｑ）と関連付けた形態で用意されている。なお報酬計算部２８は、判定データＤが分かればこれに対応する報酬Ｒを直ちに算出でき、算出した値Ｒが行動価値テーブルに書き込まれる。
洗浄後の洗浄対象の汚れ状態の適否判定結果に応じた報酬Ｒを用いてＱ学習を進めると、より高い報酬Ｒが得られる行動を選択する方向へ学習が誘導され、選択した行動を現在状態で実行した結果として変化する環境の状態（つまり状態変数Ｓ及び判定データＤ）に応じて、現在状態で行う行動についての行動価値の値（関数Ｑ）が書き換えられて行動価値テーブルが更新される。この更新を繰り返すことにより、行動価値テーブルに表示される行動価値の値（関数Ｑ）は、適正な行動ほど大きな値となるように書き換えられる。このようにして、未知であった環境の現在状態（洗浄対象の汚れ状態）とそれに対する行動（洗浄対象を洗浄する際の洗浄条件）との相関性が徐々に明らかになる。つまり行動価値テーブルの更新により、洗浄対象の洗浄前の汚れ状態と、該洗浄対象を洗浄する際の洗浄条件との関係が最適解に徐々に近づけられる。
図３を参照して、学習部２６が実行する上記したＱ学習のフロー（つまり機械学習方法の一形態）をさらに説明する。まずステップＳＡ０１で、価値関数更新部３０は、その時点での行動価値テーブルを参照しながら、状態観測部２２が観測した状態変数Ｓが示す現在状態で行う行動として洗浄対象を洗浄する際の洗浄条件を無作為に選択する。次に価値関数更新部３０は、ステップＳＡ０２で、状態観測部２２が観測している現在状態の状態変数Ｓを取り込み、ステップＳＡ０３で、判定データ取得部２４が取得している現在状態の判定データＤを取り込む。次に価値関数更新部３０は、ステップＳＡ０４で、判定データＤに基づき、洗浄対象を洗浄する際の洗浄条件が適当であったか否かを判断し、適当であった場合、ステップＳＡ０５で、報酬計算部２８が求めた正の報酬Ｒを関数Ｑの更新式に適用し、次いでステップＳＡ０６で、現在状態における状態変数Ｓ及び判定データＤと報酬Ｒと行動価値の値（更新後の関数Ｑ）とを用いて行動価値テーブルを更新する。ステップＳＡ０４で、洗浄対象を洗浄する際の洗浄条件が適当でなかったと判断した場合、ステップＳＡ０７で、報酬計算部２８が求めた負の報酬Ｒを関数Ｑの更新式に適用し、次いでステップＳＡ０６で、現在状態における状態変数Ｓ及び判定データＤと報酬Ｒと行動価値の値（更新後の関数Ｑ）とを用いて行動価値テーブルを更新する。学習部２６は、ステップＳＡ０１〜ＳＡ０７を繰り返すことで行動価値テーブルを反復して更新し、洗浄対象を洗浄する際の洗浄条件の学習を進行させる。
図４は、図１に示す洗浄工程最適化装置１０の他の形態であって、学習アルゴリズムの他の例として教師あり学習を実行する学習部２６を備えた構成を示す。教師あり学習は、入力と出力との関係が未知の状態で学習を開始する前述した強化学習と異なり、入力とそれに対応する出力との既知のデータセット（教師データと称する）が予め大量に与えられ、それら教師データから入力と出力との相関性を暗示する特徴を識別することで、新たな入力に対する所要の出力を推定するための相関性モデル（本願の機械学習装置２０では洗浄対象を洗浄する際の洗浄条件)を学習する手法である。
図４に示す洗浄工程最適化装置１０が備える機械学習装置２０において、学習部２６は、状態変数Ｓ及び判定データＤから洗浄対象を洗浄する際の洗浄条件を導く相関性モデルＭと予め用意された教師データＴから識別される相関性特徴との誤差Ｅを計算する誤差計算部３２と、誤差Ｅを縮小するように相関性モデルＭを更新するモデル更新部３４とを備える。学習部２６は、モデル更新部３４が相関性モデルＭの更新を繰り返すことによって洗浄対象を洗浄する際の洗浄条件を学習する。
相関性モデルＭの初期値は、例えば、状態変数Ｓ及び判定データＤと洗浄対象を洗浄する際の洗浄条件との相関性を単純化して（例えば一次関数で）表現したものであり、教師あり学習の開始前に学習部２６に与えられる。教師データＴは、例えば、過去の洗浄対象の洗浄において熟練の作業者が決定した洗浄条件を記録することで蓄積された経験値（洗浄対象の汚れ状態と、洗浄対象を洗浄する際の洗浄条件との既知のデータセット)によって構成でき、教師あり学習の開始前に学習部２６に与えられる。誤差計算部３２は、学習部２６に与えられた大量の教師データＴから洗浄対象の汚れ具合と該洗浄対象を洗浄する際の洗浄条件との相関性を暗示する相関性特徴を識別し、この相関性特徴と、現在状態における状態変数Ｓ及び判定データＤに対応する相関性モデルＭとの誤差Ｅを求める。モデル更新部３４は、例えば予め定めた更新ルールに従い、誤差Ｅが小さくなる方向へ相関性モデルＭを更新する。
次の学習サイクルでは、誤差計算部３２は、更新後の相関性モデルＭに従って実装工程を試行することにより変化した状態変数Ｓ及び判定データＤを用いて、それら変化した状態変数Ｓ及び判定データＤに対応する相関性モデルＭに関し誤差Ｅを求め、モデル更新部３４が再び相関性モデルＭを更新する。このようにして、未知であった環境の現在状態（洗浄対象の汚れ状態）とそれに対する行動（該洗浄対象を洗浄する際の洗浄条件の決定）との相関性が徐々に明らかになる。つまり相関性モデルＭの更新により、洗浄前の洗浄対象の汚れ状態と、当該洗浄対象を洗浄する際の洗浄条件との関係が、最適解に徐々に近づけられる。
なお、洗浄工程最適化装置１０が備える機械学習装置２０では、学習の初期段階は学習部２６が教師あり学習を実行し、学習がある程度進行した段階で、教師あり学習で得た洗浄対象を洗浄する際の洗浄条件を初期値として学習部２６が強化学習を実行するように構成することもできる。強化学習における初期値がある程度の信頼性を有しているので、比較的迅速に最適解に到達することができる。
前述した強化学習や教師あり学習を進める際に、例えばＱ学習の代わりに、ニューラルネットワークを用いることができる。図５Ａは、ニューロンのモデルを模式的に示す。図５Ｂは、図５Ａに示すニューロンを組み合わせて構成した三層のニューラルネットワークのモデルを模式的に示す。ニューラルネットワークは、例えば、ニューロンのモデルを模した演算装置や記憶装置等によって構成できる。
図５Ａに示すニューロンは、複数の入力ｘ（ここでは一例として、入力ｘ1〜入力ｘ3）に対する結果ｙを出力するものである。各入力ｘ1〜ｘ3には、この入力ｘに対応する重みｗ（ｗ1〜ｗ3）が掛けられる。これにより、ニューロンは、次の数２式により表現される出力ｙを出力する。なお、数２式において、入力ｘ、出力ｙ及び重みｗは、すべてベクトルである。また、θはバイアスであり、ｆkは活性化関数である。
Figure 2018153872
図５Ｂに示す三層のニューラルネットワークは、左側から複数の入力ｘ（ここでは一例として、入力ｘ１〜入力ｘ３）が入力され、右側から結果ｙ（ここでは一例として、結果ｙ１〜結果ｙ３）が出力される。図示の例では、入力ｘ１、ｘ２、ｘ３のそれぞれに対応の重み（総称してｗ１で表す)が乗算されて、個々の入力ｘ１、ｘ２、ｘ３がいずれも３つのニューロンＮ１１、Ｎ１２、Ｎ１３に入力されている。
図５Ｂでは、ニューロンＮ１１〜Ｎ１３の各々の出力を、総称してｚ１で表す。ｚ１は、入カベクトルの特徴量を抽出した特徴ベクトルと見なすことができる。図示の例では、特徴ベクトルｚ１のそれぞれに対応の重み（総称してＷ２で表す）が乗算されて、個々の特徴ベクトルｚ１がいずれも２つのニューロンＮ２１、Ｎ２２に入力されている。特徴ベクトルｚ１は、重みＷ１と重みＷ２との間の特徴を表す。
図５Ｂでは、ニューロンＮ２１〜Ｎ２２の各々の出力を、総称してｚ２で表す。ｚ２は、特徴ベクトルｚ１の特徴量を抽出した特徴ベクトルと見なすことができる。図示の例では、特徴ベクトルｚ２のそれぞれに対応の重み（総称してＷ３で表す）が乗算されて、個々の特徴ベクトルｚ２がいずれも３つのニューロンＮ３１、Ｎ３２、Ｎ３３に入力されている。特徴ベクトルｚ２は、重みＷ２と重みＷ３との間の特徴を表す。最後にニューロンＮ３１〜Ｎ３３は、それぞれ結果ｙ１〜ｙ３を出力する。
洗浄工程最適化装置１０が備える機械学習装置２０においては、状態変数Ｓと判定データＤとを入力ｘとして、学習部２６が上記したニューラルネットワークに従う多層構造の演算を行うことで、洗浄対象を洗浄する際の洗浄条件（結果ｙ）を出力することができる。なおニューラルネットワークの動作モードには、学習モードと価値予測モードとがあり、例えば学習モードで学習データセットを用いて重みＷを学習し、学習した重みＷを用いて価値予測モードで行動の価値判断を行うことができる。なお価値予測モードでは、検出、分類、推論等を行うこともできる。
上記した洗浄工程最適化装置１０の構成は、コンピュータのＣＰＵが実行する機械学習方法（或いはソフトウェア）として記述できる。この機械学習方法は、洗浄対象を洗浄する際の洗浄条件を学習する機械学習方法であって、コンピュータのＣＰＵが、洗浄対象を洗浄する際の洗浄条件を示す洗浄条件データＳ１、及び該洗浄対象の汚れ状態を示す汚れ状態データＳ２を、洗浄対象の洗浄が行われる環境の現在状態を表す状態変数Ｓとして観測するステップと、洗浄後の洗浄対象の汚れ状態の適否判定結果を示す判定データＤを取得するステップと、状態変数Ｓと判定データＤとを用いて、洗浄対象を洗浄する際の洗浄条件と汚れ状態データＳ２とを関連付けて学習するステップとを有する。
図６は、第２の実施形態による洗浄工程最適化装置４０を示す。洗浄工程最適化装置４０は、機械学習装置５０と、状態観測部２２が観測する状態変数Ｓの洗浄条件データＳ１及び汚れ状態データＳ２を状態データＳ０として取得する状態データ取得部４２とを備える。状態データ取得部４２が取得する状態データＳ０は、種別情報Ｓ３を含むこともできる。状態データ取得部４２は、機械に付設される前述した第１の測定装置や、作業者による適宜のデータ入力から、状態データＳ０を取得することができる。
洗浄工程最適化装置４０が有する機械学習装置５０は、洗浄対象を洗浄する際の洗浄条件を機械学習により自ら学習するためのソフトウェア（学習アルゴリズム等）及びハードウェア（コンピュータのＣＰＵ等）に加えて、学習した洗浄対象を洗浄する際の洗浄条件を表示、又は該洗浄対象を洗浄するための産業機械（図示せず）への指令として出力するためのソフトウェア（演算アルゴリズム等）及びハードウェア（コンピュータのＣＰＵ等）を含むものである。洗浄工程最適化装置４０が含む機械学習装置５０は、１つの共通のＣＰＵが、学習アルゴリズム、演算アルゴリズム等の全てのソフトウェアを実行する構成を有することもできる。
意思決定部５２は、例えばコンピュータのＣＰＵの一機能として構成できる。或いは意思決定部５２は、例えばコンピュータのＣＰＵを機能させるためのソフトウェアとして構成できる。意思決定部５２は、学習部２６が学習した洗浄対象を洗浄する際の洗浄条件を作業者に表示したり、又は学習部２６が学習した洗浄対象を洗浄する際の洗浄条件に基づいて洗浄を行う産業機械への指令値Ｃを生成し、生成した指令値Ｃとして出力する。意思決定部５２が洗浄対象を洗浄する際の洗浄条件を表示し、これに基づいた作業者による洗浄対象の洗浄が行われた場合、また、意思決定部５２が産業機械に対して指令値Ｃを出力した場合、これに応じて、環境の状態（洗浄条件データＳ１）が変化する。
状態観測部２２は、意思決定部５２による環境への洗浄対象を洗浄する際の洗浄条件の表示、または出力後に変化した洗浄条件データＳ１を含む状態変数Ｓを次の学習サイクルにおいて観測する。学習部２６は、変化した状態変数Ｓを用いて、例えば価値関数Ｑ（すなわち行動価値テーブル）を更新することで、洗浄対象を洗浄する際の洗浄条件を学習する。意思決定部５２は、学習した洗浄対象を洗浄する際の洗浄条件の下で状態変数Ｓに応じて洗浄対象を洗浄する際の洗浄条件の表示、または産業機械への指令値Ｃの出力を行う。このサイクルを繰り返すことにより、機械学習装置５０は洗浄対象を洗浄する際の洗浄条件の学習を進め、自身が決定する洗浄対象を洗浄する際の洗浄条件の信頼性を徐々に向上させる。
上記構成を有する洗浄工程最適化装置４０が備える機械学習装置５０は、前述した機械学習装置２０と同等の効果を奏する。特に機械学習装置５０は、意思決定部５２の出力によって環境の状態を変化させることができる。他方、機械学習装置２０では、学習部２６の学習結果を環境に反映させるための意思決定部に相当する機能を、外部装置（例えば産業機械の制御装置）に求めることができる。
図７は、産業機械６０を備えた一実施形態による洗浄システム７０を示す。洗浄システム７０は、同一の機械構成を有する複数の産業機械６０、６０’と、それら産業機械６０、６０’を互いに接続するネットワーク７２とを備え、複数の産業機械６０、６０’のうち少なくとも１つが、上記した洗浄工程最適化装置４０を備える産業機械６０として構成される。また洗浄システム７０は、洗浄工程最適化装置４０を備えない産業機械６０’を含むことができる。産業機械６０、６０’は、洗浄対象を洗浄するために必要とされる一般的な構成を有する。
上記構成を有する洗浄システム７０は、複数の産業機械６０、６０’のうちで洗浄工程最適化装置４０を備える産業機械６０が、学習部２６の学習結果を用いて、洗浄対象の汚れ状態に応じた該洗浄対象を洗浄する際の洗浄条件を、演算や目算によらずに自動的に、しかも正確に求めることができる。また、少なくとも１つの産業機械６０の洗浄工程最適化装置４０が、他の複数の産業機械６０、６０’のそれぞれについて得られた状態変数Ｓ及び判定データＤに基づき、全ての産業機械６０、６０’に共通する洗浄対象を洗浄する際の洗浄条件を学習し、その学習結果を全ての産業機械６０、６０’が共有するように構成できる。したがって洗浄システム７０によれば、より多様なデータ集合（状態変数Ｓ及び判定データＤを含む）を入力として、洗浄対象を洗浄する際の洗浄条件の学習の速度や信頼性を向上させることができる。
図８は、産業機械６０’を備えた他の実施形態による洗浄システム７０’を示す。洗浄システム７０’は、機械学習装置５０（又は２０）と、同一の機械構成を有する複数の産業機械６０’と、それら産業機械６０’と機械学習装置５０（又は２０）とを互いに接続するネットワーク７２とを備える。
上記構成を有する洗浄システム７０’は、機械学習装置５０（又は２０）が、複数の産業機械６０’のそれぞれについて得られた状態変数Ｓ及び判定データＤに基づき、全ての産業機械６０’に共通する洗浄対象を洗浄する際の洗浄条件を学習し、その学習結果を用いて、洗浄対象の汚れ状態に応じた洗浄対象を洗浄する際の洗浄条件を、演算や目算によらずに自動的に、しかも正確に求めることができる。
洗浄システム７０’は、機械学習装置５０（又は２０）が、ネットワーク７２に用意されたクラウドサーバに存在する構成を有することができる。この構成によれば、複数の産業機械６０’のそれぞれが存在する場所や時期に関わらず、必要なときに必要な数の産業機械６０’を機械学習装置５０（又は２０）に接続することができる。
洗浄システム７０、７０’に従事する作業者は、機械学習装置５０（又は２０）に
よる学習開始後の適当な時期に、機械学習装置５０（又は２０）による洗浄対象を洗浄する際の洗浄条件の学習の到達度（すなわち洗浄対象を洗浄する際の洗浄条件の信頼性）が要求レベルに達したか否かの判断を実行することができる。
以上、本発明の実施の形態について説明したが、本発明は上述した実施の形態の例のみに限定されることなく、適宜の変更を加えることにより様々な態様で実施することができる。
例えば、機械学習装置２０、５０が実行する学習アルゴリズム、機械学習装置５０が実行する演算アルゴリズム、洗浄工程最適化装置１０、４０が実行する制御アルゴリズム等は、上述したものに限定されず、様々なアルゴリズムを採用できる。
１０ 洗浄工程最適化装置
２０ 機械学習装置
２２ 状態観測部
２４ 判定データ取得部
２６ 学習部
２８ 報酬計算部
３０ 価値関数更新部
３２ 誤差計算部
３４ モデル更新部
４０ 洗浄工程最適化装置
４２ 状態データ取得部
５０ 機械学習装置
５２ 意思決定部
６０，６０’ 産業機械
７０，７０’ 洗浄システム
７２ ネットワーク

Claims (8)

  1. 洗浄対象の洗浄を行う際の洗浄条件を最適化する洗浄工程最適化装置であって、
    前記洗浄対象を洗浄する際の洗浄条件を学習する機械学習装置を備え、
    前記機械学習装置は、
    前記洗浄対象を洗浄する際の洗浄条件を示す洗浄条件データ、及び該洗浄対象を洗浄する前に測定される該洗浄状態の汚れ状態を示す汚れ状態データを、環境の現在状態を表す状態変数として観測する状態観測部と、
    前記洗浄対象の洗浄後の汚れ状態の精度の適否判定結果を示す判定データを取得する判定データ取得部と、
    前記状態変数と前記判定データとを用いて、前記洗浄対象を洗浄する際の洗浄条件を前記汚れ状態データと関連付けて学習する学習部と、
    を備える洗浄工程最適化装置。
  2. 前記状態観測部は、前記状態変数として、前記洗浄対象の種別を識別する種別情報を更に観測し、
    前記学習部は、前記洗浄対象を洗浄する際の洗浄条件を前記精度データ及び前記種別情報の双方と関連付けて学習する、
    請求項１に記載の洗浄工程最適化装置。
  3. 前記学習部は、
    前記適否判定結果に関連する報酬を求める報酬計算部と、
    前記報酬を用いて、前記洗浄対象を洗浄する際の洗浄条件の価値を表す関数を更新する価値関数更新部とを備える、
    請求項１または２に記載の洗浄工程最適化装置。
  4. 前記学習部は、
    前記状態変数及び前記判定データから前記洗浄対象を洗浄する際の洗浄条件を導く相関性モデルと予め用意された教師データから識別される相関性特徴との誤差を計算する誤差計算部と、
    前記誤差を縮小するように前記相関性モデルを更新するモデル更新部とを備える、
    請求項１または２に記載の洗浄工程最適化装置。
  5. 前記学習部は、前記状態変数と前記判定データとを多層構造で演算する、
    請求項１〜４のいずれか１つに記載の洗浄工程最適化装置。
  6. 前記学習部による学習結果に基づいて、前記洗浄対象を洗浄する際の洗浄条件を表示又は出力する意思決定部を更に備える、
    請求項１〜５のいずれか１つに記載の洗浄工程最適化装置。
  7. 前記学習部は、複数の産業機械のそれぞれについて得られた前記状態変数及び前記判定データを用いて、該複数の産業機械のそれぞれにおける前記洗浄対象を洗浄する際の洗浄条件を学習する、
    請求項１〜６のいずれか１つに記載の洗浄工程最適化装置。
  8. 洗浄対象の洗浄を行う際の洗浄条件を学習する機械学習装置において、
    前記洗浄対象を洗浄する際の洗浄条件を示す洗浄条件データ、及び該洗浄対象を洗浄する前に測定される該洗浄状態の汚れ状態を示す汚れ状態データを、環境の現在状態を表す状態変数として観測する状態観測部と、
    前記洗浄対象の洗浄後の汚れ状態の精度の適否判定結果を示す判定データを取得する判定データ取得部と、
    前記状態変数と前記判定データとを用いて、前記洗浄対象を洗浄する際の洗浄条件を前記汚れ状態データと関連付けて学習する学習部と、
    を備える機械学習装置。
JP2017050083A 2017-03-15 2017-03-15 洗浄工程最適化装置及び機械学習装置 Active JP6502983B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2017050083A JP6502983B2 (ja) 2017-03-15 2017-03-15 洗浄工程最適化装置及び機械学習装置
DE102018001893.9A DE102018001893B4 (de) 2017-03-15 2018-03-08 Reinigungsprozess-Optimierungsvorrichtung und Maschinenlernvorrichtung
US15/921,359 US10754312B2 (en) 2017-03-15 2018-03-14 Cleaning process optimization device and machine learning device
CN201810213849.5A CN108621154B (zh) 2017-03-15 2018-03-15 清洗工序最优化装置以及机器学习装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017050083A JP6502983B2 (ja) 2017-03-15 2017-03-15 洗浄工程最適化装置及び機械学習装置

Publications (2)

Publication Number Publication Date
JP2018153872A true JP2018153872A (ja) 2018-10-04
JP6502983B2 JP6502983B2 (ja) 2019-04-17

Family

ID=63372104

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017050083A Active JP6502983B2 (ja) 2017-03-15 2017-03-15 洗浄工程最適化装置及び機械学習装置

Country Status (4)

Country Link
US (1) US10754312B2 (ja)
JP (1) JP6502983B2 (ja)
CN (1) CN108621154B (ja)
DE (1) DE102018001893B4 (ja)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019111637A (ja) * 2017-12-26 2019-07-11 ファナック株式会社 切粉除去装置及び情報処理装置
CN111571302A (zh) * 2019-02-18 2020-08-25 发那科株式会社 切削液量调整装置和系统
JP2020179433A (ja) * 2019-04-23 2020-11-05 ファナック株式会社 機械学習装置、予測装置、及び制御装置
JP2021003751A (ja) * 2019-06-25 2021-01-14 Dmg森精機株式会社 工作機械
JP2021094625A (ja) * 2019-12-16 2021-06-24 ファナック株式会社 工作機械システム
JPWO2021166074A1 (ja) * 2020-02-18 2021-08-26
JPWO2020157899A1 (ja) * 2019-01-31 2021-12-02 オリンパス株式会社 医療器具分析装置、医療器具分析方法および学習済みモデル
US11207754B2 (en) 2019-04-02 2021-12-28 Fanuc Corporation Machine tool
WO2022097624A1 (ja) * 2020-11-09 2022-05-12 ファナック株式会社 機械学習装置、洗浄予測装置、及び洗浄システム
JP2022107954A (ja) * 2021-01-12 2022-07-25 株式会社コジマプラスチックス 金型管理システム
JP2022181278A (ja) * 2021-05-26 2022-12-08 紀州技研工業株式会社 プリントヘッド自動洗浄システム
JP2023039197A (ja) * 2021-09-08 2023-03-20 オリンパス株式会社 医療器具分析装置、医療器具分析方法、及び、学習済みモデル
WO2024089846A1 (ja) * 2022-10-27 2024-05-02 ファナック株式会社 シミュレーション装置及びプログラム

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7194914B2 (ja) * 2018-03-29 2022-12-23 パナソニックＩｐマネジメント株式会社 自律移動掃除機、自律移動掃除機による掃除方法、及び自律移動掃除機用プログラム
JP6990626B2 (ja) * 2018-06-27 2022-01-12 株式会社日立製作所 因果推論モデル構築方法
CN111062229B (zh) * 2018-10-16 2024-05-31 北京金风科创风电设备有限公司 用于风力发电机组外转子识别的方法及装置
JP7634140B2 (ja) * 2019-02-25 2025-02-21 Dmg森精機株式会社 切屑検出装置
JP6751790B1 (ja) 2019-03-15 2020-09-09 Dmg森精機株式会社 工作機械の切り屑処理装置及び切り屑処理方法
JP7224265B2 (ja) * 2019-09-18 2023-02-17 株式会社荏原製作所 機械学習装置、基板処理装置、学習済みモデル、機械学習方法、機械学習プログラム
JP6870132B1 (ja) * 2020-03-09 2021-05-12 株式会社スギノマシン 対象物の洗浄方法および洗浄機
JP7615689B2 (ja) * 2021-01-12 2025-01-17 富士フイルムビジネスイノベーション株式会社 情報処理システムおよびプログラム
CN114794953A (zh) * 2022-04-19 2022-07-29 净豹智能机器人(台州)有限公司 基于深度学习的智能清洁机器人贴边清洁系统及方法
KR102892331B1 (ko) * 2022-11-14 2025-11-27 나노아이텍(주) 스마트 자동 렌즈 세척 방법
CN116020813B (zh) * 2022-12-19 2024-12-13 深圳市睿格晟设备有限公司 一种基于深度学习的智能清理方法及终端
CN116197197B (zh) * 2023-01-17 2024-08-13 中国石油大学(华东) 一种冲洗排污协同处理的储油罐清洗方法
US20240419133A1 (en) * 2023-06-13 2024-12-19 Hamilton Sundstrand Corporation Cleaning measurement and control system
CN116764267B (zh) * 2023-06-15 2025-09-30 上海集成电路材料研究院有限公司 一种晶圆盒内污染物萃取的方法
CN117169449B (zh) * 2023-10-31 2023-12-29 江苏权正检验检测有限公司 用于食品检测的食品分解清理方法及系统
CN118427784B (zh) * 2024-07-02 2024-10-25 深圳市林科超声波洗净设备有限公司 一种超声波清洗机运行多维度监测预警方法
KR102725042B1 (ko) * 2024-07-10 2024-10-31 백명현 다중 초음파 세척기를 포함하는 다축 구조의 3d 프린터
CN119023381B (zh) * 2024-08-29 2025-12-05 中国航发沈阳发动机研究所 一种航空发动机零件表面污染物提取方法和工艺确定方法
CN119634338B (zh) * 2024-12-19 2025-09-23 惠州荟凝智能科技有限公司 一种超声波清洗设备的控制方法、系统及清洗设备

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4365383A (en) * 1979-06-25 1982-12-28 Elan Pressure Clean Limited Cleaning apparatus for components
JPH0688788A (ja) * 1992-09-07 1994-03-29 Nec Corp 洗浄装置
JPH0759716A (ja) * 1993-08-30 1995-03-07 Tokyo Gas Co Ltd 食器洗い乾燥機
JP2004503853A (ja) * 2000-06-12 2004-02-05 ザ、プロクター、エンド、ギャンブル、カンパニー 家庭用電気器具の性能最適化のための方法及びシステム
JP2008287378A (ja) * 2007-05-16 2008-11-27 Hitachi Omron Terminal Solutions Corp 画像識別学習装置及びそれを用いた印刷物識別装置
JP2010022556A (ja) * 2008-07-18 2010-02-04 Sharp Corp 洗濯機
US20120017941A1 (en) * 2010-07-20 2012-01-26 Krones Ag Intelligent control of a bottle washer
JP2015217520A (ja) * 2014-05-14 2015-12-07 リョービＭｈｉグラフィックテクノロジー株式会社 印刷機及びその洗浄方法
JP2017030067A (ja) * 2015-07-30 2017-02-09 ファナック株式会社 加工時間測定機能とオンマシン測定機能を有する制御装置付き加工装置
JP2017033525A (ja) * 2015-07-31 2017-02-09 ファナック株式会社 複数の製造機械を有する製造セルを制御するセルコントロールシステム、生産システム、制御方法及び制御プログラム
JP2017033239A (ja) * 2015-07-31 2017-02-09 ファナック株式会社 主軸交換の要否を判定できる機械学習装置、主軸交換判定装置、制御装置、工作機械及び生産システム、並びに機械学習方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7175875B2 (en) * 2002-02-15 2007-02-13 Hitachi, Ltd. Method and apparatus for plasma processing
US20060218680A1 (en) * 2005-03-28 2006-09-28 Bailey Andrew D Iii Apparatus for servicing a plasma processing system with a robot
JP2008156715A (ja) * 2006-12-25 2008-07-10 Mitsubishi Alum Co Ltd しわ付き箔容器用アルミニウム箔
TW201338747A (zh) 2012-03-23 2013-10-01 Ememe Robot Co Ltd 清潔機器人及控制清潔機器人的方法
JP6193904B2 (ja) 2015-03-13 2017-09-06 ファナック株式会社 加工槽内の洗浄機能を有するワイヤ放電加工機
CN105630882B (zh) 2015-12-18 2019-09-20 哈尔滨工业大学深圳研究生院 基于遥感数据深度学习的近海污染物识别与跟踪方法

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4365383A (en) * 1979-06-25 1982-12-28 Elan Pressure Clean Limited Cleaning apparatus for components
JPH0688788A (ja) * 1992-09-07 1994-03-29 Nec Corp 洗浄装置
JPH0759716A (ja) * 1993-08-30 1995-03-07 Tokyo Gas Co Ltd 食器洗い乾燥機
JP2004503853A (ja) * 2000-06-12 2004-02-05 ザ、プロクター、エンド、ギャンブル、カンパニー 家庭用電気器具の性能最適化のための方法及びシステム
JP2008287378A (ja) * 2007-05-16 2008-11-27 Hitachi Omron Terminal Solutions Corp 画像識別学習装置及びそれを用いた印刷物識別装置
JP2010022556A (ja) * 2008-07-18 2010-02-04 Sharp Corp 洗濯機
US20120017941A1 (en) * 2010-07-20 2012-01-26 Krones Ag Intelligent control of a bottle washer
JP2015217520A (ja) * 2014-05-14 2015-12-07 リョービＭｈｉグラフィックテクノロジー株式会社 印刷機及びその洗浄方法
JP2017030067A (ja) * 2015-07-30 2017-02-09 ファナック株式会社 加工時間測定機能とオンマシン測定機能を有する制御装置付き加工装置
JP2017033525A (ja) * 2015-07-31 2017-02-09 ファナック株式会社 複数の製造機械を有する製造セルを制御するセルコントロールシステム、生産システム、制御方法及び制御プログラム
JP2017033239A (ja) * 2015-07-31 2017-02-09 ファナック株式会社 主軸交換の要否を判定できる機械学習装置、主軸交換判定装置、制御装置、工作機械及び生産システム、並びに機械学習方法

Cited By (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10962960B2 (en) 2017-12-26 2021-03-30 Fanuc Corporation Chip removal apparatus and information processing apparatus
JP2019111637A (ja) * 2017-12-26 2019-07-11 ファナック株式会社 切粉除去装置及び情報処理装置
JP7242712B2 (ja) 2019-01-31 2023-03-20 オリンパス株式会社 医療器具分析装置、医療器具分析方法および学習済みモデル
JPWO2020157899A1 (ja) * 2019-01-31 2021-12-02 オリンパス株式会社 医療器具分析装置、医療器具分析方法および学習済みモデル
JP7053518B2 (ja) 2019-02-18 2022-04-12 ファナック株式会社 切削液量調整装置及び切削液量調整システム
CN111571302B (zh) * 2019-02-18 2024-05-14 发那科株式会社 切削液量调整装置和系统
JP2020131342A (ja) * 2019-02-18 2020-08-31 ファナック株式会社 切削液量調整装置及び切削液量調整システム
US11679463B2 (en) 2019-02-18 2023-06-20 Fanuc Corporation Cutting fluid amount adjusting device and system
CN111571302A (zh) * 2019-02-18 2020-08-25 发那科株式会社 切削液量调整装置和系统
US11207754B2 (en) 2019-04-02 2021-12-28 Fanuc Corporation Machine tool
JP2020179433A (ja) * 2019-04-23 2020-11-05 ファナック株式会社 機械学習装置、予測装置、及び制御装置
JP7000376B2 (ja) 2019-04-23 2022-01-19 ファナック株式会社 機械学習装置、予測装置、及び制御装置
US11583968B2 (en) 2019-04-23 2023-02-21 Fanuc Corporation Machine learning device, prediction device, and controller
JP2021003751A (ja) * 2019-06-25 2021-01-14 Dmg森精機株式会社 工作機械
JP2021094625A (ja) * 2019-12-16 2021-06-24 ファナック株式会社 工作機械システム
JP7448348B2 (ja) 2019-12-16 2024-03-12 ファナック株式会社 工作機械システム
JPWO2021166074A1 (ja) * 2020-02-18 2021-08-26
JP7423739B2 (ja) 2020-02-18 2024-01-29 オリンパス株式会社 制御装置、内視鏡の配置状態判定方法、及び、プログラム
US12354297B2 (en) 2020-02-18 2025-07-08 Olympus Corporation Control apparatus, endoscope positioning state determination method, and non-transitory recording medium
WO2021166074A1 (ja) * 2020-02-18 2021-08-26 オリンパス株式会社 内視鏡配置状態判定方法
JPWO2022097624A1 (ja) * 2020-11-09 2022-05-12
DE112021004645T5 (de) 2020-11-09 2023-06-29 Fanuc Corporation Maschinen-Lernvorrichtung, Reinigungsvorhersagevorrichtung und Reinigungssystem
WO2022097624A1 (ja) * 2020-11-09 2022-05-12 ファナック株式会社 機械学習装置、洗浄予測装置、及び洗浄システム
JP7453409B2 (ja) 2020-11-09 2024-03-19 ファナック株式会社 機械学習装置、洗浄予測装置、及び洗浄システム
JP2022107954A (ja) * 2021-01-12 2022-07-25 株式会社コジマプラスチックス 金型管理システム
JP7189633B2 (ja) 2021-01-12 2022-12-14 株式会社コジマプラスチックス 金型管理システム
JP7618223B2 (ja) 2021-05-26 2025-01-21 紀州技研工業株式会社 プリントヘッド自動洗浄システム
JP2022181278A (ja) * 2021-05-26 2022-12-08 紀州技研工業株式会社 プリントヘッド自動洗浄システム
JP2023039197A (ja) * 2021-09-08 2023-03-20 オリンパス株式会社 医療器具分析装置、医療器具分析方法、及び、学習済みモデル
WO2024089846A1 (ja) * 2022-10-27 2024-05-02 ファナック株式会社 シミュレーション装置及びプログラム

Also Published As

Publication number Publication date
JP6502983B2 (ja) 2019-04-17
CN108621154A (zh) 2018-10-09
DE102018001893B4 (de) 2020-11-19
CN108621154B (zh) 2020-05-08
US20180267489A1 (en) 2018-09-20
US10754312B2 (en) 2020-08-25
DE102018001893A1 (de) 2018-09-20

Similar Documents

Publication Publication Date Title
JP2018153872A (ja) 洗浄工程最適化装置及び機械学習装置
JP6499689B2 (ja) 仕上げ加工量予測装置及び機械学習装置
JP6652549B2 (ja) 切粉除去装置及び情報処理装置
JP6499710B2 (ja) 加減速制御装置
JP6923484B2 (ja) 加工条件調整装置及び機械学習装置
JP6680756B2 (ja) 制御装置及び機械学習装置
JP6470251B2 (ja) 数値制御装置及び機械学習装置
JP6557285B2 (ja) 制御装置及び機械学習装置
JP2019185125A (ja) 制御装置及び機械学習装置
JP6767416B2 (ja) 加工条件調整装置及び機械学習装置
KR102224970B1 (ko) 제어 장치 및 기계 학습 장치
JP2019162712A (ja) 制御装置、機械学習装置及びシステム
JP2019141869A (ja) 制御装置及び機械学習装置
JP6659652B2 (ja) 加工条件調整装置及び機械学習装置
JP2018190068A (ja) 制御装置及び機械学習装置
CN110531705B (zh) 可编程控制器以及机器学习装置
JP6490132B2 (ja) ロボットの制御装置、機械学習装置及び機械学習方法
JP6514260B2 (ja) 制御装置及び機械学習装置
CN110340884B (zh) 测定动作参数调整装置、机器学习装置以及系统
JP7453409B2 (ja) 機械学習装置、洗浄予測装置、及び洗浄システム
JP6940425B2 (ja) 制御装置及び機械学習装置
JP2019184575A (ja) 測定動作パラメータ調整装置、機械学習装置及びシステム

Legal Events

Date Code Title Description
A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20180627

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20180904

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180925

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181122

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190226

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190322

R150 Certificate of patent or registration of utility model

Ref document number: 6502983

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150