JP2018014114A - ニューロプロセッサにおける交換可能なシナプス荷重記憶装置に関する方法及びシステム - Google Patents
ニューロプロセッサにおける交換可能なシナプス荷重記憶装置に関する方法及びシステム Download PDFInfo
- Publication number
- JP2018014114A JP2018014114A JP2017156493A JP2017156493A JP2018014114A JP 2018014114 A JP2018014114 A JP 2018014114A JP 2017156493 A JP2017156493 A JP 2017156493A JP 2017156493 A JP2017156493 A JP 2017156493A JP 2018014114 A JP2018014114 A JP 2018014114A
- Authority
- JP
- Japan
- Prior art keywords
- neuroprocessor
- chip
- load
- removable memory
- memory
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Theoretical Computer Science (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Computational Linguistics (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Neurology (AREA)
- Semiconductor Memories (AREA)
- Memory System (AREA)
Abstract
【課題】ニューロプロセッサチップの面積および実装コストを低減させる。
【解決手段】ニューラルシステムを実装するための装置は、シナプスの荷重を格納するために取り外し可能なメモリを使用するための手段と、ニューロプロセッサチップに取り外し可能なメモリを接続するための手段と、を含み、各シナプスは、ニューロプロセッサチップの複数のニューロン回路のうちの2つを接続し、荷重は、ニューロプロセッサチップの機能を決定する。
【選択図】図3
【解決手段】ニューラルシステムを実装するための装置は、シナプスの荷重を格納するために取り外し可能なメモリを使用するための手段と、ニューロプロセッサチップに取り外し可能なメモリを接続するための手段と、を含み、各シナプスは、ニューロプロセッサチップの複数のニューロン回路のうちの2つを接続し、荷重は、ニューロプロセッサチップの機能を決定する。
【選択図】図3
Description
本開示の幾つかの実施形態は、概して、ニューラルシステム工学に関するものである。本開示は、より具体的には、シナプス荷重をニューロプロセッサチップから交換可能な記憶装置内に別個に格納するための方法に関するものである。
ニューロプロセッサの機能は、ニューロン間の結合の強度を制御するシナプス荷重に依存する。シナプス荷重は、典型的には、パワーダウン後にプロセッサの機能を保存するために非揮発性のオンチップメモリ内に格納される。
このメモリをニューロプロセッサとともに同じチップ上に有することは、ニューロプロセッサの機能と柔軟性を制限する。さらに、オンチップシナプスメモリは、利用可能な非揮発性メモリのタイプに関する選択肢を限定し、さらに、全体的なチップの面積および実装コストを増大させる。
本開示の幾つかの実施形態は、電気回路を提供する。電気回路は、複数のニューロン回路及びシナプスを有するニューロプロセッサチップと、シナプスの荷重を格納するニューロプロセッサチップに接続された取り外し可能なメモリと、を概して含み、各シナプスは、一対のニューロン回路を接続し、荷重は、ニューロンプロセッサチップの機能を決定する。
本開示の幾つか実施形態は、ニューラルシステムを実装するための方法を提供する。方法は、シナプスの荷重を格納するために取り外し可能なメモリを使用することと、ニューロプロセッサチップに取り外し可能なメモリを接続することと、を概して含み、各シナプスは、ニューロプロセッサチップの複数のニューロン回路のうちの2つを接続し、荷重は、ニューロプロセッサチップの機能を決定する。
本開示の幾つかの実施形態は、ニューラルシステムを実装するための装置を提供する。装置は、シナプスの荷重を格納するために取り外し可能なメモリを使用するための手段と、ニューロプロセッサチップに取り外し可能なメモリを接続するための手段と、を概して含み、各シナプスは、ニューロプロセッサチップの複数のニューロン回路のうちの2つを接続し、荷重は、ニューロプロセッサチップの機能を決定する。
本開示の上記の特徴を詳細に理解できるようにすることを目的として、実施形態を参照することで上記において要約したより具体的な説明を行うことができ、それらの実施形態の一部は添付された図面において例示されている。しかしながら、添付された図面は、本開示の幾つかの典型的な実施形態のみを例示するにすぎず、従って、それの適用範囲を制限するものであるとみなされるべきではなく、説明は、その他の同等に有効な実施形態を含めることが可能である。
本開示の幾つかの実施形態によるニューラルシステム例を示した図である。
本開示の幾つかの実施形態により外部のシナプス荷重メモリとインタフェースされたニューロプロセッサの例を示した図である。
本開示の幾つかの実施形態によりニューロプロセッサ外部のシナプス荷重メモリを実装するための動作例を示した図である。
図3において例示された動作を実施することが可能なコンポーネント例を示した図である。
本開示の幾つかの実施形態により外部のシナプス荷重メモリを実装するために用いることができる非揮発性メモリの例を示した図である。
以下では、本開示の様々な実施形態が添付図面を参照してより詳細に説明される。しかしながら、本開示は、数多くの異なる形態で具現化することができ、本開示全体を通じて提示された特定の構造又は機能に限定するとは解釈されるべきでない。むしろ、これらの実施形態は、本開示が徹底的かつ完全であること、及び本開示の適用範囲を当業者に十分に伝達することを目的として提供される。当業者は、ここにおける教示に基づき、本開示の適用範囲は、ここにおいて開示された本開示の実施形態が本開示のその他の実施形態から独立して実装されるか又は結合されるかにかかわらず、それらのあらゆる実施形態を網羅することが意図されることを評価すべきである。例えば、ここにおいて示される実施形態のうちのあらゆる数を用いて装置を実装すること又は方法を実践することができる。さらに、本開示の適用範囲は、ここにおいて示される開示の様々な実施形態に加えての又は様々な実施形態以外のその他の構造、機能、又は機能と構造を用いて実践される該装置又は方法を網羅することが意図される。ここにおいて開示された本開示のいずれの実施形態も、請求項の1つ以上の要素によって具現化可能であることが理解されるべきである。
語句“典型的な”は、“1つの例、事例、又は実例を提供すること”を意味するためにここにおいて用いられる。ここにおいて“典型的な”として説明されるいずれの実施形態も、その他の実施形態よりも好ましい又は有利であるとは必ずしも解釈されるべきではない。
ここにおいては特定の実施形態が説明されるが、これらの実施形態の数多くの変形及び置換も本開示の適用範囲内である。好ましい実施形態の幾つかの利益及び利点が述べられているが、本開示の適用範囲は、特定の利益、用途又は目標に限定されることは意図されない。むしろ、本開示の実施形態は、異なる技術、システム構成、ネットワーク及びプロトコルに対して広範囲に適用可能であることが意図されており、それらの一部は、図内及び好ましい実施形態に関する以下の説明において例として示される。詳細な発明を実施するための形態及び図面は、本開示を限定するのではなく単に例示するだけであるにすぎず、本開示の適用範囲は、添付された請求項及びそれらの同等物によって画定される。
典型的なニューラルシステム
図1は、本開示の幾つかの実施形態による複数のニューロンレベルを有するニューラルシステム例100を示す。ニューラルシステム100は、シナプス結合ネットワーク104を通じて他のニューロンレベル106に結合されたニューロンレベル102を備えることができる。簡略化を目的として、図1には2つのニューロンレベルのみが例示されるが、典型的なニューラルシステム内にはそれよりも多くのニューロンレベルが存在することができる。
図1は、本開示の幾つかの実施形態による複数のニューロンレベルを有するニューラルシステム例100を示す。ニューラルシステム100は、シナプス結合ネットワーク104を通じて他のニューロンレベル106に結合されたニューロンレベル102を備えることができる。簡略化を目的として、図1には2つのニューロンレベルのみが例示されるが、典型的なニューラルシステム内にはそれよりも多くのニューロンレベルが存在することができる。
図1において例示されるように、レベル102の各ニューロンは、前レベル(図1には示されていない)の複数のニューロンによって生成することができる入力信号108を受け取ることができる。信号108は、レベル102のニューロンの入力電流を表すことができる。この電流は、膜電位をチャージ(charge)するためにニューロン膜上に蓄積することができる。膜電位がそれの閾値レベルに達したときに、ニューロンは発火し、次のニューロンレベル(例えば、レベル106)に伝達される出力スパイクを生成することができる。
図1において例示されるように、1つのニューロンレベルから他へのスパイクの伝達は、シナプス結合ネットワーク(又は単に“シナプス”)104を通じて達成させることができる。シナプス104は、レベル102のニューロンから出力信号(すなわち、スパイク)を受け取り、調整可能なシナプス荷重によりそれらの信号をスケーリングしw1 (i,i+1),...,wP (i,i+1)(ここで、Pは、レベル102と106のニューロン間のシナプス結合の総数)、スケーリングされた信号をレベル106のニューロンの入力信号として結合する。レベル106内のすべてのニューロンが、対応する結合された入力信号に基づいて出力スパイク110を生成することができる。出力スパイク110は、他のシナプス結合ネットワーク(図1には示されてない)を用いて他のニューロンレベルに伝達することができる。
ニューラルシステム100は、ニューロプロセッサによってエミュレーションすることができ、広範な用途、例えばパターン認識、機械学習及びモーター制御、において利用することができる。ニューラルシステム100の各ニューロンは、ニューロプロセッサチップ内においてニューロン回路として実装することができる。出力スパイクを開始させるための閾値レベルまでチャージされるニューロン膜は、内部を流れる電流を積分するキャパシタとしてニューロン回路内に実装することができる。ニューロン回路の面積を実質的に縮小するために、ナノメータのフィーチャーサイズ(feature size)のメモリスタ素子をキャパシタに代わる積分デバイスとして利用することができる。この手法を用いることによって、超大規模なニューラルシステムハードウェアの効率的な実装を可能にすることができる。
ニューラルシステム100をエミュレーションするニューロプロセッサの機能は、シナプス結合の荷重に依存することができ、それは、ニューロン間の結合の強度を制御することができる。シナプス荷重は、パワーダウン後にプロセッサの機能を保存するために非揮発性メモリ内に格納することができる。しかしながら、このメモリをニューロプロセッサとともに同じチップ上に有することは、プロセッサの機能及び柔軟性を制限することがある。さらに、オンチップシナプスメモリは、利用する非揮発性メモリのタイプに関する選択肢を限定することがあり、及び、全体的なチップの面積および実装コストを増大させることがある。
本開示の幾つかの実施形態は、主ニューロプロセッサチップと別個の外部チップ上におけるシナプス荷重メモリの実装をサポートする。シナプス荷重メモリは、交換可能な取り外し可能なメモリとしてニューロプロセッサチップとは別個にパッケージングすることができる。これは、ニューロプロセッサに多様な機能を提供することができ、特定の機能は、ニューロプロセッサに現在取り付けられている取り外し可能なメモリ内に格納されたシナプス荷重に基づくことができる。
外部のシナプスメモリを有する典型的なニューロモーフィックアーキテクチャ
図2は、本開示の幾つかの実施形態によるニューロモーフィックアーキテクチャ200の例を示す。シナプスメモリ206は、別個の外部の取り外し可能なメモリとして実装することができ、それは、インタフェース回路204を通じてニューロプロセッサ202に接続することができる。ニューロプロセッサ202は、図1において例示されたニューラルシステム100をエミュレーションすることができる。それは、多数のニューロン回路とシナプス結合とを備えることができる。インタフェース204は、ニューロプロセッサチップ202及び外部のシナプス取り外し可能なメモリ206を接続するバスを備えることができる。インタフェースバスは、シナプス荷重データを両方向に搬送するように、及びコマンド、例えば“メモリ書き込み”、“メモリ読み取り”及び“アドレッシング”、を搬送するように設計することができる。
図2は、本開示の幾つかの実施形態によるニューロモーフィックアーキテクチャ200の例を示す。シナプスメモリ206は、別個の外部の取り外し可能なメモリとして実装することができ、それは、インタフェース回路204を通じてニューロプロセッサ202に接続することができる。ニューロプロセッサ202は、図1において例示されたニューラルシステム100をエミュレーションすることができる。それは、多数のニューロン回路とシナプス結合とを備えることができる。インタフェース204は、ニューロプロセッサチップ202及び外部のシナプス取り外し可能なメモリ206を接続するバスを備えることができる。インタフェースバスは、シナプス荷重データを両方向に搬送するように、及びコマンド、例えば“メモリ書き込み”、“メモリ読み取り”及び“アドレッシング”、を搬送するように設計することができる。
ニューラルシステム工学上の用途をサポートするために、ニューロプロセッサ202は、典型的には、例えば、1つのニューロン当たり約100のシナプスを有する約1万のニューロン回路を備えることができ、それは、ニューロプロセッサ202内のシナプス総数を約106にする。各シナプス結合の強度は、希望される精度による一定のビット数で表される荷重と関連付けることができる。典型的には、非常に様々な用途に関して十分な精度を提供するためにシナプス荷重当たり最大10ビットが要求されることがある。例えば、すべての荷重が10ビットで表される場合は、約106のシナプスを有するニューロプロセッサに関するシナプス荷重を格納するために約10Mbitのメモリが要求される。
ニューロプロセッサ内のニューロン及びシナプスの数は、さらに複雑なニューラルシステム工学上の用途をサポートするために近い将来に大きく増加することが予想される。シナプス荷重メモリの要求されるサイズは、10Mbitをはるかに上回るであろう。取り外し可能なメモリとしての大型のシナプスメモリをニューロプロセッサの外部に実装することは、ニューロプロセッサ及びシナプスメモリの両方のより効率的なダイ利用を提供することができる。さらに、より良い性能及びより低いコストを提供するために、ニューロプロセッサ及びメモリの製造プロセスをこれらの別個のチップのニーズに合わせて個別に好適化することができる。
前述されるように、ニューロプロセッサ202の機能は、ニューロン回路間のシナプス結合の荷重に依存することができる。ニューロプロセッサ202が特定の用途を実行できるようにするためには、ニューロプロセッサ内においてシナプス荷重の訓練(training)を最初に行う必要がある。訓練プロセス中には、シナプス荷重は、インタフェース204を通じて外部メモリ206に格納する及び外部メモリ206に/からローディングすることができる。学習プロセスが終了された時点で、すべての訓練されたシナプス荷重を外部のメモリチップ206内に完全に格納することができる。
多くの用途にとっては、ニューロプロセッサ内での荷重訓練プロセス継続時間は長時間になることがある。しかしながら、訓練されたシナプス荷重が外部の取り外し可能なメモリ206に完全に格納された時点で、それらは、他の取り外し可能なメモリに素早く模写(replicate)することができる。この方法により、ニューロプロセッサ202の機能を1つのメモリチップから他に単に“クローニング”することを可能にすることができる。これで、他のニューロプロセッサチップ内での時間と電力を消費する荷重訓練プロセスを完全に回避することができ、他方のニューロプロセッサチップが荷重訓練を行わずにニューロプロセッサ202と同じ機能を実行することができるようになる。
本開示の一実施形態においては、外部メモリ206は、交換可能な取り外し可能なメモリとして実装することができる。同じニューロプロセッサ202が、取り付けられたシナプス取り外し可能なメモリに依存して異なる機能を有することができる。交換可能な取り外し可能なメモリは、ユーザ間で共用することができ、及び、異なる機能(すなわち、同じシナプスの異なる荷重値)のライブラリを異なる取り外し可能なメモリ内に格納することができる。多様な機能を有するこれらのシナプス取り外し可能なメモリは、ニューロプロセッサ202から完全に独立して設計することができる。
本開示の他の実施形態においては、より高速なプロセッサ動作を提供するために、一時的なデータ(例えば、シナプス荷重の一部)を有するローカルワーキングメモリをニューロプロセッサチップ202内に実装することができる。ローカルメモリは、上記の荷重訓練プロセス中にも利用することができる。他方、プロセッサの機能を完全に決定するすべての訓練されたシナプス荷重を備える永久的メモリは外部であることができ及び別個のメモリチップ206として実装することができる。
図3は、本開示の幾つかの実施形態によりニューロプロセッサチップの外部にシナプス取り外し可能なメモリを実装するための動作例300を示す。302において、取り外し可能なメモリをニューロプロセッサチップに接続することができる。304において、取り外し可能なメモリは、シナプス荷重を格納するために用いることができ、各シナプスは、ニューロプロセッサチップの複数のニューロン回路のうちの2つを接続することができ、荷重は、少なくとも部分的に、ニューロプロセッサチップの機能を定義することができる。
ニューロプロセッサ及びシナプスメモリチップの典型的な実装
ニューロプロセッサチップ202及び外部のシナプスメモリチップ206に関する実装詳細が次に示される。実装推定値は、ニューロプロセッサ202が様々な今日のニューラルシステム用途をサポートするために約104のニューロンを備えることができる典型的な事例に基づく。
ニューロプロセッサチップ202及び外部のシナプスメモリチップ206に関する実装詳細が次に示される。実装推定値は、ニューロプロセッサ202が様々な今日のニューラルシステム用途をサポートするために約104のニューロンを備えることができる典型的な事例に基づく。
1つのニューロン回路の実装面積は、ニューロン膜を模倣するためにキャパシタの代わりにメモリスタ素子が積分デバイスとして利用された場合は、今日の相補型金属酸化膜半導体(CMOS)技術の場合は32×32μm2のオーダーであることができる。このニューロン回路実装は、その結果として、ニューロプロセッサチップ202内の全ニューロンに関して約10mm2の面積コストであることができる。
典型的には、1つのニューロン当たり約100のシナプスが存在することができ、それは、104のニューロン回路を備える典型的なプロセッサの場合は約106のシナプスに相当することができる。1つのシナプス当たりの実装面積は、各シナプスがナノメータのフィーチャーサイズのメモリスタ素子に基づいて実装された場合は、今日のCMOS技術の場合は10×10μm2のオーダーであることができる。この結果、104のニューロン回路を備える典型的なニューロプロセッサ202内の全シナプスに関して約100mm2の面積コストであることができる。従って、ニューロプロセッサチップ202の総ダイ面積は、110mm2にほぼ等しいことができる(例えば、10.5mm×10.5mmのダイ面積)。
ニューロンの最速の発火率は、5msごとに1回のスパイクに等しいことができる。いずれかの所定の5msの期間に最大で全ニューロンの約10%(この典型的な事例では約1000のニューロン回路)が同時にスパイクすることができる。従って、シナプス荷重メモリ206からインタフェース204を通じてニューロプロセッサ202には5msごとに最大105のシナプス荷重を読み込むことが必要になる。換言すると、一度に1つのシナプス荷重のみを外部メモリ206からニューロプロセッサ202にローディングすることができる場合は、50nsごとに1つのシナプス荷重を読み取る必要がある。
他方、メモリ書き込み時間は、報酬信号が到着したときに更新する必要がある適格な(eligible)シナプスの数に基づいて決定することができる。最悪のシナリオでは、メモリ書き込み時間は、メモリ読み取り時間と等しくなることがある。上記のように、シナプスメモリチップ206は、典型的には、約106のシナプス荷重を格納することを要求することができる。例えば、1つのシナプス荷重当たり6ビットが利用される場合は、6Mbitの総格納容量を要求することができる。
磁気抵抗メモリ(MRAM)及び抵抗変化メモリ(RRAM(登録商標))が今日の最速の非揮発性メモリの代表である。これらのメモリは、10ns未満の読み取り/書き込み時間及び6又は10Mbit超の容量を可能にすることができ、それは、外部のシナプス荷重メモリとしての使用に適したものにする。
図4は、本開示の幾つかの実施形態により外部シナプスメモリ206のために用いることができる非揮発性メモリの例を有するグラフ400を例示する。非揮発性メモリタイプの広範な選択肢は、フラッシュメモリ、強誘電体メモリ、磁気トンネル接合メモリ、スピン注入メモリ、相変化メモリ、抵抗/メムリスティブ(memristive)スイッチ、等を含む。すべてのこれらの選択肢は、外部シナプスメモリ206に関する可能な候補であることができる。
グラフ400の一部分402は、ローカルワーキングオンチップメモリの動作領域に対応することができ、それは、より高速なプロセッサ動作のためのシナプス荷重の一部を格納することができる。強誘電体ランダムアクセスメモリ(FeRAM)、磁気抵抗メモリ(MRAM)、スタティックランダムアクセスメモリ(SRAM)、ダイナミックランダムアクセスメモリ(DRAM)及び相変化ランダムアクセスメモリ(PRAM)がワーキングオンチップメモリに関する可能な候補であることが図4から観察することができる。他方、図4において例示されるように、抵抗変化メモリ(RRAM)は大規模かつ高価すぎるためローカルオンチップワーキングメモリとして利用することはできない。
PRAMメモリ、FeRAMメモリ及びMRAMメモリはすべて、書き込み動作前にデータを消去することを要求しない非揮発性メモリであることが注目されるべきである。しかしながら、RRAMメモリは、書き込み動作前に消去を要求する非揮発性メモリである。他方、DRAM及びSRAMは、揮発性メモリの代表例である。
グラフ400の一部分404は、外部メモリとインタフェースされたニューロプロセッサによって実行される用途と関連付けられたすべてのシナプス荷重を格納するための外部メモリの動作領域に対応することができる。NANDフラッシュメモリ、NORフレッシュ(flesh)メモリ及びPRAMが外部シナプスメモリに関する可能な選択肢であることができることを図4から観察することができる。NANDフラッシュメモリ及びNORフレッシュメモリは、書き込み前にデータを消去することを要求する非揮発性メモリである一方で、PRAMは、書き込み前に消去を要求しない非揮発性RAMの例である。
上述される方法の様々な動作は、対応する機能を実行することが可能なあらゆる適切な手段によって行うことができる。それらの手段は、様々なハードウェア及び/又はソフトウェアコンポーネント及び/又はモジュールを含むことができ、限定されることなしに、回路、特定用途向け集積回路(ASIC)、又はプロセッサを含む。概して、図において例示される動作が存在する場合は、それらの動作は、同様の番号を有する対応する手段+機能(means−plus−function)コンポーネントを有することがある。例えば、図3において例示された動作300は、図3Aにおいて例示されたコンポーネント300A、302A及び304Aに対応する。
ここにおいて用いられる場合の表現“決定すること”は、非常に様々な行動を包含する。例えば、“決定すること”は、計算すること、演算すること、処理すること、導き出すこと、調査すること、検索すること(例えば、テーブル、データベース又は他のデータ構造内を検索すること)、確認すること、等を含むことができる。さらに、“決定すること”は、受信すること(例えば、情報を受信すること)、アクセスすること(例えば、メモリ内のデータにアクセスすること)、等を含むことができる。さらに、“決定すること”は、解決すること、選定すること、選択すること、確立すること、等を含むことができる。
ここにおいて用いられる場合において、項目(品目)のリストのうちの“少なくとも1つ”という句は、単一の構成要素を含むそれらの項目(品目)のあらゆる組み合わせを意味する。一例として、“a、b、又はcのうちの少なくとも1つ”は、a、b、c、a−b、a−c、b−c、及びa−b−cを網羅することが意図される。
本開示と関係させて説明される様々な例示的な論理ブロック、モジュール、及び回路は、ここにおいて説明される機能を果たすように設計された汎用プロセッサ、デジタル信号プロセッサ(DSP)、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ信号(FPGA)又はその他のプログラマブル論理デバイス(PLD)、ディスクリートゲートロジック、ディスクリートトランジスタロジック、ディスクリートハードウェアコンポーネント、又はそれらのあらゆる組合せ、を用いて実装又は実行することができる。汎用プロセッサは、マイクロプロセッサであることができるが、代替においては、プロセッサは、どのような市販のプロセッサ、コントローラ、マイクロコントローラ、又はステートマシンであってもよい。プロセッサは、計算デバイスの組合せ、例えば、DSPと、1つのマイクロプロセッサとの組合せ、複数のマイクロプロセッサとの組合せ、DSPコアと関連する1つ以上のマイクロプロセッサとの組合せ、又はその他のあらゆる該構成との組合せ、として実装することもできる。
本開示と関係させて説明される方法又はアルゴリズムのステップは、ハードウェア内において直接的に、プロセッサによって実行されるソフトウェアモジュール内において、又はそれらの2つの組み合わせにおいて具現化することができる。ソフトウェアモジュールは、当業において知られるあらゆる形態の記憶媒体内に常駐することができる。使用することができる記憶媒体の幾つかの例は、ランダムアクセスメモリ(RAM)、読み取り専用メモリ(ROM)、フラッシュメモリ、EPROMメモリ、EEPROM(登録商標)メモリ、レジスタ、ハードディスク、取り外し可能なディスク、CD−ROM、等を含む。ソフトウェアモジュールは、単一の命令、又は数多くの命令を備えることができ、及び、幾つかの異なるコードセグメントにわたって、異なるプログラム間で、及び複数の記憶媒体にわたって分散させることができる。記憶媒体は、プロセッサが記憶媒体から情報を読み出すこと、及び記憶媒体に情報を書き込むことができるように該プロセッサに結合させることができる。代替においては、記憶媒体は、プロセッサと一体化することができる。
ここにおいて開示された方法は、説明される方法を実現させるための1つ以上のステップ又は行動を備える。方法ステップ及び/又は行動は、請求項の適用範囲を逸脱することなしに互換することができる。換言すると、ステップ又は行動の特定の順序が指定されないかぎり、特定のステップ及び/又は行動の順序及び/又は使用は、請求項の適用範囲を逸脱することなしに修正することができる。
説明される機能は、ハードウェア、ソフトウェア、ファームウェア、又はそれらの組み合わせにおいて実装することができる。ソフトウェアにおいて実装される場合は、これらの機能は、1つ以上の命令としてコンピュータによって読み取り可能な媒体に格納することができる。記憶媒体は、コンピュータによってアクセス可能なあらゆる利用可能な媒体であることができる。一例として、及び限定することなしに、該コンピュータによって読み取り可能な媒体は、RAM、ROM、EEPROM、CD−ROM又はその他の光学ディスク記憶装置、磁気ディスク記憶装置又はその他の磁気記憶装置、又は、希望されるプログラムコードを命令又はデータ構造の形態で搬送又は格納するために用いることができ及びコンピュータによってアクセス可能であるその他の媒体、を備えることができる。ここにおいて用いられるときのディスク(disk及びdisc)は、コンパクトディスク(CD)(disc)と、レーザーディスク(登録商標)(disc)と、光ディスク(disc)と、デジタルバーサタイルディスク(DVD)(disc)と、フロッピー(登録商標)ディスク(disk)と、Blu−ray(登録商標)ディスク(disc)と、を含み、ここで、diskは、通常は磁気的にデータを複製し、discは、レーザを用いて光学的にデータを複製する。
従って、幾つかの実施形態は、ここにおいて提示された動作を実行するためのコンピュータプログラム製品を備えることができる。例えば、該コンピュータプログラム製品は、ここにおいて説明される動作を実行するために1つ以上のプロセッサによって実行可能な命令が格納されている(及び/又は符号化されている)コンピュータによって読み取り可能な媒体を備えることができる。幾つかの実施形態の場合は、コンピュータプログラム製品は、パッケージング材料を含むことができる。
ソフトウェア又は命令は送信媒体を通じて送信することもできる。例えば、ソフトウェアが、同軸ケーブル、光ファイバケーブル、より対線、デジタル加入者ライン(DSL)、又は無線技術、例えば、赤外線、無線、及びマイクロ波、を用いてウェブサイト、サーバ、又はその他の遠隔ソースから送信される場合は、該同軸ケーブル、光ファイバケーブル、より対線、DSL、又は無線技術、例えば赤外線、無線、及びマイクロ波、は、送信媒体の定義の中に含まれる。
さらに、ここにおいて説明される方法及び技法を実施するためのモジュール及び/又はその他の適切な手段は、ユーザ端末及び/又は基地局によって適宜ダウンロードすること及び/又はその他の方法で入手することができることが評価されるべきである。例えば、該デバイスは、ここにおいて説明される方法を実行するための手段の転送を容易にするためにサーバに結合することができる。代替として、ここにおいて説明される様々な方法は、記憶手段(例えば、RAM、ROM、物理的記憶媒体、例えばコンパクトディスク(CD)、フロッピーディスク、等)を介して提供することができ、このため、ユーザ端末及び/又は基地局は、デバイスに記憶手段を結合又は提供次第様々な方法を入手することができる。さらに、ここにおいて説明される方法及び技法をデバイスに提供するためのあらゆるその他の適切な技法を利用可能である。
請求項は、上記の正確な構成及びコンポーネントに限定されないことが理解されるべきである。請求項の適用範囲を逸脱することなしに上述される方法及び装置の手はず、動作及び詳細の様々な修正、変更及び変形を行うことができる。
上記は、本開示の実施形態を対象とする一方で、本開示の基本的な適用範囲を逸脱することなしにそれのその他の及びさらなる実施形態を案出することができ、それの適用範囲は、後続する請求項によって決定される。
上記は、本開示の実施形態を対象とする一方で、本開示の基本的な適用範囲を逸脱することなしにそれのその他の及びさらなる実施形態を案出することができ、それの適用範囲は、後続する請求項によって決定される。
以下に、本願の出願当初の特許請求の範囲に記載された発明を付記する。
[C1]
複数のニューロン回路及び少なくとも1つのシナプスを有するニューロプロセッサチップと、
前記少なくとも1つのシナプスの荷重を格納する前記ニューロプロセッサチップに接続された取り外し可能なメモリと、を備え、前記少なくとも1つのシナプスは、一対のニューロン回路を接続し、前記荷重は、少なくとも部分的に、前記ニューロプロセッサチップの機能を定義する、電気回路。
[C2]
前記取り外し可能なメモリは、インタフェース回路を介して前記ニューロプロセッサチップに接続され、
前記インタフェース回路は、前記ニューロプロセッサチップから前記取り外し可能なメモリに及び前記取り外し可能なメモリから前記ニューロプロセッサチップに前記荷重を搬送するC1に記載の電気回路。
[C3]
前記ニューロプロセッサチップは、前記荷重の少なくとも一部を格納するためのローカルメモリを備えるC1に記載の電気回路。
[C4]
前記荷重は、前記取り外し可能なメモリ内に格納される前にニューロン回路の前記対に関して訓練されるC1に記載の電気回路。
[C5]
前記訓練された荷重の値は、他のニューロプロセッサチップに接続された他の取り外し可能なメモリ内において模写及び格納され、
前記他のニューロプロセッサチップは、少なくとも部分的に前記荷重の前記値に基づいて前記ニューロプロセッサチップの前記機能を実行するC4に記載の電気回路。
[C6]
前記取り外し可能なメモリは、前記取り外し可能なメモリと異なる前記荷重の値を格納する他の取り外し可能なメモリと交換され、
前記荷重の前記値は、少なくとも部分的に、前記ニューロプロセッサチップの他の機能を定義するC1に記載の電気回路。
[C7]
前記取り外し可能なメモリは、非揮発性メモリデバイスを備えるC1に記載の電気回路。
[C8]
ニューロプロセッサチップに取り外し可能なメモリを接続することと、
前記取り外し可能なメモリにシナプス荷重を格納することと、を備え、シナプスは、ニューロプロセッサチップの複数のニューロン回路のうちの2つを接続し、前記荷重は、少なくとも部分的に、前記ニューロプロセッサチップの機能を定義する、ニューラルシステムを実装するための方法。
[C9]
インタフェース回路を用いて前記ニューロプロセッサチップに前記取り外し可能なメモリを接続することと、
前記インタフェース回路を介して、前記ニューロプロセッサチップから前記取り外し可能なメモリに、及び前記取り外し可能なメモリから前記ニューロプロセッサチップに、前記荷重を転送することと、をさらに備えるC8に記載の方法。
[C10]
前記ニューロプロセッサチップ内のローカルメモリに前記シナプス荷重の少なくとも一部を格納することをさらに備えるC8に記載の方法。
[C11]
前記2つのニューロン回路に関して前記荷重を訓練することと、
前記取り外し可能なメモリに前記訓練された荷重を格納することと、をさらに備えるC8に記載の方法。
[C12]
他のニューロプロセッサチップに接続された他の取り外し可能なメモリに前記訓練された荷重の値を模写することをさらに備え、
前記他のニューロプロセッサチップは、少なくとも部分的に前記荷重の前記値に基づいて前記ニューロプロセッサチップの前記機能を実行するC11に記載の方法。
[C13]
前記取り外し可能なメモリと異なる前記荷重の値を格納する他の取り外し可能なメモリと前記取り外し可能なメモリを交換することをさらに備え、前記荷重の前記値は、少なくとも部分的に、前記ニューロプロセッサチップの他の機能を定義するC8に記載の方法。
[C14]
前記取り外し可能なメモリは、非揮発性メモリデバイスを備えるC8に記載の方法。
[C15]
ニューロプロセッサチップに取り外し可能なメモリを接続するための手段と、
前記取り外し可能なメモリにシナプス荷重を格納するための手段と、を備え、シナプスは、ニューロプロセッサチップの複数のニューロン回路のうちの2つを接続し、前記荷重は、少なくとも部分的に、前記ニューロプロセッサチップの機能を定義する、ニューラルシステムを実装するための装置。
[C16]
インタフェース回路を用いて前記ニューロプロセッサチップに前記取り外し可能なメモリを接続するための手段と、
前記インタフェース回路を介して、前記ニューロプロセッサチップから前記取り外し可能なメモリに、及び前記取り外し可能なメモリから前記ニューロプロセッサチップに、前記荷重を転送するための手段と、をさらに備えるC15に記載の装置。
[C17]
前記ニューロプロセッサチップ内のローカルメモリに前記シナプス荷重の少なくとも一部を格納するための手段をさらに備えるC15に記載の装置。
[C18]
前記2つのニューロン回路に関して前記荷重を訓練するための手段と、
前記取り外し可能なメモリに前記訓練された荷重を格納するための手段と、をさらに備えるC15に記載の装置。
[C19]
他のニューロプロセッサチップに接続された他の取り外し可能なメモリに前記訓練された荷重の値を模写するための手段をさらに備え、
前記他のニューロプロセッサチップは、少なくとも部分的に前記荷重の前記値に基づいて前記ニューロプロセッサチップの前記機能を実行するC18に記載の装置。
[C20]
前記取り外し可能なメモリと異なる前記荷重の値を格納する他の取り外し可能なメモリと前記取り外し可能なメモリを交換するための手段をさらに備え、前記荷重の前記値は、少なくとも部分的に、前記ニューロプロセッサチップの他の機能を定義するC15に記載の装置。
[C21]
前記取り外し可能なメモリは、非揮発性メモリデバイスを備えるC15に記載の装置。
以下に、本願の出願当初の特許請求の範囲に記載された発明を付記する。
[C1]
複数のニューロン回路及び少なくとも1つのシナプスを有するニューロプロセッサチップと、
前記少なくとも1つのシナプスの荷重を格納する前記ニューロプロセッサチップに接続された取り外し可能なメモリと、を備え、前記少なくとも1つのシナプスは、一対のニューロン回路を接続し、前記荷重は、少なくとも部分的に、前記ニューロプロセッサチップの機能を定義する、電気回路。
[C2]
前記取り外し可能なメモリは、インタフェース回路を介して前記ニューロプロセッサチップに接続され、
前記インタフェース回路は、前記ニューロプロセッサチップから前記取り外し可能なメモリに及び前記取り外し可能なメモリから前記ニューロプロセッサチップに前記荷重を搬送するC1に記載の電気回路。
[C3]
前記ニューロプロセッサチップは、前記荷重の少なくとも一部を格納するためのローカルメモリを備えるC1に記載の電気回路。
[C4]
前記荷重は、前記取り外し可能なメモリ内に格納される前にニューロン回路の前記対に関して訓練されるC1に記載の電気回路。
[C5]
前記訓練された荷重の値は、他のニューロプロセッサチップに接続された他の取り外し可能なメモリ内において模写及び格納され、
前記他のニューロプロセッサチップは、少なくとも部分的に前記荷重の前記値に基づいて前記ニューロプロセッサチップの前記機能を実行するC4に記載の電気回路。
[C6]
前記取り外し可能なメモリは、前記取り外し可能なメモリと異なる前記荷重の値を格納する他の取り外し可能なメモリと交換され、
前記荷重の前記値は、少なくとも部分的に、前記ニューロプロセッサチップの他の機能を定義するC1に記載の電気回路。
[C7]
前記取り外し可能なメモリは、非揮発性メモリデバイスを備えるC1に記載の電気回路。
[C8]
ニューロプロセッサチップに取り外し可能なメモリを接続することと、
前記取り外し可能なメモリにシナプス荷重を格納することと、を備え、シナプスは、ニューロプロセッサチップの複数のニューロン回路のうちの2つを接続し、前記荷重は、少なくとも部分的に、前記ニューロプロセッサチップの機能を定義する、ニューラルシステムを実装するための方法。
[C9]
インタフェース回路を用いて前記ニューロプロセッサチップに前記取り外し可能なメモリを接続することと、
前記インタフェース回路を介して、前記ニューロプロセッサチップから前記取り外し可能なメモリに、及び前記取り外し可能なメモリから前記ニューロプロセッサチップに、前記荷重を転送することと、をさらに備えるC8に記載の方法。
[C10]
前記ニューロプロセッサチップ内のローカルメモリに前記シナプス荷重の少なくとも一部を格納することをさらに備えるC8に記載の方法。
[C11]
前記2つのニューロン回路に関して前記荷重を訓練することと、
前記取り外し可能なメモリに前記訓練された荷重を格納することと、をさらに備えるC8に記載の方法。
[C12]
他のニューロプロセッサチップに接続された他の取り外し可能なメモリに前記訓練された荷重の値を模写することをさらに備え、
前記他のニューロプロセッサチップは、少なくとも部分的に前記荷重の前記値に基づいて前記ニューロプロセッサチップの前記機能を実行するC11に記載の方法。
[C13]
前記取り外し可能なメモリと異なる前記荷重の値を格納する他の取り外し可能なメモリと前記取り外し可能なメモリを交換することをさらに備え、前記荷重の前記値は、少なくとも部分的に、前記ニューロプロセッサチップの他の機能を定義するC8に記載の方法。
[C14]
前記取り外し可能なメモリは、非揮発性メモリデバイスを備えるC8に記載の方法。
[C15]
ニューロプロセッサチップに取り外し可能なメモリを接続するための手段と、
前記取り外し可能なメモリにシナプス荷重を格納するための手段と、を備え、シナプスは、ニューロプロセッサチップの複数のニューロン回路のうちの2つを接続し、前記荷重は、少なくとも部分的に、前記ニューロプロセッサチップの機能を定義する、ニューラルシステムを実装するための装置。
[C16]
インタフェース回路を用いて前記ニューロプロセッサチップに前記取り外し可能なメモリを接続するための手段と、
前記インタフェース回路を介して、前記ニューロプロセッサチップから前記取り外し可能なメモリに、及び前記取り外し可能なメモリから前記ニューロプロセッサチップに、前記荷重を転送するための手段と、をさらに備えるC15に記載の装置。
[C17]
前記ニューロプロセッサチップ内のローカルメモリに前記シナプス荷重の少なくとも一部を格納するための手段をさらに備えるC15に記載の装置。
[C18]
前記2つのニューロン回路に関して前記荷重を訓練するための手段と、
前記取り外し可能なメモリに前記訓練された荷重を格納するための手段と、をさらに備えるC15に記載の装置。
[C19]
他のニューロプロセッサチップに接続された他の取り外し可能なメモリに前記訓練された荷重の値を模写するための手段をさらに備え、
前記他のニューロプロセッサチップは、少なくとも部分的に前記荷重の前記値に基づいて前記ニューロプロセッサチップの前記機能を実行するC18に記載の装置。
[C20]
前記取り外し可能なメモリと異なる前記荷重の値を格納する他の取り外し可能なメモリと前記取り外し可能なメモリを交換するための手段をさらに備え、前記荷重の前記値は、少なくとも部分的に、前記ニューロプロセッサチップの他の機能を定義するC15に記載の装置。
[C21]
前記取り外し可能なメモリは、非揮発性メモリデバイスを備えるC15に記載の装置。
Claims (21)
- 複数のニューロン回路及び少なくとも1つのシナプスを有するニューロプロセッサチップと、
前記少なくとも1つのシナプスの荷重を格納する前記ニューロプロセッサチップに接続された取り外し可能なメモリと、を備え、前記少なくとも1つのシナプスは、一対のニューロン回路を接続し、前記荷重は、少なくとも部分的に、前記ニューロプロセッサチップの機能を定義する、電気回路。 - 前記取り外し可能なメモリは、インタフェース回路を介して前記ニューロプロセッサチップに接続され、
前記インタフェース回路は、前記ニューロプロセッサチップから前記取り外し可能なメモリに及び前記取り外し可能なメモリから前記ニューロプロセッサチップに前記荷重を搬送する請求項1に記載の電気回路。 - 前記ニューロプロセッサチップは、前記荷重の少なくとも一部を格納するためのローカルメモリを備える請求項1に記載の電気回路。
- 前記荷重は、前記取り外し可能なメモリ内に格納される前にニューロン回路の前記対に関して訓練される請求項1に記載の電気回路。
- 前記訓練された荷重の値は、他のニューロプロセッサチップに接続された他の取り外し可能なメモリ内において模写及び格納され、
前記他のニューロプロセッサチップは、少なくとも部分的に前記荷重の前記値に基づいて前記ニューロプロセッサチップの前記機能を実行する請求項4に記載の電気回路。 - 前記取り外し可能なメモリは、前記取り外し可能なメモリと異なる前記荷重の値を格納する他の取り外し可能なメモリと交換され、
前記荷重の前記値は、少なくとも部分的に、前記ニューロプロセッサチップの他の機能を定義する請求項1に記載の電気回路。 - 前記取り外し可能なメモリは、非揮発性メモリデバイスを備える請求項1に記載の電気回路。
- ニューロプロセッサチップに取り外し可能なメモリを接続することと、
前記取り外し可能なメモリにシナプス荷重を格納することと、を備え、シナプスは、ニューロプロセッサチップの複数のニューロン回路のうちの2つを接続し、前記荷重は、少なくとも部分的に、前記ニューロプロセッサチップの機能を定義する、ニューラルシステムを実装するための方法。 - インタフェース回路を用いて前記ニューロプロセッサチップに前記取り外し可能なメモリを接続することと、
前記インタフェース回路を介して、前記ニューロプロセッサチップから前記取り外し可能なメモリに、及び前記取り外し可能なメモリから前記ニューロプロセッサチップに、前記荷重を転送することと、をさらに備える請求項8に記載の方法。 - 前記ニューロプロセッサチップ内のローカルメモリに前記シナプス荷重の少なくとも一部を格納することをさらに備える請求項8に記載の方法。
- 前記2つのニューロン回路に関して前記荷重を訓練することと、
前記取り外し可能なメモリに前記訓練された荷重を格納することと、をさらに備える請求項8に記載の方法。 - 他のニューロプロセッサチップに接続された他の取り外し可能なメモリに前記訓練された荷重の値を模写することをさらに備え、
前記他のニューロプロセッサチップは、少なくとも部分的に前記荷重の前記値に基づいて前記ニューロプロセッサチップの前記機能を実行する請求項11に記載の方法。 - 前記取り外し可能なメモリと異なる前記荷重の値を格納する他の取り外し可能なメモリと前記取り外し可能なメモリを交換することをさらに備え、前記荷重の前記値は、少なくとも部分的に、前記ニューロプロセッサチップの他の機能を定義する請求項8に記載の方法。
- 前記取り外し可能なメモリは、非揮発性メモリデバイスを備える請求項8に記載の方法。
- ニューロプロセッサチップに取り外し可能なメモリを接続するための手段と、
前記取り外し可能なメモリにシナプス荷重を格納するための手段と、を備え、シナプスは、ニューロプロセッサチップの複数のニューロン回路のうちの2つを接続し、前記荷重は、少なくとも部分的に、前記ニューロプロセッサチップの機能を定義する、ニューラルシステムを実装するための装置。 - インタフェース回路を用いて前記ニューロプロセッサチップに前記取り外し可能なメモリを接続するための手段と、
前記インタフェース回路を介して、前記ニューロプロセッサチップから前記取り外し可能なメモリに、及び前記取り外し可能なメモリから前記ニューロプロセッサチップに、前記荷重を転送するための手段と、をさらに備える請求項15に記載の装置。 - 前記ニューロプロセッサチップ内のローカルメモリに前記シナプス荷重の少なくとも一部を格納するための手段をさらに備える請求項15に記載の装置。
- 前記2つのニューロン回路に関して前記荷重を訓練するための手段と、
前記取り外し可能なメモリに前記訓練された荷重を格納するための手段と、をさらに備える請求項15に記載の装置。 - 他のニューロプロセッサチップに接続された他の取り外し可能なメモリに前記訓練された荷重の値を模写するための手段をさらに備え、
前記他のニューロプロセッサチップは、少なくとも部分的に前記荷重の前記値に基づいて前記ニューロプロセッサチップの前記機能を実行する請求項18に記載の装置。 - 前記取り外し可能なメモリと異なる前記荷重の値を格納する他の取り外し可能なメモリと前記取り外し可能なメモリを交換するための手段をさらに備え、前記荷重の前記値は、少なくとも部分的に、前記ニューロプロセッサチップの他の機能を定義する請求項15に記載の装置。
- 前記取り外し可能なメモリは、非揮発性メモリデバイスを備える請求項15に記載の装置。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US12/831,484 US8676734B2 (en) | 2010-07-07 | 2010-07-07 | Methods and systems for replaceable synaptic weight storage in neuro-processors |
| US12/831,484 | 2010-07-07 |
Related Parent Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2015075223A Division JP2015167019A (ja) | 2010-07-07 | 2015-04-01 | ニューロプロセッサにおける交換可能なシナプス荷重記憶装置に関する方法及びシステム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2018014114A true JP2018014114A (ja) | 2018-01-25 |
| JP2018014114A5 JP2018014114A5 (ja) | 2018-04-12 |
Family
ID=44584777
Family Applications (3)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2013518841A Withdrawn JP2013534017A (ja) | 2010-07-07 | 2011-07-07 | ニューロプロセッサにおける交換可能なシナプス荷重記憶装置に関する方法及びシステム |
| JP2015075223A Pending JP2015167019A (ja) | 2010-07-07 | 2015-04-01 | ニューロプロセッサにおける交換可能なシナプス荷重記憶装置に関する方法及びシステム |
| JP2017156493A Pending JP2018014114A (ja) | 2010-07-07 | 2017-08-14 | ニューロプロセッサにおける交換可能なシナプス荷重記憶装置に関する方法及びシステム |
Family Applications Before (2)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2013518841A Withdrawn JP2013534017A (ja) | 2010-07-07 | 2011-07-07 | ニューロプロセッサにおける交換可能なシナプス荷重記憶装置に関する方法及びシステム |
| JP2015075223A Pending JP2015167019A (ja) | 2010-07-07 | 2015-04-01 | ニューロプロセッサにおける交換可能なシナプス荷重記憶装置に関する方法及びシステム |
Country Status (6)
| Country | Link |
|---|---|
| US (1) | US8676734B2 (ja) |
| EP (1) | EP2591449A1 (ja) |
| JP (3) | JP2013534017A (ja) |
| KR (1) | KR101466251B1 (ja) |
| CN (1) | CN102971754B (ja) |
| WO (1) | WO2012006468A1 (ja) |
Families Citing this family (42)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US8977583B2 (en) * | 2012-03-29 | 2015-03-10 | International Business Machines Corporation | Synaptic, dendritic, somatic, and axonal plasticity in a network of neural cores using a plastic multi-stage crossbar switching |
| CN104854602B (zh) * | 2012-12-03 | 2017-04-19 | Hrl实验室有限责任公司 | 一种神经网络单元、以及相关系统和方法 |
| US10339041B2 (en) | 2013-10-11 | 2019-07-02 | Qualcomm Incorporated | Shared memory architecture for a neural simulator |
| CN104809498B (zh) * | 2014-01-24 | 2018-02-13 | 清华大学 | 一种基于神经形态电路的类脑协处理器 |
| CN104809501B (zh) * | 2014-01-24 | 2018-05-01 | 清华大学 | 一种基于类脑协处理器的计算机系统 |
| US20150324691A1 (en) * | 2014-05-07 | 2015-11-12 | Seagate Technology Llc | Neural network connections using nonvolatile memory devices |
| EP3035249B1 (en) * | 2014-12-19 | 2019-11-27 | Intel Corporation | Method and apparatus for distributed and cooperative computation in artificial neural networks |
| WO2016187500A1 (en) | 2015-05-21 | 2016-11-24 | Cory Merkel | Method and apparatus for training memristive learning systems |
| US11226840B2 (en) | 2015-10-08 | 2022-01-18 | Shanghai Zhaoxin Semiconductor Co., Ltd. | Neural network unit that interrupts processing core upon condition |
| US11216720B2 (en) | 2015-10-08 | 2022-01-04 | Shanghai Zhaoxin Semiconductor Co., Ltd. | Neural network unit that manages power consumption based on memory accesses per period |
| US11221872B2 (en) | 2015-10-08 | 2022-01-11 | Shanghai Zhaoxin Semiconductor Co., Ltd. | Neural network unit that interrupts processing core upon condition |
| US11029949B2 (en) | 2015-10-08 | 2021-06-08 | Shanghai Zhaoxin Semiconductor Co., Ltd. | Neural network unit |
| US10664751B2 (en) * | 2016-12-01 | 2020-05-26 | Via Alliance Semiconductor Co., Ltd. | Processor with memory array operable as either cache memory or neural network unit memory |
| US10725934B2 (en) | 2015-10-08 | 2020-07-28 | Shanghai Zhaoxin Semiconductor Co., Ltd. | Processor with selective data storage (of accelerator) operable as either victim cache data storage or accelerator memory and having victim cache tags in lower level cache wherein evicted cache line is stored in said data storage when said data storage is in a first mode and said cache line is stored in system memory rather then said data store when said data storage is in a second mode |
| CN114037068A (zh) * | 2016-03-21 | 2022-02-11 | 杭州海存信息技术有限公司 | 利用三维存储器来存储激活函数查找表的神经计算电路 |
| US11270193B2 (en) | 2016-09-30 | 2022-03-08 | International Business Machines Corporation | Scalable stream synaptic supercomputer for extreme throughput neural networks |
| US10489702B2 (en) * | 2016-10-14 | 2019-11-26 | Intel Corporation | Hybrid compression scheme for efficient storage of synaptic weights in hardware neuromorphic cores |
| CN108073982B (zh) * | 2016-11-18 | 2020-01-03 | 上海磁宇信息科技有限公司 | 类脑计算系统 |
| US10423876B2 (en) * | 2016-12-01 | 2019-09-24 | Via Alliance Semiconductor Co., Ltd. | Processor with memory array operable as either victim cache or neural network unit memory |
| US11580373B2 (en) | 2017-01-20 | 2023-02-14 | International Business Machines Corporation | System, method and article of manufacture for synchronization-free transmittal of neuron values in a hardware artificial neural networks |
| US11615297B2 (en) | 2017-04-04 | 2023-03-28 | Hailo Technologies Ltd. | Structured weight based sparsity in an artificial neural network compiler |
| US11238334B2 (en) | 2017-04-04 | 2022-02-01 | Hailo Technologies Ltd. | System and method of input alignment for efficient vector operations in an artificial neural network |
| US12430543B2 (en) | 2017-04-04 | 2025-09-30 | Hailo Technologies Ltd. | Structured sparsity guided training in an artificial neural network |
| US10387298B2 (en) | 2017-04-04 | 2019-08-20 | Hailo Technologies Ltd | Artificial neural network incorporating emphasis and focus techniques |
| US11551028B2 (en) | 2017-04-04 | 2023-01-10 | Hailo Technologies Ltd. | Structured weight based sparsity in an artificial neural network |
| US11544545B2 (en) | 2017-04-04 | 2023-01-03 | Hailo Technologies Ltd. | Structured activation based sparsity in an artificial neural network |
| US10197971B1 (en) | 2017-08-02 | 2019-02-05 | International Business Machines Corporation | Integrated optical circuit for holographic information processing |
| JP6914342B2 (ja) * | 2017-09-07 | 2021-08-04 | パナソニック株式会社 | 半導体記憶素子を用いたニューラルネットワーク演算回路 |
| US11074499B2 (en) | 2017-11-20 | 2021-07-27 | International Business Machines Corporation | Synaptic weight transfer between conductance pairs with polarity inversion for reducing fixed device asymmetries |
| WO2019141902A1 (en) * | 2018-01-17 | 2019-07-25 | Nokia Technologies Oy | An apparatus, a method and a computer program for running a neural network |
| CN109886416A (zh) * | 2019-02-01 | 2019-06-14 | 京微齐力(北京)科技有限公司 | 集成人工智能模块的系统芯片及机器学习方法 |
| CN112684977B (zh) * | 2019-10-18 | 2024-05-28 | 旺宏电子股份有限公司 | 存储器装置及其存储器内计算方法 |
| KR102838205B1 (ko) | 2019-10-21 | 2025-07-25 | 삼성전자주식회사 | 플래시 메모리 장치 및 플래시 메모리 셀들을 포함하는 컴퓨팅 장치 |
| US11270759B2 (en) | 2019-10-21 | 2022-03-08 | Samsung Electronics Co., Ltd. | Flash memory device and computing device including flash memory cells |
| US11264082B2 (en) | 2019-10-28 | 2022-03-01 | Samsung Electronics Co., Ltd. | Memory device, memory system and autonomous driving apparatus |
| KR102815725B1 (ko) | 2019-10-28 | 2025-06-04 | 삼성전자주식회사 | 메모리 장치, 메모리 시스템 및 자율 주행 장치 |
| US11221929B1 (en) | 2020-09-29 | 2022-01-11 | Hailo Technologies Ltd. | Data stream fault detection mechanism in an artificial neural network processor |
| US11263077B1 (en) | 2020-09-29 | 2022-03-01 | Hailo Technologies Ltd. | Neural network intermediate results safety mechanism in an artificial neural network processor |
| US12248367B2 (en) | 2020-09-29 | 2025-03-11 | Hailo Technologies Ltd. | Software defined redundant allocation safety mechanism in an artificial neural network processor |
| US11811421B2 (en) | 2020-09-29 | 2023-11-07 | Hailo Technologies Ltd. | Weights safety mechanism in an artificial neural network processor |
| US11237894B1 (en) | 2020-09-29 | 2022-02-01 | Hailo Technologies Ltd. | Layer control unit instruction addressing safety mechanism in an artificial neural network processor |
| CN115705301A (zh) * | 2021-08-11 | 2023-02-17 | 华为技术有限公司 | 神经网络参数部署方法、ai集成芯片及其相关装置 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH04346040A (ja) * | 1991-05-23 | 1992-12-01 | Minolta Camera Co Ltd | 色彩計 |
| JPH0561847A (ja) * | 1991-09-02 | 1993-03-12 | Toshiba Corp | ニユーラルネツトワーク学習装置 |
| JPH0561843A (ja) * | 1991-05-15 | 1993-03-12 | Wacom Co Ltd | ニユーラルネツトワーク装置 |
| JPH07192073A (ja) * | 1993-12-27 | 1995-07-28 | Rohm Co Ltd | プログラマブル・デバイス及びプログラマブル・デバイスを使用した装置 |
Family Cites Families (23)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US5214743A (en) * | 1989-10-25 | 1993-05-25 | Hitachi, Ltd. | Information processing apparatus |
| US5329611A (en) * | 1990-05-22 | 1994-07-12 | International Business Machines Corp. | Scalable flow virtual learning neurocomputer |
| JPH04182769A (ja) * | 1990-11-17 | 1992-06-30 | Nissan Motor Co Ltd | デジタル・ニューロプロセッサ |
| IT1244912B (it) * | 1991-01-31 | 1994-09-13 | Texas Instruments Italia Spa | Sistema di apprendimento per rete neuronica di opportuna architettura fisicamente inseribile nel processo di apprendimento. |
| IT1244911B (it) * | 1991-01-31 | 1994-09-13 | Texas Instruments Italia Spa | Architettura per rete neuronica fisicamente inseribile nel processo di apprendimento. |
| JPH04320223A (ja) * | 1991-04-19 | 1992-11-11 | Sharp Corp | オートアイリス装置 |
| US5278945A (en) * | 1992-01-10 | 1994-01-11 | American Neuralogical, Inc. | Neural processor apparatus |
| KR960013367B1 (ko) * | 1992-05-30 | 1996-10-04 | 정호선 | 프로그램이 가능한 다층 신경회로망 |
| KR0178805B1 (ko) * | 1992-08-27 | 1999-05-15 | 정호선 | 스스로 학습이 가능한 다층 신경회로망 및 학습 방법 |
| JPH06250997A (ja) * | 1993-03-01 | 1994-09-09 | Toshiba Corp | 神経回路網の高速学習装置 |
| DE69430744T2 (de) * | 1994-07-28 | 2003-01-30 | International Business Machines Corp., Armonk | Verbesserte Neuronalhalbleiterchipsarchitekturen und Neuronalnetzwerke darin |
| JPH1021209A (ja) * | 1996-06-27 | 1998-01-23 | Shimazu Yasumasa | 汎用ディジタルニューラル計算機 |
| JP2004295177A (ja) * | 2003-03-25 | 2004-10-21 | Seiko Epson Corp | 電子機器のコントローラおよびプリンタコントローラ |
| MY138544A (en) * | 2003-06-26 | 2009-06-30 | Neuramatix Sdn Bhd | Neural networks with learning and expression capability |
| JP2005098555A (ja) * | 2003-09-22 | 2005-04-14 | Denso Corp | ニューラルネットワーク型空調装置 |
| CN100576807C (zh) * | 2004-08-20 | 2009-12-30 | 富士通株式会社 | 无线网络系统 |
| JP2006085557A (ja) * | 2004-09-17 | 2006-03-30 | Toshiba Corp | メモリ管理装置及びデータ処理装置 |
| US7533071B2 (en) * | 2005-06-28 | 2009-05-12 | Neurosciences Research Foundation, Inc. | Neural modeling and brain-based devices using special purpose processor |
| US7904398B1 (en) * | 2005-10-26 | 2011-03-08 | Dominic John Repici | Artificial synapse component using multiple distinct learning means with distinct predetermined learning acquisition times |
| US20070288410A1 (en) * | 2006-06-12 | 2007-12-13 | Benjamin Tomkins | System and method of using genetic programming and neural network technologies to enhance spectral data |
| JP4842742B2 (ja) * | 2006-09-05 | 2011-12-21 | 富士通株式会社 | ソフトウェア管理プログラム、ソフトウェア管理方法およびソフトウェア管理装置 |
| US7814038B1 (en) * | 2007-12-06 | 2010-10-12 | Dominic John Repici | Feedback-tolerant method and device producing weight-adjustment factors for pre-synaptic neurons in artificial neural networks |
| JP5154666B2 (ja) * | 2008-03-14 | 2013-02-27 | ヒューレット−パッカード デベロップメント カンパニー エル.ピー. | ニューロモーフィック回路 |
-
2010
- 2010-07-07 US US12/831,484 patent/US8676734B2/en active Active
-
2011
- 2011-07-07 EP EP11733755.0A patent/EP2591449A1/en not_active Ceased
- 2011-07-07 KR KR1020137003298A patent/KR101466251B1/ko active Active
- 2011-07-07 CN CN201180033657.2A patent/CN102971754B/zh active Active
- 2011-07-07 WO PCT/US2011/043254 patent/WO2012006468A1/en not_active Ceased
- 2011-07-07 JP JP2013518841A patent/JP2013534017A/ja not_active Withdrawn
-
2015
- 2015-04-01 JP JP2015075223A patent/JP2015167019A/ja active Pending
-
2017
- 2017-08-14 JP JP2017156493A patent/JP2018014114A/ja active Pending
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH0561843A (ja) * | 1991-05-15 | 1993-03-12 | Wacom Co Ltd | ニユーラルネツトワーク装置 |
| JPH04346040A (ja) * | 1991-05-23 | 1992-12-01 | Minolta Camera Co Ltd | 色彩計 |
| JPH0561847A (ja) * | 1991-09-02 | 1993-03-12 | Toshiba Corp | ニユーラルネツトワーク学習装置 |
| JPH07192073A (ja) * | 1993-12-27 | 1995-07-28 | Rohm Co Ltd | プログラマブル・デバイス及びプログラマブル・デバイスを使用した装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| US8676734B2 (en) | 2014-03-18 |
| EP2591449A1 (en) | 2013-05-15 |
| CN102971754B (zh) | 2016-06-22 |
| JP2013534017A (ja) | 2013-08-29 |
| KR101466251B1 (ko) | 2014-11-27 |
| CN102971754A (zh) | 2013-03-13 |
| KR20130036323A (ko) | 2013-04-11 |
| JP2015167019A (ja) | 2015-09-24 |
| US20120011087A1 (en) | 2012-01-12 |
| WO2012006468A1 (en) | 2012-01-12 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP2018014114A (ja) | ニューロプロセッサにおける交換可能なシナプス荷重記憶装置に関する方法及びシステム | |
| KR101611222B1 (ko) | 신경망의 시냅틱 가중치들을 저장하기 위해 확률적 방식으로 메모리를 이용하기 위한 방법 및 장치 | |
| US11620505B2 (en) | Neuromorphic package devices and neuromorphic computing systems | |
| CN103282919B (zh) | 强化学习的电子突触 | |
| US11361216B2 (en) | Neural network circuits having non-volatile synapse arrays | |
| KR102706475B1 (ko) | 아날로그-디지털 컨버터 및 이를 포함하는 뉴로모픽 컴퓨팅 장치 | |
| JP6591548B2 (ja) | ニューロモーフィック記憶回路、それを動作させるための方法、およびそのコンピュータ・プログラム | |
| US10248906B2 (en) | Neuromorphic circuits for storing and generating connectivity information | |
| JP2017509953A (ja) | 低スパイキングレートのためのニューラルネットワークを構成すること | |
| US11334412B2 (en) | Digital backed flash refresh | |
| JP6219509B2 (ja) | シナプス遅延を動的に割り当てることおおよび検査すること | |
| CN114365223B (zh) | 尖峰神经单元 | |
| US20200019845A1 (en) | Scalable refresh for asymmetric non-volatile memory-based neuromorphic circuits | |
| CN111931923A (zh) | 近存储器运算系统 | |
| CN117037877A (zh) | 基于NOR Flash的存内计算芯片及其控制方法 | |
| Lei et al. | Set/reset reference and parasitic matching scheme to speed up PCM read operation |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180228 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20181113 |
|
| A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20190618 |