TWI764708B

TWI764708B - 用於在一矩陣向量處理系統中轉置之方法，非暫時性電腦程式產品及電路

Info

Publication number: TWI764708B
Application number: TW110116150A
Authority: TW
Inventors: 強納森羅斯; 羅伯特大衛努克爾斯; 克里斯多福艾倫克拉克; 展鹏李; 格雷戈里麥克索森
Original assignee: 美商谷歌有限責任公司
Priority date: 2017-02-16
Filing date: 2017-10-30
Publication date: 2022-05-11
Also published as: TWI659316B; EP3564830A1; CN108446252B; EP3364307A1; GB2559832B; DE102017125049A1; DK3564830T3; US10922057B2; TW201923616A; TW201832101A; US20200019380A1; WO2018151769A1; US20210165635A1; FI4099190T3; TW202147148A; HK1259156A1; DK3916589T3; TWI695279B; EP3364307B1; EP4099190B1

Abstract

一種用於轉置一矩陣之電路包括：反轉電路，其經組態以針對該矩陣之一或多條對角線之各者接收該矩陣之在一第一向量中之元素及產生一第二向量，該第二向量包含該矩陣之依與該矩陣之在該第一向量中之該等元素之一順序反向之一順序之元素；及旋轉電路，其經組態以針對該矩陣之該一或多條對角線之各者判定使該矩陣之在該第二向量中之該等元素旋轉所達之位置之一數目，接收該矩陣之元素之該第二向量，及產生一第三向量，該第三向量包含該矩陣之在該第二向量中之依該矩陣之在該第二向量中之該等元素達該經判定數目個位置之一旋轉之一順序之元素。

Description

用於在一矩陣向量處理系統中轉置之方法，非暫時性電腦程式產品及電路

本說明書係關於在硬體中運算矩陣轉置。一矩陣轉置係將一矩陣反射於其自左上方(0,0)位置延伸至右下方(n,n)位置之主對角線上方所藉助之一運算，其中n係該矩陣之尺寸之較小者。其效應為，一輸入矩陣之列係作為一經轉置矩陣之行輸出。即，對於一輸入矩陣A之第i列及第j行元素，[A^T ]_ij = [A]_ji 。

一般而言，本說明書描述運算矩陣轉置之一專用硬體電路。一般而言，本說明書中所描述之標的之一新穎態樣可體現於一種用於轉置一矩陣之電路中，該電路包括反轉電路，該反轉電路經組態以：針對該矩陣之一或多條對角線之各者接收該矩陣之該對角線之在一第一向量中之元素；及針對該矩陣之該一或多條對角線之各者產生一第二向量，該第二向量包含該矩陣之該對角線之依與該矩陣之該對角線之在該第一向量中之該等元素之一順序反向之一順序之元素。該電路包括旋轉電路，該旋轉電路經組態以：針對該矩陣之該一或多條對角線之各者判定使該矩陣之該對角線之在該第二向量中之該等元素旋轉所達之位置之一數目；針對該矩陣之該一或多條對角線之各者接收該矩陣之該對角線之元素之該第二向量；及針對該矩陣之該一或多條對角線之各者產生一第三向量，該第三向量包含該矩陣之該對角線之在該第二向量中之依該矩陣之該對角線之在該第二向量中之該等元素達該經判定數目個位置之一旋轉之一順序之元素。實施方案可包含以下特徵之一或多者。電路包括計數電路，該計數電路經組態以針對矩陣之一或多條對角線之各者將使該矩陣之該對角線之在第二向量中之元素旋轉所達之位置之一數目輸出至旋轉電路；該計數電路經組態以針對該矩陣之該一或多條對角線之各者輸出一值作為使該矩陣之該對角線之在該第二向量中之該等元素旋轉所達之位置之該數目，其中藉由該計數電路輸出之一初始值等於N-1，其中N等於旋轉電路之寬度；該計數電路經組態以遞減藉由該計數電路針對該矩陣之該一或多條對角線之各者輸出之該值，且在藉由該計數電路輸出之該值針對該矩陣之該一或多條對角線之一者為零之後，將該值重設為初始值。實施方案可各視需要包含以下特徵之一或多者。矩陣係一第二矩陣之一子矩陣；電路包括交錯記憶體讀取電路，該交錯記憶體讀取電路經組態以針對該矩陣之一或多條對角線之各者存取該矩陣之該對角線之元素，及將該矩陣之該對角線之作為第一向量之元素輸出至反轉電路；該交錯記憶體讀取電路包括M個多工器，其中M等於該反轉電路之寬度，且其中各多工器經組態以輸出一矩陣之一行之複數個元素之一者；該交錯記憶體讀取電路經組態以接收一控制信號，該控制信號針對該M個多工器之各者指定該多工器之一輸入以提供為該多工器之一輸出；該M個多工器之各者係一N對1多工器，其中N係能夠藉由旋轉電路接收之元素之數目；該交錯記憶體讀取電路經組態以接收針對該M個多工器之一第一者或多者指定該多工器之一輸入以提供為該多工器之一輸出之一第一控制信號，及接收針對該M個多工器之一第二者或多者指定該多工器之一輸入以提供為該多工器之一輸出之一第二控制信號。實施方案可各視需要包含以下特徵之一或多者。電路包括一交錯記憶體寫入電路，該交錯記憶體寫入電路經組態以針對矩陣之一或多條對角線之各者將該矩陣之該對角線之在第三向量中之元素作為一轉置輸出矩陣之一對角線寫入至記憶體；該矩陣包括作為一單個矩陣儲存於記憶體中之兩個或兩個以上矩陣；旋轉電路經組態以執行該矩陣之對角線之在第二向量中之元素達經判定數目個位置之右旋轉以產生第三向量；該矩陣係儲存於可藉由電路存取之一靜態隨機存取記憶體處；針對矩陣之一或多條對角線之各者，該矩陣之對角線之在該第三向量中之元素作為一轉置輸出矩陣之一對角線儲存於一靜態隨機存取記憶體中。實施方案可各視需要包含以下特徵之一或多者。電路包括第二旋轉電路，該第二旋轉電路經組態以針對一第二矩陣之一或多條對角線之各者判定使該第二矩陣之該對角線之元素旋轉所達之位置之一數目，針對該第二矩陣之該一或多條對角線之各者接收包含該第二矩陣之該對角線之元素之一第四向量，及針對該第二矩陣之該一或多條對角線之各者產生一第五向量，該第五向量包含該第二矩陣之該對角線之在該第四向量中之依該第二矩陣之該對角線之在該第四向量中之該等元素達該經判定數目個位置之一旋轉之一順序之元素；電路包括第二計數電路，該第二計數電路經組態以針對第二矩陣之一或多條對角線之各者將使該第二矩陣之該對角線之在第四向量中之元素旋轉所達之位置之一數目輸出至第二旋轉電路。本說明書中所描述之標的之另一新穎態樣可體現於一種用於轉置一輸入向量之電路中，該電路包括反轉電路，該反轉電路經組態以：針對該輸入向量之一或多個元素之各者接收包含該輸入向量之元素之一第一向量；及針對該輸入向量之該一或多個元素之各者產生一第二向量，該第二向量包含該第一向量之依與該第一向量中之該等元素之順序反向之一順序之元素。該電路包括旋轉電路，該旋轉電路經組態以：針對輸入向量之一或多個元素之各者判定使第二向量中之元素旋轉所達之位置之一數目；針對該輸入向量之該一或多個元素之各者接收元素之該第二向量；及針對該輸入向量之該一或多個元素之各者產生一第三向量，該第三向量包含該第二向量之依該第二向量中之元素達該經判定數目個位置之一旋轉之一順序之元素。可實施本申請案中所描述之標的之特定實施例以便實現以下優點之一或多者。可在硬體中藉由一專用硬體電路產生對應於一輸入矩陣之一轉置之一轉置輸出矩陣。藉由使用該專用硬體電路產生適當輸出，可在無需將資料傳回至一主機電腦的情況下(即，無需執行晶片外或軟體中之運算之至少一部分的情況下)執行一矩陣轉置運算。因此，避免由執行晶片外或軟體中之轉置運算(其中該運算可為需要大量通用處理器(例如，GPU或CPU)循環來執行之一昂貴運算)所引起之處理延遲。與在一通用矩陣處理硬體電路(例如，亦經組態以執行矩陣卷積或其他操作之一電路)中執行矩陣轉置運算之一系統相比，使用專門經設計以執行矩陣轉置運算之一硬體電路亦容許更有效處理。在一專用硬體電路上實施矩陣轉置運算允許有效處置矩陣轉置運算而無針對其他矩陣操作能力或效率的顧慮，及保留用於執行該等其他矩陣操作之其他矩陣處理硬體電路，藉此大體上增大在硬體中之矩陣運算之效率之一設計。在隨附圖式及下文描述中闡述本說明書之標的之一或多項實施例之細節。將自描述、圖式及發明申請專利範圍明白標的之其他特徵、態樣及優點。

相關申請案之交叉參考 本申請案主張於2016年2月16日申請之美國臨時申請案第62/459,943號之權利，該案之內容以引用的方式併入本文中。一矩陣轉置運算產生一輸出矩陣，其中一輸入矩陣之列經重寫為該輸出矩陣之行，即，對於一輸入矩陣A之第i列及第j行元素，[A^T ]_ij = [A]_ji 。因此，轉置一輸入矩陣將一輸入矩陣有效反射於其自該矩陣之(0,0)位置延伸至該矩陣之(n-1,n-1)位置之主對角線上方，其中n係該矩陣之尺寸之較小者。用於此等及其他矩陣轉置運算之實踐應用係多種多樣的。例如，可在訓練一類神經網路時運算一矩陣轉置。在此一應用中，為在訓練一類神經網路時反向傳播梯度，可運算用於實施該類神經網路之一層之一權重矩陣之一轉置。在其他例項中，可對藉由一類神經網路運算之一推論執行矩陣轉置，或可對一類神經網路之一特定層之矩陣或向量輸出執行矩陣轉置。矩陣轉置運算頻繁用於線性代數之應用中。例如，一矩陣轉置運算係用於運算兩個輸入矩陣A及B之點積，使得A^T B = A ∙ B。舉例而言，該點積可用於運算矩陣之角度及尺寸，此係因為A ∙ B = ||A|| ||B|| cos θ。點積亦可用於運算關於向量之線性函數，其中將一向量A當作一引數之一線性函數可藉由運算該向量A與表示該線性函數之向量之一集合之間之點積來執行。亦可在影像處理應用中執行矩陣轉置運算，以便執行影像翻轉或旋轉操作。可使用轉置運算操縱表示為一矩陣之一數位影像以產生該數位影像之旋轉或鏡像。在信號處理及其他領域中，例如，在執行多維平行快速傅立葉轉換(FFT)演算法時，使用矩陣轉置來實施FFT演算法。社群網路或其他網路分析亦可利用矩陣轉置運算來判定該網路中之節點之間的關係之源或判定該網路中之節點之間的關係之型樣。統計程式設計、地理資訊系統及其他應用亦頻繁利用矩陣轉置運算。本說明書描述處理一輸入矩陣或向量以產生一轉置輸出矩陣(即，該輸入矩陣或向量之一轉置)之專用硬體電路。圖1展示一實例性矩陣向量處理系統100。該矩陣向量處理系統100係實施為其中可實施下文所描述之系統、組件及技術之一或多個位置中之一或多個電腦之一系統之一實例。矩陣向量處理系統100係使用一專用硬體電路110執行矩陣或向量運算之一系統。該專用硬體電路110係包含經組態以在硬體中運算矩陣轉置之一轉置單元120之用於執行矩陣或向量運算之一積體電路。參考圖2更詳細描述一實例性專用硬體電路110。矩陣向量處理系統100接收在專用硬體電路110上執行矩陣或向量運算之請求，控制該專用硬體電路110以執行該等矩陣或向量運算，及輸出藉由該專用硬體電路110產生之該等矩陣或向量運算之結果。例如，矩陣向量處理系統100可接收運算一輸入矩陣之一轉置之一請求，在專用硬體電路110上實施矩陣轉置運算，及回應於該請求輸出一所得轉置矩陣。除了矩陣轉置之外，專用硬體電路110亦可能夠執行額外運算。為在專用硬體電路110上實施矩陣或向量運算，矩陣向量處理系統100包含一矩陣向量處理引擎150。該矩陣向量處理引擎150可實施為一或多個實體位置中之一或多個電腦上之一或多個電腦程式。矩陣向量處理引擎150可回應於一請求產生指令，提供控制信號，或引導資料以控制專用硬體電路110以執行矩陣或向量運算。例如，矩陣向量處理系統100可接收執行一矩陣或向量函數之一請求，且矩陣向量處理引擎150可判定用於運算該函數之特定指令或控制信號，或可判定如何引導(例如)對應於輸入矩陣或向量之資料以用於運算。一旦矩陣向量處理引擎150判定如何實施對應於一矩陣或向量運算請求之運算，該矩陣向量處理引擎150即控制專用硬體電路110來執行該等運算。例如，矩陣向量處理引擎150可將用於執行矩陣或向量運算之資料(諸如輸入矩陣或向量)引導至專用硬體電路110。矩陣向量處理引擎150亦可將指令或控制信號傳輸至專用硬體電路110以控制該專用硬體電路110以對藉由其自該矩陣向量處理引擎150接收之資料執行適當運算。例如，矩陣向量處理系統100可接收運算一矩陣或向量函數之一請求。該所請求函數可相對較簡單(例如，運算一點積之一請求)，或可為涉及運算一矩陣之一轉置之一較複雜函數，例如用於反向傳播梯度以訓練一類神經網路或用於執行一多維平行FFT之一函數。該請求亦可識別或包含用於運算函數之一或多個矩陣或向量，即，針對其等應用函數之一或多個引數。矩陣向量處理引擎150可接收請求且可產生控制信號或指令以運算針對輸入矩陣或向量之函數。此外，矩陣向量處理引擎150可將輸入矩陣或向量引導至專用硬體電路110。例如，為運算一矩陣轉置，矩陣向量處理引擎150可提供一輸入矩陣或向量或產生為一先前運算之一輸出之矩陣或向量，針對該矩陣或向量執行至專用硬體電路110之轉置，使得將輸入矩陣或向量提供至轉置單元120。矩陣向量處理引擎150亦可將用於起始轉置單元120上之轉置運算之一控制信號提供至專用硬體電路110。轉置單元120可接收輸入矩陣或向量及用於起始轉置運算之該控制信號。轉置單元120可回應於接收控制信號而執行轉置運算，且可輸出作為經接收矩陣或向量之轉置之一矩陣或向量。藉由轉置單元120輸出之轉置矩陣可藉由專用硬體電路110在其他運算中用於運算所請求函數。專用硬體電路110可提供矩陣向量處理系統100可回應於請求而返回之所請求函數之一輸出。圖2展示用於運算矩陣轉置之一實例性專用硬體電路200。在一些實施方案中，該電路200可包含未展示之用於執行其他矩陣或向量運算之額外組件。用於執行其他矩陣或向量運算之額外組件亦可利用圖2中所展示之組件之一或多者。電路200包含一主機介面202。該主機介面202可接收用於一轉置運算之控制信號、指令或引數。該等引數可包含(例如)對其執行一轉置運算之一矩陣或向量。藉由主機介面202接收之指令可包含指示在何處儲存經接收引數，使得電路200可運算矩陣轉置之指令。藉由主機介面接收之一控制信號可為用於起始轉置運算之一信號。在一些實施方案中，主機介面202可對定序器206提供指令，該定序器206將該等指令轉換成控制電路200以執行轉置運算之低階控制信號。例如，藉由定序器206產生之控制信號可調節電路200中之資料流，例如，一輸入矩陣或向量應儲存於何處或該資料原本應如何被引導通過電路200。定序器206可接收起始電路200上之一轉置運算之一指令，且可產生用於控制一轉置單元212以起始一轉置運算之一控制信號。定序器206可發送控制信號至記憶體208及轉置單元212。在一些實施方案中，定序器206亦發送控制信號至一直接記憶體存取引擎204。在一些實施方案中，定序器206係產生控制信號之一處理器。定序器206可使用控制信號之時序以在適當時間發送控制信號至電路200之適當組件。在一些例項中，定序器206可自主機介面202接收自電路200外部(例如，自圖1之向量矩陣處理引擎150)傳入之控制信號，使得該定序器206不需要產生控制信號。在此等例項中，定序器206可在適當時間發送所接收控制信號至電路200之組件。此外，在對電路200提供控制信號之情況下，定序器206可為該電路200之一選用組件，即，使得該電路200外部之一組件(例如，矩陣向量處理引擎150)可在適當時間提供控制信號以控制該電路200以執行一矩陣轉置操作。主機介面202可發送一引數(例如，一輸入矩陣或向量)至直接記憶體存取引擎204。該直接記憶體存取引擎204可將該引數儲存於記憶體208處。記憶體208可為一記憶體緩衝器(例如，一統一緩衝器)，或可為一靜態記憶體，例如，一靜態隨機存取記憶體(SRAM)。記憶體208可定位於電路200上或電路200外。其可用於儲存輸入至電路200之一引數，諸如一矩陣或向量。記憶體208亦可儲存轉置單元212之輸出，即，一轉置輸出矩陣或向量。在一些實施方案中，直接記憶體存取引擎204可自記憶體208讀取。例如，直接記憶體存取引擎204可自記憶體208讀取以自電路200返回執行一矩陣轉置之一結果。記憶體208可發送一引數至轉置單元212以用於轉置。例如，在直接記憶體存取引擎204將一輸入矩陣或向量儲存於記憶體208中之後，可對轉置單元212提供該輸入矩陣或向量或使該轉置單元212可存取該輸入矩陣或向量，使得該轉置單元212可運算該輸入矩陣或向量之一轉置。轉置單元212係用於運算矩陣或向量轉置之一電路。在一些實施方案中，轉置單元212經設計使得該轉置單元可經觸發以基於接收用於起始轉置運算之一引數及一控制信號來運算一矩陣轉置。即，轉置單元212可經組態以僅需要一單個控制信號來對一引數執行一完整轉置程序及產生該引數之一轉置，即，一轉置輸出矩陣或向量。在此一實施方案中，一旦起始一轉置運算，轉置單元212即可以一固定方式執行一完整轉置運算，即，使得該轉置單元212將以相同方式執行轉置運算，而無關於提供至該轉置單元212之引數。因此，轉置單元212可經組態以執行相同運算，而無關於一輸入矩陣是否為一64×64元素矩陣、一128×128元素矩陣等。轉置單元212將輸出(即，轉置輸出矩陣或向量)儲存於記憶體208處。一般而言，為運算一矩陣或向量轉置，轉置單元212執行儲存於記憶體208中之一引數之一交錯記憶體讀取。當該引數係一矩陣時，該交錯記憶體讀取使轉置單元212能夠針對該矩陣之各對角線獲得一暫存器中之對應於該矩陣之該對角線之元素之一向量。轉置單元212反轉儲存於該暫存器中之矩陣之對角線之該等元素之順序以產生該矩陣之該對角線之元素之一第二向量及將該第二向量儲存於(例如)相同暫存器或一第二暫存器中。該第二向量之元素經移位達經判定數目個位置以獲得包含矩陣之對角線之元素之一第三向量，接著將該第三向量儲存於(例如)相同暫存器或一第三暫存器中。執行一交錯記憶體寫入以將(例如)該第三暫存器中之第三向量中之元素放置於適當記憶體位置中。針對矩陣之各對角線重複該程序以獲得作為該矩陣之轉置儲存於記憶體中之一轉置輸出矩陣。如上文所論述，在引數係一向量時執行此等相同操作。因此，在引數係一向量時，交錯記憶體讀取使轉置單元212能夠針對程序之各反覆獲得一暫存器中之該向量之一單個元素。根據上文程序操縱該暫存器中針對各反覆之該元素以獲得向量之一轉置。在對一向量執行轉置運算之情況下，轉置輸出向量亦將為一向量，然而，一輸入行向量將已被轉換成一列向量，且一列向量已被轉換成一行向量。圖3展示一轉置單元300之一實例性架構。在所繪示之實例中，一交錯記憶體讀取器310存取一輸入矩陣或向量，且輸出對應於該輸入矩陣之一對角線之元素。該交錯記憶體讀取器可處理以該輸入矩陣之(0,0)對角線開始之該輸入矩陣之各對角線。輸入矩陣之各對角線係自該輸入矩陣之左下方延伸至右上方之一元素對角線，即，自該輸入矩陣之(n-1,0)元素延伸至該輸入矩陣之(0,n-1)元素之元素對角線。參考圖4進一步詳細論述交錯記憶體讀取器310之操作。藉由值載入器320接收藉由交錯記憶體讀取器310輸出之輸入矩陣之對角線之元素，其中各值載入器320對應於藉由該交錯記憶體讀取器310存取之資料(即，輸入矩陣)之一不同行。在圖3中所展示之實例性轉置單元300中，轉置單元架構300能夠運算高達4×4之轉置，然而，相同技術可經擴展用於任何尺寸轉置單元。因此，在轉置一4×4輸入矩陣時，值載入器320之各者對應於該輸入矩陣之一行。若使用4×4轉置單元300轉置小於4×4之一矩陣，則可摒棄或忽略提供至較高值載入器之值。例如，若藉由交錯記憶體讀取器310讀取一3×3輸入矩陣，則可忽略或摒棄輸出至值載入器[3]之值，此係因為該等值未對應於該輸入矩陣之元素。值載入器320將經接收元素傳輸至一輸入暫存器330，其中該輸入暫存器儲存作為一第一向量之元素。對於實例性轉置單元300，輸入暫存器可為對應於轉置單元300可處理之最大尺寸輸入矩陣之尺寸(即，4×4)之元素之一1×4暫存器。因此，可將藉由值載入器[0]接收之一元素儲存於輸入暫存器330之一(0,0)元素中，可將藉由值載入器[1]接收之一元素儲存於輸入暫存器330之一(0,1)元素中等等。在一些實施方案中，若輸入至轉置單元300之矩陣小於用於該轉置單元300之最大輸入矩陣尺寸，則值載入器320不會將未對應於該輸入矩陣之元素之值發送至輸入暫存器330。例如，若將一3×3矩陣輸入至4×4轉置單元300，則值載入器[3]不會發送值至輸入暫存器330。一反轉器340接收儲存於輸入暫存器330中之元素且反轉該等元素之順序以產生元素之一第二向量。在一些實施方案中，該反轉器340接收儲存於輸入暫存器330處之元素之第一向量，且反轉該第一向量之該等元素之順序以產生一第二向量。例如，可將輸入暫存器330之元素發送至反轉器340，且該反轉器340可將該等元素以與其等儲存於輸入暫存器330中之順序反向之一順序寫入至另一暫存器。對於所繪示之轉置單元300，反轉元素之順序可包括將輸入暫存器330之[0]位置中之一元素儲存於反轉器340之暫存器之一[3]位置中，將輸入暫存器330之[1]位置中之一元素儲存於反轉器340之暫存器之一[2]位置中，將輸入暫存器330之[2]位置中之一元素儲存於反轉器340之暫存器之一[1]位置中及將輸入暫存器330之[3]位置中之一元素儲存於反轉器340之暫存器之一[0]位置中。在一些實施方案中，反轉器340可藉由具有如上文所指定連接輸入暫存器330與反轉器340之暫存器之各自位置之寫入線而反轉元素之順序，使得輸入暫存器330中之該順序之元素將被寫入至反轉器340之暫存器之適當位置中。因為自輸入暫存器330接收之元素對應於輸入矩陣之一對角線，所以反轉該輸入矩陣之該對角線之元素之排序有效導致該等元素跨該輸入矩陣之主對角線之一反射。一旋轉器350接收儲存於反轉器340之暫存器中之元素及旋轉該等元素之排序以產生元素之一第三向量。在一些實施方案中，該旋轉器350接收儲存於反轉器340之暫存器處之元素之第二向量，且使該等元素右旋轉(即，右逐位元移位)以產生元素之一第三向量。例如，可將儲存於反轉器340之暫存器處之元素發送至旋轉器350，且該旋轉器350可將該等元素依反映該等元素之旋轉之一順序寫入至另一暫存器。為完成旋轉，旋轉器350可具備一桶形移位電路，該桶形移位電路能夠使用組合邏輯(即，不使用循序邏輯)使反轉器340之暫存器中之元素逐位元移位達特定數目個位元。基於與旋轉器350通信之一計數器315判定使藉由旋轉器350接收之元素旋轉所達之位置之數目。回應於一起始信號305設定該計數器315。例如，該起始信號305可為起始轉置單元300之操作(包含設定計數器315)之一單個控制信號。在一些實施方案中，起始信號305係藉由圖2之定序器206提供之一控制信號，其中可已(例如)藉由矩陣向量處理引擎150對定序器206提供該控制信號，或可已藉由定序器206基於藉由主機介面202接收之指令產生該控制信號。在其中旋轉器350執行右旋轉之實施方案中，起始信號305使計數器315被設定為一N-1值，其中N等於該旋轉器350可接收之元素之一數目，即，等於該旋轉器350之寬度。對於圖3之實例性架構300，因此回應於起始信號305將計數器設定為3，即，4-1。計數器315經組態以每當旋轉器350接收輸入矩陣之元素之一不同向量時遞減，即，針對藉由旋轉器350處理之該輸入矩陣之元素之各對角線遞減。計數器315進一步經組態以在旋轉器350已對一元素集執行達0個位置之一旋轉之後重設為N-1。替代性地，旋轉器350可經組態以判定計數器315何時對一元素集指定達0個位置之一旋轉，且作為回應可在未執行一旋轉操作的情況下將值傳遞通過旋轉器350。因此，對於圖3之轉置單元300，計數器315將引起旋轉器350使一輸入矩陣之元素之一第一對角線旋轉達3個位置，使一輸入矩陣之元素之一第二對角線旋轉達2個位置，使一輸入矩陣之元素之一第三對角線旋轉達1個位置，使一輸入矩陣之元素之一第四對角線旋轉達0個位置，且接著以該輸入矩陣之元素之一第五對角線旋轉達3個位置開始，針對該輸入矩陣之元素之後續對角線重複此程序。實際上，此旋轉使自反轉器340接收之第二向量中之元素之位置移位(此表示輸入矩陣之一對角線之元素跨一主對角線之一反射)至適當位置中以容許將該等元素寫入為一轉置輸出矩陣之元素。雖然上文描述為執行右旋轉，但在一些實施方案中，旋轉器350執行左旋轉。在此等實施方案中，計數器可回應於起始信號305最初被設定為1，針對藉由旋轉器350處理之各元素集遞增，直至該旋轉器350使一元素集旋轉達N-1個位置，且接著在已執行元素之達N-1個位置之該旋轉之後被重設為0。可藉由值輸出360存取儲存於旋轉器350之暫存器處之元素，該等值輸出360接著將該等元素提供至交錯記憶體寫入器370以寫入至記憶體中(例如，至記憶體208中)。例如，在將經旋轉元素作為一第三向量寫入至旋轉器350之暫存器之後，值輸出360之各者可存取該旋轉器350之該暫存器之一對應元素。例如，值輸出[0] 360可存取旋轉器350之暫存器之[0]位置中之一元素，值輸出[1] 360可存取旋轉器350之暫存器之[1]位置中之一元素等等。交錯記憶體寫入器370自值輸出360接收元素且將該等元素適當寫入至記憶體中，使得該記憶體儲存作為輸入矩陣之一轉置之一輸出矩陣。例如，使用類似於隨後所描述之用於交錯記憶體讀取器310之技術之技術，交錯記憶體寫入器370可將元素儲存於記憶體208中，使得轉置輸出矩陣經適當格式化。儲存於記憶體208中之轉置輸出矩陣可作為藉由包含轉置單元之專用硬體電路200運算之一函數之結果而返回，或可在該專用硬體電路200中予以進一步處理以產生可藉由矩陣向量處理系統100回應於一請求而返回之一結果。在一些實施方案中，可藉由輸入暫存器330、反轉器340及旋轉器350接收之元素之數目可相同，即，輸入暫存器330、反轉器340及旋轉器350皆可具有相同寬度。在其他實施方案中，輸入暫存器330、反轉器340或旋轉器350之一或多者可能夠接收不同數目個元素及將該等元素作為一向量儲存於(例如)一暫存器中。在一些實施方案中，例如，在交錯記憶體讀取器310可將資料直接寫入至輸入暫存器330之情況下或在旋轉器350可將資料直接發送至交錯記憶體寫入器370之情況下，值載入器320或值輸出360可為轉置單元架構300之選用組件。在一些實施方案中，轉置單元300可運算大於該轉置單元300可轉置之最大尺寸矩陣之一輸入矩陣之一轉置。因為轉置係一遞迴運算，所以可藉由將一較大矩陣劃分成一組較小矩陣，個別地轉置該等較小矩陣及拼接該等較小轉置矩陣以產生該較大矩陣之轉置，從而獲得該較大矩陣之轉置。例如，4×4轉置單元300可藉由將一16×16輸入矩陣分解成四個4×4矩陣，運算該四個4×4矩陣之各者之轉置及拼接該四個4×4轉置矩陣以獲得該16×16輸入矩陣之轉置，而運算該16×16輸入矩陣之轉置。在一些實施方案中，運算大於轉置單元300可轉置之最大尺寸矩陣之一輸入矩陣之轉置需要藉由該轉置單元300外部之組件來處理該輸入矩陣。例如，圖1之矩陣向量處理引擎150可判定一輸入矩陣具有超過轉置單元300可處理之尺寸之尺寸，且因此可識別或產生該輸入矩陣之可個別提供至轉置單元300及可藉由該轉置單元300個別處理之子矩陣。矩陣向量處理引擎150可接收該等子矩陣之轉置及拼接該等子矩陣之該等轉置以獲得輸入矩陣之轉置。在一些實施方案中，轉置單元300或專用硬體電路110之其他組件可能夠在硬體中分解一輸入矩陣及/或拼接子矩陣之轉置以產生一輸入矩陣之一轉置。例如，藉由專用硬體電路接收之控制信號可指定(例如)一分離陣列中之特定記憶體位置以儲存子矩陣之轉置。圖4展示一交錯記憶體讀取器400之一實例性架構。該交錯記憶體讀取器400存取一輸入矩陣之對角線之元素，且將該等元素提供至一轉置單元(例如，圖3之轉置單元300)之其他組件以運算一矩陣或向量轉置。交錯記憶體讀取器400可存取其中已儲存一輸入矩陣或向量之一記憶體410，諸如記憶體208。例如，作為處理運算一矩陣轉置或需要一矩陣轉置之一函數之一請求之一部分，該輸入矩陣或向量可儲存於該記憶體410處且可藉由交錯記憶體讀取器400存取以運算該輸入矩陣之一轉置。交錯記憶體讀取器400包含多工器(Mux) 430。在一些實施方案中，包含於交錯記憶體讀取器400中之多工器430之數目等於可藉由圖3之反轉器340接收之元素之數目。在一些實施方案中，即，在反轉器340與旋轉器350具有相同寬度時，多工器之此數目亦等於可藉由旋轉器350接收之元素之數目。在該等例項中，多工器之數目通常等於轉置單元可處理之一最大尺寸矩陣。因此，圖4中所展示之實例性交錯記憶體讀取器400可用於能夠轉置高達4×4之一尺寸之矩陣之一轉置單元中。在其他實例中，交錯記憶體讀取器400可具有較大數目個多工器430，即，具有大於反轉器340或旋轉器350之一寬度。多工器430之各者可為一N對1多工器，其中N等於可藉由圖3之旋轉器350接收之元素之一數目。例如，多工器430係如圖4中所展示之4對1多工器，其用於能夠對高達尺寸4×4之矩陣執行轉置之一轉置單元中，使得該轉置單元之旋轉器350亦將具有4之一寬度。在一輸入矩陣為可藉由轉置單元處理之最大尺寸之情況下，多工器430之各自輸入將各對應於該輸入矩陣之一列，即，各多工器430之第0輸入對應於該輸入矩陣之第0列，各多工器430之第1輸入對應於該輸入矩陣之一第1列等。此外，多工器430之各者對應於輸入矩陣之一行，直至對應於轉置單元可處理之輸入矩陣之最大尺寸之多工器430。即，在一輸入矩陣為可藉由轉置單元處理之最大尺寸之情況下，多工器[0]將對應於該輸入矩陣之第0列，多工器[1]將對應於該輸入矩陣之第1列等。因此，多工器430實現對高達可藉由轉置單元處理之最大尺寸矩陣之輸入矩陣之各元素之存取。例如，多工器[2]之一第0輸入提供對一輸入矩陣之一(0,2)元素之存取，多工器[3]之一第3輸入提供對一輸入矩陣之一(3,3)元素之存取等。為實現一交錯記憶體讀取，交錯記憶體讀取器400包含對多工器430之各者提供一控制信號之一遞增器435。該遞增器435遞增以一交錯方式傳播至多工器430之各者之一控制信號。對於圖4之實例性架構400，遞增器435最初接收一0值且提供該控制信號作為用於多工器[0]之一選擇信號。在下一反覆中，將該0值遞增至1，且將其提供為用於多工器[0]之一選擇信號。將具有一0值之控制信號傳播至多工器[1]。該控制信號繼續以此方式傳播直至多工器[3]處之選擇信號具有一3值，即，選擇輸入矩陣之(3,3)元素。提供至各多工器430之選擇信號之型樣因此有效指定讀取一輸入矩陣之對角線以藉由轉置單元處理所依據且在表格450中給出之順序。如表格450中所展示，在循環0，藉由交錯記憶體讀取器400讀取一4×4輸入矩陣之一第一對角線(即，該輸入矩陣之(0,0)元素)且將其提供至值載入器420。在循環1，將對應於該4×4輸入矩陣之一第二對角線之元素(1,0)及(0,1)提供至值載入器420。在循環2，將該輸入矩陣之一第三對角線之元素(2,0)、(1,1)及(0,2)提供至值載入器420。此程序如根據表格450所展示般繼續進行直至該4×4輸入矩陣之所有元素已以一交錯方式自記憶體410被讀取且被提供至值載入器420。值載入器420可在各循環接收藉由多工器430輸出之元素且將該等元素提供至圖3之輸入暫存器330。如表格450中所展示，對於許多循環，值載入器420之一或多者可能未接收對應於輸入矩陣之一元素之一元素。對於此等未使用之值載入器420，可忽略藉由其等自對應多工器430接收或藉由其等輸出至輸入暫存器330之資料。此外或替代性地，值載入器420可經組態以在其等之輸入未對應於一輸入矩陣之元素時，放棄輸出資料至輸入暫存器330。在一些實施方案中，兩個控制信號可用於使轉置單元能夠同時運算多個轉置。例如，若將一第一控制信號提供至多工器430之前兩者(例如，多工器[0]及[1])且將一第二控制信號提供至多工器430之次兩者(例如，多工器[2]及[3])，則一4×4轉置單元可同時運算兩個2×2、3×2或4×2轉置。各控制信號可使用上文所論述之相同傳播方案以使該4×4轉置單元能夠使用與運算2×2、3×2或4×2矩陣轉置之一單個轉置所需之相同數目個循環運算兩個2×2、3×2或4×2轉置之轉置。在一些實施方案中，交錯記憶體讀取器400能夠支援「氣泡(bubble)」，即，記憶體中或對應於一輸入矩陣之一資料串流中之錯誤間隙。為處置此等錯誤，多工器430之各者可包含一載入啟用輸入。多工器430可經組態使得載入啟用指示是否已出現一「氣泡」，使得若一「氣泡」確實出現，則多工器430不讀取記憶體且轉置程序有效停滯直至錯誤通過。載入啟用可經組態以自動回應於一「氣泡」，且在該「氣泡」通過之後，自動切換以繼續轉置程序。載入啟用信號可經組態以容許交錯記憶體讀取器400支援在每一個通道中同時出現(即，即刻在多工器430之各者處出現)之「氣泡」，或可經組態以容許交錯記憶體讀取器400支援在選擇通道中出現之「氣泡」，例如，可藉由一分離載入啟用信號或由多工器430之一子組共用之一載入啟用信號來控制各多工器430。在一些實施方案中，一交錯記憶體寫入器(諸如圖3之交錯記憶體寫入器370)根據類似原理操作。例如，一交錯記憶體寫入器可包括N個多工器，其中N係能夠藉由旋轉器350接收之元素之數目，即，值輸出360之數目。各多工器可為一1對N多工器且可在其輸入處自一值輸出(例如，圖3之值輸出360)接收一元素。類似於上文參考交錯記憶體讀取器400所論述之控制信號之一控制信號經提供作為至交錯記憶體寫入器之各多工器之一選擇信號。用於控制交錯記憶體寫入器之該控制信號可藉由類似於交錯記憶體讀取器400之遞增器435之一遞增器提供，且經交錯以類似於交錯記憶體讀取器400提供一選擇信號至交錯記憶體寫入器之多工器。因此多工器以根據上文所論述且在表格450處所展示之相同型樣之一交錯方式寫入至一記憶體(例如，記憶體208)。即，在循環0，交錯記憶體寫入器將對應於轉置輸出矩陣之一(0,0)位置之一元素儲存於記憶體中，在循環1將對應於轉置輸出矩陣之(1,0)及(0,1)位置之元素儲存於記憶體中等。圖5係用於執行一矩陣轉置運算之一實例性程序500之一流程圖。一般而言，藉由一或多個電腦之一系統執行該程序500，該系統包含一專用硬體電路，例如，包含一轉置單元120之圖1之專用硬體電路110。該系統接收一矩陣之一對角線之在一第一向量中之元素(502)。舉例而言，一轉置單元之反轉電路(例如，圖3之反轉器340)可接收一輸入矩陣之一對角線之元素。可藉由反轉電路自(例如)如參考圖3所論述之一輸入暫存器330或值載入器320接收該輸入矩陣之該對角線之該等元素。可已藉由一交錯記憶體讀取器(例如，圖4之交錯記憶體讀取器400)自儲存於記憶體(例如，一靜態隨機存取記憶體(SRAM))中之一輸入矩陣獲得該對角線之該等元素。反轉電路可接收該反轉電路之一暫存器中之對角線元素。系統產生一第二向量，該第二向量包含矩陣之對角線之依與該矩陣之該對角線之在第一向量中之元素之一順序反向之一順序之元素(504)。轉置單元之反轉電路可將矩陣之對角線之在第一向量中之元素依與該第一向量中之該等元素之順序反向之一順序儲存於一暫存器中。例如，圖3之反轉器340可將自輸入暫存器330或值載入器320接收之輸入矩陣之對角線之元素依與該等元素儲存於該輸入暫存器330中之順序反向之一順序儲存於該反轉器340之一暫存器中。系統判定使矩陣之對角線之在第二向量中之元素旋轉所達之位置之一數目(506)。例如，轉置單元之旋轉電路(例如，圖3之旋轉器350)可判定使矩陣之對角線之在第二向量中之元素旋轉所達之位置之一數目。在一些實施方案中，旋轉電路可基於控制該旋轉電路或可藉由該旋轉電路存取之一計數器(例如，圖3之計數器315)判定使第二矩陣中之元素旋轉所達之位置之數目。在一些實施方案中，可將計數器初始化為一N-1值，其中N等於旋轉電路可接收之元素之一數目，即，該旋轉電路之暫存器之一寬度。可回應於一起始信號(諸如觸發專用硬體電路以執行操作以運算一轉置之一控制信號)將計數器初始化。計數器可針對其中旋轉電路接收輸入矩陣之一對角線之元素之一第二向量之各循環遞減。在旋轉電路使元素之一第二向量旋轉所達之位置之數目為零之後，即，在其中旋轉電路未使一第二向量之元素旋轉之一循環之後，可將計數器重設為初始化值。以此方式，旋轉電路可使用僅需要一單個起始控制信號之一計數器判定使一第二向量中之元素旋轉所達之位置之一數目以針對執行一完整轉置運算所需之循環之各者輸出使該第二向量中之該等元素旋轉所達之位置之一正確數目。系統接收矩陣之對角線之元素之第二向量(508)。例如，系統之旋轉電路可接收藉由反轉電路產生之元素之第二向量。在一些實施方案中，旋轉電路(例如，圖3之旋轉器350)藉由存取反轉電路(例如，圖3之反轉器340)之保持第二向量之元素之一暫存器及藉由將該第二向量之該等元素儲存於該旋轉電路之一暫存器中，而接收藉由該反轉電路產生之元素之該第二向量。在其他實施方案中，旋轉電路可存取儲存於反轉電路之一暫存器處之第二向量而未將矩陣之元素之該第二向量儲存於該旋轉電路之一暫存器處。系統產生一第三向量，該第三向量包含矩陣之對角線之在第二向量中之依該矩陣之該對角線之在該第二向量中之該等元素達經判定數目個位置之一旋轉之一順序之元素(510)。例如，專用硬體電路之旋轉電路(例如，圖3之旋轉器350)可將所接收第二向量之元素依經旋轉順序儲存於該旋轉電路之一暫存器中，使得該旋轉電路之該暫存器中之該等元素之順序反映使該所接收第二向量之該等元素旋轉所達之位置之經判定數目。在一些實施方案中，旋轉電路可執行第二向量之元素之一右旋轉以產生第三向量。例如，執行右旋轉以使第二向量之元素旋轉達如上文參考步驟508所描述之經判定之數目個位置(即，基於藉由計數器指定之位置之一數目)。旋轉電路可將經右旋轉之元素儲存於該旋轉電路之暫存器中。在產生矩陣之對角線之元素之第三向量之後，可將該第三向量之該等元素儲存於一記憶體(例如，記憶體208)處。使用(例如)如圖3及圖4處所論述之一交錯記憶體寫入器將第三向量之元素儲存於記憶體處以將儲存於旋轉電路之暫存器處之該第三向量之該等元素寫入至記憶體之適當位置，從而有效儲存輸入矩陣之轉置之一對角線。可針對一輸入矩陣之對角線之各者重複程序500。例如，對於尺寸m × n之一矩陣，將針對系統執行程序500之(m+n)-1次反覆以輸出該輸入矩陣之完整轉置。圖6A至圖6C展示在一矩陣向量處理器中轉置一矩陣之一實例。在一些實施方案中，可藉由圖1之具備包含轉置單元120之專用硬體電路110之矩陣向量處理系統100來執行圖6A至圖6C之該實例。明確言之，圖6A至圖6C繪示其中矩陣向量處理系統100可循序運算多個矩陣轉置，使得一第二矩陣轉置可在一第一矩陣轉置運算正在進行時開始之一實例。重複執行循序轉置操作之能力提高矩陣向量處理系統100執行矩陣轉置運算之效率。在圖6A至圖6C處所展示之實例之循環之各者中，可藉由一交錯記憶體讀取電路(例如，圖4之交錯記憶體讀取器400)存取可用於實施記憶體208之一記憶體610 (例如，一靜態隨機存取記憶體(SRAM))，且來自該記憶體610之資料可被放置於(例如)類似於圖3之輸入暫存器330之一輸入暫存器620中。一反轉電路(例如，圖3之反轉器340)可反轉該輸入暫存器620中之值且將該等經反轉之值放置於一旋轉電路630之一暫存器(例如，圖3之旋轉器350之一暫存器)中。該旋轉電路630(例如)藉由判定來自類似於圖3之計數器315之一計數器之位置數目而使該旋轉電路630之該暫存器中之該等值旋轉達經判定數目個位置。將執行該旋轉之一結果放置於一交錯記憶體寫入電路640之一暫存器(例如，圖3之交錯記憶體寫入器370或視需要值輸出360之一暫存器)中。執行交錯記憶體將值寫入於該交錯記憶體寫入電路640之該暫存器中以將該等值儲存於可用於實施記憶體208之一記憶體650 (例如，一靜態隨機存取記憶體(SRAM))之適當位置中。簡言之，在圖6A處所展示之循環(a)，根據所描述方法(例如，圖5之方法500)接收及處理對應於一第一輸入矩陣之一第一對角線之一第一值(0,0)以將該值儲存於記憶體650之一第一位置中。在循環(b)，接收及操縱該第一輸入矩陣之一第二對角線之值以將該等值儲存於記憶體650之適當位置中。針對循環(c)及(d)重複一類似程序以將第一輸入矩陣之第三對角線及第四對角線之值儲存於記憶體650處，使得該第一輸入矩陣經適當轉置，即，跨其主對角線反射。在圖6B處所展示之循環(e)，操縱第一輸入矩陣之一第五對角線且將其儲存於記憶體650中，且該循環亦擷取儲存於該記憶體650中之一適當位置處之對應於一第二輸入矩陣之一第一對角線之元素(0,4)。因此，在循環(e)，在不需要藉由轉置單元之額外運算能力的情況下開始第二矩陣轉置運算。循環(f)及(g)展示第一輸入矩陣之轉置之運算的完成，該轉置在循環(g)處完全儲存於記憶體650中且係該第一輸入矩陣之一適當轉置。此等相同循環亦完成第二輸入矩陣之第二角線及第三對角線之處理。圖6B處所展示之循環(h)及圖6C處所展示之循環(i)、(j)及(k)處理第二輸入矩陣之剩餘四條對角線且導致該第二輸入矩陣之轉置儲存於記憶體650中。因此，圖6A至圖6C之實例展示可藉由轉置單元循序及重複處理多個輸入矩陣以降低執行多個矩陣轉置運算之運算成本。雖然在圖6A至圖6C中展示為無延遲地循序執行，但在其他實施方案中，兩個輸入矩陣之間的時間間隙可為一任意持續時間。在該等例項中，轉置單元將仍正確運算輸入矩陣之轉置，其中在該等輸入矩陣之間的時間間隙期間藉由轉置單元輸出之資料為可忽略或摒棄之資料。如上文所描述，包括反轉電路之用於轉置一矩陣之一電路經組態以針對該矩陣之一或多條對角線之各者接收該矩陣之在一第一向量中之元素及產生一第二向量，該第二向量包含該矩陣之依與該矩陣之在該第一向量中之該等元素之一順序反向之一順序之元素，且旋轉電路經組態以針對該矩陣之該一或多條對角線之各者判定使該矩陣之在該第二向量中之該等元素旋轉所達之位置之一數目，接收該矩陣之元素之該第二向量及產生一第三向量，該第三向量包含該矩陣之在該第二向量中之依該矩陣之在該第二向量中之該等元素達該經判定數目個位置之一旋轉之一順序之元素。可在數位電子電路、有形體現之電腦軟體或韌體、電腦硬體(包含本說明書中所揭示之結構及其等之結構等效物)或其等之一或多者之組合中實施本說明書中所描述之標的及功能操作之實施例。本說明書中所描述之標的之實施例可實施為一或多個電腦程式，即，在一有形非暫時性程式載體上編碼以藉由資料處理設備執行或控制資料處理設備之操作之電腦程式指令之一或多個模組。替代性地或此外，程式指令可在一人工產生之傳播信號(例如，一機器產生之電、光學或電磁信號)上予以編碼，該傳播信號經產生以編碼資訊用於傳輸至合適接收器設備以藉由一資料處理設備執行。電腦儲存媒體可為一機器可讀儲存裝置、一機器可讀儲存基板、一隨機或串列存取記憶體裝置或其等之一或多者之一組合。術語「資料處理設備」涵蓋用於處理資料之所有種類之設備、裝置及機器，舉例而言，包含一可程式化處理器、一電腦或多個處理器或電腦。設備可包含專用邏輯電路，例如，一FPGA (場可程式化閘陣列)或一ASIC (特定應用積體電路)。除了硬體之外，設備亦可包含產生針對討論中之電腦程式之一執行環境之程式碼，例如，構成處理器韌體、一協定堆疊、一資料庫管理系統、一作業系統或其等之一或多者之一組合之程式碼。可以任何形式之程式設計語言(包含編譯或解譯語言或宣告或程序性語言)撰寫一電腦程式(其亦可被稱為或被描述為一程式、軟體、一軟體應用程式、一模組、一軟體模組、一指令碼或程式碼)，且其可以任何形式部署，包含作為一獨立程式或作為一模組、組件、副常式或適用於一運算環境中之其他單元。一電腦程式可但不需要對應於一檔案系統中之一檔案。一程式可儲存於保持其他程式或資料(例如，儲存於一標記語言文件中之一或多個指令碼)之一檔案之一部分中，儲存於專用於討論中之程式之一單個檔案中或多個協調檔案(例如，儲存一或多個模組、子程式或程式碼之若干部分之檔案)中。一電腦程式可經部署以執行於一電腦上或定位於一位址處或跨多個位址分佈且藉由一通信網路互連之多個電腦上。可藉由執行一或多個電腦程式以藉由對輸入資料操作及產生輸出來執行功能之一或多個可程式化電腦來執行本說明書中所描述之程序及邏輯流程。亦可藉由專用邏輯電路(例如，一FPGA (場可程式化閘陣列)或一ASIC (特定應用積體電路))來執行該等程序及邏輯流程，且設備亦可實施為該專用邏輯電路。適用於執行一電腦程式之電腦包含(舉例而言，可基於)通用微處理器或專用微處理器或兩者或任何其他種類之中央處理單元。一般而言，一中央處理單元將自一唯讀記憶體或一隨機存取記憶體或兩者接收指令及資料。一電腦之基本元件係用於執行(performing或executing)指令之一中央處理單元及用於儲存指令及資料之一或多個記憶體裝置。一般而言，一電腦將亦包含用於儲存資料之一或多個大容量儲存裝置(例如，磁碟、磁光碟或光碟)或可操作耦合以自該一或多個大容量儲存裝置接收資料或將資料傳送至該一或多個大容量儲存裝置或該兩種情況。然而，一電腦未必具有此等裝置。此外，一電腦可嵌入於另一裝置中，例如，一行動電話、一個人數位助理(PDA)、一行動音訊或視訊播放器、一遊戲控制台、一全球定位系統(GPS)接收器或一可攜式儲存裝置(例如，一通用串列匯流排(USB)隨身碟)，等等。適用於儲存電腦程式指令及資料之電腦可讀媒體包含所有形式之非揮發性記憶體、媒體及記憶體裝置，舉例而言，包含：半導體記憶體裝置，例如，EPROM、EEPROM、及快閃記憶體裝置；磁碟，例如，內部硬碟或隨身碟；磁光碟；及CD ROM及DVD-ROM碟。處理器及記憶體可藉由專用邏輯電路增補或併入專用邏輯電路中。為發起與一使用者之互動，可在一電腦上實施本說明書中所描述之標的之實施例，該電腦具有用於向該使用者顯示資訊之一顯示裝置(例如，一CRT (陰極射線管)或LCD (液晶顯示器)監視器)及該使用者可藉由其發送輸入至該電腦之一鍵盤及一指向裝置(例如，一滑鼠或一軌跡球)。其他種類之裝置亦可用於發起與一使用者之互動；例如，提供給該使用者之回饋可為任何形式之感覺回饋，例如，視覺回饋、聽覺回饋或觸覺回饋；且來自該使用者之輸入可以任何形式被接收，包含聲音、語音或觸覺輸入。此外，一電腦可藉由將文件發送至該使用者使用之一裝置及自該裝置接收文件；例如，藉由回應於自一使用者之用戶端裝置上之一網頁瀏覽器接收之請求將網頁發送至該網頁瀏覽器，而與一使用者互動。可在一運算系統中實施本說明書中所描述之標的之實施例，該運算系統包含一後端組件(例如，作為一資料伺服器)，或包含一中間軟體組件(例如，一應用程式伺服器)，或包含一前端組件(例如，具有一使用者可透過其與本說明書中所描述之標的之一實施方案互動之一圖形使用者介面或一網頁瀏覽器之一用戶端電腦)，或包含一或多個此等後端、中間軟體或前端組件之任何組合。該系統之該等組件可藉由任何形式或媒體之數位資料通信(例如，一通信網路)互連。通信網路之實例包含一區域網路(「LAN」)及一廣域網路(「WAN」)，例如，網際網路。運算系統可包含用戶端及伺服器。一用戶端及伺服器一般彼此遠離且通常透過一通信網路互動。用戶端與伺服器的關係藉由運行於各自電腦上及彼此具有一用戶端-伺服器關係之電腦程式而發生。雖然本說明書含有許多特定實施方案細節，但此等細節不應被理解為限制任何發明或可主張之內容之範疇，而是被理解為描述可特定於特定發明之特定實施例之特徵。本說明書中在分離實施例之背景內容中所描述之特定特徵亦可組合實施於一單個實施例中。相反地，在一單個實施例之背景內容中描述之各種特徵亦可分別實施於多個實施例中或以任何合適子組合實施。此外，儘管特徵在上文可被描述為依特定組合起作用且甚至最初如此主張，然來自一所主張之組合之一或多個特徵在一些情況中可自該組合免除，且該所主張之組合可係關於一子組合或一子組合之變型。類似地，雖然在圖式中依一特定順序描繪操作，但此不應被理解為需要依所展示之該特定順序或依循序順序來執行此等操作或需要執行所有經繪示之操作以達成所要結果。在特定境況中，多任務處理及平行處理可為有利的。此外，上文所描述之實施例中之各種系統模組及組件之分離不應被理解為在所有實施例中需要此分離，且應被理解，所描述之程式組件及系統可大體上一起整合於一單個軟體產品中或封裝於多個軟體產品中。已描述標的之特定實施例。其他實施例係在以下發明申請專利範圍之範疇內。例如，在發明申請專利範圍中敘述之動作可依不同順序執行且仍達成所要結果。作為一實例，附圖中所描繪之程序並不一定需要所展示之特定順序或循序順序來達成所要結果。在某些實施方案中，多任務處理及平行處理可為有利的。

100:矩陣向量處理系統 110:專用硬體電路 120:轉置單元 150:矩陣向量處理引擎/向量矩陣處理引擎 200:專用硬體電路/電路 202:主機介面 204:直接記憶體存取引擎 206:定序器 208:記憶體 212:轉置單元 300:轉置單元/轉置單元架構/架構 305:起始信號 310:交錯記憶體讀取器 315:計數器 320:值載入器 330:輸入暫存器 340:反轉器 350:旋轉器 360:值輸出 370:交錯記憶體寫入器 400:交錯記憶體讀取器/架構 410:記憶體 420:值載入器 430:多工器(Mux) 435:遞增器 450:表格 500:程序/方法 502:步驟 504:步驟 506:步驟 508:步驟 510:步驟 610:記憶體 620:輸入暫存器 630:旋轉電路 640:交錯記憶體寫入電路 650:記憶體

圖1展示一實例性矩陣向量處理系統。圖2展示包含一轉置單元之一實例性矩陣向量處理系統。圖3展示一矩陣向量處理系統中之一轉置單元之一實例性架構。圖4展示一矩陣向量處理系統中之一交錯記憶體寫入單元之一實例性架構。圖5係使用一矩陣向量處理系統轉置一矩陣之一實例性方法之一流程圖。圖6A至圖6C展示在一矩陣向量處理器中轉置一矩陣之一實例。各種圖式中之相同元件符號及名稱指示相同元件。

300:轉置單元/轉置單元架構/架構

305:起始信號

310:交錯記憶體讀取器

315:計數器

320:值載入器

330:輸入暫存器

340:反轉器

350:旋轉器

360:值輸出

370:交錯記憶體寫入器

Claims

一種用於在一矩陣向量處理系統中轉置之方法，其包括：藉由一電路，接收一矩陣之一對角線之多個元素，該等元素定位於一第一向量中；藉由該電路，將該對角線之該等所接收之元素依與該第一向量中之該等元素之順序之一反向(reverse)之一順序而插入於一第二向量中；藉由該電路之至少一計數器，計數一預定數目個位置；及藉由該電路，藉由依對角線之該等元素達該預定數目個位置之一旋轉之一順序將該第二向量之該等元素置放於一第三向量中而產生該第三向量。
如請求項1之方法，其中藉由該電路之至少一多工器產生定位於該第一向量中之該矩陣之該對角線之該等元素。
如請求項1之方法，其中藉由該電路計數該預定數目個位置進一步包括：藉由該電路，調整該預定數目，該預定數目之該調整包括：回應於該預定數目為正值而遞減該預定數目；及回應於該預定數目為零而重設該預定數目為一初始值。
如請求項2之方法，其中該至少一多工器包括一數目個多工器，該數目等於該電路之一寬度。
如請求項2之方法，其中：該至少一多工器係複數個多工器；且該複數個多工器之各多工器產生該對角線之該等元素之一對應元素。
如請求項1之方法，其中該矩陣包括兩個或更多個矩陣。
如請求項2之方法，其中該矩陣係儲存於可由該電路存取之一靜態隨機存取記憶體中。
如請求項1之方法，其中該旋轉係在由該電路所接收之一信號所指示之一方向上。
如請求項1之方法，其中該旋轉包括該對角線之該等元素之逐位元移位(bit-wise shifting)。
如請求項1之方法，其中該第三向量中之該等元素形成該矩陣之一轉置(transpose)之一對角線。
一種非暫時性電腦程式產品，其儲存多個指令，當該等指令由一電路內之至少一可程式化處理器執行時，使該至少一可程式化處理器執行以下操作：藉由該電路，接收一矩陣之一對角線之多個元素，該等元素係插入於一第一向量中；藉由該電路，依與該第一向量中之該等元素之順序之一反向之一順序將該對角線之該等元素定位於一第二向量中；藉由連接至該電路之一第一部分之該電路之至少一計數器，計數一預定數目個位置；及藉由該電路，藉由依對角線之該等元素達該預定數目個位置之一旋轉之一順序將該第二向量之該等元素插入於一第三向量中而產生該第三向量。
如請求項11之非暫時性電腦程式產品，其中藉由該電路之至少一多工器產生插入於該第一向量中之該矩陣之該對角線之該等元素。
如請求項11之非暫時性電腦程式產品，其中計數該預定數目個位置進一步包括：藉由該電路，調整該預定數目，該預定數目之該調整包括：回應於該預定數目為正值而遞減該預定數目；及回應於該預定數目為零而重設該預定數目為一初始值。
如請求項12之非暫時性電腦程式產品，其中：該至少一多工器包括一數目個多工器，該數目等於該電路之一寬度；及各多工器產生該對角線之該等元素之一對應元素。
如請求項11之非暫時性電腦程式產品，其中：該旋轉係在由該電路所接收之一信號所指示之一方向上；且該旋轉包括該對角線之該等元素之逐位元移位。
如請求項11之非暫時性電腦程式產品，其中該第三向量中之該等元素形成該矩陣之一轉置之一對角線。
一種包括至少一計數器之電路，其中該電路經組態以：接收一第一向量，該第一向量具有一矩陣之一對角線之依一第一順序(first order)之多個元素；產生一第二向量，該第二向量具有依一第二順序之該等元素，該第二順序係該第一順序之一反向；及產生一第三向量，該第三向量具有依一第三順序之該等元素，該第三順序係該第二順序中之該等元素藉由該至少一計數器所得到達一特定數目個位置之一旋轉。
如請求項17之電路，其進一步包括至少一多工器，其經組態以產生具有該矩陣之該對角線之該等元素之該第一向量。
如請求項18之電路，其中該矩陣係儲存於可由該電路存取之一靜態隨機存取記憶體中。
如請求項17之電路，其中該第三向量中之該等元素形成該矩陣之一轉置之一對角線。