具有并行處理架構(gòu)的平臺，例如FPGA和GPU，在快速分析大型數(shù)據(jù)集方面得到了廣泛應(yīng)用。這兩項技術(shù)可以減輕運(yùn)算密集型算法對CPU造成的負(fù)擔(dān)，在高度并行的平臺上進(jìn)行處理。FPGA靈活性高、處理延遲低，但是由于容量不足，在浮點(diǎn)運(yùn)算方面具有一定的局限性。GPU因為其靈活性、便捷性以及低成本的特點(diǎn)，已經(jīng)成為并行處理的普遍選擇。它們可以成功地與FPGA協(xié)同工作，優(yōu)化一個算法的執(zhí)行速度。舉例來說，在一個算法中，當(dāng) GPU分析浮點(diǎn)數(shù)據(jù)時，內(nèi)聯(lián)（Inline）計算能夠在FPGA上快速地執(zhí)行。NVIDIA?計算統(tǒng)一設(shè)備架構(gòu)（Compute Unified Device Architecture）CUDA?,，可以幫助創(chuàng)建基于GPU計算的算法，CUDA?允許用戶使用C編程語言及其NVIDIA擴(kuò)展創(chuàng)建程序代碼。

?

?

圖1.FPGA和GPU可以與CPU協(xié)同工作，優(yōu)化性能。

對于實(shí)時高性能計算領(lǐng)域的許多應(yīng)用來說，都可以將數(shù)據(jù)和任務(wù)需求很好地映射到GPU中進(jìn)行處理。高強(qiáng)度算術(shù)運(yùn)算的算法應(yīng)用非常適合在GPU上進(jìn)行處理；如果一個應(yīng)用中的算術(shù)運(yùn)算相對于內(nèi)存運(yùn)算的比例較高，則表明當(dāng)在GPU架構(gòu)上解決這個計算任務(wù)可以帶來明顯的速度提升。舉例來說，對于處理多通道運(yùn)算的應(yīng)用，（如可以并行計算幾個FFT變換），或者數(shù)學(xué)運(yùn)算（如大型的矩陣運(yùn)算），都可以有效地映射到GPU中。

LabVIEW GPU分析工具包讓開發(fā)人員能夠在LabVIEW應(yīng)用框架中充分利用GPU并行架構(gòu)。該工具包利用了NVIDIA的CUDA工具包的功能，以及CUBLAS和CUFFT庫，同時允許開發(fā)人員直接調(diào)用那些在LVGPU SDK已經(jīng)寫好的GPU代碼。

LabVIEW GPU 分析工具包

LabVIEW GPU分析工具包允許開發(fā)人員利用NVIDIA CUDA以及CUBLAS和CUFFT方法的核心資源，可以在LabVIEW中調(diào)用這些庫中封裝的函數(shù)。對于高級的運(yùn)算，利用在CUDA中已經(jīng)被開發(fā)的代碼，可以使用LabVIEW GPU分析工具包，將計算任務(wù)轉(zhuǎn)移到GPU中。請注意，該工具包將無法編譯LabVIEW代碼用于GPU，但是它可以在LabVIEW中使用封裝好的CUDA函數(shù)或者自定義的CUDA內(nèi)核代碼。在唯一的設(shè)備執(zhí)行環(huán)境中（即CUDA環(huán)境），通過處理CUDA核心程序運(yùn)算及其參數(shù)，高級的自定義內(nèi)核代碼可以在LabVIEW執(zhí)行過程中安全地調(diào)用。該環(huán)境還確保了所有的GPU資源和功能要求得到妥善管理。

LabVIEW GPU分析工具包的出現(xiàn)能夠使科學(xué)家和工程師執(zhí)行大規(guī)模的數(shù)據(jù)采集、將數(shù)據(jù)塊轉(zhuǎn)移到GPU進(jìn)行快速處理，并在統(tǒng)一的LabVIEW應(yīng)用程序中查看處理的數(shù)據(jù)。常見的信號處理技術(shù)和數(shù)學(xué)運(yùn)算，例如信號的快速傅立葉變換，可以通過直接調(diào)用NVIDIA庫中相應(yīng)的VI來實(shí)現(xiàn)，非常方便。這樣，開發(fā)人員可以使用所有可用的計算資源快速開發(fā)應(yīng)用的原型。對于那些已經(jīng)在CUDA出來的復(fù)雜的應(yīng)用程序，能夠被用于LabVIEW當(dāng)中，使用自定義的算法快速地處理數(shù)據(jù)。

在GPU上快速處理FFT運(yùn)算

一般情況下，使用LabVIEW GPU 分析工具包與GPU通信可以被細(xì)分為三個階段：GPU初始化、在GPU上執(zhí)行運(yùn)算，以及釋放GPU資源。下面的部分將討論使用LabVIEW GPU分析工具包將一個FFT運(yùn)算任務(wù)從CPU FFT轉(zhuǎn)移到GPU中。

?

?

圖2. 將一個FFT運(yùn)算任務(wù)從CPU轉(zhuǎn)移到GPU進(jìn)行分析的程序流程。

本范例對來自多個仿真通道的仿真信號進(jìn)行FFT運(yùn)算，來模擬來自DAQ設(shè)備或日志文件的多通道輸入數(shù)據(jù)的采集。該工作流程是典型的將一個FFT運(yùn)算任務(wù)從CPU轉(zhuǎn)移到GPU進(jìn)行分析的過程。

I. 初始化GPU資源

?

?

圖3. 初始化GPU資源

首先，選擇一個GPU設(shè)備是很有必要的。接著，將創(chuàng)建CUDA環(huán)境，用于實(shí)現(xiàn)LabVIEW和GPU間的通信。這是通過使用Initialize Device VI來完成的。接下來，GPU將通過選擇FFT的類型為FFT運(yùn)算做準(zhǔn)備。該類型包括FFT大小、在GPU上并行執(zhí)行FTT的數(shù)量，以及輸入信號或者譜線的數(shù)據(jù)類型等信息。該過程將預(yù)定GPU上的資源，實(shí)現(xiàn)最高的性能。Allocate Memory VI在GPU上創(chuàng)建一個內(nèi)存緩沖區(qū)，用于CPU和GPU間的數(shù)據(jù)傳輸，以便進(jìn)行FFT運(yùn)算。它將存儲用于下載到GPU的通道數(shù)據(jù)，以及GPU上計算完成后準(zhǔn)備上傳到CPU的數(shù)據(jù)結(jié)果。

II. 在GPU上執(zhí)行FFT計算

?

?

圖4. 在GPU上執(zhí)行FFT通信

首先，從CPU傳輸數(shù)據(jù)到GPU的緩沖區(qū)上來執(zhí)行計算。在GPU上執(zhí)行FFT計算時，將利用其大規(guī)模的并行架構(gòu)來同時計算每個通道的FFT。當(dāng)計算完成后，數(shù)據(jù)從GPU的緩沖區(qū)傳輸回CPU中的數(shù)組中。Download Data VI將存儲在LabVIEW數(shù)組中的多通道數(shù)據(jù)從CPU傳輸?shù)皆诔跏蓟A段已經(jīng)分配的緩沖區(qū)中。FFT VI為每一個下載的通道數(shù)據(jù)并行計算其頻譜。最后，Upload Data VI將存儲在GPU緩沖區(qū)中的頻譜數(shù)據(jù)傳輸回LabVIEW數(shù)組，用于CPU進(jìn)一步處理。

III. 釋放GPU資源

?

?

圖5.釋放GPU資源

最后一步的操作是釋放第一步中初始化的GPU資源。Free Memory VI釋放GPU上用來存儲FFT數(shù)據(jù)的緩沖區(qū)。Release Library VI釋放GPU上在FFT運(yùn)算初始化過程中保留的資源。最后，Release Device VI釋放CUDA環(huán)境初始化過程中為建立GPU通信所保留的GPU資源。

結(jié)論

使用LabVIEW GPU 分析工具，開發(fā)人員能夠?qū)⒅匾倪\(yùn)算轉(zhuǎn)移到GPU中進(jìn)行處理，從而釋放CPU資源用于其它任務(wù)。這為LabVIEW用戶提供了一個非常強(qiáng)大的、前所未有的處理資源。現(xiàn)在，無論使用FPGA和CPU，還是GPU，采集到的數(shù)據(jù)可以快速地被處理，并可以從一個單一的LabVIEW應(yīng)用程序中查看。因此，用戶能夠更有效地利用系統(tǒng)資源，同時最大限度地減少高度并行的數(shù)據(jù)處理運(yùn)算和轉(zhuǎn)換所帶來的計算成本。