共享競爭優(yōu)勢，尋求互利雙贏
推理是指利用訓練好的模型，使用新數據推理出各種結論。借助神經網絡模型進行運算，利用輸入的新數據來一次性獲得正確結論的過程。這也有叫做預測或推斷。
訓練是指通過大數據訓練出一個復雜的神經網絡模型，通過大量標記過的數據來訓練相應的系統(tǒng)，使其能夠適應特定的功能。訓練需要較高的計算性能、能夠處理海量的數據、具有一定的通用性，以便完成各種各樣的學習任務。
所以根據承擔任務的不同，AI芯片可以分為兩類，它們分別是訓練AI芯片和推理AI芯片。
1、訓練芯片：用于構建神經網絡模型，注重絕對的計算能力;
2、推理芯片：利用神經網絡模型進行推理預測，注重綜合指標，單位能耗算力、時延、成本等都要考慮。
云端，即數據中心，在深度學習的訓練階段需要龐大的數據量，以及大運算量，單一處理器是無法獨立完成的，因此訓練環(huán)節(jié)僅能夠在云端實現。
終端，即手機、汽車、智能家居以及各種物聯網設備等執(zhí)行邊緣計算的智能設備。終端的數量龐大，并且需求的差異性明顯。
訓練推理的完成目前主要集中在云端，但隨著越來越多芯片廠商的努力，很多的應用將逐漸轉移到終端。
所以，根據部署位置，推理AI芯片又可細分為云端推理AI芯片和終端推理AI芯片：
1、云端推理
云端推理AI芯片可作為深度學習推理加速的協處理器，也可作為主處理器從以太網接口或USB接口接收視頻流、圖片或其它數據，執(zhí)行推理和其他計算機視覺任務。目前，除了英偉達、谷歌、賽靈思、英特爾等這些國外芯片大廠涉足云端推理芯片外，寒武紀、比特大陸等中國企業(yè)同樣積極布局該領域。
2、終端推理
目前，終端推理AI芯片主要應用于智能手機、自動駕駛、機器人、智能家居等設備。它可作為深度學習推理加速的協處理器，還可以作為主處理器從以太網接口或USB接口接收視頻流、圖片或其它數據，執(zhí)行推理和其他計算機視覺任務。目前，除了英偉達、谷歌、賽靈思、英特爾等這些國外芯片大廠涉足云端推理芯片外，寒武紀、比特大陸等中國企業(yè)也在領域進行積極的布局，并取得了不俗的成績。
?2023深圳拓普龍科技有限公司 版權所有 粵ICP備09130463號-1
13008895219 產品經理
19924502528 何經理
13378406071 李工
13008895219 雷先生
微信公眾號
