欢迎来到亿配芯城! | 免费注册
你的位置:IC芯片代理商-全球电子元器件采购平台 > 芯片资讯 > 助AI实现边缘计算的理想之选-FPGA
助AI实现边缘计算的理想之选-FPGA
发布日期:2024-07-30 08:06     点击次数:101

人类大脑之中有将近1000亿个神经元。虽然这是一个天文数字,但将这些神经元组织成网络的神经相连的数量是数万亿的数量级,而神经相连的数量明显影响大脑的能力。FPGA外部的互连性相似于人脑中的神经连接。FPGA中的可编程逻辑结构也以相似的方式互联,这就是为什么英特尔® FPGA是神经网络和其他人工智能工作负载构建的完美选择。在逻辑和线互连的层面之上,FPGA的位级动态可编程性就像一个敏捷的大脑,可变更注意力,将注意力分散在手头的具体任务之上。此外,FPGA的内部I/O在历史上还获取了其他硬件架构所没的杰出灵活性,能相连到各种来源的传感器,如雷达、音频、振荡和视觉。这些功能允许信号实时流向和流入FPGA,构建了与人脑相当的高阶智能水平。

英特尔®FPGA芯片系列包含英特尔Cyclone®}10 GX FPGA、英特尔Arria®}10 GX FPGA和英特尔Stratix®}10 GX FPGA等。这些产品具备I/O灵活性、高功耗(或每个推理的能耗)和高延迟,可在人工智能推理方面造成优势。这些优势获得了英特尔® FPGA和片之上系统(SoC)系列产品的补充,从而进一步明显提升了人工智能推理性能。这三个家族分别是英特尔® Stratix®}10 NX FPGA和英特尔®}Agilex的全新成员™FPGA家族:英特尔® Agilex™D系列FPGA,以及全新的英特尔{4安捷力{5} ® Agilex™设备家族。这些英特尔® FPGA和SoC系列包含专门针对张量数学运算展开优化的DSP模块,为加快人工智能计算打下了基础。

首款使用张量块的英特尔® FPGA是2020年6月18日发行的英特尔Stratix®10 NX FPGA。英特尔® Stratix® 10 NX FPGA的张量块架构针对人工智能测量之中常见的矩阵-矩阵或矢量-矩阵乘法和加法乘法展开了改进,并可精确用作各种大小的矩阵。张量模块拥护INT8和INT4数据测量,并通过共享指数拥护FP16和FP12块浮点数格式。

上一个英特尔® Agilex™器件家族搭载了可变精度数字信号处置(DSP)模块,可获取各种人工智能功能,并结合在全新的英特尔® Agilex™FPGA和SoC FPGA结构在后面的块设计师的基础之上,DSP块还讲解了英特尔®}Stratix®}10 NX FPGA之中采用的张量块的各种功能。具有AI张量块的增强DSP引进了两个全新的关键操作:AI的张量处理能力和信号处置运用中的复数拥护。这些应用包含快速傅立叶转换(FFT)和简单的庞大脉冲响应(FIR)滤波器等。

第一个模式减弱AI与INT8张量模式。这种模式获取20个INT 8乘法在一个减弱的DSP与AI张量块。与以前的英特尔®}相对,INT8的计算密度提升了5倍阿基利克斯™设备系列。张量模式使用两列张量结构,同时具备INT32和FP32级联和累加功能,还拥护块浮点索引,以提升推理精度和高精度培训。此外,可变精度DSP的人工智能能力也获得了减弱。矢量模式也从四个INT9乘数(乘数)降级到六个INT9乘数。这些模式对于以人工智能为中心的张量数学运算和各种DSP芯片应用特别常用。 

DSP.png

 AI和DSP计算密度的数量级提升。

仅局限于英特尔®阿基利克斯™D系列FPGA和全新的英特尔® Agilex™代号为圣丹斯·梅萨的设备家族

第二种全新模式是简单乘法,它在行驶简单乘法时使张量模块的性能提升一倍。在过往, 芯片采购平台复数乘法需两个DSP块,但这款全新的英特尔® Agilex™FPGA和SoC FPGA系列可在单个增强型DSP之上采用AI张量块构建16位定点复数乘法乘法。

 分布式人工智能/机器学习边缘克服方案通常非常复杂且难以研发。英特尔获取的开发工具和软件可增进开放标准并拥护容器化和云原生研发,协助开发人员修改工作流程并加速分布式边缘克服方案的部署。对于采用英特尔® FPGA和SoC开发人工智能/机器研习应用程序的用户,英特尔获取开发工具:。

英特尔® oneAPI AI Analytics Toolkit(AI Suite)为数据科学家、AI开发人员和研究人员获取了一套熟知的Python工具和框架,以加快端到端数据科学和分析管道。通过该工具套件,英特尔获取了一个oneAPI库,该库拥护高级别测量改进,以最大限度地提升从预处理到机器学习等各种工作负载的性能,并为高效的模型开发获取互操作性。

英特尔®}Python分发版拥护盛行的库和框架,如TensorFlow、Keras、PyTorch、oneDNN和BigDL,可用作在多个英特尔®}测量平台之上设立高速机器学习应用。这些工具拥护针对普遍的AI/ML工作负载展开快速应用程序研发。

OpenVINO的英特尔®发售版™Toolkit拥护对边缘计算机视觉用例至关重要的深度研习应用程序的开发。

英特尔® FPGA AI Kit使FPGA设计人员、机器学习工程师和软件开发人员能有效地改进基于英特尔®}FPGA的AI设计。透过常用和主流行业框架,如TensorFlow、PyTorch和OpenVINO™Toolkit,英特尔® FPGA AI Suite中的实用程序加速了基于FPGA的AI推理的开发,同时还充分利用了英特尔® Quartus{3 Prime Software强劲而成熟期的FPGA开发流程。

英特尔® FPGA AI Kit非常灵活,可针对各种系统级用例展开配置。通过一键手动,用户可分解改进的AI推理IP块,并将其结合到英特尔® Quartus® Prime软件之中。用户还可在英特尔FPGA AI套件之中为架构优化器指定设备资源(DSP、内存、逻辑单元)和吞吐量。这种独有的定制功能对于探险嵌入式AI应用的尺寸、重量和功耗等设计和改进尺寸至关重要。

您可通过下列四种方式透过英特尔获取的开发工具将英特尔FPGA和人工智能/机器研习结合到您的系统之中:

FPGA.png

1. 采用基于FPGA的AI/机器研习加速器构建CPU卸载。主机CPU通过PCIe接口与AI/机器研习加速器通信。INTEL FPGA间接拥护PCIe与主机的INTEL CPU相连。

2. 使用INTEL FPGA构建AI加速器和附加逻辑,构建多功能CPU卸载。INTEL FPGA为主机的INTEL CPU获取AI/机器研习加快,并构建应用程序所需的任何附加逻辑。如在实行例1中,主机CPU通过PCIe接口与AI/ML加速器通讯。

3. 提炼/在线处理+人工智能。基于FPGA的人工智能加速器间接摄入数据,采用人工智能和算法工作负载对其展开处理,然后通过PCIe相连将处置之后的数据和推测传送到主机的INTEL CPU。

4. INTEL SoC FPGA使用集成CPU(ARM或Nios®处理器核心)当作人工智能/机器学习加速器,间接提炼和处理数据,构建人工智能和机器研习逻辑,然后将处置之后的数据连接起来,逻辑被传送到云端。FPGA还专责构建应用程序所需的任何附加逻辑。

成品展示: 型号 品牌 供应商 库存量/起订量 售价(含13%税) 10AX115N2F45I1SG Altera 1/1 ¥82520.9397 价格梯度 售价(含13%税) 1 ¥90022.8428 5 ¥84021.3201 10 ¥83271.1295 50 ¥82520.9397 加入购物车 10M50SCE144A7G Altera 1/1 ¥688.4998 价格梯度 售价(含13%税) 1 ¥860.6245 10 ¥737.6783 50 ¥706.9417 200 ¥688.4998 加入购物车 10AX027H4F34E3LG Altera 1/1 ¥9553.7557 价格梯度 售价(含13%税) 1 ¥10422.2784 5 ¥9727.4600 10 ¥9640.6075 50 ¥9553.7557 加入购物车 10AX032E2F27E2SG Altera 1/1 ¥9867.6674 价格梯度 售价(含13%税) 1 ¥10764.7280 5 ¥10047.0795 10 ¥9957.3734 50 ¥9867.6674 加入购物车 10M02DCV36C8G Altera 1/20 暂无价格 询价 10M04DCU324I7G Altera 1/1 ¥121.1684 价格梯度 售价(含13%税) 1 ¥147.5094 10 ¥131.7048 50 ¥127.4903 200 ¥121.1684 加入购物车 10AX032H2F35E1HG Altera 1/1 ¥15312.8852 价格梯度 售价(含13%税) 1 ¥16704.9651 5 ¥15591.3010 10 ¥15452.0927 50 ¥15312.8852 加入购物车 10AX048E4F29E3LG Altera 1/1 ¥14559.3844 价格梯度 售价(含13%税) 1 ¥15882.9648 5 ¥14824.1005 10 ¥14691.7424 50 ¥14559.3844 加入购物车 10CL040YF484C8G Altera 1/1 ¥304.5684 价格梯度 售价(含13%税) 1 ¥361.3523 10 ¥322.6360 50 ¥312.3117 200 ¥304.5684 加入购物车 10CX150YF780E5G Altera 1/1 ¥1864.3163 价格梯度 售价(含13%税) 1 ¥2203.2829 10 ¥1949.0584 50 ¥1898.2130 200 ¥1864.3163 加入购物车 10AX022E3F27E2SG Altera 1/1 ¥5495.9123 价格梯度 售价(含13%税) 1 ¥6361.0091 5 ¥5750.3522 10 ¥5597.6879 50 ¥5495.9123 加入购物车 10M16SAU169C8G Altera 0/1 暂无价格 询价 10AX016E4F27I3LG Altera 1/1 ¥5046.7296 价格梯度 售价(含13%税) 1 ¥5841.1217 5 ¥5280.3739 10 ¥5140.1870 50 ¥5046.7296 加入购物车 10M08SCM153C8G Altera 1/1 ¥140.863 价格梯度 售价(含13%税) 1 ¥171.4854 10 ¥153.1119 50 ¥148.2124 200 ¥140.8630 加入购物车 10AX057H2F34I1HG Altera 1/1 ¥30912.7107 价格梯度 售价(含13%税) 1 ¥33722.9571 5 ¥31474.7600 10 ¥31193.7353 50 ¥30912.7107 加入购物车 10M16DCU324C8G Altera 1/1 ¥368.9464 价格梯度 售价(含13%税) 1 ¥437.7330 10 ¥390.8330 50 ¥378.3264 200 ¥368.9464 加入购物车 10AX090S4F45E3SG Altera 1/1 ¥39730.9663 价格梯度 售价(含13%税) 1 ¥43342.8718 5 ¥40453.3473 10 ¥40092.1564 50 ¥39730.9663 加入购物车 10M08DCF484C8G Altera 1/1 ¥265.8839 价格梯度 售价(含13%税) 1 ¥315.4555 10 ¥281.6567 50 ¥272.6436 200 ¥265.8839 加入购物车 10M16DCF256C8G Altera 1/1 ¥368.9464 价格梯度 售价(含13%税) 1 ¥437.7330 10 ¥390.8330 50 ¥378.3264 200 ¥368.9464 加入购物车 10M25DCF256C7G Altera 1/1 ¥462.6762 价格梯度 售价(含13%税) 1 ¥548.9383 10 ¥490.1238 50 ¥474.4391 200 ¥462.6762 加入购物车 10AX057K3F35E2SG Altera 1/1 ¥26230.2334 价格梯度 售价(含13%税) 1 ¥28614.8001 5 ¥26707.1467 10 ¥26468.6901 50 ¥26230.2334 加入购物车 10AX032E4F27I3SG Altera 1/1 ¥8076.4819 价格梯度 售价(含13%税) 1 ¥9347.7799 5 ¥8450.3931 10 ¥8226.0463 50 ¥8076.4819 加入购物车 10M50DCF672I7G Altera 1/1 ¥1469.5322 价格梯度 售价(含13%税) 1 ¥1681.2450 10 ¥1556.7085 50 ¥1494.4395 200 ¥1469.5322 加入购物车 10CX105YF780I5G Altera 1/1 ¥1461.7359 价格梯度 售价(含13%税) 1 ¥1672.3250 10 ¥1548.4490 50 ¥1486.5111 200 ¥1461.7359 加入购物车 10M04DAF256I7G Altera 1/1 ¥220.5595 价格梯度 售价(含13%税) 1 ¥261.6808 10 ¥233.6435 50 ¥226.1669 200 ¥220.5595 加入购物车 10AX027H3F34I2SG Altera 1/1 ¥11769.4653 价格梯度 售价(含13%税) 1 ¥12839.4173 5 ¥11983.4559 10 ¥11876.4610 50 ¥11769.4653 加入购物车 10AX016C4U19I3SG Altera 1/1 ¥3435.7717 价格梯度 售价(含13%税) 1 ¥4060.4579 10 ¥3591.9435 50 ¥3498.2406 200 ¥3435.7717 加入购物车 10AX027E2F29E1HG Altera 1/1 ¥10307.2866 价格梯度 售价(含13%税) 1 ¥11244.3122 5 ¥10494.6916 10 ¥10400.9887 50 ¥10307.2866 加入购物车 10M08DFV81C8G Altera 1/1 ¥162.0581 价格梯度 售价(含13%税) 1 ¥197.2881 10 ¥176.1501 50 ¥170.5133 200 ¥162.0581 加入购物车 10AX115H4F34I3SG Altera 1/1 ¥43068.1217 价格梯度 售价(含13%税) 1 ¥46983.4050 5 ¥43851.1782 10 ¥43459.6495 50 ¥43068.1217 加入购物车 10CL016ZF484I8G Altera 1/1 ¥234.2242 价格梯度 售价(含13%税) 1 ¥277.8931 10 ¥248.1188 50 ¥240.1790 200 ¥234.2242 加入购物车 10AX022E4F29E3SG Altera 1/1 ¥4465.4343 价格梯度 售价(含13%税) 1 ¥5168.3262 5 ¥4672.1668 10 ¥4548.1270 50 ¥4465.4343 加入购物车 10AX090U3F45E2SG Altera 1/1 ¥60399.5434 价格梯度 售价(含13%税) 1 ¥65890.4110 5 ¥61497.7170 10 ¥60948.6302 50 ¥60399.5434 加入购物车 10M08DCF256I7G Altera 1/1 ¥247.119 价格梯度 售价(含13%税) 1 ¥293.1920 10 ¥261.7786 50 ¥253.4017 200 ¥247.1190 加入购物车 10CL010YE144C6G Altera 1/1 ¥139.1757 价格梯度 售价(含13%税) 1 ¥169.4311 10 ¥151.2779 50 ¥146.4370 200 ¥139.1757 加入购物车 10CL055ZU484I8G Altera 1/1 ¥534.5503 价格梯度 售价(含13%税) 1 ¥668.1879 10 ¥572.7325 50 ¥548.8690 200 ¥534.5503 加入购物车 10M50DCF484I7G Altera 1/1 ¥1623.595 价格梯度 售价(含13%税) 1 ¥1857.5028 10 ¥1719.9100 50 ¥1651.1136 200 ¥1623.5950 加入购物车 10M08SCU169C8G Altera 1/1 ¥104.6625 价格梯度 售价(含13%税) 1 ¥127.4152 10 ¥113.7636 50 ¥110.1232 200 ¥104.6625 加入购物车 10AX066K2F35I1HG Altera 1/1 ¥41821.1478 价格梯度 售价(含13%税) 1 ¥45623.0704 5 ¥42581.5324 10 ¥42201.3401 50 ¥41821.1478 加入购物车 10M04DCF256A7G Altera 1/1 ¥150.2422 价格梯度 售价(含13%税) 1 ¥182.9033 10 ¥163.3066 50 ¥158.0808 200 ¥150.2422 加入购物车 10CL025YU256C8G Altera 1/1 ¥175.3754 价格梯度 售价(含13%税) 1 ¥213.5004 10 ¥190.6254 50 ¥184.5254 200 ¥175.3754 加入购物车 10M50DAF256C7G Altera 1/1 ¥1118.7774 价格梯度 售价(含13%税) 1 ¥1279.9572 10 ¥1185.1460 50 ¥1137.7396 200 ¥1118.7774 加入购物车 10AX090N3F40E2LG Altera 1/1 ¥55608.9402 价格梯度 售价(含13%税) 1 ¥60664.2979 5 ¥56620.0115 10 ¥56114.4755 50 ¥55608.9402 加入购物车 10CL025ZE144I8G Altera 1/1 ¥262.7083 价格梯度 售价(含13%税) 1 ¥311.6878 10 ¥278.2927 50 ¥269.3873 200 ¥262.7083 加入购物车 10AX032H2F34I2LG Altera 1/1 ¥19143.2747 价格梯度 售价(含13%税) 1 ¥20883.5724 5 ¥19491.3342 10 ¥19317.3045 50 ¥19143.2747 加入购物车 10AX048E2F29E2SG Altera 1/1 ¥16766.0933 价格梯度 售价(含13%税) 1 ¥18290.2842 5 ¥17070.9316 10 ¥16918.5129 50 ¥16766.0933 加入购物车 10M16DAF484I7G Altera 1/1 ¥631.3219 价格梯度 售价(含13%税) 1 ¥789.1524 10 ¥676.4164 50 ¥648.2324 200 ¥631.3219 加入购物车 10AX115R3F40I2LG Altera 1/1 ¥89401.2458 价格梯度 售价(含13%税) 1 ¥97528.6318 5 ¥91026.7230 10 ¥90213.9844 50 ¥89401.2458 加入购物车