顶级分类

什么是福科算力

作者:匿名   2024年3月5日 上午11:30



  

算力与人工智能之间则关系密切。人工智能的应用领域涵盖机器学习、深度学习、自然语言处理、计算机视觉等等,这些应用都需要处理大量的数据,进行复杂的数学运算和统计分析。 因此,高算力也就成为了人工智能应用的基础。


今天的人们都很熟悉AI了,毕竟人工智能的应用正在渗透入大众生活的方方面面。从自动驾驶技术的行人检测,再到语音识别和ChatGPT……AI要走入应用场景,就离不开底层的算力支持。


而这就对AI处理器提出了更高的技术要求。


虽然神经网络处理器(NPU)在性能、效率和算法灵活性方面已优于可编程的DSP(数字信号处理器),但这并不意味着 AI 处理中不需要 DSP。恰恰相反,对于许多应用的AI子系统来说,神经网络处理器(NPU)与矢量DSP是绝佳组合。


DSP在AI应用中发挥重要作用


从众多神经网络处理需求来看,例如卷积神经网络 (CNN) 或转换器,任何可以执行乘法运算并移动大量数据的处理器最终都可以执行这些计算密集型模型。借助先进的量化技术,经过训练的神经网络的32位浮点输出可以在8位整数控制器或处理器上运行,而且精度几乎没有降低。这意味着可以在 CPU、GPU、DSP 甚至MCU上处理CNN推理,准确度不受影响。


目前在电子行业内,通常用TOPS(每秒万亿次运算)来衡量AI处理器的性能,以这个数值来衡量“算力”。TOPS 的计算方式为:一个周期内可以完成的运算次数(一次乘积累加视为两次运算)x最大频率。这是很好的首次性能估算,因为大部分计算由对矩阵乘法的需求驱动,而矩阵乘法需要乘积累加运算。