国际数据公司（IDC）边缘人工智能（AI）处理器的首次预测显示，2019年全球用于边缘系统的人工智能优化处理器的出货量将达到3.401亿台，比2018年增长170.0%。IDC预计，到2023年，市场出货量将达到15亿台，五年复合年增长率（CAGR）高达64.9%。

人工智能的出现正在颠覆微处理器市场。虽然通用处理器和图形处理单元（GPU）的发展为越来越小、移动性越来越强的终端系统带来了巨大的计算能力，但它们依然不是推理解决方案的理想平台。人工智能优化处理器，无论是离散加速器还是集成了神经网络加速器的主机处理器，都显著优于通用架构处理器。每个主要供应商都在通过开发新的解决方案来适应新的计算模式，包括刚刚进入处理器市场的由风投公司支持的运营新IP和加速卡的初创公司也是如此。

随着人工智能解决方案在网络边缘的扩展，以及人工智能工作负载的不断提升，人工智能优化处理器的市场机会将会增加。2018年，只有5.1%的边缘系统运行了人工智能优化处理器。预计到2023年，占比将达到40.5%，边缘系统人工智能优化处理器的市场规模将达到404亿美元，复合年增长率达到86.4%。

在本预测中，边缘系统包括主要客户端，如PC、手机和平板；边缘基础架构网关和服务器；以及部署在企业、政府和家庭网络边缘的终端和物联网设备。边缘人工智能处理器的一些关键应用领域包括汽车高级驾驶辅助系统（ADAS）、游戏系统、智能家居和视频监控。其他主要市场包括工业自动化、医疗设备、AR/VR设备、机器人和无人机。

IDC半导体研究团队的研究总监Michael J. Palma表示： “人工智能的成功在于部署到边缘的系统，在边缘系统中，神经网络做出的即时决策实际上可以创造价值，不受延迟和连接问题的约束——而这些问题对云解决方案来说是个挑战。但人工智能在边缘领域的前景取决于高效计算处理元素的开发，这些元素针对人工智能工作负载进行了优化，支持大多数边缘系统的功率受限特性。目前，离散加速器提供了最佳性能，但增加了BOM成本。最终的成功很可能需要将人工智能优化处理元素集成到主机处理器中。”