卡达诺创始人查尔斯·霍斯金森：苹果有望在本地AI成本上超越英伟达

卡达诺（Cardano）创始人查尔斯·霍斯金森（Charles Hoskinson）近期将目光转向人工智能硬件领域。他提出，与基于英伟达（Nvidia）的系统相比，苹果公司在降低大型AI模型本地运行成本方面具有巨大潜力。

对苹果本地大语言模型进展的惊叹

霍斯金森在社交媒体平台X上发表帖子表示，他对苹果在本地大语言模型（LLM）领域取得的进展感到惊讶。他的关注点主要集中在苹果新一代Mac Studio硬件的潜力，以及通过多台机器组合所能实现的统一内存容量。

“我对苹果在本地大语言模型方面的领先程度感到震惊，”霍斯金森写道。

成本对比：显著的价格差异

据霍斯金森估算，一台配备M5 Ultra芯片和512GB内存的Mac Studio，成本大约在1.5万至2万美元之间。在他的设想场景中，通过Thunderbolt 5技术连接六台这样的设备，可提供超过3TB的组合内存，同时具备强大的CPU和GPU资源。

霍斯金森指出，此类配置可能以约10万美元的成本，在本地运行包含超过两万亿参数的前沿AI模型。相比之下，他声称实现同等能力的基于英伟达的基础设施成本可能接近50万美元。如果这一比较在实际工作负载中成立，两者之间的成本差距将约为80%。

技术现实与潜在影响

需要强调的是，上述数据仅为霍斯金森的个人估算，而非经过独立基准测试的性能指标。运行拥有万亿参数规模的模型不仅取决于总内存大小，还受多种因素影响，包括模型精度、带宽、互连性能、推理软件效率以及工作负载在多台机器间分配的优化程度。

尽管如此，其核心观点仍具有重要意义。如果高端本地AI变得更为廉价，开发者和企业将能够运行能力更强的模型，而无需完全依赖集中的云基础设施。对于霍斯金森而言，苹果的架构可能正在推动经济模型向某个方向发展，这有望在特定的本地AI工作负载中对英伟达的主导地位构成挑战。