据赛迪顾问数据显示，截至2024年上半年，中国已建设和正在建设的人工智能（AI）数据中心已超过250家，其中包括南京智算中心。然而，这一建设热潮背后却暴露出诸多问题。
据《证券日报》报道，从2023年起，AI数据中心在中国迅猛发展，到2024年下半年，建设规模快速膨胀。然而，在地方政府补贴智算产业的背景下，盲目投资建设导致了AI数据中心利用率偏低、算力闲置等问题。据信通院报告显示，全国已上线的AI数据中心整体算力利用率仅为32%，实际利用率甚至更低。
业内人士指出，尽管市场看似火热，但上千座AI数据中心的算力实际上难以被完全消耗。此外，国内本土AI芯片的效能也引发争议。有AI数据中心运营商表示，本土芯片仅适合个人用户使用，难以作为产品服务交付客户。甚至在部署大型语言模型（LLM）时，一旦出错服务器就会宕机，需重启服务。
尽管中国移动等企业宣称其AI数据中心的芯片本土化率超过90%，兼容8种本土AI芯片，但实际操作中问题频发。部分本土芯片厂商为获取订单，承诺包销算力并出资10%-20%参与数据中心建设，但最终承诺未能兑现，导致设备闲置、尾款拖欠等问题。
业内人士透露，一些本土AI芯片企业为冲刺IPO，通过灰色操作换取订单。例如，某企业花费1亿元投资合作项目，仅换来3000万至4000万元营收，变相花钱买营收。此外，部分企业通过虚假保证使用率获取订单，验收期结束后便撤掉业务，导致算力利用率大幅下滑。
总体来看，中国本土AI芯片产业在短期内难以完全填补市场缺口，数据中心建设热潮背后的隐忧亟待解决。