2月28日，由浦軟創(chuàng)投攜手華為云，聯(lián)合硅基流動、清昴智能、蜜度科技、蘑菇云創(chuàng)客空間共同舉辦的《大模型驅動下的AI Infra創(chuàng)新：技術突破與應用拓展》主題會議在上海浦東軟件園舉行，這場盛會吸引了眾多AI領域的大咖齊聚一堂。

《大模型驅動下的AI Infra創(chuàng)新：技術突破與應用拓展》主題會議

本次活動亮點紛呈，不僅有AI Infra領域的前沿洞察分享，還深度探討了人工智能行業(yè)的痛點與解決方案，為參與者提供一場思想的盛宴。無論是關注大模型私有化部署的企業(yè)高管，還是AI領域的創(chuàng)業(yè)者與技術負責人，亦或是對大模型應用感興趣的開發(fā)者，都能在這里找到靈感與機遇。

會議現(xiàn)場

硅基流動政企商業(yè)化負責人分享了在AI應用部署大模型的過程中，開發(fā)者面臨的四大核心挑戰(zhàn)：模型豐富度不足、推理速度瓶頸、推理成本過高、系統(tǒng)可用性風險，為此，AI基礎設施需通過模型微調(diào)與集成工具鏈增強多模型兼容性，借助超低延遲架構與調(diào)度優(yōu)化突破算力效率邊界，依托芯片適配與吞吐量最大化策略實現(xiàn)硬件降本增效，并通過云原生穩(wěn)定性架構與開發(fā)工具鏈兼容設計構建全鏈路可靠性保障，最終形成覆蓋“模型-算力-硬件-系統(tǒng)”的閉環(huán)解決方案。

清昴智能市場合伙人現(xiàn)場介紹了其玄武智算平臺的突破性能力：通過DeepSeek敏捷集群部署方案的自動化優(yōu)化技術，在Llama系列模型（78/158/308/658）上實現(xiàn)推理速度2-10倍提升、內(nèi)存占用縮減2-4倍、吞吐量激增10-30倍，同時將模型部署周期從傳統(tǒng)3-12個月壓縮至1周，在最小化精度損失的基礎上，全面兼容國產(chǎn)芯片與英偉達異構算力，以實際案例驗證了該方案如何系統(tǒng)性攻克AI應用“高延遲、高成本、長周期”難題，推動行業(yè)邁向高效敏捷部署的新階段。

蘑菇云創(chuàng)客空間的聯(lián)合創(chuàng)始人夏青主持圓桌論壇并分享看法

蘑菇云創(chuàng)客空間聯(lián)合創(chuàng)始人夏青主持了圓桌論壇，并分享了對于人工智能基礎建設發(fā)展的看法，人工智能基礎設施（AI Infra）的演進正推動新一輪技術范式重構：在生成式AI與大模型爆發(fā)性需求的催化下，行業(yè)競爭已從單一算法突破轉向系統(tǒng)性效率博弈。頭部企業(yè)依托資本與生態(tài)優(yōu)勢加速構筑技術壁壘，而中小參與者的破局關鍵在于通過異構計算優(yōu)化、輕量化架構設計、開源協(xié)同生態(tài)實現(xiàn)技術普惠化——以分布式訓練效率提升降低算力邊際成本，以自適應模型壓縮打破硬件依賴桎梏，以模塊化工具鏈縮短開發(fā)周期。這場變革的本質(zhì)是算力民主化進程的深化，唯有將底層基礎設施的“高門檻、重資產(chǎn)”特性轉化為“可擴展、可定制”的服務能力，方能在產(chǎn)業(yè)級智能化的浪潮中重塑價值分配格局。