2023世界人工智能大會（WAIC 2023）于上海世博中心及世博展覽館成功舉辦。大會參展企業超過400家，線下參觀人數突破17.7萬人。速石科技也應邀參加本次大會，旗下一站式AI研發平臺及AI應用Megrez首次亮相。

本次大會以“智聯世界，生成未來”為主題，圍繞大模型、智能芯片、類腦智能、自動駕駛、元宇宙等十大前沿方向，聚焦于AI領域的學術和研發熱點問題，由包括圖靈獎得主、諾貝爾獎得主、海內外院士、頂尖企業領軍人才在內的逾1400位重量級嘉賓展開討論。

在ChatGPT、Midjourney等產品引爆AIGC熱度后，國內外知名科技公司也先后發布了自己的大模型，極高的關注度帶動了整條人工智能產業鏈的發展，從而催生了行業對MLOps平臺的進一步需求。

關于MLOps

與外界認知不同，在AI的完整生態體系中，模型開發在其中的占比微乎其微。
Google團隊在2015年的論文中首次提出機器學習系統中存在著隱藏的技術債務，代碼開發的占比僅僅如下圖小黑框所示，整個機器學習的體系復雜而龐大。

來源：Hidden Technical Debt in Machine Learning Systems, NeurIPS 2015

諸如數據處理、生產環境部署、算力資源管理、多個開發環境的管理等，會降低企業的研發效率和研發人員的工作體驗。

而在生產部署環節，根據IDC調查顯示，在準備部署人工智能的企業中，大部分還停留在對模型的評估測試階段，只有31%的企業將模型投入了生產環境，這其中僅三分之一的企業認為AI的部署對自己起到了正面作用。

MLOps就是將機器學習（ML）、開發（Dev）和運維（Ops）串連為一個整體，向人工智能領域提供了系統性的生產過程管理方案，從而針對性地解決前述AI領域問題。

行業對系統性的方法論和規范化的管理流程有著強烈的需求，這也是近年來MLOps產業快速發展的原因所在。

速石科技MLOps平臺

作為 NVIDIA Inception Program 的一員，速石科技致力于彌合研發團隊與AI基礎設施間的差距，簡化AI模型的研發流程，借助自身優勢減少研發過程中技術和流程的重復，大幅優化企業的研發效率和體驗。

速石科技旗下的MLOps平臺能為企業提供端到端的一站式AI研發平臺，并為AI/ML提供全生命周期的產研支持，實現AI/ML模型的部署和落地，從而幫助企業實現自身商業價值。

敏捷高效的一站式研發平臺

速石科技MLOps平臺能夠為企業提供敏捷高效的一站式研發環境，縮短模型的開發周期，覆蓋企業從ML/LLM模型的構建、訓練到最終部署的全部需求，幫助企業更快地將ML/LLM模型推向生產環境，從而提升整體產研效率。

速石科技擁有遍布全球的服務節點，能為企業提供海量的CPU、GPU、TPU等異構資源，并能提供數據運營（DataOps）和存儲方案等底層支持。平臺內多種即開即用的工具、可視化的操作界面和工作流設置，則能減少研發人員的學習成本，允許企業快速完成環境設置，隨時開啟研發工作。

幫助企業實現降本增效

速石科技一站式的研發服務也能幫助企業縮短AI項目的研發周期，實現快速迭代，幫助企業更快地將AI產品投入生產環節，實現自身商業價值。

速石科技通過集群實現對云端和本地算力的統一管理，并通過自研調度器Fsched確保每個用戶都能及時獲取所需資源，減少任務排隊和資源浪費，從而提升企業研發的投資回報率。

Fsched調度器能夠實現任務調度自動化，加快模型研發和迭代的速度，實現敏捷交付。在任務高峰期，Fsched還能自動為團隊補充云端算力以防任務中斷。速石科技的自動集群管理與彈性資源擴充解放了團隊精力，幫助企業有效提升研發效率，控制研發成本。

可視化的監控儀表盤可以讓企業從多個維度查看資產利用情況，并通過速石科技的身份系統管理用戶的訪問權限和資源上限，進一步優化企業資源的投入產出比。

數字資產管理

隨著AI的飛速發展，數據、算法、模型和特征等數字資產的重要性逐漸突顯。

速石科技能夠提供多維度的監控告警及審核日志，能夠追溯操作記錄，幫助企業了解數字資產的使用情況，增強企業的數字資產安全保障。

結合企業內部安全策略，速石科技能為企業提供安全可控的訪問環境，通過身份認證、權限管理、數據隔離等功能，簡化訪問管理，并實現對數字資產的全面管理和控制。

速石科技AI應用

AI應用落地是所有研發環節中最后一環，也是最重要的一環。在AIGC應用百花齊放的這波浪潮中，速石科技作為MLOps平臺的提供方，同時也是其使用方。

速石科技已經發布一款行業知識庫聊天應用Megrez，這款聊天應用面向企業客戶提供大語言模型的私有化部署能力，解決了許多企業用戶關注的數據安全問題，它也允許用戶自定義行業知識庫，實現領域知識的問答。

速石科技支持用戶在平臺上自定義這款應用的部署，實現從基礎架構到最終應用的端到端掌控。

結語

AI工程化是產業發展的必經之路，AI真正成為生產力工具，就必須借助MLOps等工程化技術來解決開發、訓練和部署等全鏈路生命周期的問題。

速石科技在云平臺、團隊協同、數據管理、工作流優化和應用部署等層面的積累，能夠為企業提供優質的、可落地的系統性研發支持，幫助企業優化部署流程。

在未來，速石科技將在此基礎上積極探索，助力企業的可持續發展，推動行業形成人工智能生態閉環。

關于速石科技

速石科技（fastone）致力于構建為應用定義的云，讓任何應用程序，始終以自動化、更優化和可擴展的方式，在任何基礎架構上運行。

我們為創新驅動型用戶提供為應用優化的一站式研發云平臺，滿足半導體、新藥研發、汽車/智能制造、人工智能、金融科技等企業及高校科研機構多種研發場景需求。基于本地+公有混合云環境的靈活部署及交付，幫助用戶提升20倍研發效率，降低成本達到75%以上，加快市場響應速度，面向全球開展競爭。