9月26日至28日，數(shù)禾科技亮相世界級盛會KubeCon+CloudNativeCon+OpenSourceSummitChina2023。在這場技術盛會上，數(shù)禾科技團隊成員就“數(shù)禾使用Knative加速AI模型服務部署實踐”主題展開了分享。
使用Knative加速AI模型服務
Knative是基于Kubernetes之上提供的一款開源Serverless應用框架，目標打造企業(yè)級Serverless應用平臺。根據(jù)2020CNCF云原生調(diào)查報告，Knative已成為開源自建Serverless平臺首選。隨著2022年3月2日加入到CNCF，越來越多的開發(fā)者擁抱Knative。阿里云容器服務從Knative早期版本開始產(chǎn)品化集成，持續(xù)跟進Knative社區(qū)功能迭代，并與容器服務ACK、消息、存儲、網(wǎng)絡等云產(chǎn)品進行了全方位的融合，提供了生產(chǎn)級別的Knative能力。
數(shù)禾科技是業(yè)界最早使用阿里云容器服務的專業(yè)機構之一，數(shù)禾科技使用阿里云容器服務Knative和彈性節(jié)點配合部署，在保證線上模型應對突發(fā)流量的穩(wěn)定性大幅提升的同時，又使資源利用效率獲得了顯著的提高，極大的節(jié)約了資源成本。
基于Knative驅動開展實踐
基于Knative的Serverless服務方案，具備有根據(jù)請求的擴縮容能力、允許pod縮容到0的冷啟動能力以及多版本的管理能力。通過對內(nèi)部模型部署的pipeline進行改造后，目前數(shù)禾的所有新增模型均已通過ACK+Knative方式部署在線上提供服務。得益于Knative的多版本管理能力，數(shù)禾快速解決了模型的灰度發(fā)布和多版本并存的問題。同時加之基于請求的自動擴縮容能力，在多個版本并存的情況下，并沒有對資源產(chǎn)生額外的消耗，也節(jié)約了晚上的谷時資源。
在實際應用中，以數(shù)禾AI模型服務系統(tǒng)為基礎的線上AI模型為業(yè)務決策人員提升決策效率，減輕人工操作的負擔，同時也可以大幅降低客戶流失率和風險損失。例如，在營銷獲客方面，數(shù)禾AI模型可以通過數(shù)據(jù)分析技術，實現(xiàn)客戶畫像，提升精準營銷能力;在風險管理方面，數(shù)禾AI模型可以快速檢測風險預警信號，提供實時決策支持。截至目前，數(shù)禾AI模型服務平臺已上線部署500+AI模型服務，每天能夠提供上億次查詢決策服務，具備無限橫向擴展的能力。ASK的實時彈性擴展能力幫助數(shù)禾節(jié)約資源成本約60%，同時平穩(wěn)地應對了諸多運營活動等突發(fā)峰值場景，整個云原生部署和發(fā)布系統(tǒng)將公司平均部署周期由之前的1天縮短至0.5天，有效加速了商業(yè)化應用的迭代進程，為業(yè)務的拓展增長提供了強有力的支撐。
持續(xù)深耕攻堅克難收獲行業(yè)認可
技術是科技企業(yè)持續(xù)發(fā)展生命力的根本。作為高新技術企業(yè)的代表，在堅定不移地深耕數(shù)字化創(chuàng)新的發(fā)展道路上，數(shù)禾科技取得的一系列金融科技成果。前不久，數(shù)禾科技基于阿里云云原生應用構架打造的“數(shù)禾AI模型服務”，榮獲了由云原生產(chǎn)業(yè)聯(lián)盟頒發(fā)的“2023年度云原生應用實踐先鋒-云原生應用優(yōu)秀案例”獎項。云原生是基于分布部署和統(tǒng)一運管的分布式云，以容器、微服務、DevOps等技術為基礎建立的一套云技術產(chǎn)品體系。它可以幫助企業(yè)快速構建和部署應用程序，提高應用的可靠性、彈性和可擴展性，讓企業(yè)可以更加敏捷地響應市場需求，快速上線新產(chǎn)品和服務，提高數(shù)字化轉型的效率和速度。
數(shù)禾科技在人工智能、云計算、大數(shù)據(jù)等前沿技術領域已積極開展研究和應用，截至目前，數(shù)禾科技已申請近230項技術等相關專利，已授權發(fā)明專利11個，其中技術專利覆蓋人工智能、人機交互、數(shù)據(jù)治理、系統(tǒng)設計、架構設計、云計算和智能識別等數(shù)字經(jīng)濟的核心領域，體現(xiàn)出強大的自主科技研發(fā)實力。
技術終將造福于人民，在科技驅動普惠金融發(fā)展的道路上，數(shù)禾科技以科技創(chuàng)新為手段，持續(xù)推動普惠金融服務更加數(shù)字化、智能化。數(shù)禾科技以大數(shù)據(jù)和技術為驅動，為金融機構提供智能零售金融解決方案，服務銀行、信托、消費金融公司、保險、小貸公司等持牌金融機構，業(yè)務涵蓋消費信貸、小微企業(yè)信貸、場景分期等多個領域，提供營銷獲客、風險防控、運營管理等服務。
作為金融科技創(chuàng)新先鋒，數(shù)禾科技擁抱Knative技術，并與容器服務ACK、消息、存儲、網(wǎng)絡等云產(chǎn)品進行了全方位的融合，為技術普惠和行業(yè)蓬勃發(fā)展做出了巨大貢獻。數(shù)禾科技將繼續(xù)開拓創(chuàng)新、擔當作為，助力行業(yè)匯聚起推動云原生領域技術發(fā)展的強大力量。
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。 ）
