隨著 AI 大模型的興起，大模型的安全合規(guī)問(wèn)題頻發(fā)，逐漸引起了各國(guó)政府和行業(yè)各界對(duì)其數(shù)據(jù)安全的關(guān)注。

在意大利，由于有用戶(hù)聲稱(chēng)在 ChatGPT 的歷史對(duì)話中看到了其他人的聊天內(nèi)容。隨后，意大利數(shù)據(jù)保護(hù)局于 3 月底暫時(shí)禁用大模型，并對(duì)其涉嫌違反隱私規(guī)則展開(kāi)調(diào)查。

在國(guó)內(nèi)，大模型相應(yīng)創(chuàng)業(yè)風(fēng)起云涌之時(shí)，數(shù)據(jù)安全保護(hù)行動(dòng)已經(jīng)開(kāi)始。比如，4 月 11 日，國(guó)家互聯(lián)網(wǎng)信息辦公室便發(fā)布了《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》，當(dāng)中提出， 生成式人工智能服務(wù)者對(duì)于用戶(hù)的輸入信息和使用記錄承擔(dān)保護(hù)義務(wù)。在征求意見(jiàn)稿發(fā)布的前一日，中國(guó)支付清算協(xié)會(huì)甚至給從業(yè)人員發(fā)布了倡議，要求其不上傳相關(guān)的敏感信息，保護(hù)金融行業(yè)的涉密數(shù)據(jù)和材料。

目前，還有部分公司明確規(guī)范了 Chat GPT 使用，比如三星此前還將 ChatGPT 的上傳容量限制為 1024 字節(jié)；還有包括臺(tái)積電、軟銀、沃爾瑪?shù)葟S商也宣布限制使用生成式 AI 工具。

不過(guò)，隨著大模型廠商增加， 相關(guān)的數(shù)據(jù)安全賽道卻幾乎是一片空白——大模型的安全計(jì)算是一項(xiàng)涉及千億級(jí)參數(shù)的計(jì)算，而現(xiàn)有的隱私計(jì)算方案并沒(méi)有辦法同時(shí)滿(mǎn)足大模型場(chǎng)景下的高安全性、高性能、高通用性的保障要求。 比如，同步加密的方法在使用的過(guò)程中可能將計(jì)算性能降低五個(gè)數(shù)量級(jí)， 聯(lián)邦學(xué)習(xí)不適用于模型推理階段等等?；诎踩喾接?jì)算的方案是現(xiàn)有隱私計(jì)算方案當(dāng)中最有可能在大模型領(lǐng)域應(yīng)用落地的技術(shù)。

針對(duì)大模型的數(shù)據(jù)安全隱患，國(guó)內(nèi)已經(jīng)有了相應(yīng)的創(chuàng)業(yè)公司?！缸舷瓤萍肌咕褪且患矣晒韫?AI 科學(xué)家以及國(guó)內(nèi)高校學(xué)者聯(lián)合創(chuàng)立的、為大模型應(yīng)用方提供基于安全多方計(jì)算方案的云服務(wù)平臺(tái)廠商。

「紫先科技」CEO 周興博士向 36 氪表示，一般而言，大模型從產(chǎn)生到落地應(yīng)用包括三個(gè)階段，包括大模型訓(xùn)練階段、大模型微調(diào)階段、大模型的應(yīng)用階段。其中，數(shù)據(jù)安全問(wèn)題一般高發(fā)于對(duì)模型定制微調(diào)和應(yīng)用階段。這主要源于，大模型落地的協(xié)作過(guò)程中存在著數(shù)據(jù)所有權(quán)和使用權(quán)的博弈。

一般而言，大模型的訓(xùn)練需要大量的數(shù)據(jù)、算力、AI 人才，對(duì)于頭部大模型廠商來(lái)說(shuō)，未來(lái)大概率不會(huì)做出開(kāi)源的決定。因此，各個(gè)領(lǐng)域的應(yīng)用廠商若要開(kāi)發(fā)出有競(jìng)爭(zhēng)力的行業(yè)專(zhuān)屬大模型，需要利用自身私域數(shù)據(jù)以及融合了本領(lǐng)域?qū)I(yè)知識(shí)的高質(zhì)量標(biāo)注對(duì)基礎(chǔ)大模型做定制微調(diào)，以強(qiáng)化大模型在本領(lǐng)域的專(zhuān)業(yè)能力。

這種流程盡管符合大模型廠商的數(shù)據(jù)訴求，但站在應(yīng)用商公司的角度來(lái)看，用戶(hù)的私域?qū)I(yè)數(shù)據(jù)和微調(diào)后的增量參數(shù)均是其商業(yè)核心壁壘所在，并不愿意把寶貴資產(chǎn)所有權(quán)讓渡。同時(shí)在應(yīng)用階段，調(diào)用大模型的交互信息也涉及到用戶(hù)商業(yè)機(jī)密。

因此，數(shù)據(jù)安全是大模型實(shí)現(xiàn)大規(guī)模應(yīng)用的必要基礎(chǔ)，要解決這一悖論所衍生出的數(shù)據(jù)安全風(fēng)險(xiǎn)，周興博士認(rèn)為，如果能夠基于多方安全計(jì)算架構(gòu)做好大模型定制微調(diào)和應(yīng)用服務(wù)，便可保證雙方的隱私安全。

" 我們希望通過(guò)隱私計(jì)算的方式，讓大模型公司和模型應(yīng)用商之間的橋梁可以順暢搭建起來(lái) "，周興博士表示。據(jù)介紹，在商業(yè)層面，「紫先科技」所提供的數(shù)據(jù)安全服務(wù)將建立在云上，未來(lái)將與大模型廠商合作，為下游的大模型應(yīng)用商提供一站式的模型定制微調(diào)和應(yīng)用服務(wù)。

這一方案如何切實(shí)保障數(shù)據(jù)安全？周興博士表示，「紫先科技」的核心技術(shù)是一套基于 FPGA 芯片的安全多方計(jì)算方案 "PPLMAC"，是目前全球唯一可滿(mǎn)足大模型數(shù)據(jù)安全場(chǎng)景對(duì)高安全性、高計(jì)算性能和高通用性要求的解決方案。

據(jù)其介紹，在保證數(shù)據(jù)安全的前提下，基于獨(dú)創(chuàng)的芯片設(shè)計(jì)，該方案可以將隱私計(jì)算性能與明文計(jì)算性能差距縮小到一個(gè)數(shù)量級(jí)以?xún)?nèi)，并可應(yīng)用于模型微調(diào)和推理環(huán)節(jié)。

周興博士表示，為了降低使用門(mén)檻，「紫先科技」還為使用該方案的算法工程師們提供了大模型編程框架平臺(tái)，可以較低成本的實(shí)現(xiàn)移植開(kāi)發(fā)，不用對(duì)原來(lái)的算法程序做出改變。

目前，「紫先科技」已經(jīng)完成隱私計(jì)算 FPGA 加速卡產(chǎn)品化，技術(shù)成果已提交專(zhuān)利申請(qǐng)，并于 2022 年 6 月在國(guó)際頂級(jí)計(jì)算機(jī)學(xué)術(shù)會(huì)議 ACM ISCA 發(fā)表相關(guān)論文。公司計(jì)劃從金融、企業(yè)服務(wù)等剛需領(lǐng)域切入，目標(biāo)是成為大模型數(shù)據(jù)安全基礎(chǔ)設(shè)施服務(wù)提供商。

「紫先科技」在 2022 年曾經(jīng)獲得奇績(jī)創(chuàng)壇的天使輪融資，目前正啟動(dòng)新一輪的融資。團(tuán)隊(duì)方面，創(chuàng)始人周興博士曾經(jīng)在 Google、Facebook AI 研究院有近 10 年的工作經(jīng)驗(yàn)，在 Facebook AI 研究院帶領(lǐng)團(tuán)隊(duì)創(chuàng)建隱私計(jì)算 AI 框架 CrypTen 并開(kāi)源，并全程參與了 Facebook 系列大語(yǔ)言模型的研發(fā)。團(tuán)隊(duì)其他核心技術(shù)成員大部分出自清華計(jì)算機(jī)系。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽?lái)源及作者名字。

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com