醫(yī)療AI的倫理之約:技術(shù)創(chuàng)新與責(zé)任邊界的平衡之道
當(dāng)全球AI競(jìng)爭(zhēng)聚焦于“更大參數(shù)、更高性能”時(shí),Hippocratic AI與Abridge這兩家特色鮮明的醫(yī)療科技企業(yè),正悄然重塑行業(yè)規(guī)則。
一方是堅(jiān)守“安全至上”的倫理踐行者:Hippocratic AI以醫(yī)學(xué)倫理基石為名,創(chuàng)始團(tuán)隊(duì)來(lái)自斯坦福醫(yī)學(xué)院與頂尖AI實(shí)驗(yàn)室,致力于打造絕不越界的醫(yī)療對(duì)話(huà)系統(tǒng)。
另一方是專(zhuān)注“單點(diǎn)突破”的效率革新者:Abridge源于卡內(nèi)基梅隆大學(xué)的人機(jī)交互研究,由連續(xù)創(chuàng)業(yè)者引領(lǐng),聚焦醫(yī)療記錄這一核心痛點(diǎn),絕不涉足臨床決策領(lǐng)域。
它們看似選擇了不同路徑,卻共同印證了一個(gè)反常規(guī)的事實(shí):在高風(fēng)險(xiǎn)的真實(shí)醫(yī)療場(chǎng)景中,AI最具價(jià)值的能力或許不是“無(wú)限生成”,而是“精準(zhǔn)克制”。
01┃被擱置的“理想模型”:技術(shù)超越責(zé)任框架的警示

醫(yī)療AI發(fā)展史上有一個(gè)關(guān)鍵轉(zhuǎn)折點(diǎn)。據(jù)《華爾街日?qǐng)?bào)》等媒體報(bào)道,數(shù)年前,美國(guó)凱澤醫(yī)療集團(tuán)內(nèi)部研發(fā)出一套可提前數(shù)小時(shí)預(yù)測(cè)患者病情惡化的AI系統(tǒng)。測(cè)試中該模型表現(xiàn)優(yōu)異,能提前識(shí)別超80%的潛在ICU病例,理論上每年可避免大量醫(yī)療危機(jī)。但在臨床部署前的最終評(píng)審中,項(xiàng)目被緊急叫停。
這一決定背后,隱藏著比技術(shù)性能更根本的問(wèn)題?!缎掠⒏裉m醫(yī)學(xué)雜志》對(duì)此總結(jié)道:“在醫(yī)療AI領(lǐng)域,問(wèn)責(zé)制是比準(zhǔn)確性更核心的障礙?!碑?dāng)算法判斷直接影響人類(lèi)生命時(shí),責(zé)任劃分與權(quán)力邊界便成了無(wú)法回避的根本問(wèn)題。
02┃Hippocratic AI:將醫(yī)學(xué)誓言融入算法基因
Hippocratic AI于2025年完成1.26億美元C輪融資,估值約35億美元,累計(jì)融資超4億美元。本輪由Avenir Growth領(lǐng)投,投資方包括Andreessen Horowitz (A16z)、General Catalyst、CapitalG(谷歌成長(zhǎng)基金)等一線(xiàn)機(jī)構(gòu),彰顯資本對(duì)其“安全可控醫(yī)療AI”路徑的高度認(rèn)可。

“首要原則是絕不傷害病人”——這句醫(yī)學(xué)倫理核心原則,被Hippocratic AI轉(zhuǎn)化為可執(zhí)行的工程約束。該公司創(chuàng)始團(tuán)隊(duì)來(lái)自斯坦福醫(yī)學(xué)院與頂尖AI實(shí)驗(yàn)室,目標(biāo)并非打造“無(wú)所不能”的醫(yī)療AI,而是創(chuàng)造“永遠(yuǎn)不越界”的對(duì)話(huà)系統(tǒng)。
Hippocratic AI的響應(yīng)機(jī)制體現(xiàn)了這種安全優(yōu)先的理念。據(jù)其技術(shù)演示顯示,當(dāng)對(duì)話(huà)涉及診斷建議或用藥指導(dǎo)時(shí),系統(tǒng)不會(huì)嘗試回答,而是立即停止生成內(nèi)容并建議轉(zhuǎn)接人工。即便患者未直接詢(xún)問(wèn),只要對(duì)話(huà)中出現(xiàn)“胸痛、呼吸困難和家族病史”等高危組合,系統(tǒng)也會(huì)自動(dòng)提升警戒級(jí)別。
最受關(guān)注的是其系統(tǒng)架構(gòu)設(shè)計(jì)。根據(jù)Hippocratic AI在行業(yè)會(huì)議上的披露,最新“北極星”系統(tǒng)擁有超3萬(wàn)億參數(shù),由數(shù)百個(gè)專(zhuān)門(mén)訓(xùn)練的大模型組成“星座系統(tǒng)”。這些模型各司其職:有的核對(duì)藥物名稱(chēng),有的檢查劑量安全,還有負(fù)責(zé)“說(shuō)話(huà)”的主模型確保對(duì)話(huà)流暢。它們互相監(jiān)督、交叉驗(yàn)證,如同頂級(jí)醫(yī)療團(tuán)隊(duì)協(xié)作。
該公司技術(shù)負(fù)責(zé)人在采訪(fǎng)中解釋?zhuān)骸拔覀冇?xùn)練AI通過(guò)專(zhuān)業(yè)護(hù)理考試,不是為了讓它替代護(hù)士,而是讓AI更準(zhǔn)確理解哪些問(wèn)題自己無(wú)權(quán)回答?!边@種在能力邊界的克制,正是Hippocratic AI最核心的創(chuàng)新。
03┃Abridge:智能“記錄員”,不做“決策者”
Abridge于2025年完成3億美元E輪融資,由Andreessen Horowitz(a16z)領(lǐng)投,Khosla Ventures等參投,估值約53億美元。截至目前,Abridge累計(jì)融資近8億美元,已在上百家美國(guó)醫(yī)療系統(tǒng)落地,成為生成式醫(yī)療文檔賽道中規(guī)模效應(yīng)突出的公司之一。

若說(shuō)Hippocratic AI的策略是“在邊界設(shè)防”,Abridge則選擇了更徹底的路徑——從一開(kāi)始就不進(jìn)入決策領(lǐng)域。這家源自卡內(nèi)基梅隆大學(xué)的公司定位為“AI醫(yī)療記錄員”,核心功能簡(jiǎn)單明確:在醫(yī)患交談中,自動(dòng)將對(duì)話(huà)轉(zhuǎn)化為結(jié)構(gòu)化臨床記錄。
Abridge的影響力可通過(guò)數(shù)據(jù)體現(xiàn):據(jù)STAT News報(bào)道,該公司已被美國(guó)300多家醫(yī)院采用,包括梅奧診所、約翰·霍普金斯醫(yī)學(xué)中心等頂級(jí)醫(yī)療機(jī)構(gòu)。醫(yī)生反饋數(shù)據(jù)顯示,使用后平均每天可節(jié)省約2.5小時(shí)文書(shū)工作時(shí)間。
更深刻的影響體現(xiàn)在醫(yī)生職業(yè)體驗(yàn)上。醫(yī)療媒體《凱撒健康新聞》報(bào)道了多位醫(yī)生的經(jīng)歷:一位從業(yè)多年的醫(yī)生坦言“原本每天帶工作回家,現(xiàn)在不用了”;另一位表示“有人說(shuō)‘從醫(yī)的快樂(lè)回來(lái)了’”;更有醫(yī)生直言“這甚至可能延長(zhǎng)我的職業(yè)生涯”。
正是這種清晰的自我限定,讓Abridge快速通過(guò)嚴(yán)格的醫(yī)療合規(guī)審查?!拔覀儾蛔鲈\斷,只做診斷過(guò)程的記錄者。”Abridge CEO這樣定義公司邊界,“這種克制不是能力不足,而是戰(zhàn)略選擇?!?/p>
04┃從醫(yī)療到多領(lǐng)域:高價(jià)值A(chǔ)I系統(tǒng)的“停機(jī)邏輯”
醫(yī)療領(lǐng)域的實(shí)踐揭示了一個(gè)普適原則:任何高影響力AI系統(tǒng)的長(zhǎng)期價(jià)值,不僅取決于它能做什么,更取決于不該做什么時(shí)能否可靠停止。這一“安全優(yōu)先”理念正在多個(gè)關(guān)鍵領(lǐng)域成為新標(biāo)準(zhǔn)。
在金融交易領(lǐng)域,頂級(jí)投資機(jī)構(gòu)為AI系統(tǒng)設(shè)置的“熔斷機(jī)制”體現(xiàn)了同樣邏輯。彭博社報(bào)道顯示,多家對(duì)沖基金在2020年市場(chǎng)劇烈波動(dòng)期間,依靠這種機(jī)制避免了災(zāi)難性損失。一位基金經(jīng)理坦言:“極端市場(chǎng)環(huán)境下,不虧錢(qián)比賺錢(qián)更重要?!?/p>

在自動(dòng)駕駛領(lǐng)域,Waymo等公司的“責(zé)任敏感安全”模型要求車(chē)輛在任何情況下,都不得為避免事故采取違反交通規(guī)則或危及他人的操作。公司工程師在接受《麻省理工科技評(píng)論》采訪(fǎng)時(shí)解釋?zhuān)骸拔覀兊腁I首先遵守交通規(guī)則,其次才是應(yīng)對(duì)突發(fā)情況?!?/p>
在法律輔助場(chǎng)景,AI系統(tǒng)設(shè)計(jì)同樣遵循明確能力邊界。斯坦福大學(xué)一份研究報(bào)告指出,這些系統(tǒng)可提供案例參考和風(fēng)險(xiǎn)因素分析,但絕不能給出具體判決建議——最終裁量權(quán)必須保留在人類(lèi)法官手中。
05┃新創(chuàng)新模式:在約束中創(chuàng)造價(jià)值
醫(yī)療AI實(shí)踐正揭示一個(gè)清晰的行業(yè)共識(shí):在風(fēng)險(xiǎn)不可逆的關(guān)鍵領(lǐng)域,衡量AI系統(tǒng)的標(biāo)準(zhǔn)正在改變。系統(tǒng)核心價(jià)值不再僅取決于“運(yùn)行效率”,而更偏向“可靠停止”的能力。這種對(duì)“主動(dòng)設(shè)限”的追求,正在重新定義多個(gè)前沿行業(yè)的競(jìng)爭(zhēng)邏輯。
這一系列變化將企業(yè)創(chuàng)新方向推向更深刻的層面。創(chuàng)新焦點(diǎn)從追求模型理想狀態(tài)下的“峰值表現(xiàn)”,轉(zhuǎn)向構(gòu)建系統(tǒng)最?lèi)毫忧榫诚碌摹暗拙€(xiàn)保障”。市場(chǎng)競(jìng)爭(zhēng)邏輯從比拼“功能廣度”的軍備競(jìng)賽,演進(jìn)為定義并讓人信服“責(zé)任邊界”的信任博弈。同時(shí),優(yōu)秀產(chǎn)品設(shè)計(jì)不再只關(guān)注日?!敖换ンw驗(yàn)”,還需規(guī)劃關(guān)鍵決策點(diǎn)人類(lèi)專(zhuān)家平滑介入的“接管流程”。
這場(chǎng)轉(zhuǎn)變本質(zhì)是價(jià)值觀(guān)的工程化革命。它將“安全”“責(zé)任”“倫理”這些抽象理念,轉(zhuǎn)化為具體、可測(cè)試、可迭代的工程特征,并前置到產(chǎn)品設(shè)計(jì)源頭。最終企業(yè)交付的不再僅是提升效率的技術(shù)工具,而是完整可信的風(fēng)險(xiǎn)管理方案。在這個(gè)模式下,最堅(jiān)固的商業(yè)護(hù)城河由最精密的“剎車(chē)系統(tǒng)”構(gòu)筑。大智知止,明者善約。
本文來(lái)自微信公眾號(hào)“硅兔君”(ID:gh_1faae33d0655),作者:硅兔君,36氪經(jīng)授權(quán)發(fā)布。
本文僅代表作者觀(guān)點(diǎn),版權(quán)歸原創(chuàng)者所有,如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽?lái)源及作者名字。
免責(zé)聲明:本文系轉(zhuǎn)載編輯文章,僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布,請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除,您可以發(fā)送材料至郵箱:service@tojoy.com



