AI淪為電商退款詐騙工具 偽造瑕疵圖催生灰產(chǎn) 商家維權(quán)陷困境
借助AI生成虛假的商品瑕疵圖片或視頻，這類偽造證據(jù)被用于網(wǎng)購“薅羊毛”，甚至形成了收費教學(xué)的灰色產(chǎn)業(yè)鏈，電商商家正遭遇“舉證困難、立案更難”的維權(quán)窘境。
自去年起，利用AI制作商品破損圖在電商購物中實施“薅羊毛”行為，已發(fā)展為新的灰色產(chǎn)業(yè)。
近日，江蘇一家大閘蟹網(wǎng)店的店主高女士遭遇了新型詐騙。她寄出的8只螃蟹，買家次日發(fā)來的圖片和視頻顯示“死了6只”，并以此申請退款195元。經(jīng)警方調(diào)查，該視頻是AI偽造的。涉事買家被處以行政拘留8日，這是全國首例因利用AI偽造視頻騙取網(wǎng)購?fù)丝疃艿叫姓幜P的案件。
高女士的經(jīng)歷并非個例。《科創(chuàng)板日報》記者調(diào)查發(fā)現(xiàn)，隨著AI工具的普及，偽造商品瑕疵圖片和視頻的技術(shù)門檻大幅降低。從生鮮食品到衣物，逼真的虛假“證據(jù)”被少數(shù)人用于“薅羊毛”，甚至催生了付費教學(xué)的灰產(chǎn)。面對這類欺詐行為，電商賣家陷入了“舉證難、立案更難”的維權(quán)困境。
AI破損圖“薅羊毛”：退款糾紛背后的AI灰產(chǎn)
僅需一張商品開箱原圖，通過AI生成技術(shù)，就能輕松制作出足以“以假亂真”的退款證據(jù)。
從事紫砂行業(yè)15年的電商賣家鐘先生上個月也遭遇了AI假圖騙退款事件：一位買家以商品破損為由申請僅退款，并發(fā)送了數(shù)張顯示紫砂壺有多道裂紋的圖片。憑借行業(yè)經(jīng)驗，鐘先生雖覺得圖片有異常，但在對方的不斷催促和指責(zé)下一度動搖。在他的堅持要求下，買家發(fā)來“破損視頻”，經(jīng)同行群辨認(rèn)，被指出是AI生成的假視頻——“手一摸就開裂，這是AI的典型特征”。鐘先生依靠專業(yè)知識識破了騙局，對方最終取消了退款申請。
一年前，這種能生成逼真?zhèn)卧煺掌鸵曨l的AI技術(shù)還只有少數(shù)科技公司和專業(yè)人士掌握。如今，隨著開源AI工具和商業(yè)化AI服務(wù)的普及，該技術(shù)的門檻已顯著降低。
《科創(chuàng)板日報》記者注意到，今年以來，多個電商平臺的商家在小紅書等平臺反映，有消費者使用AI技術(shù)生成商品存在瑕疵的圖片或視頻，并以此發(fā)起退款申請。
這類偽造內(nèi)容涵蓋生鮮腐壞、衣物破損、化妝品滲漏等多種場景，視覺效果已非常逼真。其中，由于退貨驗證難度大，生鮮類商品成為此類欺詐行為的重災(zāi)區(qū)。
上海光明（合肥）律師事務(wù)所的涂攀躍律師也向記者證實，半年前就已接觸多起類似案件，欺詐目標(biāo)大多集中在生鮮水果、服裝鞋帽等小額商品上。
為驗證AI造假現(xiàn)象，《科創(chuàng)板日報》記者在騰訊元寶、豆包等常見AI工具中進行了實測，僅需輸入“將圖片中的水果局部處理成腐爛狀態(tài)”這類簡單指令，大模型可在30秒內(nèi)生成極具迷惑性的“證據(jù)”圖片。
AI生成的水果腐爛圖
盡管輸出圖片通常帶有“AI生成”水印，但該標(biāo)識多位于邊角位置，通過簡單裁剪即可去除。不過，據(jù)部分商家發(fā)帖反映，不少作為“證據(jù)”提交的圖片，仍直接帶有未處理的水印，AI偽造痕跡明顯。
據(jù)“電訴寶”發(fā)布的數(shù)據(jù)顯示，在“618”期間全國電商平臺的商家投訴中，“退款問題”以16.16%的占比位居首位；“任意僅退款”問題則以12.10%的占比緊隨其后。由此可見，當(dāng)前退款糾紛較為普遍，而AI偽造技術(shù)的濫用，無疑為這一灰色地帶增加了新的技術(shù)復(fù)雜度。
值得注意的是，有部分商家反映，即便能識別出買家使用AI偽造商品破損，向平臺提交申訴后，卻常因平臺認(rèn)定“憑證不足”而被駁回，最終被建議“與買家協(xié)商解決”。
同時，由于單筆或關(guān)聯(lián)訂單的總金額往往不足1000元，難以達到詐騙罪的刑事立案標(biāo)準(zhǔn)，導(dǎo)致商家尋求報警處理的途徑也難以走通，陷入維權(quán)無門的困境。
隨著AI工具使用門檻的快速下降，利用該技術(shù)實施違規(guī)乃至違法行為的成本也相應(yīng)降低。技術(shù)濫用的低成本與維權(quán)過程的高成本，正使眾多電商賣家陷入新的困境。
更值得警惕的是，除了用AI生成假圖外，當(dāng)前圍繞“僅退款”已衍生出一條灰色產(chǎn)業(yè)鏈。此前有媒體調(diào)查發(fā)現(xiàn)，只需支付約288元“學(xué)費”，便有自稱“師傅”的人承諾傳授全套“僅退款”技巧，并聲稱單個賬號成功退款次數(shù)可達30次左右。
AI成造假工具，小額欺詐追責(zé)難題如何破解？
近日，全國首例AI偽造視頻網(wǎng)購詐騙案的行政處罰，意味著法律開始對這一新型犯罪形態(tài)作出回應(yīng)。然而，現(xiàn)行法律體系在面對快速發(fā)展的AI技術(shù)時仍顯滯后。
上海復(fù)晨律師事務(wù)所律師蔡斌向《科創(chuàng)板日報》記者表示，曾接到商家關(guān)于遭遇AI造假欺詐的咨詢，但此類案件通常涉案金額較小。關(guān)于維權(quán)路徑，蔡斌給出了明確建議，一是向平臺投訴，二是選擇報警。
他指出，該行為在定性上符合《刑法》第266條詐騙罪的構(gòu)成要件。但在實踐中，由于金額往往達不到刑事立案標(biāo)準(zhǔn)，追究刑事責(zé)任存在困難。公安機關(guān)可依據(jù)《治安管理處罰法》對此類行為進行查處，例如處以5至10日的拘留。
從技術(shù)角度看，防范AI偽造視頻的“反AI”技術(shù)也在發(fā)展。然而，這些技術(shù)的普及應(yīng)用仍需時間，且成本較高。對于絕大多數(shù)中小電商平臺和賣家而言，自行部署這類技術(shù)防御系統(tǒng)尚不現(xiàn)實。
在接受《科創(chuàng)板日報》記者采訪時，多位律師指出，應(yīng)對AI技術(shù)濫用對電商環(huán)境的沖擊，必須依靠多方協(xié)同共治。但在此過程中，電商平臺應(yīng)扮演更為關(guān)鍵的角色，承擔(dān)起升級技術(shù)審核、優(yōu)化規(guī)則設(shè)計等核心責(zé)任。
“目前，各大電商平臺在‘僅退款’制度及AI鑒偽識別風(fēng)控系統(tǒng)建設(shè)方面，還有一定的滯后性?！鄙虾９饷鳎ê戏剩┞蓭熓聞?wù)所律師涂攀躍直言，“對于電商平臺，在處理‘僅退款’問題上絕非簡單的‘裁判’身份，其負(fù)有多重審核與注意義務(wù)。”
同時，涂攀躍建議由有關(guān)監(jiān)管部門牽頭，組織平臺對“AI濫用”“代投訴退款”及“職業(yè)索賠培訓(xùn)陪跑”等黑灰產(chǎn)領(lǐng)域進行聯(lián)合打擊。
此外，從更宏觀的治理視角看，構(gòu)建新防線需超越平臺層面。蔡斌進一步向《科創(chuàng)板日報》記者指出，應(yīng)對AI技術(shù)濫用引發(fā)的電商欺詐，法律與監(jiān)管層面也需同步完善。
他認(rèn)為，立法需與時俱進。針對利用AI等新技術(shù)實施、且已呈現(xiàn)蔓延趨勢的新型犯罪形式，應(yīng)考慮在刑法中增設(shè)專門條款或出臺司法解釋，進行明確的法律規(guī)制。
同時，加強對消費者的合規(guī)教育不可或缺。技術(shù)工具本身無罪，關(guān)鍵在于如何使用。應(yīng)通過基礎(chǔ)教育引導(dǎo)消費者清晰認(rèn)識技術(shù)的合法使用與違法使用的邊界，避免因噎廢食，在打擊犯罪的同時保護技術(shù)創(chuàng)新的積極性。
此外，蔡斌建議探索構(gòu)建社會化解紛機制。糾紛解決不應(yīng)僅限于法院、公安機關(guān)或電商平臺。在消費領(lǐng)域，可以探索設(shè)立更多元、更前置的非訴解決渠道，為未達犯罪門檻的糾紛提供高效化解路徑。
本文來自微信公眾號“科創(chuàng)板日報”，作者：李佳怡田野，36氪經(jīng)授權(quán)發(fā)布。
本文僅代表作者觀點，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請在文中注明來源及作者名字。
免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請及時與我們聯(lián)系進行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com