信網8月15日訊 “一雙剛賣出3天的運動鞋,買家就發來‘鞋底開裂’的照片申請僅退款,可我們倉庫同款鞋子的鞋底材質根本不是這樣。”近日,在某電商平臺經營一家運動鞋網店的店主王先生向信網(熱線0532-80889431)反映,自己近期收到多個僅退款訂單,都是消費者聲稱到貨后沒穿多久鞋底就發生開裂,并上傳了圖片證據。王先生在處理售后退款時發現,有一位消費者上傳的圖片證據中有“AI生成”的水印。當他指出圖片系AI生成后,消費者隨即截掉相關水印并將圖片重新上傳要求退款。據了解,王先生所遇的情況并非個例。信網調查發現,隨著AI生成技術的普及,部分消費者利用AI工具制作商品損壞、瑕疵的虛假圖片或視頻,以此向電商平臺及商家申請僅退款。
從“P圖”到“AI生成” 僅退款騙術技術不斷升級
“以前遇到的退款糾紛,頂多是買家拿真圖‘移花接木’,現在倒好,直接用AI‘無中生有’。”王先生向信網展示了買家提供的“鞋底開裂”照片。信網看到,圖片中鞋子的裂紋邊緣光滑,與實物橡膠鞋底開裂的粗糙質感明顯不符,放大后還能看到圖片角落隱約有“AI生成”的水印痕跡。最終,平臺客服介入核實,駁回了買家的退款申請,但王先生仍因此耗費了3天時間處理糾紛,“這期間店鋪的糾紛率上升,還間接影響了商品的推薦權重,投入的人工、時間成本遠超商品本身價值。”
此外,還有商家在社交平臺發貼表示,自己出售的鞋邊去黑劑被投訴存在質量問題,買家要求僅退款并上傳了一段商品的銷毀視頻。在視頻中可以看到,一開始買家使用右手拿著商品準備投入垃圾桶,可隨后的畫面中突然又多出一只“右手”,兩只手“同時操作”將商品扔進了垃圾桶,明顯有悖于常理。“這是AI視頻生成的常見漏洞,拼接不同素材時容易出現邏輯矛盾。”從事AI圖像識別工作的相關業內人士張先生分析說。
技術門檻降低 AI工具成“造假利器”
為了進一步了解事件的詳情,信網以“商品損壞圖生成”為關鍵詞測試發現,在豆包、騰訊元寶、即夢AI等主流生成式AI平臺,輸入“榴蓮放了一星期局部腐爛”“外賣菜品里有蟲子”等指令,最快幾秒鐘就能生成圖像,部分平臺還支持視頻生成。在即夢AI平臺,信網輸入“香蕉放一周后表皮局部軟爛、有黑斑”的描述,生成的圖片中香蕉的色澤、黑斑分布與真實腐爛狀態高度相似,難以分辨真偽。在生成“披薩里爬出黑色小蟲”的短視頻時,畫面中蟲子的爬行軌跡自然,但仔細觀察仍能發現,蟲子的光影方向與披薩陰影仍存在一定偏差。
信網在小紅書、短視頻等新媒體平臺,搜索關鍵字“AI生成僅退款”“AI生成證據”,也有上百條帖子,部分網友在相關帖子的評論區內熱烈討論,最高的評論數達到3000余條,這從側面說明王先生等商家遇到的情況并非偶然。“AI生成內容能以假亂真,核心是學習了海量真實案例。”業內人士張先生表示,目前主流AI模型的訓練數據包含大量商品損壞、糾紛場景的圖片和視頻,生成時會模仿這些場景的視覺特征,但對物理邏輯,物體反光、陰影、材質紋理等細節一致性的把控仍是目前AI難以完全模擬的。
造假憑證索要退款涉嫌違法
針對AI生成技術帶來的虛假信息、偽造憑證等新挑戰,部分平臺已經開始著手升級審核系統。通過分析視頻圖片中的光影邏輯、物體物理特性等細節,識別AI生成的虛假憑證。這些技術手段,不僅能強化對AI生成內容的甄別能力,還可以在消費者與商家雙方發生糾紛時有效降低舉證環節的難度。
對此,山東文康律師事務所劉偉娜律師表示,從法律層面而言,利用AI生成虛假憑證騙取退款的行為已觸及法律紅線。依據《中華人民共和國刑法》相關規定,若騙取金額達到刑事立案標準,即構成詐騙罪,將面臨有期徒刑、拘役及罰金等處罰;即便未達刑事標準,也違反《中華人民共和國治安管理處罰法》,可能被拘留或罰款。同時,該行為違背《中華人民共和國民法典》誠實信用原則,商家可要求返還退款并索賠處理糾紛的相關成本。同時,電商平臺也需升級技術防范并完善規則,對涉事消費者采取限制賬號等懲戒。有關部門加強AI技術濫用監管,規范生成工具使用并加大打擊欺詐行為力度。只有這樣才能讓AI技術真正服務社會,而非成為不法分子的牟利工具。(耿潤 谷正原)
[來源:信網 編輯:孫寶震]大家愛看