真相來了丨靠AI“洗稿”非法獲利8萬余元 2人因非法經營罪被刑拘

　　粉碎謠言，真相來了。人工智能工具的使用，給我們的工作生活帶來便利，但也被一些不法分子利用，成為造謠的工具。近日，上海警方公布了多起案例，其中之一就是一個名為醫學科學院細胞中心的微信公眾號，發布了一則信息，自稱跟某家醫院合作，可以通過干細胞來治療腎病，一起來揭開真相。

　　今年3月初，上海黃浦警方接到一家三甲醫院報警稱，一個名為醫學科學院細胞中心的微信公眾號，發布了包含大量不實信息的文章，對該醫院聲譽造成影響。

　　上海市公安局黃浦分局網安支隊民警 郁敏皓：文章說跟某醫院有合作，可以通過干細胞來治療腎臟病，但是經醫院反饋，他們在平時的臨床過程當中，干細胞是不能用在腎臟病的治療的。

　　文章中，不僅編造醫學科學院細胞中心與該醫院進行合作，還聲稱該干細胞治療項目源自國家級醫學院，并羅列出多項聯合研究療效評估數據，還附帶兩名患者的康復案例。經醫院核實，這些信息全部為杜撰。警方隨后依法傳喚了該微信公眾號的工作人員陳某和蔡某。

　　上海市公安局黃浦分局網安支隊民警 郁敏皓：他是通過詞庫，還有關鍵字，利用AI直接生成這篇文章，包括提到的醫院，包括里面一些人物其實都是AI弄的。編寫文章的這個人，他是沒有醫療背景去識別這個文章的真實性的。

　　經查，團隊運營主管蔡某沒有醫療知識背景，在無法核實真偽的情況下，放任陳某編寫發布毫無事實依據的文章。民警表示，該公眾號為某自媒體運營公司今年2月新注冊的賬號，以醫療科普為名發布文章，多篇文章出自沒有任何醫學知識的人員，目的只是為公司所服務的其他醫院引流，招攬病人線下就醫。

　　上海市公安局黃浦分局網安支隊民警 郁敏皓：其實他背后服務的團隊，就是線下的這種醫療機構，為了引流，然后只要有客人來了，他們可能就會得到相應的分成。

　　目前，陳某、蔡某已被警方依法處以行政處罰。

　　為博眼球 故意裁掉“AI生成視頻”標簽

　　除了利用AI編造謠言，還有人用AI生成的視頻制造爭議話題。在另一起案件中，當事人故意刪掉AI生成視頻的水印標簽，制造外賣騎手打翻餐食又倒回的假象，引發大量輿論關注。

　　外賣員：好的，馬上到了，你稍等一下。你放心吧，我的車技是這一帶最好的，一滴湯都不帶灑的，放心吧。

　　今年2月，這段外賣員將撒落在外賣箱里的面條，重新裝盒配送的短視頻在網上傳播，造成惡劣影響。經警方調查，該視頻完全由AI生成。

　　上海市公安局青浦分局網安支隊民警 徐禎意：這段視頻下面并沒有標識是AI生成的，我們最后經過溯源之后，發現這個視頻系轉載，原作者他在視頻下方，有標注視頻是AI生成這么一個情況。

　　經查，網民劉某某從網上下載了該視頻，為博取眼球，他重新發布時故意裁切掉原視頻中“AI技術生成”的水印標簽。此后，網民高某某、武某某為吸引關注，還在評論區發布“我就這樣干過”“哪個外賣員沒干過，我就不相信了”等不實信息。

　　上海市公安局青浦分局網安支隊民警 徐禎意：評論區里的網民會去指責這個公司，如果我們不加以制止，讓視頻肆意擴散或者不及時澄清的話，對這個平臺和公司肯定會造成比較持久的負面影響。

　　目前，劉某某已被警方依法處以行政拘留，高某某、武某某被處以罰款。

　　AI“洗稿”編造多家車企謠言 兩人被抓

　　一些不法分子還用AI“洗稿”來批量制造謠言。

　　AI“洗稿”簡單說，就是利用AI技術，對他人發布的文章、信息進行抄襲、改寫、刪減、拼湊，甚至直接編造，變成偽原創內容。

　　在上海警方此次公布的一起網絡水軍案件中，不法分子就是利用AI“洗稿”非法獲利8萬余元。

　　今年2月，多家車企向上海警方反映，長期遭受網絡不實信息侵擾。這些信息不僅捏造企業經營狀況、新能源電池風險乃至交通事故傷亡等內容，還大量散布銷量下滑、虧損擴大、員工福利降低等不實消息，并配上“腰斬”“信任崩塌”“窟窿50億”等聳人聽聞的詞匯，刻意制造經營困難、亂收費等爭議話題，嚴重影響了車企的正常經營。

　　上海市公安局嘉定分局網安支隊副支隊長 閻皓：像新能源車，大家都非常關心的一個問題就是起火，起火的原因，它可能會去演繹。那么有一些可能是通過撞擊，或者說發生了交通事故碰撞之后，電池液泄漏造成的起火。那么它可能是在AI編撰這個故事的過程當中，它會把細節給漏掉，就說這輛車在正常行駛的過程當中，突然就著火了。

　　經查，這些集中發布虛假消息的賬號，實際運營者僅梁某、郭某兩人。今年3月，兩人被抓獲歸案。到案后他們交代，為博取眼球和獲取平臺獎勵，兩人配合搜集車企爭議話題，再利用AI工具“洗稿”，杜撰涉企不實文章，并發布到網上。因平臺獎勵僅限新注冊用戶，兩人通過非法渠道獲取了約4000個各類網絡平臺賬號，平臺獎勵減少后，便棄用，另尋新賬號。兩人明知無法保證AI生成內容的真實性，仍選擇在平臺監管較弱的凌晨1點至6點批量發布針對多家車企的謠言信息。

　　上海市公安局嘉定分局網安支隊副支隊長 閻皓：賺錢模式主要是養了一大批新的社交媒體賬號，然后是以這種發布原創型的文章在這個平臺上面，吸引別人去瀏覽，后續平臺會根據原創獎勵的這種機制給他返錢。

　　警方表示，根據相關司法解釋，違反國家規定，以營利為目的，明知是虛假信息，仍通過信息網絡有償提供發布信息等服務，擾亂市場秩序，屬非法經營行為，個人非法經營數額達5萬元以上或違法所得2萬元以上，單位非法經營數額達15萬元以上或違法所得5萬元以上，即達到入刑標準。截至案發，梁某和郭某已累計發布不實文章70余萬篇次，非法獲利8萬余元。目前，兩人已被警方以涉嫌非法經營罪依法采取刑事強制措施。

　　當AI成為造謠工具 網絡平臺應加強監管

　　通過此次上海警方公布的這些案件，我們看到，不法分子利用AI工具，低成本制造虛假信息，而一些網絡平臺已成為謠言傳播與變現的主要渠道。平臺一方面用獎勵機制鼓勵“原創內容”，另一方面卻缺乏有效手段區分人工創作與AI編造洗稿。AI本身是一項技術，當它被用于編造謠言、制造爭議、牟取非法利益時，網絡平臺更應加強監管，避免虛假信息傳播。當前，上海警方已要求案件中涉及的平臺方關停相關賬號、下架不實信息，并會同網信部門敦促平臺企業切實履行用戶發布內容的審核義務。