主題 · 垃圾偵測模型的偽陽性與門檻倫理學

無辜的使用者是怎麼受傷害的？

任何「打分數、設門檻」的系統，都用同一種方式做決定，擋垃圾卻誤刪正常文章。這種方式不可能做到完美，所以不能怪工程沒做好。

偽陽性	正常內容被誤判成垃圾 → 誤傷了正常使用者，這是言論自由要付的代價
偽陰性	垃圾沒被抓到、漏了出去 → 這是公共空間品質要付的代價

換你試試看

往嚴格的方向拖，垃圾擋得更乾淨，但正常內容開始被誤刪；往寬鬆的方向拖，誤刪變少，垃圾又漏了回來。最理想的位置落在中間，而真實世界的內容，遠比這 22 種文章更複雜。

為什麼越稀有的好內容，越容易被誤刪

統計上有一個 常見現象（base-rate） 基率陷阱：某件事在整體中本來就佔的比例。當垃圾比例極高、要保護的好內容極少時，再準的篩選也容易誤傷那一小撮。 是，如果垃圾內容本來就很少，就算過濾器很準，也會因為正常內容的數量太大，誤判出不少其實沒問題的內容。Matters 的處境剛好相反，而且更麻煩——平台上有 70–80% 是垃圾，模型的絕對誤殺率其實很低（從 3.1% 一路降到 0.13%）；但真正要保護的公民、政治、調查報導內容，只佔大約 1%。麻煩的是，模型「把錯誤放大」的時候，往往剛好就把這 1% 誤判成垃圾。就算誤判率低到 0.13%，被誤刪的那一小撮，偏偏就是平台存在意義所在的那 1%。

在不確定時，寧可漏看一篇垃圾，也不要誤刪珍貴的文章。

工程上的對策：沒把握就不要下判斷

我們在新一代模型多加了一層 「不確定就不判」機制（conformal） 讓模型沒把握時不要硬判，改回答「不確定、交給人看」，而不是勉強分類。還能用統計保證「誤擋正常內容的機率」不超過某個上限。 ，每篇會給出「放行／擋下／待人工複查」三種結果，沒把握的就不要硬判、交還給真人來判斷。因為這一步，文章模型實際的誤殺率從 24% 壓到 1.6%。而真人判斷應該也要有準則。

誤刪了怎麼自救：申訴與救濟

門檻再怎麼調，誤判都不會歸零。所以真正的重點，除了「少刪一點」之外，更需要確保被誤刪的人能不能被救回來，這就是許多大型社群平台被詬病的地方，因為這些平台沒有這樣透明、可信的服務。一套可信的救濟機制，至少要滿足三個條線：流程公開透明（使用者看得到自己被怎麼處置、為什麼）、申訴簡單好用（管道找得到、也容易提出）、救濟真的有效（申訴真的會被覆核，誤判真的能被還原）。

平台治理要有兩個設計，才能讓誤刪的傷害變小。第一，文章層的處置只降低能見度、不刪除：可疑文章不出現在推薦和頻道， 但內容、頁面和原本的連結都保留，所以誤判是救得回來的，只要把能見度放回去就好，不必無中生有。 第二，新一代偵測多了「放行／擋下／待人工複查」這層機制，沒把握的就不判、交給人看， 從源頭就把會走到申訴的案件量壓低。

不同處置的「正當程序」流程不會一樣。最完整的是守望相助隊的「打掃」：每一筆移除都有公開存證、申訴狀態和管理員覆核 （結論分成維持、推翻、或調整理由），任何人都能查到「誰、在什麼時候、用什麼理由、移除了什麼」，這是因為「使用者」被賦予了管理員的部分權限，我們用透明的紀錄來實踐公眾監督彼此。相對地，文章層的自動降噪多半是無聲的，使用者常常不知道自己被處置了。 站上之所以一再強調「透明」，就是為了把演算法、訓練資料和被誤刪的案例對外公開，申訴和救濟才有依據。

在不確定時，寧可漏看一篇垃圾，也不要誤刪珍貴的文章。

這套標準不只對內適用，對外也需要，甚至讓平台可以保護自己。2025 年農曆春節，Matters 因為湧入大量垃圾，觸發了台灣 網路服務業者（ISP） 提供你上網連線的電信／網路公司，例如中華電信。 在網域名稱系統（DNS）的詐騙阻擋流程（由台灣網路資訊中心（TWNIC）以改寫網域查詢（DNS-RPZ）執行），全台使用者三天連不上平台。在這個案例中，平台自己成了「被誤判、被阻斷」的受害者。平台對使用者要求流程透明、申訴好用、救濟有效；當它自己被別人處置時，也該得到同樣的對待。一套救濟機制可不可信，正是在這種「治理者同時也是被治理者」的處境裡被檢驗。

門檻不該由工程師獨斷

那條線該劃在哪裡，說到底是價值取捨，技術只能告訴你後果，決定不了答案。所以本計畫才會舉辦研討會，把「門檻該往誤刪正常內容還是容許垃圾內容調整」當成要一起討論的重要題目。

延伸閱讀：模型怎麼學、怎麼被毒、怎麼救