處置最重也只到「降低能見度」,盡量避免直接刪除;因為手段每往前一步,萬一做錯,代價就越難挽回。
七種力度,一條不可逆的光譜
同樣是「處置」,可逆性天差地遠。由左到右,邊條從綠走向紅,代價也從「還能撤回」一路升到「不可逆」——把游標移到任一張卡,看它落在光譜的哪個位置。
守望相助隊移除留言並公開存證
依分數在排序時直接排除
留言收合,仍存在、可展開
把帳號或文章移出公開列表,但帳號其實還在、直連網址仍打得開
一段時間不能發言(1–180 天/永久)
全面停權,連提領、付款都不行
帳號刪除,不可逆。最嚴厲,早期僅用於色情/賭博/迷姦藥
小黑屋:歪打正著的關鍵發明
小黑屋(2023 年 4 月)的誕生,其實出乎設計者意料,是兩條需求湊在一起的結果。一是營運要逐個頻道手動把文章從動態裡拉掉,「太累了,需要一鍵處理」; 二是面對網軍洗版,「與其一篇篇隱藏,不如直接把整個帳號屏蔽掉,反正新帳號還能順便衝高註冊數」。有了小黑屋,洗版大多「踢進去就好」, 處置反而變得更輕、也更容易回復。
未解的張力:帳號主義 vs 作品主義
營運看的是「這個帳號違規了嗎」,產品看的是「這篇好不好、這個人會不會改變」。系統長期刻意不去定義「誰是垃圾製造者(spammer)」, 改用時間區段、每一期重新評估,不給人貼上永久標籤。問題是,「人會變好」這件事,卻一直沒有對應的「放回來」機制。這是真實組織在治理的複雜裡留下的痕跡,到現在還沒解。
同一平台,三種內容三套打掃
同樣是垃圾,長文(文章)、短動態(moment)、留言對使用者的傷害並不一樣,平台的處置流程也跟著分流。 判斷主要看三件事:訊號多不多、傳得多快多廣,以及它對別人造成的「侵略性」有多強。會對症下藥,不會用同一套規則套到底。
長文走「降噪」和小黑屋。文章治理從一開始就靠機器偵測自動調整能見度,原則是「不刪內容,只是不再被看見」: 分數高的可疑文章不出現在推薦、熱門、標籤和頻道,但內容、頁面和原有連結都保留。對一個保護中文書寫的抗審查平台來說,這讓「壓制垃圾」的代價 停在「降低觸及」,不會走到「消滅內容」,也替模型誤判政治、學術文章留了一條可以回復的退路。這類處置大多自動、無聲,作用在單篇文章上。
短動態靠社群設計,比較少靠模型。短文字少、歧義多、又難抓上下文,純看內容很容易判錯,偽陽性特別麻煩。 過去短動態各自待在個人頁、不集中,違規帳號就算狂發廣告,也不會洗到別人的版面;可是一旦要把它們集合成單一頻道、用互動高低來排序,垃圾無腦灌進來就會「一上線就陣亡」。 所以「閒聊」頻道改採 邀請制白名單(opt-in) 預設不開放,想參與的人要主動申請、通過審核才能加入。 +緩衝放行:想加入要先按「加入」,管理員看過沒問題、或 48 小時內沒被拒絕,就自動通過。 開放半個月,「閒聊」把垃圾擋成了零,而當時垃圾短文佔全站超過一半。模型之外,更靠抓「集團」(同一個操盤手量產帳號、用同一套模板洗版)一網打盡。
留言的侵略性最高,處置也最激進。大家各自發短文,井水不犯河水;但垃圾帳號會「主動」跑到別人正常文章底下留言,使用者不看也得看,通知還一直跳, 這是抱怨最多的體驗。所以留言疊了四層防護:志願者打掃、模型自動打掃、辨識垃圾集團(Ring)、管理員判斷。 為了避免誤掃正常留言,自動打掃設了很嚴的條件:同樣內容要重複出現三次、且符合集團樣態,或者模型分數高到非常確定,否則就不動手,交給守望相助隊的隊員人工判斷。 處置作用在單則留言上,而且多半是當場移除(不像文章那樣只降權)。