大家有沒有試過社交帳號毫無預警地被停用、苦苦經營的粉絲專頁突然無故被停權，或是部分帳號功能被封鎖無法使用？
最近，Facebook公布有7個頁面、3個群組和5個帳號被停用，網絡安全政策主管Nathaniel Gleicher指這些帳號涉及有組織地散播虛假訊息，當中涉及的用家超過五位數字；同時，Twitter以相同原因封鎖一共936個帳戶，Twitter稱他們就內容、資金來源、政治壓力等判定這些帳號為國家控制，有損合理開放的討論。
究竟一般社交網站如何斷定內容有否違背有關規條呢？這項看似瑣碎的任務又由誰來負責呢？
有關Facebook的《社群守則》（Community Standards）
FaceBook內容政策管理經理Sheen Handoo在自由時報接受媒體訪問時，曾說明《社群守則》的實務範例和審查標準。他們容許用戶針對事件說明自己的立場，但不容許用戶發表對於群體排擠或者煽動仇恨的攻擊言論。當時，Handoo亦舉例說明道：「我恨基督教」和「我恨基督徒」兩個都帶有仇恨的成份，可是只有後者會被移除，原因如上——你可以表明你討厭基督教的立場，但不能攻擊基督徒這個群體。
成人內容的審查標準方面，用戶被禁止發佈色情影片或裸露照片，包括有關連結也會被移除。Handoo強調，在「性」的議題上，Facebook會嚴謹執行《社群守則》，務求阻止任何二度傷害，亦因為如此，嘲諷性侵受害者的言論也是不容許的。
值得一提的是，根據Facebook《社群守則》，嚴重違規的帳號、專頁、社團會永久被停權且無法復原，即是說，假若你多次違規，你苦苦經營的所有內容都會全部付諸流水。
人工智能（AI）可以自動偵測違反條款的發文，並然後自動給予懲處
早於2017年，Facebook總裁Mark Zuckerberg引入人工智能（AI）過濾虛假信息。AI系統能檢視圖文，了解圖文中是否帶有攻擊或蔑視的語句，判斷內容是否包含色情的成人內容。
如果你的帳戶無故被Facebook停權或停用，有可能是AI偵測到發文的內容或行為違反了官方制訂的使用條款或《社群守則》有關政策，涉嫌發表涉及到裸露、性行為、仇恨言論或暴力等狀況和使用假名、冒充他人等行徑。另外，短時間內大量的宣傳、推銷亦有可能觸發AI判斷你構成騷擾。
有了AI後，大部分虛報身分的帳戶和有關恐怖主義及其他違規的言論在被舉報之前已經遭到系統偵測，以上提及有關Facebook的例子，就是由AI自動化系統刪除的。不過，儘管Facebook首席技術長Mike Schroepfer連同超過150位工程師揭盡所能，總有新的違規發文證明AI的分析未夠全面。除此之外，AI審查各種內容的能力不一，例如AI分析有關歧視的攻擊欠佳，只能偵測38%的仇恨言論。
即使AI技術一直進步，Schroepfer亦明白，這項工程沒有完成的一天。不得不承認，AI永遠不夠人性化，更何況即使是人類，也未必完全能夠在是非之間取得共識。所以，其實在社交媒體背後為我們把關的除了自動化系統（AI），還少不了內容審查員（content moderator）為我們進行第二輪的內容過濾。
擁有23億用戶的Facebook現時約有7千名內容審查員，平均一分鐘判斷一篇帖文是否不當
內容審查員主要的工作是檢視被Facebook用戶檢舉的內容，再將其逐一刪除。雖然部份的違規內容已被AI篩選過濾，但如上面提及，霸凌、仇恨、政治干預等具針對性和較本土化的發文就比較仰賴人工審查。
The Verge曾經報道過內容審查員的權益問題。內容審查員每天工作不超過8小時，平均每天要查閱8千個帖文，時薪卻僅有15美金，更糟的是，內容審查員長時間觀看大量色情、暴力等令人不安的帖子，造成極大的心理壓力，甚至會患上創傷後遺症。
AI和內容審查員齊心協力一同守護社交媒體上的網路安全，為所有用家提供無憂無慮的瀏覽過程。從科技的角度看，AI至今仍未能獨力負責完善的內容審查，我們期待AI將來的進步；同時，在人權的角度看，在未研發到更有效的AI之前，希望Facebook能夠更加重視內容審查員的權益，讓他們得到應得的福利與薪酬。