文章首發於# Chevereto V4 的進階使用：加入圖片審核及兒童色情鑒黃機制，轉載請註明出處。
Chevereto V4 是一個非常出色的圖片分享和存儲平台，它提供了一個簡潔易用的界面和強大的功能。然而，如何確保分享的圖片內容的安全性和合法性，是一個嚴肅的問題。所以，為了能夠讓各位站長避免自己的圖床因為別有用心的人上傳一些違反公共道德及法律的圖片而收到制裁，我們需要引入一個有效的圖片審核及兒童色情內容的鑒黃機制。本篇博客將詳細介紹如何在 Chevereto V4 中加入圖片審核和兒童色情鑒黃機制。
一、圖片審核#
-
啟用圖片審核
首先，我們需要在 Chevereto 的後台管理系統中啟用圖片審核功能。這可以在
設置->圖片上傳中找到。啟用後，所有上傳的圖片在發布前都需要經過管理員的手動審核。 -
圖片審核流程
當用戶上傳圖片後，這些圖片將會出現在 "待審核" 的列表中。管理員可以查看這些圖片，然後選擇通過或者拒絕。如果圖片被拒絕，系統將會自動刪除該圖片，並向上傳者發送通知。
二、兒童色情鑒黃機制#
對於兒童色情內容的檢測，我們需要借助一些 AI 工具，這裡我們就可以用到 Chevereto V4 內建由 ModerateContent提供的兒童色情鑒黃 API。
-
啟用 AI 工具
ModerateContent 已經提供了 RESTful API，並將其集成到 Chevereto 中。首先，我們需要在這裡獲取一個免費的 API Key。
-
配置檢測參數
然後，在 Chevereto 的後台管理系統中，找到設置 -> 外部服務。
開啟 ModerateContent 並且輸入我們剛才獲取的 API Key，就大功告成了。
-
自動檢測流程
當用戶上傳圖片時，系統會自動調用 AI 工具進行檢測。如果檢測到兒童色情內容，系統將會自動拒絕該圖片，並向上傳者發送通知。
注意#
ModerateContent 的免費試用每月僅限 10000 張，如果有更多需求的話需要提升到 Pay As You Go。詳細的自費可以見如下圖示。
小結#
通過以上步驟，我們就可以在 Chevereto V4 中加入圖片審核和兒童色情鑒黃機制了。這樣可以有效地保護用戶的權益，防止不適宜的內容傳播。然而，這樣的機制並不能完全替代人的判斷，因此管理員仍然需要定期對系統的判斷進行複查。
這是一個複雜但重要的過程，我們必須始終保持警惕，以確保我們的網絡空間安全、健康。我們也期待更多的技術和工具能夠幫助我們更有效地管理和審核圖片內容，實現真正的智能化、自動化。
更多常見問題#
1. 如何處理誤判的情況？
當 AI 工具誤判時，可以通過人工複查來糾正。如果發現某個工具的誤判率較高，可以考慮調整其配置參數，或者更換其他更精確的 AI 工具。
2. 如何防止惡意用戶反復上傳不適宜的圖片？
可以在用戶管理系統中添加限制，比如上傳圖片的頻率限制、一次上傳圖片數量的限制等。對於頻繁上傳不適宜圖片的用戶，可以進行警告、禁言或者封號等處理。
3. 如果用戶對審核結果有異議，應該如何處理？
可以設立一個申訴機制，用戶可以通過申訴來反饋他們對審核結果的異議。管理員收到申訴後，應該再次對相關圖片進行審查，並給出合理的回復。