Reko Wiki:公告 AI爬蟲對策
跳至導覽
跳至搜尋
因大量 AI 爬蟲導致伺服器超出負荷, 2025-10-15 起未登入使用者瀏覽頁面的 編輯紀錄 與 歷史版本 時, 可能需要通過自動的 Anubis 測試 [1] 。 因為爬蟲無法執行 Anubis 的測試,用 Anubis 過濾即可大幅減少 server 負擔。
AI 爬蟲
近年由於科技巨頭們的 AI 軍備競賽,需要大量的網頁文本作為訓練資料, 各公司開始無視 robots.txt 的君子協定,無差別大量爬取各網站頁面, 造成全世界的網站管理員都苦不堪言。 有的是網站超過負荷訪問緩慢斷線,甚至有因為虛擬主機商按流量計費,而糟到帳單爆擊的例子。
保護項目
您需要啟用 JavaScript 與 Cookie 來通過 Anubis 的測試, 在 anubis 測試頁會跑一小段程式碼來檢測是否為正常瀏覽器, 通過後在 Cookie 有效期間內不需要再次測試。
目前 Anubis 保護頁面包含:
備註
- ↑ 算是另一層面的人機測試,底層使用工作量證明實作, 詳見 AI 爬蟲阻擋軟體 Anubis 的說明