AI爬蟲

AI 爬蟲有沒有真的讀過你的網站?看存取日誌就知道

robots.txt 把 GPTBot、ClaudeBot 這些規則設定好,不代表 AI 爬蟲真的讀過你的網站,它只是單方面的告示,沒有強制力也沒有回報機制。想知道 AI 有沒有真的讀過你的內容、讀了哪些頁面,唯一可靠的證據是伺服器的原始存取日誌,本文教你篩選、比對、驗證真偽,一步步查出答案。

JavaScript SEO 做對了,AI 爬蟲卻讀不到?

JavaScript SEO 多數人以為 Google 讀得懂就過關,但 GPTBot、ClaudeBot、PerplexityBot 抓到的常常是空殼,商品規格、比較內容全部消失。拆解爬蟲讀取落差、風險頁面、三個自測法,以及 SSR、SSG、預渲染怎麼選。

llms.txt 是什麼?該不該做,看數據就知道

llms.txt 是什麼?它是放在網站根目錄的純文字檔,主動告訴 AI 你的網站哪些內容最值得引用。但 Google 最新官方文件已經寫明,做不做都不影響排名;Ahrefs 追蹤 13.7 萬個網站更發現,九成七的檔案從未被讀取。這篇用官方說法與實測數據,幫你判斷這個檔案到底值不值得做。