8月8日,OpenAI 推出了GPTBot,和谷歌、Bing等类似的网络爬虫工具,能够自动抓取网站的数据,用来训练 GPT-4 或 GPT-5,提升未来人工智能系统的准确性和能力。
屏蔽方法
通过robots.txt文件屏蔽:在网站的robots.txt文件中添加以下内容:
User-agent: GPTBot Disallow: /
这样GPTBot蜘蛛就不会抓取网站上的任何内容。
GPTBot的IP地址是多少?
20.15.240.64/28 20.15.240.80/28 20.15.240.96/28 20.15.240.176/28 20.15.241.0/28 20.15.242.128/28 20.15.242.144/28 20.15.242.192/28 40.83.2.64/28
以上本篇文章的全部内容了,感兴趣的小伙伴可以看看,更多精彩内容关注腾轩网www.tengxuanw.com