美女拍拍拍爽爽爽爽爽爽-美女全黄网站免费观看-美女三级网站-美女三级在线-69国产成人精品午夜福中文-69国产视频

6、什么是Robots?Robots.txt文件放在哪里?

發布時間:2019-11-12 19:49:23   瀏覽人數: 8888 次  

答:搜索引擎通過一種程序robot(又稱spider),自動訪問互聯網上的網頁并獲取網頁信息。

可以在網站中創建一個純文本文件robots.txt,在這個文件中聲明該網站中不想被robot訪問的部分,這樣,該網站的部分或全部內容就可以不被搜索引擎收錄了,或者指定搜索引擎只收錄指定的內容。

robots.txt文件應該放在網站根目錄下。舉例來說,當robots訪問一個網站(比如http://www.abc.com)時,首先會檢查該網站中是否存在http://www.abc.com/robots.txt這個文件,如果機器人找到這個文件,它就會根據這個文件的內容,來確定它訪問權限的范圍。


資料來源網絡,僅供學習交流,如您發現本文中有涉嫌抄襲,請發送郵件至:support@iisp.com,一經查實,本站將立刻刪除涉嫌侵權內容。


上一篇:7、什么是外鏈?如何做?
下一篇:5、什么是sitemap?

旗下網站:耐思智慧 - 淘域網 - 我的400電話 - 中文域名:耐思尼克.cn 耐思尼克.top

耐思智慧 © 版權所有 Copyright © 2000-2025 IISP.COM,Inc. All rights reserved

備案號碼: 粵ICP備09063828號  公安備案號: 公安備案 粵公網安備 44049002000123號  域名注冊服務機構許可:粵D3.1-20240003 CN域名代理自深圳萬維網

聲明:本網站中所使用到的其他各種版權內容,包括但不限于文章、圖片、視頻、音頻、字體等內容版權歸原作者所有,如權利所有人發現,請及時告知,以便我們刪除版權內容

本站程序界面、源代碼受相關法律保護, 未經授權, 嚴禁使用; 耐思智慧 © 為我公司注冊商標, 未經授權, 嚴禁使用

法律顧問:珠海知名律師 廣東篤行律師事務所 夏天風 律師

主站蜘蛛池模板: 三级网站在线 | 欧美中文字幕一二三四区 | 亚洲a在线视频 | 国产国语对白一区二区三区 | 日韩视频在线观看视频 | 日朝欧美亚洲精品 | 真人午夜a一级毛片 | 午夜影院免费入口 | 日本高清一区二区三区不卡免费 | 亚洲久热 | 亚洲va欧美va人人爽夜夜嗨 | 日韩视频在线精品视频免费观看 | 奇米一区二区 | 欧美性大战久久久久久久蜜桃 | 日韩有码第一页 | 亚洲依依成人综合网站 | 日本一区二区三区在线看 | 黄色大片免费网站 | 久久精品免看国产 | 亚洲欧美日韩网站 | 国产成人18黄网站免费 | 日本三级全黄三级三级三级口周 | 99热成人精品免费久久 | 免费在线视频成人 | 国产精品揄拍一区二区 | 香港三级日本三人妇孕妇 | 131美女爱做免费毛片 | 性a爱片免费视频性 | 免费高清毛片天天看 | 你懂的国产高清在线播放视频 | 免费在线看黄色片 | 免费看片aⅴ免费大片 | 欧美福利片在线观看 | 狠狠色婷婷狠狠狠亚洲综合 | 成人综合国产乱在线 | 天天摸夜夜摸狠狠摸夜夜摸 | 日韩精品视频免费网址 | 成人午夜短视频 | 国产一区二区三区日韩 | 巨大欧美黑人xxxxbbbb | 免费看黄的网页 |