robots.txt प्रकाशित करने से पहले ऑडिट परिवर्तन।
- आप क्या करते हैं
- उपयोगकर्ता-एजेंट समूहों और अनुमति/अस्वीकृति नियमों को अलग करता है।
- आपको क्या मिलता है
- उपयोगकर्ता-एजेंट का परीक्षण किया गया
Googlebot, GPTBot और अन्य क्रॉलर के लिए निःशुल्क robots.txt सिम्युलेटर, विरोध, विजयी नियम और सामान्यीकृत फ़ाइल के साथ।
व्यावहारिक उदाहरण
robots.txt प्रकाशित करने से पहले ऑडिट परिवर्तन।
बताएं कि किसी मार्ग को अनुमति क्यों दी गई है या अवरुद्ध किया गया है।
समूह से बाहर के नियमों और बुनियादी विरोधाभासों का पता लगाएं।
जिम्मेदार दायरा
robots.txt प्रमाणीकरण, सुरक्षा, या डीइंडेक्सिंग कमांड नहीं है। सिम्युलेटर RFC 9309 का एक व्यावहारिक उपसमुच्चय लागू करता है और दूरस्थ URL को क्वेरी नहीं करता है।