CrawlerControl
उत्पाद मार्गदर्शिका

उपयोग के मामले

Googlebot, GPTBot और अन्य क्रॉलर के लिए निःशुल्क robots.txt सिम्युलेटर, विरोध, विजयी नियम और सामान्यीकृत फ़ाइल के साथ।

व्यावहारिक उदाहरण

  1. 01

    robots.txt प्रकाशित करने से पहले ऑडिट परिवर्तन।

  2. 02

    बताएं कि किसी मार्ग को अनुमति क्यों दी गई है या अवरुद्ध किया गया है।

  3. 03

    समूह से बाहर के नियमों और बुनियादी विरोधाभासों का पता लगाएं।

स्थिति 01

robots.txt प्रकाशित करने से पहले ऑडिट परिवर्तन।

आप क्या करते हैं
उपयोगकर्ता-एजेंट समूहों और अनुमति/अस्वीकृति नियमों को अलग करता है।
आपको क्या मिलता है
उपयोगकर्ता-एजेंट का परीक्षण किया गया
स्थिति 02

बताएं कि किसी मार्ग को अनुमति क्यों दी गई है या अवरुद्ध किया गया है।

आप क्या करते हैं
सबसे विशिष्ट समूह का चयन करें और सबसे लंबा पथ मिलान लागू करें।
आपको क्या मिलता है
स्थानीय मार्ग
स्थिति 03

समूह से बाहर के नियमों और बुनियादी विरोधाभासों का पता लगाएं।

आप क्या करते हैं
विजेता नियम, चेतावनियाँ और डाउनलोड करने योग्य सामान्यीकृत robots.txt प्रदर्शित करता है।
आपको क्या मिलता है
जीतने का नियम

जिम्मेदार दायरा

स्रोत और दायरा

robots.txt प्रमाणीकरण, सुरक्षा, या डीइंडेक्सिंग कमांड नहीं है। सिम्युलेटर RFC 9309 का एक व्यावहारिक उपसमुच्चय लागू करता है और दूरस्थ URL को क्वेरी नहीं करता है।

टूल आज़माएँ