CrawlerControl
Produktuaren gida

Erabilera-kasuak

Probatu robots.txt arauak Googlebot, GPTBot eta beste agenteentzat. Ikusi bide bat onartzen edo blokeatzen duen araua, eta deskargatu testua iruzkinak eta Sitemap gordez.

Adibide praktikoa

  1. 01

    Ikuskatu aldaketak robots.txt argitaratu aurretik.

  2. 02

    Azaldu zergatik onartzen den edo blokeatzen den ibilbide bat.

  3. 03

    Taldez kanpoko arauak eta oinarrizko kontraesanak antzematea.

Adibide praktikoa

Egoera A · Sarbidea blokeatuta

Zure datuak

robots.txt-en edukia
User-agent: * Disallow: /private/ Allow: /private/public/ Sitemap: https://example.test/sitemap.xml
Erabiltzaile-agentea
Googlebot
tokiko ibilbidea
/private/report.html

Emaitza

Arau zehatzena disallow da: /private/.

Erabakia
DISALLOW
Arau-taldeak
1
Bat datozen arauak
1
  • robots.txt-ek arakatzaile kooperatiboak ditu helburu; Ez du autentifikatzen, ez du edukia babesten eta ez du bermatzen desindexatzea.

Egoera B · Sarbidea baimenduta

Zure datuak

robots.txt-en edukia
User-agent: * Disallow: /private/ Allow: /private/public/ Sitemap: https://example.test/sitemap.xml
Erabiltzaile-agentea
Googlebot
tokiko ibilbidea
/private/public/report.html

Emaitza

Arau zehatzena allow da: /private/public/.

Erabakia
ALLOW
Arau-taldeak
1
Bat datozen arauak
2
  • robots.txt-ek arakatzaile kooperatiboak ditu helburu; Ez du autentifikatzen, ez du edukia babesten eta ez du bermatzen desindexatzea.

Egoera C · Sarbidea blokeatuta

Zure datuak

robots.txt-en edukia
User-agent: * Allow: /page Disallow: /*.htm
Erabiltzaile-agentea
Googlebot
tokiko ibilbidea
/page.htm

Emaitza

Arau zehatzena disallow da: /*.htm.

Erabakia
DISALLOW
Arau-taldeak
1
Bat datozen arauak
2
  • robots.txt-ek arakatzaile kooperatiboak ditu helburu; Ez du autentifikatzen, ez du edukia babesten eta ez du bermatzen desindexatzea.

Egoera D · Sarbidea blokeatuta

Zure datuak

robots.txt-en edukia
User-agent: * Disallow: /café
Erabiltzaile-agentea
Googlebot
tokiko ibilbidea
/caf%C3%A9

Emaitza

Arau zehatzena disallow da: /café.

Erabakia
DISALLOW
Arau-taldeak
1
Bat datozen arauak
1
  • robots.txt-ek arakatzaile kooperatiboak ditu helburu; Ez du autentifikatzen, ez du edukia babesten eta ez du bermatzen desindexatzea.

robots.txt ez da autentifikazioa, segurtasuna edo desindexatzeko komando bat. Simulatzaileak RFC 9309 azpimultzo praktiko bat ezartzen du eta ez ditu urruneko URLak kontsultatzen.

Emaitza deskargatu · JSON

Irismen arduratsua

Iturriak eta irismena

robots.txt ez da autentifikazioa, segurtasuna edo desindexatzeko komando bat. Simulatzaileak RFC 9309 azpimultzo praktiko bat ezartzen du eta ez ditu urruneko URLak kontsultatzen.

Tresna probatu