Visibilitat a la IA

Verificador de robots.txt i llms.txt per a la IA

Introdueixi l’adreça del seu lloc: l’eina llegeix el seu robots.txt i el seu llms.txt i li diu si ChatGPT, Bing, Google, Claude i Perplexity tenen permís per llegir el seu lloc. És gratuïta i sense registre.

L’eina només llegeix els fitxers públics /robots.txt i /llms.txt del lloc. No es desa cap adreça.

Com llegir els resultats

L’eina aplica les regles del seu robots.txt a cada robot, segons l’estàndard del protocol (RFC 9309), i els classifica en tres famílies:

Si l’eina indica que hi ha altres camins bloquejats, és normal: la majoria de llocs prohibeixen, per exemple, la seva zona d’administració. Per comprovar una pàgina concreta, canviï el camí comprovat. Per veure un exemple pas a pas i les correccions que cal fer, llegeixi com saber si ChatGPT pot llegir el seu lloc (en anglès).

El que l’eina no pot veure

Un robots.txt ben configurat no garanteix que els robots hi entrin. Alguns proveïdors d’allotjament, tallafocs i xarxes de distribució (CDN) bloquegen els robots d’IA segons la seva adreça IP, cosa que cap eina externa pot comprovar de manera fiable. Si el verificador no aconsegueix llegir el seu lloc, ja és una pista: potser un tallafoc també bloqueja els visitants automàtics. Pregunti-ho al seu proveïdor d’allotjament. Explico aquest parany a l’article sobre el robots.txt i els robots de ChatGPT (en anglès).

Per al llms.txt, l’eina comprova l’estructura prevista per la proposta de llmstxt.org: un títol, un resum, seccions i llistes d’enllaços. Recordi que cap gran cercador no s’ha compromès a fer-lo servir: vegi el que fa realment el fitxer llms.txt (en anglès).

Preguntes freqüents

Si tot està permès, el meu lloc apareixerà a ChatGPT?

No necessàriament. Un robots.txt obert fa que el seu lloc es pugui llegir, que és una condició de partida. Que el citin depèn després de les seves pàgines, de la seva presència a Bing i de les altres fonts que consulta ChatGPT.

Per què Googlebot està permès, però Google-Extended està bloquejat?

Són dos ajustos diferents. Googlebot serveix la cerca de Google. Google-Extended indica si Google pot fer servir el seu contingut per entrenar Gemini i fonamentar-ne les respostes; segons Google, no té cap efecte en la seva presència a la cerca.

Per què l’eina diu que no es pot accedir al meu robots.txt?

Potser el lloc no està en línia o un tallafoc bloqueja els visitants automàtics com el nostre verificador. Si el seu robots.txt s’obre bé al navegador, faci servir la pestanya «Enganxar un fitxer» i parli del tallafoc amb el seu proveïdor d’allotjament.

L’eina desa els llocs comprovats?

No. Només llegeix els fitxers públics /robots.txt i /llms.txt i desa el resultat a la memòria deu minuts per no tornar a carregar el mateix lloc. El text enganxat, en canvi, s’analitza al seu navegador.

Compartir aquest article