Si tu SPA la sirve un servidor Node con Express, el middleware de Jazui va antes de los archivos estáticos: pide a Jazui las páginas para bots y, para el resto, llama a next().
Antes de empezar
- Node.js 18.17 o superior (usa
fetchnativo) y Express 4 o 5. - El proyecto como módulos ES (
"type": "module"enpackage.json). - Tu sitio verificado en Jazui y tu token.
Instalación
Descarga estos dos archivos y ponlos juntos en una carpeta de tu proyecto, por ejemplo jazui/:
// Middleware de Express: sirve a los bots el HTML de Jazui y deja pasar el resto de peticiones.
// import { jazui } from 'jazui-integrations/express';
// app.set('trust proxy', true); // si hay un proxy o CDN delante, para que req.ip sea la del bot
// app.use(jazui({ token: process.env.JAZUI_TOKEN }));
import { shouldRender, fetchRendered, reportUnknownBot, refreshBots } from './core.js';
export function jazui(options = {}) {
return async (req, res, next) => {
refreshBots(options); // lista de bots del catálogo, en segundo plano y cada 24 h
const url = `${req.protocol}://${req.get('host')}${req.originalUrl}`;
const userAgent = req.get('user-agent') || '';
if (!shouldRender({ method: req.method, url, userAgent, headers: { get: (name) => req.get(name) } })) {
reportUnknownBot({ ...options, method: req.method, url, userAgent }); // aviso en segundo plano
return next();
}
try {
const rendered = await fetchRendered({
...options,
url,
method: req.method,
userAgent,
clientIp: req.ip,
ifNoneMatch: req.get('if-none-match'),
});
if (!rendered) return next();
res.status(rendered.status);
rendered.headers.forEach((value, name) => res.setHeader(name, value));
res.end(rendered.body ? Buffer.from(await rendered.arrayBuffer()) : undefined);
} catch {
next();
}
};
}// Núcleo común de las integraciones JavaScript de Jazui (Cloudflare Workers, Netlify, Vercel y Express).
// Solo usa la API Fetch estándar: funciona en Node 18+, Deno y los runtimes de borde.
export const DEFAULT_API = 'https://api.jazui.com';
export const DEFAULT_TIMEOUT_MS = 20000;
// Bots a los que se sirve el HTML renderizado (bots.txt; lo rellena Sync-Integrations.ps1)
export const BOTS = [
// BOTS:BEGIN
'googlebot', 'google-inspectiontool', 'storebot-google', 'adsbot-google', 'bingbot', 'bingpreview', 'msnbot',
'adidxbot', 'yandex', 'baiduspider', 'duckduckbot', 'slurp', 'applebot', 'seznambot', 'qwantbot', 'qwantify',
'petalbot', 'sogou', 'naver', 'exabot', 'yetibot', '360spider', 'soso', 'gptbot', 'chatgpt', 'oai-searchbot',
'claudebot', 'claude-user', 'claude-searchbot', 'anthropic-ai', 'perplexity', 'google-cloudvertexbot',
'bytespider', 'ccbot', 'amazonbot', 'meta-externalagent', 'cohere-ai', 'mistralai-user', 'youbot',
'duckassistbot', 'yibot', 'qwenbot', 'tongyibot', 'erniebot', 'yiyanbot', 'doubaobot', 'tiktokspider',
'deepseekbot', 'pangubot', 'manus-user', 'kimi-agent', 'kimi-searchbot', 'kimi-user', 'kimibot', 'moonshotbot',
'hunyuan', 'chatglm-spider', 'agi agent', 'ai2bot', 'ai2bot-deepresearcheval', 'ai2bot-dolma', 'aihitbot',
'amazon-kendra', 'amazon-qbusiness', 'amazonbuyforme', 'amzn-searchbot', 'amzn-user', 'bedrockbot', 'novaact',
'andibot', 'claude-web', 'apifybot', 'apifywebsitecontentcrawler', 'atlassian-bot', 'awario', 'bigsur.ai',
'brightbot', 'buddybot', 'cartai agentic commerce', 'terracotta', 'cledarabot', 'cloudflare-autorag',
'cloudflarebrowserrenderingcrawler', 'cohere-training-data-crawler', 'cragcrawler', 'crawlspace',
'datenbank crawler', 'diffbot', 'diffbot-user', 'anomura', 'echobot bot', 'echoboxbot', 'elevenlabsbot',
'elevenlabscrawler', 'exasearchbot', 'exauser', 'factset_spyderbot', 'firecrawlagent', 'geisthaus-pagefetcher',
'cloudvertexbot', 'gemini-deep-research', 'google-agent', 'google-firebase', 'google-notebooklm',
'googleagent-mariner', 'googleagent-urlcontext', 'googleother', 'googleother-image', 'googleother-video',
'notebooklm', 'iaskbot', 'iaskspider', 'imagesiftbot', 'img2dataset', 'isscyberriskcrawler', 'kagi-fetcher',
'keenablebot', 'klaviyoaibot', 'laiondownloader', 'linguee bot', 'linkupbot', 'aiwebindex',
'meta-externalfetcher', 'meta-webindexer', 'facebookbot', 'azureai-searchbot', 'mistralai-index',
'mistralai-training', 'mozilla-tabstack', 'nagetbot', 'netestate imprint crawler', 'icc-crawler', 'oai-adsbot',
'panscient', 'panscient.com', 'shapbot', 'payhawk invoice fetching agent', 'phindbot', 'poggio-citations',
'poseidon research crawler', 'qualifiedbot', 'wpbot', 'querit-searchbot', 'queritbot', 'quillbot',
'quillbot.com', 'reflectionbot', 'cotoyogi', 'sbintuitionsbot', 'scrybot', 'sidetrade indexer bot', 'tavilybot',
'agenttimes', 'thinkbot', 'timpibot', 'twinagent', 'velenpublicwebcrawler', 'wardbot', 'omgili', 'omgilibot',
'grok bot', 'grokappandroid', 'grokbot', 'addsearchbot', 'agentdatabot', 'aranet-searchbot', 'bixelbot',
'bravebot', 'channel3bot', 'friendlycrawler', 'henkbot', 'imagespider', 'kangaroo bot', 'kunatocrawler',
'laion-huggingface-processor', 'linerbot', 'mycentralaiscraperbot', 'terra cotta', 'wrtnbot', 'zanistabot',
'facebookexternalhit', 'facebot', 'twitterbot', 'linkedinbot', 'slackbot', 'whatsapp', 'telegrambot',
'discordbot', 'pinterest', 'redditbot', 'skypeuripreview', 'embedly', 'quora link preview', 'showyoubot',
'outbrain', 'developers.google.com/+/web/snippet', 'vkshare', 'tumblr', 'bitlybot', 'nuzzel', 'flipboard',
'snapchat', 'viber', 'mattermost', 'bitrix link preview', 'xing-contenttabreceiver', 'ahrefsbot', 'semrushbot',
'mj12bot', 'majestic-12', 'dotbot', 'rogerbot', 'screaming frog', 'sitebulb', 'serpstatbot', 'seokicks',
'siteimprove', 'lighthouse', 'google page speed', 'gtmetrix', 'pingdom', 'uptimerobot', 'uptimebot',
'w3c_validator', 'w3c-checklink', 'archive.org_bot', 'paperlibot', 'dataprovider.com', 'grapeshotcrawler',
'zoominfobot', 'feedly', 'newsblur', 'inoreader', 'integration-test',
// BOTS:END
];
// Archivos que nunca se renderizan (extensions.txt)
export const STATIC_EXTENSIONS = [
// EXTENSIONS:BEGIN
'js', 'mjs', 'css', 'less', 'map', 'json', 'xml', 'rss', 'txt', 'webmanifest', 'ico', 'png', 'jpg', 'jpeg',
'gif', 'webp', 'avif', 'svg', 'bmp', 'tif', 'tiff', 'psd', 'ai', 'woff', 'woff2', 'ttf', 'otf', 'eot', 'mp3',
'm4a', 'wav', 'ogg', 'mp4', 'm4v', 'webm', 'avi', 'mov', 'mpg', 'mpeg', 'wmv', 'flv', 'swf', 'pdf', 'doc',
'docx', 'xls', 'xlsx', 'ppt', 'pptx', 'csv', 'zip', 'gz', 'rar', '7z', 'iso', 'torrent', 'exe', 'dmg', 'apk',
'wasm', 'dll', 'dat', 'blat',
// EXTENSIONS:END
];
const escapeRegex = (text) => text.replace(/[.*+?^${}()|[\]\\/]/g, '\\$&');
// Patrón de la lista incluida; refreshBots lo sustituye por el del catálogo de Jazui (GET /v2/bots)
export const BOT_PATTERN = new RegExp(BOTS.map(escapeRegex).join('|'), 'i');
export const STATIC_PATTERN = new RegExp(`\\.(${STATIC_EXTENSIONS.join('|')})$`, 'i');
let botPattern = BOT_PATTERN;
let botsVersion = 'incluida';
let botsCheckedAt = 0;
let botsLoading = null;
const BOTS_REFRESH_MS = 24 * 60 * 60 * 1000;
const BOTS_RETRY_MS = 60 * 60 * 1000;
/** Patrón de bots en uso: el del catálogo si ya se descargó, si no el de la lista incluida. */
export const currentBotPattern = () => botPattern;
/** Versión de la lista en uso ('incluida' hasta la primera descarga). */
export const currentBotsVersion = () => botsVersion;
/**
* Descarga la lista de bots del catálogo de Jazui (GET /v2/bots) si toca: al arrancar y cada 24 h; si falla se
* sigue con la que hay y se reintenta en una hora. Nunca falla ni retrasa la petición: devuelve la promesa para
* waitUntil (Cloudflare, Vercel, Netlify) o null si no toca. Se desactiva con remoteBots: false.
*/
export function refreshBots({ api = DEFAULT_API, remoteBots = true } = {}) {
const now = Date.now();
if (!remoteBots || botsLoading || now - botsCheckedAt < BOTS_REFRESH_MS) return null;
botsCheckedAt = now;
botsLoading = fetch(`${(api || DEFAULT_API).replace(/\/+$/, '')}/v2/bots`, { signal: AbortSignal.timeout(5000) })
.then((response) => (response.ok ? response.json() : null))
.then((data) => {
if (data && Array.isArray(data.bots) && data.bots.length > 0) {
botPattern = new RegExp(data.bots.map(escapeRegex).join('|'), 'i');
botsVersion = data.version || botsVersion;
} else {
botsCheckedAt = now - BOTS_REFRESH_MS + BOTS_RETRY_MS;
}
}, () => { botsCheckedAt = now - BOTS_REFRESH_MS + BOTS_RETRY_MS; })
.finally(() => { botsLoading = null; });
return botsLoading;
}
// Cabeceras de Jazui que se devuelven al bot
const PASS_HEADERS = ['content-type', 'location', 'etag', 'last-modified', 'x-jazui', 'x-jazui-cache'];
/**
* Si la petición hay que pasarla por Jazui: GET/HEAD de un bot conocido (o con _escaped_fragment_, el esquema
* antiguo de Google para las SPA) a una página, no a un archivo.
*/
export function shouldRender({ method, url, userAgent, headers }) {
if (method !== 'GET' && method !== 'HEAD') return false;
if (headers && headers.get('x-jazui')) return false; // nunca a sí mismo
const { pathname, search } = new URL(url);
if (STATIC_PATTERN.test(pathname)) return false;
return (!!userAgent && botPattern.test(userAgent)) || search.includes('_escaped_fragment_');
}
/**
* Pide a Jazui el HTML de la URL. Devuelve la Response para el bot o null si hay que servir la página normal
* (Jazui no respondió, se pasó del límite, el sitio no está verificado…): el bot nunca ve un error de Jazui.
* Solo un 403 marcado con X-Jazui-Blocked (regla o bot de IA bloqueado) llega al bot.
*/
export async function fetchRendered({ url, method = 'GET', userAgent, clientIp, ifNoneMatch, token, api = DEFAULT_API,
siteUrl, timeoutMs = DEFAULT_TIMEOUT_MS }) {
if (!token) return null;
let target = url;
if (siteUrl) {
// Dominio público del sitio cuando el servidor lo ve con otro (proxy, entorno de pruebas)
const original = new URL(url);
target = new URL(original.pathname + original.search, siteUrl).toString();
}
const query = new URLSearchParams({ url: target, botAgent: userAgent || '' });
const headers = { Authorization: `Bearer ${token}` };
if (clientIp) headers['X-Jazui-Client-IP'] = clientIp;
if (ifNoneMatch) headers['If-None-Match'] = ifNoneMatch;
let response;
try {
response = await fetch(`${(api || DEFAULT_API).replace(/\/+$/, '')}/Render?${query}`, {
headers,
redirect: 'manual',
signal: AbortSignal.timeout(timeoutMs),
});
} catch {
return null;
}
const blocked = response.status === 403 && response.headers.get('x-jazui-blocked');
if (!response.headers.get('x-jazui') && !blocked) {
response.body?.cancel();
return null;
}
const out = new Headers();
for (const name of PASS_HEADERS) {
const value = response.headers.get(name);
if (value) out.set(name, value);
}
if (blocked) out.set('x-jazui-blocked', blocked);
const empty = method === 'HEAD' || response.status === 304;
if (empty) response.body?.cancel();
return new Response(empty ? null : response.body, { status: response.status, headers: out });
}
// User-agents con pinta de bot: si no están en BOTS se avisa a Jazui sin enviarle la página (el mismo patrón que la API)
export const UNKNOWN_BOT_PATTERN = /bot|crawl|spider|scrap|fetch|headless|preview|archiv|index/i;
const MAX_REPORTED = 1000;
const reported = new Set();
let reportedDay = '';
/**
* Avisa a Jazui (POST /Render/Seen) de un user-agent con pinta de bot que no está en la lista, una vez al día por
* user-agent y proceso, para que se pueda añadir al catálogo. No gasta renders y nunca falla: devuelve la promesa para
* waitUntil (Cloudflare, Vercel) o null si no hay que avisar.
*/
export function reportUnknownBot({ method, url, userAgent, token, api = DEFAULT_API, reportUnknownBots = true }) {
if (!reportUnknownBots || !token || !userAgent || (method !== 'GET' && method !== 'HEAD')) return null;
if (STATIC_PATTERN.test(new URL(url).pathname)) return null;
if (!UNKNOWN_BOT_PATTERN.test(userAgent) || botPattern.test(userAgent)) return null;
const today = new Date().toISOString().slice(0, 10);
if (reportedDay !== today) {
reported.clear();
reportedDay = today;
}
if (reported.size >= MAX_REPORTED || reported.has(userAgent)) return null;
reported.add(userAgent);
return fetch(`${(api || DEFAULT_API).replace(/\/+$/, '')}/Render/Seen`, {
method: 'POST',
headers: { Authorization: `Bearer ${token}`, 'Content-Type': 'application/json' },
body: JSON.stringify({ userAgent, url }),
signal: AbortSignal.timeout(5000),
}).then((response) => { response.body?.cancel(); }, () => {});
}
/**
* Atajo para los runtimes con Request estándar: la Response de Jazui o null. Con options.waitUntil (Cloudflare,
* Vercel) la descarga de la lista de bots y el aviso de bots desconocidos siguen aunque la respuesta ya se haya enviado.
*/
export function renderRequest(request, options, clientIp) {
const refresh = refreshBots(options);
if (refresh && options.waitUntil) options.waitUntil(refresh);
const userAgent = request.headers.get('user-agent') || '';
if (!shouldRender({ method: request.method, url: request.url, userAgent, headers: request.headers })) {
const report = reportUnknownBot({ ...options, method: request.method, url: request.url, userAgent });
if (report && options.waitUntil) options.waitUntil(report);
return null;
}
return fetchRendered({
...options,
url: request.url,
method: request.method,
userAgent,
clientIp,
ifNoneMatch: request.headers.get('if-none-match'),
});
}Usarlo
Añádelo antes de servir los archivos y la SPA. Si delante hay un proxy o un CDN, activa trust proxy para que req.ip sea la IP del bot y no la del proxy:
import express from 'express';
import { jazui } from './jazui/express.js';
const app = express();
app.set('trust proxy', true); // con un proxy o CDN delante, para que req.ip sea la del bot
app.use(jazui({ token: process.env.JAZUI_TOKEN })); // antes de los estáticos y de la SPA
app.use(express.static('dist'));
app.get('*', (req, res) => res.sendFile('index.html', { root: 'dist' }));
app.listen(3000);Opciones
| Opción | Por defecto | Para qué |
|---|---|---|
token | — | Tu token. Sin él, el middleware no hace nada. |
api | https://api.jazui.com | Dirección de la API. |
siteUrl | — | Tu dominio público si el servidor ve otro (detrás de un proxy, en pruebas). |
timeoutMs | 20000 | Milisegundos de espera; pasado ese tiempo se sirve la página normal. |
remoteBots | true | Descarga la lista de bots al arrancar y cada 24 h. |
reportUnknownBots | true | Avisa a Jazui de agentes con pinta de bot que no están en la lista. |
app.use(jazui({
token: process.env.JAZUI_TOKEN, // obligatorio
api: 'https://api.jazui.com', // dirección de la API
siteUrl: 'https://misitio.com', // dominio público si el servidor ve otro
timeoutMs: 20000, // pasado este tiempo, la página normal
remoteBots: true, // descargar la lista de bots cada día
reportUnknownBots: true, // avisar de bots que no están en la lista
}));Qué hace
Construye la dirección con req.protocol, el host y req.originalUrl, decide si es un bot y, si lo es, pide la página a Jazui y copia al bot el código, las cabeceras y el cuerpo. Ante cualquier error llama a next(), así que tu web nunca se queda sin servir.
<p>Pide tu portada como si fueras un bot, con el agente de usuario de pruebas <code>integration-test</code>:</p><pre><code>curl -I -A "integration-test" https://misitio.com/</code></pre><p>La respuesta debe llevar <code>x-jazui: true</code> y <code>x-jazui-cache: MISS</code> la primera vez y <code>HIT</code> después. Sin agente de bot (<code>curl -I https://misitio.com/</code>) debe llegar tu web de siempre, sin <code>x-jazui</code>. En el panel, la petición aparece en <b>Tráfico de bots</b> y la página en <b>Páginas en caché</b>.</p>
Pide tu portada como si fueras un bot, con el agente de usuario de pruebas integration-test:
curl -I -A "integration-test" https://misitio.com/La respuesta debe llevar x-jazui: true y x-jazui-cache: MISS la primera vez y HIT después. Sin agente de bot (curl -I https://misitio.com/) debe llegar tu web de siempre, sin x-jazui. En el panel, la petición aparece en Tráfico de bots y la página en Páginas en caché.
Si algo no funciona
- No aparece
x-jazui: el middleware debe ir antes deexpress.staticy de la ruta que sirveindex.html. - Las métricas muestran la IP del proxy: activa
app.set('trust proxy', true). - Detrás de un proxy,
req.protocoleshttp: contrust proxyExpress usaX-Forwarded-Proto; si no, definesiteUrl.