robots-txt
Последние новости
- 18.02.2026
Почему страницы сайта выпадают из индекса - 20.01.2026
AEO vs SEO оптимизация - 24.11.2025
Amazon тихо блокирует всё больше веб-краулеров ChatGPT от OpenAI на своём сайте - 02.10.2025
Медиа-брифинг: от стандартов к маркетплейсам — в ИИ началась «гонка за долей рынка» - 11.08.2025
Reddit заблокирует Internet Archive - 11.08.2025
Google, возможно, использует общий и недокументированный веб-краулер - 11.08.2025
Интервью с Gary Illyes о поиске с ИИ, контенте и SEO - 04.08.2025
Cloudflare: AI-сервис Perplexity применяет «скрытные тактики» для обхода запретов на обход (no-crawl) - 04.08.2025
Cloudflare: боты ИИ Perplexity «скрытно краулят» заблокированные сайты - 04.08.2025
Perplexity обвиняют в скрейпинге сайтов, явно запретивших AI-скрейпинг