bitlvl
RU

Парсер User-Agent

Вставьте строку из ваших журналов или используйте строку собственного браузера. Парсер называет браузер, движок, ОС и устройство и распознаёт ботов поисковых систем, AI-сервисов и инструментов.

Результаты и сообщения этого инструмента выводятся на английском языке.

Что такое строка User-Agent

Каждый HTTP-запрос несёт заголовок User-Agent, называющий отправившее его программное обеспечение. Тридцать лет браузеров, притворяющихся друг другом, сделали формат абсурдным: Chrome на Windows представляется как Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/129.0.0.0 Safari/537.36, заявляя, что он одновременно Mozilla, WebKit и Safari. Разбор сводится к знанию того, какие токены важны: Edg/ важнее Chrome/, Chrome/ важнее Safari/, а Firefox/ стоит особняком.

Чего она больше не сообщает

  • Chrome замораживает младшую версию (129.0.0.0) и детали ОС (всегда «Windows NT 10.0», всегда «Mac OS X 10_15_7») — это изменение называется UA reduction. Полные значения доступны только через заголовки Client Hints.
  • Windows 11 неотличима от Windows 10.
  • Каждый браузер на iOS — это WebKit, так что «Chrome на iPhone» (CriOS/) — это движок Safari с интерфейсом Google.

Боты

Добропорядочные краулеры представляются и часто включают URL: Googlebot/2.1 (+http://www.google.com/bot.html). AI-краулеры теперь составляют заметную долю трафика: GPTBot (обучение OpenAI), ChatGPT-User (загрузка по запросу пользователя), ClaudeBot и Claude-User (Anthropic), PerplexityBot, Bytespider, CCBot (Common Crawl), meta-externalagent. Каждого можно разрешить или запретить по имени в robots.txt; robots.txt этого сайта их разрешает, потому что цитирование в ответах AI — часть замысла.

Кто угодно может задать любой User-Agent, так что строка ничего не доказывает. Скрейперы копируют строку Chrome; подлинность Googlebot следует подтверждать обратным DNS-запросом по IP (имя должно оканчиваться на googlebot.com или google.com и разрешаться обратно в тот же IP).

Вопросы

Как увидеть свой user agent?

Поле выше уже заполнено строкой вашего браузера. Также можно выполнить navigator.userAgent в консоли или посмотреть заголовки запроса на вкладке Network.

Можно ли доверять User-Agent при принятии решений о безопасности?

Нет. Его задаёт клиент и свободно подделывает. Используйте его для аналитики, приблизительных подсказок о возможностях и дружественной идентификации ботов; для всего важного используйте репутацию IP, ограничение частоты запросов и проверки обратного DNS.

Почему моя аналитика показывает Safari 605 или Chrome 537?

Это номера сборок WebKit (AppleWebKit/537.36, Safari/605.1.15), которые никогда не меняются, а не версии браузера. Версия браузера стоит после Version/ для Safari или Chrome/ для Chrome.

Стоит ли блокировать AI-краулеры?

Зависит от того, хотите ли вы появляться в ответах, сгенерированных AI. Для сайта с инструментами цитирование — это трафик. Краулеры только для обучения (GPTBot, Google-Extended, ClaudeBot) можно блокировать отдельно от загрузчиков по запросу (ChatGPT-User, Claude-User), действующих от имени человека.