projectdiscovery/urlfinderВысокоскоростной инструмент для пассивного сбора URL-адресов, оптимизированный для эффективного и всестороннего обнаружения веб-активов без активного сканирования.
Высокоскоростной инструмент для пассивного сбора URL-адресов, оптимизированный для эффективного обнаружения веб-активов без активного сканирования.
Возможности • Установка • Использование • Примеры • Присоединиться к Discord
URLFinder — это высокоскоростной инструмент пассивного обнаружения URL-адресов, созданный для упрощения и ускорения поиска веб-активов. Он идеально подходит для пентестеров, исследователей безопасности и разработчиков, которым нужно собирать URL-адреса без активного сканирования.
URLFinder требует Go 1.21. Установите его с помощью следующей команды или загрузите предварительно собранный бинарный файл со страницы релизов.
go install -v github.com/projectdiscovery/urlfinder/cmd/urlfinder@latest
urlfinder -h
Эта команда отображает справку по URLFinder. Ниже приведены некоторые распространённые флаги и параметры.
A streamlined tool for discovering associated URLs.
Usage:
./urlfinder [flags]
Flags:
INPUT:
-d, -list string[] target domain or list of domains
SOURCE:
-s, -sources string[] specific sources for discovery (e.g., -s alienvault,commoncrawl)
-es, -exclude-sources string[] sources to exclude (e.g., -es alienvault,commoncrawl)
-all use all sources (may be slower)
SCOPE:
-us, -url-scope string[] in scope url regex to be followed by urlfinder
-uos, -url-out-scope string[] out of scope url regex to be excluded by urlfinder
-fs, -field-scope string pre-defined scope field (dn,rdn,fqdn) or custom regex (e.g., '(company-staging.io|company.com)') (default "rdn")
-ns, -no-scope disables host based default scope
-do, -display-out-scope display external endpoint from scoped crawling
FILTER:
-m, -match string[] URLs or list to match (file or comma-separated)
-f, -filter string[] URLs or list to filter (file or comma-separated)
RATE-LIMIT:
-rl, -rate-limit int max HTTP requests per second (global)
-rls, -rate-limits value per-provider HTTP request limits (e.g., -rls waybackarchive=15/m)
UPDATE:
-up, -update update URLFinder to the latest version
-duc, -disable-update-check disable automatic update checks
OUTPUT:
-o, -output string specify output file
-j, -jsonl JSONL output format
-od, -output-dir string specify output directory
-cs, -collect-sources include all sources in JSON output
CONFIGURATION:
-config string config file (default "$CONFIG/urlfinder/config.yaml")
-pc, -provider-config string provider config file (default "$CONFIG/urlfinder/provider-config.yaml")
-proxy string HTTP proxy
DEBUG:
-silent show only URLs in output
-version display URLFinder version
-v verbose output
-nc, -no-color disable colored output
-ls, -list-sources list all available sources
-stats display source statistics
OPTIMIZATION:
-timeout int timeout in seconds (default 30)
-max-time int max time in minutes for enumeration (default 10)
urlfinder -d tesla.com
Эта команда перечисляет URL-адреса для целевого домена tesla.com.
Пример запуска:
$ urlfinder -d tesla.com
__ _____ __ _____ __
/ / / / _ \/ / / __(_)__ ___/ /__ ____
/ /_/ / , _/ /__/ _// / _ \/ _ / -_) __/
\____/_/|_/____/_/ /_/_//_/\_,_/\__/_/
projectdiscovery.io
[INF] Current urlfinder version v0.0.1 (latest)
[INF] Enumerating urls for tesla.com
https://www.tesla.com/akam/13/7e68a6e8
https://www.tesla.com/akam/13/pixel_4e07b670
https://www.tesla.com/da_dk/en/node/30788?redirect=no
https://www.tesla.com/de_at/findus/location/charger/dc6290
https://www.tesla.com/akam/13/7ade0a44
https://www.tesla.com/cs_cz/referral/teslaapp23713?redirect=no
https://www.tesla.com/da_dk/findus/location/charger/dc253
https://www.tesla.com/akam/13/pixel_76102729
https://www.tesla.com/da_dk/blog/modules//system/system.messages.js
...
[INF] Found 202435 urls for tesla.com in 2 minutes 37 seconds
Используйте параметры -m (match) и -f (filter), чтобы уточнить результаты на основе шаблонов URL-адресов.
Включение URL-адресов, соответствующих заданным шаблонам
Чтобы включить только URL-адреса, содержащие «shop» или «model»:
urlfinder -d tesla.com -m shop,model
Исключение URL-адресов, соответствующих заданным шаблонам
Чтобы исключить URL-адреса, содержащие «privacy» или «terms»:
urlfinder -d tesla.com -f privacy,terms
Комбинированное сопоставление и фильтрация
Чтобы найти URL-адреса, содержащие «support», но исключить те, в которых есть «faq»:
urlfinder -d tesla.com -m support -f faq
Укажите шаблоны в файлах:
urlfinder -d tesla.com -m include-patterns.txt -f exclude-patterns.txt
Используйте флаг -j или --jsonl, чтобы выводить результаты в формате JSONL (JSON Lines), где каждая строка представляет собой отдельный JSON-объект. Этот формат удобен для структурированной обработки больших объёмов вывода.
urlfinder -d tesla.com -j
{"url":"https://shop.tesla.com/product/model-s-plaid","input":"tesla.com","source":"waybackarchive"}
{"url":"https://www.tesla.com/inventory/used/ms","input":"tesla.com","source":"waybackarchive"}
{"url":"https://forums.tesla.com/discussion/101112/model-3-updates","input":"tesla.com","source":"waybackarchive"}
Каждый JSON-объект содержит:
url: обнаруженный URL-адрес.input: целевой домен (например, tesla.com).source: источник данных для обнаружения URL-адресов (например, waybackarchive).