projectdiscovery/urlfinderUma ferramenta de alta velocidade para coleta passiva de URLs, otimizada para descoberta eficiente e abrangente de ativos web sem varredura ativa.
Uma ferramenta de alta velocidade para coleta passiva de URLs, otimizada para descoberta eficiente de ativos web sem varredura ativa.
Funcionalidades • Instalação • Uso • Exemplos • Entre no Discord
O URLFinder é uma ferramenta de descoberta passiva de URLs de alta velocidade, projetada para simplificar e acelerar a descoberta de ativos web, ideal para testadores de penetração, pesquisadores de segurança e desenvolvedores que desejam coletar URLs sem varredura ativa.
O URLFinder requer Go 1.21. Instale-o usando o comando a seguir ou baixe um binário pré-compilado da página de releases.
go install -v github.com/projectdiscovery/urlfinder/cmd/urlfinder@latest
urlfinder -h
Este comando exibe a ajuda do URLFinder. Abaixo estão algumas opções e chaves comuns.
A streamlined tool for discovering associated URLs.
Usage:
./urlfinder [flags]
Flags:
INPUT:
-d, -list string[] target domain or list of domains
SOURCE:
-s, -sources string[] specific sources for discovery (e.g., -s alienvault,commoncrawl)
-es, -exclude-sources string[] sources to exclude (e.g., -es alienvault,commoncrawl)
-all use all sources (may be slower)
SCOPE:
-us, -url-scope string[] in scope url regex to be followed by urlfinder
-uos, -url-out-scope string[] out of scope url regex to be excluded by urlfinder
-fs, -field-scope string pre-defined scope field (dn,rdn,fqdn) or custom regex (e.g., '(company-staging.io|company.com)') (default "rdn")
-ns, -no-scope disables host based default scope
-do, -display-out-scope display external endpoint from scoped crawling
FILTER:
-m, -match string[] URLs or list to match (file or comma-separated)
-f, -filter string[] URLs or list to filter (file or comma-separated)
RATE-LIMIT:
-rl, -rate-limit int max HTTP requests per second (global)
-rls, -rate-limits value per-provider HTTP request limits (e.g., -rls waybackarchive=15/m)
UPDATE:
-up, -update update URLFinder to the latest version
-duc, -disable-update-check disable automatic update checks
OUTPUT:
-o, -output string specify output file
-j, -jsonl JSONL output format
-od, -output-dir string specify output directory
-cs, -collect-sources include all sources in JSON output
CONFIGURATION:
-config string config file (default "$CONFIG/urlfinder/config.yaml")
-pc, -provider-config string provider config file (default "$CONFIG/urlfinder/provider-config.yaml")
-proxy string HTTP proxy
DEBUG:
-silent show only URLs in output
-version display URLFinder version
-v verbose output
-nc, -no-color disable colored output
-ls, -list-sources list all available sources
-stats display source statistics
OPTIMIZATION:
-timeout int timeout in seconds (default 30)
-max-time int max time in minutes for enumeration (default 10)
urlfinder -d tesla.com
Este comando enumera URLs para o domínio alvo tesla.com.
Exemplo de execução:
$ urlfinder -d tesla.com
__ _____ __ _____ __
/ / / / _ \/ / / __(_)__ ___/ /__ ____
/ /_/ / , _/ /__/ _// / _ \/ _ / -_) __/
\____/_/|_/____/_/ /_/_//_/\_,_/\__/_/
projectdiscovery.io
[INF] Current urlfinder version v0.0.1 (latest)
[INF] Enumerating urls for tesla.com
https://www.tesla.com/akam/13/7e68a6e8
https://www.tesla.com/akam/13/pixel_4e07b670
https://www.tesla.com/da_dk/en/node/30788?redirect=no
https://www.tesla.com/de_at/findus/location/charger/dc6290
https://www.tesla.com/akam/13/7ade0a44
https://www.tesla.com/cs_cz/referral/teslaapp23713?redirect=no
https://www.tesla.com/da_dk/findus/location/charger/dc253
https://www.tesla.com/akam/13/pixel_76102729
https://www.tesla.com/da_dk/blog/modules//system/system.messages.js
...
[INF] Found 202435 urls for tesla.com in 2 minutes 37 seconds
Use as opções -m (match) e -f (filter) para refinar os resultados com base em padrões de URL.
Incluir URLs Correspondentes a Padrões Específicos
Para incluir apenas URLs contendo "shop" ou "model":
urlfinder -d tesla.com -m shop,model
Excluir URLs Correspondentes a Padrões Específicos
Para excluir URLs contendo "privacy" ou "terms":
urlfinder -d tesla.com -f privacy,terms
Match e Filter Combinados
Para encontrar URLs contendo "support" mas excluir aquelas com "faq":
urlfinder -d tesla.com -m support -f faq
Forneça padrões em arquivos:
urlfinder -d tesla.com -m include-patterns.txt -f exclude-patterns.txt
Use a flag -j ou --jsonl para gerar resultados no formato JSONL (JSON Lines), onde cada linha é um objeto JSON separado. Este formato é útil para processar grandes volumes de saída de forma estruturada.
urlfinder -d tesla.com -j
{"url":"https://shop.tesla.com/product/model-s-plaid","input":"tesla.com","source":"waybackarchive"}
{"url":"https://www.tesla.com/inventory/used/ms","input":"tesla.com","source":"waybackarchive"}
{"url":"https://forums.tesla.com/discussion/101112/model-3-updates","input":"tesla.com","source":"waybackarchive"}
Cada objeto JSON contém:
url: A URL descoberta.input: O domínio alvo (ex.: tesla.com).source: A fonte de dados para a descoberta da URL (ex.: waybackarchive).