
Limpa listas de URLs para crawling/pentesting.
Usar uma lista de URLs para testes de segurança pode ser doloroso, pois há muitos URLs com conteúdo desinteressante/duplicado; o uro visa resolver isso.
Ele não faz nenhuma requisição http para os URLs e remove:
/page/1/ e /page/2//posts/a-brief-history-of-time/page.php?id=1 e /page.php?id=2
A forma recomendada de instalar o uro é a seguinte:
pipx install uro
Nota: Se você estiver usando uma versão mais antiga do python, use
pipem vez depipx
A maneira mais rápida de incluir o uro no seu fluxo de trabalho é alimentá-lo com dados via stdin e imprimi-los no terminal.
cat urls.txt | uro
uro -i input.txt
Se o arquivo já existir, o uro não sobrescreverá o conteúdo. Caso contrário, ele criará um novo arquivo.
uro -i input.txt -o output.txt
-w/--whitelist)O uro ignorará todas as outras extensões, exceto as fornecidas.
uro -w php asp html
Nota: Páginas sem extensão, ex.: /books/1 ainda serão incluídas. Para removê-las também, use --filter hasext.
-b/--blacklist)O uro ignorará as extensões fornecidas.
uro -b jpg png js pdf
Nota: O uro possui uma lista de extensões "inúteis" que ele remove por padrão; essa lista será substituída pelas extensões que você fornecer através da opção blacklist. Páginas sem extensão, ex.: /books/1 ainda serão incluídas. Para removê-las também, use --filter hasext.
Para um controle granular, o uro suporta os seguintes filtros:
http://example.com/page.php?id=http://example.com/page.phphttp://example.com/page.phphttp://example.com/page.jpg que seria removido caso contráriohttp://example.com/page/Exemplo: uro --filters hasexts hasparams