dwisiswant0/galerUma ferramenta rápida para buscar URLs de atributos HTML por crawl-in.
__
__ _ _(_ ) __ _ __
/'_ '\/'_' )| | /'__'( '__)
( (_) ( (_| || |( ___| |
'\__ '\__,_(___'\____(_)
( )_) |
\___/' @dwisiswant0
Uma ferramenta rápida para buscar URLs de atributos HTML via rastreamento. Inspirada no Tweet do @omespino, que possibilita extrair valores de src, href, url e action através da avaliação de JavaScript pelo Protocolo Chrome DevTools.
A instalação é fácil. Você pode baixar um binário pré-compilado da página de releases, descompactar e executar! ou com
▶ (sudo) curl -sSfL https://git.io/galer | sh -s -- -b /usr/local/bin
Se você possui o compilador go1.22+ instalado e configurado:
▶ go install -v github.com/dwisiswant0/galer@latest
▶ git clone https://github.com/dwisiswant0/galer
▶ cd galer
▶ go build .
▶ (sudo) install galer /usr/local/bin
Simplesmente, o galer pode ser executado com:
▶ galer -u "http://domain.tld"
Isso exibirá a ajuda da ferramenta. Aqui estão todas as opções suportadas.
$ galer -h
__ v0.2.0
__ _ _(_ ) __ _ __
/'_ '\/'_' )| | /'__'( '__)
( (_) ( (_| || |( ___| |
'\__ '\__,_(___'\____(_)
( )_) |
\___/' @dwisiswant0
A fast tool to fetch URLs from HTML attributes by crawl-in
Usage:
galer -u [URL|URLs.txt] -o [output.txt]
Options:
-u, --url <URL/FILE> Target to fetches (single target URL or list)
-e, --extension <EXT> Show only certain extensions (comma-separated, e.g. js,php)
-c, --concurrency <N> Concurrency level (default: 50)
-w, --wait <N> Wait N seconds before evaluate (default: 1)
-d, --depth <N> Max. depth for crawling (levels of links to follow)
--same-host Same host only
--same-root Same root (eTLD+1) only (takes precedence over --same-host)
-o, --output <FILE> Save fetched URLs output into file
-T, --template <string> Format for output template (e.g., "{{scheme}}://{{host}}{{path}}")
Valid variables are: "raw_url", "scheme", "user", "username",
"password", "host", "hostname", "port", "path", "raw_path",
"escaped_path", "raw_query", "fragment", "raw_fragment".
-t, --timeout <N> Max. time (seconds) allowed for connection (default: 60)
-s, --silent Silent mode (suppress an errors)
-v, --verbose Verbose mode show error details unless you weren't use silent
-h, --help Display its helps
▶ galer -u "http://domain.tld"
▶ galer -u /path/to/urls.txt
▶ cat urls.txt | galer
Caso queira encadear com outras ferramentas:
▶ subfinder -d domain.tld -silent | httpx -silent | galer
Você pode usar o galer como biblioteca.
▶ go get github.com/dwisiswant0/galer/pkg/galer@latest
Por exemplo:
package main
import (
"fmt"
"github.com/dwisiswant0/galer/pkg/galer"
)
func main() {
cfg := &galer.Config{
Timeout: 60,
}
cfg = galer.New(cfg)
run, err := cfg.Crawl("https://twitter.com")
if err != nil {
panic(err)
}
for _, url := range run {
fmt.Println(url)
}
}
Se ainda estiver confuso ou encontrou um bug, por favor abra uma issue. Todos os relatórios de bugs são apreciados, alguns recursos ainda não foram testados devido à falta de tempo livre.
[!CAUTION] galer não atingiu a versão 1.0 ainda. Portanto, esta biblioteca atualmente não é suportada e não oferece uma API estável; use por sua conta e risco.
Não há garantias de estabilidade para as APIs nesta biblioteca, e embora não se espere que mudem drasticamente, ajustes na API e correções de bugs podem ocorrer.
id_ID • /gäˈlər/ — kalau galer jangan dicium baunya, langsung cuci tangan, bego!
sebel é lançado por @dwisiswant0 sob a licença MIT. Veja LICENSE.