
Извлекайте известные URL из AlienVault's Open Threat Exchange, Wayback Machine и Common Crawl.
getallurls (gau) получает известные URL из AlienVault's Open Threat Exchange, Wayback Machine, Common Crawl и URLScan для любого заданного домена. Вдохновлён утилитой waybackurls от Tomnomnom.
Примеры:
$ printf example.com | gau
$ cat domains.txt | gau --threads 5
$ gau example.com google.com
$ gau --o example-urls.txt example.com
$ gau --blacklist png,jpg,gif example.com
Для вывода справки по инструменту используйте флаг -h:
$ gau -h
gau автоматически ищет файл конфигурации в $HOME/.gau.toml или %USERPROFILE%\.gau.toml. Вы можете указать другой файл конфигурации с помощью флага --config. Если файл конфигурации не найден, gau всё равно запустится с конфигурацией по умолчанию, но выведет сообщение в stderr.
Вы можете задать параметры, и они будут использоваться при каждом последующем запуске gau. Любые параметры, переданные через флаги командной строки, будут переопределять параметры, заданные в файле конфигурации.
Пример файла конфигурации можно найти здесь
$ go install github.com/lc/gau/v2/cmd/gau@latest
git clone https://github.com/lc/gau.git; \
cd gau/cmd; \
go build; \
sudo mv gau /usr/local/bin/; \
gau --version;
Вы можете загрузить готовые бинарные файлы со страницы релизов и переместить их в ваш $PATH.
$ tar xvf gau_2.0.6_linux_amd64.tar.gz
$ mv gau /usr/bin/gau
Вы можете запустить gau через docker следующим образом:
docker run --rm sxcurity/gau:latest --help
Также вы можете собрать Docker-образ с помощью следующей команды:
docker build -t gau .
и затем запустить его:
docker run gau example.com
Имейте в виду, что конвейерная команда (echo "example.com" | gau) не будет работать с контейнером Docker.
Плагин git ohmyzsh имеет алиас, который сопоставляет gau с командой git add --update. Это вызывает проблему — конфликт бинарных файлов между этой утилитой "gau" и алиасом zsh "gau" (git add --update). В настоящее время есть несколько обходных путей, описанных в этом тикете на GitHub.
| Флаг | Описание | Пример |
|---|
--blacklist | список расширений для пропуска | gau --blacklist ttf,woff,svg,png |
--config | Использовать альтернативный файл конфигурации (по умолчанию $HOME/.gau.toml или %USERPROFILE%\.gau.toml) | gau --config $HOME/.config/gau.toml |
--fc | список кодов состояния для фильтрации | gau --fc 404,302 |
--from | получать URL, начиная с даты (формат: YYYYMM) | gau --from 202101 |
--ft | список MIME-типов для фильтрации | gau --ft text/plain |
--fp | удалять разные параметры одной и той же конечной точки | gau --fp |
--json | вывод в формате JSON | gau --json |
--mc | список кодов состояния для сопоставления | gau --mc 200,500 |
--mt | список MIME-типов для сопоставления | gau --mt text/html,application/json |
--o | имя файла для записи результатов | gau --o out.txt |
--providers | список используемых провайдеров (wayback,commoncrawl,otx,urlscan) | gau --providers wayback |
--proxy | HTTP-прокси (socks5:// или http://) | gau --proxy http://proxy.example.com:8080 |
--retries | количество повторных попыток для HTTP-клиента | gau --retries 10 |
--timeout | тайм-аут (в секундах) для HTTP-клиента | gau --timeout 60 |
--subs | включать поддомены целевого домена | gau example.com --subs |
--threads | количество рабочих потоков | gau example.com --threads |
--to | получать URL до даты (формат: YYYYMM) | gau example.com --to 202101 |
--verbose | подробный вывод | gau --verbose example.com |
--version | показать версию gau | gau --version |