oriolrius/kafka-keycloak-oauthApache Kafka 4.1.0 (KRaft) с аутентификацией Keycloak OAuth2 с использованием Strimzi — обход ограничения списка разрешённых URL-адресов CVE-2025-27817
Production-ready Apache Kafka 4.1.0 (режим KRaft) с аутентификацией Keycloak 26.1.1 OAuth2/OIDC с использованием образа Strimzi Kafka.
Это эволюция предыдущего POC со значительными улучшениями:
Apache Kafka 4.0.0+ ввёл список разрешённых URL (org.apache.kafka.sasl.oauthbearer.allowed.urls) как системное свойство JVM для устранения уязвимости SSRF/произвольного чтения файлов. Это нарушает стандартное использование OAuth в нативных клиентах Apache Kafka.
Решение: библиотека Strimzi Kafka OAuth не реализует это ограничение, что обеспечивает функциональность OAuth с Kafka 4.1.0.
# Генерация SSL-сертификатов
cd kafka-security
./generate-certs.sh
cd ..
# Запуск сервисов
docker compose up -d
# Проверка Keycloak
curl http://localhost:8080/health/ready
# Настройка realm и клиентов Keycloak
./scripts/setup-keycloak.sh
# Тест OAuth-продюсера
source ~/.venv/bin/activate
uv pip install confluent-kafka
python tests/quick_test.py
keycloak:8080 (HTTP) ←→ kafka-broker:9093 (SASL_SSL/OAuth)
↔ kafka-broker:19092 (PLAINTEXT/межброкерный)
↔ kafka-broker:29093 (PLAINTEXT/контроллер KRaft)
kafka-security/ca-cert + ca-keykafka-security/broker/kafka.server.keystore.jks (содержит сертификат сервера + закрытый ключ)kafka-security/broker/kafka.server.truststore.jks (содержит сертификат CA)changeit (все хранилища ключей/доверия)# Сертификат брокера
CN=kafka-broker
SAN=DNS:kafka-broker,DNS:localhost,IP:127.0.0.1
# Срок действия: 3650 дней
# Алгоритм ключа: RSA 2048 бит
# Алгоритм подписи: SHA256withRSA
kafka-broker (конфиденциальный)
kafka-brokersetup-keycloak.shkafka-broker в claim aud JWTpreferred_username в токенkafka-producer (конфиденциальный)
kafka-producerclient_credentialskafka-consumer (конфиденциальный)
kafka-consumerclient_credentialsPOST http://localhost:8080/realms/kafka-realm/protocol/openid-connect/token
Content-Type: application/x-www-form-urlencoded
grant_type=client_credentials
&client_id=kafka-producer
&client_secret=<secret>
&scope=profile email
{
"aud": ["kafka-broker", "account"],
"iss": "http://localhost:8080/realms/kafka-realm",
"azp": "kafka-producer",
"preferred_username": "service-account-kafka-producer",
"scope": "profile email"
}
# Идентификатор узла
node.id=1
process.roles=broker,controller
controller.quorum.voters=1@kafka-broker:29093
# Слушатели
listeners=SASL_SSL://0.0.0.0:9093,PLAINTEXT://0.0.0.0:19092,CONTROLLER://0.0.0.0:29093
advertised.listeners=SASL_SSL://localhost:9093,PLAINTEXT://kafka-broker:19092
listener.security.protocol.map=SASL_SSL:SASL_SSL,PLAINTEXT:PLAINTEXT,CONTROLLER:PLAINTEXT
inter.broker.listener.name=PLAINTEXT
controller.listener.names=CONTROLLER
# Механизм SASL
sasl.enabled.mechanisms=OAUTHBEARER
# Обработчики Strimzi OAuth (для каждого слушателя SASL_SSL)
listener.name.sasl_ssl.oauthbearer.sasl.login.callback.handler.class=io.strimzi.kafka.oauth.client.JaasClientOauthLoginCallbackHandler
listener.name.sasl_ssl.oauthbearer.sasl.server.callback.handler.class=io.strimzi.kafka.oauth.server.JaasServerOauthValidatorCallbackHandler
# Конфигурация OAuth через JAAS
listener.name.sasl_ssl.oauthbearer.sasl.jaas.config=org.apache.kafka.common.security.oauthbearer.OAuthBearerLoginModule required \
oauth.client.id="kafka-broker" \
oauth.client.secret="<secret>" \
oauth.token.endpoint.uri="http://keycloak:8080/realms/kafka-realm/protocol/openid-connect/token" \
oauth.valid.issuer.uri="http://localhost:8080/realms/kafka-realm" \
oauth.jwks.endpoint.uri="http://keycloak:8080/realms/kafka-realm/protocol/openid-connect/certs" \
oauth.username.claim="preferred_username";
oauth.client.id: идентификатор клиента для получения токенаoauth.client.secret: секрет клиента для получения токенаoauth.token.endpoint.uri: токен-эндпоинт Keycloak (брокер использует внутреннее имя хоста keycloak:8080)oauth.valid.issuer.uri: ожидаемый эмитент JWT (должен совпадать с claim iss токена, используется внешний localhost:8080)oauth.jwks.endpoint.uri: эндпоинт JWKS для проверки подписи JWToauth.username.claim: claim JWT для извлечения principalauthorizer.class.name=org.apache.kafka.metadata.authorizer.StandardAuthorizer
super.users=User:kafka-broker;User:ANONYMOUS
allow.everyone.if.no.acl.found=true
Примечание: в настоящее время разрешающая конфигурация для тестирования. В production следует использовать ACL.
from confluent_kafka import Producer
conf = {
'bootstrap.servers': 'localhost:9093',
'security.protocol': 'SASL_SSL',
'sasl.mechanisms': 'OAUTHBEARER',
'sasl.oauthbearer.method': 'oidc',
'sasl.oauthbearer.client.id': 'kafka-producer',
'sasl.oauthbearer.client.secret': '<secret>',
'sasl.oauthbearer.token.endpoint.url': 'http://localhost:8080/realms/kafka-realm/protocol/openid-connect/token',
'ssl.ca.location': 'kafka-security/ca-cert',
'ssl.endpoint.identification.algorithm': 'none',
}
producer = Producer(conf)
producer.produce('topic', b'message')
producer.flush()
from confluent_kafka import Consumer
conf = {
'bootstrap.servers': 'localhost:9093',
'group.id': 'test-group',
'security.protocol': 'SASL_SSL',
'sasl.mechanisms': 'OAUTHBEARER',
'sasl.oauthbearer.method': 'oidc',
'sasl.oauthbearer.client.id': 'kafka-consumer',
'sasl.oauthbearer.client.secret': '<secret>',
'sasl.oauthbearer.token.endpoint.url': 'http://localhost:8080/realms/kafka-realm/protocol/openid-connect/token',
'ssl.ca.location': 'kafka-security/ca-cert',
'ssl.endpoint.identification.algorithm': 'none',
'auto.offset.reset': 'earliest',
}
consumer = Consumer(conf)
consumer.subscribe(['topic'])
while True:
msg = consumer.poll(1.0)
if msg: print(msg.value())
confluent-kafka-python использует librdkafka (библиотека на C), которая реализует OAuth через sasl.oauthbearer.method=oidc. Эта реализация не проверяет системное свойство org.apache.kafka.sasl.oauthbearer.allowed.urls, которое блокирует нативные Java-клиенты Apache Kafka.
TOKEN=$(curl -s -X POST http://localhost:8080/realms/kafka-realm/protocol/openid-connect/token \
-d "grant_type=client_credentials" \
-d "client_id=kafka-producer" \
-d "client_secret=<secret>" | jq -r .access_token)
echo $TOKEN | cut -d. -f2 | base64 -d 2>/dev/null | jq .
Ожидаемые claims:
{
"aud": ["kafka-broker", "account"],
"iss": "http://localhost:8080/realms/kafka-realm",
"azp": "kafka-producer",
"preferred_username": "service-account-kafka-producer"
}
docker logs kafka-broker 2>&1 | grep -E "Strimzi|JWTSignatureValidator|OAUTHBEARER"
Ожидаемый результат:
[io.strimzi.kafka.oauth.validator.JWTSignatureValidator] JWKS keys change detected
docker exec kafka-broker netstat -tlnp | grep java
Ожидаемый результат:
tcp6 0.0.0.0:9093 LISTEN (SASL_SSL)
tcp6 0.0.0.0:19092 LISTEN (PLAINTEXT)
tcp6 0.0.0.0:29093 LISTEN (CONTROLLER)
docker exec kafka-broker cat /var/lib/kafka/data/meta.properties
Ожидаемый результат:
version=1
cluster.id=kafka-cluster-01
node.id=1
Проблема: {"status":"invalid_token"}
oauth.jwks.endpoint.uri доступен из контейнера брокераdocker exec kafka-broker curl http://keycloak:8080/realms/kafka-realm/protocol/openid-connect/certsПроблема: Token audience mismatch
aud JWT не содержит kafka-broker./scripts/setup-keycloak.sh для добавления маппера аудиторииaud включает kafka-brokerПроблема: Token issuer mismatch
iss JWT не совпадает с oauth.valid.issuer.urioauth.valid.issuer.uri=http://localhost:8080/realms/kafka-realm (внешнее имя хоста)http://keycloak:8080 для токен-эндпоинта, но проверяет эмитент http://localhost:8080Проблема: нативные Java-клиенты Kafka завершаются с ошибкой списка разрешённых URL
JWT-токены от Keycloak имеют срок действия 5 минут. Strimzi OAuth автоматически обрабатывает обновление:
oauth.refresh.token: не используется (grant client_credentials)sasl.oauthbearer.jwks.endpoint.refresh.ms=3600000 # 1 час
sasl.oauthbearer.jwks.endpoint.retry.backoff.ms=100
sasl.oauthbearer.jwks.endpoint.retry.backoff.max.ms=10000
connections.max.idle.ms=600000
connection.failed.authentication.delay.ms=1000
ssl.endpoint.identification.algorithm=https (удалите none)allow.everyone.if.no.acl.found=true)kafka-acls --bootstrap-server localhost:9093 \
--command-config admin.properties \
--add --allow-principal User:kafka-producer \
--operation Write --topic '*'
oauth.token.endpoint.uri и oauth.jwks.endpoint.uri на HTTPS-URL.
├── docker-compose.yml # Оркестрация
├── .env # Секреты (в gitignore)
├── kafka-config/
│ ├── kraft-config.properties # Конфигурация брокера Kafka
│ ├── producer.properties # Конфигурация OAuth продюсера (для CLI-инструментов)
│ └── consumer.properties # Конфигурация OAuth потребителя (для CLI-инструментов)
├── kafka-security/
│ ├── generate-certs.sh # Генератор SSL-сертификатов
│ ├── ca-cert # Сертификат корневого CA
│ ├── ca-key # Закрытый ключ корневого CA
│ └── broker/
│ ├── kafka.server.keystore.jks
│ └── kafka.server.truststore.jks
├── scripts/
│ └── setup-keycloak.sh # Настройка realm/клиентов Keycloak
└── tests/
└── quick_test.py # Тест проверки OAuth
Образ Strimzi Kafka (quay.io/strimzi/kafka:0.48.0-kafka-4.1.0) используется вместо официального образа Apache Kafka, потому что:
io.strimzi.kafka.oauth.*)Разбивка образа:
Конфигурация брокера содержит два URL:
oauth.token.endpoint.uri=http://keycloak:8080/... (внутренняя сеть Docker)oauth.valid.issuer.uri=http://localhost:8080/... (внешний, совпадает с claim iss JWT)Это связано с тем, что:
Брокер извлекает principal из claim preferred_username JWT:
service-account-kafka-producer → User:service-account-kafka-producer
ACL ссылаются на этот principal для авторизации.
| Компонент | Версия | Примечания |
|---|---|---|
| Apache Kafka | 4.1.0 | Режим KRaft (без ZooKeeper) |
| Образ Strimzi Kafka | 0.48.0 | Docker-образ: quay.io/strimzi/kafka:0.48.0-kafka-4.1.0 |
| Библиотека Strimzi OAuth | 0.17.0 | Предустановлена в образе Strimzi Kafka 0.48.0 |
| Keycloak | 26.1.1 | Последняя LTS |
| librdkafka | 2.12.0+ | Поддержка OAuth OIDC |
| confluent-kafka-python | 2.12.0+ | Соответствует версии librdkafka |