oriolrius/kafka-keycloak-oauthApache Kafka 4.1.0 (KRaft) mit Keycloak OAuth2-Authentifizierung unter Verwendung von Strimzi – umgeht die URL-Allowlist-Einschränkung von CVE-2025-27817
Produktionsreifes Apache Kafka 4.1.0 (KRaft-Modus) mit Keycloak 26.1.1 OAuth2/OIDC-Authentifizierung unter Verwendung des Strimzi-Kafka-Images.
Dies ist eine Weiterentwicklung des vorherigen POC mit erheblichen Verbesserungen:
Apache Kafka 4.0.0+ führte eine URL-Allowlist (org.apache.kafka.sasl.oauthbearer.allowed.urls) als JVM-Systemeigenschaft ein, um die SSRF-/beliebige-Dateilesen-Schwachstelle zu beheben. Dies bricht die Standard-OAuth-Nutzung in nativen Apache-Kafka-Clients.
Lösung: Die Strimzi-Kafka-OAuth-Bibliothek implementiert diese Einschränkung nicht und ermöglicht so die OAuth-Funktionalität mit Kafka 4.1.0.
# SSL-Zertifikate generieren
cd kafka-security
./generate-certs.sh
cd ..
# Dienste starten
docker compose up -d
# Keycloak verifizieren
curl http://localhost:8080/health/ready
# Keycloak-Realm und Clients einrichten
./scripts/setup-keycloak.sh
# OAuth-Producer testen
source ~/.venv/bin/activate
uv pip install confluent-kafka
python tests/quick_test.py
keycloak:8080 (HTTP) ←→ kafka-broker:9093 (SASL_SSL/OAuth)
↔ kafka-broker:19092 (PLAINTEXT/Inter-Broker)
↔ kafka-broker:29093 (PLAINTEXT/KRaft-Controller)
kafka-security/ca-cert + ca-keykafka-security/broker/kafka.server.keystore.jks (enthält Serverzertifikat + privaten Schlüssel)kafka-security/broker/kafka.server.truststore.jks (enthält CA-Zertifikat)changeit (alle Keystores/Truststores)# Broker-Zertifikat
CN=kafka-broker
SAN=DNS:kafka-broker,DNS:localhost,IP:127.0.0.1
# Gültigkeit: 3650 Tage
# Schlüsselalgorithmus: RSA 2048-Bit
# Signaturalgorithmus: SHA256withRSA
kafka-broker (vertraulich)
kafka-brokersetup-keycloak.shkafka-broker zum JWT-aud-Anspruch hinzupreferred_username im Tokenkafka-producer (vertraulich)
kafka-producerclient_credentialskafka-consumer (vertraulich)
kafka-consumerclient_credentialsPOST http://localhost:8080/realms/kafka-realm/protocol/openid-connect/token
Content-Type: application/x-www-form-urlencoded
grant_type=client_credentials
&client_id=kafka-producer
&client_secret=<secret>
&scope=profile email
{
"aud": ["kafka-broker", "account"],
"iss": "http://localhost:8080/realms/kafka-realm",
"azp": "kafka-producer",
"preferred_username": "service-account-kafka-producer",
"scope": "profile email"
}
# Knotenidentität
node.id=1
process.roles=broker,controller
controller.quorum.voters=1@kafka-broker:29093
# Listener
listeners=SASL_SSL://0.0.0.0:9093,PLAINTEXT://0.0.0.0:19092,CONTROLLER://0.0.0.0:29093
advertised.listeners=SASL_SSL://localhost:9093,PLAINTEXT://kafka-broker:19092
listener.security.protocol.map=SASL_SSL:SASL_SSL,PLAINTEXT:PLAINTEXT,CONTROLLER:PLAINTEXT
inter.broker.listener.name=PLAINTEXT
controller.listener.names=CONTROLLER
# SASL-Mechanismus
sasl.enabled.mechanisms=OAUTHBEARER
# Strimzi-OAuth-Handler (pro Listener für SASL_SSL)
listener.name.sasl_ssl.oauthbearer.sasl.login.callback.handler.class=io.strimzi.kafka.oauth.client.JaasClientOauthLoginCallbackHandler
listener.name.sasl_ssl.oauthbearer.sasl.server.callback.handler.class=io.strimzi.kafka.oauth.server.JaasServerOauthValidatorCallbackHandler
# OAuth-Konfiguration über JAAS
listener.name.sasl_ssl.oauthbearer.sasl.jaas.config=org.apache.kafka.common.security.oauthbearer.OAuthBearerLoginModule required \
oauth.client.id="kafka-broker" \
oauth.client.secret="<secret>" \
oauth.token.endpoint.uri="http://keycloak:8080/realms/kafka-realm/protocol/openid-connect/token" \
oauth.valid.issuer.uri="http://localhost:8080/realms/kafka-realm" \
oauth.jwks.endpoint.uri="http://keycloak:8080/realms/kafka-realm/protocol/openid-connect/certs" \
oauth.username.claim="preferred_username";
oauth.client.id: Client-Kennung für die Token-Beschaffungoauth.client.secret: Client-Secret für die Token-Beschaffungoauth.token.endpoint.uri: Keycloak-Token-Endpunkt (Broker verwendet internen Hostnamen keycloak:8080)oauth.valid.issuer.uri: Erwarteter JWT-Issuer (muss mit dem Token-iss-Anspruch übereinstimmen, verwendet externes localhost:8080)oauth.jwks.endpoint.uri: JWKS-Endpunkt für die JWT-Signaturvalidierungoauth.username.claim: JWT-Anspruch für die Principal-Extraktionauthorizer.class.name=org.apache.kafka.metadata.authorizer.StandardAuthorizer
super.users=User:kafka-broker;User:ANONYMOUS
allow.everyone.if.no.acl.found=true
Hinweis: Derzeit permissiv für Tests. In der Produktion sollten ACLs verwendet werden.
from confluent_kafka import Producer
conf = {
'bootstrap.servers': 'localhost:9093',
'security.protocol': 'SASL_SSL',
'sasl.mechanisms': 'OAUTHBEARER',
'sasl.oauthbearer.method': 'oidc',
'sasl.oauthbearer.client.id': 'kafka-producer',
'sasl.oauthbearer.client.secret': '<secret>',
'sasl.oauthbearer.token.endpoint.url': 'http://localhost:8080/realms/kafka-realm/protocol/openid-connect/token',
'ssl.ca.location': 'kafka-security/ca-cert',
'ssl.endpoint.identification.algorithm': 'none',
}
producer = Producer(conf)
producer.produce('topic', b'message')
producer.flush()
from confluent_kafka import Consumer
conf = {
'bootstrap.servers': 'localhost:9093',
'group.id': 'test-group',
'security.protocol': 'SASL_SSL',
'sasl.mechanisms': 'OAUTHBEARER',
'sasl.oauthbearer.method': 'oidc',
'sasl.oauthbearer.client.id': 'kafka-consumer',
'sasl.oauthbearer.client.secret': '<secret>',
'sasl.oauthbearer.token.endpoint.url': 'http://localhost:8080/realms/kafka-realm/protocol/openid-connect/token',
'ssl.ca.location': 'kafka-security/ca-cert',
'ssl.endpoint.identification.algorithm': 'none',
'auto.offset.reset': 'earliest',
}
consumer = Consumer(conf)
consumer.subscribe(['topic'])
while True:
msg = consumer.poll(1.0)
if msg: print(msg.value())
confluent-kafka-python verwendet librdkafka (C-Bibliothek), das OAuth über sasl.oauthbearer.method=oidc implementiert. Diese Implementierung prüft die Systemeigenschaft org.apache.kafka.sasl.oauthbearer.allowed.urls nicht, die native Apache-Kafka-Java-Clients blockiert.
TOKEN=$(curl -s -X POST http://localhost:8080/realms/kafka-realm/protocol/openid-connect/token \
-d "grant_type=client_credentials" \
-d "client_id=kafka-producer" \
-d "client_secret=<secret>" | jq -r .access_token)
echo $TOKEN | cut -d. -f2 | base64 -d 2>/dev/null | jq .
Erwartete Ansprüche:
{
"aud": ["kafka-broker", "account"],
"iss": "http://localhost:8080/realms/kafka-realm",
"azp": "kafka-producer",
"preferred_username": "service-account-kafka-producer"
}
docker logs kafka-broker 2>&1 | grep -E "Strimzi|JWTSignatureValidator|OAUTHBEARER"
Erwartet:
[io.strimzi.kafka.oauth.validator.JWTSignatureValidator] JWKS keys change detected
docker exec kafka-broker netstat -tlnp | grep java
Erwartet:
tcp6 0.0.0.0:9093 LISTEN (SASL_SSL)
tcp6 0.0.0.0:19092 LISTEN (PLAINTEXT)
tcp6 0.0.0.0:29093 LISTEN (CONTROLLER)
docker exec kafka-broker cat /var/lib/kafka/data/meta.properties
Erwartet:
version=1
cluster.id=kafka-cluster-01
node.id=1
Problem: {"status":"invalid_token"}
oauth.jwks.endpoint.uri vom Broker-Container aus erreichbar istdocker exec kafka-broker curl http://keycloak:8080/realms/kafka-realm/protocol/openid-connect/certsProblem: Token audience mismatch
aud-Anspruch enthält nicht kafka-broker./scripts/setup-keycloak.sh aus, um den Audience-Mapper hinzuzufügenaud-Anspruch kafka-broker enthältProblem: Token issuer mismatch
iss stimmt nicht mit oauth.valid.issuer.uri übereinoauth.valid.issuer.uri=http://localhost:8080/realms/kafka-realm (externer Hostname) isthttp://keycloak:8080 für den Token-Endpunkt, validiert aber gegen den Issuer http://localhost:8080Problem: Native Java-Kafka-Clients schlagen mit URL-Allowlist-Fehler fehl
JWT-Tokens von Keycloak haben eine Ablaufzeit von 5 Minuten. Strimzi OAuth übernimmt die Aktualisierung automatisch:
oauth.refresh.token: Nicht verwendet (client_credentials-Grant)sasl.oauthbearer.jwks.endpoint.refresh.ms=3600000 # 1 Stunde
sasl.oauthbearer.jwks.endpoint.retry.backoff.ms=100
sasl.oauthbearer.jwks.endpoint.retry.backoff.max.ms=10000
connections.max.idle.ms=600000
connection.failed.authentication.delay.ms=1000
ssl.endpoint.identification.algorithm=https aktualisieren (none entfernen)allow.everyone.if.no.acl.found=true entfernen)kafka-acls --bootstrap-server localhost:9093 \
--command-config admin.properties \
--add --allow-principal User:kafka-producer \
--operation Write --topic '*'
oauth.token.endpoint.uri und oauth.jwks.endpoint.uri auf HTTPS-URLs aktualisieren.
├── docker-compose.yml # Orchestrierung
├── .env # Secrets (gitignored)
├── kafka-config/
│ ├── kraft-config.properties # Kafka-Broker-Konfiguration
│ ├── producer.properties # Producer-OAuth-Konfiguration (für CLI-Tools)
│ └── consumer.properties # Consumer-OAuth-Konfiguration (für CLI-Tools)
├── kafka-security/
│ ├── generate-certs.sh # SSL-Zertifikatsgenerator
│ ├── ca-cert # Root-CA-Zertifikat
│ ├── ca-key # Root-CA-privater Schlüssel
│ └── broker/
│ ├── kafka.server.keystore.jks
│ └── kafka.server.truststore.jks
├── scripts/
│ └── setup-keycloak.sh # Keycloak-Realm-/Client-Einrichtung
└── tests/
└── quick_test.py # OAuth-Validierungstest
Das Strimzi-Kafka-Image (quay.io/strimzi/kafka:0.48.0-kafka-4.1.0) wird anstelle des offiziellen Apache-Kafka-Images verwendet, weil:
io.strimzi.kafka.oauth.*)Image-Aufschlüsselung:
Die Broker-Konfiguration enthält zwei URLs:
oauth.token.endpoint.uri=http://keycloak:8080/... (internes Docker-Netzwerk)oauth.valid.issuer.uri=http://localhost:8080/... (extern, entspricht dem JWT-iss-Anspruch)Dies liegt daran, dass:
Der Broker extrahiert den Principal aus dem JWT-preferred_username-Anspruch:
service-account-kafka-producer → User:service-account-kafka-producer
ACLs referenzieren diesen Principal für die Autorisierung.
| Komponente | Version | Hinweise |
|---|---|---|
| Apache Kafka | 4.1.0 | KRaft-Modus (kein ZooKeeper) |
| Strimzi-Kafka-Image | 0.48.0 | Docker-Image: quay.io/strimzi/kafka:0.48.0-kafka-4.1.0 |
| Strimzi-OAuth-Bibliothek | 0.17.0 | Vorinstalliert im Strimzi-Kafka-0.48.0-Image |
| Keycloak | 26.1.1 | Neuestes LTS |
| librdkafka | 2.12.0+ | OIDC-OAuth-Unterstützung |
| confluent-kafka-python | 2.12.0+ | Entspricht der librdkafka-Version |