
inverso del filtro privacy di openai. stesso modello 1.5b, restituisce i pii come span strutturati invece di mascherarli
Trova ogni elemento di PII in una grande quantità di testo e ottienilo indietro come span strutturati.
Basato su OpenAI Privacy Filter: stesso modello da 1.5B, stesse etichette, stessi pesi.
Privacy Filter maschera. Privacy Parser estrae.
Hi Quindle Testwick ([email protected] / +1-415-555-0102),
account 40702810500001234567, 14 Beautiful Ct, Anytown USA,
password Priv4cy-Filt3r-2026.
private_person Quindle Testwick
private_email [email protected]
private_phone +1-415-555-0102
account_number 40702810500001234567
private_address 14 Beautiful Ct, Anytown USA
secret Priv4cy-Filt3r-2026
Invece di <REDACTED> ottieni cosa è stato trovato, dove si trova (start, end) e di quale tipo è.
Privacy Filter risponde a "rendi sicuro questo testo". A volte hai bisogno di una risposta diversa: "cosa c'è esattamente qui dentro?"
| Backend | Richiede pesi | Velocità | F1 * | Usalo quando |
|---|---|---|---|---|
PIIParser | no | µs | 1.000 | zero dipendenze, pattern strutturati |
ModelPIIParser | 1.5B | ~500 ms CPU | 0.733 | output grezzo del modello |
HybridPIIParser | 1.5B | ~600 ms CPU | 0.929 | scelta predefinita |
* corrispondenza esatta degli span sui cinque fixture di esempio opf. Un insieme ridotto: trattalo come uno smoke test, non come un benchmark.
git clone https://github.com/openai/privacy-filter
git clone https://github.com/chiefautism/privacy-parser
uv venv
uv pip install -e ./privacy-filter # only for the model backends
uv pip install -e ./privacy-parser
La prima esecuzione del modello scarica il checkpoint opf (~3 GB) in ~/.opf/privacy_filter/.
Imposta OPF_CHECKPOINT o passa model= per utilizzare un'altra posizione.
from pii_parser.hybrid import HybridPIIParser
parser = HybridPIIParser(device="cpu") # or "cuda"
result = parser.parse("Hi Quindle Testwick, call me at +1-415-555-0102")
for s in result.spans:
print(s.label, s.start, s.end, s.text)
print(result.to_json())
from pii_parser import parse
result = parse("mail [email protected], token ghp_abcdefghijklmnopqrstuvwxyz0123456789")
result.detected_spans # (DetectedSpan(label='private_email', ...), ...)
result.redacted_text # 'mail <REDACTED>, token <REDACTED>'
result.summary # {'span_counts': {...}, 'total_spans': 2}
Backend regex, senza modello:
$ echo "Alice paid 40702810500001234567 on 2026-05-17." | pii-parser --mode spans
account_number 11 31 40702810500001234567
private_date 35 45 2026-05-17
$ pii-parser "mail [email protected]" --mode redacted
mail <REDACTED>
| Flag | Valori | Predefinito |
|---|---|---|
TEXT | testo, oppure -f FILE, oppure stdin | |
--mode | json · spans · redacted | json |
--placeholder | qualsiasi stringa | <REDACTED> |
--indent | int, 0 per JSON compatto | 2 |
Backend del modello:
python -m pii_parser.cli_model "Alice paid 40702810500001234567 on 2026-05-17."
python -m pii_parser.cli_model -f dump.txt --device cuda --mode spans
tassonomia opf v2, 8 categorie:
| Etichetta | Esempio |
|---|---|
private_person | Quindle Testwick |
private_email | [email protected] |
private_phone | +1-415-555-0102 |
private_address | 14 Beautiful Ct, Anytown USA |
private_url | https://example.com/u/quindle |
private_date | 2026-05-17 |
account_number | 40702810500001234567 |
secret | sk-…, ghp_…, AKIA…, Bearer … |
Quando le porzioni si sovrappongono, vince quella più lunga, poi l'etichetta con priorità più alta: email > url > secret > account > phone > date > address > person.
text
│
▼
opf 1.5B ──► BIOES logits ──► Viterbi (tuned biases) ──► char spans
│
▼
span merge glues "Quindle" + "Testwick" into one person
│
▼
regex backstop adds url / secret / account where the model missed them
│
▼
spans[]
Ogni fase può essere disattivata:
HybridPIIParser(
enable_merge=True,
enable_regex_backstop=True,
enable_viterbi_tuning=True,
decode_mode="viterbi", # or "argmax"
)
{
"text": "Hi Quindle Testwick ...",
"spans": [
{ "label": "private_person", "start": 3, "end": 19, "text": "Quindle Testwick" }
]
}
Il regex PIIParser rispecchia opf.RedactionResult (schema_version, summary, detected_spans, redacted_text), così puoi scambiare i backend senza toccare i consumer.
I test si aspettano che privacy-filter sia clonato accanto a questo repo (leggono i suoi fixture di esempio).
python tests/test_hybrid.py
Fixture F1: 0.929
Scenarios: 8/8 passed
Latency: ~600 ms CPU
Questo è uno strumento a duplice uso. Eseguilo su dati di tua proprietà o che sei autorizzato a elaborare. L'estrazione di dati personali da fonti trapelate o rubate è illegale nella maggior parte delle giurisdizioni.