---

Hi Quindle Testwick ([email protected] / +1-415-555-0102),
account 40702810500001234567, 14 Beautiful Ct, Anytown USA,
password Priv4cy-Filt3r-2026.

private_person      Quindle Testwick
private_email       [email protected]
private_phone       +1-415-555-0102
account_number      40702810500001234567
private_address     14 Beautiful Ct, Anytown USA
secret              Priv4cy-Filt3r-2026

Em vez de <REDACTED> você obtém o que foi encontrado, onde está (start, end) e qual tipo é.

Por quê

O Privacy Filter responde "torne este texto seguro". Às vezes você precisa de uma resposta diferente: "o que exatamente há aqui?"

• Auditar logs, dumps e exportações antes que saiam do seu perímetro
• Inventariar dados pessoais para solicitações GDPR / CCPA
• Verificações de pré-commit e CI para segredos e dados de contato vazados
• Construir conjuntos de dados: rotular spans de PII para treinamento ou avaliação

Três backends

Backend	Precisa de pesos	Velocidade	F1 *	Use quando
PIIParser	não	µs	1.000	zero dependências, padrões estruturados
ModelPIIParser	1.5B	~500 ms CPU	0.733	saída bruta do modelo
HybridPIIParser	1.5B	~600 ms CPU	0.929	escolha padrão

* correspondência exata de span nos cinco fixtures de amostra do opf. Um conjunto pequeno: trate-o como um teste de fumaça, não como um benchmark.

Instalação

git clone https://github.com/openai/privacy-filter
git clone https://github.com/chiefautism/privacy-parser

uv venv
uv pip install -e ./privacy-filter    # only for the model backends
uv pip install -e ./privacy-parser

A primeira execução do modelo baixa o checkpoint opf (~3 GB) para ~/.opf/privacy_filter/. Defina OPF_CHECKPOINT ou passe model= para usar outro local.

Início rápido

Híbrido (recomendado)

from pii_parser.hybrid import HybridPIIParser

parser = HybridPIIParser(device="cpu")   # or "cuda"
result = parser.parse("Hi Quindle Testwick, call me at +1-415-555-0102")

for s in result.spans:
    print(s.label, s.start, s.end, s.text)

print(result.to_json())

Apenas regex, sem pesos

from pii_parser import parse

result = parse("mail [email protected], token ghp_abcdefghijklmnopqrstuvwxyz0123456789")

result.detected_spans   # (DetectedSpan(label='private_email', ...), ...)
result.redacted_text    # 'mail <REDACTED>, token <REDACTED>'
result.summary          # {'span_counts': {...}, 'total_spans': 2}

CLI

Backend de regex, sem modelo:

$ echo "Alice paid 40702810500001234567 on 2026-05-17." | pii-parser --mode spans
account_number  11  31  40702810500001234567
private_date    35  45  2026-05-17

$ pii-parser "mail [email protected]" --mode redacted
mail <REDACTED>

Flag	Valores	Padrão
TEXT	texto, ou -f FILE, ou stdin
--mode	json · spans · redacted	json
--placeholder	qualquer string	<REDACTED>
--indent	int, 0 para JSON compacto	2

Backend do modelo:

python -m pii_parser.cli_model "Alice paid 40702810500001234567 on 2026-05-17."
python -m pii_parser.cli_model -f dump.txt --device cuda --mode spans

Rótulos

taxonomia opf v2, 8 categorias:

Rótulo	Exemplo
private_person	Quindle Testwick
private_email	[email protected]
private_phone	+1-415-555-0102
private_address	14 Beautiful Ct, Anytown USA
private_url	https://example.com/u/quindle
private_date	2026-05-17
account_number	40702810500001234567
secret	sk-…, ghp_…, AKIA…, Bearer …

Quando os trechos se sobrepõem, o mais longo prevalece, depois o rótulo de maior prioridade: email > url > secret > account > phone > date > address > person.

Como o híbrido funciona

text
  │
  ▼
opf 1.5B ──► BIOES logits ──► Viterbi (tuned biases) ──► char spans
  │
  ▼
span merge        glues "Quindle" + "Testwick" into one person
  │
  ▼
regex backstop    adds url / secret / account where the model missed them
  │
  ▼
spans[]

Cada estágio pode ser desativado:

HybridPIIParser(
    enable_merge=True,
    enable_regex_backstop=True,
    enable_viterbi_tuning=True,
    decode_mode="viterbi",   # or "argmax"
)

Esquema de saída

{
  "text": "Hi Quindle Testwick ...",
  "spans": [
    { "label": "private_person", "start": 3, "end": 19, "text": "Quindle Testwick" }
  ]
}

O regex PIIParser espelha opf.RedactionResult (schema_version, summary, detected_spans, redacted_text), para que você possa trocar de backend sem tocar nos consumidores.

Testes

Os testes esperam que privacy-filter esteja clonado ao lado deste repositório (eles leem seus fixtures de exemplo).

python tests/test_hybrid.py

Fixture F1:  0.929
Scenarios:   8/8 passed
Latency:     ~600 ms CPU

Uso responsável

Esta é uma ferramenta de uso duplo. Execute-a em dados que você possui ou está autorizado a processar. A extração de dados pessoais de fontes vazadas ou roubadas é ilegal na maioria das jurisdições.

Licença

Apache-2.0