Skip to content
KitploitKITPLOIT
FerramentasExploitsBlog
Log in
Enviar
FerramentasExploitsBlog
Enviar

Ferramentas de Hacking, PenTest e Cibersegurança para o seu Arsenal de Segurança!

Kitploit é um diretório de ferramentas de hacking, cibersegurança e pentesting. Descubra as últimas atualizações de projetos para encontrar vulnerabilidades, analisar sistemas, automatizar testes e fortalecer sua segurança.

FeedsContatoPrivacidade© 2026 Kitploit

Diretório de Ferramentas

Categorias

Ver todas as categorias
Loading categories
OLMo-Twin — Código de reprodução para um estudo controlado de ataques de inferência de associação em OLMo 2, abrangendo inserção de documentos, mid-training, pós-treinamento, pontuação e análise. | Kitploit
Ferramentas/GitHubGitHub/ali-bana/olmo-twin
Exfiltração de DadosPrivacidadeAprendizado de MáquinaPapers e PesquisaSegurança de IA
GitHubali-bana/olmo-twin

OLMo-Twin

Código de reprodução para um estudo controlado de ataques de inferência de associação em OLMo 2, abrangendo inserção de documentos, mid-training, pós-treinamento, pontuação e análise.

Ver Repositório
71há 14 diasAinda não revisado
Compartilhar

OLMo-Twin

Este repositório contém o código do artigo

From Training Exposure to Membership Evidence: A Controlled Study of OLMo 2
Ali Banaei, Muhammad Shahab Shahzad, Gerald Q. Maguire Jr., Marco Chiesa, Dejan Kostić
KTH Royal Institute of Technology. arXiv preprint (a ser publicado).

Reexecutamos a etapa oficial de mid-training de 50 bilhões de tokens do OLMo 2 1B com um conjunto de documentos inseridos no fluxo de treinamento, escolhidos aleatoriamente a partir de pares correspondentes. A execução da mesma etapa divulgada pela AI2 serve como controle. As duas execuções leram os mesmos dados de treinamento na mesma ordem, exceto nas posições onde inserimos documentos. Ambos os modelos foram então submetidos à receita de pós-treinamento da AI2. Cada documento foi pontuado sob ambos os modelos em cada etapa, para que possamos medir o quanto o treinamento em um documento altera o modelo, e quanto dessa alteração os ataques de inferência de pertencimento conseguem detectar.

A questão

A inferência de pertencimento pergunta se um determinado documento fez parte dos dados de treinamento de um modelo. Isso importa para direitos autorais e proveniência de dados, para transparência de dados de treinamento e para contaminação de benchmarks. A maioria das avaliações de ataques de inferência de pertencimento em modelos de linguagem coleta membros e não membros a posteriori, por exemplo documentos publicados antes e depois de um corte de treinamento. Os dois grupos então diferem em tópico, estilo e data, assim como em pertencimento. Um ataque pode ter sucesso detectando essa mudança de distribuição. Quando um ataque falha, isso não demonstra que o treinamento não deixou rastro.

Para separar essas explicações, precisamos de um cenário no qual o pertencimento seja conhecido, seja atribuído independentemente de qualquer propriedade do documento e deixe o resto do treinamento inalterado. O artigo pergunta: quando um documento real é incluído uma vez em uma receita de treinamento estabelecida, quanto o modelo muda, e quanto dessa mudança os ataques existentes conseguem aproveitar?

O desenho

                    AI2's released stage-1 checkpoint (4T tokens)
                                       |
            +--------------------------+---------------------------+
            |                                                      |
  AI2's released seed-42 run                     our re-run of the same stage:
  of the 50B-token stage                         same start, data and order;
  (23,852 updates)                               24,081 of 12,212,224 chunks replaced
            |                                    by copies of inserted documents
            v                                                      v
         control                                             treated model
            |                                                      |
            v                                                      v
   SFT -> DPO -> RLVR stage 1 -> RLVR stage 2  (same data, order and seeds for both)
  • Uma reexecução de um estágio oficial de treinamento. O OLMo 2 1B é treinado em dois estágios: cerca de 4 trilhões de tokens de pré-treinamento, depois um estágio de 50 bilhões de tokens de mid-training. A AI2 lançou o checkpoint no qual o mid-training começa, incluindo seu estado de otimizador. A AI2 também lançou os dados de mid-training, sua configuração e as execuções completas de mid-training para três sementes de ordem de dados. Partimos do checkpoint lançado e executamos o estágio novamente com a configuração da AI2 e o treinador OLMo sem modificações. Nós reconstruímos exatamente a ordem de dados da semente 42.
  • Pares correspondentes e um cara ou coroa. Construímos 7.814 pares de documentos. Os dois documentos de um par vêm da mesma fonte e coorte e são correspondidos por comprimento e por dificuldade: bits por byte sob o checkpoint inicial, medidos antes do treinamento. Para cada par, um cara ou coroa escolheu um documento para inserção; o outro foi mantido de fora. Cópias dos documentos inseridos substituem chunks inteiros de treinamento em posições planejadas distribuídas ao longo do estágio: 12.414 cópias substituem 24.081 das 12.212.224 posições de chunk (0,197%), e o texto inserido soma 67,3 milhões de tokens (0,135% do fluxo). Todas as outras posições contêm o chunk da AI2.
  • A execução lançada como controle. A execução da semente 42 lançada pela AI2 viu os mesmos chunks na mesma ordem em todas as outras posições, então ela serve como o contrafactual. O artigo a chama de gêmea. As duas execuções diferem em configurações de execução (número de GPUs, kernels de atenção e de sharding), então elas não são idênticas bit a bit. A execução da semente 42069 da AI2 (a mesma receita em uma ordem de dados diferente) serve como referência retreinada. O checkpoint lançado no qual o estágio começa serve como uma referência mais fraca.
  • Documentos verificados como não vistos. A maioria dos documentos são artigos do arXiv, páginas da Wikipedia e posts do StackExchange que apareceram após o corte de dados do modelo, ou páginas da Wikipedia ausentes do snapshot nos dados de treinamento. Treze coortes variam a fonte, o comprimento, o número de cópias (até 32), o momento das cópias e a forma do texto (derivado de LaTeX versus derivado de PDF). Versões editadas de páginas da Wikipedia que estão nos dados de treinamento medem a reexposição, e textos sintéticos abrangem uma variedade de surpresa. Os candidatos das coortes destinadas a serem não vistas foram buscados exaustivamente em todos os 13 componentes dos corpora de pré-treinamento e mid-training lançados (8,3 TiB). A busca detecta toda sobreposição literal de 40 palavras ou mais, e candidatos com tais sobreposições foram excluídos. A última parte da busca terminou depois que os pares foram formados. Ela encontrou mais 156 candidatos com tais sobreposições; eles foram removidos, e seus pares foram preenchidos novamente antes do treinamento.
  • Pós-treinamento. Tanto o modelo tratado quanto o controle passaram pela receita de pós-treinamento da AI2 para o OLMo 2 1B: ajuste fino supervisionado (SFT), otimização direta de preferência (DPO) e dois estágios de aprendizado por reforço com recompensas verificáveis (RLVR). Ambos os modelos receberam os mesmos dados, ordem e sementes.
  • Medições. Os 22.681 documentos de avaliação (ambos os documentos de cada par e 7.053 documentos que nunca foram inseridos) são pontuados token a token sob:
    • o modelo tratado, o controle, a referência retreinada e o checkpoint inicial;
    • os 24 checkpoints salvos a cada 1.000 atualizações por cada uma das três execuções de mid-training;
    • os modelos de cada estágio de pós-treinamento de ambos os braços.

Principais descobertas

Salvo indicação em contrário, os números abaixo são para os 4.832 pares de documentos verificados como não vistos e inseridos uma vez, medidos em relação ao controle. O artigo fornece intervalos de confiança e outras ressalvas.

Baixar ferramenta

Mais Populares

Ver todos →

Descubra as ferramentas mais usadas pela nossa comunidade.

Sem dados de popularidade ainda.

Explore todas as ferramentas

Navegue pela nossa coleção de ferramentas

Ver todas as ferramentas →