
Demonstra uma vulnerabilidade de Referência Direta a Objeto Insegura (IDOR) no playground chat da Ai2, permitindo que atacantes façam força bruta em IDs de mensagens previsíveis e acessem os históricos de conversas de outros usuários.
Ai2 é um instituto de pesquisa de IA sem fins lucrativos sediado em Seattle. A Ai2 oferece um aplicativo web playground para conversar com seu LLM, que é vulnerável a Insecure Direct Object Reference (IDOR) em seu componente de chat. Um atacante pode explorar esse IDOR para adulterar conversas de outros usuários.
Os históricos de conversa de todos os usuários são armazenados no servidor. No entanto, o servidor da Ai2 não distingue a propriedade ou o status de compartilhamento dos históricos de conversa individuais. Consequentemente, um atacante pode acessar os históricos de conversa de outros usuários, mesmo aqueles não compartilhados publicamente por seus proprietários, por meio de força bruta nos IDs das mensagens de conversa.
O formato do ID da mensagem de conversa é previsível e suscetível a ataques de força bruta. Consiste em um prefixo fixo msg_ seguido por uma string de 10 caracteres. Essa string é composta por letras maiúsculas e dígitos alternados (por exemplo, A1A1A1A1A1). A POC é a seguinte:


Esta vulnerabilidade pode ter impacto em qualquer usuário de https://playground.allenai.org. O histórico de chat do usuário será roubado com o message_id obtido por força bruta.