secsys-fdu/cve-2025-51867
A Deepfiction AI é uma empresa de entretenimento com IA que tem como missão revolucionar a narrativa personalizada. A Deepfiction AI disponibiliza um aplicativo web para criar histórias conversando com LLM, o qual é vulnerável a Referência Direta a Objetos Insegura (IDOR - Insecure Direct Object Reference) em seu componente de chat. Um atacante pode explorar esse IDOR para conversar com o LLM usando os créditos de outros usuários.
O endpoint da API https://www.deepfiction.ai/api/story/create-story-part é utilizado para iniciar ou continuar conversas. Testes indicam que esta API depende exclusivamente dos campos treatment_id e user_id no corpo da requisição para controle de acesso.
Foi observado que os campos id e author_id são expostos em conversas publicamente acessíveis listadas na página https://www.deepfiction.ai/browse/stories. Esses campos expostos correspondem diretamente aos parâmetros treatment_id (mapeando para id) e user_id (mapeando para author_id) esperados pela API create-story-part.
Como resultado, um atacante pode substituir o id vazado (como treatment_id) e o author_id (como user_id) em requisições a esta API. Isso permite que ele interaja com o Modelo de Linguagem de Grande Porte (LLM) consumindo os créditos de outros usuários. As figuras mostram o POC (prova de conceito) desta vulnerabilidade.
Além disso, a análise do tráfego de rede (por exemplo, por meio de captura de pacotes) pode revelar as configurações de função específicas (configurações de personagem) para cada personagem. Essas configurações são análogas a prompts de sistema e representam recursos importantes de sistema do ChatBot de LLM. Essa exposição também constitui uma forma de vazamento de dados sensíveis, pois pode revelar detalhes proprietários de engenharia de prompt ou definições de personagens.
Esta vulnerabilidade pode impactar qualquer usuário de https://www.deepfiction.ai. O crédito de chat do usuário será abusado com treatment_id e user_id vazados.
