owasp/www-project-top-10-for-large-language-model-applicationsOWASP Top 10 for Large Language Model Apps (Part of the GenAI Security Project)
이 저장소는 OWASP Top 10 for Large Language Model Applications을 포함하며, 현재 포괄적인 OWASP GenAI Security Project의 일부로 관리되고 있습니다. OWASP GenAI Security Project는 생성형 AI 기술과 관련된 보안 및 안전 위험을 식별, 완화 및 문서화하는 글로벌 오픈소스 이니셔티브입니다.
메인 프로젝트 사이트 방문: genai.owasp.org
OWASP Top 10 for Large Language Model Applications는 개발자와 웹 애플리케이션 보안을 위한 표준 인식 문서입니다. 이 문서는 대규모 언어 모델(LLM) 애플리케이션에 가장 중요한 보안 위험에 대한 광범위한 합의를 나타냅니다. OWASP 내부와 외부 모두에서 이 프로젝트와 혼동해서는 안 되는 다른 진행 중인 프레임워크가 있으며, 현재 LLM 애플리케이션 보안에만 범위가 한정되어 있습니다.
주요 대상 독자는 LLM 기술을 활용하는 애플리케이션과 플러그인을 설계하고 구축하는 개발자, 데이터 과학자 및 보안 전문가입니다. 우리는 이 전문가들이 LLM 애플리케이션 보안의 복잡하고 진화하는 환경을 탐색할 수 있도록 실용적이고 실행 가능하며 간결한 보안 지침을 제공하는 것을 목표로 합니다.
이 프로젝트의 주요 목표는 LLM 애플리케이션의 잠재적인 보안 위험을 탐색할 수 있는 이해하기 쉽고 적용 가능한 가이드를 제공하는 것입니다. Top 10 목록은 이 분야에 처음 입문하는 개발자와 보안 전문가를 위한 출발점이자, 더 경험이 많은 사람들을 위한 참조 자료 역할을 합니다.
우리의 사명은 애플리케이션 보안을 가시화하여 사람과 조직이 LLM과 관련된 애플리케이션 보안 위험에 대해 정보에 기반한 결정을 내릴 수 있도록 하는 것입니다. 저희 목록은 다른 OWASP Top 10 목록에서 발견되는 취약점 유형과 유사점을 공유하지만, 단순히 해당 취약점을 반복하지는 않습니다. 대신 LLM을 활용하는 애플리케이션에서 이러한 취약점이 직면할 때 갖는 고유한 함의를 깊이 있게 탐구합니다.
우리의 목표는 일반적인 애플리케이션 보안 원칙과 LLM이 제기하는 특정 과제 사이의 격차를 해소하는 것입니다. 그룹의 목표에는 기존 취약점이 LLM 내에서 어떻게 다른 위험을 제기하거나 새로운 방식으로 악용될 수 있는지, 그리고 개발자가 LLM을 활용하는 애플리케이션에 대해 기존의 수정 전략을 어떻게 적응시켜야 하는지 탐구하는 것이 포함됩니다.
이 목록의 첫 번째 버전은 Contrast Security의 Steve Wilson이 기여했습니다. 우리는 커뮤니티의 기여와 프로젝트 개선을 장려합니다. 제안, 피드백이 있거나 목록 개선에 도움을 주고 싶다면 언제든지 이슈를 열거나 풀 리퀘스트를 보내주세요.
OWASP Slack에 워킹 그룹 채널이 있으니 가입하신 후 #project-top10-llm 채널에 참여해 주세요.
기여 방법 알아보기: https://genai.owasp.org/contribute/
이 프로젝트는 Creative Commons Attribution-ShareAlike 4.0 International License의 조건에 따라 라이선스가 부여됩니다.
