telefonica/omlaspFramework zur Prüfung von Algorithmen des maschinellen Lernens auf gegnerische Angriffe und Verzerrungen, das pädagogische Werkzeuge und ein akademisches Papier bereitstellt, um die Wissenslücke in der ML-Sicherheit für Cybersicherheitsexperten zu schließen.
_____ _______ _______ _______ _____
| | | | | | |_____| |______ |_____]
|_____| | | | |_____ | | ______| |
OMLASP - Open Machine Learning Application Security Project ist als Standard für die Prüfung von Machine-Learning-Algorithmen gedacht. Dabei liegt der Fokus nicht nur auf der Sicherheit der Algorithmen, sondern auch auf deren Verzerrungen (Biases). Wenn Anwendungen, die auf Machine-Learning- oder Deep-Learning-Algorithmen basieren, bereitgestellt werden, werden bei Sicherheitsaudits in der Regel nur traditionelle Schwachstellen überprüft. Diese Algorithmen sind jedoch auch anderen Angriffspunkten ausgesetzt, die von Angreifern ausgenutzt werden können und die in diesem Framework oder dieser Tool-Sammlung behandelt werden. Es gibt im Internet viele Informationen zu diesen Angriffen, aber sie sind fragmentiert, meist lehrbuchartig oder direkt in wissenschaftlichen Arbeiten enthalten. Wir möchten diese Angriffstechniken in die Cybersicherheitswelt bringen, die nicht unbedingt Experte für Machine Learning ist. Dazu haben wir an etwas gedacht, das in der Cybersicherheit jeder kennt: die MITRE ATT&CK-Matrix oder die Taktiken, Techniken und das allgemeine Wissen von Angreifern.
OMLASP bietet die Implementierung einfacher Tools, die auf die Durchführung einiger der genannten Angriffe ausgerichtet sind, die wir nun praktisch sehen werden. Der gesamte Quellcode von OMLASP, in Python geschrieben und als Open Source verfügbar, ist so konzipiert, dass er je nach den Anforderungen des Sicherheitsauditors angepasst werden kann. Es wurde auch ein wissenschaftliches Paper mit der gesamten zugehörigen Theorie beigefügt, die für die Implementierung dieser Tools verwendet wurde.
Alle Anforderungen, um die verschiedenen Tools ausführen zu können, befinden sich in den jeweiligen Verzeichnissen. Es gibt auch eine README-Datei mit allen Informationen, die für den ordnungsgemäßen Betrieb benötigt werden. Wir haben die Tools unter Linux und Windows 11 getestet. Für eine bessere Leistung (wenn auch nicht zwingend erforderlich) ist es wichtig, 16 GB RAM und eine GPU zu haben.
Überprüfen Sie die README-Dateien in den entsprechenden Ordnern der einzelnen Tools.
Dieses Projekt ist unter der GNU General Public License lizenziert – siehe die Datei LICENSE für Details.
DIE SOFTWARE WIRD OHNE JEGLICHE AUSDRÜCKLICHE ODER STILLSCHWEIGENDE GEWÄHRLEISTUNG BEREITGESTELLT, EINSCHLIESSLICH, ABER NICHT BESCHRÄNKT AUF DIE GEWÄHRLEISTUNG DER MARKTGÄNGIGKEIT, DER EIGNUNG FÜR EINEN BESTIMMTEN ZWECK UND DER NICHTVERLETZUNG VON RECHTEN. IN KEINEM FALL SIND DIE AUTOREN ODER URHEBERBERECHTIGTEN HAFTBAR FÜR JEGLICHE ANSPRÜCHE, SCHÄDEN ODER ANDERE HAFTUNG, GLEICH AUS WELCHEM RECHTSGRUND, OB AUS VERTRAG, UNERLAUBTER HANDLUNG ODER ANDERWEITIG, DIE AUS ODER IM ZUSAMMENHANG MIT DER SOFTWARE ODER DER NUTZUNG ODER ANDEREN HANDLUNGEN MIT DER SOFTWARE ENTSTEHEN. WENN SIE EINEN BEITRAG ZU EINEM REPOSITORIUM LEISTEN, DAS EINEN LIZENZHINWEIS ENTHÄLT, LIZENZIEREN SIE IHREN BEITRAG UNTER DEN GLEICHEN BEDINGUNGEN UND SIE STIMMEN ZU, DASS SIE DAS RECHT HABEN, IHREN BEITRAG UNTER DIESEN BEDINGUNGEN ZU LIZENZIEREN. WENN SIE EINE SEPARATE VEREINBARUNG ZUR LIZENZIERUNG IHRER BEITRÄGE ZU ANDEREN BEDINGUNGEN HABEN, WIE ZUM BEISPIEL EINE CONTRIBUTOR LICENSE AGREEMENT, HAT DIESE VEREINBARUNG VORRANG.
Diese Software durchläuft keinen QA-Prozess. Diese Software ist ein Proof of Concept.
Bei Problemen oder Fragen wenden Sie sich bitte an: