Microsoft wird Open Source für das AI Security Assessment Tool von Counterfit

Microsoft hat das Open-Source-Tool Counterfit zur Bewertung des AI-Sicherheitsrisikos auf Open Source umgestellt, sodass jeder das Tool kostenlos nutzen kann. Derzeit können Unternehmen Counterfit verwenden, um Sicherheitsrisikobewertungen zu automatisieren und sicherzustellen, dass der von ihnen verwendete Schutz auf dem neuesten Stand ist.

Microsoft hat Counterfit ursprünglich als internes Tool entwickelt, mit dem die Sicherheit von KI- und maschinellen Lernsystemen schnell bewertet werden kann. Es begann als eine Sammlung von Skripten, bevor es sich schnell in eine generische KI-Automatisierung verwandelte, mit der ein Bediener "mehrere KI-Systeme gleichzeitig angreifen" kann.

Microsoft verwendet Counterfit jetzt regelmäßig als Kernwerkzeug für seine KI-Rot-Team-Operationen. Da Counterfit umwelt-, modell- und datenunabhängig ist, kann das Tool eine präzise Bewertung ohne Impedanz liefern.

Das Tool selbst ist für die Verwendung durch Sicherheitsexperten konzipiert. Counterfit verwendet ähnliche Workflows wie andere beliebte Red-Team-Tools wie Metasploit oder PowerShell Empyre und bietet umfassende Unterstützung Für Skripte, vorinstallierte Angriffsalgorithmen, Schwachstellenüberprüfung, erweiterte Protokollierung und mehr, auf die über die Befehlszeile zugegriffen werden kann.

Microsoft hat intensiv mit Sicherheitsexperten und großen Organisationen zusammengearbeitet, um Counterfit ebenfalls besser zu entwickeln. Auf der Microsoft-SicherheitsblogMatilda Rhode, Senior Cybersecurity Researcher bei Airbus, sagte:

KI wird zunehmend in der Industrie eingesetzt. Es ist wichtig, vorausschauend auf die Sicherung dieser Technologie zu schauen, insbesondere um zu verstehen, wo Feature-Space-Angriffe im Problembereich realisiert werden können. Die Veröffentlichung von Open-Source-Tools von einer Organisation wie Microsoft zur Bewertung durch Sicherheitspraktiker Die Sicherheit von KI-Systemen ist sowohl willkommen als auch ein klares Indiz dafür, dass die Industrie dieses Problem aufgreift Ernsthaft.

Sie finden die Open Source Microsoft Counterfit auf ihrem offiziellen GitHub.

Verbunden: Jobs, von denen Sie nie wussten, dass sie von AI ausgeführt wurden

Warum ist Counterfit nützlich?

Selbst für ein Unternehmen von der Größe von Microsoft ist es nicht einfach, effektive Sicherheitsbewertungen durchzuführen, insbesondere wenn es sich bei diesen Unternehmen um enorme Fortune 500-Führungskräfte, Regierungen, gemeinnützige Organisationen und mehr handelt. Eine frühere Microsoft-Studie ergab, dass eine große Anzahl von Unternehmen ihre KI-Systeme nicht genau testen kann.

Wir haben festgestellt, dass 25 von 28 Unternehmen angaben, nicht über die richtigen Tools zur Sicherung ihrer KI-Systeme zu verfügen, und dass Sicherheitsexperten in diesem Bereich nach spezifischen Anleitungen suchen.

Counterfit erleichtert die Durchführung dieser Bewertungen und automatisiert den Analyse- und Testprozess.

Verbunden: Möglichkeiten, wie Sie mithilfe der KI-Technologie Ihr Geschäft verbessern können

Darüber hinaus wurde kürzlich ein veröffentlicht Gartner-Studie listete die Einführung der KI-Sicherheit als eine der wichtigsten Sicherheitsmaßnahmen auf, die ein Unternehmen zur Verbesserung des Schutzes ergreifen kann. In derselben Studie wurde festgestellt, dass "bis 2024 Organisationen, die spezielle KI-Risikomanagementkontrollen implementieren, negative KI-Ergebnisse doppelt so oft erfolgreich vermeiden können wie solche, die dies nicht tun."

Kurz gesagt, Counterfit als Open-Source-Tool zur Bewertung der KI-Sicherheit sollte dazu beitragen, die Welt etwas sicherer zu machen.

Diese 4 Antiviren-Tools verwenden AI, um Ihr System zu schützen

Muss Ihr nächstes Antiviren-Abonnement künstliche Intelligenz enthalten, oder ist es nur ein weiteres Sicherheits-Schlagwort?

Weiter lesen

Über den Autor