Aktuelle Pressemitteilungen

IT/Software/Web 2.0

Bugcrowd KI-Penetrationstests stärken das Vertrauen in die KI-Einführung

Dave Gerry ist CEO des Crowd-sourced-Security-Anbieters Bugcrowd Dave Gerry ist CEO des Crowd-sourced-Security-Anbieters Bugcrowd

Neues Angebot aus dem KI-Sicherheitsportfolio von Bugcrowd hilft KI-Anwendern, potenzielle Sicherheitslücken frühzeitig zu erkennen

Bugcrowd, Spezialist für Crow-sourced Security, hat die Verfügbarkeit von "AI Pen Testing" auf Basis der Bugcrowd-Plattform vorgestellt, um KI-Anwender dabei zu unterstützen, aktuelle Sicherheitslücken zu erkennen, bevor Bedrohungsakteure sie ausnutzen. AI Pen Testing ist nun Teil des Bugcrowd-Portfolios für KI-Sicherheitslösungen, zusätzlich zu dem kürzlich angekündigten AI-Bias-Assessment-Angebot.

Die Dialogschnittstellen in Large-Language-Model-Anwendungen (LLM) können anfällig für Prompt Injection, Extraktion von Trainingsdaten, Data Poisoning und andere Arten von Angriffen sein. Die Bugcrowd AI Pen Tests wurden entwickelt, um die häufigsten Schwachstellen in diesen Bereichen mit einer Testmethodik aufzudecken, die auf der quelloffenen Vulnerability Rating Taxonomy von Bugcrowd basiert. Diese beruht auf den OWASP Top 10 (Open Web Application Security Project) für LLM-Anwendungen und fügt weitere Schwachstellen hinzu, die von Hackern auf der Bugcrowd-Plattform gemeldet wurden.

Viele KI-Anwendungen sind in hohem Maße mit anderen Systemen integriert, was das Risiko erhöht, da sie als potenzieller Zugangspunkt für eine breitere Infiltration durch Angreifer dienen. Mit der breiten Durchsetzung generativer KI und der dadurch erweiterten Angriffsfläche werden rigorose Pressure Tests notwendig, um die neuen Schwachstellen zu erkennen.

Die Pentester werden aus einer fundierten Gruppe vertrauenswürdigen Tester ausgewählt, die aufgrund ihrer Fähigkeiten und ihres Leistungsausweises aus der globalen Hacker-Community stammen. Der datengesteuerte Ansatz der Bugcrowd-Plattform CrowdMatch AI für die Beschaffung und Aktivierung von Forschern, Hackern oder Pentestern ermöglicht die schnelle Aufstellung und Optimierung von Crowds mit praktisch allen Fähigkeiten, um das Ziel der Risikominderung zu erreichen.

Der "Skills-as-a-Service-Ansatz" von Bugcrowd für verbesserte Sicherheit hat in den vergangenen zehn Jahren für Kunden wie T-Mobile, Netskope und Telstra Corporation mehr hochwirksame Schwachstellen aufdeckt als herkömmliche Methoden und gleichzeitig eine klarere Sicht auf den ROI geschaffen. Mit dem Zugang zu mehr als einem Jahrzehnt an Schwachstellendaten hat sich die Bugcrowd-Plattform im Laufe der Zeit weiterentwickelt, um die sich verändernde Natur der Angriffsflächen zu reflektieren - einschließlich der Einführung von mobilen Apps, hybrider Arbeit, APIs, Krypto, Cloud-Workloads und jetzt auch KI.

"KI ist auch ein Werkzeug zur Steigerung der Produktivität von Angreifern, ein Ziel für die Ausnutzung von Schwachstellen in KI-Systemen und eine Bedrohung aufgrund der unbeabsichtigten Sicherheitsfolgen, die sich aus ihrem Einsatz ergeben", erläutert Dave Gerry, CEO von Bugcrowd. "Mit unserem neuen KI-Pen-Testing-Angebot haben unsere Kunden jetzt eine Lösung, um alle KI-basierten Risiken zu adressieren - von Standardtests für Web-Apps, mobile Apps und Netzwerke bis hin zu kontinuierlichen, Crowd-getriebenen Tests von komplexen Apps, Cloud-Diensten, APIs, IoT-Geräten und jetzt auch KI-Systemen, um das Risiko maximal zu reduzieren."

"Die schnelle Einführung von LLMs in Behörden- und Unternehmensanwendungen hat zu einem beispiellosen Anstieg der Angriffsfläche geführt, den Angreifer bereits ausnutzen", ergänzt Julian Brownlow Davies, VP of Advanced Services bei Bugcrowd. "Die Crowd-sourced Security-Plattform von Bugcrowd mit CrowdMatch AI hat es uns ermöglicht, hochwirksame AI/LLM-Penetrationstests auf den Markt zu bringen, die von vertrauenswürdigen Testern mit umfassender Erfahrung in diesem Bereich durchgeführt werden und unseren Kunden Sicherheit gegen diese sich entwickelnden Bedrohungen bieten."

 

Disclaimer: Diese Pressemitteilung wird für den darin namentlich genannten Verantwortlichen gespeichert. Sie gibt seine Meinung und Tatsachenbehauptungen und nicht unbedingt die des Diensteanbieters wieder. Der Anbieter distanziert sich daher ausdrücklich von den fremden Inhalten und macht sich diese nicht zu eigen.