Schweizer Technologie sichert Dropbox-KI

Das Jungunternehmen Lakera hat einen neuen prominenten Kunden gewonnen. Der Cloud-Speicheranbieter Dropbox nutzt die Technologie des Schweizer Start-ups, um seine KI-Funktionen abzusichern. In einem Blogbeitrag gewährt Dropbox einen Einblick in den Auswahl- und Implementierungsprozess.

Dropbox setzt für diverse Funktionen auf KI. Seit Kurzem testet die Plattform mit "Dropbox AI" etwa einen KI-basierten Service. Mit diesem lassen sich Dateien durchsuchen oder Texte zusammenfassen. Doch grosse Sprachmodelle (LLMs) können anfällig für Cyberangriffe sein und die Sicherheit von Systemen und den Datenschutz gefährden. Eine Liste der grössten Gefahren, zusammengestellt von OWASP, finden Sie hier.

Die von Dropbox gesuchte Lösung zur Sicherung von LLMs sollte auf deren eigener Infrastruktur laufen, möglichst schnell (mit geringer Latenz) funktionieren, Mittels Confidence Scores individuell anpassbar sein und "auch in einer sich schnell verändernden Umgebung verwertbare Einblicke in Angriffe und Nutzlasten geben" können, wie es im Blogbeitrag heisst.

Lakera als Testsieger

Nach ausführlichen Tests habe sich gezeigt, dass die Lösung von Lakera die von Dropbox gestellten Bedingungen erfüllt. Das Start-up liefert seine Security-Plattform "Lakera Guard" als Docker-Container aus, welche Dropbox als internen Service ausführte. Damit sei die API "Lakera Guard" jeweils nur einen RPC-Aufruf aller LLM-Pipelines entfernt, heisst es im Blog.

Die Lakera-Lösung beantwortet die Aufrufe jeweils mit dem Confidence Score, also mit der Einschätzung, wie wahrscheinlich es sich dabei um Prompt Injection oder Jailbreak-Angriffe handelt. Die Lakera-API wird in beide Richtungen aufgerufen: Also wenn ein User eine KI-Anfrage stellt und wen ein LLM eine Antwort ausgibt. So könne Dropbox sicherstellen, dass keine persönlichen Daten an Dritte gelangen und dass die KI-generierten Antworten keine anstössige Sprache enthält.

Im Laufe der Test- und Implementierungsphase tauschten sich Dropbox und Lakera laufend aus und verbesserten das Produkt. So habe etwa die Latenzzeit um das 7-fache verbessert werden können, heisst es im Blog. Zudem entdeckten die Teams neue Sicherheitsrisiken, die sie dann beheben konnten. Die Erkenntnisse kommen nicht nur Dropbox selbst, sondern auch Lakera und – dank veröffentlichter Studienergebnisse – der KI-Branche zugute.

Künstliche Intelligenz hat mit dem Siegeszug von ChatGPT & Co. ihren Weg aus den Forschungslabors und der Science-Fiction in den Alltag gefunden. Das Netzwoche-Special zu Artificial Intelligence dreht sich um die Frage, wie KI und insbesondere generative KI die Unternehmens-IT sowie Wirtschaft und Gesellschaft beeinflussen. Hier geht’s zum Special.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.