US-Handelsbehörde FTC nimmt ChatGPT auseinander

Was ChatGPT plaudert, sollte man nicht für bare Münze nehmen. Denn die künstliche Intelligenz (KI), hat die Angewohnheit, manchmal Dinge zu erfinden. So fabulierte der von OpenAI entwickelte Chatbot etwa schon nie gefällte Gerichtsurteile zusammen, verfälschte das Rezept für Spaghetti alla Carbonara oder profilierte sich mit Tweets zu Verschwörungstheorien und unwissenschaftlichem Denken.

Dieser Hang zu Halluzinationen könnte für OpenAI nun zum Problem werden, denn die US-amerikanische Handelskommission (Federal Trade Commission, FTC) hat eine Untersuchung gegen das Unternehmen eröffnet. Auf 20 Seiten fordert die Behörde die ChatGPT-Entwickler auf, zu diversen Fragen Stellung zu nehmen, wie die "Washington Post" schreibt, der das Dokument zugespielt wurde. Sie untersuche, ob OpenAI unlautere oder irreführende Praktiken angewandt habe, die wiederum den Ruf von Verbrauchern geschädigt hätten, fasst die Zeitung zusammen. Der Artikel führt mehrere Beispiele an, in denen ChatGPT Personen fälschlicherweise unterstellt, sie würden des Betrugs beschuldigt oder machten sexuell anzügliche Bemerkungen.

Datenpanne im Frühling

Nun fragt die FTC etwa nach Details zu eingegangenen Beschwerden wegen "falscher, irreführender, herabsetzender oder schädlicher" Aussagen über Personen, die ChatGPT getätigt haben soll. Des Weiteren fordert sie OpenAI auf, genau auszuführen, mit welchen Daten das Unternehmen seine grossen Sprachmodelle trainiert und welche Anstrengungen es unternimmt, um das Erfinden von Antworten zu unterbinden.

Ein weiteres Thema ist ein Datenschutzvorfall, der sich im Frühling 2023 ereignete. Damals bekamen ChatGPT-User mitunter die Chat-Verläufe anderer User sowie deren Kontodaten zu sehen. Die Washington Post verweist auf einen Blogbeitrag von OpenAI, in dem das Unternehmen die Panne bestätigt. Demnach sei nur "eine sehr geringe Anzahl Nutzer" davon betroffen gewesen.

OpenAIs CEO Sam Altman sichert in einer per Twitter verbreiteten Stellungnahme zu, man wolle mit der FTC zusammenarbeiten. "Für uns ist es äusserst wichtig, dass unsere Technologie sicher und verbraucherfreundlich ist, und wir sind sicher, dass wir die Gesetze einhalten." Er beklagt aber auch, es sei schade, dass die FTC-Frageliste an die Öffentlichkeit geraten sei und findet, das sei dem Vertrauen nicht förderlich.

Grosse Sprachmodelle wie ChatGPT wecken vielerorts Bedenken wegen des Datenschutzes. In Italien wurde das OpenAI-Produkt deswegen zeitweise vom Netz genommen.

Wie der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) über ChatGPT und co. denkt, lesen Sie im Netzwoche-Interview.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.