In der aktuellen digitalen Welt ist das Aufkommen von KI-Chatbots unaufhaltsam. Die intelligenten Chat-Systeme revolutionieren die Art und Weise, wie Unternehmen mit ihren Kunden interagieren und Dienstleistungen bereitstellen. Doch während diese Technologie zweifellos viele Vorteile bietet, wirft sie auch Fragen zum Schutz von Bürgerrechten auf, die nicht ignoriert werden dürfen.
Die Chatbots sammeln und verarbeiten eine enorme Menge an persönlichen Daten von Nutzern, angefangen von einfachen Informationen wie Namen und E-Mail-Adressen bis hin zu sensibleren Daten wie politischen Meinungen oder Gesundheitsdaten. Wenn diese Daten nicht angemessen geschützt sind, können die Konsequenzen für die Privatsphäre und Sicherheit der Nutzer verheerend sein. Zumal bekannt ist, dass ChatGPT zuweilen schlichtweg die Unwahrheit schreibt.
Konkreter Vorwurf
Die Datenschutzorganisation noyb.eu hat schwere Vorwürfe gegen OpenAI und deren KI-Chatbot ChatGPT erhoben. Die Hauptvorwürfe beinhalten den Verstoß gegen die Datenschutz-Grundverordnung (DS-GVO) der Europäischen Union. noyb.eu wirft OpenAI vor, personenbezogene Daten ohne die erforderliche Einwilligung der Betroffenen gesammelt und verarbeitet zu haben. Zudem bemängelt noyb.eu, dass OpenAI die Transparenz sowie die Rechte der Betroffenen, wie Auskunft, Löschung und Widerspruch gegen die Datenverarbeitung, nicht ausreichend gewährleistet hat. Die Verwendung sensibler Daten wie politische Meinungen und religiöse Überzeugungen für gezielte Werbung verstößt nach Ansicht von noyb.eu ebenfalls gegen die DS-GVO.
Noyb hat gemeinsam mit einem europäischen Bürger eine Beschwerde gegen OpenAI eingereicht, da das Unternehmen im Fall einer nicht näher genannten „Person des öffentlichen Lebens“ falsche persönliche Daten ohne Möglichkeit zur Berichtigung oder Löschung gemacht hat. Weiterhin wird OpenAI vorgeworfen, nicht angemessen auf Auskunftsersuchen reagiert zu haben und keine Informationen über die Quellen oder Empfänger der verarbeiteten Daten offengelegt zu haben. Noyb betonte, dass Unternehmen verpflichtet sind, Auskunftsersuchen nachzukommen, und kritisierte OpenAIs Mangel an Transparenz und Datensicherheit.
Die DSGVO der EU verlangt vollen Zugang zu korrekten Informationen über Personen und ihre Quellen. OpenAI scheint diese Anforderungen zu missachten und gibt zu, falsche Informationen im ChatGPT nicht korrigieren zu können. Obwohl das Unternehmen über das Problem informiert ist, betont es, dass die „faktische Genauigkeit in großen Sprachmodellen ein Bereich aktiver Forschung bleibt“.
Wer ist noyb.eu?
noyb.eu ist eine gemeinnützige Organisation, die der österreichische Datenschutzaktivisten Max Schrems gegründet hat. Sie setzt sich für die Durchsetzung des Datenschutzrechts, insbesondere der Datenschutz-Grundverordnung (DSGVO), in Europa ein. noyb.eu wurde vor allem durch mehrere Aktivitäten bekannt:
- Den Rechtsstreit gegen Facebook wegen der Übermittlung von Nutzerdaten in die USA. Die angestrengte Klage führte 2020 zum „Schrems II“-Urteil des Europäischen Gerichtshofs. Dieses erklärte den EU-US-Datenschutzschild für ungültig.
- Die Einreichung von über 500 Beschwerden gegen Unternehmen wegen rechtswidriger Cookie-Banner auf ihren Websites im Jahr 2022. noyb.eu entwickelte eine Software, um solche Banner automatisch zu erkennen und Beschwerden zu generieren.
- Beschwerden gegen die Weitergabe von Nutzerdaten durch Apps wie Grindr und die Verwendung der Google Advertising ID ohne Einwilligung der Nutzer zum Tracking.
- Eine Beschwerde gegen die irische Datenschutzbehörde wegen mangelnder Durchsetzung der DSGVO gegenüber großen Technologieunternehmen.
Durch diese Aktivitäten hat sich noyb.eu als einflussreiche Organisation für die Durchsetzung des Datenschutzrechts in Europa etabliert.