KI-Sicherheit und Datenschutz: Lehren aus dem Ricardo-Datenleck für DACH-Unternehmen

Die digitale Transformation beschleunigt sich in einem beispiellosen Tempo. Mit ihr wachsen die Möglichkeiten, die Künstliche Intelligenz (KI) bietet, aber auch die Anforderungen an Unternehmen, ihre Daten und Systeme zu schützen. Die jüngsten Entwicklungen im DACH-Raum verdeutlichen diesen Wandel: der EU AI Act und das neue Schweizer Datenschutzgesetz (nDSG) treten schrittweise in Kraft. Gleichzeitig demonstriert ein aktueller Vorfall, der Datenleck beim Schweizer Online-Marktplatz Ricardo, die realen Risiken und die Notwendigkeit sofortigen Handelns. Für Unternehmen im deutschsprachigen Raum ist es entscheidend, diese regulatorischen Neuerungen und praktischen Bedrohungen nicht nur zu verstehen, sondern proaktiv zu adressieren. Es geht um die Sicherstellung der Wettbewerbsfähigkeit und die Minimierung erheblicher Haftungsrisiken.

Der EU AI Act: Ein risikobasierter Rahmen für KI-Systeme

Der EU AI Act, der am 1. August 2024 in Kraft getreten ist, etabliert das weltweit erste umfassende Regelwerk zur Regulierung künstlicher Intelligenz. Sein Kernprinzip ist ein risikobasierter Ansatz: Je höher das potenzielle Risiko eines KI-Systems für Sicherheit, Gesundheit oder Grundrechte, desto strenger sind die Anforderungen an dessen Entwicklung und Anwendung. Dies bedeutet, dass Unternehmen, die KI-Systeme einsetzen oder entwickeln, eine genaue Risikobewertung durchführen müssen.

Die Implementierung des EU AI Acts erfolgt schrittweise. Bereits seit dem 2. Februar 2025 gelten Verbote für bestimmte KI-Praktiken, die als unakzeptabel riskant eingestuft werden, sowie erste Pflichten zur Förderung der KI-Kompetenz in Unternehmen. Seit dem 2. August 2025 sind zudem Pflichten für General Purpose AI Models (GPAI), also allgemeine KI-Modelle, wirksam. Ein besonders relevanter Zeitpunkt für viele DACH-Unternehmen sind die Transparenzpflichten, die seit dem 2. August 2026 greifen. Diese verlangen, dass Unternehmen, die KI-Systeme nutzen, spezifische Informationen offenlegen, um Nachvollziehbarkeit und Kontrolle zu ermöglichen. Die umfassendsten Anforderungen für Hochrisiko-KI-Systeme, welche in sensiblen Bereichen wie Personalwesen, medizinischer Diagnostik oder kritischen Infrastrukturen eingesetzt werden, werden erst ab Dezember 2027 vollständig zur Anwendung kommen.

Die Nichteinhaltung des EU AI Acts kann für Unternehmen schwerwiegende Konsequenzen haben. Bei Verstößen gegen die grundlegenden Verbote oder die Anforderungen an Hochrisiko-KI-Systeme drohen Geldstrafen von bis zu 7 % des weltweiten Jahresumsatzes des Unternehmens oder 35 Millionen Euro, je nachdem, welcher Betrag höher ist. Bei Verstößen gegen allgemeine KI-Modelle sind Strafen von bis zu 3 % des Jahresumsatzes oder 15 Millionen Euro möglich. Diese immensen finanziellen Risiken unterstreichen die Notwendigkeit für Unternehmen, umgehend konforme KI-Governance-Systeme zu etablieren und sicherzustellen, dass KI-Anwendungen rechtlich fundiert eingesetzt werden. Der Fokus liegt hierbei nicht nur auf der Vermeidung von Bußgeldern, sondern auch auf dem Aufbau von Vertrauen bei Kunden und Partnern.

Das revidierte Schweizer Datenschutzgesetz (nDSG): Stärkung des Personendatenschutzes

Parallel zu den Entwicklungen in der Europäischen Union hat die Schweiz ihr Datenschutzrecht modernisiert. Das revidierte Datenschutzgesetz (nDSG) ist am 1. September 2023 in Kraft getreten und passt die Schweizer Datenschutzbestimmungen an die rapide fortschreitenden technologischen Entwicklungen sowie an europäische Standards, insbesondere die EU-DSGVO, an. Das nDSG stärkt den Schutz natürlicher Personen bei der Verarbeitung ihrer Daten und legt Unternehmen neue, umfassendere Pflichten auf. Ein wesentlicher Unterschied zur früheren Version ist, dass der Anwendungsbereich des nDSG sich ausschliesslich auf Daten natürlicher Personen erstreckt. Juristische Personen sind nicht mehr von diesem Gesetz erfasst, was eine klare Abgrenzung zur EU-DSGVO darstellt.

Auch im Rahmen des nDSG können Verstöße gegen die Datenschutzbestimmungen zu erheblichen Sanktionen führen. Obwohl sich Bussen in der Schweiz primär gegen verantwortliche Privatpersonen richten, ist die Möglichkeit von zivilrechtlichen Klagen durch Betroffene gegeben, welche Schadensersatz oder Genugtuung fordern können. Die Bussen können bis zu 20 Millionen Euro oder 4 % des weltweiten Jahresumsatzes erreichen, je nachdem, welcher Betrag höher ist. Der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) fungiert als Aufsichtsbehörde und verfügt über weitreichende Befugnisse, darunter das Recht, Hausdurchsuchungen durchzuführen und Zeugenaussagen einzuholen. Dies unterstreicht die Ernsthaftigkeit, mit der der Gesetzgeber den Schutz personenbezogener Daten behandelt und die Notwendigkeit für Schweizer Unternehmen, ihre Datenschutzprozesse akribisch zu überprüfen und anzupassen. Es ist eine klare Botschaft an den Mittelstand, dass Datenschutz keine optionalen Kosten, sondern eine fundamentale Geschäftsanforderung darstellt.

Ricardo: Ein konkreter Vorfall mit weitreichenden Auswirkungen

Die Dringlichkeit dieser regulatorischen Rahmenbedingungen wird durch einen sehr aktuellen Vorfall untermauert: Am 9. Oktober 2026 wurde bekannt, dass der Schweizer Online-Marktplatz Ricardo einen unbefugten Zugriff auf personenbezogene Daten von rund 890.000 Nutzerkonten festgestellt hat. Von diesem Datenleck waren Namen, Postadressen und Telefonnummern betroffen. Bei Geschäftskonten wurden zusätzlich Firmennamen offengelegt. E-Mail-Adressen und Passwörter sollen laut Unternehmensangaben nicht kompromittiert worden sein. Die Sicherheitslücke wurde umgehend geschlossen, betroffene Nutzer werden direkt informiert, und der EDÖB wurde wie vorgeschrieben benachrichtigt.

Dieser Fall ist aus mehreren Gründen von höchster Relevanz für den DACH-Arbeitsmarkt und die Diskussion um KI-Sicherheit und Datenschutz:

* Direkte Betroffenheit des nDSG: Da Ricardo ein Schweizer Unternehmen ist und der Vorfall nach dem Inkrafttreten des nDSG bekannt wurde, fällt dieser Fall unmittelbar unter das neue Gesetz. Die umgehende Benachrichtigung des EDÖB durch Ricardo ist eine Pflicht unter dem nDSG. Trotz der in der Schweiz eher restriktiven Rechtsprechung bei Genugtuungsansprüchen, die einen konkreten, nachweisbaren Schaden erfordern, erhöht dieser Vorfall das Haftungsrisiko für das Unternehmen erheblich. Betroffene haben nun die Möglichkeit zivilrechtlicher Klagen, was eine neue Dimension des Risikomanagements für alle Schweizer Unternehmen eröffnet.

* Erhöhtes Bewusstsein für KI-Sicherheit: Auch wenn der Ricardo-Hack nicht explizit als KI-gesteuerter Angriff gemeldet wurde, ereignet er sich in einer Zeit, in der das Bewusstsein für KI-gestützte Cyberangriffe und die allgemeine Notwendigkeit von KI-Compliance rapide wächst. Nur einen Tag vor der Bekanntgabe des Ricardo-Vorfalls, am 8. Oktober 2026, wurde über KI-gestützte Angriffe auf südkoreanische Banken berichtet. Zudem war ein Unternehmen betroffen, das zu den über 100 Firmen gehört, die bereits im August vor einem Anstieg KI-gestützter Cyberangriffe warnten. Dies zeigt, dass Datenlecks, unabhängig von ihrer Ursache, im aktuellen Kontext der KI-Entwicklung eine neue Dimension der Risikobewertung erfordern. Compliance- und Forensikspezialisten warnen bereits eindringlich, dass jedes Unternehmen ohne robuste KI-Compliance zum digitalen Tatort werden kann, da KI-Betrug und die sogenannte Schatten-KI neue, erhebliche Haftungsrisiken im Millionenbereich darstellen. Die Tatsache, dass KI sowohl Angriffe effektiver machen als auch zur Verteidigung genutzt werden kann, verstärkt diese Komplexität.

* Transparenzpflichten und Vertrauensverlust: Der Vorfall verdeutlicht die essenzielle Bedeutung von Transparenz im Umgang mit sensiblen Daten. Die Pflicht, betroffene Nutzer direkt und proaktiv zu informieren und die zuständigen Aufsichtsbehörden zu konsultieren, ist eine direkte Konsequenz der gestärkten Datenschutzgesetze. Ein solcher Sicherheitsvorfall kann das Vertrauen der Kunden massiv und nachhaltig beeinträchtigen. Der Aufbau von Vertrauen ist ein langwieriger Prozess, sein Verlust kann jedoch innerhalb weniger Stunden geschehen und den Ruf eines Unternehmens langfristig schädigen, was sich unmittelbar auf den Geschäftserfolg auswirkt.

Konkrete Handlungsempfehlungen für DACH-Unternehmen

Angesichts der aktuellen regulatorischen Landschaft und realer Sicherheitsvorfälle wie dem Fall Ricardo, ergeben sich für Unternehmen im DACH-Raum folgende dringende Handlungsempfehlungen:

1. Umfassende KI-Governance etablieren: Unternehmen müssen KI-Governance-Systeme implementieren, die technische Expertise, rechtliches Fachwissen und Product-Compliance-Erfahrung miteinander verbinden. Dies bedeutet, dass Prozesse, Verantwortlichkeiten und Richtlinien für den gesamten Lebenszyklus von KI-Anwendungen, von der Entwicklung über den Einsatz bis zur Außerbetriebnahme, klar definiert werden. Bestehende Vorgaben wie die DSGVO, der Data Act und branchenspezifische Regulierungen müssen dabei integral berücksichtigt werden.

2. Datenschutz als Kernprinzip im KI-Einsatz verankern: Beim Einsatz von KI-Tools ist sicherzustellen, dass personenbezogene Daten keinesfalls unerlaubt in externe oder Cloud-basierte KI-Systeme gelangen. Die DSGVO gilt vollumfänglich, auch bei der Nutzung von KI-Tools, die über Drittanbieter gehostet werden. Es sind klare interne Prozesse, fundierte Rechtsgrundlagen für die Datenverarbeitung und präzise Mitarbeiterrichtlinien zu definieren. Grundsätzlich dürfen personenbezogene Daten niemals ohne vorherige rechtliche Prüfung und Risikobewertung in ein KI-System eingegeben werden. Dies schützt nicht nur vor Bußgeldern, sondern auch vor Vertrauensverlust und Haftungsansprüchen.

3. Robustes KI-Sicherheits- und Risikomanagement aufbauen: Angesichts der Warnungen vor KI-gestützten Angriffen und der Realität von Datenlecks sind proaktive Investitionen in robuste Cybersicherheitsmaßnahmen für KI-Systeme entscheidend. Dies beinhaltet regelmäßige Sicherheitsbewertungen, Pen-Tests und eine kontinuierliche Überwachung der KI-Infrastruktur. Ein frühzeitiges Erkennen von Schwachstellen und Bedrohungen ist dabei von grösster Bedeutung. Es ist notwendig, umfassende Risikobewertungen durchzuführen und Notfallpläne für den Fall eines Sicherheitsvorfalls zu entwickeln und regelmässig zu testen.

4. Mitarbeitende befähigen und schulen: Die erfolgreiche Einführung und Nutzung von KI erfordert mehr als nur technische Integration. Sie benötigt aktives Change Management und eine umfassende Förderung der KI-Kompetenz der Mitarbeitenden. Obwohl der EU AI Act die ursprünglich vorgesehenen verpflichtenden Schulungen auf die Förderung des KI-Verständnisses abgeschwächt hat, zeigen Studien, dass die aktive Unterstützung durch Führungskräfte und die Bereitstellung geeigneter Tools die Nutzung und damit die Produktivitätsgewinne signifikant steigern. Schulungen zu den rechtlichen Aspekten, ethischen Richtlinien und dem sicheren Umgang mit KI-Tools sind unerlässlich, um Schatten-IT und Compliance-Verstößen vorzubeugen.

5. Branchenspezifische Anforderungen berücksichtigen: Besonders in sensiblen Bereichen wie Finance, Personalwesen (HR) und kritischen Infrastrukturen, die voraussichtlich als Hochrisiko-KI-Systeme eingestuft werden, sind strenge Anforderungen an Dokumentation, Transparenz und Überwachung zu erfüllen. Der Bedarf an spezifischem Fachwissen zur Implementierung und Nutzung von KI in diesen Abteilungen wächst kontinuierlich, wie die steigende Anzahl von Webinaren und Weiterbildungen im Finanz- und Controlling-Bereich zeigt. Unternehmen müssen ihre spezifischen Risikoprofile und regulatorischen Pflichten genau analysieren und massgeschneiderte Lösungen entwickeln.

Kapitel H Perspektive: Pragmatismus statt Panik

Aus unserer Sicht bei Kapitel H ist es entscheidend, die aktuelle Situation mit Pragmatismus und einer klaren Haltung zu betrachten. Es besteht kein Grund zur Panik, aber ein unbestreitbarer Bedarf an konkretem Handeln. Die Debatte um KI ist oft von Hype und überzogenen Erwartungen geprägt. Die Realität ist jedoch, dass die regulatorischen Rahmenbedingungen nun greifen und realistische Risiken wie Datenlecks sich manifestieren. Der Fall Ricardo ist kein Einzelfall, sondern ein mahnendes Beispiel dafür, dass unzureichender Datenschutz und mangelnde Sicherheit weitreichende Konsequenzen haben. Wir sehen dies als einen Weckruf für den Mittelstand im DACH-Raum.

Die langen Übergangsfristen des EU AI Acts, insbesondere bis zum Dezember 2027 für Hochrisiko-KI-Systeme, dürfen nicht als Freibrief für Untätigkeit missverstanden werden. Vielmehr bieten sie eine wertvolle Gelegenheit, um strukturelle Anpassungen vorzunehmen und eine solide KI-Governance aufzubauen. Unternehmen, die jetzt proaktiv handeln, positionieren sich nicht nur rechtssicher, sondern auch als vertrauenswürdige Partner und Arbeitgeber. Wer abwartet, riskiert nicht nur hohe Bussgelder, sondern auch den Verlust von Kundenvertrauen und damit einen empfindlichen Wettbewerbsnachteil.

Die Fähigkeit, KI sicher und datenschutzkonform zu implementieren, wird zu einer Kernkompetenz im digitalen Zeitalter. Es geht darum, Mitarbeitende zu befähigen und nicht in Abhängigkeit von externen Dienstleistern zu geraten. Eine transparente und nachvollziehbare Nutzung von KI ist kein Marketing-Versprechen, sondern eine rechtliche und ethische Notwendigkeit. Wir sehen eine klare Verpflichtung für Unternehmen, ihre internen Prozesse zu prüfen, Risiken zu bewerten und die notwendigen Investitionen in Sicherheit und Compliance zu tätigen. Es ist eine Investition in die Zukunftsfähigkeit des Unternehmens.

Fazit

Die letzten 48 Stunden haben im DACH-Raum keine revolutionären KI-Tool-Ankündigungen gebracht. Stattdessen haben sie die fortlaufende Verschärfung und Konkretisierung der KI- und Datenschutzregulierung, durch den EU AI Act und das nDSG, in den Fokus gerückt. Der aktuelle Datenleck-Vorfall beim Schweizer Online-Marktplatz Ricardo dient als konkretes Beispiel für die realen Risiken, die mit der Verarbeitung personenbezogener Daten einhergehen, und unterstreicht die Dringlichkeit, diese Herausforderungen systematisch anzugehen.

Für Unternehmen im deutschsprachigen Raum bedeutet dies: Handeln Sie jetzt. Etablieren Sie eine umfassende KI-Governance, integrieren Sie Datenschutz als Kernkompetenz in Ihren KI-Strategien, investieren Sie in robuste Sicherheitsmaßnahmen und befähigen Sie Ihre Mitarbeitenden. Wer diese Schritte proaktiv geht, sichert sich nicht nur gegen empfindliche Bussgelder ab, sondern stärkt das Vertrauen seiner Kunden und Partner, minimiert operative Risiken und festigt seine Position im Wettbewerb des digitalen Zeitalters. Die Fähigkeit zur verantwortungsvollen Nutzung von KI wird entscheidend für den nachhaltigen Erfolg sein.