|
Tobias Lange
Unternehmensberater
Externer Datenschutzbeauftragter
Fachkraft für Medienpädagogik
|
|
|
|
|
|
|
Hamburg, den 02. November 2025
|
|
|
DATENSCHUTZ NEWSLETTER
|
|
|
|
Liebe Kund*innen und Abonnent*innen des Newsletters,
|
ich freue mich, Ihnen eine neue Ausgabe des Datenschutz-Newsletters übersenden zu dürfen und habe heute folgende Themen:
|
- Razzien gegen Internet-Kriminalität
- KI halluziniert - Bis zu 40% falsche Antworten
- Aktuelles aus dem Datenschutz
|
1. Razzien gegen Internetkriminalität
Im Oktober haben wir zwei sehr bemerkenswerte Razzien gegen Cyber-Kriminalität gesehen. Was dort hochgenommen wurde, ist natürlich nur die Spitze des Eisbergs. Aber dennoch ist jede dieser Aktionen wichtig und ein Schritt nach Vorne.
|
Die erste Razzia fand in Lettland statt. Ein "SIMCartell" wurde ausgehoben. Polizisten stürmten ein eher kleines Büro. Den Bildern nach, die veröffentlicht wurden, wohl eine Fläche von ca. 60qm in einem Geschäftshaus. Die Fläche war voll mit Technik und gefunden wurden 40.000 SIM-Karten. Diese wurden automatisiert betrieben und für eine sehr breite Palette an Cyber-Kriminalität genutzt. Dazu gehörten die Enkeltrick-Masche, Malware und Phishing per SMS sowie Online-Betrug mit Fake-Accounts im großen Stil. Insgesamt hatten die Kriminellen ca. 49 Millionen Fake-Accounts erstellt. Das ist eine sehr bemerkenswerte Zahl, denn es waren nur eine Handvoll Kriminelle. Keiner von ihnen hatte das händisch gemacht, sondern die Technik hatte das ganz von allein getätigt. KI und automatisierte Algorithmen machen sowas möglich. Man kann auf diese Weise mit einer SIM-Karte, also einer Telefonnummer, die eine 2FA bestätigen kann, problemlos über 1000 Fake-Accounts binnen kurzer Zeit generieren.
|
Wir sind jetzt also eine dieser Betrugsagenturen, die vor allem Europa als Ziel hatte, los. 49 Millionen Fake-Accounts und 40.000 betrügerisch eingesetzte SIM-Karten sind vom Markt. In der Praxis wird sich das vermutlich kaum bemerkbar machen. Zu viele dieser kriminellen Strukturen sind weltweit aktiv. Ab und zu macht eine davon einen Fehler und wird enttarnt. An die Stelle rücken andere. Man braucht dafür nicht viel: Nur schnelles Internet, eine Menge Technik und etwas Knowhow. Das Knowhow muss gar nicht so groß sein, denn Anleitungen für diese Form von Betrug gibt es im Darknet. Und wem das technisch zu kompliziert ist, der kann im Darknet "Betrugssoftware as a service" kaufen. Man bekommt das Ganze fertig geliefert und muss es nur installieren, etwas vereinfacht ausgedrückt. Mit Supporthotline von anderen Kriminellen im Darknet. Goldene Zeiten für Betrüger, jedenfalls solange man nicht gefasst wird. Wird man gefasst, bleibt einem in der Regel das Geld, das sicher in Krypto-Depots liegt. Nach dem Gefängnisaufenthalt ist das Geld immer noch da, da niemand es findet, einziehen kann oder irgendwie herankommt. Das Dolce Vita geht einem nicht verloren, allenfalls ein paar Lebensjahre.
|
Eine andere Form der Internetkriminalität wurde in Myanmar, an der Grenze zu Thailand hochgenommen. Eigentlich war es bekannt, dass es dort eine Betrugsagentur gibt. Es bedurfte aber wohl großen politischen Drucks, dass in Myanmar jemand tätig und diese Agentur zugemacht wurde. Man brauchte natürlich auch für diese Betrugsagentur schnelles Internet. In Myanmar, anders als in Lettland und jedenfalls in dem Teil von Myanmar, gibt es das so nicht. Die Kriminellen nutzten Starlink-Module. Elon Musk lässt grüßen. Es handelte sich um eine dieser Agenturen, wo Frauen mit Love-Scam oder Bitcoin-Betrug vorwiegend europäische und nordamerikanische Männer betrügen. Gearbeitet haben dort wohl über 1.000 Personen, vorwiegend Chinesinnen, die man als Zwangsarbeitskräfte bezeichnen kann.
|
Es wird geschätzt, dass die Umsätze und Gewinne aus dieser Art von illegalen Geschäft inzwischen den Drogenhandel deutlich übersteigen. Ob die Schließung dieser Betrugs-Agentur für die Praxis einen Unterschied macht, bleibt abzuwarten. Zu viele andere solche Agenturen mit verschiedenen Geschäftsmodellen sind aktiv. Sie sitzen in Thailand, Kambodscha, Georgien, der Ukraine und weiteren Ländern. In manchen Geschäftsmodellen verdienen auch die Frauen, die den Scam betreiben, gut, aber meistens werden sie ausgebeutet. Die Betreiber dahinter werden hingegen gigantisch reich.
|
Und wenn wir über diese beiden Formen von Internetkriminalität durch Betrugsagenturen gesprochen haben, dann haben wir eine dritte Form von kriminellen Agenturen noch nicht genannt: Die Agenturen, die im staatlichen Auftrag oder durch private Finanzeliten bezahlt, Troll und Botnetze betreiben, um ideologische Beeinflussung vorzunehmen und politische Meinungsbildungen zu manipulieren. Es gibt sie nicht nur in Russland und China, sondern auch in Europa und den USA. Man betrachtet das oftmals nicht einmal als Kriminalität, sondern als gewöhnliches Werbe- oder PR-Geschäft, dass von der Meinungsfreiheit gedeckt wird. Solche Fake-Accounts haben oft zehntausende Follower und übertreffen die Reichweiten von Influencern, ohne dass jemand wirklich weiß, wer hinter dem Account steckt. Das Internet ist ein Ort, in dem es inzwischen leider mehr Fake als realen Content gibt.
|
2. KI halluziniert - Bis zu 40% falsche Antworten
Unter anderem auf tagesschau.de wurde über eine Studie der Europäischen Rundfunk-agentur berichtet. Ergebnis: Chatbots erfinden bis zu 40% der Antworten. Das ist natürlich eine Fehlerquote, die alarmiert und die man nicht ignorieren kann. Gleichermaßen ist auch richtig, dass schon ChatGPT4 es geschafft hat, das Abitur mit der Note 2 zu bestehen. Hätte es 40% falsche Antworten gegeben, wäre das nicht passiert. Folglich kann diese Studie nicht pauschalisiert werden, sondern muss differenzierter betrachtet werden.
|
KI simuliert menschliches Denken an Hand von Wahrscheinlichkeiten. KI hat keine eigene Vernunft und kann auch wahr/falsch nicht unterscheiden. Dennoch erzielt KI sehr oft bessere Ergebnisse als Menschen. Dieses trotz der Tatsache, dass menschliche Gehirne 100 Billionen Synapsen haben, KI es bisher nur auf bis zu 3 Billionen schafft. Kommt es bei den Ergebnissen zu Fehlern, nennt man das in der KI-Sprache "halluzinieren". Ob eine KI halluziniert oder nicht, hängt von verschiedenen Faktoren ab, vor allem aber von den Trainingsdaten. Sind die Trainingsdaten veraltet, falsch oder irreführend, dann hat das Auswirkungen auf das Ergebnis. Letztendlich ist das bei Menschen nicht anders. Und dann kommt es natürlich auch noch darauf an, was man die KI fragt und welche Quellen diese nutzen soll. Sind es Fragen der Zeitgeschichte, und diese sollen aus dem Internet recherchiert werden, kommt es zu diesen bis zu 40% Halluzinationen. Sind es andere Themen und andere Quellen, sind die Ergebnisse deutlich besser.
|
Es gilt also, dass KI-Apps und KI-Assistenten, die auf spezielle Themen beschränkt sind, dafür Daten hinterlegt haben, sehr viel bessere Ergebnisse liefern als KI-Universalagenten. Das ist letztendlich keine neue Erkenntnis. KI ist immer nur so gut, wie die Daten, die zur Verfügung stehen und mit denen die KI trainiert ist. Sind die Daten schlecht, ist die Fehlerquote hoch. Und im Internet gibt es eine Menge von Desinformation. Die Erwartung, dass KI solche Falschinformationen im Netz immer erkennen und aussortieren kann, ist schlichtweg utopisch. Interessant an der Studie ist aber noch etwas anderes: KI erfindet zum Teil Sachverhalte und auch die Quellen, welche diese belegen sollen. Damit ist KI, auch wenn es bei KI ganz andere Gründe hierfür gibt, dem Menschen sehr ähnlich. Viele Menschen, wenn sie unter Druck kommen etwas beantworten zu müssen, sich keine Blöße geben wollen unwissend zu sein, erfinden Antworten. Antworten, die ihnen am vernünftigsten erscheinen, die aber weder belegt sind und oftmals auch falsch. Einmal mit dem Lügen begonnen, führt man es fort und erfindet auch noch eine Quelle, weil man nicht zugeben will, dass man die Antwort auf eine Frage nicht kennt oder nur was behauptet hat, wofür es keine Beweise gibt. Menschen ist das dann zu mindestens im Unterbewusstsein peinlich. KI hingegen hat keine Gefühle und kann sich nicht schämen. KI gibt aus anderen, technischen Gründen falsche Antworten. Aber, wenn wir die Ursachen für falsche Antworten einmal weggelassen, sind KI und Menschen im Verhalten oftmals ähnlich. KI simuliert menschliches Denken also ganz gut.
|
Hinzu kommen aber noch mehr Probleme mit KI: KI kann manipuliert sein. Durch die KI-Programmierung selbst oder die Trainingsdaten, meistens letzteres. Inzwischen sind ein Viertel der Top-Videos auf Socialmedia komplett KI erstellt. Bei den meisten Inhalten erkennen wir gar nicht mehr, dass sie KI generiert und nicht echt sind. Die Grenzen zwischen Realität und Fiktion werden also gar nicht mehr wahrgenommen. Wie halten für echt, was gar nicht echt ist. Hinzu kommen noch Kommentare, die heutzutage von Bot-Netzen, die mit KI arbeiten, getätigt werden. Viele Experten gehen davon aus, dass inzwischen über die Hälfte des Internet-Traffics von Bots und KI generiert werden. Eine KI erstellt also Videos und darunter unterhalten sich diverse Bots miteinander, liken das Video und Teilen es. Dadurch kommen hohe Reichweiten zustande, aber am Ende sind 99% der Beteiligten keine realen Menschen. Maschinen kommunizieren mit anderen Maschinen. Eine neue Welt, die viele Fragen aufwirft und Risiken birgt. Und wo sich vor allem die Frage nach den Kompetenzen, die wir als Mensch für diese Form von Zukunft brauchen, stellt.
|
Mit den Risiken von KI hat sich auch Frau Prof. Dr. Yasmin Weiß beschäftigt und diese kategorisiert. Ich zähle diese Felder mal auf:
|
- Gezielte Desinformation und soziale Spaltung
- Aushöhlen der Privatsphäre und Manipulierbarkeit
- Cyberkriminalität und Betrug
- Autonome Waffen und Biogefahren
- Machtkonzentration und systemische Abhängigkeit
- Arbeitsmarkt und soziale Ungleichheit
- Ungesunde Technologiebindung
Und im langfristigen Bereich dazu noch diese Risikokategorien:
|
- Superintelligenz und Kontrollverlust
- Existenzielle Bedrohung der Menschheit
Wir wollen nicht gleich das Schlimmste denken. Die unreflektierte, nicht kompetente Nutzung von KI birgt aber hohe Risiken. Wer den ganzen Artikel von Frau Prof. Dr. Yasmin Weiß lesen will, kann das hier tun. Übrig bleibt die Erkenntnis, dass wir für KI und die neue digitale Welt dringend angemessene Medienkompetenzen in der breite der Bevölkerung brauchen!
|
Diese Erkenntnis findet sich auch in der neuen Cybersicherheitsstrategie der Stadt Hamburg wieder. Hier heißt es im Handlungsfeld 5, Digitale Kompetenzen:
|
- Ziel: Lebenslanges Lernen & digitale Resilienz
- Maßnahmen: Bildung ab Kita, barrierefreie Angebote, Schulung Lehrpersonal
Der Ansatz ist sicher richtig. Aber kommt er schnell genug und was ist mit denen, die aus dem Bildungssystem raus sind? Wer wird diese Menschen weiterbilden?
|
3. Aktuelles aus dem Datenschutz
Die BfDI (Bundesbeauftragte für den Datenschutz und die Informationsfreiheit) hat ein neues Instrument ins Leben gerufen, das Datenbarometer. Ziel ist es evidenzorientiert die Erwartungen in der Bevölkerung zum Thema Datenschutz zu erfassen. Eine erste Befragung zeigt, dass die Bevölkerung darüber geteilt empfindet, etwa ein Drittel steht dem Datenschutz neutral gegenüber, und jeweils ein weiteres Drittel positiv bzw. negativ. Im Sektor Negativ wird "zu bürokratisch" und "nicht wirksam" angeführt. Ein interessantes Instrument. Schauen wir mal, ob man was damit lernen kann.
|
Die Chatkontrolle wurde in der EU erstmal auf Eis gelegt. Dieses hatte auch die Datenschutzkonferenz (DSK) gefordert. Die sogenannte "freiwillige Chatkontrolle" wurde von der EU seinerzeit bis zum 3. April 2026 verlängert. Auch diese würde nächstes Frühjahr auslaufen. Es wird spannend, ob dieses am Ende doch sehr ineffiziente Instrument nochmals verlängert wird oder nicht.
|
In fast einem Jahr wird der Cyber-Resilienz-Act der EU in Kraft treten. Sollte man jetzt schon anfangen, sich darauf vorzubereiten? Die Frage ist erstmal, ob man betroffen sein wird. Betroffen sind Unternehmen, welche Hard- und Software herstellen bzw. diese in den Verkehr bringen, um es einmal ganz einfach auszudrücken. Die meisten Unternehmen nutzen Hard- und Software nur, stellen selbst aber nichts her. Es könnte jedoch dann schwierig werden, wenn man selbst mal eben ein Skript schreibt oder Hard- bzw. Software modifiziert. Auch 2026 dürfte ein spannendes digitales Jahr werden!
|
Ein interessanter Spoofing-Betrug, der häufig nicht erkannt wird, läuft derzeit: Die Kriminellen geben sich als "Microsoft" aus. E-Mails von Microsoft werden gewöhnlich von "noreply@microsoft.com" verschickt. Man nutzt jetzt die Domain "rnicrosoft.com". Statt einem "m" vorne ein "r" und ein "n". Das "rn" sieht aus wie ein "m". Man kann es leicht übersehen und den Schwindel so auf den Leim gehen. Auch das Hosting bzw. die Vermietung dieser Domain wirft Fragen auf, da dabei auch ein deutsches Unternehmen auftaucht.
|
|
Der Internationale Strafgerichtshof in Den Haag nutzt Microsoft 365. Nachdem die USA gegen Richter und Ankläger Sanktionen verhängt haben, weil Trump den Gerichtshof "nicht so toll" findet, will man dort nun M365 kündigen und auf einen anderen Anbieter umstellen. Im Gespräch ist die Office-Software eines deutschen Anbieters: "OpenDesk". Diese Office-Lösung ist für die öffentliche Verwaltung ausgelegt und für den Gerichtshof sicher eine gute Alternative zu Microsoft.
|
|
|
Ich bedanke mich für Ihre Aufmerksamkeit und hoffe, dass die Themen interessant waren.
|
Themen für den nächsten Newsletter habe ich mir noch nicht überlegt. Ich bin mir aber sicher, dass bis dahin viel Spannendes im Datenschutz und der digitalen Welt passiert, und es mir nicht an Themen mangeln wird.
|
Tobias Lange
Unternehmensberater
Externer Datenschutzbeauftragter
|
|
|
|
|
Tobias Lange - Unternehmensberater
|
Externer Datenschutzbeauftragter (DSB)
Informationssicherheitsbeauftragter (ISB)
Fachkraft für Medienpädagogik
Zustellungsfähige Anschrift:
Berner Heerweg 246, 22159 Hamburg
Steuernummer: 50/139/02404
Finanzamt Hamburg Oberalster
Email: info@tl-datenschutz,de
Web:www.tl-datenschutz.de
|
|
|
|
|
