Das disruptive Risiko von generativer KI für Frauen

Putins Angriffskrieg und Künstliche Intelligenz dominieren die Münchner Sicherheitskonferenz

Auch in diesem Jahr dominierte Putins allumfassender Angriffskrieg gegen die Ukraine die Sicherheitskonferenz; dazu die „Trump-Frage“ eines möglichen amerikanischen Rückzugs aus Europa – all dies verknüpft mit der Debatte über die Verteidigungs- und Abschreckungsfähigkeit Europas – militärisch, politisch, ökonomisch und gesellschaftlich. Ebenso komplex das zweite große Thema der MSC: Generative AI, generative Künstliche Intelligenz, diese alles verändernde Revolution, die jede und jeden betrifft. So viele Chancen, aber auch enorme Herausforderungen und Risiken – vor allem auch für die Zukunft der Demokratie und gesellschaftlicher Machtverteilung. Und von Tempo und Ausmaß möglicher Manipulation, Überwachung und auch von Hass werden Frauen erneut auf besondere Weise betroffen sein, immer perfektere „deep fakes“ zeigen das schon heute. Und dies ist erst der Anfang.

Grund genug für das Female Network, unter dem Titel „Disrupted Enligthenment: AI’s Challenge to Democracy and Women’s Empowerment“, zur Diskussion einzuladen. Eine hochkarätige Runde auch in diesem Jahr: Es kam Franziska Brantner, Bündnis 90/Die Grünen, die als parlamentarische Staatssekretärin im Bundesministerium für Wirtschaft und Klimaschutz zu den Verhandlerinnen des „AI Act“ der EU gehörte. Man ist durchaus stolz auf das weltweit erste Regelwerk für Entwicklung und Nutzung von Systemen Künstlicher Intelligenz. Dazu gehöre etwa das Verbot von social scoring und Emotionserkennung am Arbeitsplatz. Allerdings führen Kritiker des AI Act an, dass KI-Entwickler zu viel Mitsprache hätten, wenn es um die Einstufung ihrer Produkte als sogenannte „Hochrisikosysteme“ geht, etwa bei autonomen Fahrzeugen oder im Gesundheitsbereich. Außerdem gelten Ausnahmen für Hochrisikosysteme, wenn sie im Rahmen nationaler Sicherheit oder der Strafverfolgung eingesetzt werden. Die Regulierung generativer KI bleibt ein hochpolitischer Balanceakt zwischen dem Schutz demokratischer Grundrechte, den Gefahren von Überwachung und den Möglichkeiten technologischer Innovation am Standort Europa.

Es wird schwieriger, Desinformation und Fake von Information und Fakten zu unterscheiden

In München dabei auch Alina Polyakova, CEO des Washingtoner Think Tanks Center for European Policy Analysis CEPA, die seit vielen Jahren vor der Demokratie zersetzenden Macht von Desinformation und ihrer Verbreitung vor allem auf Social Media warnt. Sie kann die Mahnungen, Warnungen und Appelle an Regierungen und Parlamente kaum noch zählen. Durch KI-Systeme, die stetig wachsende Kontrolle über Daten und ihre Verarbeitung, werde auch Desinformation weiter beschleunigt, automatisiert und in ihrer Verbreitung von den großen Plattformen verstärkt. Damit werde es noch schwieriger, Desinformation und Fake von Information und Fakten zu unterscheiden.

Sandra Joyce, Vizepräsidentin von Mandiant Intelligence/Google Cloud, berichtete von der Eskalation offensiver Cyber-Operationen in Zeiten des Krieges. Selbst ohne den Einsatz komplexer KI-Systeme seien offensive Cyber-Operationen für direkte und indirekte Kriegsparteien attraktiv geworden: Eine kostengünstige, risikoärmere und effektive Waffe der Wahl für militärisch vermeintlich schwächere Gegner wie etwa der Iran im Krieg zwischen Israel und der Hamas.

Phumzile Van Damme wiederum, zurzeit Fellow am Carr Center for Human Rights der Harvard University, forderte nicht nur Reaktion, sondern mehr Aktion – auch im Kampf gegen digitale Verfolgung und Gewalt, von der besonders Frauen betroffen seien. Sie fordert, die Plattformen noch stärker für von ihnen ausgehendes Leid und Missbrauch zur Verantwortung zu ziehen. In ihrem Heimatland Südafrika gründete die ehemalige Parlamentsabgeordnete das erste Monitoring-Projekt zu Desinformation im Zusammenhang mit Wahlen – ein Projekt, das sie auf andere Staaten in Afrika ausweiten möchte.