Zum Hauptinhalt springen

KI im Zeitalter des Misstrauens

Von Henning Lahmann

Der Begriff „kognitive Kriegsführung“ bezeichnet die böswillige Nutzung von Informationen zur Manipulation von Zielgruppen in offenen, demokratischen Gesellschaften und gilt aktuell als eine der dringendsten politischen Herausforderungen. Durch die digitale Transformation nehmen Staaten wie Russland oder China inzwischen über soziale Medien und andere digitale Kommunikationskanäle direkten Einfluss auf westliche Wählerschaften. Mit der Entwicklung bahnbrechender KI-Anwendungen zur Erzeugung und Verbreitung von Text und synthetischen Medien wird sich die Problematik in naher Zukunft voraussichtlich noch verschärfen. Inzwischen arbeitet die Forschung bereits an Konzepten für KI-gestützte „Frühwarnsysteme“ für die kognitive Kriegsführung. Diese Systeme sind in der Lage, mithilfe der neuesten Lernalgorithmen Desinformationskampagnen gegnerischer Akteure zu erkennen, zu überwachen und sogar abzuwehren. Bislang hat die umfangreiche Forschungstätigkeit in den Kognitions- und Sozialwissenschaften nur spärliche Erkenntnisse über die Kausalzusammenhänge irreführender Informationen und das Ausmaß der damit verbundenen Gefährdung ergeben. Solange sich dies nicht ändert, bedrohen derlei Eingriffe jedoch kommunikationsbezogene Rechte wie die Meinungs- und Informationsfreiheit, ohne westliche Gesellschaften tatsächlich widerstandsfähiger gegenüber den Versuchen der gegnerischen Einflussnahme zu machen. Ohne eine solide Beweisgrundlage kann die fortgesetzte Versicherheitlichung und Externalisierung des Problems potenziell schädlicher Äußerungen im Internet dazu führen, dass wir genau die Rechte und Werte opfern, die solche technischen Gegenmaßnahmen eigentlich schützen sollen.

Originalartikel