Warnung vor neuer Desinformationswelle durch KI
Ein internationales Forschungsteam warnt vor einer neuen Generation von Desinformation im Internet, die durch sogenannte „Künstliche Intelligenz“ (KI) verursacht wird. In der Fachzeitschrift „Science“ berichten die Forscher, dass offensichtliche „Copy-and-Paste-Bots“ durch koordinierte Gemeinschaften von „KI-Schwärmen“ ersetzt werden könnten.
Gefahr durch KI-gesteuerte Schwärme
Diese KI-gesteuerten Flotten könnten sich in Echtzeit anpassen, Gruppen infiltrieren und den Anschein einer gemeinschaftlichen Meinung erwecken. Ein Chor aus scheinbar unabhängigen Stimmen schaffe die Illusion eines breiten öffentlichen Konsenses, während in Wirklichkeit Desinformation verbreitet werde.
Verschmelzung von technologien
Die forscher beschreiben eine Verschmelzung von großen Sprachmodellen mit Multiagentensystemen zu „schädlichen KI-Schwärmen“. Diese könnten soziale Dynamiken authentisch imitieren und den demokratischen Diskurs bedrohen, indem sie falsche Tatsachen zementieren und Konsens suggerieren.
Künstlicher Konsens als zentrale Gefahr
Die zentrale Gefahr bestehe nicht nur in falschen Inhalten, sondern vor allem in einem „künstlichen Konsens“. Der falsche Eindruck, dass „ja jeder das sage“, könne Überzeugungen und Normen beeinflussen und tiefgreifende kulturelle Veränderungen bewirken.
Einfluss auf KI-Plattformen
KI-schwärme könnten auch die Trainingsdaten von regulärer künstlicher Intelligenz verunreinigen, indem sie das Internet mit gefälschten Behauptungen überfluten. Auf diese Weise könnten sie ihren Einfluss auf etablierte KI-Plattformen ausweiten.
Empfehlungen der Forscher
Die Forscher plädieren für Schutzmaßnahmen, die koordiniertes Verhalten und die Herkunft der Inhalte verfolgen. Dazu gehören das Aufdecken statistisch unwahrscheinlicher Muster, Verifizierungsoptionen und Hinweise auf KI-Einflussnahme. Zudem sollten Anreize für die Monetarisierung von gefälschten Interaktionen verringert und die Rechenschaftspflicht erhöht werden.
