Wie könnte KI den Betrieb beeinflussen?

2023-02-08

Wenn Forscher Einflussoperationen bewerten, berücksichtigen sie dieAkteure, Verhaltensweisen und Inhalte. Die weitverbreitete Verfügbarkeit von Technologie, die auf Sprachmodellen basiert, hat das Potenzial, alle drei Aspekte zu beeinflussen:

  1. Schauspieler: Sprachmodelle könnten die Kosten für die Durchführung von Einflussoperationen senken und sie für neue Akteure und Akteurstypen zugänglich machen. Ebenso können angestellte Propagandisten, die die Produktion von Texten automatisieren, neue Wettbewerbsvorteile erlangen.

  2. Verhalten: Beeinflussungsoperationen mit Sprachmodellen werden einfacher zu skalieren und Taktiken, die derzeit teuer sind (z. B. die Generierung personalisierter Inhalte), können billiger werden. Sprachmodelle können auch die Entwicklung neuer Taktiken ermöglichen, etwa die Generierung von Inhalten in Echtzeit in Chatbots.

  3. Inhalt: Tools zur Texterstellung, die auf Sprachmodellen basieren, können im Vergleich zu Propagandisten wirkungsvollere oder überzeugendere Nachrichten erzeugen, insbesondere wenn diese nicht über die erforderlichen sprachlichen oder kulturellen Kenntnisse ihrer Zielgruppe verfügen. Sie machen Einflussvorgänge möglicherweise auch weniger auffindbar, da sie wiederholt neue Inhalte erstellen, ohne auf Copy-Paste und andere spürbar zeitsparende Verhaltensweisen zurückgreifen zu müssen.

Unser Fazit ist, dass Sprachmodelle für Propagandisten nützlich sein werden und wahrscheinlich Online-Einflussoperationen verändern werden. Selbst wenn die fortschrittlichsten Modelle privat bleiben oder über den Zugriff auf Programmierschnittstellen (API) gesteuert werden, werden Propagandisten wahrscheinlich zu Open-Source-Alternativen tendieren und Nationalstaaten könnten selbst in die Technologie investieren.