Jäger der verlorenen Bots

Der Deutsche Bundestag hat eine Enquete-Kommission zum Thema Künstliche Intelligenz (KI) einberufen, die sich aus Abgeordneten und Sachverständigen zusammensetzt und sowohl Potentiale, als auch Gefahren der KI in Bezug auf Gesellschaft, Wirtschaft und Arbeitswelt ausloten soll. Obwohl oder gerade weil ich weiß, dass der Begriff KI des Öfteren grob falsch interpretiert wird, halte ich die Einrichtung einer Kommission zum Thema für eine sehr gute Idee. Auf der entsprechenden Webseite finden sich eine Reihe hochinteressanter Materialien zu den bisher behandelten Themenkomplexen. Diese Kommission hat nun Stellungnahmen von (mindestens) drei Expert|inn|en bezüglich des Themenbereichs “Social Bots” eingeholt. Dankenswerterweise sind diese drei Stellungnahmen öffentlich einsehbar und interessanterweise widersprechen Sie sich eklatant. Ich habe sie alle drei gelesen und wollte meine gewonnen Einsichten zu diesem noch immer heiß diskutierten Thema hier ausführen. Es ist ein langer, hoffentlich dennoch lesenswerter Text daraus geworden. [Update Rosenmontag: Für Kurzangebundene schließt nun jeder Abschnitt mit einem <tl;dr>.]

Bei den drei Gutachtenden handelt es sich um Tabea Wilke (Gründerin und Geschäftsführerin von Botswatch, Gutachten), Simon Hegelich (Professor für Political Data Science an der TU München, Stellungnahme) und Florian Gallwitz (Professor für Computer Science an der TH Nürnberg, Stellungnahme). Während Wilke die Existenz von Social Bots für gesichert hält und eine Liste mit mehr als 30 Ereignissen vorlegt (S. 16ff), bei denen Social Bots Einfluss auf die politische Meinungsbildung nehmen wollten bzw. genommen haben, gibt es für Hegelich (S. 14) “keinerlei belastbare Hinweise, dass Social Bots bislang einen bedeutenden Effekt auf politische Großereignisse hatten”. Jedoch hält er die Gefahr, die von Social Bots ausgeht oder ausgehen könnte, für sehr groß und unterstellt der deutschen Twitter-Blase, dass sie die Enquete-Kommission mit unlauteren Mitteln vom Gegenteil überzeugen wollen würde. Er adressiert dabei zwar niemanden direkt, da ich aber auch Teil der deutschen Twitter-Blase bin, gehe ich mal davon aus, dass er sich damit auf Michael Kreil und Florian Gallwitz als Protagonisten bezieht. Gemeinsam haben die beiden eine empirische Meta-Analyse zu Social-Bot-Studien durchgeführt, die Gallwitz auch in seinem Gutachten anführt – basierend darauf hält er Social Bots schlicht für eine Verschwörungstheorie. Die Enquete-Kommission hat nun also drei Expert|inn|en mit völlig verschiedenen Meinungen, die sich im Subtext und auf Twitter mit harten, mitunter sogar inakzeptablen (s.u.) Bandagen bekämpfen. Wie konnte es soweit kommen?

<tl;dr> Die drei bestellten Gutachten sind sich maximal uneinig hinsichtlich der Fragen, ob Social Bots bereits Einfluss auf politische Diskurse genommen haben, ob die Gefahr besteht, dass sie dies in Zukunft tun könnten und sogar, ob es sich bei Social Bots überhaupt um ein existierendes Phänomen handelt.

Was könnte mit Social Bots gemeint sein?

Ich bin nun selbst Betreiber mehrerer Bots, von denen einer gar mit einer geklauten Identität unterwegs ist (@AvHChrono twittert Alexander von Humboldts Leben), und ein anderer sich der Worte großer Literaten bedient (@TiwoliChirp feiert die Jahrestage der Literatur). Beides sind Projekte, die – wie viele weitere – mit unserem Meta-Bot-Baukasten autoChirp realisiert werden (der mit autoPost inzwischen auch ein Pendant für Facebook hat). Dazu haben wir am IDH erst kürzlich einen Auto-Retweet-Bot gebaut, mit dem die Tweets von über 30 verschiedenen Mahn- und Gedenkstätten zum 75. Jahrestags der Befreiung des Konzentrationslagers Auschwitz im Account @75Befreiung gebündelt wurden. Der liebe Kollege Simon Meier-Vieracker hat einen Bot, der tagesaktuelle Politiker|innen-Zitate aufgreift und umgeneriert (dieser mimikrierte schon Christian “lieber nicht regieren” Lindner und Horst “Mutter aller Probleme” Seehofer) und einen weiteren, der zufällige Livetickermeldungen generiert. Die Tweets all dieser Accounts werden fast autonom und algorithmisch aus Datenbanken generiert, sie können daher ohne weiteres als Bots bezeichnet werden. Einen schönen Einblick in das Universum verschiedenartiger Bots gibt die Webseite botwiki. Aber sind diese Bots die Social Bots, die gemeint sind, wenn davon die Rede ist, dass politische Stimmungen auf irreguläre Weise im Internet beeinflusst werden? Doch wohl eher nicht.

Schauen wir doch einmal, wie die drei Gutachten Bots definieren. Für Wilke (S. 1) sind Social Bots “Accounts, die nicht von Menschen gesteuert werden, sondern automatisiert von einer Software.” Das ist nun eine sehr allgemeine Definition, die auf alle unsere Bots oben zuträfe. Im folgenden Abschnitt führt sie aber noch “Social Bots, die das Ziel haben, politische Diskurse zu beeinflussen”, der Universität Oxford folgend, als political bots ein. Auf diese bezieht sie auch ihre weiteren Ausführungen (wobei der Bezug in einigen Textteilen schwer nachvollziehbar wechselt). Hegelich (S. 1) definiert Social Bots als “automatisch gesteuerte Accounts in den sozialen Netzwerken, die vorgeben, echte Nutzer*innen zu sein”, nennt die Definition aber im gleichen Atemzug “wissenschaftlich problematisch”. Gallwitz (S. 5) hält sich an die Definition eines Büros für Technikfolgen-Abschätzung des Deutschen Bundestages, wo es heißt: “Social Bots sind Computerprogramme, die eine menschliche Identität vortäuschen und für manipulative Zwecke eingesetzt werden, indem sie wie Menschen in Internet kommunizieren.” (Hier gibt es das Dokument, danke an @FrueheNeuzeit. Es wird auch von der BPB hier zitiert).

Fassen wir diese drei Definitionen einmal zusammen – Social Bots

• sind automatisiert, zumindest zum überwiegenden Teil (Wilke, Hegelich, Gallwitz)
• geben sich als echte Menschen aus (Hegelich, Gallwitz)
• verfolgen manipulative Ziele (Wilke, Gallwitz)

Wäre der erste Punkt für sich genommen problematisch, wäre ein großer Teil der Projekte, die ich in den letzten Jahren verfolgt habe, unlauter. Gleiches gälte für Bestrebungen, akzeptable Dialogsysteme zu bauen, wäre Punkt 2 für sich genommen ein Problem. Eine Manipulation (Punkt 3) kann man natürlich ablehnen, aber die Grenze zur Überzeugung lässt sich alles andere als leicht festlegen. Die Problematik von Social Bots kann also nur in der Kombination der drei Eigenschaften liegen: Meinung wird manipuliert und zwar unter vorgaukeln eines echten Menschen als Manipulator, obwohl nur ein Algorithmus dahintersteckt. Diskutieren wir das jetzt mal nicht weiter, sondern nehmen wir für das Weitere als gegeben an, dass Social Bots mit diesen Eigenschaften tatsächlich problematisch sind und dementsprechend politische und technische Gegenmaßnahmen erforderlich sind, sollte es diese Art von Bots geben. Aber ist das wirklich der Fall?

<tl;dr> Social Bots zu definieren ist nicht elementar, über alle drei Gutachten hinweg kann man sie aber destillieren als automatisierte Accounts, die zwei Ziele verfolgen: 1) Meinung manipulieren und 2) fälschlich als Accounts von echten Menschen wahrgenommen werden.

Studien: Social Bots sind unter uns

In den letzten paar Jahren, vor allem nach der Trump-Wahl und dem Brexit-Referendum (beides 2016) wurde das Thema Social Bots sowohl in der breiten Öffentlichkeit besprochen als auch in einer Reihe von Studien aufgegriffen, an denen auch eine Reihe namhafter Universitäten beteiligt waren. Diese Studien werden vor allem von Wilke (S. 11) als Beweis angeführt, dass es sich bei Social Bots tatsächlich um ein reales Phänomen handelt. Hegelich (S. 1 und 10f) tut dies auch, macht zugleich aber auf methodische Schwächen und Probleme aufmerksam, mit denen man in der Social Bot Forschung konfrontiert ist. Interessanterweise schien er das 2016, in einem Beitag für die Konrad Adenauer-Stiftung (“Invasion der Meinungs-Roboter”), noch völlig anders zu sehen und die Existenz von Social Bots mit allen drei oben genannten Eigenschaften als gegeben anzunehmen. Das veranschaulichen die Hauptaussagen des Textes, die ich (in Twitter-Tradition) hier als Screenshot einbringe:

Ich habe die meisten dieser Studien tatsächlich im Laufe der letzten Jahre auch gelesen. Sie berühren erstens mein Fachgebiet, zweitens bin ich ja auch politisch interessiert und ob des Zustands der Welt auch ein wenig besorgt. Allerdings trage ich bei diesen Themen auch immer eine Grundskepsis in mir, da in der Social-Media-Welt großes öffentliches Interesse nach Erklärungen auf ein durch die Dynamizität des Bereichs bedingtes unzureichendes Untersuchungsdesign trifft. Das thematisierte ich auch schon in meinem – aus welchen Gründen auch immer – vielbeachteten Blogpost zur Causa Cambridge Analytica anno 2018.

Die meisten der Studien sind einem harten Peer Review Verfahren unterzogen worden, viele von Ihnen stammen von namhaften Universitäten (Wilke betreibt auf S. 11 oben ein wenig name dropping: MIT, Harvard, Stanford, Oxford etc). Sie alle stellen nicht infrage, dass Social Bots (meist auf Twitter) ein Massenphänomen sind und dass die Auswirkungen dieses Phänomens untersucht werden können. So lässt sich etwa quantifizieren, wie viele Follower bestimmter Accounts oder Diskutanten, die unter bestimmten Hashtags twittern, Bots sind, welche Auswirkungen das auf Online-Diskussionen hatte und wie dies in die Offline-Welt hinüberschwappte. Wilke führt über 30 Ereignisse potentiell beeinflusster politischer Meinungsbildung ab S. 16 auf.

Die Wissenschaft scheint sich also zum großen Teil einig zu sein, wie kommt also Gallwitz dazu, in seiner Stellungnahme Social Bots als eine Verschwörungstheorie zu bezeichnen? Dabei beruft er sich auf einen Artikel, den er zusammen mit den Datenanalysten Michael Kreil beim Berliner Tagesspiegel veröffentlicht hat und auf eine Umfrage, die er bei Twitter gestartet hat. So kann doch Wissenschaft nicht funktionieren? Doch. Meiner Meinung nach muss sie das sogar. Kreil und Gallwitz haben eine entsprechende Veröffentlichung ihrer Datenanalyse – soweit ich weiß – vorbereitet (es wäre auch fahrlässig, das nicht zu tun). Peer reviewte wissenschaftliche Veröffentlichungen aber benötigen Zeit. Es spricht meiner Ansicht nach nichts dagegen, die Ergebnisse schon vor der endgültigen Publikation öffentlich zur Verfügung zu stellen, denn auch die Öffentlichkeit kann reviewen (was in etwa die Idee von post peer review ist). In diesem Fall spricht noch viel weniger dagegen, weil die Ergebnisse, die Gallwitz/Kreil vorlegen, es tatsächlich in sich haben. Dazu muss ich aber etwas ausholen.

<tl;dr> Seit mehreren Jahren werden wissenschaftliche Studien durchgeführt, die Social Bots in hoher Zahl als gegeben annehmen und deren Einfluss auf diverse, vorwiegend politische Diskurse quantifizieren. An diesen Studien gibt es inzwischen erhebliche Zweifel, die allerdings noch nicht peer reviewed publiziert wurden.

Bot or not? Wie kann man Social Bots erkennen?

Die verschiedenen aufgeführten Bot-Studien basieren alle auf einer entscheidenden Grundannahme, nämlich dass man über ein Verfahren verfügt, welches einigermaßen zuverlässig Bots von Menschen unterscheiden kann. Das eingesetzte Verfahren ist ein entscheidender Faktor für die Validität der in den Studien getroffenen Aussagen, die sich alle auf die gemessene Häufigkeit und die auf dieser Basis ermittelte Wirkung der Bots stützen. Ein solches Verfahren kann zwei Arten von Fehlern machen: Es kann Menschen für Bots halten (false positives / FP) und es kann Bots nicht als solche erkennen (false negative / FN). Gibt es zu viele FP, so sinkt die Präzision des Verfahrens, bei zu vielen FN die Ausbeute. Beides sind zentrale Evaluationskriterien für Klassifikationen.

Gallwitz und Kreil behaupten jetzt, dass alle in den Studien eingesetzten Verfahren vor allem durch eine völlig unzureichende Präzision gekennzeichnet sind, da zu viele Twitter-Nutzer|innen als Bots klassifiziert würden. Doch schauen wir erst einmal, welche Erkennung in den Gutachten vorgeschlagen wird: Wilke schreibt: “Wissenschaftler und Forscher sind sich über die grundsätzlichen Metriken einig, wie Social Bots auf digitalen Plattformen zu erkennen sind”, nur um kurz danach auszuführen “Daher gibt es keine dauerhaft gültigen Erkennungsmerkmale, welche Merkmale ein Account aufweisen muss, um als Social Bot klassifiziert zu werden. Die einzig zuverlässige Konstante in der Erkennung von Social Bots ist, dass ihre Eigenschaften fortwährend im Wandel sind.” Über eine Logik, die beiden Aussagen zusammenzubekommen, verfüge ich nicht, für mich kann höchstens eine von beiden wahr sein. Entweder man ist sich einig, wie Bots erkannt werden können oder es muss alles immer wieder neu verhandelt werden, weil ja im Fluss.

Hegelich hadert mit der Datenlage, mit den Erkennungsalgorithmen und mit grundlegenden Missständen im Wissenschaftssystem, wodurch Entwicklung und Einsatz eines valides Verfahrens so gut wie unmöglich gemacht würden, lässt sich dann aber dazu hinreißen, das Label “kein normaler Mensch” an Twitternde zu vergeben, die mehr als 50 Tweets pro Tag posten. 50 Tweets kommen auch in weniger hitzigen Twitter-Unterhaltungen schnell mal zusammen, die man auch als normaler Mensch führen kann. Man stelle sich vor, man dürfe pro Tag nur 50 Sätze reden. Nicht nur hier offenbart Hegelich, dass er zu Twitter ein angespanntes Verhältnis zu haben scheint und mithin in meinen Augen nur ein eingeschränktes Verständnis für die Plattform hat, die doch eigentlich zentral ist für viele seiner Studien.

Wie Hegelich auf 50 Tweets pro Tag kommt, lässt sich leicht nachvollziehen, wenn man das “Oxford-Kriterium” kennt, das Bots klassifiziert und das mehreren der oben genannten Studien zugrunde liegt: Alle Accounts mit mehr als 50 Tweets täglich werden über die Methode als Bots klassifiziert, alle anderen nicht. Es ist so einfach wie schräg, dass ein einziges Merkmal hier für die Unterscheidung von Bots und nicht-Bots herangezogen wird. Schon allein gefühlsmäßig bedrückt einen, dass ein solches Kriterium tatsächlich in peer reviewed Studien verwendet wurde, um Aussagen über Wählerbeeinflussungen zu treffen (siehe “Computational Propaganda Project” aus Oxford). Michael Kreil falsifiziert die Theorie, dass man mit der Methode valide Bots von Menschen trennen kann in seinem Blog, indem er verifizierte Twitter-User als Referenz heranzieht.

Die meisten anderen Bot-Studien nutzen einen auf den ersten Blick etwas ausgefeilteren Ansatz zur Bot-Erkennung, nämlich die an der Universität Indiana von einem Forscherteam entwickelte Software Botometer. Diese Software detektiert Bots, indem sie ein maschinelles Lernverfahren (ML) einsetzt. Das ist zunächst einmal eine sehr gute Idee, denn ML können beliebig viele verschiedene Merkmale kombinieren und aus dieser Merkmalskombination auf die Klassenzugehörigkeit (also hier Bot or not?) schließen. Ich habe solche Verfahren mit Erfolg schon sehr oft für derartige Klassifikatonsprobleme eingesetzt. Botometer ist vorbildlicherweise öffentlich zugänglich und testbar und bietet eine API an, so dass man sie für eigene Projekte nutzen kann. Der große Vorteil von ML ist, dass sie selbstständig aus Trainingsdaten lernen können, was ein Bot ist und was nicht. Der große Nachteil ist: Man benötigt Trainingsdaten, in denen diejenigen Objekte als Bots gelabelt sind, die man auch zu finden hofft. Zwar stellt Botometer eine ganze Reihe Trainingsdaten zur Verfügung, doch scheint mir kein Datensatz tatsächlich diejenigen Bot-Accounts zu enthalten, die politische Ansichten verändern wollen. Ursprünglich wurde Botometer mit Spam-Bots gefüttert (die einfach zu bekommen waren, inzwischen aber von Twitter zum überwiegenden Teil erkannt und gelöscht wurden). Inzwischen könnte man auch auf die bei Botwiki gelisteten Accounts zurückgreifen. Allein – damit hat man Klassifikatoren, die Spam-Bots oder Service-Bots detektieren, nicht die, die Meinung beeinflussen wollen und möglicherweise ganz anders aussehen. Da man die Software online mit eigenen Followern testen kann, sieht man schnell, wie viele false positives man bekommt. Betroffen sind vor allem Accounts, die neu auf Twitter sind oder insgesamt eher zurückhaltend beim Tweeten. Ich habe mir den Spaß erlaubt und eine Tafel Schokolade für denjenigen bzw. diejenige Kursteilnehmer|in meiner letzten Übung ausgelobt, der bzw. die es mit einem neuen Account auf den höchsten Botometer-Score schafft. Wenig Aktivität und twittern von Fotos mit Konferenz-Hashtags teilen war die erfolgreichste Taktik. Kreil und Gallwitz überprüften die Klassifizierungen des Botometers in der oben bereits angeführten Studie empirisch und kommen zu verheerenden Ergebnissen – unter den als Bots gelabelten Accounts findet sich alles andere, nur keine political bots.

Alle drei Gutachter|innen sehen die Problematik mit Studien, die auf Botometer basieren. Wilke lässt zumindest durchscheinen, dass der Erkennungs-Ansatz dynamischer sein müsste, d.h. dass das Modell, das der Klassifikation zugrunde liegt, laufend an die sich ändernden Gegebenheiten angepasst werden sollte. Sie führt eine Menge Untersuchungen an, die Botswatch durchgeführt hat, will aber die dem Ansatz zugrundeliegende Methodik wegen Geschäftsgeheimnissen nicht preisgeben. Kann sie so machen, sollte aber meiner Meinung nach dazu führen, dass diese Untersuchungen aus der wissenschaftlichen Diskussion herausgehalten werden sollten. Hegelich bekennt – auch selbstkritisch – dass die Botforschung eine Reihe methodischen Schwächen aufweist, vor allem weil “die Verwendung eines Modells, das seit Jahren nicht aktualisiert wird, sehr zweifelhaft ist.” (S. 11)

Wenig überraschend sieht Gallwitz durch das Fehlen eines validen Erkennungsmechanismus für Bots gar die ganze Bot-Forschung diskreditiert und ich muss sagen, ich folge ihm in dieser Ansicht. Er geht sogar so weit, von einer “Social-Bot-Verschwörungstheorie” zu sprechen, was ich ein wenig drüber finde. Es ist Gallwitz und Kreil zugute zu halten, dass sie viel Arbeit investiert haben, um ein belastbares Ergebnis zu bekommen: Alle bisherigen Bot-Studien haben keine belastbaren Ergebnisse erbracht. Sie haben dies gegen alle Widerstände mit bewundernswertem Durchhaltevermögen vertreten und waren sich nicht zu schade, sich auf Twitter selbst intensiv auf die Suche nach Social Bots zu begeben (erfolglos) oder durch Ansprache nachzuweisen, dass sich hinter ihnen als “Social Bots” präsentierten Accounts echte Menschen verbergen (erfolgreich).

<tl;dr> Es wurden bisher keine Verfahren entwickelt, mit denen Social Bots, so wie sie oben definiert wurden, mit hinreichender Präzision aufgespürt werden können. Das kann daran liegen, dass solche Verfahren bisher einfach nicht gefunden wurden oder dass sie prinzipiell nicht entwickelt werden können. Oder auch daran, dass schlicht keine Social Bots in relevanter Zahl existieren.

Ist die Existenz von Social Bots nicht einfach logisch?

Hegelich meint “die Bot-Debatten-Enttarner gehen mindestens so unwissenschaftlich vor, wie die Studien, die sie kritisieren.” (S. 12) Das macht er daran fest, dass er die Methodiken, wie Gallwitz und Kreil nachweisen, dass das Botometer unbrauchbare Klassifikationen ausspuckt, für nicht plausibel hält. Ich sehe das nicht so, aber selbst wenn ich es so sehen würde – wenn die Bot-Debatte von beiden Seiten bislang unwissenschaftlich geführt wurde – sollte man dann nicht einfach mal neu starten und die alten Studien verwerfen?

Der einzige Grund, dies nicht zu tun, wäre, wenn es triftige Hinweise dafür gäbe, dass das Phänomen (massenhafte, meinungsmanipulierende, vollautomatische, sich als Menschen ausgebende Accounts) tatsächlich existiert, kombiniert mit einer Erklärung, weshalb wir es bisher noch nicht nachweisen konnten. Wilke etwa behauptet (S. 13): “In Deutschland werden seit 2016 teilweise hoch entwickelte Programmerlösungen eingesetzt, deren Social Bots sehr schwer von Menschen gesteuerten Accounts zu unterscheiden sind”, bleibt aber eine Erklärung schuldig, woher sie diese hochbrisante Information hat. Hegelich führt bereits bestehende, öffentlich zugängliche Software an, mit der man bereits jetzt, und zwar “ohne irgendwelche Programmierkenntnisse (…) in kürzester Zeit Bots generieren” könne. Cheapbotsdonequick habe ich tatsächlich einmal für meinen Probebotaccount @Honeypotometer ausprobiert. Zumindest reguläre Ausdrücke sollte man beherrschen und die Interaktionsfähigkeit der Produkte scheint mir doch recht eingeschränkt zu sein. Einen meinungsmanipulierenden Social Bot dürfte man damit sicherlich nicht hinbekommen.

Wirklich interessant und gehaltvoll wird Hegelichs Gutachten dort, wo er sich zum Einfluss von Social-Media-Debatten auf die reale Welt äußert (S. 13f). Dabei führt das in der Medienwirkungsforschung weithin bekannte Agenda Setting (mehr oder weniger Themensetzung durch Akteure) an, darüber hinaus die Möglichkeiten, Einfluss auf die Distribution von Informationen zu nehmen, die sich in sozialen Medien ergeben. Per Default zeigen Twitter und Facebook nicht unbedingt das, was Followees oder Freund|innen zuletzt gepostet haben, sondern das, was die jeweilige Plattform für das Relevanteste hält. Ebenso funktioniert die Twitter-Suche. Relevanzkriterien werden über Algorithmen gewonnen. Diese Algorithmen können beeinflusst werden, zum Beispiel über die Quantität von Interaktionen anderer Nutzer|innen mit bestimmten Inhalten. Hegelich folgert jetzt, dass man durch Social Bots die Zahl von Interaktionen gezielt steuern kann, was ich sehr nachvollziehbar finde. Er schließt daraus, dass es daher auch Akteure geben sollte, die diese Mechanismen ausnutzen. Wer weiß, wie groß der SEO-Markt ist, wird dem zustimmen müssen. Wirtschaftliche Argumente sprechen also dafür, dass Bots tatsächlich existieren sollten – warum finden wir sie dann nicht? Gallwitz (S. 8) hat darauf die Antwort, dass Credibilität in die Ranking-Algorithmen mit einbezogen wird. Reine Like-Retweet-Bots hätten ein sehr niedriges Standing, weshalb ihnen nur ein verschwindend geringer Einfluss zugestanden würde.

Doch sollte dieser Einfluss auch noch so gering sein – wirklich massenhaft eingesetzt könnten doch Bots trotzdem einen Erfolg erzielen? Hegelich (S. 9) führt Monsted/Ferrara 2017 an, die “selbst ein großes Social Bot Netzwerk auf Twitter implementierten, um dann die Verbreitung von Informationen zu messen.” Konsultiert man diese (sehr interessante) Studie, so erfährt man, dass das große Social Bot Netzwerk ganze 39 Bots umfasste und mit (aus meiner Sicht) immensem Aufwand in den Jahre 2014/15 von einer Studierendengruppe geschaffen und mit (aus meiner Sicht) zwielichtigen Followern ausgestattet wurde. Die Studie erschien erst 2017. Ich nenne die Jahreszahlen, weil sich die Möglichkeiten, in Twitter Bots in größerer Zahl einzuschleusen, über die Jahre merklich verschlechtert haben. Der von mir sehr geschätzte Luca Hammer (von dem ich auch gerne ein Gutachten zum Thema gesehen hätte, hier als ein kleiner Trost sein Talk zum Thema bei der republica 2018), hält das auch für den Grund, weshalb vor allem Accounts aus der Twitter-Urzeit noch heute zum Spammen genutzt werden.

<tl;dr> Es gibt gute Gründe anzunehmen, dass Akteure versuchen, über eine Masse von Social Bots die Meinungsbildung im Internet und darüber hinaus zu beeinflussen. Es gibt aber auch gute Gründe anzunehmen, dass die Plattformbetreiber dies aktiv zu unterbinden versuchen und dabei erfolgreich sind. In der Summe: Ich sehe keinen Grund, Social Bots als Massenphänomen anzunehmen, solange man sie nicht massenhaft nachweisen kann. Ockham’s Razor, ihr wisst schon.

Hyperaktive Debattenkultur

Dass man bisher keine meinungsbeeinflussenden Bots gefunden hat, bedeutet natürlich nicht, dass es sie nicht gibt. Tatsächlich führt Gallwitz selbst (S. 6) ein Beispiel an, von dem BuzzFeed im Jahr 2018 berichtete: Rund 70 Accounts äußerten sich über eine Zeit lang sehr positiv zum Thema Homöopathie und verwendeten dabei immer wieder die gleichen oder ähnliche Formulierungen. Offenbar wurden sie alle vom gleichen Nutzer, zum Teil wohl auch automatisiert, betrieben. Gallwitz lässt die Sache nicht als Social-Bot-Fall gelten, weil eine “Interaktion der Accounts mit echten Nutzern (…) offenbar nicht stattgefunden” habe. Ich denke aber schon, dass wir hier einen Hinweis finden, dass konzertierte Aktionen mehrerer Accounts über nur eine zentrale Stelle möglich sind. Nur: Allzu schwer aufzufinden war diese nicht. Gäbe es sie massenhaft, wären wohl noch mehr derartige Netzwerke aufgetaucht. Wozu ich hier nicht mehr komme (der Post ist eh schon viel zu lang): Was gut nachweisbar ist, sind Netzwerke tatsächlicher (mitunter auch Multi-Account) User. Zu zweifelhafter Ehre gelangte z.B. das deutsche Sifftwitter-Netz. Auch einzelne, sogenannte hyperaktive Accounts können einen mitunter schädlichen Einfluss auf Debatte und Kultur nehmen. Dies wird aktuell (auch unter Beteiligung von Hegelich) verstärkt untersucht und könnte alternative Erklärungen für politische Schlagseiten der Gesellschaft liefern.

Um zu einem letzten Gedanken zu kommen: Wirklich aufschlussreich finde ich die Antwort von Hegelich, ob Social Bots einen Einfluss auf die politische Debatte haben (S. 12): “Bedenkt man, dass man über eine im Prinzip nur auf Twitter stattfindende Debatte offenbar die Agenda der Enquete Kommission “Künstliche Intelligenz” beeinflussen kann, ist man natürlich versucht, die Frage mit ja zu beantworten.” Ich habe nun weder Florian Gallwitz, noch Michael Kreil je im realen Leben getroffen, aber ich gehe mal davon aus, dass sie eben keine Social Bots sind. Tatsächlich zeigt sich hier, dass reale Menschen realen Einfluss üben, und zwar über den Social-Media-Kanal Twitter auf eine Bundesbehörde und mithin auch auf die gesamte Gesellschaft. In dem vorliegenden Fall ergab sich sogar, dass ein wissenschaftlicher Irrläufer, der schon länger unterwegs war (die Social-Bot-Forschung) durch die Diskussion auf Twitter eingefangen und als solcher gelabelt wurde. Hegelich zeigt sich etwas pikiert darüber und erkennt die Arbeit von Gallwitz/Kreil nicht an, offenbar auch, weil sie über den falschen Kanal und im falschen Ton lief.

Während ich das erste Argument für völlig verfehlt halte (weiß ich doch, wie oft peer reviewt publizierter Schrott zum Voynich-Manuskript auf Twitter und Blogs wieder eingefangen werden musste), muss ich gestehen, dass ich die Schärfe, mit der die Diskussion auch von der Seite von Gallwitz geführt wird, nicht wirklich verstehe. Ja, es mag frustrieren, wenn man weiß, dass wissenschaftliche Studien, die das Botometer, das Oxford-Kriterium oder die völlig unbekannte Botswatch-Technologie einsetzen, eigentlich für die Tonne sind. Dennoch plädiere ich für mehr Gelassenheit und etwas zurückhaltendere Wortwahl. Man kann den eigenen Standpunkt auch gut vertreten, ohne fortwährend mit Begriffen wie “hirnverbrannter Verschwörungs-Schwachsinn” um sich zu werfen. Schont den Blutduck und macht einen besseren Eindruck, vor allem bei Leuten, die sich noch nicht so sehr im Thema auskennen. Manchmal kommt es mir so vor, als fühle sich da wirklich jemand von Verschwörern umgeben, denen man mit absoluter Härte in Ausdruck und Google-Netzwerkrecherche begegnen müsse. Ich komme seit fast zehn Jahren auf Twitter ganz gut gesittet zurecht (gut, meine Definition von gesittet), warum sollten andere das nicht können?

Ich erwähnte oben schon einmal das offenbar tief sitzende Misstrauen, das ich aus Hegelichs Äußerungen gegenüber Twitter herauszulesen meine. Offenbar ließ er sich dadurch auch dazu hinreißen, genau dort Michael Kreil mit Bernd Höcke in einen Topf zu werfen (und das nachdem er in seinem Gutachten “Eine Feuilletondebatte voller Missgunst” beklagte, wohlgemerkt). Ich habe das über Twitter versucht zu tadeln, was nicht angekommen zu sein scheint. Deshalb möchte ich das hier noch einmal versuchen. Zumal sein Gutachten über weite Strecken wirklich lesenswert ist (bisweilen mutet es allerdings auch wie ein Rückzugsgefecht an, bei dem zentrale Aussagen früherer Veröffentlichungen, s.o., auf dem Schlachtfeld zurückgelassen werden). Wilkes Schriftstück ist für mich vor allem in sich widersprüchlich (zwei dieser Widersprüche – Boterkennung und Botdefinition habe ich oben ausgeführt). Ich verstehe allerdings auch nicht, weshalb die Kommission ein Gutachten von einer Firma anforderte, bei dem die Botfrage einen großen Einfluss auf das Geschäftsmodell hat und die Antworten daher mit Vorsicht zu genießen sind (um es freundlich auszudrücken). Gallwitz führt seinen Blick auf die Dinge gewohnt stichhaltig und nachvollziehbar, aber auch hier wieder – für mich – mitunter unsouverän in der Wortwahl aus. Er wagt sich auch ein wenig weit hinaus, wenn er darüber spekuliert, wie die Existenz von Social Bots zur allgemein anerkannten Tatsache werden konnte und vermutet tatsächlich aktiv verschwörerische Vorgänge. Ich halte das für Blödsinn, vor allem, weil ich auch andere Fälle von Irrglauben genauer untersuchte (siehe Hogwarts Analytica). Diesmal Hanlon’s Razor, ihr wisst schon.

Zum Schluss: Die Existenz, die Eigenschaften und die Nutzung von sozialen Medien hat unbestritten einen immensen Einfluss auf Dynamiken des Informationsaustauschs und mithin auf unser Zusammenleben auf diesem Planeten. Die Erforschung der dort stattfindenden Prozesse ist zu wichtig, als dass diese aufgrund der Schwierigkeiten, die dabei auftreten, als nicht durchführbar abgetan werden könnten. Die Social-Bot-Forschung hat, wie sie in den letzten Jahren betrieben wurde, in eine Sackgasse geführt. Deshalb müssen alternative Untersuchungsdesigns entwickelt werden, zu denen wohl nicht nur ich ein paar Ideen beisteuern könnte. Wichtig ist auch eine Zusammenarbeit mit den Plattformen, mit Social Science One hat Facebook gerade frisch eine Initiative veröffentlicht, die aber natürlich auch kritisch betrachtet werden sollte, was Axel Bruns hier formidabel gelungen ist. Das Forschungsfeld ist existent und relevant, es muss nur laufend neu bestellt werden. Und das Wichtigste: Angemessene Debattenkultur, Leute, das ist der Preis, den wir kontinuierlich zahlen müssen!

<tl;dr> Social Bots sind wohl kein Massenphänomen, aber wohl auch keine Verschwörungstheorie. Meinungsbildung und -manipulation über Social Media ist ein Massenphänomen und demnach auch keine Verschwörungstheorie. Die zugrundeliegenden Mechanismen müssen dringend weiter erforscht werden, aber nicht auf Basis der bisherigen Social-Bot-Annahmen.

Beitragsbild: Robo Recall (VR-Spiel für die Oculus Rift, in dem wild gewordene Roboter “zurückgerufen” werden müssen – ein stressiger Spaß)

---

---