[Musik]
Der nächste Talk hat den Titel "Digitale Mündigkeit" und ist von Lena, die sich mit
digitaler Mündigkeit beschäftigt und Technikpaternalismus. Und was das ist,
wird sie selber erzählen. Hallo.
Ja, danke. Hi. So viel erzählen wollte ich gar nicht, weil bei der letzten Lesung, die ich gemacht habe,
habe ich dann ganz viel geredet und dann hinterher dasselbe nochmal vorgelesen.
Und deswegen dachte ich, ich fange einfach erstmal an mit Lesen.
Ich habe im Mai nicht mein erstes Buch allgemein herausgebracht, denn diese
kurz und mündig büchlein da hinten sind ja auch Bücher und davon habe ich schon ein paar geschrieben,
aber das erste so richtige große. Und das ist ganz schön aufregend, so ein Buch geschrieben zu haben.
Und vor allen Dingen ist es schön, wenn man später nochmal drin liest und weiterhin zufrieden mit dem,
was da drin steht. Und es macht mir tatsächlich auch Spaß, da drin zu lesen. Und deswegen dachte ich,
ich lese euch mal ein bisschen was daraus vor und freue mich natürlich, wenn es euch neugierig macht,
mehr zu hören. Ja, und ich fange einfach mal an, oder? Aber erst trinke ich einen Schluck.
Trinken nicht vergessen.
Digital hat Charme. Der Traum vom perfekten DJ.
In jungen Jahren wünschte ich mir einen persönlichen DJ. Eine Person, die mich unaufdringlich begleitet
und mir in jedem Moment die Musik auflegt, die ich gerade hören möchte, die zu meinem Gemütszustand passt
oder einen angestrebten Gemütszustand hervorruft. Diese Person müsste sich so gut mit meinem Musikgeschmack
und mit meinen Stimmungen auskennen, dass sie sogar besser wüsste als ich, was ich gerade hören möchte.
Dafür würde ich mich diese Person eine Zeit beobachten und mein Verhalten zu studieren.
Es ließe sich nicht vermeiden, dass sie sich nicht nur über meinen Musikgeschmack, sondern über mein
gesamtes Leben einen guten Überblick bekäme und mich vielleicht sogar besser kennenlernte als ich mich selbst.
Diese Informationen sollte sie dann nutzen, um mir die passende Musik aufzulegen, noch ehe ich
darüber nachdenken konnte, welche Musik eigentlich passen würde. Mein Beitrag würde sich darauf
beschränken, festzustellen, dass es tatsächlich gerade die bestmögliche Musikauswahl wäre und
meinem DJ anerkennend zuzunecken. Selbstverständlich wollte ich dazu keinen Menschen versklaven.
Bezahlen kann man so einen Vollzeitbegleitservice auch nicht und abgesehen davon, dass ich es damals
schon ablehnte, mich überwachen zu lassen und mir das Gefühl nicht gefallen hätte, ständig überall hin
begleitet zu werden. Es blieb bei einer wilden Fantasie, auch deshalb, weil es recht unrealistisch ist,
dass der eigene Musikgeschmack derart präzise erfasst werden könnte. Oder nicht?
Als ich Mitte der Nullerjahre auf die Musikempfehlungsseite Last FM stieß, legte ich mir sofort einen
Account an. Last FM zeichnete von da an die Musik auf, die ich am Rechner hörte und empfahl mir
ähnliche Interpretinnen. Ich konnte mir sogar ansehen, was meine Freunde gerade hörten, Musik
kommentieren und sogar meinen OK Player, damals war MP3 noch nicht frei und deswegen musste man
natürlich für freie Formate das OK Format verwenden, an das System anschließen. Es erstellte mir
eine Statistik meiner Lieblingslieder und Bands, verglich meinen Musikgeschmack mit dem meiner
Freunde und stellte mir Menschen vor, die einen sehr ähnlichen Musikgeschmack hatten wie ich.
Dies entsprach in weiten Teilen meinen Vorstellungen. Eine Software hat den Vorteil, dass man sie nicht
versklaven muss, damit sie für einen rund um die Uhr arbeitet. Man muss allerdings andere Dinge in
Kauf nehmen. Zum Beispiel gibt es keine Funktion, um mein Profil vor der Öffentlichkeit zu schützen.
Die Geheimhaltung meines Nicknames war eigentlich die einzige Möglichkeit, meine Privatsphäre zu
schützen. Doch den musste ich ja bekannt geben, wenn ich mit Freunden Musikempfehlungen tauschen
wollte. Wer meinen Benutzernamen kannte, konnte sehr viel über mich herausfinden. Außerdem band das mich
an den Computer. Einer meiner Lieblingsinterpreten rutschte auf der Skala weit nach unten, weil ich
seine Musik noch häufig über die Schallplatte oder CD hörte, die eben nicht an das System angeschlossen
sind. Andere Interpretinnen, die ich gar nicht besonders mochte, die sich aber als Hintergrundmusik
gut eigneten und die ich gerne zum Arbeiten oder Aufräumen hörte, schnellten im Ranking nach oben.
Das System konnte nicht wahrnehmen, mit welcher Intensität ich ein Stück hörte. Ob ich nebenbei
telefonierte oder mit geschlossenen Augen jede einzelne Note verfolgte, wurde nicht erfasst.
Das führte dazu, dass ich begann, mein Musikhörverhalten so zu verändern, dass die angezeigte
Rangliste eher dem entsprach, wie ich selbst meinen Musikgeschmack einschätzte. So beeinflusste mich
die Software in dem, was ich hörte und verursachte eine Art Rückkopplung. Was dem Programm zu dem von
mir fantasierten leibhaftigen DJ noch fehlte, war die Einschätzung meines Gemütszustandes. Es konnte
mir nicht sagen, welche Musik jetzt im Moment zu mir passt, sondern nur, welche mir allgemein
gefallen könnte. Doch von der Berechnung des Gemütszustandes durch Software sind wir heute gar nicht
mehr weit entfernt. Es ist nur noch eine Frage der Zeit, bis es diesen persönlichen DJ, der meine
Stimmungen erkennen und anhand dieser bestimmen kann, was ich gerade hören möchte als App gibt.
Vielleicht sogar mit all den Dingen, die ich mir damals gewünscht habe. Nicht mal als Luxusartikel,
sondern für alle Menschen bezahlbar. Leider müssen wir befürchten, dass bezahlbar in einer Währung
passieren wird, die wir alle haben und die uns kein Geld, sondern unsere Privatsphäre kostet.
Denn es gibt einen wichtigen Unterschied zum persönlichen DJ. Er wäre nur ein Mensch, der mich
beobachtet und sich ständig in meiner Umgebung aufhält. Ich würde diese Person ebenfalls kennenlernen
und es bliebe ihr keine Zeit, etwas mit ihrem Wissen über mich zu machen, da sie ja immer damit
beschäftigt wäre, mich zu beschaffen. Ein Unternehmen, das mir eine Software anbietet, die die
gleiche Arbeit leistet, wird sich das genauso teuer bezahlen lassen wie ein persönlicher DJ nur eben
in einer anderen Währung. Doch hierbei handelt es sich um mehrere Personen, die ich nicht kenne und
nicht einschätzen kann. Würde ich den Dienst dennoch in Anspruch nehmen, wenn, wann passiert es schon
mal, dass man eine derart unrealistische Jugendwunschstraum-Utopie so einfach erfüllt bekommt?
Mein Computer kennt mich besser, als ich mich selbst kenne, denn er beobachtet mich dauerhaft und
zeichnet alles unverfälscht auf. Oder vielleicht doch nicht? Anscheinend könnte es auch hier zu
Fehlern kommen, denn ich habe ja schon bei meinem Experiment mit Last.fm bemerkt, dass ich mein
Verhalten dem Programm bewusst anpasste, um Fehler auszugleichen. Wie oft ist das wohl unbewusst
passiert? Und wie sehr würde ich mich einer Firma ausliefern, die derart gut über meinen Gemütszustand
informiert ist? Würde ich ihr damit nicht auch die Macht geben, meine Stimmung zu manipulieren? Was,
wenn der DJ auf einmal anfängt, mir meine mühsam erarbeitete melancholische Stimmung zu verderben,
indem er mir statt "A Whiter Shade of Pale" mit "If You Want to Sing Out, Sing Out" das Lied
auftischt, dem keine meiner schlechten Launen standhält? Im besten Fall könnte die Software
entscheiden, ob ich meine Laune gerade konserviere oder ändere. Im schlimmsten Fall würde die
Software das nicht anhand meiner Wünsche ermitteln, sondern anhand der Wünsche der Person, die meinen
DJ-Dienst betreibt. Beide Fälle finde ich beunruhigend. Ich finde es beunruhigend, wenn ein Stück
Technik besser über mich Bescheid weiß, als ich selbst oder meine engsten Freundinnen und Freunde.
Ich finde es erst recht beunruhigend, wenn ich zu bequem werde, für mich selbst wahrzunehmen, welche
Gefühle ich habe. Am beunruhigendsten finde ich es aber, wenn ich die Macht über meine Launen zu
bestimmen, potentiell an Dritte abgebe, von denen ich nicht mehr weiß, wer das eigentlich ist,
geschweige denn, was ihr Anliegen ist. Am allerbeunruhigendsten finde ich allerdings, wie wenige
Menschen sich derartige Fragen stellen, bevor sie einen solchen Dienst nutzen. Welche Auswirkungen auf
die Gesellschaft würde es haben, wenn wir alle einen solchen DJ-Dienst nutzen würden? Leider bleibt
es nicht bei den Diensten, denen man sich freiwillig und unreflektiert unterwirft, weil sie einen
albernen Wunschraum erfüllen. Immer mehr Anwendungen sind für uns gar nicht mehr vermeidbar, bzw. ein
Verzicht darauf hat für uns ernsthafte Konsequenzen. Wenn ich dem Staat nicht meine Fingerabdrücke anvertrauen
möchte, weil er entgegen aller ursprünglichen Beteuerungen mein biometrisches Bild nicht so gut geschützt
und stattdessen an Staatsverfolgungsbehörden weitergegeben hat, dann kann ich den Schengenraum nicht
mehr verlassen. Wenn ich anonym Bahn fahren will, muss ich mittlerweile viele Unannehmlichkeiten auf mich
nehmen und in der Regel mehr Geld bezahlen. Wenn ich mit Freundinnen kommunizieren will, werde ich genötigt
WhatsApp zu nutzen und wenn ich morgens ein warmes Büro vorfinden möchte, muss ich mir eine Smart-Home-App
auf dem Handy installieren, mit der ich die Heizung bequem steuern kann. Ich kann nicht mal bei Klobetrotter
im Laden ein paar Schuhe bestellen, ohne dass in meinem Namen ein Benutzer-Account bei deren Online-Shop
erstellt wird, für den ich meine Postadresse nebst weiteren Informationen angeben muss. Viele Banken
verlangen mittlerweile für Kreditkartenzahlungen, dass man ihre App installiert, die es natürlich auch
nur im Google Play Store gibt, für die man die völlig inakzeptable Google-AGB akzeptieren muss.
Besonders unausweichlich ist die Zwangsdigitalisierung im medizinischen Sektor. Ohne die elektronische
Gesundheitskarte erhalte ich keine medizinische Versorgung und wenn ich meiner Krankenkasse einen analogen
Brief schicke, dann adressiere ich den ans Scan-Zentrum, wo er, Sie ahnen es schon, digitalisiert wird,
bevor er an meine Sachbearbeiterin weitergeleitet wird. Ich liebe Technik. Ich liebe mein Smartphone
und meinen Computer. Ich liebe die vielen Möglichkeiten, die sich daraus für Demokratie und für die
menschliche Kommunikation ergeben. Ich finde es herrlich, dass man für einen alten gebrauchten
Staubsauger online eine Betriebsanleitung finden kann und dass einsame Menschen im Netz Gleichgesinnte
finden. Und ich bin überaus glücklich darüber, dass kranke Menschen durch digitale Technik besser mit
ihren Krankheiten umgehen und sogar die Heilungschancen verbessern können. Gerade weil ich das große
Potential sehe, das in der Digitalisierung steckt, halte ich es für notwendig, sich kritisch damit
auseinanderzusitzen, wohin uns die technische Entwicklung führen soll. Es gibt bis heute kein
allgemeingültiges ethisches Gerüst, nachdem wir die Richtung, die die Technikentwicklung nehmen soll,
ausrichten können. So verfolgen die Internetkonzerne zum Beispiel ganz andere Ziele als die Menschen,
die früher Mailboxen betrieben haben und heute freie Netze fordern. Ich glaube, hier sitzen ein paar im
Zelt. Jetzt habe ich mich selber rausgebracht. Wo sind denn jetzt die freien Netze?
Da. Manchmal ist es ja wirklich. Regierungen und mächtige politische Kräfte nutzen das Netz für die
Manipulation von Wahlen und politischen Entscheidungen. Siehe zum Beispiel Brexit. Anderen wiederum
ermöglicht das Internet am Leben teilzunehmen. Menschen mit Behinderungen zum Beispiel. Oder sich
weltweit Freunde zu suchen. Darin steckt die Chance im Sinne von Berthold Brechtz und Andy Warholz,
dass jeder und jeder seinen persönlichen Raum bekommt, sich zu verwirklichen. Gleichzeitig aber
stellen eben Konzerne diesen Raum zur Verfügung und nutzen ihn für ihre Geschäftsinteressen aus,
indem sie Regeln diktieren und zentralisieren. Damit drohen sie, andere Pflanzen unseres
Gemeinschaftslebens zu verdrängen. Gerade weil ich die technische Entwicklung begrüße und mir viel
davon erhoffe, bin ich ihr gegenüber besonders kritisch. Gerade weil ich es als Privileg empfinde,
in genau dieser Umbruchszeit zu leben, sehe ich mich in der Verantwortung, meinen Teil dazu beizutragen,
dass sie sich in eine wünschenswerte Richtung entwickelt. Kommen wir zur Frage, wie wir mit den
vielen Möglichkeiten, die uns die digitale vernetzte Kommunikation bietet, eigentlich umgehen wollen.
Wenn daraus etwas werden soll, was den Menschen gut tut, was ihnen zur Demokratie und einer friedlichen
Welt verhilft, dann sollten wir uns an unseren Umgang damit einen gewissen Anspruch stellen.
Ein mündiger Umgang mit Technik, der sie weder verteufelt noch blind bejubelt, würde diesem Anliegen
entsprechen. Mündigkeit nicht nur im Sinne von mature, weil uns jemand gesagt hat, dass wir das jetzt
dürfen, weil juristisch und so, sondern auch im Sinne von responsible, weil wir bereit sind,
Verantwortung für das zu tragen, was wir da tun. Digitale Mündigkeit ist das Bewusstsein, dass es ein
Problem mit der Technik, die man benutzt, geben könnte. Es ist die Bereitschaft, Verantwortung für das
eigene Handeln zu übernehmen, in Bezug auf die eigenen Interessen, aber auch in Bezug auf die
Interessen anderer Menschen und auch in Bezug auf das Interesse der Menschen als Gesamtgruppe.
So.
Ich blättere mal ein bisschen vor, muss ja nicht alles aus dem Anfang sein.
Ich habe ein recht großes KI-Kapitel. KI, wir wissen, komplexe Imitationen auf Englisch, Advanced Imitation,
also AI, aber ich bleib mal bei KI und ich, ja wir reden so viel über KI, ich bin da mal so ein bisschen
nach vorne gesprungen in das Kapitel, ich bin so froh, dass ich kein falsch positiv bin.
Häufig geht es bei der KI um Zuordnung oder Vorhersagen. Ist jemand kreditwürdig? Wird jemand
einen Verbrechen begehen? Ist eine Person empfänglich für Werbung meines Produkts? Soll ich eine Person
einstellen? Befindet sich auf dem Foto ein Auto? Könnte die Person gleich einen Terroranschlag verüben?
Der offensichtliche Wert, den man zunächst ins Auge fasst, ist, wie oft der Algorithmus Recht hat.
Also wie viele Terroristen hat er tatsächlich erkannt? 100%? Na fantastisch, dann können wir ja nach Hause gehen.
Leider nicht, denn neben dem Wert der korrekten Zuordnung, dem true positive, gibt es einen weiteren
sehr relevanten Wert, das falsch positiv, also die falschlicherweise als Terroristen markierten Menschen,
die aber ganz und gar keine Terroristen sind. Wenn eine KI die Hälfte aller Menschen als Terroristen
einstuft, ist es nicht verwunderlich, wenn darunter auch 100% alle Terroristen sind. Beim falsch
positiv kommt erschwerend hinzu, dass es für die Betroffenen sehr weitreichende Folgen haben kann und
dass schon ein sehr kleiner Prozentsatz ein sehr großes Problem darstellt. Im Pilotprojekt zur
Gesichtserkennung am Berliner Bahnhof Südkreuz wurde mit hervorragenden Ergebnissen geprahlt.
70 bis 80% true positives wurden gemessen und stolz verkündet. Der Wert der false positives
blieb zunächst vage mit unter einem Prozent, was sich doch irgendwie nach richtig wenig anfühlt.
Das Ganze wurde als Erfolg gefeiert. Doch wer nachrechnet und weiß, dass am Südkreuz täglich
ca. 100.000 Menschen unterwegs sind, stellt fest, pro Tag würden bei dieser kleinen Rate bis zu
1.000 Menschen falsch zugeordnet. Selbst beim später verkündeten Wert von 0,1% wären das noch
immer 100 falsche Kriminelle am Tag, 36.500 im Jahr. Gemessen am Ziel der Übung, nämlich Kriminelle
zu erkennen, ist das eine viel zu hohe Zahl. Und das Problem ist real. Es sammeln sich immer mehr
Beispiele für solche Fehler. In Georgia musste im Dezember 22 ein Mann fast eine Woche im Gefängnis
verbringen, ehe sich herausstellte, dass ihn die Gesichtserkennungssoftware fälschlicherweise für
einen gesuchten Dieb hielt. Das Beispiel ist besonders pikant, weil der Mann schwarz ist und die
Gesichtserkennungssoftware hier rassistischerweise besonders fehleranfällig ist, weil sie vornehmlich
an Weißen trainiert wird. Aber auch wenn die Gesichtserkennung korrekt arbeitet, wird sie in
immer problematischeren Situationen eingesetzt. Stellen Sie sich vor, Sie wollen Ihr Kind zu einem
Schulausflug ins Musical begleiten und werden als einzige Mutter nicht reingelassen. Warum? Weil Sie
für eine Kanzlei arbeiten, die in einen Rechtsstaat gegen den Betreiber des Musicals involviert ist.
Dies geschah ebenfalls Ende 22 in den USA, diesmal in New York. Während Gesichtserkennung immer
häufiger, sehr willkürlich und fehlerhaft eingesetzt wird, ist Ihr Nutzen äußerst überschaubar.
Angenommen, es laufen pro Monat 10 Kriminelle über den Bahnhof Südkreuz. Dann würde diese angeblich so
erfolgreiche Software acht davon erkennen, bei 80 Prozent True Positives. Und gleichzeitig würde sie
3.000 Unschuldige als kriminell bezichtigen, 0,1 Prozent False Positives, und ihnen entsprechend die
Polizei auf die Fersen jagen. Unberechtigte Befragung und zu spät kommen bei der Arbeit inklusive,
während die Polizei versucht, unter den gut 3.000 Menschen die acht Kriminellen zu finden.
Mag sein, dass Sie das anders sehen, aber ich betrachte das nicht als erfolgreichen Test. Zumal sogar
diese denkbar schlechten Ergebnisse im Verdacht stehen, noch geschönt zu sein. Stellen Sie sich diese
Rate an Falschpositiven mal bei einem Feueralarm in Ihrem Büro vor. Wenn täglich zehnmal der
Feueralarm losgeht, werden Sie spätestens nach drei Tagen nicht mehr aufstehen und hinauseilen, wenn es
wieder klingelt. Dumm nur, wenn es dann wirklich mal brennt und keiner mehr mit einem True Positiv
rechnet. Es gibt übrigens auch True Negative und False Negative. Auch hier möchte man lieber nicht
zu den Falschen gehören, denn hier geht es darum, fälschlicherweise aussortiert worden zu sein.
Beispielsweise bei einer Arbeitsstelle, für die man eigentlich sehr wohl in Frage käme, aber
versehentlich falsch bewertet wurde. Oder bei der Frage, ob man von der Bank einen Kredit erhält.
Ein False Negative ist hier genauso gemein wie ein False Positiv beim Terroristen-Detektor.
Ja, also ich versuche immer so ein bisschen, ich habe das tatsächlich durchgekämmt mit meinem
bald, wie alt wird er? 80-jährigen Vater. Ich habe versucht, so zu schreiben, dass es also nicht
viel Vorkenntnisse voraussetzt und trotzdem Spaß macht. Es ist also Eltern-kompatibel.
So, jetzt habe ich leider festgestellt beim Probelesen, dass ich die paternalistische Ampel
überspringen muss. Die wollte ich eigentlich auch mit vorlesen, weil das ist ein schönes, so eine
Parabel. Philosophinnen machen das immer sehr gerne, dass sie irgendwelche abstrusen Beispiele
vorstellen. Aber die überlasse ich dann mal euch, das selber zu lesen. Weil ich will lieber mal
nochmal in den Bereich reinschnuppern, in dem es darum geht, wie sie Licht ins Dunkel der
Black Box bringen. Die gute Nachricht ist, man kann sich aus der Entmündigung befreien.
Das bedarf einiger Übungen und ist deshalb auch nicht ganz ohne Zeitinvestition zu erreichen.
Doch mit der notwendigen Bereitschaft und mit Durchhaltevermögen lässt es sich durchaus in den
Alltag integrieren. Die Größe der Schritte können Sie individuell anpassen. Ganz am Anfang steht ein
Haltungswechsel. Indem Sie für sich in Anspruch nehmen, die Verantwortung für Ihre digitalen
Handlungen zu tragen, haben Sie das Wichtigste schon getan. Die notwendigen Fragen werden sich
dann von alleine aufwerfen. Hier geht es darum, wie das konkret aussehen kann.
30 mündige Minuten. Beachten Sie, so oft es Ihnen möglich ist, die goldene 30-Mündigkeits-Minuten-Regel.
Sie lautet, versuchen Sie ein Computerproblem immer erst mindestens 30 Minuten lang selbst zu
lösen. Der Einsatz von Suchmaschinen ist dabei ausdrücklich erlaubt. Bitten Sie erst dann nach
um Hilfe. Inspiriert wurde diese Regel übrigens vom Nummer 627XKCD, Technical Support Cheat Sheet.
Ich weiß nicht, wer ihn kennt, aber wer XKCD kennt, .com/627, kann man sich durchlesen.
Das hat gleich zwei Vorteile. Erstens, Sie üben sich, Problemen selbst zu stellen, dem
Erforderungsgefühl zu trotzen und lernen ganz nebenbei sehr viel dazu. Zweitens, Sie sieben die
einfach zu lösenden Probleme vorher aus. Wenn Sie damit anfangen, werden Sie überrascht sein,
wie häufig Sie in 5-10 Minuten selbst eine Lösung finden. Sie brauchen also viel seltener Hilfe
in Anspruch zu nehmen. Die Menschen, die Sie bei Ihren Problemen unterstützen, werden es Ihnen
danken. Denn die können sehr gut erkennen, ob es sich um ein wirkliches Problem handelt oder ob Sie
nur zu faul waren, selbst zu meta gären. Ich spreche da aus Erfahrung und zwar aus beiden
Richtungen. Wenn Sie sich dann doch Hilfe holen, lassen Sie sich nicht das Gerät bzw. die Tastatur
aus den Händen nehmen. Auch wenn Sie von Tuten und Blasen keine Ahnung haben, behalten Sie die
Kontrolle. Lassen Sie sich bei der Bedienung Ihrer Geräte helfen, aber geben Sie sie nicht ab.
Passwörter kennen nur Sie und wenn sie gebraucht werden, geben Sie sie ein. Lassen Sie sich erklären,
was man mit Ihrem Gerät gerade macht und führen Sie sich vor Augen, dass es auch dann in Ihrer
Verantwortung liegt, was damit geschieht, wenn Sie gar nicht richtig verstehen, was da gerade passiert.
Wirkere Flex überwinden. Ist ja alles schön und gut, werden Sie jetzt vielleicht sagen, aber ich habe
nun mal kein Informatikdiplom und kenne mich nicht ausreichend mit Computern aus. Mit diesem Gefühl
der Überforderung sind Sie wahrlich nicht alleine. Für einen mündigen Umgang mit digitalen Geräten ist
es aber gar nicht nötig, Informatik zu studieren. Über Medienkompetenz haben wir schon hinlänglich
gesprochen, weiter vorne, aber arbeiten Sie mit den Fähigkeiten, die Sie haben und eignen Sie
sich Stück für Stück die an, die Sie brauchen. Wir hatten das bereits davon, dass Sie auch ohne eine
Ausbildung als Lebensmitteltechnikerin einkaufen gehen können. Oder würden Sie sich mit dem Satz,
ich kann das eh nicht, ich habe halt keine Lebensmitteltechnik studiert, eine verschimmelte
Orange in den Einkaufswagen legen? Eben. Sie tragen Verantwortung für das, was Sie sich und Ihren
Liebsten in den Mund schieben, unabhängig davon, wie gut Sie sich mit dem Produkt auskennen.
Kant würde hier von einem Mangel an Entschlossenheit sprechen, doch anstatt Ihnen weiter mit einem
erhobenen Zeigefinger zu kommen, möchte ich Ihnen lieber etwas von Ratten erzählen. Von zwei ganz
speziellen Ratten, um genau zu sein. Beide sind animiert und stammen aus dem Disneyfilm Ratatouille.
Remy und Emil sind Brüder. Der erste ein Feinschmecker, der andere ein Allesfresser. Als Emil sich mal wieder
eine undefinierbare Ekelhaftigkeit in den Mund schiebt, fragt Remy, wie er das fressen kann.
Emils lapidare Antwort, wenn man den Würgereflex erstmal überwunden hat, geht's. Solch einen Würgereflex
kennen wir auch bei Computern. Um das zu verstehen, müsste ich mich jetzt erstmal schlau machen und
eindecken, dafür habe ich gerade echt nicht den Nerv. So spucken wir viele Computerverständnisfragen
wieder aus, noch bevor wir uns wirklich auf sie eingelassen haben. Und das geht nicht nur denen so,
die sich kaum mit Computern auskennen. Diesen Würgereflex haben fast alle, die mit Computern zu tun
haben, nur die einen haben gelernt, sich davon nicht abhalten zu lassen. Und auch hier gilt, wenn man den
Würgereflex erstmal überwunden hat, ist das gar nicht mehr so schlimm. Es ist kein Wunder, dass wir uns
nur ungern auf etwas einlassen, von dem wir gefühlt vielleicht 5% verstehen. Aber daran ändert auch ein
Informatikstudium nichts. Das führt höchstens dazu, dass sie danach gefühlt 40% verstehen. Wer mit
Computern arbeitet, wird nicht umhin kommen zu akzeptieren, dass einem stets ein bedeutender Anteil der
Sache unklar ist. Diese Einsicht ist einer der wichtigsten Unterschiede zwischen Computermuggeln und
Computerzauberern. Erstere lassen sich von den vielen Unbekannten abschrecken und verunsichern. Zweitere
suchen im Wust der Unklarheiten nach dem, was sie kennen und brauchen und halten sich daran fest und
ignorieren den Rest. Spucken Sie die Sache also nicht gleich wieder aus, wenn Sie sie nicht verstehen.
Nehmen Sie den Würgereiz zur Kenntnis, wenn er auftaucht, begrüßen Sie ihn und dann stellen Sie ihn
erstmal beiseite. Nach 30 Minuten können Sie ihn ja wieder rausholen, wenn er dann überhaupt noch
nötig ist.
Ich bräuchte mal eine Zeit. 15 Minuten. Oh, ich habe nämlich hinten, es kommt so ein schönes Kapitel,
was mir sehr wichtig ist. Mal gucken, aber das braucht nämlich einen Moment. Mal sehen, wo wir da
jetzt landen. Ich habe schon so viel rausgeschmissen. Ja doch, nein, aber es passt perfekt, weil wir
kommen jetzt genau dahin. Jetzt bin ich mal ganz vorgesprungen in das Kapitel "Freiheit, Demokratie und
Manipulation" und den Teil über die Polarisierung und den, was ich eigentlich auch gerne gelesen hätte,
wäre das über den manipulierten Souverän. Also was passiert, wenn in einer Demokratie der Souverän
eigentlich gar nicht mehr frei entscheidet, sondern so manipuliert wird, dass man gar nicht mehr weiß,
ist das jetzt schon frei oder nicht oder was ist das jetzt. Aber es gibt ein anderes Kapitel, das mir
tatsächlich sehr am Herzen liegt und für das ich mir noch ein kleines bisschen Zeit aufheben wollte.
Das setzt auch, knüpft auch ein bisschen an einen Vortrag, den wir hier schon ganz am Anfang des
Camps hatten von Annalisa Gonzior, der ich herzlich danke, weil sie mir nämlich auch Inspiration
geliefert hat für dieses Kapitel. Es geht hier um Cyberkrieg und Infokrieg.
Warum es demokratische Gesellschaften bis ins Mark erschüttern kann, wenn kein Vertrauen und keine
gemeinsame Wissensbasis mehr besteht, haben wir schon besprochen. Beim sogenannten Cyberkrieg wird
dieses Problem ganz besonders offensichtlich. Aber bevor wir uns auf dieses Thema stürzen, möchte ich
kurz auf die Begriffe eingehen. Die Kriegsrhetorik ist nämlich nicht ganz unproblematisch. Zumindest
kann man darüber streiten, ob die sprachliche Gleichsetzung mit Krieg ein Zustand, in dem Menschen
einander physische Gewalt antun und einander töten, angemessen ist. Sascha Lobo empfiehlt, andere
Begriffe zu verwenden und beispielsweise von Cyber-Sabotage oder von Diskursvergiftung zu sprechen.
Das finde ich einerseits sehr sinnvoll, da ist klarer benennt, was eigentlich konkret passiert.
Andererseits wird psychische Gewalt selten so ernst genommen wie physische Gewalt und hier richtet sich
der psychologische Angriff gegen eine ganze Menschengruppe. Es ist wichtig, diesen Angriff auch in
seiner Tragweite zu betrachten und sich klar zu machen, dass es sich tatsächlich um einen
kriegerischen Akt handeln kann. Auch digitale Technik kann als Waffe eingesetzt werden und auch
darüber müssen wir sprechen. Wer einen Staat angreifen oder nachhaltig schwächen möchte, kann
dies ganz subtil durch Manipulation der Massen schaffen, beispielsweise indem man das Vertrauen in
das politische Zusammenleben systematisch untergräbt. Im Infokrieg, also das was Sascha Lobo
Diskursvergiftung nennt, verbreitet man gezielt Unwahrheiten, um ganze Systeme ins Wanken zu bringen.
Dazu muss man nur eine vorhandene Unzufriedenheit von Menschen und Gruppen gezielt zu Wut katalysieren.
Das hat verschiedene Wirkungen. Erstens, es destabilisiert direkt vor Ort. Das muss nicht unbedingt
schlecht sein, Veränderungen setzen das sogar manchmal voraus. Nur sollten diese von den Leuten vor
Ort initiiert sein. Zweitens, es verschleiert die wahren Akteure. Wenn Menschen zu einer bestimmten
Protestform nur deshalb gelangt sind, weil ein externer Akteur ihnen diese professionell und unbemerkbar
in den Kopf gelegt hat, werden Menschen mit Anliegen durch Machthaber anderer Staaten instrumentalisiert,
die sich für das Anliegen an sich überhaupt nicht interessieren. Drittens, es verunsichert. Bei
Protesten ist nicht mehr klar, ob diese tatsächlich aus sich heraus entstanden sind oder ob sie Teil einer
Instrumentalisierung durch andere Machtinteressen sind. Cyberkrieg, also Cyber-Sabotage, kann
unterschiedlich aussehen. Er kann auf die Gemüte der Bevölkerung des gegnerischen Landes abziehen.
Er kann sich aber auch gegen kritische Infrastruktur wie Krankenhäuser oder die Stromversorgung richten.
Oder er bleibt auf Militäreinrichtungen beschränkt. Aber wie soll man das je sicher feststellen können?
Wenn Angriffe nicht mehr identifizierbar sind und deshalb fingierbar werden, besteht eine so große
Unklarheit, dass sinnvolle Aktionen und Reaktionen gänzlich unmöglich werden. Man weiß also nicht mehr,
war das nur ein Angriff, falls ja, also war das nun ein Angriff, falls ja, aus welcher Richtung kam er?
Deuten die gefundenen Hinweise auf den tatsächlichen Angreifer hin? Oder sind es gefälschte Spuren, die
mich gegen den Feind des Angriffers aufhetzen sollen? Wie kann man sicher sein, dass kritische
Infrastruktur wie Krankenhaus- oder Feuerwehr-IT- oder Gaspipelines nicht zum Angriffsziel werden?
Wie kann zwischen Zivilist*innen und Militär unterschieden werden? Nicht jede Manipulation kommt von
Bots oder Geld fixierten Algorithmen. Überwachungskapitalismus habe ich weiter vorne geschrieben.
Neben dem Streben nach Profit dienen Missinformationen, Destabilisierung, Zank und Krach auch der schnöden
alten Macht. Die Politik bedient sich der destruktiven Mechanismen der Vernetzung sowohl zur Manipulation der
eigenen Bevölkerung als auch dafür, sich in die Politik anderer Länder einzumischen. Und das geht so.
Man mache sich bewusst, wer der Gegner ist. Dann suche man innerhalb dieses Umfelds nach bestehenden
Meinungsverschiedenheiten. Je saftiger, desto besser. Besonders gut eignen sich dabei Themen wie
Diskriminierung oder Antisemitismus. Wichtig ist, es muss ein wahrer Kern in der Sache stecken und es ist
von Vorteil, wenn es keine offensichtliche, einfache Lösung für den Konflikt gibt. Und dann wendet man
den alten Agententrick an und unterstützt beide Seiten. Dabei gibt man sich in der Regel viele verschiedene
Identitäten auf Social Media, die sich als ganz normale Menschen ausgeben und den Disput immer weiter
eskalieren. Es gibt diverse Taktiken. Die offensichtlichste ist, dass man die vielen verschiedenen Identitäten,
die zunehmend den Ton angeben, einander zustimmen lässt. Aber man kann auch eine Seite schwächen, indem man
jemanden in ihrem Namen auftreten lässt und dabei völligen Irrsinn verbreitet. Und da wären wir.
Destabilisierung. Der Gegner ist zerstritten und damit abgelenkt und im schlimmsten Fall handlungsunfähig.
Sie fragen sich, weshalb die Gesellschaft sich immer weiter polarisiert? Weil es Parteien gibt, die davon
profitieren. Und das Schlimmste ist, der ausgewählte und zur Eskalation getriebene Konflikt beschreibt
meist ein sehr wichtiges und ernstes Anliegen. Wenn sich eine Gruppe gegen fortwährende Diskriminierung
zur Wehr setzt, hat sie alles Recht, sich zu freuen, wenn auf dieses Thema endlich Aufmerksamkeit fällt.
Den Beteiligten ist selten bewusst, dass dies nur das Abfallprodukt eines Manövers ist, indem ihr Anliegen
für ein ganz anderes Spiel instrumentalisiert wird. Das macht das Anliegen nicht weniger wichtig, aber es
bedeutet eben, dass der geführte Dialog gar nicht auf die Lösung des Anliegens ausgerichtet ist, sondern im
Gegenteil, die Fronten eher noch verhärten soll. Wenn man einmal anfängt, die Wirklichkeit auf diese Strategie
hin abzuklopfen, muss man sehr aufpassen, nicht paranoid zu werden. Ich merke schon, wir brauchen wieder ein
Beispiel. Als Präsident Putin am 24.02.22 der russischen Armee befahl, das Nachbarland Ukraine anzugreifen, gab es
weltweit überwältigende Solidarität. Menschen nahmen Geflüchtete auf, Züge fuhren sie kostenlos in die
Nachbarländer, Resolutionen wurden verabschiedet, Waffen geschickt, Sanktionen beschlossen. So einig hatten wir
die westliche Welt schon lange nicht mehr gesehen. Dazu trug auch bei, dass die Ukraine, allen voran ihr
Präsident Volodomir Zelensky, sehr gut darin war, die Öffentlichkeit auf charismatische Art und Weise
anzusprechen. Während wir in Westeuropa den Wert der Demokratie immer mehr aus den Augen verloren, zeigten
die Ukrainer sich selbst und der Weltöffentlichkeit, dass sie bereit waren, dafür alles zu riskieren.
Doch die neue Einigkeit in der EU hatte selbstverständlich Risse und die zu finden war nicht schwer. Sie sprangen
einem förmlich ins Auge, denn die große Solidarität mit den Geflüchteten musste allen befremdlich
vorkommen, die sich jemals mit dem Gedanken beschäftigt hatten, dass Europa täglich Menschen im
Mittelmeer ertrinken lässt, ja manchmal bewegt sein, und sich nicht an deren Rettung beteiligt und ihre
Überlegungschancen sogar noch radikal sinkt. Menschen, die von dieser Gau, dieser größten anzunehmenden
Unbarmherzigkeit betroffen sind oder die versucht hatten, etwas dagegen zu unternehmen, mussten sich natürlich
fragen, weshalb sie nicht das gleiche Gehör gefunden hatten, wie jetzt zum Glück die Menschen aus der
Ukraine. Da das jetzt sehr hilfreich Polen bis dahin mit einer völligen Verweigerungshaltung aufgefallen
war, Menschen in Not zu helfen, war es nicht überraschend, dass bald Berichter darüber bekannt
wurden, dass nicht weiße Menschen an der Grenze zurückgewiesen wurden. Nach unserem Kochrezept der
perfekte Konflikt mit berechtigtem Anliegen und kaum sichtbare Lösung.
An dieser Stelle muss ich blank ziehen. Ich habe keine Ahnung, was hier tatsächlich der Wahrheit
entspricht. Die Wahrheit ist das erste Opfer des Krieges und ich mache mir keine Illusionen, dass ich
aus meiner Perspektive darüber auch nur ansatzweise verfüge. Ich möchte nicht darauf hinaus, dass Sie mir
die eine oder die andere Geschichte glauben. Ich verzichte an dieser Stelle ausdrücklich auf
belastbare Belege. Ich habe sonst ziemlich viele Fußnoten. Es geht nicht darum, wer hier Recht hat.
Es geht darum, zu verdeutlichen, dass es in einer solchen Situation eben nicht mehr möglich ist,
wirklich Bescheid zu wissen. Wir wissen, dass wir alle vom Horizont unseres eigenen Tellerrandes und
unserer Filterblase begrenzt sind. Wir wissen, dass diese Methoden von allen Parteien angewendet
werden. Wir wissen, dass Manipulation auf tiefster psychologischer Ebene stattfindet. Wir wissen
eigentlich nur, dass wir gar nichts richtig wissen. Und dann sollen wir aussuchen, wer unser
Herzblatt ist. Die eine Stimme, jetzt habe ich hier wieder einen Verweis auf einen Twitter-Kommentar,
die darauf aufmerksam macht, dass die berechtigte Kritik am Rassismus an der polnischen Grenze von
Putin instrumentalisiert wird, um die europäische Einigkeit zu zerstreuen. Oder die andere Stimme,
auch so ein Tweet, damals konnte man ja Twitter noch benutzen, die völlig zurecht moniert, dass es
sich dabei wiederum um eine nicht belegte Propaganda handeln könnte. Vielleicht sind ja auch beide Stimmen
von russischer Seite gesteuert, oder eine von Russland und eine von der NATO, oder keine von beiden.
Vielleicht ist eine oder beide von anderen Stimmen auf die jeweilige Idee gebracht worden, die ihrerseits
gesteuert sind. Und falls beide Stimmen völlig unabhängig sein sollten, wer hat dann eigentlich Recht?
Und ist es nicht egal, ob man Beifall von der falschen Seite bekommt, wenn das Anliegen berechtigt ist?
Ich habe keine Antwort. Ich weiß nur, dass ein Problem in der Regel nicht ausgeräumt wird, wenn es nur das
Vehikel für ein ganz anderes Anliegen ist. Und ich weiß, dass wir uns auf diese Weise kein sinnvolles
Bild von der Lage machen können. Ich weiß auch, dass wir die Lösung nicht finden, indem wir die
Gräben immer tiefer ausheben. Wenn ich den Eindruck haben muss, dass eigentlich jede Information, die
mich erreicht, ein potentieller Versuch ist, mich zum Spielball in einem mir unbekannten Machtspiel zu machen,
steht mündiges digitales Verhalten nicht mehr zur Debatte. Aber nur, indem ich mir das bewusst mache, habe
ich überhaupt eine Chance, mich zu ermündigen. Sokrates lässt grüßen. Auf den bin ich vorher eingegangen.
Der Infokrieg, Diskursvergiftung, greift uns nicht auf molekularer oder medizinischer Ebene an.
Er zielt auf das Fundament unseres Zusammenlebens, auf die Kommunikation. Er attackiert unser Vertrauen
ineinander und unser Vertrauen in unser Urteilsvermögen. Er zersetzt den demokratischen Zusammenhalt bis hin
zur tiefsten Ebene, dem Gesellschaftsvertrag. Er hat damit ein desaströses Potenzial. Und zwar auch dann,
wenn seine Methoden gar keine Anwendungen mehr finden. Sobald wir alle paranoid genug geworden sind,
verliert unser Gesellschaftsvertrag die Kohäsion und bricht auseinander. Das Spiel mit der Ungewissheit
ist die Superkraft dieser Angriffe. Es geht den Trumps und Putins gar nicht darum, dass Leute ihnen glauben.
Es geht ihnen darum, dass Leute gar nichts mehr glauben. Und das macht es zu einer wirklich dreckigen Form
der Kriegsführung. Das zersetzt vor allem die Strukturen, die auf Mitbestimmung, offener Kommunikation
und Demokratie basieren und hilft solchen, in denen einzelne Machthabe herrschen, den Ton angeben und die
öffentliche Kommunikation kontrollieren. Demokratien können im Cyberkrieg nur verlieren. Deshalb sollten
alle, die demokratisch sind und das auch bleiben wollen, nicht nur tunlich darauf verzichten, aktiv
darauf hinarbeiten, dass es möglichst alle internationalen Player sich an diesem Verzicht beteiligen.
Die vorhandenen Kräfte sollten auf Abwehr von Angriffen und auf IT-Sicherheit kritischer Infrastruktur
konzentriert werden. Dazu gehören auch die Köpfe der einzelnen Menschen, die in die Lage versetzt werden
müssen, zu erkennen, wann sie und ihre Interessen instrumentalisiert werden. Digitale Mündigkeit wird
individuell und gemeinschaftlich zu einem Kernelement der Cyberabwehr. Deshalb gehören Methoden des
Infokriegs, also der Diskursvergiftung, umgehend, international geächtet, mit allen Begleiterscheinungen,
mit einer unabhängigen Kommission, die ständig ermittelt, mit klaren Kriterien zur Identifikation dieser
Waffe und mit saftigen Konsequenzen für die, die sich nicht daran halten und damit aufgeflogen sind.
Das ist allerdings leichter gesagt als getan. Denn wie will man ein Computerprogramm quantifizieren?
Anders als eine Granate kann man es ja beliebig oft einsetzen. Vereinbarungen mit dem Tenor, jeder von uns
darf nur einen Flugzeugträger besitzen, funktionieren hier nicht mehr. Außerdem müsste die Ächtung noch
viel weitergehen. Wahlen, die im dringenden Verdacht stehen, aus dem Ausland beeinflusst worden zu sein,
dürfen nicht einfach unangefochten stehen bleiben. Andererseits dürfen wir den demokratischen Prozess
auch nicht dadurch blockieren, dass eine Wahl nach der anderen ihre Ungültigkeit verliert.
Hier ist Feingefühl von Nöten. Man darf auf gar keinen Fall überreagieren und damit beispielsweise die
Meinungsfreiheit touchieren. Es braucht Instrumente, die Sorge tragen, dass dieser Mechanismus nicht
wiederum missbraucht wird. Und das alles muss international ausgehandelt und vorangetrieben werden.
Es ist ein ziemlich dickes Brett, was wir hier bohren müssen. Doch wenn wir nicht endgültig Richtung
Dystopie abbiegen wollen, sollten wir umgehend den Bohrer ansetzen.
[Applaus]
[Musik]