[Musik] Der nächste Talk hat den Titel "Digitale Mündigkeit" und ist von Lena, die sich mit digitaler Mündigkeit beschäftigt und Technikpaternalismus. Und was das ist, wird sie selber erzählen. Hallo. Ja, danke. Hi. So viel erzählen wollte ich gar nicht, weil bei der letzten Lesung, die ich gemacht habe, habe ich dann ganz viel geredet und dann hinterher dasselbe nochmal vorgelesen. Und deswegen dachte ich, ich fange einfach erstmal an mit Lesen. Ich habe im Mai nicht mein erstes Buch allgemein herausgebracht, denn diese kurz und mündig büchlein da hinten sind ja auch Bücher und davon habe ich schon ein paar geschrieben, aber das erste so richtige große. Und das ist ganz schön aufregend, so ein Buch geschrieben zu haben. Und vor allen Dingen ist es schön, wenn man später nochmal drin liest und weiterhin zufrieden mit dem, was da drin steht. Und es macht mir tatsächlich auch Spaß, da drin zu lesen. Und deswegen dachte ich, ich lese euch mal ein bisschen was daraus vor und freue mich natürlich, wenn es euch neugierig macht, mehr zu hören. Ja, und ich fange einfach mal an, oder? Aber erst trinke ich einen Schluck. Trinken nicht vergessen. Digital hat Charme. Der Traum vom perfekten DJ. In jungen Jahren wünschte ich mir einen persönlichen DJ. Eine Person, die mich unaufdringlich begleitet und mir in jedem Moment die Musik auflegt, die ich gerade hören möchte, die zu meinem Gemütszustand passt oder einen angestrebten Gemütszustand hervorruft. Diese Person müsste sich so gut mit meinem Musikgeschmack und mit meinen Stimmungen auskennen, dass sie sogar besser wüsste als ich, was ich gerade hören möchte. Dafür würde ich mich diese Person eine Zeit beobachten und mein Verhalten zu studieren. Es ließe sich nicht vermeiden, dass sie sich nicht nur über meinen Musikgeschmack, sondern über mein gesamtes Leben einen guten Überblick bekäme und mich vielleicht sogar besser kennenlernte als ich mich selbst. Diese Informationen sollte sie dann nutzen, um mir die passende Musik aufzulegen, noch ehe ich darüber nachdenken konnte, welche Musik eigentlich passen würde. Mein Beitrag würde sich darauf beschränken, festzustellen, dass es tatsächlich gerade die bestmögliche Musikauswahl wäre und meinem DJ anerkennend zuzunecken. Selbstverständlich wollte ich dazu keinen Menschen versklaven. Bezahlen kann man so einen Vollzeitbegleitservice auch nicht und abgesehen davon, dass ich es damals schon ablehnte, mich überwachen zu lassen und mir das Gefühl nicht gefallen hätte, ständig überall hin begleitet zu werden. Es blieb bei einer wilden Fantasie, auch deshalb, weil es recht unrealistisch ist, dass der eigene Musikgeschmack derart präzise erfasst werden könnte. Oder nicht? Als ich Mitte der Nullerjahre auf die Musikempfehlungsseite Last FM stieß, legte ich mir sofort einen Account an. Last FM zeichnete von da an die Musik auf, die ich am Rechner hörte und empfahl mir ähnliche Interpretinnen. Ich konnte mir sogar ansehen, was meine Freunde gerade hörten, Musik kommentieren und sogar meinen OK Player, damals war MP3 noch nicht frei und deswegen musste man natürlich für freie Formate das OK Format verwenden, an das System anschließen. Es erstellte mir eine Statistik meiner Lieblingslieder und Bands, verglich meinen Musikgeschmack mit dem meiner Freunde und stellte mir Menschen vor, die einen sehr ähnlichen Musikgeschmack hatten wie ich. Dies entsprach in weiten Teilen meinen Vorstellungen. Eine Software hat den Vorteil, dass man sie nicht versklaven muss, damit sie für einen rund um die Uhr arbeitet. Man muss allerdings andere Dinge in Kauf nehmen. Zum Beispiel gibt es keine Funktion, um mein Profil vor der Öffentlichkeit zu schützen. Die Geheimhaltung meines Nicknames war eigentlich die einzige Möglichkeit, meine Privatsphäre zu schützen. Doch den musste ich ja bekannt geben, wenn ich mit Freunden Musikempfehlungen tauschen wollte. Wer meinen Benutzernamen kannte, konnte sehr viel über mich herausfinden. Außerdem band das mich an den Computer. Einer meiner Lieblingsinterpreten rutschte auf der Skala weit nach unten, weil ich seine Musik noch häufig über die Schallplatte oder CD hörte, die eben nicht an das System angeschlossen sind. Andere Interpretinnen, die ich gar nicht besonders mochte, die sich aber als Hintergrundmusik gut eigneten und die ich gerne zum Arbeiten oder Aufräumen hörte, schnellten im Ranking nach oben. Das System konnte nicht wahrnehmen, mit welcher Intensität ich ein Stück hörte. Ob ich nebenbei telefonierte oder mit geschlossenen Augen jede einzelne Note verfolgte, wurde nicht erfasst. Das führte dazu, dass ich begann, mein Musikhörverhalten so zu verändern, dass die angezeigte Rangliste eher dem entsprach, wie ich selbst meinen Musikgeschmack einschätzte. So beeinflusste mich die Software in dem, was ich hörte und verursachte eine Art Rückkopplung. Was dem Programm zu dem von mir fantasierten leibhaftigen DJ noch fehlte, war die Einschätzung meines Gemütszustandes. Es konnte mir nicht sagen, welche Musik jetzt im Moment zu mir passt, sondern nur, welche mir allgemein gefallen könnte. Doch von der Berechnung des Gemütszustandes durch Software sind wir heute gar nicht mehr weit entfernt. Es ist nur noch eine Frage der Zeit, bis es diesen persönlichen DJ, der meine Stimmungen erkennen und anhand dieser bestimmen kann, was ich gerade hören möchte als App gibt. Vielleicht sogar mit all den Dingen, die ich mir damals gewünscht habe. Nicht mal als Luxusartikel, sondern für alle Menschen bezahlbar. Leider müssen wir befürchten, dass bezahlbar in einer Währung passieren wird, die wir alle haben und die uns kein Geld, sondern unsere Privatsphäre kostet. Denn es gibt einen wichtigen Unterschied zum persönlichen DJ. Er wäre nur ein Mensch, der mich beobachtet und sich ständig in meiner Umgebung aufhält. Ich würde diese Person ebenfalls kennenlernen und es bliebe ihr keine Zeit, etwas mit ihrem Wissen über mich zu machen, da sie ja immer damit beschäftigt wäre, mich zu beschaffen. Ein Unternehmen, das mir eine Software anbietet, die die gleiche Arbeit leistet, wird sich das genauso teuer bezahlen lassen wie ein persönlicher DJ nur eben in einer anderen Währung. Doch hierbei handelt es sich um mehrere Personen, die ich nicht kenne und nicht einschätzen kann. Würde ich den Dienst dennoch in Anspruch nehmen, wenn, wann passiert es schon mal, dass man eine derart unrealistische Jugendwunschstraum-Utopie so einfach erfüllt bekommt? Mein Computer kennt mich besser, als ich mich selbst kenne, denn er beobachtet mich dauerhaft und zeichnet alles unverfälscht auf. Oder vielleicht doch nicht? Anscheinend könnte es auch hier zu Fehlern kommen, denn ich habe ja schon bei meinem Experiment mit Last.fm bemerkt, dass ich mein Verhalten dem Programm bewusst anpasste, um Fehler auszugleichen. Wie oft ist das wohl unbewusst passiert? Und wie sehr würde ich mich einer Firma ausliefern, die derart gut über meinen Gemütszustand informiert ist? Würde ich ihr damit nicht auch die Macht geben, meine Stimmung zu manipulieren? Was, wenn der DJ auf einmal anfängt, mir meine mühsam erarbeitete melancholische Stimmung zu verderben, indem er mir statt "A Whiter Shade of Pale" mit "If You Want to Sing Out, Sing Out" das Lied auftischt, dem keine meiner schlechten Launen standhält? Im besten Fall könnte die Software entscheiden, ob ich meine Laune gerade konserviere oder ändere. Im schlimmsten Fall würde die Software das nicht anhand meiner Wünsche ermitteln, sondern anhand der Wünsche der Person, die meinen DJ-Dienst betreibt. Beide Fälle finde ich beunruhigend. Ich finde es beunruhigend, wenn ein Stück Technik besser über mich Bescheid weiß, als ich selbst oder meine engsten Freundinnen und Freunde. Ich finde es erst recht beunruhigend, wenn ich zu bequem werde, für mich selbst wahrzunehmen, welche Gefühle ich habe. Am beunruhigendsten finde ich es aber, wenn ich die Macht über meine Launen zu bestimmen, potentiell an Dritte abgebe, von denen ich nicht mehr weiß, wer das eigentlich ist, geschweige denn, was ihr Anliegen ist. Am allerbeunruhigendsten finde ich allerdings, wie wenige Menschen sich derartige Fragen stellen, bevor sie einen solchen Dienst nutzen. Welche Auswirkungen auf die Gesellschaft würde es haben, wenn wir alle einen solchen DJ-Dienst nutzen würden? Leider bleibt es nicht bei den Diensten, denen man sich freiwillig und unreflektiert unterwirft, weil sie einen albernen Wunschraum erfüllen. Immer mehr Anwendungen sind für uns gar nicht mehr vermeidbar, bzw. ein Verzicht darauf hat für uns ernsthafte Konsequenzen. Wenn ich dem Staat nicht meine Fingerabdrücke anvertrauen möchte, weil er entgegen aller ursprünglichen Beteuerungen mein biometrisches Bild nicht so gut geschützt und stattdessen an Staatsverfolgungsbehörden weitergegeben hat, dann kann ich den Schengenraum nicht mehr verlassen. Wenn ich anonym Bahn fahren will, muss ich mittlerweile viele Unannehmlichkeiten auf mich nehmen und in der Regel mehr Geld bezahlen. Wenn ich mit Freundinnen kommunizieren will, werde ich genötigt WhatsApp zu nutzen und wenn ich morgens ein warmes Büro vorfinden möchte, muss ich mir eine Smart-Home-App auf dem Handy installieren, mit der ich die Heizung bequem steuern kann. Ich kann nicht mal bei Klobetrotter im Laden ein paar Schuhe bestellen, ohne dass in meinem Namen ein Benutzer-Account bei deren Online-Shop erstellt wird, für den ich meine Postadresse nebst weiteren Informationen angeben muss. Viele Banken verlangen mittlerweile für Kreditkartenzahlungen, dass man ihre App installiert, die es natürlich auch nur im Google Play Store gibt, für die man die völlig inakzeptable Google-AGB akzeptieren muss. Besonders unausweichlich ist die Zwangsdigitalisierung im medizinischen Sektor. Ohne die elektronische Gesundheitskarte erhalte ich keine medizinische Versorgung und wenn ich meiner Krankenkasse einen analogen Brief schicke, dann adressiere ich den ans Scan-Zentrum, wo er, Sie ahnen es schon, digitalisiert wird, bevor er an meine Sachbearbeiterin weitergeleitet wird. Ich liebe Technik. Ich liebe mein Smartphone und meinen Computer. Ich liebe die vielen Möglichkeiten, die sich daraus für Demokratie und für die menschliche Kommunikation ergeben. Ich finde es herrlich, dass man für einen alten gebrauchten Staubsauger online eine Betriebsanleitung finden kann und dass einsame Menschen im Netz Gleichgesinnte finden. Und ich bin überaus glücklich darüber, dass kranke Menschen durch digitale Technik besser mit ihren Krankheiten umgehen und sogar die Heilungschancen verbessern können. Gerade weil ich das große Potential sehe, das in der Digitalisierung steckt, halte ich es für notwendig, sich kritisch damit auseinanderzusitzen, wohin uns die technische Entwicklung führen soll. Es gibt bis heute kein allgemeingültiges ethisches Gerüst, nachdem wir die Richtung, die die Technikentwicklung nehmen soll, ausrichten können. So verfolgen die Internetkonzerne zum Beispiel ganz andere Ziele als die Menschen, die früher Mailboxen betrieben haben und heute freie Netze fordern. Ich glaube, hier sitzen ein paar im Zelt. Jetzt habe ich mich selber rausgebracht. Wo sind denn jetzt die freien Netze? Da. Manchmal ist es ja wirklich. Regierungen und mächtige politische Kräfte nutzen das Netz für die Manipulation von Wahlen und politischen Entscheidungen. Siehe zum Beispiel Brexit. Anderen wiederum ermöglicht das Internet am Leben teilzunehmen. Menschen mit Behinderungen zum Beispiel. Oder sich weltweit Freunde zu suchen. Darin steckt die Chance im Sinne von Berthold Brechtz und Andy Warholz, dass jeder und jeder seinen persönlichen Raum bekommt, sich zu verwirklichen. Gleichzeitig aber stellen eben Konzerne diesen Raum zur Verfügung und nutzen ihn für ihre Geschäftsinteressen aus, indem sie Regeln diktieren und zentralisieren. Damit drohen sie, andere Pflanzen unseres Gemeinschaftslebens zu verdrängen. Gerade weil ich die technische Entwicklung begrüße und mir viel davon erhoffe, bin ich ihr gegenüber besonders kritisch. Gerade weil ich es als Privileg empfinde, in genau dieser Umbruchszeit zu leben, sehe ich mich in der Verantwortung, meinen Teil dazu beizutragen, dass sie sich in eine wünschenswerte Richtung entwickelt. Kommen wir zur Frage, wie wir mit den vielen Möglichkeiten, die uns die digitale vernetzte Kommunikation bietet, eigentlich umgehen wollen. Wenn daraus etwas werden soll, was den Menschen gut tut, was ihnen zur Demokratie und einer friedlichen Welt verhilft, dann sollten wir uns an unseren Umgang damit einen gewissen Anspruch stellen. Ein mündiger Umgang mit Technik, der sie weder verteufelt noch blind bejubelt, würde diesem Anliegen entsprechen. Mündigkeit nicht nur im Sinne von mature, weil uns jemand gesagt hat, dass wir das jetzt dürfen, weil juristisch und so, sondern auch im Sinne von responsible, weil wir bereit sind, Verantwortung für das zu tragen, was wir da tun. Digitale Mündigkeit ist das Bewusstsein, dass es ein Problem mit der Technik, die man benutzt, geben könnte. Es ist die Bereitschaft, Verantwortung für das eigene Handeln zu übernehmen, in Bezug auf die eigenen Interessen, aber auch in Bezug auf die Interessen anderer Menschen und auch in Bezug auf das Interesse der Menschen als Gesamtgruppe. So. Ich blättere mal ein bisschen vor, muss ja nicht alles aus dem Anfang sein. Ich habe ein recht großes KI-Kapitel. KI, wir wissen, komplexe Imitationen auf Englisch, Advanced Imitation, also AI, aber ich bleib mal bei KI und ich, ja wir reden so viel über KI, ich bin da mal so ein bisschen nach vorne gesprungen in das Kapitel, ich bin so froh, dass ich kein falsch positiv bin. Häufig geht es bei der KI um Zuordnung oder Vorhersagen. Ist jemand kreditwürdig? Wird jemand einen Verbrechen begehen? Ist eine Person empfänglich für Werbung meines Produkts? Soll ich eine Person einstellen? Befindet sich auf dem Foto ein Auto? Könnte die Person gleich einen Terroranschlag verüben? Der offensichtliche Wert, den man zunächst ins Auge fasst, ist, wie oft der Algorithmus Recht hat. Also wie viele Terroristen hat er tatsächlich erkannt? 100%? Na fantastisch, dann können wir ja nach Hause gehen. Leider nicht, denn neben dem Wert der korrekten Zuordnung, dem true positive, gibt es einen weiteren sehr relevanten Wert, das falsch positiv, also die falschlicherweise als Terroristen markierten Menschen, die aber ganz und gar keine Terroristen sind. Wenn eine KI die Hälfte aller Menschen als Terroristen einstuft, ist es nicht verwunderlich, wenn darunter auch 100% alle Terroristen sind. Beim falsch positiv kommt erschwerend hinzu, dass es für die Betroffenen sehr weitreichende Folgen haben kann und dass schon ein sehr kleiner Prozentsatz ein sehr großes Problem darstellt. Im Pilotprojekt zur Gesichtserkennung am Berliner Bahnhof Südkreuz wurde mit hervorragenden Ergebnissen geprahlt. 70 bis 80% true positives wurden gemessen und stolz verkündet. Der Wert der false positives blieb zunächst vage mit unter einem Prozent, was sich doch irgendwie nach richtig wenig anfühlt. Das Ganze wurde als Erfolg gefeiert. Doch wer nachrechnet und weiß, dass am Südkreuz täglich ca. 100.000 Menschen unterwegs sind, stellt fest, pro Tag würden bei dieser kleinen Rate bis zu 1.000 Menschen falsch zugeordnet. Selbst beim später verkündeten Wert von 0,1% wären das noch immer 100 falsche Kriminelle am Tag, 36.500 im Jahr. Gemessen am Ziel der Übung, nämlich Kriminelle zu erkennen, ist das eine viel zu hohe Zahl. Und das Problem ist real. Es sammeln sich immer mehr Beispiele für solche Fehler. In Georgia musste im Dezember 22 ein Mann fast eine Woche im Gefängnis verbringen, ehe sich herausstellte, dass ihn die Gesichtserkennungssoftware fälschlicherweise für einen gesuchten Dieb hielt. Das Beispiel ist besonders pikant, weil der Mann schwarz ist und die Gesichtserkennungssoftware hier rassistischerweise besonders fehleranfällig ist, weil sie vornehmlich an Weißen trainiert wird. Aber auch wenn die Gesichtserkennung korrekt arbeitet, wird sie in immer problematischeren Situationen eingesetzt. Stellen Sie sich vor, Sie wollen Ihr Kind zu einem Schulausflug ins Musical begleiten und werden als einzige Mutter nicht reingelassen. Warum? Weil Sie für eine Kanzlei arbeiten, die in einen Rechtsstaat gegen den Betreiber des Musicals involviert ist. Dies geschah ebenfalls Ende 22 in den USA, diesmal in New York. Während Gesichtserkennung immer häufiger, sehr willkürlich und fehlerhaft eingesetzt wird, ist Ihr Nutzen äußerst überschaubar. Angenommen, es laufen pro Monat 10 Kriminelle über den Bahnhof Südkreuz. Dann würde diese angeblich so erfolgreiche Software acht davon erkennen, bei 80 Prozent True Positives. Und gleichzeitig würde sie 3.000 Unschuldige als kriminell bezichtigen, 0,1 Prozent False Positives, und ihnen entsprechend die Polizei auf die Fersen jagen. Unberechtigte Befragung und zu spät kommen bei der Arbeit inklusive, während die Polizei versucht, unter den gut 3.000 Menschen die acht Kriminellen zu finden. Mag sein, dass Sie das anders sehen, aber ich betrachte das nicht als erfolgreichen Test. Zumal sogar diese denkbar schlechten Ergebnisse im Verdacht stehen, noch geschönt zu sein. Stellen Sie sich diese Rate an Falschpositiven mal bei einem Feueralarm in Ihrem Büro vor. Wenn täglich zehnmal der Feueralarm losgeht, werden Sie spätestens nach drei Tagen nicht mehr aufstehen und hinauseilen, wenn es wieder klingelt. Dumm nur, wenn es dann wirklich mal brennt und keiner mehr mit einem True Positiv rechnet. Es gibt übrigens auch True Negative und False Negative. Auch hier möchte man lieber nicht zu den Falschen gehören, denn hier geht es darum, fälschlicherweise aussortiert worden zu sein. Beispielsweise bei einer Arbeitsstelle, für die man eigentlich sehr wohl in Frage käme, aber versehentlich falsch bewertet wurde. Oder bei der Frage, ob man von der Bank einen Kredit erhält. Ein False Negative ist hier genauso gemein wie ein False Positiv beim Terroristen-Detektor. Ja, also ich versuche immer so ein bisschen, ich habe das tatsächlich durchgekämmt mit meinem bald, wie alt wird er? 80-jährigen Vater. Ich habe versucht, so zu schreiben, dass es also nicht viel Vorkenntnisse voraussetzt und trotzdem Spaß macht. Es ist also Eltern-kompatibel. So, jetzt habe ich leider festgestellt beim Probelesen, dass ich die paternalistische Ampel überspringen muss. Die wollte ich eigentlich auch mit vorlesen, weil das ist ein schönes, so eine Parabel. Philosophinnen machen das immer sehr gerne, dass sie irgendwelche abstrusen Beispiele vorstellen. Aber die überlasse ich dann mal euch, das selber zu lesen. Weil ich will lieber mal nochmal in den Bereich reinschnuppern, in dem es darum geht, wie sie Licht ins Dunkel der Black Box bringen. Die gute Nachricht ist, man kann sich aus der Entmündigung befreien. Das bedarf einiger Übungen und ist deshalb auch nicht ganz ohne Zeitinvestition zu erreichen. Doch mit der notwendigen Bereitschaft und mit Durchhaltevermögen lässt es sich durchaus in den Alltag integrieren. Die Größe der Schritte können Sie individuell anpassen. Ganz am Anfang steht ein Haltungswechsel. Indem Sie für sich in Anspruch nehmen, die Verantwortung für Ihre digitalen Handlungen zu tragen, haben Sie das Wichtigste schon getan. Die notwendigen Fragen werden sich dann von alleine aufwerfen. Hier geht es darum, wie das konkret aussehen kann. 30 mündige Minuten. Beachten Sie, so oft es Ihnen möglich ist, die goldene 30-Mündigkeits-Minuten-Regel. Sie lautet, versuchen Sie ein Computerproblem immer erst mindestens 30 Minuten lang selbst zu lösen. Der Einsatz von Suchmaschinen ist dabei ausdrücklich erlaubt. Bitten Sie erst dann nach um Hilfe. Inspiriert wurde diese Regel übrigens vom Nummer 627XKCD, Technical Support Cheat Sheet. Ich weiß nicht, wer ihn kennt, aber wer XKCD kennt, .com/627, kann man sich durchlesen. Das hat gleich zwei Vorteile. Erstens, Sie üben sich, Problemen selbst zu stellen, dem Erforderungsgefühl zu trotzen und lernen ganz nebenbei sehr viel dazu. Zweitens, Sie sieben die einfach zu lösenden Probleme vorher aus. Wenn Sie damit anfangen, werden Sie überrascht sein, wie häufig Sie in 5-10 Minuten selbst eine Lösung finden. Sie brauchen also viel seltener Hilfe in Anspruch zu nehmen. Die Menschen, die Sie bei Ihren Problemen unterstützen, werden es Ihnen danken. Denn die können sehr gut erkennen, ob es sich um ein wirkliches Problem handelt oder ob Sie nur zu faul waren, selbst zu meta gären. Ich spreche da aus Erfahrung und zwar aus beiden Richtungen. Wenn Sie sich dann doch Hilfe holen, lassen Sie sich nicht das Gerät bzw. die Tastatur aus den Händen nehmen. Auch wenn Sie von Tuten und Blasen keine Ahnung haben, behalten Sie die Kontrolle. Lassen Sie sich bei der Bedienung Ihrer Geräte helfen, aber geben Sie sie nicht ab. Passwörter kennen nur Sie und wenn sie gebraucht werden, geben Sie sie ein. Lassen Sie sich erklären, was man mit Ihrem Gerät gerade macht und führen Sie sich vor Augen, dass es auch dann in Ihrer Verantwortung liegt, was damit geschieht, wenn Sie gar nicht richtig verstehen, was da gerade passiert. Wirkere Flex überwinden. Ist ja alles schön und gut, werden Sie jetzt vielleicht sagen, aber ich habe nun mal kein Informatikdiplom und kenne mich nicht ausreichend mit Computern aus. Mit diesem Gefühl der Überforderung sind Sie wahrlich nicht alleine. Für einen mündigen Umgang mit digitalen Geräten ist es aber gar nicht nötig, Informatik zu studieren. Über Medienkompetenz haben wir schon hinlänglich gesprochen, weiter vorne, aber arbeiten Sie mit den Fähigkeiten, die Sie haben und eignen Sie sich Stück für Stück die an, die Sie brauchen. Wir hatten das bereits davon, dass Sie auch ohne eine Ausbildung als Lebensmitteltechnikerin einkaufen gehen können. Oder würden Sie sich mit dem Satz, ich kann das eh nicht, ich habe halt keine Lebensmitteltechnik studiert, eine verschimmelte Orange in den Einkaufswagen legen? Eben. Sie tragen Verantwortung für das, was Sie sich und Ihren Liebsten in den Mund schieben, unabhängig davon, wie gut Sie sich mit dem Produkt auskennen. Kant würde hier von einem Mangel an Entschlossenheit sprechen, doch anstatt Ihnen weiter mit einem erhobenen Zeigefinger zu kommen, möchte ich Ihnen lieber etwas von Ratten erzählen. Von zwei ganz speziellen Ratten, um genau zu sein. Beide sind animiert und stammen aus dem Disneyfilm Ratatouille. Remy und Emil sind Brüder. Der erste ein Feinschmecker, der andere ein Allesfresser. Als Emil sich mal wieder eine undefinierbare Ekelhaftigkeit in den Mund schiebt, fragt Remy, wie er das fressen kann. Emils lapidare Antwort, wenn man den Würgereflex erstmal überwunden hat, geht's. Solch einen Würgereflex kennen wir auch bei Computern. Um das zu verstehen, müsste ich mich jetzt erstmal schlau machen und eindecken, dafür habe ich gerade echt nicht den Nerv. So spucken wir viele Computerverständnisfragen wieder aus, noch bevor wir uns wirklich auf sie eingelassen haben. Und das geht nicht nur denen so, die sich kaum mit Computern auskennen. Diesen Würgereflex haben fast alle, die mit Computern zu tun haben, nur die einen haben gelernt, sich davon nicht abhalten zu lassen. Und auch hier gilt, wenn man den Würgereflex erstmal überwunden hat, ist das gar nicht mehr so schlimm. Es ist kein Wunder, dass wir uns nur ungern auf etwas einlassen, von dem wir gefühlt vielleicht 5% verstehen. Aber daran ändert auch ein Informatikstudium nichts. Das führt höchstens dazu, dass sie danach gefühlt 40% verstehen. Wer mit Computern arbeitet, wird nicht umhin kommen zu akzeptieren, dass einem stets ein bedeutender Anteil der Sache unklar ist. Diese Einsicht ist einer der wichtigsten Unterschiede zwischen Computermuggeln und Computerzauberern. Erstere lassen sich von den vielen Unbekannten abschrecken und verunsichern. Zweitere suchen im Wust der Unklarheiten nach dem, was sie kennen und brauchen und halten sich daran fest und ignorieren den Rest. Spucken Sie die Sache also nicht gleich wieder aus, wenn Sie sie nicht verstehen. Nehmen Sie den Würgereiz zur Kenntnis, wenn er auftaucht, begrüßen Sie ihn und dann stellen Sie ihn erstmal beiseite. Nach 30 Minuten können Sie ihn ja wieder rausholen, wenn er dann überhaupt noch nötig ist. Ich bräuchte mal eine Zeit. 15 Minuten. Oh, ich habe nämlich hinten, es kommt so ein schönes Kapitel, was mir sehr wichtig ist. Mal gucken, aber das braucht nämlich einen Moment. Mal sehen, wo wir da jetzt landen. Ich habe schon so viel rausgeschmissen. Ja doch, nein, aber es passt perfekt, weil wir kommen jetzt genau dahin. Jetzt bin ich mal ganz vorgesprungen in das Kapitel "Freiheit, Demokratie und Manipulation" und den Teil über die Polarisierung und den, was ich eigentlich auch gerne gelesen hätte, wäre das über den manipulierten Souverän. Also was passiert, wenn in einer Demokratie der Souverän eigentlich gar nicht mehr frei entscheidet, sondern so manipuliert wird, dass man gar nicht mehr weiß, ist das jetzt schon frei oder nicht oder was ist das jetzt. Aber es gibt ein anderes Kapitel, das mir tatsächlich sehr am Herzen liegt und für das ich mir noch ein kleines bisschen Zeit aufheben wollte. Das setzt auch, knüpft auch ein bisschen an einen Vortrag, den wir hier schon ganz am Anfang des Camps hatten von Annalisa Gonzior, der ich herzlich danke, weil sie mir nämlich auch Inspiration geliefert hat für dieses Kapitel. Es geht hier um Cyberkrieg und Infokrieg. Warum es demokratische Gesellschaften bis ins Mark erschüttern kann, wenn kein Vertrauen und keine gemeinsame Wissensbasis mehr besteht, haben wir schon besprochen. Beim sogenannten Cyberkrieg wird dieses Problem ganz besonders offensichtlich. Aber bevor wir uns auf dieses Thema stürzen, möchte ich kurz auf die Begriffe eingehen. Die Kriegsrhetorik ist nämlich nicht ganz unproblematisch. Zumindest kann man darüber streiten, ob die sprachliche Gleichsetzung mit Krieg ein Zustand, in dem Menschen einander physische Gewalt antun und einander töten, angemessen ist. Sascha Lobo empfiehlt, andere Begriffe zu verwenden und beispielsweise von Cyber-Sabotage oder von Diskursvergiftung zu sprechen. Das finde ich einerseits sehr sinnvoll, da ist klarer benennt, was eigentlich konkret passiert. Andererseits wird psychische Gewalt selten so ernst genommen wie physische Gewalt und hier richtet sich der psychologische Angriff gegen eine ganze Menschengruppe. Es ist wichtig, diesen Angriff auch in seiner Tragweite zu betrachten und sich klar zu machen, dass es sich tatsächlich um einen kriegerischen Akt handeln kann. Auch digitale Technik kann als Waffe eingesetzt werden und auch darüber müssen wir sprechen. Wer einen Staat angreifen oder nachhaltig schwächen möchte, kann dies ganz subtil durch Manipulation der Massen schaffen, beispielsweise indem man das Vertrauen in das politische Zusammenleben systematisch untergräbt. Im Infokrieg, also das was Sascha Lobo Diskursvergiftung nennt, verbreitet man gezielt Unwahrheiten, um ganze Systeme ins Wanken zu bringen. Dazu muss man nur eine vorhandene Unzufriedenheit von Menschen und Gruppen gezielt zu Wut katalysieren. Das hat verschiedene Wirkungen. Erstens, es destabilisiert direkt vor Ort. Das muss nicht unbedingt schlecht sein, Veränderungen setzen das sogar manchmal voraus. Nur sollten diese von den Leuten vor Ort initiiert sein. Zweitens, es verschleiert die wahren Akteure. Wenn Menschen zu einer bestimmten Protestform nur deshalb gelangt sind, weil ein externer Akteur ihnen diese professionell und unbemerkbar in den Kopf gelegt hat, werden Menschen mit Anliegen durch Machthaber anderer Staaten instrumentalisiert, die sich für das Anliegen an sich überhaupt nicht interessieren. Drittens, es verunsichert. Bei Protesten ist nicht mehr klar, ob diese tatsächlich aus sich heraus entstanden sind oder ob sie Teil einer Instrumentalisierung durch andere Machtinteressen sind. Cyberkrieg, also Cyber-Sabotage, kann unterschiedlich aussehen. Er kann auf die Gemüte der Bevölkerung des gegnerischen Landes abziehen. Er kann sich aber auch gegen kritische Infrastruktur wie Krankenhäuser oder die Stromversorgung richten. Oder er bleibt auf Militäreinrichtungen beschränkt. Aber wie soll man das je sicher feststellen können? Wenn Angriffe nicht mehr identifizierbar sind und deshalb fingierbar werden, besteht eine so große Unklarheit, dass sinnvolle Aktionen und Reaktionen gänzlich unmöglich werden. Man weiß also nicht mehr, war das nur ein Angriff, falls ja, also war das nun ein Angriff, falls ja, aus welcher Richtung kam er? Deuten die gefundenen Hinweise auf den tatsächlichen Angreifer hin? Oder sind es gefälschte Spuren, die mich gegen den Feind des Angriffers aufhetzen sollen? Wie kann man sicher sein, dass kritische Infrastruktur wie Krankenhaus- oder Feuerwehr-IT- oder Gaspipelines nicht zum Angriffsziel werden? Wie kann zwischen Zivilist*innen und Militär unterschieden werden? Nicht jede Manipulation kommt von Bots oder Geld fixierten Algorithmen. Überwachungskapitalismus habe ich weiter vorne geschrieben. Neben dem Streben nach Profit dienen Missinformationen, Destabilisierung, Zank und Krach auch der schnöden alten Macht. Die Politik bedient sich der destruktiven Mechanismen der Vernetzung sowohl zur Manipulation der eigenen Bevölkerung als auch dafür, sich in die Politik anderer Länder einzumischen. Und das geht so. Man mache sich bewusst, wer der Gegner ist. Dann suche man innerhalb dieses Umfelds nach bestehenden Meinungsverschiedenheiten. Je saftiger, desto besser. Besonders gut eignen sich dabei Themen wie Diskriminierung oder Antisemitismus. Wichtig ist, es muss ein wahrer Kern in der Sache stecken und es ist von Vorteil, wenn es keine offensichtliche, einfache Lösung für den Konflikt gibt. Und dann wendet man den alten Agententrick an und unterstützt beide Seiten. Dabei gibt man sich in der Regel viele verschiedene Identitäten auf Social Media, die sich als ganz normale Menschen ausgeben und den Disput immer weiter eskalieren. Es gibt diverse Taktiken. Die offensichtlichste ist, dass man die vielen verschiedenen Identitäten, die zunehmend den Ton angeben, einander zustimmen lässt. Aber man kann auch eine Seite schwächen, indem man jemanden in ihrem Namen auftreten lässt und dabei völligen Irrsinn verbreitet. Und da wären wir. Destabilisierung. Der Gegner ist zerstritten und damit abgelenkt und im schlimmsten Fall handlungsunfähig. Sie fragen sich, weshalb die Gesellschaft sich immer weiter polarisiert? Weil es Parteien gibt, die davon profitieren. Und das Schlimmste ist, der ausgewählte und zur Eskalation getriebene Konflikt beschreibt meist ein sehr wichtiges und ernstes Anliegen. Wenn sich eine Gruppe gegen fortwährende Diskriminierung zur Wehr setzt, hat sie alles Recht, sich zu freuen, wenn auf dieses Thema endlich Aufmerksamkeit fällt. Den Beteiligten ist selten bewusst, dass dies nur das Abfallprodukt eines Manövers ist, indem ihr Anliegen für ein ganz anderes Spiel instrumentalisiert wird. Das macht das Anliegen nicht weniger wichtig, aber es bedeutet eben, dass der geführte Dialog gar nicht auf die Lösung des Anliegens ausgerichtet ist, sondern im Gegenteil, die Fronten eher noch verhärten soll. Wenn man einmal anfängt, die Wirklichkeit auf diese Strategie hin abzuklopfen, muss man sehr aufpassen, nicht paranoid zu werden. Ich merke schon, wir brauchen wieder ein Beispiel. Als Präsident Putin am 24.02.22 der russischen Armee befahl, das Nachbarland Ukraine anzugreifen, gab es weltweit überwältigende Solidarität. Menschen nahmen Geflüchtete auf, Züge fuhren sie kostenlos in die Nachbarländer, Resolutionen wurden verabschiedet, Waffen geschickt, Sanktionen beschlossen. So einig hatten wir die westliche Welt schon lange nicht mehr gesehen. Dazu trug auch bei, dass die Ukraine, allen voran ihr Präsident Volodomir Zelensky, sehr gut darin war, die Öffentlichkeit auf charismatische Art und Weise anzusprechen. Während wir in Westeuropa den Wert der Demokratie immer mehr aus den Augen verloren, zeigten die Ukrainer sich selbst und der Weltöffentlichkeit, dass sie bereit waren, dafür alles zu riskieren. Doch die neue Einigkeit in der EU hatte selbstverständlich Risse und die zu finden war nicht schwer. Sie sprangen einem förmlich ins Auge, denn die große Solidarität mit den Geflüchteten musste allen befremdlich vorkommen, die sich jemals mit dem Gedanken beschäftigt hatten, dass Europa täglich Menschen im Mittelmeer ertrinken lässt, ja manchmal bewegt sein, und sich nicht an deren Rettung beteiligt und ihre Überlegungschancen sogar noch radikal sinkt. Menschen, die von dieser Gau, dieser größten anzunehmenden Unbarmherzigkeit betroffen sind oder die versucht hatten, etwas dagegen zu unternehmen, mussten sich natürlich fragen, weshalb sie nicht das gleiche Gehör gefunden hatten, wie jetzt zum Glück die Menschen aus der Ukraine. Da das jetzt sehr hilfreich Polen bis dahin mit einer völligen Verweigerungshaltung aufgefallen war, Menschen in Not zu helfen, war es nicht überraschend, dass bald Berichter darüber bekannt wurden, dass nicht weiße Menschen an der Grenze zurückgewiesen wurden. Nach unserem Kochrezept der perfekte Konflikt mit berechtigtem Anliegen und kaum sichtbare Lösung. An dieser Stelle muss ich blank ziehen. Ich habe keine Ahnung, was hier tatsächlich der Wahrheit entspricht. Die Wahrheit ist das erste Opfer des Krieges und ich mache mir keine Illusionen, dass ich aus meiner Perspektive darüber auch nur ansatzweise verfüge. Ich möchte nicht darauf hinaus, dass Sie mir die eine oder die andere Geschichte glauben. Ich verzichte an dieser Stelle ausdrücklich auf belastbare Belege. Ich habe sonst ziemlich viele Fußnoten. Es geht nicht darum, wer hier Recht hat. Es geht darum, zu verdeutlichen, dass es in einer solchen Situation eben nicht mehr möglich ist, wirklich Bescheid zu wissen. Wir wissen, dass wir alle vom Horizont unseres eigenen Tellerrandes und unserer Filterblase begrenzt sind. Wir wissen, dass diese Methoden von allen Parteien angewendet werden. Wir wissen, dass Manipulation auf tiefster psychologischer Ebene stattfindet. Wir wissen eigentlich nur, dass wir gar nichts richtig wissen. Und dann sollen wir aussuchen, wer unser Herzblatt ist. Die eine Stimme, jetzt habe ich hier wieder einen Verweis auf einen Twitter-Kommentar, die darauf aufmerksam macht, dass die berechtigte Kritik am Rassismus an der polnischen Grenze von Putin instrumentalisiert wird, um die europäische Einigkeit zu zerstreuen. Oder die andere Stimme, auch so ein Tweet, damals konnte man ja Twitter noch benutzen, die völlig zurecht moniert, dass es sich dabei wiederum um eine nicht belegte Propaganda handeln könnte. Vielleicht sind ja auch beide Stimmen von russischer Seite gesteuert, oder eine von Russland und eine von der NATO, oder keine von beiden. Vielleicht ist eine oder beide von anderen Stimmen auf die jeweilige Idee gebracht worden, die ihrerseits gesteuert sind. Und falls beide Stimmen völlig unabhängig sein sollten, wer hat dann eigentlich Recht? Und ist es nicht egal, ob man Beifall von der falschen Seite bekommt, wenn das Anliegen berechtigt ist? Ich habe keine Antwort. Ich weiß nur, dass ein Problem in der Regel nicht ausgeräumt wird, wenn es nur das Vehikel für ein ganz anderes Anliegen ist. Und ich weiß, dass wir uns auf diese Weise kein sinnvolles Bild von der Lage machen können. Ich weiß auch, dass wir die Lösung nicht finden, indem wir die Gräben immer tiefer ausheben. Wenn ich den Eindruck haben muss, dass eigentlich jede Information, die mich erreicht, ein potentieller Versuch ist, mich zum Spielball in einem mir unbekannten Machtspiel zu machen, steht mündiges digitales Verhalten nicht mehr zur Debatte. Aber nur, indem ich mir das bewusst mache, habe ich überhaupt eine Chance, mich zu ermündigen. Sokrates lässt grüßen. Auf den bin ich vorher eingegangen. Der Infokrieg, Diskursvergiftung, greift uns nicht auf molekularer oder medizinischer Ebene an. Er zielt auf das Fundament unseres Zusammenlebens, auf die Kommunikation. Er attackiert unser Vertrauen ineinander und unser Vertrauen in unser Urteilsvermögen. Er zersetzt den demokratischen Zusammenhalt bis hin zur tiefsten Ebene, dem Gesellschaftsvertrag. Er hat damit ein desaströses Potenzial. Und zwar auch dann, wenn seine Methoden gar keine Anwendungen mehr finden. Sobald wir alle paranoid genug geworden sind, verliert unser Gesellschaftsvertrag die Kohäsion und bricht auseinander. Das Spiel mit der Ungewissheit ist die Superkraft dieser Angriffe. Es geht den Trumps und Putins gar nicht darum, dass Leute ihnen glauben. Es geht ihnen darum, dass Leute gar nichts mehr glauben. Und das macht es zu einer wirklich dreckigen Form der Kriegsführung. Das zersetzt vor allem die Strukturen, die auf Mitbestimmung, offener Kommunikation und Demokratie basieren und hilft solchen, in denen einzelne Machthabe herrschen, den Ton angeben und die öffentliche Kommunikation kontrollieren. Demokratien können im Cyberkrieg nur verlieren. Deshalb sollten alle, die demokratisch sind und das auch bleiben wollen, nicht nur tunlich darauf verzichten, aktiv darauf hinarbeiten, dass es möglichst alle internationalen Player sich an diesem Verzicht beteiligen. Die vorhandenen Kräfte sollten auf Abwehr von Angriffen und auf IT-Sicherheit kritischer Infrastruktur konzentriert werden. Dazu gehören auch die Köpfe der einzelnen Menschen, die in die Lage versetzt werden müssen, zu erkennen, wann sie und ihre Interessen instrumentalisiert werden. Digitale Mündigkeit wird individuell und gemeinschaftlich zu einem Kernelement der Cyberabwehr. Deshalb gehören Methoden des Infokriegs, also der Diskursvergiftung, umgehend, international geächtet, mit allen Begleiterscheinungen, mit einer unabhängigen Kommission, die ständig ermittelt, mit klaren Kriterien zur Identifikation dieser Waffe und mit saftigen Konsequenzen für die, die sich nicht daran halten und damit aufgeflogen sind. Das ist allerdings leichter gesagt als getan. Denn wie will man ein Computerprogramm quantifizieren? Anders als eine Granate kann man es ja beliebig oft einsetzen. Vereinbarungen mit dem Tenor, jeder von uns darf nur einen Flugzeugträger besitzen, funktionieren hier nicht mehr. Außerdem müsste die Ächtung noch viel weitergehen. Wahlen, die im dringenden Verdacht stehen, aus dem Ausland beeinflusst worden zu sein, dürfen nicht einfach unangefochten stehen bleiben. Andererseits dürfen wir den demokratischen Prozess auch nicht dadurch blockieren, dass eine Wahl nach der anderen ihre Ungültigkeit verliert. Hier ist Feingefühl von Nöten. Man darf auf gar keinen Fall überreagieren und damit beispielsweise die Meinungsfreiheit touchieren. Es braucht Instrumente, die Sorge tragen, dass dieser Mechanismus nicht wiederum missbraucht wird. Und das alles muss international ausgehandelt und vorangetrieben werden. Es ist ein ziemlich dickes Brett, was wir hier bohren müssen. Doch wenn wir nicht endgültig Richtung Dystopie abbiegen wollen, sollten wir umgehend den Bohrer ansetzen. [Applaus] [Musik]