Katharina Brunner

Politik

Wenn’s mit dem Bot intim wird

by

Wenn ich einen Newsletter verschicke, wird die Mail auch automatisch hier veröffentlicht. Du kannst den Newsletter hier abonnieren.

Vor etwa einem Jahr war ich im Ars Electronica Museum in Wien und da lag sie vor mir: Paro, die Roboter-Robbe, die Menschen mit Demenz beruhigen soll. Ich hab sie auf meinen Schoss gelegt, sie gestreichelt, die Maschine mit Fell hat darauf reagiert und sich leicht bewegt. Es war angenehm. Ich kann mir gut vorstellen, dass das Kuscheltier mit Sensoren und Software in der Lage ist, Intimität herzustellen.

Die Forscherin Katherine Harrison befasst sich mit dem Zusammenspiel von Menschen und Robotern: Wie entsteht Vertrauen und Intimität?

Diese Begegnungen hat sie nun auch anhand eines anderen Beispiels erläutert, das erst einmal weit weg von der Altenpflege wirkt: dem Hack des Seitensprungportals „Ashley Madison“ 2015, bei dem Nutzerdaten von mehr als 30 Millionen Accounts veröffentlicht wurden.

Es stellte sich heraus, dass das Unternehmen im großen Stile Profile von Frauen anlegte, die es nur virtuell gab. Diese erfundenen Akteure schrieben als Frauen mit Männern Nachrichten hin und her, die auf der Suche nach einer Affäre waren. Der wirtschaftliche Clou dabei: Antworten durften die Männer nur, wenn sie zahlen. Zehntausende dieser Bots soll es laut Gizmondo gegeben haben, 80 Prozent der erstmaligen Käufe auf Kontakte zu Bots zurückgehen.

Das Ziel der Software von Ashley Madison war es, eine soziale Bindung aufzubauen. Und das ist wohl oft genug gelungen. Harrison beschäftigt sich in ihrem Aufsatz mit der Frage, was das für Intitmität bedeutet. Dieser Intimität, die wir als persönliche, individuelle Erfahrung sehen, beschreiben mit Worten wie echt, authentisch, privat, ja menschlich. Software ist also in der Lage automatisiert Intimität zu generieren – und diese entsteht ja nur, weil ein Mensch ein Erlebnis so empfindet.

Was macht das mit uns?

„Was ist, wenn diese Bots die Leute wirklich heiß machen? Was würde das darüber aussagen, wie wir Intimität heute verstehen? Wie könnten Bots ohne Loyalität zu den menschlichen Vorstellungen von Intimität unsere Vorstellungen davon, was Intimität sein/machen sollte, durcheinanderbringen oder in Frage stellen?“

Harrison sieht zwei Aspekte, mit denen wir uns befassen sollten:

  • Wir sollten überdenken, wo die Grenze zwischen Mensch und Maschine verläuft, im Sinne von: Was können Maschinen wie gut?
  • Wir sollten ggf. anpassen, wie wir Intimität charakterisieren.

Für Harrison ähnelt die Diskussion über Intimität einer Neuauflage der Online-Offline-Debatte, die in den letzten Jahren etwas ruhiger wurde: Wie echt ist das Online-Life im Vergleich zum Real-Life?

„Die Existenz der sozialen Bots spielt mit einer ewigen Angst, die mit dem Leben im Internet verbunden ist; Online-Interaktionen lösen Ängste um Authentizität und Identität aus, weil unsere Methoden zur Berechnung der Authentizität einer Entität erbärmlich altmodisch und fleischbasiert bleiben. Wenn du das andere Wesen nicht sehen, hören, riechen, berühren oder schmecken kannst, wie kannst du dann sicher sein, dass sie das sind, was sie sagen?“

Harrison beschreibt das als „ambient intimacy“, ein Begriff, der auch verwendet wird, um zu beschreiben, wie eine gewisse Intimität mit Personen entstehen kann, deren Lieblingstasse man kennt, obwohl man sich Tausende Kilometer entfernt befindet oder nur in der Arbeit sieht. Dank Instagram o.ä.

Zum Nachdenken über automatisierte Intimität passt gut der Zündfunk Generator Podcast „Muss ich nett zu einer KI sein?“. Darin blieb der Journalist Gregor Schmalzried ein Wochenende lang zu Hause und sprach mit niemanden – außer Bots wie Alexa, Siri oder Mitsuku, dem angeblich besten Chatbot der Welt.

Was ich sonst noch interessant fand:

Ein Münchner hatte obsessiv ein Privatarchiv zur Geheimsprache Rotwelsch aufgebaut hat. Rotwelsch ist eine Mischung aus Deutsch, Jiddisch und Hebräisch, gesprochen von Landstreichern und Fahrenden. Dessen Neffe, Professor für Literaturwissenschaften in Harvard, hat in Umzugskisten all die Unterlagen gelagert und sucht eines Tages nach der Doktorarbeit seines Großvaters, dem Vater des sammelnden Onkels. Was findet er? Antisemitisches Zeug – und ein Wettern gegen Rotwelsch. Die ganze, spannende Geschichte bei der taz: „Das Erbe“

—

Was braucht’s für eine erfolgreiche politische Bewegung? Keine Gewalt und etwa jede 30. Person muss aktiv daran teil nehmen.

Looking at hundreds of campaigns over the last century, Chenoweth found that nonviolent campaigns are twice as likely to achieve their goals as violent campaigns. And although the exact dynamics will depend on many factors, she has shown it takes around 3.5% of the population actively participating in the protests to ensure serious political change.

Herausgefunden haben das Erica Chenoweth und Maria Stephan, die sehr strenge Kriterien für Gewaltlosigkeit gewählt haben. Die indische Unabhängigkeitsbewegung ist ihrer Definition nach nicht „non-violett“.

Chenoweth argues that nonviolent campaigns are more likely to succeed because they can recruit many more participants from a much broader demographic, which can cause severe disruption that paralyses normal urban life and the functioning of society.

Mehr Details zur Forschung bei der BBC: The ‚3.5% rule‘: How a small minority can change the world

—

Ein Essay von Georg Diez in der taz zu Greta Thunberg nach ihrer Rede bei UN-Vollversammlung: Angst und Endlichkeit

„Die Botschaft von Greta Thunberg ist eine der praktischen Vernunft und der säkularen Ethik: Ich habe erkannt, vor dem Hintergrund der Endlichkeit allen Lebens, dass mein Handeln dazu führt, den Planeten zu zerstören, und ich ändere darum dieses Handeln, ich sehe die systemischen Zusammenhänge, aber ich fange mit mir an, im Sinne des kategorischen Imperativs Kants, seltsam verdammt dieser Tage und dabei Grundlage ethischen Handelns überhaupt – wie kann es sein, dass ihr, Erwachsene, sehenden Auges weitermacht mit der Zerstörung der Erde? Wie kann es sein, dass ich, das Kind, euch zeigen muss, was Vernunft ist?“

Über einen Jugendlichen, der in einer belagerten Stadt während des Syrienkriegs eine geheime Bücherei organisierte.

Zu viele vielversprechende Links überall? The Best Tools for Conquering Your Massive ‚Read Later‘ List

Einen neuen Begriff gelernt. Heute: Data Craft

by Kommentar verfassen

Data Craft, auf Deutsch vielleicht zu übersetzen mit Datenhandwerk (Wer weiß was besseres?), bezeichnet die Taktik, die Wirkungsmechanismen digitaler Plattformen zu den eigenen Gunsten auszunutzen.

Der Kern der Data Craft ist es, die Metadaten der Plattformen zu manipulieren. Der einfachste Zusammenhang: Mehr Likes –> mehr Sichtbarkeit –> mehr Einfluss.

Dem Begriff bin ich im Aufsatz „Data craft: a theory/methods package for critical internet studies“ begegnet, der diese Manipulationen am Beispiel der „Black Lives Matter“-Bewegung erläutert.

Ein Beispiel: Facebook-Seiten, die sich als der „Black Lives Matter“-Bewegung zugehörig ausgeben. Sie posten, erstellen Veranstaltungen, agieren nicht als Bots, sondern als händisch gefüllte Facebook-Page. Doch sie linken auf Konservative Medien, verkaufen Merchandise oder posten Spam.

Cloaked accounts (deutsch: getarnte Accounts) nennen das die Autorinnen. Und das Ausnutzen der Metdadaten-Manipulation machte sie, erstens, überhaupt möglich. Und führte, zweitens, dazu, dass diese Daten schlussendlich auch aufgeflogen sind:

By closely reading for spammy or noisy data and comparing these signals with legitimate organizing and user interactions on the platform, these manipulation tactics were caught by activists, researchers, and journalists before Facebook discovered these pages as coordinated inauthentic behavior. Without reading these manipulated metadata within the organic context of the platform and alongside other social movement organizing, it is unlikely that the data craft tactics from these exploited pages would have been identified automatically as coordinated inauthentic behavior by platform corporations.

Eine Übersicht von Methoden, Manipulationen auf die Spur zu kommen:

P.S.: Eine der Autorinnen, Joan Donavan, hat eine der besten Webseiten. Have a look <3

Pros and Cons of a Social Index

by Kommentar verfassen

Heather Krause writes one of my favorite newsletter. She works at Datassist, a company working with NGOs and data journalists.

Recently, she wrote about social indices:

A social index is a summary of a complex issue (or issues). Generally, social indexes take a large number of variables related to a specific topic or situation and combine them to get one number. It’s often a single number, but can also be a rank (#1 country out of 180) or a category (“high performing”).

Heather Krause

Pros of social indices:

  • attract public interest
  • allow comparisons over time
  • provide a big picture
  • „reduce vast amounts of information to a manageable size“

Cons:

  • „disguise a massive amount of inequality in the data“
  • simplistic interpretations
  • hide emerging problems of some variables

So, should we use them?

Krause says, „yes“, but …

If we’re using an index to understand a trend or situation, we also need to look at the individual elements that make up that index.

Datassist published a list with various indicators here.

Zuboff und das Zeitalter des Überwachungskapitalismus

by Kommentar verfassen

Shoshanna Zuboff beobachtet und interpretiert die Digitalisierung seit 40 Jahren. Die Professorin an der Harvard Business School hat ein Buch geschrieben, das der Guardian in eine Reihe mit Adam Smith, Karl Marx, Max Weber, Karl Polanyi und Thomas Piketty stellt. Es heißt The Age of Surveillance Capital und es sollte bald in meinem Buchregal stehen, wie ich finde.

Ein Auszug aus einem Interview mit dem Guardian:

In my early fieldwork in the computerising offices and factories of the late 1970s and 80s, I discovered the duality of information technology: its capacity to automate but also to “informate”, which I use to mean to translate things, processes, behaviours, and so forth into information. This duality set information technology apart from earlier generations of technology: information technology produces new knowledge territories by virtue of its informating capability, always turning the world into information. The result is that these new knowledge territories become the subject of political conflict. The first conflict is over the distribution of knowledge: “Who knows?” The second is about authority: “Who decides who knows?” The third is about power: “Who decides who decides who knows?”

(…)

Surveillance capitalists were the first movers in this new world. They declared their right to know, to decide who knows, and to decide who decides. In this way they have come to dominate what I call “the division of learning in society”, which is now the central organising principle of the 21st-century social order, just as the division of labour was the key organising principle of society in the industrial age.

Shoshanna Zuboff

Lesenswertes: Strategie, Software, Männer

by Kommentar verfassen

Was ist Strategie? – Essay von Wolf Lotter in der Brandeins

“Für die Entwicklung einer Strategie zählt das Wahrscheinliche, das, was aller Voraussicht nach eintreten kann. Und das muss man vorsichtig denken. Denn die Gegenwart verläuft nicht in gerader Linie weiter in die Zukunft, wie Planer das gern hätten. Doch bestimmte Systeme, Kulturen, Ordnungen legen – zumal für Kenner und Profis – bestimmte Verhaltensweisen nahe. Und man kann nach menschlichem und fachlichem Ermessen vorhersehen, wie sich ein Teil des Systems verhält, wenn man auf eine bestimmte Weise darauf einwirkt. Strategien haben ein Ziel mit einem Weg und mehreren Ausweichrouten.”

The Coming Software Apocalypse

Was ist einer der größten Unterschiede zwischen einer mechanischen Maschine und einem Computer? Die Komplexität von Code ist unsichtbar.

„The software did exactly what it was told to do. In fact it did it perfectly. The reason it failed is that it was told to do the wrong thing. Software failures are failures of understanding, and of imagination.“

  • Software-Entwickler arbeiten nicht direkt daran, ein Problem zu lösen, sondern schreiben Anweisungen für eine Maschine.
  • „The programmer, staring at a page of text, was abstracted from whatever it was they were actually making.“
  • Die größere Herausforderung als ein fehlerfreier Code sei es, die Anforderungen korrekt festzulegen.
  • Der Fall, bei dem Toyota-Autos einfach immer weiter beschleunigten: Es stellte sich heraus, dass es zehn Millionen Fälle geben kann, in denen das Fahrzeug nicht aufhört schneller zu werden.
  • Was es deshalb braucht: Neue Ansätze des Programmierens. Einige davon werden im Text erklärt.

Männliches Selbstbild in der Krise: Wir brauchen einen Feminismus für Männer

Nicht der Mann ist das Problem, sondern das Verständnis davon, was ein Mann zu sein hat.

Eine kleine Leseliste zur Kulturrevolution in China

by

Die Kulturrevolution in China wird 50: 1966 ging es los mit Chao und Gewalt. 1981 bezeichnete die chinesische Regierung die zehn Jahre als Disaster. Inzwischen folgte Maos Herrschaft offiziellen Verlautbarungen zufolge fast dem Pareto-Prinzip: 70 Prozent waren gut, 30 Prozent nicht ganz so sehr.

Ein paar Links:

Das Erbe von Maos Kulturrevolution zerfrisst China immer noch – SZ

Kai Strittmatter beschreibt die Gewalt der Kulturrevolution als das zentrale Element, um das heutige China zu verstehen. Denn wie die menschengeschaffene Hungersnot in den 50ern und die Aufstände vom Tian’anmen-Platz Ende der 80er lautet die Vorgabe der KP: Vergessen – und wenn das nicht geht zumindest verschweigen.

„Die Jugend horchte, jubelte, verfiel in Raserei. Die Kulturrevolution wurde auch von den Studenten in Europa bejubelt, auf den Straßen von Paris und Berlin. Keiner wollte sehen, was wirklich geschah: Mao gab China dem Irrsinn preis. Schülerinnen schlugen ihre Direktorinnen tot, Studenten ersäuften ihre Professoren, Ehemänner schickten ihre Frauen ins Arbeitslager und Söhne ihre Mütter aufs Schafott.“

(Um die lange Version des Textes zu lesen, braucht es ein SZ-Abo, zumindest die Probierversion.)

„Attraktive Grausamkeiten“ – Interview mit dem Historiker Gerd Koenen in der Taz

Koenen befasst sich mit der Geschichte des Kommunismus. Er sagt:

„Kulturrevolution wohl das ungewöhnlichste Ereignis in der Geschichte des Kommunismus im 20. Jahrhundert war. Denn es war fast das einzige Mal, dass Kommunisten an der Macht in einer sogar bewusst chaotisierenden Weise von der Spitze her an die Massen appellierten. Und zwar besonders an die Masse der Jugendlichen, gegen die älteren Kader der Partei zu rebellieren. Das hatte es vorher noch nicht gegeben. Ebenso wissen wir heute, dass die Kulturrevolution für Mao einer eigene Ratio der Macht folgte. Das Chaos schien eigene Strukturen zu haben.“

Mao sah sich als „großer Steuermann“, der große Meister hinter dem Chaos, aus dem eine neue Ordnung entstehen sollte.

Maos Werkzeugkasten – Zeit

Ein paar Jahrzehnte nach den anarchischen Zuständen ist langsam genug Wasser den Yangtse hinuntergeflossen, um sich langsam wieder der Methoden der Kulturrevolution zu bedienen: „Führungskult, Repression, Zentralismus: Chinas Parteiführung bedient sich gerade eines Instrumentenkastens aus den sechziger Jahren“, schreibt Steffen Richter in der Zeit.

China’s ‚lost generation‘ recall hardships of Cultural Revolution – CNN

Ein Schicksal von vielen: Hu Rongfen musste aus Shanghai nach Anhui.

„I still can’t bear to recall my youth spent on the farm,“ she says.

“If there had been no Cultural Revolution, then I would not be who I am today. People who haven’t been through it can’t appreciate how easy everything else is. It wasn’t the manual labor. That’s a different kind of hardship. This was the worst kind of bitterness. You are constantly told: ‘You are against the revolution, so therefore you have no right to speak.‘ … That burden, that burden on your spirit, is very heavy.” 50 years ago this week, when Mao Zedong reasserted his control of the Communist Party, he set in motion a decade of chaos and torment in China. @nytimes asked readers to share stories about how they were affected by the Cultural Revolution. Chen Qigang, a 64-year-old composer in France who @adamjdean photographed in Beijing last month, was in middle school in Beijing when the movement began. Visit the link in our profile to hear more voices from China’s #CulturalRevolution.

Ein von The New York Times (@nytimes) gepostetes Foto am

Wikipedia zur Kulturrevolution