Veröffentlicht am 19-02-2019

Überwachungskapitalismus und Feedback-Kontrolle

Die Fusion von Internet of Things (IoT), sozialen Netzwerken und maschinellem Lernen ermöglicht es Technologieunternehmen, nicht nur Daten über die Realität zu sammeln, sondern auch die Realität selbst zu beeinflussen.

Dies ist das Thema eines 2015 veröffentlichten Artikels der emeritierten Professorin Shoshana Zuboff der Harvard Business School. Sie nennt das Phänomen "Überwachungskapitalismus". Es ist ähnlich wie das, was Ingenieure "Feedback-Kontrolle" nennen - genauer gesagt ein aufkommendes Phänomen, das als "Human-in-the-Loop" - (HiTL) -Rückkopplungssteuerung bezeichnet wird.

Feedback-Kontrolle in den USA und der Sowjetunion

In den 1950er und 1960er Jahren förderte der Kalte Krieg ein hartes Rennen um die Erforschung und Beherrschung des Weltraums. Die Erkenntnis, dass Satelliten und Raketen ein gewisses Maß an automatischer Navigation erfordern würden, förderten sowohl die USA als auch die UdSSR rasche Fortschritte in einer als "Feedback-Kontrolle" bezeichneten Disziplin.

Jedes Regelungssystem besteht aus drei Komponenten: Sensoren, Steuerungen und Stellgliedern. Sensoren messen wichtige Daten aus der Umgebung. Controller berechnen eine optimale Antwort auf die Daten. Aktuatoren setzen die Reaktion in die Praxis um.

Die Geschwindigkeitsregelung eines Fahrzeugs ist vielleicht das einfachste Beispiel eines Rückkopplungssystems. Der Sensor ist der Tachometer des Fahrzeugs, der Controller ist ein im Fahrzeug eingebauter Computer und der „Stellantrieb“ ist die Gaseinspritzung in den Motor. Wenn das Fahrzeug zu langsam fährt, weist der Computer den Motor an, mehr Gas einzuspritzen. Wenn das Fahrzeug zu schnell fährt, heißt es, diesen Betrag zu reduzieren. Der Fahrer gibt eine Zielgeschwindigkeit an - beispielsweise 60 Meilen pro Stunde - und das System passt sich dieser Geschwindigkeit an. Ähnliche Rückkopplungssteuerungsentwürfe wurden verwendet, um Satelliten zu orientieren, Landungen der Mars-Rover zu steuern und automatische Führung für Präzisionsraketen bereitzustellen.

Die Geschwindigkeitsregelung ist ein Beispiel für ein Rückkopplungssystem. Das Ziel ist es, das Auto auf 60 Meilen pro Stunde zu bringen. Ein Sensor - der Tachometer - misst die Geschwindigkeit des Autos. Eine integrierte Steuerung berechnet eine Änderung der einzuspeisenden Gasmenge. Der Motor dient als Stellglied, das die Geschwindigkeit des Autos beeinflusst. Dadurch wird der Wert geändert, den der Sensor liest, und die Schleife wird wiederholt.

Tatsächlich betrifft das Studium der Rückkopplungssteuerung keine Disziplin. Bei der Rückkopplungssteuerung handelt es sich vielmehr um die Manipulation der Eigenschaften von „Black Boxes“. Tempomatsysteme wissen nicht genau, wie Motoren arbeiten, aber sie wissen, wie ein allgemeiner Algorithmus ausgeführt wird. In ähnlicher Weise verwenden Blutzuckerkontrolle, Epidemievorhersagen und Ampelentwurf Rückkopplungssteuerungstechniken, indem zugrunde liegende Systeme als „Black Boxes“ behandelt werden. Sensoren messen das Verhalten der Boxen, die Steuerungen analysieren die Daten und die Aktuatoren ändern die Eingänge in der Reihenfolge der Boxen gewünschte Ergebnisse erzielen.

Vor- und Nachteile der Feedback-Kontrolle beim Web-Browsing und beim IoT

Sensoren, Controller und Aktuatoren sind ebenfalls Teil des neuen Phänomens des "Überwachungskapitalismus" von Zuboff oder, wie ich es beschreibe, der HiTL-Regelung. Sensoren in der HiTL-Rückkopplungssteuerung bestehen aus Suchmaschinen, die Online-Aktivitäten überwachen, Smartwatches, die Informationen zu Übungsroutinen hochladen, und Telefone, die die App-Nutzung überwachen. Controller werden aus Datenanalyse-Engines und Maschinenlernplattformen aufgebaut. Schließlich nehmen Aktuatoren die Form von Web-Browsern und Social-Media-Sites an, die die Art und Weise ändern, wie wir das Internet betrachten und sich online verhalten.

Die Feedback-Kontrolle von Menschen über das Internet und soziale Medien umfasst auch Sensoren, Steuerungen und Aktuatoren. Jede dieser Rollen wurde durch neue Technologien in der allgegenwärtigen Verfolgung, Datenanalyse und digitalen Medien verändert.

In ihrem Artikel über den Überwachungskapitalismus verweist Zuboff auf soziotechnische Veränderungen, die jede dieser Komponenten revolutioniert haben, indem sie mehrere Studien in diesem Bereich verwendet (und kritisiert), die vom Google-Chefökonom Hal Varian veröffentlicht wurden. Zuboff weist auf Entwicklungen bei „neuen Vertragsformen aufgrund besserer Überwachung“, „Personalisierung und Anpassung“ sowie „Datenextraktion und -analyse“ hin. Bei der Regelung der Rückkopplungssteuerung erfüllen diese die Rollen von Stellgliedern, Steuerungen bzw. Sensoren. Aufbauend auf Zuboffs Analyse können wir die Rolle dieser Komponenten abwechselnd betrachten.

Aktuatoren in HiTL-Rückführungssystemen

In jüngster Zeit haben Unternehmen gelernt, das menschliche Verhalten mit innovativen HiTL- „Aktuatoren“ zu beeinflussen. Während traditionelle Steuerungssysteme Motoren oder Hebel verwenden, um das Verhalten physischer Systeme zu steuern, nutzen Unternehmen zunehmend die von Zuboff als „neue Vertragsformen“ bezeichneten Aktuatoren für menschliche Systeme . In diesen neuen Vertragsformen kontrollieren Unternehmen das menschliche Verhalten nicht durch rechtliche Anforderungen, sondern durch eine Art automatischer Richtlinienumsetzung, die durch Technologie ermöglicht wird.

Zum Beispiel können viele Fahrer jetzt Versicherungsnachlässe verdienen, indem sie sichere Geschwindigkeiten einhalten. Versicherungen installieren kleine Einheiten in Autos, die angeben, wie oft das Fahrzeug die 80 km / h überschritten hat. In diesem Fall dient das kommerziell-technische System als HiTL-Stellglied, um ein gutes Fahren zu fördern. Dies führt zu einer interessanten Verschiebung der Durchsetzung der Richtlinien von der legalen zur automatischen. Fahren Sie zu schnell und Sie erleiden Strafen als ein einfaches automatisches Ergebnis.

Corporate Fitness-Anreize sind ein weiterer HiTL-Aktuator oder eine „neue Vertragsform“. Mitarbeiter in vielen Unternehmen tragen Geräte, die die Anzahl der von ihnen durchgeführten Schritte überwachen. Einige Unternehmen senden auch digitale Mitteilungen über Möglichkeiten, in Form zu bleiben. Je mehr Schritte die Mitarbeiter unternehmen und je mehr Gesundheitsbulletins sie lesen, desto mehr erhalten sie einen jährlichen Bonus. Eine Schlagzeile fasste das Phänomen mit den Worten zusammen: „Wenn Health Incentives steigt, werden viele bezahlt, um zu trainieren und Grünkohl zu essen.“ Der Kompromiss lohnt sich für Unternehmen, die ihre Mitarbeiter gesund und glücklich halten wollen, und für ihre Mitarbeiter die bereit sind, ihre Übung gegen Bargeld zu bewerben. Sowohl die Fahrzeuggeschwindigkeitsüberwachung als auch die Fitness-Anreize für Unternehmen sind positive Beispiele für Aktuatoren oder „neue Vertragsformen“.

Auf der anderen Seite sind einige HiTL-Stellantriebe gefährlich. Denken Sie an einen möglichen Einfluss von Waze, der „größten Community-basierten Verkehrs- und Navigations-App der Welt“. Waze sammelt Informationen von App-Benutzern, um die schnellsten Routen unter Berücksichtigung des Verkehrs vorhersagen zu können. Waze-Benutzer können auch Unfälle und den Ort der Verkehrspolizei melden. Unglücklicherweise sagt es den Fahrern, wenn sie sich einem Polizistenwagen nähern, auch, wenn sie sich nicht in der Nähe befinden. Die Strategie der Polizei, die den Verkehr überwacht, beruht wahrscheinlich auf dem Verbergen von Orten mit Geschwindigkeitsfallen. Daher kann es sein, dass Benachrichtigungen von Waze an Orten, an denen die Polizei nicht anwesend ist, rücksichtsloses Verhalten fördern.

Controller in HiTL-Rückmeldesystemen

Datenanalyse-Engines - die HiTL-Versionen von Feedback-Controllern beeinflussen auch das menschliche Verhalten. Viele Datenanalysen sind darauf zurückzuführen, was Zuboff (wiederum Varian) als „Personalisierung und Anpassung“ bezeichnet. Technologiefirmen würdigen Personalisierung als vorteilhaften Service für ihre Kunden. Kunden tendieren auf Nachfrage dazu, ihre Privatsphäre zu bevorzugen und die Personalisierung zu verwerfen. Aber um die Sache zu verwirren, stecken sie ihren Aussagen nicht wirklich hinterher.

In jedem Fall hat diese Personalisierung tatsächlich Auswirkungen auf die Gesellschaft insgesamt. Überlegen Sie, was passiert, wenn Sie das Wort "Jaguar" bei Google suchen. Ihre Ergebnisse hängen davon ab, von wem Google denkt, dass Sie es sind.

Die Chancen stehen gut, dass wenn Sie 1) Mitte dreißig, 2) männlich und 3) dreistellig sind, dann ist Ihr Top-Hit eine Werbung für Luxusautos. Wenn Sie diese Kriterien nicht erfüllen, handelt es sich bei Ihrem Top-Ergebnis wahrscheinlich um ein Tier. Diese Art der Personalisierung tendiert dazu, bestehende soziale Ungleichheiten tief zu durchdringen. (In der Sprache der Rückkopplungssteuerung nennen wir diesen Catch-22 eine "positive Rückkopplungsschleife".) Wenn ein Mittelschüler aus der Bronx nach "Zweiten Weltkrieg" sucht, wird er ebenfalls die gleiche history.com finden Ergebnisse, die für einen Doktoranden in Manhattan angezeigt werden? Oder erhält er Anzeigen für das WWII-Videospiel „Call of Duty“? Wie sieht es aus, wenn jemand, der übergewichtig ist, sich den Automaten von morgen nähert? Werden die Automaten anstelle von Fruchtsaft Soda zeigen?

Sensoren in HiTL-Feedback-Systemen

Schließlich wird die menschliche Rückkopplungssteuerung durch das, was Zuboff als „Datenextraktion und -analyse“ untersucht, intensiviert. Andere Wissenschaftler beschreiben dieses Phänomen als „allgegenwärtiges Sensing“ oder „Pervasive Monitoring“, was die allgegenwärtige Natur der heutigen Tracking-Technologien betont. Das menschliche Verhalten wird nicht nur von Überwachungskameras überwacht, sondern auch von Suchmaschinen, Online-Shops, Schlaf-Trackern und sogar einigen Kühlschränken, die Lebensmittel über eine Touchscreen-Oberfläche nachbestellen. Zunehmend setzen wir "Wearable Computing" -Geräte ein, die Daten über unser physisches und sogar medizinisches Verhalten ins Internet laden.

Geräte in „Smart Homes“ extrahieren auch Daten über unseren Stromverbrauch und das Kaufverhalten und senden sie in die Cloud. Sensoren wie diese können zwar helfen, Energie zu sparen. Und sie können uns möglicherweise dabei helfen, ein monatliches Budget zu halten. Da diese Sensoren jedoch Handlungen in der Intimität unserer Häuser und Körper beobachten, müssen wir deren Fähigkeiten genau im Auge behalten. Ich möchte nicht, dass Universitäten Entscheidungen über die Zulassung treffen, indem sie nachvollziehen, wie Schüler ihre Stunden nach der Schule nutzen. Für Unternehmen wäre es auch nicht hilfreich, Websuchhistorien zu kaufen, um "soziale Radikale" aus ihren Gehältern herauszufiltern.

Kontinuierliche Versuche und Schlussfolgerungen

Sicherlich haben viele menschliche Rückkopplungsschleifen positive Auswirkungen. Schnelle Reaktionen auf medizinische Notfälle, positive Anreize zur Gesunderhaltung und kommunale Initiativen zum Energiesparen sind allesamt aufregende Folgen der HiTL-Rückmeldesysteme. Andererseits sind die Intimität der individuellen Entscheidungsfindung und der Zugang zu gemeinsamen Gütern durch unüberlegte Anwendungen dieser Technologie gefährdet. Ein Großteil der Überwachung und ein Teil des Verhaltenseinflusses ist einseitig gerichtet und undurchsichtig.

Zum Beispiel lobt Googles Hal Varian die Fähigkeit des Technologieunternehmens, „kontinuierliche Experimente“ durchzuführen. Google führt jeden Tag etwa 10.000 Experimente durch. "Es gibt ungefähr 1.000 Läufe gleichzeitig", fährt er fort, "und wenn Sie auf Google zugreifen, befinden Sie sich in Dutzenden von Experimenten." Wir wissen bereits, dass Forscher, die Facebook verwenden, ähnliche Experimente durchgeführt haben, um zu überprüfen, ob sie die Stimmungen beeinflussen könnten der Benutzer sozialer Netzwerke durch Beeinflussung des Erscheinungsbildes von Beiträgen in den Newsfeeds der Benutzer. So spannend das auch für den akademischen Geist sein kann, sollten Internetnutzer wissen, ob sie Gegenstand "kontinuierlicher Experimente" sind.

Zusammengefasst bietet die Rückkopplungssteuerung nützliche Techniken, um „Black-Box“ -Systeme - sowohl physikalische Systeme als auch Informationssysteme in der Schleife - auf mathematisch strenge Weise zu untersuchen. Versicherungsnachlässe und gesundheitliche Anreize für Unternehmen sind aufregend und ermöglichen Beispiele für HiTL-Rückkopplungsschleifen, übermäßige Personalisierung, Überwachung, die sich auf das persönliche Verhalten in der Wohnung auswirkt, und implizite Verträge, die es Unternehmen ermöglichen, die Entscheidungsfindung im täglichen Leben zu beeinflussen, bedrohen wichtige Personen und soziale Werte.

Rückkopplungssysteme sind sich normalerweise der Inhalte der von ihnen kontrollierten Blackboxen nicht bewusst. Bei vielen HiTL-Rückmeldesystemen enthalten diese Black Box wichtige Inhalte: das Leben von Millionen oder Milliarden Menschen.

Dieser Artikel erschien ursprünglich bei MercatorNet

Siehe auch

LG Signature OLED TV W8: Ihr bisher bestes FernsehgerätMit Marco Polo-Gründer Vlada Bortnik von innen und außen an den Barrieren vorbeiziehenBalance zwischen Ethik und EhrlichkeitWie der Verkauf von Smartphones in der High School mich von der Verhandlung zum Kunden brachteRemote Workers: So maximieren Sie Ihre ProduktivitätGabeln flüssig machen