Veröffentlicht am 13-03-2019
XKCD, als wäre das nicht offensichtlich.

Big Tech übernimmt die Kontrolle von Ihnen.

Ist es Böswilligkeit, Dummheit oder beides?

Diese Geschichte bewegt sich gefährlich nahe am Onion-Territorium.

Es gibt einen chinesischen Autohersteller namens NIO, der sich als Konkurrent von Tesla versteht. Wie so viele andere Automobilfirmen hatte NIO die „brillante“ Idee, seine Fahrzeuge wie technische Spielzeuge zu behandeln und ihnen die Möglichkeit zu geben, Software-Updates über die Luftwellen zu empfangen… während sie fahren. Kombinieren Sie diese ohnehin schlecht beratene Idee mit guter altchinesischer Qualität, und die Ergebnisse waren genau das, was Sie erwarten. Eines der Fahrzeuge von NIO geriet in einen Stau, als der Fahrer ein Software-Update einleitete. Der beste Teil? Der Fahrer war im Auto eingeschlossen, weil die Türen nur über die Software funktionierten, was für Updates fehlte.

"Nur in China ..." könnte man sagen. China ist schließlich das Urheimat der beschissenen Nachbesserungen amerikanischer Innovationen, ein Land der Vorschriften für die Sprache, aber nicht für die Fahrzeugsicherheit, und eine Dystopie, bei der das katastrophale "Social Credit System" eine beginnende Idiokratie verspricht. Diese Art von Orwell-Kafka-Albtraum könnte hier in Amerika niemals passieren ... richtig? Recht??

Es ist schon passiert Aber das wussten Sie schon.

Das NIO-Debakel mag für das von ihm verursachte Pandemonium besonders interessant sein, aber es ist mehr eine Evolution als eine Revolution der Design-Inkompetenz. Türen, die nur über Software geöffnet werden können und keine manuelle Freigabe haben, sind nur die letzten in einer Reihe von Angriffen auf die persönliche Agentur des Benutzers. Big Tech versucht, alles loszuwerden, was Ihnen das letzte Wort gibt. Auf physische Hebel, Schalter und Knöpfe kann der Benutzer sofort zugreifen, wodurch er die Kontrolle hat. Virtuelle Tasten und automatisierte Systeme sind neblig, undurchschaubar und für den Benutzer undurchschaubar und lassen den Hersteller die Kontrolle.

Schauen Sie sich die Geräte um Sie herum an. Die Kameras Ihres Telefons, Ihres Laptops und Ihres iMac haben keine physischen Verbindungsunterbrechungen oder auch keine Privatsphäre. Ihr Telefon verfügt über weniger physische Tasten als je zuvor, insbesondere wenn Sie ein iPhone besitzen. Einige (Apple-) Computer verfügen nicht über echte Ein- / Ausschaltknöpfe, wie bei Schaltflächen, bei denen das Gerät einfach von der Stromversorgung getrennt wird und es an Strom mangelt. Zumindest Desktop-Computer sind immer noch auf Netzkabel angewiesen, sodass sie vom Stromnetz getrennt werden können. Glücklicherweise können Sie dasselbe mit einem „intelligenten“ Telefon tun, bei dem Sie den Akku nicht einmal herausnehmen können. Ich musste einmal ein fehlerhaftes Telefon zum Auflegen eines Anrufs zwingen, indem ich es in einen Eimer Wasser fallen ließ. Das funktioniert immer noch. Zur Zeit.

Während Tech die Benutzer seit geraumer Zeit die Kontrolle entzogen hat, hat die Praxis der Entmachtung von Anwendern in anderen Branchen in letzter Zeit Metastasierung erfahren. Es war keine große Sache, wenn es sich nur um verherrlichte Spielzeuge handelte, vor allem, wenn unser Leben nicht so eng mit diesen Spielwaren verflochten war. Da jedoch die digitale Technologie weitaus mehr Industriezweige durchdrungen hat, ist dies die Bedrohung, die diese Mensch-Maschine-Methode darstellt Interaktion wächst schnell. Letztes Jahr hatten die Besitzer von Fiat-Chrysler die Batterien ihrer Fahrzeuge für tot erklärt, nachdem ihre uConnect-Infotainmentsysteme in eine unendliche Neustartschleife geraten waren, während sich die Schlüssel nicht im Zündschloss befanden Industrie.

Wenn dies kein ausreichender Grund für einen Alarm ist, bedenken Sie, dass die Entmachtung des Benutzers möglicherweise bereits Hunderte von Todesfällen verursacht hat. Der jüngste Absturz der Ethiopian Airlines und der damit verbundene Lion Air-Absturz, an dem 737-Modelle der Spitzenklasse beteiligt sind, scheinen das Design der Flugzeuge selbst zu implizieren. Laut dem AP: „Fehlerhafte Messwerte eines Sensors hätten möglicherweise einen automatischen Abwärtsbefehl für das Flugzeug ausgelöst, den die Lion Air-Piloten erfolglos überwunden haben.“ Das lesen Sie richtig: Die Piloten konnten den Autopiloten nicht einmal übersteuern es stürzte sie in den Tod. Das Flugzeug hatte das letzte Wort im Schicksal der Passagiere.

Wer ist schuld?

Wir haben festgestellt, dass die "intelligentere" Technologie den Dummkopf bekommt. Je mehr Automatisierung, desto mehr Sensoren, desto mehr Silizium dringt in ein Gerät ein, desto unnachgiebiger, unberechenbarer und gefährlicher wird es. Es sollte nicht so sein. Der Techno-Optimismus früherer Epochen sah eine Zukunft vor, in der die Technologie als bescheidene Helfer neben dem Menschen wirken und uns als Spezies erheben würde. Stattdessen tut die Technologie alles in ihrer Macht Stehende, um die Kontrolle von uns an sich zu reißen und sich auf unsere Kosten zu erheben. Was gibt?

Es scheint drei Hauptursachen für dieses Phänomen zu geben. Sie kommen alle aus ganz verschiedenen Orten, treffen aber auf den gleichen katastrophalen Ausgang.

Unbeholfenheit

Wissen ist Macht. In jedem Kampf hat die Seite mit mehr Informationen einen massiven Vorteil. Das Zusammenspiel von Mensch und Maschine ist ein Machtkampf, in dem der Mensch versucht, die Maschine zu beherrschen, und manchmal erwidert die Maschine die Gunst. Ein einfaches Gerät wie ein Hammer gibt alle seine Geheimnisse an den Benutzer weiter, der alles über seinen Zustand und sein Innenleben weiß, indem er ihn einfach hält. Somit hat der Benutzer die volle Kontrolle über den Hammer.

Die heutige Technologie ist weitaus komplexer als ein Hammer und es ist viel schwieriger, einem Benutzer seinen vollen Zustand zu vermitteln, geschweige denn in Echtzeit. Das bedeutet jedoch nicht, dass es unmöglich ist. Ein gutes Schnittstellendesign kann dem Benutzer eine hohe Informationsdichte vermitteln, indem jeder verfügbare Informationskanal geschickt genutzt wird, ohne einen zu überladen, der die Ausgabe der Maschine mit der Eingabe menschlicher Sinne verbindet. Ein Beispiel dafür, was Experten-Interface-Design erreichen kann, ist der Voder, ein Gerät, mit dem eine Person menschliche Sprache in Echtzeit synthetisieren kann, einschließlich Intonation, und zwar über eine Kombination aus Pedalen und Tastatur.

Um ein Interface wie den Voder zu entwerfen, sind wahre Fähigkeiten erforderlich, und selbst dieses Interface erforderte intensives Training und unterlag einem erheblichen Verfall der Fähigkeiten. Wenn jedoch der innovative Schnittstellendesign in den 1930er Jahren so etwas hervorbringen könnte, gibt es für heute keine Entschuldigung. Und doch scheint niemand der Aufgabe gewachsen zu sein.

Die jüngsten Abstürze von 737Max-Flugzeugen stammten möglicherweise von einer Technologie, die die Nase des Flugzeugs automatisch herunterdrückt, wenn ein Stall unmittelbar bevorsteht. Diese Technologie kann eine Reaktion auf eine Reihe tödlicher Abstürze sein, bei denen inkompetente Flugzeugbesatzungen (z. B. Colgan Air 3407) auf einen Strömungsabriss (das Versagen der Tragflächen eines Flugzeugs, den Auftrieb in der Luft zu halten, in der Regel aufgrund der Geschwindigkeit oder des Winkels) reagiert haben Sie zogen das Flugzeug nach oben und nicht nach unten, sodass sich der Stall verschlechterte, bis das Flugzeug keinen Auftrieb hatte und wie ein Stein zu Boden fiel. Die faule Lösung bestand offensichtlich darin, die Piloten einfach mit einer automatisierten Standreaktion aus der Gleichung herauszunehmen, deren Überschreitung schwierig oder unmöglich ist, und wir haben gesehen, wie das funktioniert hat.

Eine bessere Lösung für das obige Problem könnte darin bestehen, den Piloten eine Art taktiles Feedback zu geben, das sie unter den Armen tragen können, als ob sie Flügel hätten und den Luftstrom unter ihnen spüren könnten, wie es ein Vogel tut. Wenn Sie jemals Ihre Hand in einem fahrenden Auto aus dem Fenster gesteckt haben und spürten, wie die Luft sie anhebt, verstehen Sie, wie intuitiv dies ist. Dies würde zu einer nahtloseren Vereinigung von Mensch und Maschine führen und die Informationsbrüche, die zum Absturz führten, beseitigen, während der Benutzer die volle Kontrolle über die Maschine behalten würde.

Lösungen wie diese sind jedoch schwer zu entwerfen. Sie erfordern kompetente Designer und die richtige Einstellung. Wenn diese Denkweise und Fähigkeiten nicht in der Luft- und Raumfahrtindustrie vorhanden sind, werden sie sicherlich nicht unter der Silicon Valley-Brunchoisie zu finden sein Unternehmen fällt es daher leichter, dem Benutzer die Kontrolle zu entziehen, so dass keine eleganten Schnittstellen erforderlich sind.

Habsucht

Es ist nicht immer schwieriger, eine gute Benutzeroberfläche zu erstellen, die die Kontrolle des Benutzers in der Hand hält. Die Alternative ist immerhin eine starke Automatisierung, die seriöse Arbeitsstunden erfordert. In manchen Unternehmen wird die Anwenderbereitschaft für weniger rentabel erachtet. Die Infantilisierung und Entmächtigung von Benutzern sind Schritte auf dem Weg der Unternehmen zur vollständigen Abschaffung von Privateigentum (für einzelne Bürger). Das Eigentum ist für den Verkäufer nicht so rentabel wie die Vermietung. Sobald ein Produkt an den Käufer verkauft wird, kann das Unternehmen kein weiteres Geld damit verdienen. Mit Vermietung kann ein Unternehmen den Kunden bis zum Ende der Zeit weiter belasten und sogar die Tarife erhöhen.

Insbesondere in modernen Ländern mit einem ausgeprägten Verständnis des Privateigentums wird der Begriff des Eigentums nicht einfach über Nacht verschwinden. Jeder direkte Angriff auf den Besitz würde mit Mistgabeln und Fackeln getroffen werden. Infolgedessen werden die Megakonzerne auf allen anderen Wegen in den Besitz gebracht. Soft-Produkte wie Spiele, Anwendungen, Filme und Bücher haben sich leicht zum Ziel gemacht, und der tatsächliche Besitz dieser Medien wird immer seltener. In einigen sozialen Netzwerken können Sie sogar Ihre Nachrichten aus dem Posteingang einer anderen Person löschen, was bedeutet, dass Sie nicht einmal Ihre eigenen Daten besitzen.

Hartwaren sind eine größere Herausforderung, aber die Unternehmen finden Wege. Einige Produkte benötigen jetzt eine Internetverbindung, z. B. den berüchtigten Juicero. Unternehmen haben versucht und versagten Benutzern, ihre eigenen Produkte zu modifizieren oder sogar zu reparieren. Diese Ansätze sind jedoch Essig. Der Honigansatz besteht darin, die Entmachtung des Benutzers als Bequemlichkeit zu verschleiern. Big Business hat eine lange Geschichte, in der wir Probleme erfunden haben, von denen wir nicht einmal wussten, dass wir sie hatten, und uns dann "Lösungen" anbot. Heutzutage ist es in Mode, persönliche Agentur als unangemessene Last zu bezeichnen, so dass jeder neue Komfort unsere Autonomie stark belastet. Uber hat die Verbraucher sehr erfolgreich davon überzeugt, dass der Besitz des Autos zu umständlich ist und dass sie sich einfach der allgegenwärtigen Bequemlichkeit von Uber ergeben müssen. Der Preis dieser Bequemlichkeit ist, dass Uber jetzt versucht, den Besitz von Privatfahrzeugen selbst zu verbieten.

Ideologie

Wenn nur Dummheit und Gier die einzigen Ursachen für unsere Probleme wären. Dummheit kann kontrolliert werden und Gier kann durch die richtigen Anreize in etwas Positives überführt werden. Hier haben wir den Zufallsfaktor, den pathologisch postmodernen Geist des modernen Technikers. Eine Generation, die mit Hubschraubereltern und Teilnehmertrophäen aufgewachsen ist, nimmt jetzt Entscheidungsrollen bei den Technologiegiganten ein und die Ergebnisse sind nicht ermutigend.

Als ich als Callow-Teenager in die Tech-Branche kam, war ich von Gen-Xers umgeben, die Techies der alten Garde waren. Sie waren begeistert von Computern, als die Informatik für arge Leute und Ausgestoßene als unheimliches Hobby galt. Sie waren individualistisch, zynisch, äußerst misstrauisch gegenüber der Autorität, insbesondere der CIA, vielleicht sogar etwas geneigt zu Verschwörungstheorien. Diese Xer wurden jedoch durch eine neue, jüngere Ernte von Techies verdrängt. Oberflächlich ähneln die archetypischen Hipster - bis hin zu den Nerdgläsern, Bananenbärten und dem ultra-urbanen Lifestyle - sie unterscheiden sich von den eigentlichen Hipstern dadurch, dass sie grundlegend Mainstream-Kreaturen sind. Sie haben nicht nur kein Problem mit dem Mainstream, sondern wollen ihn aktiv mitgestalten. Sie sind die Yupsters.

Sie sind sehr tribal und konformistisch, wenn ihre Vorgänger individualistisch waren, sie können mit identischen iPhones und MacBooks entdeckt werden und wagen es selten, sie mit Abziehbildern zu beschmutzen, die Wrongthink ausmachen könnten. Da ihre Vorgänger der Autorität misstrauisch gegenüber misstrauisch waren, fordern sie blind für mehr Regulierung von so ziemlich allem, vor allem aber die Rede. Während die alten Wächter an Unabhängigkeit interessiert waren und so schnell wie möglich als Erwachsene behandelt wurden, scheinen die Yupsters es zu genießen, eine ewige Kindheit zu leben und so weit zu streiten, wer unter ihnen am meisten Opfer ist.

Ein Symptom ihrer langjährigen Kindheit ist ihre Abhängigkeit von Autorität und ihr verzweifeltes Bedürfnis nach Schutz. Dieses Bedürfnis manifestiert sich nicht nur als Wunsch der konventionellen Regierungen nach mehr Regulierung. Yupsters übertragen diese Autoritätsübernahme sogar auf die privaten Unternehmen, gegen die Sie von ihnen erwarten würden. Sie fordern, dass Facebook und seine Armee erbärmlicher Moderatoren sie vor bösen Worten schützen. Sie schmiegen sich im Mutterleib von Apples App Store an, um sie vor Apps zu schützen, die nicht von Apples Zensoren zugelassen wurden.

Ein Beispiel, das mir in den Sinn kommt, ist ein YouTube-Video, in dem ein Dingbat eine Lösung für das Problem persönlicher Drohnen angekündigt hat, die die Privatsphäre der Menschen beeinträchtigen. Sie erklärten, dass es eine Liste von Personen geben würde, die ihre Gesichter verschwimmen lassen wollten, und dass Drohnenkameras Gesichtserkennung verwenden würden, um auf diese Registrierung zu verweisen und alle auf der Liste aufgeführten Gesichter treu zu verdecken. Ich kommentierte das Video mit der Frage „Was wäre, wenn der Benutzer das Feature einfach deaktiviert hätte?“, Worauf der Ersteller antwortete, dass er dies nicht tun könne. Sie wären gesetzlich vorgeschrieben. “Das, meine Damen und Herren, ist ein Idiot, der sich nicht in der Nähe eines Technologieunternehmens aufhalten darf. Diese bloße Missachtung des Konzepts des Privateigentums und die Vorstellung, dass ein Gerät ausschließlich seinem Eigentümer dienen sollte, ist in der heutigen Technik weit verbreitet. Wie wir sie jemals hineingelassen haben, ist jenseits von mir, aber sie sind hier, und sie richten Chaos an.

Sie werden aus Ihrer eigenen Zukunft ausgeschlossen.

Betrachten Sie das Paarungsritual des Seeteufels. Die Kreatur, die Sie sich wahrscheinlich vorstellen - ein furchtbar abscheuliches Monster mit einem biolumineszenten Köder auf dem Kopf - ist das Weibchen. Das Männchen ist ein erbärmlicher schwimmender Nutsack mit einem Fisch, der es umwickelt, um es seetüchtig zu machen. Ihr einziger Zweck besteht darin, eine Frau zu lokalisieren und sich an ihr zu befestigen, damit sie Babys machen können. Wenn diese Vereinigung geschieht, werden die beiden Fische eins. Wenig überraschend beginnt das Männchen zu etwas mehr als einem äußeren Anhängsel des Weibchens zu verkümmern. Augen, Lippen und sogar das Gehirn des Mannes werden so lange verdaut, bis er keine eigene Identität hat. Seine Gedanken sind ihre Gedanken, aber nicht umgekehrt.

Männlicher Anglerfisch im Rot

Wenn Sie nicht auf einem Gehöft mitten im Nirgendwo leben wollen, geschützt durch EMP-Geräte, wird Ihr Leben immer mehr mit der Technologie verbunden sein. Menschen und Maschinen sind dazu bestimmt, eins zu werden. Unsere Fusion wird nicht wie die eines Mannes und einer Frau sein, bei der jeder Partner gleichwertig sein sollte. Es wird wie der Seeteufel sein. Wenn sich Mensch und Maschine treffen, wird man ihre Identität, ihr Bewusstsein bewahren. Sie werden das Selbst sein. Das andere wird lediglich ein Organ sein, in dem der Informationsdurchsatz vom Selbst verwendet werden kann.

Welche Rolle - der männliche oder der weibliche Seeteufel - wir und unsere Technologie bei der Fusion einnehmen werden, bleibt unentschieden. Das Ergebnis liegt immer noch in unseren Händen. Leider tut Big Tech alles, um der Maschine den Vorteil zu geben. Wenn wir die Computer unter Kontrolle haben, die wir eines Tages in unser Gehirn implantieren können, behalten wir uns selbst und die Computer werden zu unserem neuesten Organ. So wie es aussieht, gerät die Technologie nicht nur durch zunehmende Automatisierung und Unzugänglichkeit aus dem Griff, sondern sie versucht, uns in den Griff zu bekommen, indem sie ihre Algorithmen verwendet, um unsere Gedanken zu manipulieren. Wenn das passiert, werden wir zu den Organen.

Klingt das alles nach Science Fiction? Ist das wirklich eine Bedrohung für unsere Existenz? Bedenken Sie.

Das MIT hat ein Projekt namens Moral Machine, das die Befragten auffordert, eine Reihe von moralischen Dilemmata zu beantworten, in denen sich ein selbstfahrendes Auto in einem Szenario befindet, in dem es unvermeidlich mit jemandem oder etwas kollidiert, was zum Tod führt. Der Befragte muss entscheiden, welche Vorgehensweise das selbstfahrende Auto ergreifen soll. Vielleicht wird es eine Gruppe junger Fußgänger ersparen, indem es eine Gruppe älterer Menschen überfahren wird. Vielleicht muss sich das Auto entscheiden, ob es einen Fußgänger überfahren oder gegen eine Betonbarriere stürzt und seinen Insassen tötet.

Das Moral Machine-Projekt erklärt, dass sein Ziel darin besteht, „ein Crowdsourcing-Bild der menschlichen Meinung darüber zu schaffen, wie Maschinen in moralischen Dilemmas Entscheidungen treffen sollen“. Was an dieser ganzen Sache so beunruhigend ist, ist die Folgerung, dass es sogar ein einziges Entscheidungsmodell geben würde. Die Zweckerklärung selbst impliziert, dass das Verhalten des selbstfahrenden Autos nicht vom Eigentümer selbst bestimmt wird.

Es gibt kein klareres Beispiel für die Gefahren der Übergabe der Kontrolle an die Maschinen als die Tatsache, dass ihre Schöpfer bereits darüber sprechen, auf welche Weise diese Maschinen uns töten werden, wenn wir dies tun.

Stoppen Sie sie jetzt und stoppen Sie hart.

Hilf mir, 15000 Follower zu bekommen!

Neues Jahr, neues Ziel. Helfen Sie mir, Renegade UX einem breiteren Publikum zugänglich zu machen. Folge mir auf Medium.

Willst du mehr Renegade UX?

Ich habe dich abgedeckt.

Hier in meinem Auto fühle ich mich am sichersten. Ich kann alle meine Türen abschließen. Es ist die einzige Art zu leben.

Siehe auch

Wie die Wireless Charging-Technologie das Spiel für Unternehmen verändertAnwendungen künstlicher Intelligenz in kleinen Unternehmen!Die DSGVO fühlt sich nutzlosWie können wir die Zuschauererfahrung in Vorträgen verbessern?Wie Sie Ihre Projekte unterrichten, um mit AWS Polly zu sprechenFühren Sie die folgenden Schritte aus, um mit Docker und React einen Workflow in Produktionsqualität zu erstellen