10 moderne Automatisierungsleistungen, bei denen es sich lediglich um getarnte Menschen handelte

Amazon Lebensmittelgeschäfte ausgelaufen Just Walk Out am Dienstag. Die Technologie von Amazon Fresh nutzte angeblich ein automatisches System aus Scannern und Kameras, um Sie abzukassieren, ohne überhaupt an der Kasse anzuschliessen. Sie scannten einfach beim Hereinkommen einen QR-Code, holten Ihre Lebensmittel und gingen hinaus. Unglaublich, oder?

Wie sich herausstellte, war Amazon bei der Umsetzung dieser Automatisierungsleistung in hohem Maße auf ein Team von über 1.000 Mitarbeitern in Indien angewiesen. Im Jahr 2022 mussten etwa 70 % der Just Walk Out-Kunden von menschlichen Mitarbeitern überprüft werden.

Ein Unternehmen namens Presto Voice hat seine „Drive-Thru-Automatisierungsdienste“ an Carl’s Jr., Chili’s und Del Taco verkauft. Das Unternehmen behauptete, dass KI Ihre Bestellung am Drive-Thru aufnehmen könne, und bot an, Drive-Thru-Mitarbeiter durch seine Technologie zu ersetzen.

Kürzlich veröffentlichte SEC-Unterlagen zeigten, dass Bei über 70 % der Bestellungen von Presto sind menschliche Helfer erforderlich. Presto setzte auf den Philippinen externe Mitarbeiter ein, um die Kundenbestellungen abzuhören und diese mehr als die Hälfte der Zeit manuell in die Computersysteme eines Restaurants einzugeben. Auch dabei handelte sich um einen Lockvogel und um einen Wechseltrick zu machen, bei dem externe Mitarbeiter als echte Automatisierung getäuscht wurden.

Facebook hat 2015 einen virtuellen Assistenten mit dem Namen M veröffentlicht. Er sprach mit Benutzern über Facebook Messenger, und die KI sollte angeblich Kinokarten für Sie buchen, Ihnen das Wetter vorhersagen oder sogar Essen bei einem lokalen Restaurant für Sie bestellen können. Wenn Sie neugierig sind, wie Facebook 2015 einen generativen KI-Chatbot entwickelt hat, lautet die Antwort : Nein.

Es war ein sehr frühes KI-System in der Arbeit um M , aber hauptsächlich Der Assistent war lediglich ein menschlicher Operator, der eingriff und Aufgaben für die Leute erledigte.. Die Idee war, dass M irgendwann intelligent genug werden würde, um unabhängig zu operieren, aber das schlug s nie ab. M wurde nur einer kleinen Gruppe von Betatestern zugewiesen, da Facebook es sich nicht „leisten konnte, Operatoren für die ganze Welt anzustellen und als persönliche Assistenten zu nutzen.“

Sie erinnern sich vielleicht daran beeindruckende Gemini demo im Dezember 2023. Es zeigte, wie die KI von Gemini angeblich in Echtzeit zwischen Video-, Bild- und Audioeingaben entschlüsseln kann. Es war eine beeindruckende Vorführung, die aber vier Monate später noch weit von der Realität entfernt ist. Was ist also passiert?

Das Video war aufgepäppelt werden. Zum ersten mal wurde das Video beschleunigt und bearbeitet. Ganz nicht darüber zu erwähnen hatten Menschen Gemini mit langen Text- und Bild-Aufforderungen gefüttert, um irgendwelche Antworten zu produzieren. Gemini ist heute vollständig veröffentlicht, aber es kann kaum auf kontroverse Fragen antworten, geschweige von den Rückwärtssaltos abgesehen von den Backflips machen, die es in der Demo gemacht hat.

Dies ist ein Marktplatz von Amazon, der buchstäblich nach dem Phänomen der Mechanical Turks benannt ist. Ein bisschen zu offensichtlich? Es ist ein Marktplatz, auf dem Entwickler Stellen Sie Menschen ein, um Aufgaben zu erledigen, bei denen Computer Schwierigkeiten haben Abschließen. Die Aufgaben können fast alles sein, von der Beschriftung von Bildern bis zum Trainieren künstlicher Intelligenz zur Moderation von Online-Inhalten.

Echte Menschen erhielten für eine Aufgabe teilweise nur einen Penny, vor allem für Aufgaben, bei denen Menschen sich als Automatisierung ausgaben. In diesem Zusammenhang tauchten Horrorgeschichten auf, in denen Gig-Worker grafischen Bildern ausgesetzt waren oder Sozialversicherungsnummern abschreiben mussten.

Ein berüchtigter Anwendungsfall für Amazon Mechanical Turk war Expensify im Jahr 2017. Das Spesenabrechnungsunternehmen verfügte über eine Funktion, mit der Sie ein Foto einer Quittung machen und diese für Sie abrechnen konnten. Die App überprüfte automatisch, ob es sich um eine den Vorschriften Ihres Arbeitgebers entsprechende Ausgabe handelte, und legte sie am entsprechenden Ort ab. Können Sie erraten, was passiert?

Als die KI versagte, setzte Expensify nach eigenen Angaben ein Team sicherer Techniker ein, um die Kosten in Ihrem Namen einzureichen. Es stellte sich als Mitarbeiter von Amazon Mechanical Turk heraus unter einigen Umständen, wie aus von Twitter-Nutzern entdeckten Belegen hergeht. Das bedeutet, dass echte Menschen private Informationen wie Kreditkartennummern, vollständige Namen, Adressen, Essensbestellungen und mehr eingesehen haben. Es ist unklar, wie viele dieser Spesenabrechnungen von Menschen eingereicht wurden.

Bevor X.ai Elon Musks KI-Unternehmen wurde, hatte das KI-Startup eine bewegte Geschichte. 2016 bot X.ai virtuelle Assistenten an, die Zugriff auf Ihren Kalender hatten und per E-Mail mit Ihnen korrespondieren konnten. Doch hinter jeder E-Mail steckte ein Mensch, darunter ein 24-Jähriger, der sprach mit Bloomberg.

Menschen, die sich als KI ausgaben, antworteten auf E-Mails, planten Meetings im Kalender und bestellten sogar Essen für die Leute. Auch hier behauptete das Unternehmen, die KI befände sich noch in der Anfangsphase. In Wirklichkeit tat sie jedoch kaum etwas, während Menschen die beeindruckenden Aufgaben übernahmen.

Früher ließ Google seine Computer Ihren Gmail-Posteingang nach Informationen scannen, um Anzeigen zu personalisieren. Dann kündigte das Unternehmen jedoch an, damit aufzuhören. Dies hielt das Unternehmen jedoch nicht davon ab, diese Aufgabe an externe menschliche Entwickler zu übertragen.

Mitarbeiter von Edison Software sagten dem Wall Street Journal im Jahr 2018 wie sie persönlich Hunderte von Benutzer-E-Mails überprüft hatten, um neue Funktionen zu entwickeln. Andere Unternehmen erlaubten Mitarbeitern, E-Mails zu lesen, um Software zu trainieren und andere Marketing-Tools zu entwickeln.

Eine Quelle bezeichnete es als „schmutziges Geheimnis“ der Branche, dass Menschen die E-Mails ihrer Benutzer lesen. „Das ist so etwas wie Realität.“

Elizabeth Holmes wurde kürzlich wegen massiven Betrugs im Zusammenhang mit ihrem Unternehmen Theranos ins Gefängnis gesteckt. Das Unternehmen behauptete, ein automatisches Bluttestgerät entwickelt zu haben, mit dem sich der Gesundheitszustand eines Patienten mithilfe einiger aus einem Finger entnommener Blutstropfen genau beurteilen lässt.

Es stellte sich jedoch heraus, dass dies alles nur Blendwerk war. Es gab keinen Durchbruch bei der automatisierten Blutuntersuchung. Während Vorführungen für Apothekenmanager führten Mitarbeiter von Theranos heimlich Tests an externen Laborgeräten durch. Es handelte sich um einen der größten Automatisierungsbetrugsfälle der Geschichte, für den Holmes 2023 zu einer elfjährigen Haftstrafe verurteilt wurde.

Selbst moderne KI-Unternehmen sind von diesem Verhalten nicht freigesprochen. Hinter Scale AI, dem 7-Milliarden-Dollar-Startup mit Sitz in San Francisco, stehen 10.000 Remote-Mitarbeiter auf den Philippinen, die seine Modelle trainieren, heißt es in einer Mitteilung. The Washington Post. Diese Mitarbeiter stellen sicher, dass die Modelle der künstlichen Intelligenz genau funktionieren. Sie kennzeichnen Tausende von Bildern als verschiedene Politiker und Berühmtheiten, bearbeiten Textblöcke und trainieren Videomodelle darauf, verschiedene Objekte zu identifizieren.

Dies ist der nicht ganz so automatisierte Teil moderner KI-Systeme. Um diese Systeme zu trainieren, sind Tausende von Remote-Mitarbeitern erforderlich, die häufig unterbezahlt sind und unter lächerlichen Bedingungen arbeiten. Scale-AI funktioniert für Unternehmen wie Meta, Microsoft und OpenAI.