De AI sweatshop

Amazon geeft de kassaloze ‘Just Walk Out’-technologie in zijn Amazon Fresh-supermarkten op. The Information meldt dat nieuwe winkels zullen worden gebouwd zonder bewakingstechnologie op basis van computervisie, en dat bij “de meerderheid” van de bestaande winkels de technologie zal worden verwijderd. In het begin had Amazon onder meer de ambitie om Just Walk Out aan andere fysieke winkels te verkopen. Het probleem was dat de technologie nooit echt werkte.

De Amazon Fresh supermarkten zijn de voormalige Whole Foods winkels. Het AI concept van Amazon was dat Just Walk Out klanten boodschappen deden en daarna gewoon weg gingen waarbij ze het betalingsproces oversloegen. Amazon wilde puur via AI-aangedreven videobewaking bijhouden wat klanten meenamen en het kopende publiek zou later via hun Amazon-accounts worden gefactureerd.

Toen de technologie in 2016 werd aangekondigd, luidde het verkooppraatje van Amazon: “Wat als we de meest geavanceerde machine learning, computer vision en AI in de structuur van een winkel konden verweven, zodat je nooit in de rij hoefde te wachten?” De winkel was gevuld met meer dan honderd camera’s en vaste artikellocaties. Allemaal ontworpen om het afrekenen met digitale overview op basis van AI mogelijk te maken.

Een rapport uit mei 2023 van The Information onthulde de talloze technische problemen die Amazon zes jaar na de eerste aankondiging nog steeds had met het idee. In het rapport staat dat “Amazon medio 2022 meer dan 1.000 mensen in India had die aan Just Walk Out werkten. Hun taken bestonden onder meer uit het handmatig beoordelen van transacties en het labelen van afbeeldingen uit video’s om het machine learning-model van Just Walk Out te trainen.”

Training maakt deel uit van elk AI-project, maar het lijkt erop dat Amazon niet veel vooruitgang heeft geboekt, zelfs niet na jarenlang aan het project te hebben gewerkt. “Vanaf medio 2022 had Just Walk Out ongeveer 700 menselijke beoordelingen per 1.000 verkopen nodig, ver boven de interne doelstelling om het aantal beoordelingen terug te brengen tot tussen de 20 en 50 per 1.000 verkopen”, aldus het rapport.

Er is een grijs gebied in de kunstmatige intelligentie, gevuld met miljoenen mensen die in het geheim werken: ze worden vaak ingehuurd om algoritmen te trainen, maar voeren uiteindelijk een groot deel van het AI werk uit. Deze cruciale werknemers kwamen in de schijnwerpers toen The Information meldde dat de Just Walk Out-technologie van Amazon, waarmee klanten boodschappen uit een schap konden pakken en de winkel uit konden lopen, uit de supermarkten werd verwijderd. Het was gedeeltelijk afhankelijk van meer dan 1.000 mensen in India die video’s bekeken en labelden om er zeker van te zijn dat de kassa’s correct waren.

Het bedrijf vertelde Gizmodo dat de werknemers video’s annoteerden om deze te helpen verbeteren. En dat ze een “kleine minderheid” van winkelbezoeken valideerden wanneer de AI geen aankoop kon bepalen.

Het Amazon-verhaal is een duidelijke herinnering dat ‘kunstmatige intelligentie’ nog steeds  legers van menselijke babysitters nodig heeft om goed te kunnen functioneren. Amazon heeft zelfs een hele bedrijfseenheid, bekend als Amazon Turk, die andere bedrijven helpt precies dat te doen: het trainen en exploiteren van AI-systemen. Duizenden freelancers over de hele wereld beschouwen zichzelf als ‘MTurkers’, en de eenheid is vernoemd naar het verhaal van de Mechanische Turk, een 18e-eeuws schaakapparaat dat in het geheim werd bestuurd door een man die zich erin verstopte.

Er zijn nog veel meer voorbeelden van bedrijven die er niet in zijn geslaagd te vermelden dat mensen aan de knoppen zitten achter zogenaamd geavanceerde AI-technologie. Dit is verre van een incident in het ronkende AI verhaal. Om er een paar op te noemen:

Facebook sloot zijn op tekst gebaseerde virtuele assistent M in 2018 na meer dan twee jaar, waarin het bedrijf menselijke werknemers gebruikte om het onderliggende kunstmatige intelligentiesysteem te trainen (en te bedienen).

Een startup genaamd x.ai, die een ‘AI persoonlijke assistent’ op de markt bracht die vergaderingen plande, liet mensen dat werk doen en stopte in 2021 nadat het moeite had gehad om een punt te bereiken waarop de algoritmen onafhankelijk konden werken.

Een Britse startup genaamd Builder.ai verkocht AI-software die apps kon bouwen, ook al was het voor dat werk gedeeltelijk afhankelijk van softwareontwikkelaars in India en elders, aldus een rapport van de Wall Street Journal.

Er is een dunne grens tussen ‘fake it till you make it’ – het rechtvaardigen van het gebruik van mensen achter de schermen met de veronderstelling dat ze uiteindelijk zullen worden vervangen door algoritmen – en het exploiteren van de hype en vage definities rond AI om de mogelijkheden van je technologie te overdrijven. Deze pseudo-AI of ‘AI-washing’ was wijdverspreid, zelfs vóór de recente AI-hausse.

West Monroe Partners, dat due diligence doet voor private-equitybedrijven, onderzocht marketingmateriaal dat aan potentiële investeerders was verstrekt door veertig Amerikaanse bedrijven die in 2019 te koop stonden. Ze analyseerde hun gebruik van machine learning en AI-modellen. Met behulp van een scoresysteem bleek dat de marketingclaims van de bedrijven over AI en machine learning de mogelijkheden van hun technologie gemiddeld met meer dan 30% overdreven. Datzelfde jaar ontdekte een in Londen gevestigd durfkapitaalbedrijf genaamd MMC dat van de 2.830 startups in Europa die geclassificeerd waren als AI-bedrijven er slechts 1.580 nauwkeurig aan die beschrijving voldeden.

Zelfs als AI-systemen niet overdreven zijn, is het de moeite waard om te bedenken dat er een enorme industrie van verborgen werknemers bestaat die veel hightech AI-systemen in stand houden tegen lage lonen. (Dit is goed gedocumenteerd door academici als Kate Crawford en in boeken als Code Dependent van Madhumita Murgia.) Met andere woorden: als AI te magisch lijkt, is dat ook zo.

Bron: Bloomberg