de machine zoekt u #DSWeekblad
De Standaard Weekblad, 23/09/2017 –
De machine zoekt u
Flashback. Een avondje cinema met een vriend. The Matrix slaat in als een bom: het besef dat de wereld zoals we hem zien een zorgvuldig geconstrueerde leugen is, wekt in mij een heroïsch verlangen om de waarheid bloot te leggen. Mijn vriend ziet een ander visioen: de Matrix perfectioneren en een eigen versie van de wereld scheppen. Hij werd social media strateeg, ik journalist. Het was eind jaren ’90: Vlaanderen had nog een gematigd politiek landklimaat.
Digitale vervuiling
Vandaag zijn seksisme, racisme en haatpraat dagelijkse kost in het publieke debat. Over heikele onderwerpen als islam, migratie en de crisis kan nauwelijks nog normaal worden gepraat: een trollenleger begraaft elke rationele stem onder kilo’s bagger. Hierdoor treedt normvervaging op. Denk maar aan de “Zou u haar doen?”-oproep van geenstijl.nl, nadat columniste Loes Reijmer zich kritisch uitliet over de site: een eindeloze stroom verkrachtingsfantasieën was het gevolg. Op de Twitteraccounts van, ik zeg maar wat, onze staatssecretaris voor Asiel en Migratie, staan uitspraken die zelfs het Vlaams Belang 20 jaar geleden nooit en public zou hebben durven doen. Over #opkuisen, en zo.
Verklaart de politieke polarisatie de losgeslagen haat op internet, of heeft the medium the message geschapen? Of is het een wisselwerking: politieke frustratie meets technische middelen? Docent Nieuwe Media en Politiek Ico Maly beschrijf het systeem in Diggit Magazine aan de hand van PVV-kopstuk Geert Wilders: grofgebekte clickbait wordt herhaald door militanten en versterkt door de filterbubbels van het internet. Voor- en tegenstanders delen de posts, de mainstreammedia berichten erover en plots weerklinken volstrekt politiek incorrecte stemmen in de publieke ruimte.
Is Trump verkozen dankzij het internet? Moeilijk te bewijzen, maar wie The Matrix naar zijn hand weet te zetten, heeft een machtig wapen in handen. Feiten zijn nauwelijks nog van belang; algoritmes kunnen getraind worden om leugens voor waar te verkopen. En de filterbubbels omgeven ons met gelijkgestemden, waardoor dissidente stemmen worden gesmoord. Die relativiteit van de waarheid is problematisch: een beetje een handige jongen houdt ons moeiteloos een vals wereldbeeld voor, en wij beseffen niet eens dat we niet naar de werkelijkheid kijken, maar naar een projectie.
The Matrix is the world
that has been pulled over your eyes
to blind you from the truth.
Radicaliserende algoritmes
Algoritme zijn formules die op basis van historische data en een ingevoerde definitie van succes voorspellingen doen over toekomstig gedrag van die data. ‘Succes’ is gekoppeld aan een commerciële, consumentistische logica: zorgen dat mensen een product dat hen bevalt blijven kopen, liefst steeds meer. Vertaald naar politiek betekent dat: polariseren. Radicaliseren. De machines nemen de macht over en het zijn extremistische bastards.
Welcome to the real world.
BIG DATA & ALGORITMES
We beseffen niet, waarschuwt Cathy O’Neill in haar boek Weapons of Math Destruction, hoezeer onze maatschappij op big data models steunt. Sollicitaties, ziekteverzekering, gezichtsherkenningstechnologie, … Zelfs politiewerk gebruikt algoritmes: op basis van statistieken over gepleegde misdaden worden hot zones afgebakend, waar meer gepatrouilleerd wordt. Helaas blijkt dat agenten door zulke ‘voorspellingen’ agressiever optreden in die wijken. Veiligheid door algoritme, of selffulfilling prophecy?
Het internet, waar we uren tijd doorbrengen en het leeuwendeel van onze informatie halen, is een integraal door formules geschapen schijnwerkelijkheid. Een Matrix. “De meeste mensen,” stelt Rebecca MacKinnon, directeur van het Ranking Digital Rights project van de New America Foundation in The Guardian, “zien het internet als de lucht die we inademen en het water dat we drinken. Maar wat we vergeten, is dat het geen natuurlijk landschap is. Het is geschapen door programmeurs, redacteurs, designers. Mensen, die keuzes maken.” Alles, van onze Facebook-pagina tot de Google- zoekresultaten die we zien, is gepersonaliseerd. Maar dat hebben we niet door, omdat we het niet kunnen vergelijken met een ‘objectieve’ pagina.
Morpheus: Have you ever had a dream, Neo,
that you seemed so sure it was real?
If you were unable to wake up from that dream,
how would you tell the difference
between the dream world & the real world?
Ons wereldbeeld wordt dus grotendeels bepaald door de keuzes van mensen die de algoritmes schrijven. Alleen kennen we die niet, want Google en Facebook, weigeren hun algoritmes publiek te maken.
Kleine index van de problemen
Stel: je vraagt in de bibliotheek naar boeken over Joden. De bibliothecaris overhandigt je tien boeken, waarvan negen antisemitische. Het overkwam een journalist van The Observer, toen ze op Google ‘Are Jews’ intikte. Meteen vulde de zoekmachine aan: evil? en suggereerde antisemitische pagina’s zoals Jewwatch.org. Andere autocompletes: Are black men criminals? Are women prostitutes? Wil dat zeggen dat er seksisten en racisten achter de knoppen zitten? Wellicht niet. Het is ‘gewoon’ het algoritme dat ontspoort.
Algoritmes liegen. Ze versterken vooroordelen, omdat we vooral doorklikken op antwoorden die bevestigen wat we al denken. En mensen zijn pessimisten: negatieve suggesties worden tot 15 keer vaker aangeklikt dan positieve. Maar soms worden algoritmes bewust gemanipuleerd, stelt Brittan Heller, directeur Technology & Society bij de Anti-Defamation League. “Groeperingen zoals alt-right gebruiken dezelfde technieken als grote marketingbedrijven om hun propaganda omhoog te duwen in de zoekresultaten.” Daardoor krijgen extreemrechtse sites en meer klikverkeer én een betrouwbaarheidslabel. Vervelend als Google, wat ons wereldbeeld én ons stemgedrag bepaalt, extreemrechtse nonsens voor waar verkoopt. Na een klacht van de Anti-Defamation League over het feit dat de zoekterm ‘Jews’ naar antisemitische pagina’s leidde, plaatste Google er gewoon een asterisk bij met ‘Deze zoekresultaten kunnen verontrustend zijn, maar dit is een automatisch proces.’ Blame the machine.
Robert Epstein van het American Institute for Behavioral Research and Technology is ervan overtuigd dat Google verkiezingen kan beïnvloeden via SEME, search engine manipulation effect. Uit zijn experimenten bleek dat veranderingen in de volgorde van zoekresultaten zwevende kiezers over de streep kunnen trekken. En als het weghalen van een negatieve suggestie, die 15x vaker wordt aangeklikt, de verkoop van een product zwaar beïnvloedt, wat betekent dat dan voor verkiezingen? Want Google verwijdert soms manueel bepaalde autocompletes. Alleen: ze zeggen niet wanneer. Er zijn geen regels. Geen aansprakelijkheid.
Mark Zuckerberg wilde mensen verbinden; helaas connecteert Facebook ook extremisten, van neonazi’s tot jihadi’s. En het filterbubbel-algoritme, dat ons met gelijkgestemden omringt, polariseert de wereld: tijdens de Amerikaanse verkiezingen was er een blue feed en een red feed. Bovendien maakt het van Facebook een gigantische echokamer: nergens verspreiden leugens zich zo snel. Fake news raasde als een bosbrand door het sociale netwerk: wat telt is dat iets wordt gedeeld en geliket, want dat doet de kassa rinkelen. Voor het businessmodel van de site is de waarheid is van geen belang. De ideale omgeving voor clickbaits van o.a. het extreemrechtse Breitbart News. Kiezers werden overstelpt met valse informatie die bevestigde wat ze al dachten. Hoe vaker ze doorklikten, hoe meer propaganda ze kregen. Toch wil Facebook geen redactionele verantwoordelijkheid opnemen voor de inhoud op de site (tenzij het bloot betreft; liever tien nazi’s dan één tepel), want ‘ze zijn geen mediabedrijf’. Kras, als je weet dat 44% van de Amerikanen zijn nieuws via de site binnenkrijgt.
‘Crazy nonsense’, vindt Zuckerberg, te denken dat Facebook zwevende kiezers beïnvloedt. Toch zien marketingjongens in de data die ze van Facebook plukken dé manier om kiezers te winnen. Segmenteren, heet dat: precies die ads naar de kiezer sturen die aansluiten bij zijn gevoeligheden. Trump gebruikte tijdens zijn campagne meer dan 50000 versies van dezelfde advertenties. Dezelfde truc leverde Thierry Baudet twee zetels op door specifiek kiezers uit de transportsector te targetten. En ook de N-VA gebruikt dit systeem. De door Zuckerberg & Co geschapen toekomst helt behoorlijk over naar rechts.
Wat scheldtirades betreft, is Twitter met voorsprong de koploper. Hier bekampen hele trollenlegers elkaar: van gefrustreerde huisvaders tot hybride trollen, die gerekruteerd en betaald zijn om het debat rond gevoelige thema’s te koloniseren. Met stofwolken van fake news maken ze onzichtbaar wat er echt gebeurt en via trending hashtags bepalen ze welke topics hot zijn. De impact van trollen op het maatschappelijke debat, de politieke agenda en de nieuwsselectie in de media is veel groter dan we denken. Volgens alt-right-specialiste Shane Burley manipuleert vooral (extreem-)rechts de sociale media met massale acties. Ze framen bijvoorbeeld grotendeels het debat rond migratie: onder invloed van de ‘trend’ stellen politici en media hun koers bij.
FAKE NEWS SITES
Uit een analyse van Buzzfeed tijdens de Amerikaanse verkiezingen bleek dat 40% van de posts op drie rechtse en 20% van de posts op drie linkse FB-pagina’s valse informatie bevatte. Trump valideerde de leugens live, en probeerde tegelijkertijd de reguliere media te discrediteren, want zo functioneert The Matrix optimaal. Virtueel is het criterium voor waarheid kwantiteit: elke repost maakt een leugen meer ‘waar’. Wie ‘zijn’ waarheid wil laten primeren, heeft dus een zoveel mogelijk sites nodig die zijn boodschap herhalen.
Die industrie bestaat. Assistent-professor Communicatie Jonathan Albright onderzocht dataverspreiding door rechtse websites. Vanuit 306 fake news sites strekken zich miljoenen weblinks uit naar Youtube, Facebook en honderden sites die op hun beurt weer duizenden links uitsturen. “Het reguliere medialandschap is omsingeld door een satellietschild van rechtse propagandasites. In 3D ziet het eruit als een virus, en Facebook, de ideale omgeving voor snelle vermenigvuldiging, treedt op als host. Het is geen samenzwering, maar een ecosysteem dat de reguliere media verstikt.” Een informatieoorlog, noemt hij het. Vaak gaat het niet om leugens, maar om grijze zones van complexe thema’s zoals migratie, klimaat en economie. Zorgvuldig uitgekozen cijfers en feiten worden retorisch ingezet, als wapen voor één ideologische boodschap. En het systeem leidt een eigen leven: zelfs als we het niet meer voeden, wordt het groter en extremistischer. “Met elke muisklik versterkt het zichzelf: hatesites staan bovenaan de zoekresultaten, mensen klikken door, de pagina’s krijgen meer verkeer, de links stijgen in de ranking en winnen aan geloofwaardigheid.” Het is een gesloten economie die de haatboodschap continu versterkt. Razendsnel.
Tussen de lancering van fake news en de correctie na factchecking zit gemiddeld 13 uur. Op die tijd heeft het originele bericht zich miljoenen keren vermenigvuldigd. Dankzij, o.a., de echokamer van Facebook. De correctie via reguliere media, die niet strookt met onze vooroordelen, wordt minder snel vermenigvuldigd en bereikt helaas veel minder lezers.
DATA-MINING
Het ‘schaduwweb’ verspreidt niet alleen (extreem)rechtse propaganda, maar wordt ook gebruikt voor data-mining. Wie de sites bezoekt, wordt door trackers gevolgd over het hele net; op basis van die data worden gepersonaliseerde politieke campagnes opgezet door bedrijven als Cambridge Analytica, dat o.a. de campagnes van Trump en het Britse ‘Vote Leave’ voerde. Twee keer ‘raak’. Detail: in de raad van bestuur zetelt o.a. ex-Trump-adviseur Steve Bannon, oprichter van het extreemrechtse Breitbart News. Op de site prijkt de slogan: Cambridge Analytica uses data to change audience behaviour. Dankzij de psychologische profielen van 220 miljoen Amerikaanse kiezers, van wie het dankzij datamining alle persoonlijke voorkeuren en gewoontes kent. Campagnes konden zo verfijnd worden tot een demografische groep of zelfs toegespitst op één wijk. Een propagandamachine die mensen op individuele basis rekruteert voor een ideologie: zo’n niveau van social engineering is volgens Albright ongezien. En zo slagen de bedrijven erin, stelt professor Martin Moore, 150 jaar verkiezingswetgeving te omzeilen.
Kortom: Google en Facebook hebben een gigantische impact op de democratie, hun CEO’s schuiven elke verantwoordelijkheid af en juridisch is er geen kader. Of: wij denken dat wij het nog steeds voor het zeggen hebben, terwijl de machines het al lang overgenomen hebben: mensen zijn plug-ins geworden die het systeem voeden met data. Meer niet.
“What is the Matrix? Control.
The Matrix is a computer-generated dream world
built to turn a human being into this.”
*Holds up a battery*
Digital Warfare
Dodge this.
Rusland is één van de koplopers in digital warfare. Kremlin-gelinkte nepaccounts kochten voor $100000 FB-ads tijdens de presidentsverkiezingen in de VS. Journalist Max Seddon bestudeerde tijdens de Oekraïnecrisis een door het Kremlin gefinancierd troll agency: elke blogger plaatst dagelijks 50 comments op nieuwssites, drie posts op zijn 6 FB-accounts en 50 tweets op zijn 10 Twitter-accounts. Het resultaat? In een gerichte aanval kreeg The Guardian 40000 comments per dag binnen op berichtgeving over het neergehaalde vliegtuig van Malaysia Airlines: ziehier de weaponisation of social media.
Uit een case study van de NATO, Internet Trolling as a hybrid warfare tool, blijkt dat langdurig trollen in staat is de overtuigingen van mensen te veranderen. En doordat de indruk wordt gewekt dat de nepprofielen de stem van een grassroot-groep vertegenwoordigen, leidt trollen ook tot etnische en politieke polarisering. Vraagt u zich nog steeds af waarom het debat de laatste jaren zo verhard is?
Geheim wapen
Sinds kort zetten alle Belgische partijen voor hun campagnes zwaar in op sociale media; alleen de N-VA deed dat al eerder, naar internationaal model. In 2013 rekruteerden ze een digitaal marketeer van commercieel bureau als socialmedia-strateeg en in 2014 voerde reclamebureau Brandhome hun digitale campagne. De kracht van de sociale media werkte: 600000 surfers bezochten de partijsite, de ‘echte mensen’-filmpjes werden 1,4 miljoen keer bekeken, de online ads 420 miljoen keer. Via een online dashboard, volgens campagnemaker Erik Saelens het ‘geheime wapen’ van de partij, werd minutieus gemonitord wie hoe reageerde op welke reclame. Likes, shares, comments werden nauwgezet geanalyseerd, waarna 800000 gepersonaliseerde mails de deur uitgingen. Propaganda-op-maat. Ook op Facebook en Twitter wist de N-VA het sneeuwbaleffect van de sociale media in haar voordeel om te buigen. “De N-VA bepaalde de agenda van en voor iedereen. De andere partijen hebben dat pas begrepen toen het al te laat was. Ze waren zo druk bezig de N-VA tegen te werken, dat ze niet doorhadden dat we hen onze campagne lieten versterken. Idem dito voor een aantal traditionele media,” schrijft Saelens in Gebrandmerkt, zijn boek over de campagne.
Tegenwoordig maakt de partij (net als Open Vld) gebruik van data-analyses van persoonsgegevens die we ondoordacht afstaan omdat we zelden de gebruiksvoorwaarden van een site lezen. Wettelijk is er geen probleem: datamining mag. Ook op Twitter is N-VA met 52% twitterende kandidaten veruit de grootste speler, én de partij met de meeste trollen. Betaalt de N-VA dat trollenleger om haar visie te pushen? Wellicht niet. Het is best mogelijk dat de hybride trollen van vandaag niets anders zijn dan de partijmilitanten van vroeger. De plak-en-knokploeg. Trollen, weten we intussen, worden aangestuurd door boosheid en frustratie. Logisch dus dat vooral de N-VA er zoveel heeft: de campagne-ideologie steunt op het idee van stille wraak. Saelens citeert De Wever: “De Vlaming is een stille wreker. Hij kan zich ongelooflijk lang zo stil als een muis houden, maar op een gegeven moment komt al die verzwegen boosheid er toch uit. Dan verandert die muis in een leeuw.” Of in een trol.
Reclaim Internet
Is de digitale wapenwedloop van politieke polarisering nog te stoppen? Haat is altijd beter georganiseerd en militanter dan tolerantie. En mensen met een andere mening dan de meeste van hun FB-vrienden zwijgen, waardoor de roepers vrij baan krijgen: ‘de spiraal van de stilte’ noemt het PEW Research Centre dat. We zitten diep in nesten, maar het tij valt nog te keren, als we erin slagen het internet terug te claimen van de rechtse roepers en een ecosysteem van informatie opzetten dat mensenrechten en democratie dient in plaats van ze te vernietigen. En dat, concludeert MacKinnon, is de verantwoordelijkheid van ons allen. Of met filosoof Edmund Burke: all that is necessary for triumph of evil is that good men do nothing.
Pardon? klinkt het vanuit de zetel –Wat kunnen wij, machteloze burgers, beginnen tegen twee machtige bedrijven? Onze boze reacties vormen alleen maar extra tentakels voor Albrights ‘schaduwnet’. Kunnen we de roepers niet beter negeren?
Indignez-vous
Onverschilligheid, zei Sartre, is de slechtst denkbare houding tegenover geweld. Maar meer polarisatie brengt ons nergens. Is geweldloos verzet een optie? Ghandi stopte paarden door te gaan zitten, maar werkt dat met trollen en algoritmes?
Cyberspace heeft een achilleshiel: winstbejag. In plaats van — wellicht vruchteloos — klacht neer te leggen voor seksuele intimidatie, schreef Reijmer met 100 andere mediavrouwen een open brief aan de adverteerders van geenstijl. Fijntjes wezen ze de Efteling, McDonalds en de Nederlandse overheid erop dat hun merk prijkt op een site die bulkt van seksisme, racisme en homofobie; nogal wat adverteerders trokken zich terug. Winnen kan dus.
Trinity: What is he doing?
Morpheus: He’s beginning to believe
Menselijkheid, schreef Stéphane Hessel in Indignez-vous, is de nood voelen in opstand te komen en het engagement dat daaruit voortvloeit. Dat is precies wat we nodig hebben. Het engagement van de gematigden. Het is de gematigde massa zwijgende Vlamingen die moet opstaan en zeggen: genoeg. Niet op mijn internet. Niet in mijn realiteit. Dus laat dit een oproep zijn tot verontwaardiging. Tot verzet tegen de digitale vervuiling en verrechtsing, tegen polarisatie en haatpraat. Een terugclaimen van onze menselijkheid, een opstand van de mens tegen de machines. Tegen The Matrix. Hoe? Simpelweg door militant gematigd te zijn.
Unfortunately, no-one can be told what The Matrix is. You have to see it for yourself.
Disclaimer: Is dit de waarheid? Geen idee. Mijn research werd bepaald door mijn filterbubbel, en ik ken de algoritmes niet die mijn wereldbeeld bepalen. Ik kan alleen proberen beter te kijken. Ik raad u aan hetzelfde te doen.
—
Geschreven in opdracht van internationaal literatuurhuis Passa Porta, ter gelegenheid van Ecopolis, ‘Digital together’, Kaaitheater, 8 oktober 2017. De longreadversie van dit essay verschijnt in oktober bij QueridoFosfor.
Het stuk zoals het is verschenen kan je hier nalezen.
Het stuk zoals het verschijnt in Oikos-magazine en op Ecopolis vind je hier.