Algoritmische cultuur is een label voor de complexe, soms verontrustende en soms grappige staat waarin menselijke culturele processen terecht zijn gekomen doordat ze online werkzame algoritmen hebben geproduceerd die op zo’n enorme schaal en op zo’n diep maatschappelijk niveau opereren, dat ze een centrale rol zijn gaan spelen in de  productie van cultuur.

De term bots wordt verschillend gedefinieerd in verschillende contexten. In dit programma gebruiken we de term vrij genereus: op 11 mei organiseerden Het Nieuwe Instituut (samen met FIBER  Festival) een masterclass over het maken van  bots met bot-kunstenaar Darius Kazemi. Zijn favoriete definitie is: “Bots zijn algoritmen met een gezicht.” Anne Helmond, spreker op de Bot Club over Critical Bots, voegde daar nog het element van toezichtvrije werking aan toe. Bots zijn dan autonoom functionerende algoritmen met een gezicht.

Geautomatiseerde opinievorming

Met het programma van Critical Bots wordt ingegaan op de mogelijk kritische rol van bots in het domein van (politieke) opinievorming. Het is duidelijk dat dit domein een bruut algoritmische slagveld is geworden. Om drie korte voorbeelden te geven:

• Op een algemeen en dagelijks niveau hebben de content filters waarmee de timelines van Facebook gebruikers worden gevormd een significant effect op het soort boodschappen, advertenties en verhalen waarmee zij in aanraking komen. Dit soort systemen geven de voorkeur aan content waar gebruikers daadwerkelijk op klikken, (met andere woorden, waar ze belangstelling voor uiten) want aan de hand daarvan kunnen de advertenties waarmee Facebook zijn inkomsten genereert preciezer worden geplaatst. Zo worden de filter-bubbles waarmee mensen zich plegen te omringen in hun discursieve bestaan, versterkt.
• Rusland lijkt een leger te onderhouden van zogenaamde Putinbots. Sommigen daarvan zijn menselijke desinformatie trollen, maar de meesten zijn volledig geautomatiseerde haat-bots die geselecteerde, vaak ongefundeerde verhalen op gigantische schaal verspreiden met het doel het publieke debat te ondermijnen op verschillende online platforms tijdens verkiezingscampagnes in de VS en Europa.
• En we kennen de zogenaamde megaphoning systemen als AgendaofEvil – in feite een website, met twitter account en retweet netwerk dat snel en effectief anti-islam spam verspreid.

We kunnen veilig stellen dat de ruimte van geautomatiseerde opinievorming wordt gedomineerd door bots uit de uiterst- en alt-rechtse hoeken van het politieke spectrum. In plaats van het toepassen van identieke mechanismen om een ander soort politieke boodschap te verspreiden  (en zo alleen uit te komen op een strijd om aandacht) wil Critical Bots de volgende vraag aan de orde stellen:

Kunnen bots en ander algroritmische agenten een rol spelen in kritische opnievorming? Met andere woorden: kan politieke of culturele kritiek ook een algoritmische vorm aannemen? Of heeft het mogelijk al ergens een dergelijke vorm? Bijdragen aan het programma Critical Bots bestond uit twee delen: een Thursday Night Live programma met sprekers en een meer praktijk gericht deel van het priogramma, de volgende dag.

Critical Making

Florian Cramer van de Willem de Kooning academie opende het programma met een korte introductie op het position paper over Critical Making (lees een korte samenvatting) dat in enkele belangrijke aspecten was geïnspireerd door de Critical Engineering praktijk van Julian Oliver, die later op de avond zou komen te spreken. Het Nieuwe Instituut maakt deel uit van een onderzoeksconsortium dat tot doel heeft de praijktijk van Critical Making opnieuw te doordenken en van waarde te maken voor de huidige kunst- en ontwerppraktijk.

Platformspecifieke bots en hun kritisch potentieel

Onderzoeker in digitale cultuur Dr. Anne Helmond van de UvA schetste een korte geschiedenis van bots als de eerste inheemse soort van het internet. Ze beschreef de platforms Twitter en Wikipedia als ecologieën gevormd door het samenspel tussen bots en mensen. Daarna verkende ze enkele typologieën van kritische bots. Transparantie bots zijn geautomatiseerde agenten die sociale media gebruiken om aandacht te vestigen op zekere publieke actoren. Ze rapporteren het gedrag van bepaalde instituties als een soort vergrootglas voor publieke aandacht. Anti-trol bots (of blockbots) ondersteunen het bijhouden van een gedeelde block-lijst van platform accounts.  Gebruikers die een block-bot volgen krijgen geen berichten meer van alle accounts die in de block-lijst zijn opgenomen. Popperbots en bridgerbots opereren op basis van de analyse van online discursieve netwerken binnen twitter. Popperbots infiltreren in zogenaamde echo-kamers waar bepaalde standpunten voortdurend herhaald en bevestigd worden en injecteren alternatieve opinies. Bridgerbots creeëren links tussen twee of meer gesegregeerde netwerken van Twitter gebruikers.

Helmond concludeerde met enkele opmerkingen over de centrale rol die bots spelen op veel online platforms. Ze zijn niet alleen ‘bewoners’ van deze platforms, maar zijn spelen een actieve rol in de constructie van hun omgevingen en in de cultuur van hun platforms.

Kritische Automaten door Julian Oliver

Media kunstenaar Julian Oliver geeft er de voorkeur aan zijn werken te begrijpen als  automaten. De term bots suggereert agenten of systemen die specifiek online, binnen platforms leven. Olivers’ werken zijn weliswaar digitaal en genetwerkt, maar opereren buiten platforms en soms ook buiten het www. Ze bieden kritische interventies waarmee de aannames die zowel gebruikers als programmeurs hebben ten aanzien van het betrouwbaar functioneren van de digitale infrastructuur, worden ondervraagd.

Oliver is co-auteur van het Critical Engineering Manifesto dat ook een aantal leidende principes voor zijn praktijk geeft. Zijn werken krijgen vaak fysieke vorm als onverdachte stukken hardware: denk aan een electriciteitsadapter of een HP kantoor printer. Behalve hun reguliere, functionerende onderdelen bevatten ze ook technologie waarmee de zwarte dozen van ogenschijnlijk naadloos functionerende ICT infrastructuur worden opengebroken. Newstweek (‘fixing the facts’) breekt lokaal in in digitale informatie stromen, opererend van uit iets dat er uit ziet als een stekkerdoos of adapter, en stelt gebruikers in staat om verhalen in nieuwssites aan te passen op de beeldschermen van nieuwsconsumenten die online zijn via publeke ‘hotspot’). Stealth Cell Tower (vermomd als kantoor printer) vangt lokaal dataverkeer van mobiele telefoons op, en stuurt smsjes die eruitzien alsof ze afkomstig zijn van een bekende van de ontvanger. Alle communicatie tussen de Stealth Cell Tower en de ontvanger wordt onmiddelijk geprint. Zo nu en dan belt de Stealth Cell Tower in de omgeving. Als er wordt opgenomen, speelt hij Stevie Wonder’s klassieke hit uit 1984 I Just Called To Say I Love You.

Julian Olivers automaten interveniëren niet op het niveau van het digitale platform, meestal binnen de zogenaamde application layer van de internet protocal stack, maar op het meer basale niveau van de link layer en soms de internet layer. Zijn interventies leggen de onbevraagde afhankelijkheid van webgebruikers bloot ten aanzien van lekkende, manipulatieve en soms gewoon verkeerd functionerende technische infrastructuur.