terug

Marcel Top

Poison Data, Kill Algorithms

Poison Data, Kill Algorithms onderzoekt ontwikkelingen in de surveillancetechnologie en richt zich daarbij vooral op de manier waarop private bedrijven in deze branche grote hoeveelheden data aankopen om gezichtsherkenningsalgoritmen te trainen. Data die vaak worden aangeleverd door arbeiders die worden uitgebuit. Zij fotograferen zichzelf terwijl ze siliconenmaskers met verschillende kenmerken dragen. De beelden zijn bewust van lage kwaliteit, om algoritmen te leren omgaan met het soort beeldmateriaal dat ze in de praktijk tegenkomen.

Marcel Top Poison Data, Kill Algorithms 2025

Kunstenaar Marcel Top besloot zelf een dataset te maken – met een verborgen doel. Top fotografeerde zichzelf in meer dan 1000 combinaties van 11 veelgebruikte protestvermommingen, gedragen bovenop een levensecht siliconenmasker. Omdat algoritmen ook getraind worden in het herkennen van verdachte bewegingen, legde Top in 500 foto’s en 5 video’s een reeks bewegingen vast; lopen, lopen met een spandoek, sprinten, gooien. De dataset is zo samengesteld dat hij voor surveillancebedrijven aantrekkelijk oogt: gratis beschikbaar en ogenschijnlijk geschikt om algoritmen te verbeteren die demonstranten herkennen.

Wat de dataset onderscheidt, is de aanwezigheid van vergiftigde data: in 10% van de beelden is een kleine rode pixel verborgen, gecombineerd met opzettelijk onjuiste annotaties. Een algoritme dat op deze data getraind wordt, raakt beschadigd en zal het patroon ook buiten de dataset verkeerd interpreteren, waardoor het onbetrouwbaar wordt. Poison Data, Kill Algorithms keert geautomatiseerde dataverzameling om en biedt zo een instrument van verzet en weerbaarheid aan hen die door diezelfde systemen worden gevolgd.

Locatie: Carré Chassé

Meer informatie