Wees niet bang voor massasurveillance, maar voor de mensen erachter

Wees niet bang voor massasurveillance, maar voor de mensen erachter

Op de Amsterdam Privacy Conference zag ik een van de vele gezichten achter de huidige totaalsurveillance van de NSA en daar werd ik bang van.
28 oktober 2015, 8:58am

Vóór Chelsea Manning, vóór Edward Snowden en vóór Wikileaks had je William (Bill) Binney. Binney werkte meer dan dertig jaar voor de NSA, tot hij in 2001 ontslag nam omdat de veiligheidsdienst een richting op ging waar hij het niet mee eens was – de richting van ongerichte, wereldwijde totaalsurveillance.

Afgelopen zondag was hij te gast bij de Amsterdam Privacy Conference – een conferentie over privacy, waar ironisch genoeg weinig mensen van gehoord hadden, tot bloggers zich boos maakten over het feit dat de bijeenkomst gesponsord werd door Google, Facebook, Palantir en Microsoft – om te praten over een documentaire over zijn leven die binnenkort verschijnt.

Het lukte hem om in anderhalf uur meer duidelijk te maken over de massaliteit, alomtegenwoordigheid en mogelijkheden van huidige surveillance dan alles wat ik er de afgelopen jaren over heb gelezen. Zijn verhaal over de ontwikkeling van de programma's die nu alles in de wereld in de gaten houden, was bijna enger dan de surveillance zelf.

Binney begon in 1970 bij de NSA. De dienst plukte hem uit de inlichtingendienst van het Amerikaanse leger, nadat hij uitzonderlijk begaafd bleek in het ontcijferen van de betekenis van Russische metadata. Hij was binnen de dienst een van de eersten die het belang inzag van data over data – de frequentie, tijd, lengte, afzender en ontvanger van Russische communicatie.

9/11 had volgens hem voorkomen kunnen worden met ThinThread

Hij ontwikkelde bij de NSA een systeem dat automatisch bepaalde patronen kon herkennen in Russische communicatie, en vond een aantal van die 'markers' die uitermate succesvol bleken in het voorspellen van militaire beweging van de Russen.

Deze carrière zette hij jaren voort. Binney beklom de surveillanceladder razendsnel en hij schopte het tot technisch directeur voor inlichtingen (CTO) van de NSA. Binney merkte in de jaren tachtig al de opkomst van informatietechnologie en het internet op, en begon met de ontwikkeling van een systeem dat later ThinThread genoemd zou worden.

ThinThread bleek zowel het hoogtepunt als de ondergang van zijn carrière. Het systeem kon alle metadata van communicatie wereldwijd opvangen, in een netwerk plaatsen, en er automatisch gevaarmeldingen uit trekken. Bovendien had het een ingebouwd systeem dat persoonsgegevens van waarschuwingsgevallen versleutelde, tot de melding was uitgezocht en een rechter toestemming had gegeven om de persoonsgegevens in te zien. Een soort ethische massasurveillance, dus.

In 2001, drie weken voor 9/11, werd besloten om ThinThread te vervangen door een systeem dat slechter werkte, veel duurder was en geen ingebouwde privacybescherming had. Binney vertelde tijdens de lezing dat dit te maken had met een nieuwe NSA-directeur, die zijn vriendjes bij een paar bedrijven geld wilde toeschuiven.

Het ironische is dat Binney na 9/11 NSA-data invoerde in ThinThread, en dat zijn programma de latere aanslagplegers als verdachten uit de datahoed toverde. 9/11 had volgens hem voorkomen kunnen worden met ThinThread.

Nadat hij dit verhaal vertelde, ging hij tijdens de lezing nog even door over hoe de NSA hem actief tegenwerkte toen hij ThinThread met een paar ex-NSA-collega's probeerde te verkopen aan andere overheidsinstanties.

Na de lezing was er maar één vraag die ik hem wilde stellen: is menselijk gedrag echt zo makkelijk te voorspellen? Kan je aan de hand van iemands metadata over telefoongesprekken, emails en banktransacties echt zo goed vaststellen wat hij van plan is? Binney, met twinkelende ogen: "Yes."

Het engste aan het hele praatje vond ik niet de massasurveillance, niet het feit dat de NSA in plaats van metadata nu gewoon alle data verwerkt, analyseert en ongeanonimiseerd opslaat, niet dat dit in de jaren negentig al mogelijk was en nu waarschijnlijk duizend keer geavanceerder is. Ik vond het allerengste die volledig overtuigde "yes" uit de mond van iemand met dertig jaar ervaring met dataspionage en -analyse.

Blijkbaar produceren wij als moderne mensen zoveel data dat ongewenst gedrag automatisch gefilterd kan worden uit een eindeloze stroom data, om er vervolgens een 'risico'-labeltje aan te hangen. En blijkbaar bestaan er mensen als Binney, die menselijk gedrag zien als een leuk wiskundig probleem dat opgelost kan worden.

Tel die twee bij elkaar op en je komt uit op een wereld waarin subjectieve waarden van wat gewenst of ongewenst is door de huidige machtshebber bepaald worden en met koude data automatisch gefilterd worden om mensen te categoriseren. Dat kan en gebeurt op dit moment.

Binney nam als voorbeeld van doelwitten de hele tijd 'terrorists' en 'dope smugglers.'

Die labels zijn voor normale mensen subjectief gedefinieerd: een terrorist is iemand die er op uit is om onschuldige mensen om al dan niet ideologische redenen te verwonden of te doden, om zijn of haar boodschap te verspreiden.

In data lijkt die definitie objectief: een terrorist is iemand die binnen een jaar met minimaal twee bekende andere terroristen contact heeft gehad, vliegtickets koopt met een creditcard die niet op zijn naam staat, en versleutelde email gebruikt om te communiceren. (Binney wilde niet zeggen welke markers er precies gebruikt werden, maar zoiets als dit stel ik me voor.)

Maar zo'n definitie is helemaal niet objectief. Het hele punt waar Binney in zijn verhaal aan voorbijging is het feit dat zelfs 'objectieve' markers in ThinThread in eerste instantie gedefinieerd worden door mensen, die subjectieve waarden aan een computer proberen te leren. Hij probeert zijn spionagesoftware neer te zetten als onpartijdig en veilig, maar het gaat er uiteindelijk alleen maar om welke waarden erin worden gestopt om gedrag te beoordelen – elke gedraging die de overheid of veiligheidsdienst du jour maar als verdacht wil bestempelen.

De versleuteling van persoonsgegevens van Binney's systeem is misschien wel beter dan wat er nu is, maar is alsnog een laagje vernis op een ontransparante drol. Het probleem is niet zozeer dat er gespioneerd wordt, maar de totale ondoorzichtigheid van de waarden die voor de spionage gebruikt worden – het feit dat je goed en slecht niet zo makkelijk kunt uitdrukken in data, en dat sommige mensen wel denken dat dat kan.

Binney liet me zien dat massasurveillance niet een soort gezichtsloze, ongrijpbare entiteit is die aan de hand van koude data oordelen velt over mensen. Er zitten mensen achter die bepalen welke datapatronen niet oké zijn, en welke wel. Mensen met vooroordelen, met gebreken, met politieke voorkeuren. Binney plakte voor mij een gezicht op een tot dusver abstract concept.

In wezen ben ik dus niet bang voor massasurveillance an sich, ik ben bang voor de Bill Binney's, de Donald Trump's, de mensen die bepalen wanneer je goed of slecht bent aan de hand van je data – wanneer je de moeite waard bent om in de gaten gehouden te worden, en wanneer niet (en dan toch wel je gegevens opslaan, gewoon voor de zekerheid). Want hoe objectief algoritmes ook lijken, uiteindelijk zijn het altijd mensen die de algoritmes leren wat gewenst of ongewenst is. En mensen zijn eng.