Surveillance kapitalisme en regulering

     Artificiële intelligentie zal onze wereld veranderen, zoals de stoomtrein en het internet dat al deden. Ik weet niet of we daardoor met zijn allen gelukkiger zullen zijn, maar zonder dat internet had ik dit stukje niet geschreven en was u, lezer, dit stukje niet aan het lezen. Zelf gebruik ik bijna dagelijks Grok en ChatGPT om gebrekkige informatie uit mijn krant aan te vullen, maar ik heb al gemerkt dat daar niet veel van blijft hangen. ‘Ik moet dat niet onthouden,’ denk ik dan, ‘ik kan het opnieuw opzoeken wanneer ik maar wil.’ Verder zijn er allerlei toepassingen waar ik niets van merk, maar die zich op de achtergrond afspelen. Ik ben daar gerust in: als ik er niets van merk, kan het ook niet erg zijn.
           Dat is zonder De Standaard gerekend, waar ik vaak gewaarschuwd wordt voor de gevaren van iets. Op de opiniepagina’s staat vandaag (5/9) een stuk van Tim Brys, doctor in artificiële intelligentie, iemand die al eens eerder geprobeerd heeft om mijn gemoedsrust te verstoren*. De titel is meteen raak. De totalitaire hel van Silicon Valley. En de eerste zin verduidelijkt: ‘Big tech bedreigt niet alleen onze privacy, maar ook onze vrijheid.’ Dan lees je het stuk en wat blijkt: grote bedrijven zetten AI in om ons hun producten en diensten aan te bieden middels gerichte advertenties. Dat is waar, en ik heb het zelf ondervonden. Die bedrijven zijn op geheimzinnige wijze te weten gekomen dat ik iets met piano’s heb, en sturen mij voortdurend reclame voor piano’s en pianolessen. Wel, als dat het ‘surveillancekapitalisme’ is: big deal! Of in het Latijn: parturiunt montes, nascetur ridiculus mus.
      U gelooft mij niet. Lees even mee.

Het surveillancekapitalisme is dus niet alleen een enorme inbreuk op onze privacy, maar ook een globaal systeem van gedragswijziging. We ruilen niet alleen onze privacy in voor gratis internetdiensten, maar ook onze vrijheid. Surveillancekapitalisten willen uiteindelijk ons gedrag zo veel mogelijk automatiseren. Hoe voorspelbaarder we zijn, hoe zekerder ze weten welke advertenties zullen werken en hoe meer geld ze aan ons verdienen. Zo wordt onze individuele vrijheid ondermijnd én de democratische systemen die erop gestoeld zijn.

     Maar die automatisering van mijn gedrag zal niet lukken, vrees ik. De keuzes zullen zichzelf niet maken. Ik zal zelf moeten blijven kiezen, en dat binnen mijn financiële mogelijkheden. Ik zal mijn geld niet uit onweerstaanbare dwang uitgeven om een betere piano te kopen dan degene die ik heb. Ik heb niet eens het geld daarvoor. Ook zijn er verschillende pianobedrijven die mij hun instrument willen aansmeren, en mocht ik het geld hebben, dan moest ik nog altijd kiezen bij wie van hen ik mijn bestelling plaats. Zo voorspelbaar ben ik dus niet. De manipulatietechnieken van pianobedrijf A worden gecompenseerd door die van pianobedrijf B, waardoor mijn vrije keuze hersteld is. En ik krijg ook nog advertenties van allerlei andere bedrijven die mij iets helemaal anders willen verkopen, zodat ik alweer zelf moet nadenken hoe ik mijn budget over al dat lekkers zal verdelen – terwijl er nóg andere bedrijven zijn die mij aanraden om juist niets te kopen en mijn geld bij hen te beleggen. Ik krijg er keuzestress van.
     Wat mij eigenlijk ongerust maakt, is niet AI, maar stukken als die van Tim Brys. ‘Alleen strenge regelgeving kan ons redden.’ We moeten 

de Amerikaanse technologie proberen te reguleren, zoals de EU dat doet met haar GDPR en met verordeningen zoals de Digital Service At en de Digital Markets Act.

     Alles dus volgens het beginsel: Amerika innoveert, Europa reguleert.
     Technische vooruitgang brengt risico’s met zich mee, zeker, en we moeten bepaalde voorzorgen nemen, dat klopt. Het verhaal dat we hoorden op de lagere school schijnt waar te zijn: in de 19de eeuw was men werkelijk ongerust dat het gedreun en het geluid van de stoomtrein, en de onnatuurlijke snelheid ervan, de koeien zo aan het schrikken zouden brengen dat ze geen melk meer produceerden. Maar die ongerustheid bleek voorbarig. We zijn te vaak ongerust, over de verkeerde zaken. Boudry schrijft in Het verraad aan de verlichting:

De waarheid over onze technologische stagnatie: we hebben haar over onszelf afgeroepen. Alleen al door de heiligverklaring van het voorzorgsbeginsel en de navenante overregulering hebben we enorme kansen gemist.

     Maar sommige gevaren zijn reëel. Tim Brys wijst op één ervan als hij schrijft dat ideologen en propagandisten van AI gebruik kunnen maken om mensen efficiënter te manipuleren. Dat is waar: vooruitgang laat toe om slechte dingen beter uit te voeren. Maar het allergrootste gevaar is een ander: de mogelijkheid die de staat krijgt om AI in te zetten op een manier waarmee ze burgers kan manipuleren, disciplineren en bespionneren.
     Het zijn niet de ‘kapitalisten’ met hun ‘gerichte advertenties’ die onze vrijheid bedreigen. Zij kunnen ons alleen iets verkopen. Maar de staat kan ons in de gevangenis stoppen, omdat we naar kinderporno kijken, omdat we vluchtsmisdrijf plegen, omdat we radicaliseren, omdat we tijdens een epidemie geen mondmasker dragen of naar een feest gaan, omdat we een sigaret roken op een terras, omdat we alcohol drinken op een personeelsfeest, omdat we haatboodschappen of fake news verspreiden, omdat we opkomen voor Israël of Palestina, omdat we de maatschappij polariseren. Wat vandaag niet bij wet verboden is, kan het morgen wel zijn. En dan staat AI klaar om een en ander te implementeren.
     De regulering door de EU is dus niet alleen een rem op de vooruitgang, ze opent ook de mogelijkheden van dictatoriale staatsmacht – waar Brys heel even naar verwijst door ‘China en Rusland’ te vermelden. Bij ons in Europa moeten we maar denken aan de discussie rond Chat Control. Om de strijd tegen online-kindermisbruik te voeren had de Europese Commissie aanvankelijk een voorstel geformuleerd waardoor de overheid onze privémails en chatberichten kon lezen. Het ergste is dat zulke voorstellen niet alleen voortkomen uit perverse machtswellust maar ook uit de goede bedoeling om de misdaad te bestrijden, de volksgezondheid te bevorderen of de maatschappelijke samenhang te bewaren. Die bedoelingen zijn veel hoogstaander dan die van op winst beluste pianoverkopers. Ze zijn ook veel gevaarlijker. 

 

* Een vorig stukje over zijn gemopper over AI staat hier