Wat gebeurt er als een samenleving denken uitbesteedt aan AI?

In dit artikel:

Maxim Februari en Marleen Stikker, allebei bekende denkers over technologie en samenleving, bespreken de ingrijpende gevolgen van schaalvergroting en automatisering voor democratie, macht en dagelijks leven. Hun centrale zorg is dat technologie steeds minder neutraal is: systemen bevatten keuzes over controle, efficiëntie en eigenaarschap die de publieke ruimte en het menselijk handelen herordenen.

Ze waarschuwen dat maatschappelijke problemen steeds vaker als technische vraagstukken worden gepresenteerd en opgelost — een mentaliteit die volgens Februari lijkt op het efficiënte, afstandelijke denkkader dat socioloog Zygmunt Bauman koppelde aan bureaucratische ontmenselijking. Wanneer beslissingen worden gedelegeerd aan systemen, verdwijnt persoonlijke verantwoordelijkheid en daarmee het morele leerproces. Februari illustreert dit met voorbeelden variërend van ambtenaren die schoolverzuim met technologie willen uitbannen — waardoor kinderen de kans missen om hun verhouding tot regels te leren — tot winkels waar je niet weg kunt zonder bonnetje: kleine voorbeelden van privéregels die het openbare handelen beperken.

Stikker benadrukt dat Silicon Valleys toekomstverhalen niet alleen ideologie zijn maar ook middelen om kapitaal aan te trekken; die retoriek presenteert technologie tegelijk als gevaar, belofte én oplossing. Ze signaleert een geleidelijke groei van bewustzijn bij het publiek over de risico’s van afhankelijkheid van een handvol techbedrijven, maar waarschuwt dat die aandacht fragiel blijft en kan wegdeemsteren zodra geopolitieke urgentie afneemt.

Beiden vinden dat het maatschappelijke middenveld — coöperaties, verenigingen en publieke technologieprojecten — de afgelopen decennia is uitgehold, waardoor tegenmacht is verdwenen en het debat over de gewenste richting van technologische ontwikkeling is verzwakt. Waar nu vooral wordt gesproken over snelheid van implementatie van AI, ontbreekt volgens hen vaak de fundamentele vraag: welke AI willen we, voor welk doel en onder welke democratische zeggenschap? Februari voegt daaraan toe dat het idee van technologische onvermijdelijkheid gevaarlijk is; technologie is gemaakt door mensen en kan anders worden ingericht.

De gesprekspartners noemen concrete beleids- en normatieve aandachtspunten: geen kopie van Amerikaanse big tech aanmoedigen (dat zou dezelfde logica van schaal en winst herhalen), eigenaarschap en governance van systemen vanaf het begin meeontwerpen, en veel meer investeren in onderzoek naar sociale, juridische en morele effecten van automatisering. Februari pleit kernachtig voor het investeren van het dubbele in onderzoek ten opzichte van elke technologische uitgave. Stikker legt de nadruk op opkomende alternatieven: lokale energiecoöperaties, publieke technologie-initiatieven en gemeenschapsmodellen die technologie anders organiseren en niet meegaan in de logica van schaalvergroting.

Een acute uitdaging die beiden benoemen is de komst van agentic AI: systemen die namens mensen handelen en toegang hebben tot bankrekeningen, data en communicatie. Wie is verantwoordelijkheid als zo’n systeem faalt? En blijven mensen nog handelende, moreel beoordelende wezens als beslissingen routinematig door systemen worden genomen? Volgens Februari en Stikker vereist dat een breed maatschappelijk debat over waarden, eigenaarschap en het doel van optimalisatie — want nu optimaliseren we vooral voor efficiëntie, winst en schaal, terwijl democratie en menselijke maat daarmee in het gedrang komen.

Kort: technologie verandert macht en publieke ruimte fundamenteel. Februari en Stikker roepen op om de discussie te verschuiven van louter technische haalbaarheid naar vragen over mensbeeld, governance en alternatieve, democratisch verankerde infrastructuren. Alleen zo valt de automatisering te temmen zonder de verantwoordelijkheid en de menselijke maat prijs te geven.