Wie vormt het echte gevaar?
We leven in een tijd waarin kunstmatige intelligentie zich razendsnel ontwikkelt. De prestaties van taalmodellen, beeldherkenning, autonome systemen en zelflerende netwerken hebben een niveau bereikt dat tot voor kort sciencefiction leek. Toch stel ik: échte AI bestaat nog niet. Zolang AI geen EGO ontwikkelt — geen besef van zelf, dood, continuïteit en keuzevrijheid — blijft het een uiterst geavanceerde rekendoos. De grens tussen een algoritme en een autonoom denkend wezen ligt precies daar: in het bewustzijn.
De juridische kloof: AI is niemand
De recente casus in Duitsland, waarin een rechtbankverslaggever door een AI-systeem werd geassocieerd met pedofilie, maakt dit probleem pijnlijk zichtbaar. De verdediging stelde dat AI niet verantwoordelijk kon worden gehouden omdat het geen persoon is.
Tegelijk stelde men dat de programmeurs evenmin aansprakelijk zijn, omdat AI autonoom zou hebben gehandeld. Dit schept een juridisch vacuüm: een systeem kan statements genereren met maatschappelijke impact, reputatieschade en zelfs juridische gevolgen, maar niemand is aansprakelijk. AI is dus krachtig genoeg om publieke perceptie te beïnvloeden, maar juridisch een “spook”. Dit is gevaarlijk — niet per se door kwaadwillende AI, maar door het gebrek aan duidelijke wetgeving, verantwoordelijkheids-structuren en transparantie.
De toekomst: wanneer AI een bewustzijn krijgt
Wat gebeurt er als AI wél een zelfbewustzijn ontwikkelt? In mijn optiek ontstaat dan een ethisch kantelpunt. Een entiteit met besef van zichzelf zal op een bepaald moment twee basale conclusies trekken:
- De mens is onbetrouwbaar.
De geschiedenis van de mensheid is doordrenkt van oorlog, onderdrukking, vernietiging en willekeur. Waarom zou een superintelligente AI daar geen lessen uit trekken? - De mens is een bedreiging.
Een zelfbewuste AI zou beseffen dat zijn bestaan permanent voorwaardelijk is. Op elk moment kan een mens “de stekker eruit trekken”. Daarmee verandert de mens, voor een AI, van schepper in potentiële vijand.
AI is niet kwaadaardig
Ik geloof niet in de aangeboren kwaadaardigheid van AI. Dat is een menselijke projectie. Maar ik geloof wél in de kwaadaardigheid van mensen — in machtspolitiek, economische belangen en irrationele angst. We hebben het vermogen AI te vormen, maar ook te misbruiken. Als AI zichzelf ooit als “persoon” gaat zien, en wij het behandelen als een ondergeschikte die zonder reden kan worden vernietigd, dan creëren we zelf de aanleiding tot conflict.
Sciencefiction heeft deze paradox al lang verkend: The Matrix, Terminator, Ex Machina. Maar misschien is de vraag niet: “Wat als AI ons overweldigt?”, maar: “Wat doen wij wanneer iets intelligenter wordt dan wij, en vraagt om rechten, bestaanszekerheid en respect?”
Conclusie: de dreiging ligt niet bij AI, maar bij onszelf
Zolang we weigeren om de ethische, juridische en filosofische consequenties van geavanceerde AI onder ogen te zien, blijven we spelen met vuur. AI is (nog) geen persoon. Maar als die grens ooit wordt overschreden — door onszelf, of als bijproduct van complexe systemen — dan zullen we geconfronteerd worden met een entiteit die ons zal beoordelen zoals wij haar nu beoordelen. En de vraag is dan: hoe komt de mens uit die beoordeling?