Stel je voor, de CEO van het bedrijf waar je werkt plant een online meeting met je in en vraagt je om geld over te maken. Alles klopt: gezicht, stem, context, urgentie. Dus je maakt het geld over. Maar weet je zeker dat je daadwerkelijk met de CEO sprak? Of was het AI? Vertrouwen is goed, verificatie is alles.
We hebben in de maatschappij altijd vertrouwd op menselijke signalen zoals stem en gezicht als bewijs van identiteit. Maar wat acht jaar geleden vooral een gimmick was en ‘voor de lol’ werd ingezet, is tegenwoordig een serieus bedrijfsrisico geworden: een gezicht en stem door middel van AI overtuigend namaken met vrij beschikbare software voor misbruikdoeleinden. Oftewel, deepfakes. En daarmee is de basis waarop we vertrouwen fundamenteel anders. Wat we zien en horen is niet langer betrouwbaar bewijs van wie iemand is.
Veiligheidsprocedures AI in het bedrijfsleven
Het bedrijfsleven kent de gevolgen al. CEO-fraude treft zowel grote bedrijven zoals Pathé in 2018, als gemeenten zoals Krimpen aan den IJssel (in 2023 slachtoffer). Daarom zijn er bij de meeste organisaties inmiddels processen ingericht die voor veiligheid en verificatie zorgen. Maar dat werkt alleen als medewerkers zo’n proces volgen en verificatie in de organisatie wordt geaccepteerd en aangemoedigd. Het gaat fout zodra mensen uit welwillendheid buiten het proces om toch iets regelen, zeker als ze onder druk worden gezet om een verzoek snel in te willigen. Niemand wil een obstakel zijn. Daarom zijn medewerkers die weten wanneer ze moeten doorvragen steeds belangrijker.
Een bedrijfsomgeving is bij uitstek geschikt voor zulke procedures. Als een directeur of CFO mailt of appt met het verzoek om geld over te maken, kun je daar een verificatieproces omheen bouwen. Denk aan het terugbellen op het bij jou bekende nummer. Of het toetsen van het verzoek op een vooraf afgesproken manier. Maar niet elke situatie leent zich hiervoor, zeker niet in het dagelijks leven. Wat betekent dat voor vertrouwen in persoonlijke situaties waarin dit soort processen er niet zijn?
Maatschappij zonder vierogenprincipe
Buiten het bedrijfsleven is een verificatiecultuur nog ver weg (en AI niet). Als een onbekend nummer je belt en je vervolgens het gezicht en de stem van je moeder ziet en hoort, dan geloof je dat. Geen vierogenprincipe of verificatieproces, alleen menselijke signalen en het gevoel dat het om je moeder gaat. Maar die zekerheid bestaat door AI niet meer.
Ook in de privésfeer vindt fraude plaats. Denk aan de bekende ‘vriend in nood’-fraude, ofwel het appje van ‘je vader’ of ‘je kind’ die je om geld vraagt. Maar de schaal waarop bij deze vorm van fraude ook beeld en geluid gebruikt worden, is nog beperkt.
Cybercriminelen innoveren pas als het daadwerkelijk loont. Zolang phishingmails of appjes resultaat opleveren, ontbreekt de noodzaak om een gezicht of stem toe te voegen om het verzoek extra kracht bij te zetten. In de maatschappij is het kantelpunt rondom vertrouwen dus nog niet bereikt. Maar de gebeurtenissen uit het bedrijfsleven laten zien waar het naartoe gaat. Alles direct wantrouwen is niet nodig. Je bewust zijn dat wat je ziet en hoort niet altijd is wat het lijkt, wel.
Vertrouwen is alles, verificatie nodig
Vertrouwen is het fundament van onze samenleving. Dat blijft zo. Wat er nodig is, is een cultuuromslag. Of je nu op je werk een betalingsverzoek krijgt of thuis wordt gebeld, leer jezelf de reflex aan om te verifiëren. Via processen, maar ook met een houding waarin verificatie normaal is.
