The Boss Called; Unfortunately, So Did the FutureDe baas belde; helaas deed de toekomst dat ook

Italian investigators are examining a fraud in which criminals posed as senior executives. At Fideuram, the private bank of Intesa Sanpaolo, transfers of about €95 million followed a fake WhatsApp message from the group’s chief executive and a phone call using the AI-cloned voice of a lawyer. Part of the money has since been recovered.

The vulnerable component was an old human arrangement: when an important voice sounds urgent, someone obeys. Artificial intelligence had not invented deference. It had merely discovered a profitable interface.

The money was real enough; the authority that requested it was the part requiring verification.

Italiaanse onderzoekers buigen zich over een fraude waarbij oplichters zich voordeden als topbestuurders. Bij Fideuram, de private bank van Intesa Sanpaolo, volgden overboekingen van zo’n 95 miljoen euro op een nep-WhatsAppbericht van de topman en een telefoontje met de door AI gekloonde stem van een advocaat.

Een deel van het geld is inmiddels teruggehaald. Het kwetsbare onderdeel was een oude menselijke gewoonte: als een belangrijke stem dringend klinkt, gehoorzaamt iemand. Kunstmatige intelligentie heeft ontzag voor de baas niet uitgevonden. Ze heeft er alleen een winstgevende interface voor gevonden.

Het geld was echt genoeg; het gezag dat erom vroeg was het deel dat gecontroleerd moest worden.