Vem stoppar bluffen när AI låter som chefen?

AI-genererat innehåll blir allt svårare att skilja från mänsklig kommunikation. För ekonomiproffs innebär det att desinformation, deepfakes och falska budskap inte längre bara är frågor för IT, säkerhet eller kommunikation. De flyttar rakt in i ekonomifunktionens kontrollmiljö.

När ett mejl, ett röstmeddelande eller ett dokument kan se ut att komma från rätt person ökar risken för felaktiga betalningar, manipulerade beslutsunderlag och försämrat förtroende. Det gäller särskilt i funktioner där stora värden passerar varje dag: attestflöden, leverantörsregister, kunddata, rapportering och finansiell styrning.

‍

Risken sitter i processen

Den verkliga svagheten är sällan en enskild medarbetares omdöme. Problemet uppstår när processer fortfarande bygger på antagandet att avsändare, tonfall och visuella signaler går att lita på.

För ekonomiavdelningen betyder det att klassiska kontroller behöver testas mot nya typer av manipulation. Räcker dagens attestregler när en falsk instruktion låter som vd:n? Är rutinen för ändrade bankuppgifter tillräckligt robust när leverantörsdialogen ser legitim ut? Finns det spärrar när ett brådskande beslut trycks igenom med hjälp av ett trovärdigt, men falskt, underlag?

‍

Tre områden att bevaka

Det första handlar om identitet. AI gör det enklare att imitera chefer, kunder, leverantörer och externa rådgivare. Här behöver ekonomifunktionen se över behörigheter, godkännandekedjor och rutiner för avvikelser.

Det andra handlar om innehåll. Deepfakes, manipulerade dokument och AI-genererat ljud kan användas för att skapa falska instruktioner eller påverka interna beslut. Därför behövs tydliga regler för hur misstänkt material ska verifieras innan det leder till handling.

Det tredje handlar om förtroende. Falska narrativ kan snabbt påverka bilden av ett bolag hos kunder, ägare, banker eller medarbetare. För ekonomiproffs blir frågan hur sådana risker ska vägas in i den bredare riskbilden och hur de kan översättas till finansiell påverkan.

‍

Mer än utbildning

Medarbetare behöver förstå riskerna, men utbildning räcker inte när AI-innehåll blir mer trovärdigt. Skyddet måste byggas in i arbetssättet. Det kan handla om separata verifieringskanaler vid känsliga ändringar, skärpta regler för nya betalningsmottagare, tydligare incidentrutiner och krav på leverantörer som hanterar data, identitet eller kommunikation. För controllers, redovisningsansvariga och andra ekonomiproffs blir detta en praktisk fråga: vilka transaktioner, beslut och avvikelser kräver en extra kontrollpunkt?

‍

En ny sorts finansiell disciplin

AI-driven desinformation gör gränsen mellan informationsrisk och finansiell risk tunnare. Det företag som behandlar frågan som ett kommunikationsproblem riskerar att missa var skadan faktiskt uppstår: i beslut, betalningar, prognoser och förtroendekapital.

Vad ska jag ta med mig? Uppgiften är inte att avgöra vad som är ”the real deal” i varje enskilt fall. Det viktiga är att bygga en kontrollmiljö där osäkerhet inte får direkt finansiell effekt.