Etiske problemstillinger i AI omfatter spørsmål om personvern, rettigheter. fordommer og ansvarlighet. Med økende bruk av AI i dataanalyse, reises bekymringer om hvordan personopplysninger samles inn, brukes og beskyttes. Fordommer i AI, som kan oppstå på grunn av skjeve data eller utviklerens forutinntatthet, kan føre til diskriminerende resultater, særlig i sensitive sektorer som finans og rekruttering. Ansvarligheten for AI-baserte beslutninger, spesielt i situasjoner hvor feil kan ha store konsekvenser, er også en kritisk etisk utfordring, og det krever klare retningslinjer for å håndtere feil og skader forårsaket av AI-systemer.

Oversikt over gjeldende regelverk og reguleringer for utvikling og bruk av AI

AI har stort potensial til å frembringe positive endringer i finansbransjen, både som et verktøy for å forbedre viktige beslutninger og som et middel for å hjelpe bransjen med å overholde eksisterende lover og forskrifter. Samtidig reiser den økende integreringen av avanserte AI-systemer til å fatte viktige beslutninger juridiske spørsmål knyttet til personvern, likestilling og diskriminering, ansvar og beskyttelse av immaterielle rettigheter. Selv om etiske rammeverk spiller en viktig rolle for ansvarlig bruk av AI, er det en økende erkjennelse av at regulering er nødvendig for å håndtere de unike utfordringene som AI-teknologier medfører.

Dermed er regelverk for bruk og utvikling av AI i stadig utvikling globalt. I mai 2024 vedtok Europarådet Rammekonvensjonen om AI, som er den første internasjonale avtalen med bindende regler på dette området. EU har vedtatt AI Act, og arbeider med regler for ansvar knyttet til AI. AI Act skal sikre at bruken av AI skjer på en måte som beskytter borgernes rettigheter og sørger for at teknologien er trygg og pålitelig. Loven stiller spesielt omfattende krav til AI-systemer som regnes som høyrisiko, som de som brukes i finanssektoren. For eksempel regnes det som høyrisiko å bruke AI til å predikere kredittverdighet hos enkeltpersoner eller sette kredittscore, samt til risikovurdering og prissetting av livs- og helseforsikring. Finansforetakenes bruk av AI ovenfor og på egne ansatte kan i enkelte tilfeller også klassifiseres om høyrisiko. I tillegg er eksisterende lover, som GDPR (personvernforordningen), og likestillings- og diskrimineringsloven, svært relevante for bruk av AI i finansbransjen.