En studie från Stanford RegLab och Institute for Human-Centered AI har uppmärksammat en oroande tendens hos stora språkmodeller såsom OpenAI:s ChatGPT att skapa "hallucinationer" - falsk eller vilseledande information. Studien visade att dessa språkmodeller ofta är överdrivet självsäkra och kan bibehålla felaktiga juridiska antaganden och övertygelser, en indikation på bristande tillförlitlighet i juridiska sammanhang.
Möjliga risker med juridisk AI
• Bias och diskriminering
En av de största riskerna med AI inom juridiken är potentialen för inbyggd bias. Om en AI-modell tränas på historiska data som innehåller bias, kan systemet fortsätta att reproducera eller till och med förstärka dessa fördomar, vilket leder till orättvisa beslut.
• Transparens och förklarbarhet
AI-systemens "black box"-natur innebär att det kan vara svårt att förstå hur de kommer fram till sina slutsatser. Denna brist på transparens kan utgöra ett problem i juridiska sammanhang där beslutsprocesser måste kunna granskas och ifrågasättas.
• Datasekretess
Inom juridiken behandlas ibland känsliga personuppgifter. Det kan även hanteras dokument som har hög sekretessnivå. Om fel AI-tjänst kopplas på finns en risk för att dessa uppgifter eller dokument kan missbrukas vilket utgör en allvarlig integritetsrisk
Lexnovas AI-tjänst Legal Assistant
AI-tjänsten Legal Assistant använder Lexnovas egna rättsdatabas, som innehåller tusentals artiklar om rättsfall, juridisk praxis och juridiska analyser av några av Sveriges främsta experter. Varje fråga till Legal Assistant går igenom all data för att hitta det mest relevanta referenserna och baserar sedan svaret på dessa. Allt för att minimera riskerna. Du kan sedan själv gå direkt till källan och läsa referensmaterialet. Legal Assistant har inte tillgång till din eller någon annan person eller företags data, därav är risken kring datasekretess inte heller ett problem. Den kommer inte heller att lära sig av ditt beteende, som vissa AI-tjänster gör. Istället kan du alltid lita på att få relevanta, tillförlitliga och aktuella svar fria från bias.