Large Language Models (LLM:er) har på kort tid förändrat hur organisationer tänker kring automatisering, beslutsstöd och digitala tjänster. För många har de blivit synonymt med AI. Men i takt med att användningen mognar blir en sak allt tydligare: LLM:er är kraftfulla, men de är inte alltid rätt verktyg.
Att förstå när en LLM är rätt val och när den inte är det är avgörande för att bygga lösningar som är hållbara, skalbara och affärskritiska.
LLM:ens styrka är också dess begränsning
LLM:er är exceptionella på att hantera ostrukturerad information, språk, sammanfattningar och resonemang där svaret inte är entydigt. De fungerar väl när problemet är öppet, kontextuellt och kräver flexibilitet.
Samtidigt är de i grunden probabilistiska system. De förutser nästa token baserat på sannolikhet, inte på fakta, regler eller deterministisk logik. Det innebär att de kan vara kreativa och hjälpsamma, men också oförutsägbara.
I praktiken blir detta ett problem när lösningen kräver:
- konsekventa resultat
- tydlig spårbarhet
- exakt regelefterlevnad
- förutsägbar prestanda och kostnad
I dessa lägen räcker LLM:en ofta inte till på egen hand.
När organisationer springer för fort
Ett vanligt mönster vi ser är att LLM:er används som ett universellt svar på alla problem. Processlogik, affärsregler och beslut bäddas in i promptar i stället för att modelleras explicit.
Till en början fungerar det ofta. Men ju mer lösningen växer, desto tydligare blir konsekvenserna: svårtestade flöden, oförklarliga variationer i resultat och ökande beroende av promptjusteringar.
Det är sällan ett modellproblem. Det är ett arkitekturproblem.
När du bör tänka annorlunda
LLM:er bör inte ersätta tydlig struktur där sådan krävs. När en process kan beskrivas med regler, tillstånd och väldefinierade beslut är traditionell logik ofta både mer robust och mer kostnadseffektiv.
I många framgångsrika lösningar används därför LLM:er selektivt. De placeras där deras styrkor kommer till sin rätt; till exempel för tolkning, sammanfattning eller dialog – medan övrig logik hanteras av deterministiska komponenter.
Det handlar inte om antingen eller, utan om att kombinera rätt tekniker för rätt problem.
Arkitektur före modell
Organisationer som lyckas med AI i praktiken skiljer tydligt på vad som ska lösas med språkförståelse och vad som kräver struktur, regler och kontroll. I dessa miljöer blir LLM:en en komponent bland flera och inte den bärande logiken i systemet.
För att bygga robusta lösningar behöver man därför aktivt överväga alternativa eller kompletterande angreppssätt till LLM:er, utifrån både tekniska och organisatoriska förutsättningar.
Alternativ och komplement till LLM
Regelbaserade system och affärslogik används när beslut behöver vara deterministiska, spårbara och enkla att verifiera. De är särskilt lämpliga i reglerade verksamheter eller där konsekvens i beslutsfattandet är affärskritiskt. Fördelen är hög förutsägbarhet och enkel testning. Nackdelen är begränsad flexibilitet och att förändringar kräver tydlig kravställning och förvaltning.
Ur ett organisatoriskt perspektiv innebär detta ofta ett tydligt ägarskap hos verksamheten, där regler kan granskas, godkännas och versioneras. Det ställer krav på samarbete mellan IT och affär, men ger också hög kontroll.
Traditionella ML-modeller (t.ex. klassificering eller prediktion) lämpar sig väl när problemet är avgränsat och datadrivet, exempelvis riskbedömning, efterfrågeprognoser eller avvikelsedetektering. De är ofta billigare i drift än LLM:er och enklare att förklara statistiskt.
Implementationsmässigt kräver de dock stabila datakällor, löpande träning och tydliga ansvarsroller för modelluppföljning. Organisationer som saknar etablerad MLOps-förmåga underskattar ofta den långsiktiga förvaltningskostnaden.
Workflow- och processmotorer används för att modellera flöden, ansvar och beslut över tid. De är särskilt effektiva när flera system, roller och steg behöver samverka. Här ligger styrkan i transparens, styrning och förändringsbarhet.
Nackdelen är att de inte löser tolkningsproblem på egen hand. De kräver därför ofta komplettering med AI-komponenter, till exempel LLM:er för tolkning eller ML-modeller för prediktion. Organisatoriskt skapar de dock tydlighet: vem gör vad, när och varför.
Sök- och regelbaserad retrieval (t.ex. RAG utan generativt beslut) används när korrekt informationshämtning är viktigare än formulering. Det minskar risken för hallucinationer och ökar spårbarheten.
För organisationer innebär detta ofta högre förtroende för lösningen, men också behov av strukturerad informationsförvaltning och tydligt informationsägarskap.
För- och nackdelar ur ett organisatoriskt perspektiv
LLM:er är snabba att införa och kan skapa tidigt värde, men de flyttar ofta komplexitet från kod till promptar och mänsklig tolkning. Det gör ansvar, kvalitetssäkring och förändringshantering svårare att organisera.
Alternativa angreppssätt kräver mer initial struktur, men skapar tydligare gränssnitt mellan teknik och verksamhet. Det gör dem ofta lättare att skala, förvalta och revidera över tid.
I praktiken ser vi att de mest hållbara lösningarna kombinerar flera tekniker. LLM:er används där osäkerhet är acceptabel och där språklig flexibilitet krävs, medan regler, processer och klassisk ML hanterar det som måste vara stabilt och kontrollerbart.
Nästa steg med Commerz -från överflygning till genomförande
För organisationer som vill gå vidare från enskilda initiativ till ett mer sammanhållet angreppssätt börjar arbetet sällan med teknik. Det börjar med förståelse.
På Commerz inleder vi ofta med en överflygning vilket är en strukturerad genomlysning av verksamheten ur ett AI-perspektiv. Syftet är inte att peka ut lösningar, utan att skapa en gemensam bild av nuläget och de verkliga förutsättningarna.
I denna överflygning utvärderar vi hur väl affären är positionerad för att använda AI som en långsiktig förmåga. Det handlar om att förstå var AI faktiskt kan skapa värde, vilka delar av verksamheten som är mogna för implementation och var grundläggande förutsättningar fortfarande saknas.
Nästa steg är att utveckla en AI-strategi som är förankrad i både affär och verklighet. Det innebär att strategin sätts i relation till faktiska implementationsbudgetar, tekniska beroenden och – inte minst – organisationens förmåga att förvalta och vidareutveckla lösningar över tid. En strategi som inte tar höjd för förvaltning riskerar att skapa teknisk och organisatorisk skuld redan från start.
En avgörande del i vårt arbete är därför att inte enbart fokusera på teknikval. Vi bedömer även den organisatoriska mognaden för genomförande: beslutsstrukturer, ägarskap, arbetssätt och förändringsförmåga. Utan detta blir även tekniskt starka AI-initiativ svåra att skala och ännu svårare att hålla vid liv.
Överflygningen ger ett gemensamt beslutsunderlag. Den gör det möjligt att prioritera rätt initiativ, välja rätt angreppssätt och avgöra var LLM:er är rätt verktyg och var andra lösningar är mer lämpliga.
AI blir då inte ett experiment vid sidan av verksamheten, utan en medveten del av hur organisationen utvecklas framåt.
AI i regulatoriska och compliance‑tunga verksamheter
Även om Commerz arbetar brett över branscher har vi en tydlig tyngdpunkt i verksamheter där krav på regelefterlevnad, spårbarhet och styrning är centrala. I dessa miljöer blir frågan om när och hur AI används ännu viktigare.
Regelverk som EU:s AI Act, NIS2, ISO/IEC 42001 och MDR klass I ställer krav på riskklassning, transparens, ansvarsfördelning och kontinuerlig uppföljning. AI-lösningar måste inte bara fungera tekniskt utan de måste kunna förklaras, styras och revideras.
Detta påverkar arkitekturen i grunden. LLM:er kan användas för analys, tolkning och beslutsstöd, men sällan som ensam beslutsmotor i regulatoriska flöden. I stället krävs tydlig separation mellan:
- beslut och rekommendationer
- automatisering och mänsklig kontroll
- modellens roll och organisationens ansvar
Vi arbetar ofta med övervakning och styrning av flera ledningssystem parallellt, där AI används för att effektivisera rapportering enligt regelverk, identifiera avvikelser och skapa bättre beslutsunderlag utan att kompromissa med kontroll.
Inom områden som AML och fraud detection ser vi samma mönster. AI tillför stort värde i att identifiera mönster, prioritera ärenden och reducera manuellt arbete. Samtidigt måste lösningarna vara granskningsbara, reproducerbara och möjliga att justera när regelverk eller riskaptit förändras.
Det är här kombinationen av AI, regelstyrd logik och tydlig governance blir avgörande. Tekniken behöver stödja efterlevnad – inte skapa nya risker.
Commerz roll
Commerz fungerar i dessa sammanhang som en brygga mellan teknik, regelverk och organisation. Vi hjälper verksamheter att använda AI på ett sätt som är förenligt med både affärsmål och regulatoriska krav, oavsett om det handlar om att möta nya regelverk eller att professionalisera befintliga arbetssätt.
För organisationer i regulatoriska branscher är AI inte bara en innovationsfråga. Det är en fråga om styrning, ansvar och långsiktig hållbarhet.