Prefer audio? Listen anywhere
Något stort håller på att hända med arbetsmarknaden. Inte om tio år. Nu.
Ethical AI Governance Group, det globala think tank Anna är del av, har just släppt en rapport som sätter siffror på det många känner på magkänsla: det finns ett massivt gap mellan vad AI kan göra och vad organisationer faktiskt får ut av det. 95% av generativa AI-projekt skapar inte avkastning. Inte för att tekniken inte fungerar. Utan för att vi stoppar in den i organisationer som inte är byggda för den.
Förmågan att automatisera kvalificerat kunskapsarbete accelererar snabbare än de flesta ledningsgrupper förstår. Och det intressanta är inte vad som försvinner. Det är vad som blir kvar.
De flesta organisationer är byggda runt roller, inte uppgifter. Runt budgetlinjer för verktyg, inte för mänsklig utveckling. Runt silos där tech, compliance och affär inte ens pratar samma språk. Anna Fällender har jobbat med de här friktionerna sedan 2018. Hon vet var det fastnar. I det här samtalet ger hon en konkret karta för hur du tar dig vidare.
🎙️ Gäst
Anna Felländer grundade ANK AI 2018, ett av Europas tidiga bolag inom ansvarsfull AI, nu uppköpt och sammanslaget till M2M Governance. Hon sitter i Ethical AI Governance Group och har levt med de här frågorna sedan innan generativ AI existerade. Det ger henne en tidshorisont de flesta i debatten saknar.
🔥 Nyckelinsikter från avsnittet
✅ Sluta tänka i roller. Börja tänka i uppgifter.
Bryt ner varje roll i dess beståndsdelar. Hur mycket komplexitet kräver uppgiften? Hur mycket mänskligt omdöme? Låg komplexitet och lågt omdöme, automatisera. Men så fort du klättrar i endera axeln handlar det om att förstärka, inte ersätta. De flesta bolag har aldrig gjort den övningen. De köper Copilot-licenser istället. Och undrar sen varför 95% av piloterna inte genererar värde.
✅ Fyra nivåer. Du sitter troligen på ett.
Human-AI Index mäter hur djupt människa och AI faktiskt samarbetar: från verktyg (nivå 1) till autonom agent (nivå 4). De flesta har gett folk en chattbot och kallat det klart. Vägen uppåt börjar inte med bättre modeller. Den börjar med att följa friktionen.
✅ Tre silos, noll värde
Tech bygger utan att förstå affären. Compliance reglerar utan att förstå tekniken. Och affären vill ha resultat utan att förstå riskerna. Budgeten hamnar på compliance eller IT. Ingen äger helheten. Den träningsbudget som faktiskt skulle uppgradera människors förmågor? Inte ens en budgetrad.
✅ Tillväxt, inte bantning
Den dominerande AI-berättelsen i styrelserummet är kostnadsreduktion. Färre FTE:er. Snabbare rapporter. Men frågan som gömmer sig bakom siffrorna är en annan: vad kan vi göra nu som vi aldrig hade kapacitet till förut? Det finns en framtida version av varje roll som är 30-70% mer kapabel. Det är tillväxtfrågan ingen ställer.
✅ Dina bästa människor har redan börjat räkna på alternativen
Om din AI-strategi mellan raderna kommunicerar "kostnadsbesparingsprogram" förstår folk det. De som lämnar först är dina high potentials. Johan är rakt på sak: "Jag har så många diskussioner med personer som säger att de inte kan vara kvar. De tar för hög karriärrisk." De vill inte ha verktyg. De vill ha en arbetsgivare som investerar i vad de kan bli.
✅ Kreativiteten som överlever exponentialen
Ju mer kapabla modellerna blir, desto tydligare blir vad som faktiskt är mänskligt. Maskinerna springer ifrån oss på intelligens. Men omdöme? Att läsa ett rum, se runt hörnet, fatta beslut utan fullständig data? Anna kallar det en renässans för höger hjärnhalva. Kanske är det mest strategiska du kan göra just nu att sluta jaga intelligens och börja investera i allt det andra.
Read the full transcript
jag är med i Ethical AI Governance Group som är ett think tank epicenter av Responsible AI. Grundaren är Bose. Han är också en av våra i VC-firman som heter Benhamou Global Ventures. Så långt bak i tiden, 2022, så gjorde vi vår första sidoinvestering där. Och sen som du vet så har vi ju merchat tillsammans med, Anki AI har merchat och blivit Ascension med en kanadensisk firma Så nu är vi M2M Governance.
Men
Vi gick från predictive AI till generative AI, då exploderade ju hela begreppet och det finns ju de som benämner AI som generativ AI men så är det ju inte. Men anledningen till att det skalade var ju att vi fick en enorm utbudskock av intelligens och att bara föll
och
Men det var stora stängda modeller och vi såg också att det hallucinerades och det var identitetskränkningar, IP-brott och så vidare, amplifiering av stereotyper och det fanns baksidor. Och alla de här som vi såg tidigt när predictive AI kom, diskriminering, social exkludering, diskriminering, förlorad autonomi och missdesinformation, alla de här riskerna har ju bara...
Det har exploderat när det kommer till AI. Det handlar om att en människa ska både ha intuition och kunskap om vad AI ska göra och inte vad AI göra.
När
man tittar på ansvar så måste den bilden komma in och också alla typer av avvägningar mellan precision och förklarbarhet. På något sätt så har vi kommit till vägs ände när vi säger att vi kan inte koda mer, vi kan inte skapa mer fantastiska modeller utan vi måste implementera modellerna i organisationer som är mogna, team som är mogna, ledarskap som är mogna och därav följer ju regelverket.
Men det är en kreativitet som nu kommer förstärkas, det är en... Mänskligt omdöme och också den här produktiviteten Det finns ju Erik Bryngersson som är också medskapent av rapporten och har länge pratat om produktivitetsrapporten. Det handlar ju om att vi kommer inte, piloterna kommer inte ut och skapar avkastning och värde och den här rapporten som visar att 95% av alla generativa AI-projekt då inte skapar avkastning det är ju en jättetydlig signal till att det finns den här adaptation gap, adaptionsskap.
Då har man tittat på vad är friktionerna till att vi ska implementera AI då friktionslöst.
tänker att vi ska dyka ner i många av de här bytterna för de är väldigt intressanta. Låt oss börja kanske med den här ROI-frågan och den vid det här laget välkända MIT-studien om 95% av piloter genererar inte värde. Jag hade ju Erik Brynjolfsson med på podden och han introducerade mig till ett ramverk att Mycket av problemet också är att när det kommer till verkligen transformativ teknik är att du utvärderar ROI-frågan lite för tidigt för de flesta av de här typerna av innovationer när du introducerar komplexitet som att vi kanske behöver tänka till på roll-redesign.
Det är inte bara en teknikfråga där du liksom köper en licens implementerar och har ett supercleant ROI och det är klart det finns de casen där du kanske har en chattbott i customer success men om vi tänker på knowledge workers generellt så är det ju mer komplext än så. Så att du utvärderar den här ROI-frågan lite för tidigt också.
Och sen på andra sidan, framförallt om vi tar på oss hatten just human-centric AI. Jag upplever att debatten är lite fast just nu i hur... Hur kan vi göra vårt gamla jobb snabbare? I styrelserummet så är det väldigt mycket en kostnadsbesparingsfråga Lite maskerat under någon typ av produktivitetsmått i brist på bättre ord på det.
Där jag saknar väldigt mycket storyn kring topline från de flesta bolag som jag jobbar med. Där det fundamentalt handlar om hur kan vi göra nya saker genom att vi förstärker våra medarbetare. Det här knyter superintressant in i budgetfrågan som jag skulle vilja blanda med dig också. För min upplevelse också är att det finns ibland men väldigt sällan en tydligt utpekad AI-budget.
För det här har ju uppstått lite grann mitt under budgetåret 2025 så inser man att okej vi kanske måste investera. En viss del av det går naturligt på SAS licenser på IT. Men återigen om vi tänker att det här är inte bara... En tooling-fråga utan i väldigt hög utsträckning så handlar det om uppgradera människors förmågor kunskaper så det är mycket training som egentligen borde vara med i budgeten. den budgeten finns ju inte riktigt någonstans utan då kanske man hamnar på någon learning and development budget men den är ju på tok för för liten och slimmad för att dra om ett helt bolag i en jättetransformation. Vad säger du? Hur ska man tänka kring budgeten?
Ja men en parentes är ju att EUs regelverk då kräver en sorts AI literacy att man utbildar sin organisation.
För vilka bolag gäller det här? Är det bara för storbolag eller är det för alla bolag eller?
började ju tidigt att titta på vem ansvarar för AI governance inte själva budgeten för oss så är det ju så att styrelsen och vd investerar kraftigt i en generisk AI-lösning som är för trubbig för att man ska kunna anpassa det till de individuella behoven och organisationen
Vad är det, man köper co-pilot-licenser i praktiken eller vad är det för investering?
Precis, och de är ju också dyra. Det kan vara off-the-shelf, CV-screenings och så vidare
som
inte kan skräddarsy, man kan inte styra och man kan inte adaptera. Alltså det lyckas i vissa fall, men generellt för trubbigt eller så investerar man i jättesvåra skräddarsydda lösningar som man inte kan skala i organisationen.
vi började med att hjälpa bolag med AI-styrning så tittade vi på tre ställen silosen. Tech, compliance och affären. Och affären kan man också dela in, det kan vara marknadsföring, det kan vara produktvalidering och så vidare.
man tittar på var någonstans budgeten hamnar. Vi kan titta tillbaka till när vi började jobba tidigt med AI governance. AI-styrning med svenska bolag. Då tittade vi på att ansvaret skulle ligga på... Att både affären, compliance och tech, det vill säga att det är en tvärfunktionell styrning.
Men någon måste ju ha ansvar och så som marknaden har utvecklats nu så har ju alltid AI governance team utkristalliserats som att vara den lämpliga eller det har utkristalliserats i nära techteam men med väldigt koppling till compliance.
Det ser ut nu också som att budgetlinjen sitter på legal och compliance eftersom vi har ägt som nu Det finns i budgetraden för alla risk och compliance och legal för det blir sanktioner på 7% av global omsättning så det är ju en massa för företag.
handlar ju så mycket om budget för vad på något vis för så fort du skjuter budgeten till en risk och compliance avdelning exempelvis då har det ju ett så här.
Ett jättesmalt scope och för alla som lyssnar ett jättesmalt scope där i verkligheten så är det ju, jag funderar väldigt mycket på liksom för alla Alla bolag I den här tanken om en human-centric AI så så finns det ju, och och för alla roller, så finns det en framtida version av den här rollen som är någonstans mellan 30-50-70% mer kapabel. Det Det innebär att det här är ju inte en budgetfråga som bara ska bedöma hur hur ska vi undvika en finansiell fingersmällning fingersmällning från EU, utan hur ska vi faktiskt transformera det här bolaget In i den här framtida världen och det går över litegrann jag tycker Erik Brynjosson, eftersom vi pratade om honom i upprinnelsen han har ju det här ramverket där du liksom, du ska gå från när du kollar på vad ska du augmentera och vad Vad är ett bra use case för AI oavsett roll egentligen bryta ner nuvarande roller till tasks kan inte du, för du har ju säkert jobbat närmare den tankegången än vad jag har
det viktigaste är att det finns ett problem att lösa, en uppgift och det du menar
med friction förut eller hur?
precis, och om du inte synliggör det, då kan du inte räkna hem vinsten Det och om du har, det kan ju vara så att du vill göra Saker Saker bättre, du vill göra saker snabbare eller som du refererar till att du vill göra saker som vi inte trodde vi kunde förut.
När När du har identifierat det problemet då kan du synliggöra de nuvarande nuvarande processer som kan antingen automatiseras eller där människan förstärks genom processer Sin kreativitet eller sin omdöme eller bara produktivitet och intuition.
När När du har det tydligt då kan du börja jobba med vem äger frågan. Ofta så är det ju en eldsjäl som både tar operationell och politisk risk med att bära det här fram. fram Och det kan ju vara, det är ju inte någon i compliance, utan det är någon som äger en affärsström som också tar risk för att det finns inga kopior.
Du riskerar att automatisera bort egna uppgifter så det blir bedömdent. Och det är ju någonting som ledarskap handlar om att skapa kopiorna skapa säkerhet kring att ta risker och utveckla och testa hur kan vi skala upp någonting som en eldsjäl piloterade till andra delar av organisationen.
ofta handlar det om att du ska inte anställa mer modellskapare du ska anställa dem som har översyn av arkitektur processer, såklart också modeller, men som har omdöme när ska människan be in the loop När ska vi gå in och avbryta och vilken grad av förklarbarhet behövs?
Och det absolut viktigaste, vem om det är att skapa värde till kund? Vem är kunden? Hur kan lösningen missbrukas? Hur kan en skala i ett socialt sammanhang och skapa oavsiktliga risker som gör att man får ryktesmässiga skador som kan skälpa en?
det är någonting som Nividias vd också sa. De skillsätten som behövs framöver. Det är dels empati. Men också förmåga att se runt hörnet. Och då pratar jag inte om prognoser som är AI-genererade. Utan verkligen se med mänsklig intuition och spaning. Vad kommer härnäst?
pratade om människor som ser runt hörnet och lite sådana här nya roller som växer fram och det är inte säkert att alla har läst den men om man kollar på World Economic Forum sådana här prognoser på jobbförändring så är det ganska uppenbart att nu kortsiktigt så kommer vi se i väldigt hög utsträckning automatiseringar som ökar produktivitet och innan de här nya jobben har vuxit fram riktigt så kommer det kanske vara en jobbig svacka jobbmässigt så men här är ju ett antal roller som jag tror som för lyssnaren på den här podden är ju i hög utsträckning företagsledare och man behöver fundera på vilken typ av roller är det som jag kanske faktiskt borde leta efter i mitt bolag och jag tycker precis att den här personen som är tillräckligt Teknisk men kanske inte egentligen ingenjör utan har en grund i det som du beskrev som friktion men egentligen i affärsproblemen i verkligheten som är tillräckligt nyfiken på de nya möjligheterna med AI där börjar du få riktigt spännande roller.
Jag tror att i den här rapporten så pratades det om AI-orchestrerare som är systemtänkare som förstår hur nuvarande process ser ut, hur en framtida process skulle kunna designas och som kan vara det blir ju en ny typ av ledarskap egentligen där du är ledare av en del människor där vi försöker maximera för det som är mänskligt omdöme, mänsklig kreativitet mänskliga relationer men där vi maximerar också för hur kan vi få ut Värde ur modellerna i form av att automatisera det som är någon form av kognitiv motsvarighet av löpande bandarbete vi kanske är jättebra för mänskligheten att vi inte sitter och manuellt kopierar saker mellan ett Excel-blad till ett annat utan vi vill uppgradera vad vi faktiskt gör som människor på jobbet men vad finns det fler för sådana här framtida nya roller som du skulle säga, det här är nu i början av 2026 ganska viktigt nya roller att fundera på att skaffa sig i vårt bolag
Det är ju mer talanger än utbildning, det är väl jättebra att ha någon typ av ingenjörskännedom kring arkitektur
och
sen handlar det ju väldigt mycket om att ha nyfikenhet och vana kring att altera nya modeller att styra och leda och det har ju också visat sig att till exempel är advokat och det är ju väldigt tydligt att den här typen av jobb kommer, många av de uppgifterna som görs kommer automatiseras.
Mm.
Men du behöver ju ändå utbildningen och viss typ av erfarenhet för att förstå AI, vad du ska promta och hur du verkligen ser att det kommer till sin rätta eftersom vi vet att blir det fel inom det skrået så är det ju fruktansvärt. Men det är också det som mindre språkmodeller kan hjälpa oss med för att de här stora stängda språkmodellerna Open AI, de ju väldigt mycket, väldigt brett,
men
i vissa fall så kan vi ju och i skruvor som till exempel juridik så kan du ju inte lita på dem, men om du har mindre språkmodeller kan du skapa kontroll och ha översyn och inkludera mänskligt omdöme ju även studier som visar att det är juniorer som upplever den snabbaste produktivitetökningen, men bara till en viss nivå sen planar de det ut. Och det är också intressant att man måste ta med det i bedömningen men tydligt blir ju att nya mänskliga skillsets blir ju avgörande.
blir allt viktigare med det sociala och kunna förstå människor och koppla ihop och förstå vad det är viktigt att det finns en kultur som passar för att de här tvärgruppen ska funka.
Jag föreläste för ett gäng assistenter, mestadels kvinnor, de var från hela världen och de undrade ju, men vad kommer vi finnas framöver?
Ja, exakt.
sociala arkitekter De kommer ju använda så mycket AI-assistenter. Men när det gäller så är deras sociala orientering helt avgörande.
du har lyssnat på den här podden ett tag så vet du vad jag tycker om AI. tycker att det är så sjukt spännande kring vad vi kommer kunna möjliggöra för affärsinnovationer både för företag och för oss som mänsklighet kring det. Men jag ser också hur mycket företagen kämpar. tror inte att utmaningen primärt är teknisk jag tror att den är mänsklig och den är till och med strategisk för dig som sitter i en ledningsgrupp.
I ledningsgrupper idag så förstår vi inte tekniken tillräckligt mycket. Och det handlar inte om att alla ska bli tekniker, utan det handlar om att vi måste förstå vad den här tekniken möjliggör för att kunna ha en riktig Affärsdiskussion en riktigt strategisk diskussion kring vårt bolag och hur vi ska frodas i den här nya verkligheten.
om jämför med en tidigare revolution exempelvis ta internetrevolutionen. stora förändringen för oss som samhälle det var ju inte när en bokaffär helt plötsligt fick en hemsida. Utan det var ju när vi hade byggt ut infrastrukturen för onlinebetalningar och då hade nya spelare som Amazon som totalt disruptade marknaden.
är det som vi saknar i dagsläget kopplat till AI. Hur kan vi göra saker som vi fundamentalt aldrig kunde göra förut? Och för att kunna ha den diskussionen så måste du som ledare förstå mer av tekniken. Och det är precis därför jag bygger Grail. min bakgrund är att jag har spenderat 15 år inom strategi och affärsutveckling och de senaste tre åren intensivt inom AI.
Jag gifter ihop de här två världarna jobba med en vd i varje bransch som genuint vill ta det här stora steget det är det jag letar efter. Våren håller på att fylla på sig vilket är superspännande Grail har varit i liksom in the works i några månader nu så att jag har relativt mycket bokningar för våren men det finns fortfarande plats kvar.
Så if you're that guy or that girl som verkligen vill göra en dent i din marknad då vill jag prata med dig. Gå till grail.works så tar vi det därifrån. Nu går vi tillbaka till avsnittet.
Vet säkert vem Rory Sutherland är. Han är en marknadsföringsguro från Storbritannien. Han har ju ett sånt där jättebra exempel där man kollar på roller lite fel. Han kollade på dörröppnare på hotell. Och så hade han exemplet att det är ganska lätt om du bara kollar på det igen då. Så utifrån linsen hur kan vi göra vårt gamla jobb snabbare och billigare att installera automatiska dörrar på ett hotell?
Där du helt missar, men vad är det mer som en dörröppnare gör? Jo men det är subtilt en security-känsla när du kommer till hotellet. Det väldigt mycket en känsla av överflöd och lyx. Det är väldigt mycket guest greeting och komma ihåg och sådana bitar. Så det är... Där han pekade fram, och jag kommer att tänka på det för att prata om de här assistenterna, att jag tror att det är fel att se på roller, igen då bara ur den här krassa ROI-frågan som att det enda assistenten gör är att boka ett möte.
Men det kan vara otroligt mycket, den kognitiva känslan för att känna sig avlastad, känna sig att jag kan fokusera på det som jag behöver fokusera på som senior executive eller vad det nu kan vara för någonting, det är säkert jättemycket relationer under ytan, jag har en enorm respekt för de här seniora sekreterarna som finns i bolag, i hur mycket de håller ihop under ytan och i praktiken och sätter samman och allt vad det kan vara.
Men då måste du ju kolla på, precis det du var inne på, vad är essensen Vad den mänskliga?
Erik Brynjolfsson-avsnittet så hade han ju en fyrfältare där han beskrev... Om du struntar rollen utan mer går till task eller enskild uppgift så så bör du kategorisera de här uppgifterna utifrån hur mycket komplexitet kräver den här uppgiften Är det en väldigt avancerad uppgift Och hur mycket mänskligt omdöme kräver den här uppgiften?
Och så får du då fyra fält. Och längst ner till vänster, låg komplexitet och låg grad av human judgment. Där har du ju den här automatiseringszonen Jättebra, det är toppen men däremot så fort du kommer upp i komplexitet eller så fort du kommer upp i human judgment då är inte automatisering vägen att gå utan då är det antingen att du hjälper till med bättre analys eller strategisk support eller vad det kan vara för någonting och där tror jag är generellt i bolag att man borde sätta sig ner och där kan man ju sätta sig ner själv i sin egen roll och liksom dela upp vad är det jag gör på daglig basis och hur mycket av hur komplext är det här i verkligheten och hur mycket kräver det faktiskt mitt mänskliga omdöme och verkligen investera i de delar som kräver mitt mänskliga omdöme där blir jag viktigare än någonsin som konsekvens av tekniken
Men märker du, det du säger nu är ju bottom up.
Det finns ju ingen ledare som kan stå och peka med handen och säga såhär implementera AI för att effektivisera utan det handlar ju om att av vad gör jag i varje dag som kan gå snabbare ersättas av AI eller
framförallt det jag skulle säga att jag märker är att ingenting av det där är en toolingfråga och tillbaka till den här budgetfrågan vi hade, den här diskussionen löser du inte genom att kolla ska vi köpa den här transcriben eller den här transcriben för det är inte alls det det handlar om.
rätt. Jag ska hoppa över till en annan sak som jag tycker är intressant här för att jag på något sätt, vi har ju länge pratat det här regelverket. Det är egentligen inte regelverket som kommer få företag att skapa de här långsiktiga affärsmodellerna utan det är när man förstår att varje AI-lösning behöver riskvärderas som är under högriskkategorierna som bank, finans infrastruktur, utbildning, rekrytering, polisiära, restriktorer och så vidare.
Men det är när man tittar utifrån det här riskperspektivet både utifrån ett tekniskt, affärsmässigt och legalt perspektiv. Och det innebär ju att man involverar tech i affären, affären i compliance och compliance i tech och affär. Och det är inte förrän då... När vi raserar de här silosarna i organisationen som vi kan skapa både värde och tillitsfull validering.
Kan jag få ställa en skarp fråga här. För någonting som vi märker mycket, och när jag säger vi så menar jag Grail, det AI-bolag som jag driver. Man vill som enterprise ta risk- och säkerhetsfrågorna på allvar. Det är liksom så mycket träning sitter i allas ryggmärg. Samtidigt så har man en väldig känsla av att så fort vi lyfter på den boxen så... Vi hamnar alldeles för ofta i att vi kan inte göra någonting på på grund av en känsla av risk risk någonstans det är ju en jätteslitning och kanske framförallt också om man kastar in perspektivet Europa, USA och liksom Europa mot övriga delar av världen så att vi har ju eftersom vi är på en global arena så vi har ju konkurrenter i USA som inte alls gör samma riskbedömningar exempelvis.
Så vi måste litegrann förhålla oss till att det här är någonting som behöver hända även om det behöver hända ansvarsfullt. blir litegrann kan jag känna en att säga nej för att man inte kan och litegrann gömma sig bakom de här compliance perspektiven snarare än att man upplever att man har en så här tydlig väg för att hantera och förstå risken men ändå kunna göra affärsutvecklingen på något vis.
Hur Hur ska man tänka i den här balansen du säga Ja
Tänk dig hur många AI-lösningar som inte är högrisk. Där man inte bedömer att den slutanvändaren har en sannolikhet och grad av skada Om Om du gör den här riskbedömningen och om du har en metod eller mjukvara för det, då kan du ju skala mycket av den AI du vill skala.
Sen om du är inom sjuk och hälsovård det vill säga högrisk då vill du ju heller inte skala dina patienter eller ryktet. Det Det som kommer hända och händer i USA, det är ju att vi dels dels så börjar man på statlig nivå reglera New York Hiring Law, California California och Colorado Act. Och de i vissa fall är mer strikta Men EU Act som man då har spottat som ska vara the golden standard.
Så det blir ju mer fragmenterat i USA när det gäller reglering. Samtidigt så säger vår rapport att det att det är bara 20% i USA som tycker att reglering är en osäkerhet medan det är betydligt mer i EU. EU Och jag tror inte reglering är i sig... Ett orosfaktor utan det är bara att man är osäker om vilka riktlinjer som finns.
Finns det inte riktlinjer då blir det osäkerhet och då kanske man avvaktar eller så bullrar bullrar man igenom i risk för oavsiktliga fallgropar. Men det som jag tycker är en av de viktigaste Code of Conduct just nu är
Det handlar ju om att du behöver markera det som är AI-genererat
och
in och det är ju alltså utifrån mitt perspektiv så hade vi börjat med det här så hade vi ju gjort om, gjort rätt.
Men nu behöver vi ju när vi ser att vår demokrati utvattnas så behöver vi ju veta vad som är rätt, falskt eller manupplevs. Och då är ju jätteviktigt och vad vi ser i Europa reglerar, men i USA så kommer man ju ha väldigt mycket stämningsprocesser kring det här. Så det är inte så att det kommer bli accepterat, utan det här är ju mänskliga rättigheter som bryts. Och vi har bara sett början av det här ännu mer när man pratar om vad är det som kommer leda företag och till ansvarsfull AI. Det är ju antingen någon som är Rädda för att bli sanktionerade eller som tror att vi skapar långsiktiga tillitsfulla affärsmodeller.
Om
Säg då att man inte sitter på ett hälsoföretag eller hälsovårdgivare. Alltså du är inte i någon av de här högklassriskerna utan du driver ett bolag så som det ser ut mest. Du gör någon produkt eller tjänst.
skulle du säga, och så har vi bokat in på måndag på ledningsgruppen en risksittning för just att få koll på, det här är risk och det här är inte risk, där vill vi accelerera för vi kan bedöma det. Men hur lägger vi upp den diskussionen på bästa sätt? För jag tror att där är nog väldigt, väldigt många just nu.
Egentligen är det bara brist på kunskap på många sätt.
Precis. Så du behöver ju oavsett för att uppfylla lagen så behöver du oavsett göra en riskbedömning. Du kan göra den internt med ett ramverk om du är högrisk eller inte. Eller så kan du använda vår produkt som vi har utvecklat sedan länge. Men det handlar ju också om att titta på, även fast retail är låg risk så kan ju er HR-avdelning köpa in en CV-screening som bedömer Utifrån partiskhet i data så att det blir fel utval och diskriminering och exkludering.
Sen kan det också vara så att du har en betalningslösning som är hög risk och då ansvarar du för det också. Inom EI Act så finns ju olika regler för deployers och providers.
Jag tänkte fråga dig, så vem är ansvarig för att vi har ett CV-screening-verktyg som är rå-rasistiskt av någon anledning? Vi har ju köpt ett dåligt verktyg, men vem är ansvarig för det?
Så den som är provider som har utvecklats verktyget har mer ansvar än den som deployer. Och det är tydligt. Men den som deployer har också ansvar. Sen är det gråzonen när en deployer blir en provider. Det finns en gråzon här inom AI Act men det handlar om att du inte jag menar, trenden går mot öppna Språkmodeller,
Och då handlar det också om att du skräddars ut din omgivning och din kontext. Och då blir du så småningom en provider. Och då måste du stryka kraven.
Kan du förklara varför trenden går åt det hållet?
att det är enklare att skräddarsy och forma till den lösningen du har. Som vi pratade om att till exempel Copilot eller du kan inte styra, du har ingen insyn i data och kan inte skräddarsy Och det är väldigt dyrt med de här stora stängda språkmodeller.
Så det handlar om kostnad, det handlar om skräddarsyhet, det handlar om att du kan riskbedöma och att du har kontroll.
Så bara för att försöka översätta det här för det här tycker jag är en väldigt intressant spaning. Så istället för att man som enterprise köper Microsoft Copilot, OpenAI, Claude, Gemini, licenser brett till sin användare så säger man att de här öppna modellerna som du kan hosta själv eller hosta någon annanstans, vi köper in dem och anpassar dem vilket innebär att vi behöver den kompetensen in-house eller köpa den kompetensen för att anpassa specifikt till vårt Arbetsflöde eller om man köper det via någon typ av SaaS-produkt för CV-screening eller som i sin tur inte då bygger på OpenAI utan bygger på någon mer mindre modell som är finetunerad till det här use-caset.
Så utifrån, om man tar den längre bilden på mjukvara så har vi ju sett att Det har ju exploderat i mängden appar som man blir exponerad för på en arbetsplats Jag tror om det är 50 eller 60 tools som du har i snitt idag. Don't quote me on that number. Men överlag du har väldigt många point solutions.
Spaningen här, det kommer egentligen bara fortsätta? AI kommer inte vara, nu ersätter vi alla de här point solutionerna med ett monolit system som samlar ovanifrån
Trenden går mot öppna och mindre modeller, det vill säga domänsspecifika modeller och det minskar ingenjöringen av träffbarhet också, den här typen av auditing som du behöver i det här fallet en legal AI-assistent till exempel.
Jag välkomnar det och jag välkomnar det eftersom EU inte kan konkurrera med USA när det gäller infrastruktur och de här stora språkmodellerna utan där EU kan skapa är när vi bygger mindre språkmodeller anpassade till vår kultur, våra värderingar och också ett sätt att vi kan skapa.
Mänskliga omdrömmen i dom och validera utifrån det, alltså förklarbarhet och transparens.
när du säger att EU ska fokusera på att bygga mindre modeller, innebär det... Att vi faktiskt ska bygga mindre modeller från grunden Som bara är gjorda just för svensk lagstiftning AI-modell Eller är det att utifrån mindre men fortfarande öppna modeller Om man tar Lama eller något sånt där.
Fintuna de modellerna och möjliggöra för mer av lokala anpassningar och installationer. Vad innebär ordet att vi ska bygga modeller Ja
man bygger mindre modeller Av stora modeller och det är ju problematiskt i sig men Fredrik Heinz till exempel på Linköping som du har haft med, han jobbar mycket med att skapa mindre språkmodeller så det handlar om att man har en specifik teknik för att jobba med stora språkmodeller som man omvandlar till små och specifika.
Men sen handlar det ju också om att få in och ha syntetisk data som kan anpassa modellen så att den funkar bra på svenska språket och de svenska och europeiska kulturella nyanser och jag tror att det är oundvikligt att vi inte ser den här utvecklingen även till exempel i Frankrike utan vi har ju fått ganska nog av det.
Förstärkta stereotyper och generaliseringar som är väldigt baserade på USA och då ser vi också att det finns en centralisering av makt makt över våra värden, makt över som bara är samlad i den här klicken i USA. Som har utvecklat de här gigantiska språkmodellerna med infrastruktur som man fortsätter att bara trycka pengar in i.
Och pratar man om bubbla här, jag tror inte på en AI-bubbla utan jag tror att vi har en... Vi kommer till slut nå en kapacitetsgräns eller att man har investerat nog i infrastruktur. Och nu handlar det om att skapa det här värdet och produktivitet. Vi kan skapa också energieffektiva lösningar så att vi skapa värde. Vi kan hitta en balans när människan känner att vi leder den här tekniken. Gen-tekniken jobbar för mig och förstärker mig. Samtidigt tycker jag det är jätteviktigt att vi fortsätter ha den här, wow vad kan AI göra? Hur kan vi detektera... Protein i, alltså allt den här nyanande forskningen där det inte finns några gränser och det att forma world models är ju också helt enormt, att man kan via syntetisk data och simulering få robotar att kunna känna av, alltså de naturlagarna och den yttre möjligheten, men sen är det också, du vill ju inte ha du vill ju inte ha en fysisk
hälsocoach, du vet den här när den var en chatbot som rekommenderade någon att ta livet av sig, du vill ju inte ha det i den fysiska världen så det betyder ännu mer ännu mer inblandning i att sätta gränser och styra de här fysiska AI-robotarna
är super relevant. Jag tänker på, jag pratade med Anton Osika på Loveable under hösten också och pitch runt vibecoding är ju att historiskt sett så har en chokepoint varit ingenjörstalanger.
Det är både dyrt och vi har inte så många av sådana bitar och helt plötsligt så har inte längre den chokepointen och vad händer då? Jag tycker att argumentet i sin generiska form, nu har du helt plötsligt intelligens tillgängligt och börja kolla på vilka Och chokepoint är det som vi inte längre har.
Jag kom att tänka på det för att prata om Fredrik Heinz och det här med simuleringar som ett exempel. Gud vad häftigt för forskningen om simuleringsförmåga inte längre är en chokepoint. Vilka stora problem kan vi då helt plötsligt ta oss an. Men lika viktigt i min vardagliga retail logik så tillbaka till det du pratade om tidigare som friction.
Vad är friction som uppstår baserat på att vi inte har tillräckligt många anställda på det här. Om jag skulle haft hundra anställda vad skulle de göra för någonting. Jag tror där finns det så otroligt mycket nice innovation kundnära innovation att göra.
Jätte. Exakt, väldigt mycket kontakt med kunden när kunden vill det och otroligt mycket kreativitet och innovation och nytänkande och jag tror att det är ju liksom en renaissance av den kvinnliga energin alltså höger hjärnhalva, vad som kan hända om vi släpper på och inte tror att den här intelligensen ska lösa allting.
Så jag tycker att det är en häftig tid vi liksom kliver in i, att ju mer AI... Stödda vi är desto mer etiska behöver vi bli och desto mer kreativa kommer när det är kreativiteten som skapar värde inte intelligensen
där är superkul för man kan introducera också tvärdisciplinära insikter med AI på ett väldigt tycker jag häftigt sätt eftersom du kan, det är ju mer bara en fråga om, vad är du intelligent nog att fråga AI om jag skrev en artikel här ganska nyligen som hette Tantric Lessons for CEOs in the Age of AI som handlade väldigt mycket om precis det du beskriver, att det är renässans för kvinnlig energi, det kom från en podcast med Fanny Norlin som precis de här frågorna och hur framförallt innovation är så otroligt svårt i en ROI-överjagande verklighet och eftersom alla organisationer just nu är på väg igenom stora, stora transformationer att göra det med CFOs glasögon uteslutande är ett dåligt recept.
då tänker jag, jag brukar ofta tänka vad en styrelse hur ser en om jag ska komponera en styrelse, vi säger Loveable är det för olika typer av personer du ska ha där? Och jag tycker att den här erfarenheten är jätteviktig att du har en dold intelligens i bara erfarenhet. Du har varit med finanskriser du har varit med turbulenta tider, du har varit med geopolitiska kriser.
Du har någon sorts tyngd bara för att du har varit med.
Och
sen så behöver du ju någon som är Obrytt framåtlutad som kanske inte har någon anställning som bara går på ett fritt tänkande och en nyfiken hjärna och I'm a fast adapter, jag provar allt och sen så har du ju den här CFO eller om du har audit och risk som är traditionella roller som måste ha oerhört mycket backup när det gäller AI-verktyg för att utöver den sätta en typ av magkänsla eller en intuition kring vad innebär det här om det här händer och
olika scenarier kring utvecklingen det är också bra men on top of that du måste sätta din egen tid och det är det som är så viktigt att du sitter med all den här kunskapen Som AI har gett dig och bara funderar på hur det här resonerar med det bolag du jobbar med, de människor som finns där.
Så det blir ju en kunskapsnivå eller en styrelse man sätter mer krav på, ett typ av mod att gå där ingen har gått för att utforska. gäller det ju också vilka vågar, vilka känner sig trygga i att mitt mandat handlar just om det. Och inte att bara generera innehåll till styrelsemötet med hjälp av AI.
Det är ju också viktigt, men vad är då min bedömning? Och sen så ska vi också ha den här... En sociala arkitekten som vet hur ett företag från bekvämlighet och massa typer av fat and happy-indikatorer Till att plötsligt då se att det finns en disruptor. Så jag tycker det är spännande att fundera på.
Hur skulle du tänka kring det
kommentarer på det. Det ena är, jag tror att det var underförstått baserat på så som du pratade tidigare men i den här rollkompositionen i styrelsen så är det ju också hur säkerställer vi att när vi pratar om risk eller när vi pratar om de här överoptimistiska lösningarna att vi har just det här affärs och friktionsperspektivet front and center.
Jag har haft diskussioner med en del styrelse- och investerarproffs som när kamerorna är avstängda beklagar sig över att styrelsearbetet är allt för mycket en exercis av compliance-frågor och vi får inte utrymme att prata tillräckligt mycket om affärsfrågorna. Så det här är ju en jättebalans just där vi är nu.
För ja, vi måste ta de här frågorna seriöst
perspektivet är, jag tror att man underskattar potensen om man tänker igenom utifrån vårt bolag och så tänker man igenom om vi inte bara positionerar AI här som ett cost saving verktyg alltså rena automation, den typen av case, utan verkligen tänker oss in i berättelsen om vi vill använda AI för att förstärka vad du kan göra.
Det är en så otroligt attraktiv story. Jag jobbar ju med de här frågorna jättemycket praktiskt och märker hur finton det slår an om man pratar kulturperspektivet, att du ser, om man tänker sig att du sitter i ett bolag som har en väldigt passiv eller överriska avärt, Som kanske kommer från brist på kunskap så ser du att jag får inte använda någonting och kanske best case att vi har någon typ av Copilot-licenser men jag vet också om att Copilot ligger ett år eller två bakom de här modellerna som jag betalar för som privatperson och så ser jag det här massiva skiftet hända på hela arbetsmarknaden.
Jag Jag har så många diskussioner med personer typ i min ålder som som är jag kan inte vara kvar på det bolaget. Jag tar för hög karriärrisk och de som kommer fly först tror jag kommer vara de som är dina absolut highest potentials För de ser att de har möjligheter på något annat ställe. Om Så jag skulle verkligen uppmana Om man sitter som seniorledare som vd, att fundera igenom vad är vår story kring hur vi faktiskt investerar inte i verktyg utan i dig, din din utveckling.
Där tror jag man har så mycket att vinna. Både för oss strategiskt som bolag, vilka djur vill vi vara på marknaden om två år. Men framförallt för att få engagemang och engagement och adoption och alla de här frågorna som bolag verkar kämpa med nu. Och jag tror att man kämpar jättemycket för att man har inte den storyn vilket gör att folk mellan raderna fattar att det här är ett kostnadsbesparingsprogram.
Och hur jäkla spännande är det då?
Man kan ju också se de nordiska länderna eller EUs länder med välfärdsstat och omställning under trygghet. Nu vet jag inte hur många som köper in på det längre. Men det handlar ju om att du ska ju i de bästa lägena så har ju vi skapat en välfärdmodell där du kan omskolas och vara trygg.
Det blir otroligt viktigt i de här tiderna. Jätteviktigt. Det bygger
ju alla de här omställningsprogrammen på att du har i princip tappat jobbet och hamnat utanför arbetsmarknaden och då stoppar vi in resurser. Jag vet att jag pratar med Ann Öberg som är vd för Almega och de försöker få traction för omställningsprogram som är lite mer proaktiva.
Men min upplevelse har ju varit att den här typen av program... Men utvecklingen går så snabbt nu att man kan inte tänka att det här är någonting vi gör var tredje år utan det blir väldigt mycket också ner till enskilda individer att ta sitt proaktiva ansvar, experimentera med sig själva Jag vet inte hur mycket det finns ett recept från ovanifrån hela tiden som man känner att man kan luta sig mot.
Det där är lite stökigt.
är stökigt. Jag tror inte på medborgarlön. Jag tror att on the job training är det bästa. Att företag får stöd.
Att
behålla de här anställda för att uppskola sig. Sen kanske det leder till en annan anställning. Men absolut att... Regeringen har en och Almega har en roll att spela för att vi ska liksom våga.
Nu har vi sett att Sverige är för långsamma för att implementera. Ja, vi måste våga. Och i det här när regelverket finns på plats så kan man liksom inte, som du sa tidigare, gömma sig bakom att det är ett regelverk som kommer, utan du måste testa och du måste förhålla dig till regelverket, men också det som är medium eller låg risk.
Då behöver du springa och då kommer vissa bli rädda som du säger, och vissa uppgifter kommer och vissa roller kommer också automatiseras bort men det kommer att skapa sig nya. övrigt tycker jag att politiken har varit bara helt avsaknad. både när vi... Jag var ju förra året på AI Action Summit i Paris där man prononcerade den här enorma satsningen.
Frankrike är ju jättebra, men Sverige med AI-kommissionens rapport, den är ju väldigt bred och generell när det gäller AI istället för att säga att vi ska satsa på mindre språkmodeller där vi kan inkludera våra värden. Sverige kommer att bli bäst på AI governance och kunna skala upp lösningar med riktlinjer som gör det.
Vi är väldigt platta i organisationen, vi har ju låg hierarki kan ta beslut snabbare så att vi har dem, de nordiska länderna har de förmågorna som krävs för att kunna göra human-centric AI till vår europeiskt ledande Så därför tycker jag att jag saknar både governance i AI-kommissionens rapport. Det finns inget jämställdhetsparti och det är lite för brett och va
är det som händer på något vis när man tycker att man saknar information. Jag kommer ihåg när GDPR implementerades första perioden där var det ju precis samma sak. Det var otroligt svårt att förstå vad är det egentligen som gäller och då defaultar man i väldigt hög utsträckning till att vi kan inte göra någonting. har du pratat mycket om dels de hårda regelverken kopplat till när är det riskbedömt utifrån EU-perspektiv. Du har lyft fram tycker jag väldigt intressant ett antal Moraliska bias-perspektiv och sådana bitar som jag inte tror så många tänker på. Jag hamnar ju väldigt mycket i diskussioner som kanske snarare handlar om säkerhetsfrågor.
Vilken data kan vi exponera, sådana bitar. Där jag upplever, lite på samma sätt som jag upplever att du beskriver det, att man blir nästan svart eller vit. Man blir jättebinär och skiljer exempelvis inte på att... Om du är, nu hittar jag på det, säg att du är Saab, då kanske du har... Viss information som är om du vet ritningar på vapensystem som är kvalificerat hemlig eller du kanske har viss information som innehåller personuppgifter och persondata men där ska vi göra en bedömning sen har vi helt annan information jag kommer ju från strategiperspektivet eftersom det var min förra karriär min upplevelse är ju att jag lovar dig att i er bransch så ser era strategier typ identiska ut, det är liksom inte så affärskänsligt om man kollar på affärsplaner och sådana här bitar du behöver inte vara så jäkla orolig förutsatt att du har köpt enterprise licenser och sådana här bitar att du inte liksom glider på någon gratis variant, så man måste nyansera de här bilderna tycker jag, och väldigt mycket av det tror jag kommer från en brist på faktisk kunskap vad är det som gäller vad är de faktiska säkerhetsriskerna sådana bitar
intressant för vi har ju en digital omnibus som vill pausa lite reglering av högrisk AI och den är inte beslutad än men om den beslutsas så är det ju ett år till, alltså det senare läggs ett år till.
Och mycket av det handlar ju om den här digital omnibus att de EU-länderna som skulle ha implementerat en AI Act Sandbox, AI Factory och Notifying Bodies, de har varit sena med det, liksom Sverige. skapas de här klusterna då i de här länderna men vi har varit sena på det och det är klart att det blir läskigt om det inte...
Det finns senstandarder nu kommer senstandarderna i slutet av innevarande år och då kan man ju börja... Förstå hur vi ska implementera de här riktlinjerna. Annars har det ju bara varit väldigt abstrakt.
Ja
finns det för resurser för det där så att man slipper börja från scratch som bolag?
När ActRegulatorySandbox som PTS då ansvarar för lite i mig. Men det finns, finansinspektionen har ju också ett visst ansvar att bli medlen.
Vi hoppas på att vi är mjukvarustöd, systemstöd för det
här
Väldigt intuitiv användarresa som gör att du får rekommendationer och inser det längs hela resan. Och sen använder vi vi använder test för att titta på rättvisa integritet robustness och security, säkerhet. Så vi använder en AI-agent för att då med syntetiska personas med syntetiskt minne så använder vi den här modellen för att manipulera så att vi ser var sårbarheterna finns.
när du säger vi vilka är vi? Jag tror du sa det i början av avsnittet men om man vill peka folk åt ditt bolag.
ANK AI som jag grundade 2018 är nu uppköpt av Essentien så jag är en av tre medgrundare. Det är ett kanadensiskt bolag som har unika testmodeller för att möta kraven för både NISTO, ISO 42001 och AI Act.
Man kan säga att vi automatiserar compliance men framförallt så har vi jättedjupa insikter som finns i en B2B-lösning där du kan få råd längs använda resan vad du ska göra för att förstärka din AI-governance dina AI-governance-muskler
här rapporten då som ni ger med och släpper, vad hoppas ni ska hända med den?
är en del av den utbildningssatsning som jag ska ta ut här i Europa men också som genomförs i USA när det gäller på styrelse- och vd-nivå. Hur man ska anamma det här frameworket. Det ska bli jättekul.
Jag ska till Paris på måndag där vi ska presentera rapporten och vi ska också presentera vår lösning Tillsammans med ett gäng andra bolag.
Super spännande. Jag kommer länka den här rapporten i show notesen och du kommer ha hunnit vara i Paris innan det här avsnittet sänds. Så tack så jättemycket. Det här var hyper relevant skulle jag säga.
Det är precis de här frågorna man sitter med i ledningsgrupperna i hög utsträckning och det finns massa vi kan inte gå igenom allihopa men det fanns väldigt mycket. Tycker jag då tillfällen där den här rapporten sätter ord på saker, det tycker vi saknar ord och ramverk och hur ska vi egentligen beräkna ROI och hur ser nya affärsmodeller ut.
Väldigt väldigt värdefull. Så varm rekommendation. Tack så jättemycket för att du kom och delade med dig av dina insikter.
Tack.
Där var vi i mål med dagens avsnitt. Jag tycker det är så sjukt att typ 70% av er som börjar klicka på ett avsnitt lyssnar hela vägen till slutet. Jag så tacksam. Samtidigt så tror att det är bara 20% av er som kollar som faktiskt subscriber på podden oavsett om det är på Youtube eller på Apple Podcast eller Spotify så tyckte du om det här.
subscriba gärna. hjälper podden att växa, det gör att jag kan få större och större gäster, det gör att jag kan lägga mer och mer tid i förberedelse Alla de här sakerna. sidan av det, den här podden har ju sponsrats av Grail och det är ingen hemlighet Jag startar Grail. Grail är mitt bolag. Jag tror så mycket på den här framtiden där människa plus AI möjliggör att vi kan göra saker som vi aldrig kunnat göra förut.
Men jag är också rädd för att AI just nu handlar väldigt mycket om att automatisera bort människor. Och jag tycker att vi i maktpositioner vi i ledande positioner vi har ett ansvar för att bygga en framtid som vi själva faktiskt vill leva i. finns massa kortsiktiga incitament för att bara jobba med automate, automate, automate.
Vi kanske måste göra det. Men låt oss åtminstone spendera lite tid på augment. Det är därför jag har byggt Grail. Så gå till grail.works för att få reda på hur du inte bara kan vara framgångsrik i det kortsiktiga utan på riktigt kan göra en skillnad i din bransch på det långsiktiga. sidan av det, gå till thinkroompodcast.com.
Det är en grej som jag verkligen skulle vilja pusha för. Varje vecka så publicerar jag långformatartikel på engelska Den är skriven till en väldigt senior publik av ledare och den bygger på vad var det mest intressanta jag lärde mig under den här veckan. publicerar jag på LinkedIn och det publicerar jag på min hemsida thinkroompodcast.com.
Vi ses nästa vecka.
That was Anna Fällender on ThinkRoom — where exceptional minds think out loud.