Göteborgsregionens Innovationsarena

Denna vecka blir det en rykande färsk rapport från Microsoft och Googles utvecklarkonferenser. Fokus ligger på ny teknik, uppgraderade produkter  och visioner för framtiden. Och så testar Johan att podda med en ny person. Eller vänta... är det verkligen en person?

Nej, det handlar tyvärr inte om inte dill och gräslök, men om något nästan lika viktigt, hårdvaran som är själva hjärnan bakom AI. Det har blivit dags att ta tag i frågan om hur olika typer av beräkningschip, som CPU:er och GPU:er, fungerar och varför de spelar så stor roll för AI-utvecklingen. Vi snackar också om systemkretsar, prestandaskillnader mellan konsument- och företagsinriktade chip, och vad som händer när beräkningarna flyttar ut i kanten, till din mobil eller annan enhet. Ett avsnitt för dig som är nyfiken på vad som egentligen får AI att tugga i sig data så effektivt.

Språkmodeller är bra på mycket, det vet vi vid det här laget. Men en stor begränsning är att de inte vet något om nuet. Det innebär att de inte kan hjälpa dig med enkla saker som att kolla vädret, läsa igenom din inkorg eller söka i en databas. Det är här Model Context Protocol, MCP, kommer in i bilden! I det här avsnittet pratar Johan (med sig själv)  om hur MCP kan ge AI verktyg att göra saker här och nu. 

Tänk dig att du har en allmänutbildad språkmodell  som har läst hela internet. Nu vill du göra den extra bra på ett visst område, som kommunala riktlinjer eller lagstiftning inom välfärdsområdet. Det är här finetuning kommer in i bilden! I det här samtalet går Johan och Jonas till botten med vad det innebär att finetuna en redan tränad språkmodell på ett specifikt dataset för att anpassa den till ett visst användningsområde, språk eller organisation. Låter det nördigt? Det är det. Och alldeles, alldeles underbart.

Vad händer när AI blir lika smart som vi – eller smartare? I det här avsnittet reder Johan och Jonas ut begrepp som AGI och ASI, slår hål på science fiction-rädslor om Terminator och Skynet och pratar om vad begreppet intelligens egentligen innebär. Det blir ett samtal om allt från filosofi till dammsugning – och om varför vi kanske borde fokusera mindre på framtida eventuella skräckscenarier och mer på vad vi faktiskt kan göra här och nu.

Går det att krascha en AI-modell? Och vad händer när den börjar killgissa? I det här avsnittet pratar Johan och Jonas om varför AI ibland hittar på svar, hur promptinjektioner kan lura modellen att lämna ut träningsdata – och varför det är du som användare som måste stå för finliret. Vi dyker ner i sannolikhetsfördelningar, bias och kontextlängd, och reder ut varför AI är annorlunda än annan mjukvara. Och ja – det bjuds på en göteborgsvits också.

Även om stora språkmodeller kan verka allvetande är deras kunskap begränsad till den data de tränats på – något som kan skapa vissa utmaningar. Det är här RAG-tekniken kommer in i bilden! I det här avsnittet går Johan och Jonas igenom hur Retrieval Augmented Generation (RAG) kan utöka funktionerna i en stor språkmodell genom lokala kunskapskällor. Du får veta allt om embeddings, vektorer och hur tekniken används av Svea för att hantera kommunala dokument.

Storleken spelar roll, i alla fall när det handlar om att köra AI lokalt på din dator. I det här avsnittet förklarar Johan och Jonas skillnaden på små och stora språkmodeller och nördar ner sig ordentligt i grafikkort, GPU:er och gigabyte. Som vi längtat! Om du också alltid undrat hur många gånger två utvecklare kan säga ordet MILJARDERS under 19 minuter så är det här avsnittet för dig.

Just nu efterfrågas transkribering i många sammanhang, från bearbetning av intervjuer till summerade mötesanteckningar. Men hur fungerar det egentligen? Vilka möjligheter finns och vilka utmaningar behöver vi ha koll på? I det här avsnittet går Johan och Jonas igenom grunderna kring transkribering. De reder ut missuppfattningar och ger en bild av vad AI-driven transkribering kan – och inte kan – göra. 

Vi är många som använder oss av Chat GPT och andra stora språkmodeller. Men handen på hjärtat – skulle du kunna förklara vad en Large Language Modell, LLM eller stor språkmodell är, egentligen? Vad kan den göra och vad kan den inte göra? I det här samtalet reder utvecklaren och läraren Johan Kivi ut begreppen tillsammans med Jonas Lind som är lingvist och utvecklare. De tar sig an grunderna, från hur tokenisering fungerar till vad som gör en språkmodell mänsklig. Som vanligt går Spotlight bortom hypen och gör begreppen begripliga.

Idag dyker begreppet AI upp i nästan varje samtal om digitalisering. Men vad skiljer egentligen AI från andra IT-tjänster? Hur vet man om en lösning verkligen bygger på AI – eller om det handlar om något annat, som automatisering eller avancerad dataanalys? När är AI den bästa lösningen, och när finns det enklare alternativ? I det här samtalet reder utvecklaren och läraren Johan Kivi ut begreppen tillsammans med Jonas Lind som är lingvist och utvecklare. Under 9 informativa minuter får du ta del av ett resonemang som går bortom buzzworden och rätar ut frågetecknen. Perfekt för dig som vill förstå grejen med AI – utan att fastna i tekniska detaljer.