#75 - Verbos Nytårsspecial: AI-året der gik, 2025 AI-trends, Large Concept Models

I denne episode af Verbos Podcast diskuterer værterne Kasper Junge og Jonas Høgh Kyhse-Andersen de nyeste fremskridt inden for AI, herunder Large Concept Models fra Meta. De reflekterer over året der gik, deres forudsigelser for 2025, og hvordan nye tilgange til sprogmodeller kan revolutionere feltet. Diskussionen dækker også emner som Sonar Embedding og konceptuel forudsigelse, og hvordan disse metoder kan forbedre effektiviteten af AI-systemer. I denne samtale diskuterer Kasper Junge og Jonas Høgh Kyhse-Andersen emner relateret til sprogmodeller, herunder multilink-værdi, encoder-decoder arkitektur, semantisk reasoning, og de udfordringer, der er forbundet med karakterniveau encoding. De berører også innovation i modelarkitektur, Jan LeCun's indflydelse på Meta, hype omkring LLM'er, og betydningen af function calling og strukturerede outputs i udviklingen af agenter. I denne samtale diskuterer Jonas Høgh Kyhse-Andersen og Kasper Junge de seneste fremskridt inden for AI, herunder betydningen af open source, token forbrug, og hvordan reinforcement learning kan optimere AI's præstationer. De berører også udviklingen af agent frameworks, brugergrænsefladeinnovationer, og hvordan store tech-virksomheder som Apple navigerer i AI-landskabet. I denne samtale diskuterer Jonas Høgh Kyhse-Andersen og Kasper Junge udviklingen af AI-modeller, deres anvendelse i kode og tale, samt fremtidige tendenser inden for teknologi. De berører emner som menneskelig interaktion med AI, sociale normer, og hvordan modellerne bliver mere effektive og tilgængelige. Samtalen dykker også ned i vigtigheden af menneskelig feedback og måling af fremskridt i AI-udviklingen. I denne episode diskuterer værterne Jonas Høgh Kyhse-Andersen og Kasper Junge vigtigheden af feedbackmekanismer i ingeniørarbejde og softwareudvikling, samt hvordan AI kan forbedre disse processer. De taler også om automatiseringens rolle i e-commerce og afslutter med at takke lytterne for deres støtte og ønske dem et godt nytår. Chapters 00:00 Introduktion og temaoversigt 04:15 Large Concept Models: En ny tilgang til AI 18:13 Sonar Embedding og konceptuel forudsigelse 21:30 Sprog og Multilink-Værdi 22:28 Encoder-Decoder Arkitektur 23:26 Semantisk Reasoning og Længere Inputs 24:23 Fragilitet i Sonar Embeddings 25:18 Karakterniveau Encoder og Dens Udfordringer 27:18 Innovation i Modelarkitektur 29:31 Jan LeCun og Dagsordenen for Meta 31:36 Hype omkring LLM'er og Forskningens Retning 33:27 Function Calling og Strukturerede Outputs 35:25 Agenter og Deres Udvikling 42:54 Fremtidens AI og Open Source 45:52 Token Forbrug og Effektivitet i AI 48:04 Reinforcement Learning og Udfaldsoptimering 51:31 Agent Frameworks og AI's Retning 54:32 Open Source AI og Dens Indflydelse 56:52 Brugergrænsefladeudvikling i AI 01:00:42 Apple og AI's Fremtid 01:04:01 Modeller og deres udvikling 01:10:06 Fremtidige tendenser og forudsigelser 01:17:03 Modelarkitektur og innovation 01:21:00 Tale og menneskelig interaktion 01:25:23 Feedback Mekanismer i Ingeniørarbejde 01:30:39 AI's Rolle i Softwareudvikling 01:35:04 Automatisering og E-commerce 01:41:24 Afslutning og Tak til Lytterne