#122 - AI på dansk jord: Fra Gefion til API - med Lars Maaløe fra Corti og Rasmus Bisgaard fra DCAI

Hvad kræver det at køre stærke, åbne AI-modeller på dansk jord? Og hvor meget af arbejdet ligger i alt det, der omgiver selve modellen?

Kasper Junge og Jonas Høgh Kyhse-Andersen har besøg af Lars Maaløe, medstifter og CTO i Corti, og Rasmus Bisgaard, Chief Commercial Officer i DCAI, som driver Gefion.

Lars fortæller om rejsen fra realtidsanalyse af 112-opkald til en AI-platform og om modeller, der skal fungere med medicinske fagudtryk, støj og uventede situationer. Rasmus forklarer, hvorfor GPU-kapacitet først bliver brugbar for flere, når andre bygger de nødvendige services ovenpå.

Vi undersøger gæsternes tese om, at åbne modeller nu er et reelt alternativ til de lukkede. Vi diskuterer også, hvornår små modeller giver mening, hvornår prisoptimering begrænser et produkt for tidligt, og hvordan agent-workflows ændrer behovet for compute og lav latency.

Samtalen slutter med Corti og DCAI's samarbejde og Rasmus' eksempel med Vejle Kommune: forskellen mellem at have adgang til hardware og at have en løsning, der er nem at bruge.

Hvad holder jer tilbage fra at køre jeres AI på dansk infrastruktur?

Links og kilder:

Corti: https://www.corti.ai/

Corti Labs / Corti Models: https://cortilabs.com/

Cortis API-dokumentation: https://docs.corti.ai/get_started/welcome

DCAI og Gefion: https://dcai.dk/

Cortis forskning og publikationer: https://www.corti.ai/research

Corti og DCAI om samarbejdet: https://corti.ai/newsroom/dcai-and-corti-launch-sovereign-ai-control-layer-for-european-enterprises---trifork-first-to-adopt-as-implementation-partner

Kapitler:

00:00 Åbne modeller på dansk jord – mød Lars og Rasmus

01:04 Corti: Fra neurale netværk til hjælp ved 112-opkald

04:09 GPU'er, Theano og de tidlige deep learning-år

07:30 Rasmus' vej fra produktion til NVIDIA og DCAI

10:00 Gefion: Fra supercomputer til enterprise-infrastruktur

16:19 Cortis vej fra applikationer til AI-platform

22:50 Hvorfor domænekendskab stadig er afgørende

27:17 Speech-to-text skal fungere uden for testdatasættet

30:53 Er åbne modeller blevet gode nok?

36:13 Store eller små modeller – hvornår optimerer man?

41:18 Agenter øger behovet for tokens og lav latency

46:43 Corti og DCAI: Kontrol over modeller og infrastruktur

51:25 Ingen kan bygge hele AI-stakken alene

58:36 Vejle Kommune: Fra GPU-adgang til en brugbar service

01:00:23 Afrunding og hvor du kan komme i gang

Verbos: AI og Softwareudvikling er den danske podcast fra maskinrummet. Kasper Junge og Jonas Høgh Kyhse-Andersen bygger bro mellem klassisk software engineering og arbejdet med AI-agenter.

YouTube: https://www.youtube.com/@VerbosPodcast

Apple Podcasts: https://podcasts.apple.com/dk/podcast/verbos-ai-og-softwareudvikling/id1650151292

Spotify: https://open.spotify.com/show/0wNglFesfNltKiDAhcu4nJ