Benchmarking di GPU e LLM: i numeri per capire l'AI in attesa del robot che usa la lavastoviglie - #26

In questa puntata di Risorse Artificiali – Appunti e spunti dal mondo dell’AI, parliamo con Alberto Danese di benchmarking di GPU e modelli linguistici (LLM), di cultura del dato e di Intelligenza Artificiale in 4D, l’approccio che unisce dimensioni tecniche, etiche, culturali e pratiche nell’uso dell’AI.

Dal reinventare la ruota per capire davvero l’AI al testare le performance dei modelli con progetti come NanoChat, esploriamo il valore dell’analisi qualitativa, dell’apprendimento rinforzato e della sperimentazione continua.
Discutiamo anche dei modelli cinesi, del ritmo dell’innovazione e del ruolo cruciale che il mondo consumer avrà nell’adozione dell’AI.

Infine, uno sguardo ironico ma realistico al futuro della robotica domestica: quando arriverà davvero il robot che svuota la lavastoviglie?

💡 Temi chiave: benchmarking GPU e LLM · cultura del dato · Intelligenza Artificiale in 4D · machine learning · overload informativo · robotica · modelli aperti vs chiusi · innovazione AI · apprendimento pratico · adozione AI

🎧 Ascolta il podcast su Spotify, YouTube o Apple Podcasts:
👉 https://risorseartificiali.com

Qualche Link dalla puntata:

Intelligenza artificiale in 4d: https://amzn.eu/d/0RagMNi

Il progetto benchmark di Alberto: https://github.com/albedan/ai-ml-gpu-bench

Nanochat: https://github.com/karpathy/nanochat

GLM code plan: https://z.ai/subscribe?ic=DWTQHGMFKV

L'articolo di perplexity su uso interno di AI: https://r2cdn.perplexity.ai/pdf/pplx-at-work.pdf

Chapters00:00 Introduzione e Presentazione di Alberto Danese02:58 Il Mondo dei Dati e dell'Intelligenza Artificiale05:47 Il Ruolo dei Libri nell'Era Digitale09:10 Robotica e Innovazioni Tecnologiche11:53 Differenze tra Guida Autonoma e Robotica Domestica15:00 L'Importanza dell'Apprendimento Non Supervisionato18:06 Giochi e Intelligenza Artificiale20:53 NanoChat e l'Approccio di Andrej Karpathy28:16 La velocità della comunicazione30:05 Benchmarking delle GPU e LLM31:52 Sperimentazione con LLM e performance33:48 Collaborazione e condivisione di risultati36:02 Metriche e valutazione delle performance40:03 Benchmarking dei modelli LLM43:54 Competizione tra modelli e ranking46:03 Nuovi modelli cinesi e tendenze47:59 Costi e accessibilità dei modelli AI50:41 Evoluzione dei Modelli AI57:31 Utilizzo Pratico dell'AI01:01:31 Adozione dell'AI nel Mondo Aziendale01:07:12 Impatto dell'AI sulla Società01:11:38 Conclusioni e Prospettive Future