Stretnutie s Michalom Valkom, expertom na veľké jazykové modely
Národné superpočítačové centrum a Národné komeptenčé centrum pre HPC, ktoré zastupovala Lucia Malíčková, sa stretlo s významným slovenským vedcom Michalom Valkom, ktorý patrí medzi špičku v oblasti umelej inteligencie a strojového učenia vo svete. Diskutovali spolu o možnostiach budúcej spolupráce, pričom hlavnou témou bolo využitie slovenských HPC kapacít na podporu pokročilého výskumu v oblasti veľkých jazykových modelov a algoritmov učenia s minimálnou spätnou väzbou.
Michal Valko v súčasnosti pôsobí ako Chief Models Officer v stealth startupe, zároveň je výskumníkom v prestížnom francúzskom inštitúte Inria a prednáša na ENS Paris-Saclay. V roku 2024 sa stal aj hlavným inžinierom pre Llama v spoločnosti Meta, kde buduje online reinforcement learning infraštruktúru a výskum pre modely Llama 3.
Jeho výskum sa zameriava na navrhovanie algoritmov, ktoré dokážu fungovať s čo najmenším množstvom ľudského zásahu. Patrí sem hlboké učenie s odmenou a trestom (deep reinforcement learning), banditské algoritmy, učenie bez dozoru, ale aj takzvaný self play, teda učenie prostredníctvom porovnávania vlastných výsledkov. V poslednom období sa venoval predovšetkým reprezentáciám dát, slovným modelom a rozvoju algoritmov hlbokého učenia s teoretickými zárukami. Aktuálne pracuje na algoritmických riešeniach, ktoré umožnia efektívnejšie dolaďovanie (fine-tuning) a lepšie riadenie veľkých jazykových modelov (LMMs).
Michal Valko pochádza zo Slovenska, kde navštevoval Gymnázium Alejová v Košiciach. S odstupom času oceňuje najmä úzku spoluprácu tejto školy s Prírodovedeckou fakultou UPJŠ, ktorá v ňom prebudila záujem o vedu. Následne študoval umelú inteligenciu a matematické metódy v informatike na Fakulte matematiky, fyziky a informatiky Univerzity Komenského. Doktorát obhájil v roku 2011 na University of Pittsburgh pod vedením Miloša Hauskrechta. Postdoktorandské štúdium absolvoval u Rémiho Munosa, s ktorým neskôr spoluzakladal Google DeepMind Paris.
Počas svojej kariéry pracoval aj na projektoch so spoločnosťami Intel, Adobe, Technicolor či Microsoft Research. Už v rokoch 2009 – 2010 sa počas stáže v Intel Labs v Silicon Valley podieľal na vývoji autonómnych systémov, ktoré mali pomáhať nevidiacim ľuďom rozpoznávať tváre.
Národné superpočítačové centrum a Národné kompetenčé centrum pre HPC bude aj naďalej aktívne vyhľadávať možnosti prepájania slovenských HPC infraštruktúr so svetovými lídrami v oblasti umelej inteligencie a verí, že aj toto stretnutie položí základy pre nové ambiciózne iniciatívy.
Online prednáška: HPC & AI – Súperenie alebo spolupráca? 7 nov - Dňa 26. novembra 2025 o 10:00 organizujeme špeciálnu online prednášku venovanú aktuálnej a rýchlo sa vyvíjajúcej téme prepojenia vysokovýkonných výpočtov (HPC) a umelej inteligencie (AI). Naším hosťom bude Erwin Laure, jedna z najvýraznejších osobností európskeho HPC ekosystému.
Success story: Budúcnosť pôdy ukrytá v dátach 5 nov - Vysokovýkonné počítanie (HPC) prináša vedcom možnosť spracovať obrovské objemy dát a objaviť súvislosti, ktoré by inak ostali skryté. Dnes už nie je len nástrojom pre technické odbory – svoj význam nachádza aj v spoločenských a environmentálnych výskumoch. Príkladom je projekt, ktorý využil silu HPC na hlbšie pochopenie vzťahu medzi človekom, pôdou a krajinou.
Archeológia poháňaná umelou inteligenciou s LLM — Detekcia archeologických lokalít z leteckých snímok 30 okt - Objavte, ako umelá inteligencia a veľké jazykové modely menia spôsob, akým odhaľujeme stopy minulosti. Webinár priblíži, ako pokročilé techniky umelej inteligencie inšpirované LLM dokážu analyzovať letecké a LiDARové snímky a detegovať archeologické lokality s bezprecedentnou presnosťou. Dr. Daniel Canedo z Univerzity v Aveire predstaví praktické príklady, v ktorých Vision Transformers a multimodálne učenie odhaľujú skryté vzory v krajine a spájajú moderné technológie s kultúrnym dedičstvom.