Autor Halyna Hyryavets

V prednáške sme sa dozvedeli, ako SHMÚ využíva vysokovýkonný výpočtový systém NEC-LX (v prevádzke od roku 2021), najmä na numerickú predpoveď počasia pomocou modelu ALADIN. Predstavili sme jeho rôzne konfigurácie a širšie využitie – vrátane klimatologických, hydrologických modelov a modelov na analýzu a predpoveď kvality ovzdušia. Nechýbala ani téma spracovania dát z radarov, družíc a diskusia o možnostiach rozšírenia využitia HPC o nowcasting, ansámblové predpovede a techniky AI/ML.

V rámci nášho projektu sa snažíme túto bariéru prekonať pre slovenčinu prostredníctvom viacerých stratégií, ktoré môžu poskytnúť metodologické poznatky aj pre iné jazyky s nízkym počtom zdrojov:

• Generovanie bilingválnych dátových súborov: Pomocou starostlivo zostavenej databázy odborne redigovaných slovenských kníh využívame model LLaMA 3.3 70B Instruct na preklad textov do angličtiny a späť do slovenčiny. Týmto spôsobom vytvárame dva datasety – jeden na trénovanie kompaktného otvoreného modelu pre preklad z angličtiny do slovenčiny a druhý na zlepšenie strojovo preloženej slovenčiny.
• Sumarizácia vedeckých textov: S využitím Gemini Flash Experimental a vedeckej databázy PLOS generujeme súhrny vedeckých článkov v slovenčine. Tento dataset podporuje trénovanie slovenských LLM v oblasti špecializovanej vedeckej terminológie.
• Zvýšenie kultúrneho kontextu: Hoci modely ako DeepSeek a ChatGPT dosahujú v slovenčine relatívne dobré výsledky, majú ťažkosti s kultúrne špecifickými a kontextuálnymi témami týkajúcimi sa Slovenska. Plánujeme syntetizovať texty zo slovenských zdrojov na vytvorenie datasetu, ktorý túto medzeru zaplní.

Dátum a čas: 11. jún 2025, 10:00 – 11:00 CEST
Miesto: online
Jazyk: Angličtina
Rečník: Marek Dobeš
Spoluautori: Radovan Garabík a Peter Bednár
Registrácia

Našou snahou je zmierniť nedostatok dát pre slovenčinu a zvýšiť výkonnosť LLM v oblasti jazykovej presnosti, vedeckého diskurzu a kultúrnej relevantnosti. Veríme, že prístupy preskúmané v tejto prípadovej štúdii môžu inšpirovať podobné snahy aj pre iné málo zastúpené jazyky.

Tento výskum je realizovaný na vysokovýkonnéj infrastruktúre – konkrétne slovenským národným superpočítačom Devana a Leonardom, jedným z najvýkonnejších európskych superpočítačov, ktorý prevádzkuje Cineca v Taliansku. Tieto platformy nám umožňujú spracovávať viacjazyčné datasety, trénovať modely vo veľkom rozsahu a testovať pokročilé techniky LLM efektívne z hľadiska zdrojov.

Aj keď sa naša prípadová štúdia zameriava na slovenčinu, vyvíjané metódy a nástroje sú široko aplikovateľné aj na iné nedostatočne zastúpené jazyky po celom svete. Srdečne pozývame spolupracovníkov zo všetkých krajín – nielen zo strednej Európy či Talianska – ale z akéhokoľvek regiónu, kde nedostatok jazykových dát predstavuje prekážku rozvoja umelej inteligencie. Náš projekt ukazuje, ako môže európska spolupráca a spoločné využívanie superpočítačových zdrojov otvárať nové možnosti inkluzívneho, viacjazyčného modelovania jazyka – najmä pre krajiny, ktoré doposiaľ nemali rovnaké možnosti podieľať sa na tvorbe viacjazyčných jazykových modelov.

Počas intenzívnych diskusií sa partneri venovali najmä aktuálnym výzvam a príležitostiam v rámci medzinárodnej spolupráce pričom osobitná pozornosť bola venovaná:

• výmene osvedčených postupov („best practices“) pri oslovovaní cieľových skupín,
• organizácii spoločných školení a tréningových aktivít pre malé a stredné podniky (MSP),
• zdieľaniu úspešných prípadových štúdií („success stories“) a príprave ich koordinovanej prezentácie,
• plánovaniu spoločných podujatí v cezhraničnom formáte.

Stretnutie zároveň prispelo k zosúladeniu komunikačných a diseminačných stratégií oboch centier, aby sa zefektívnilo šírenie informácií o prínosoch vysokovýkonného počítania medzi odbornou aj širšou verejnosťou. Zúčastnení ocenili možnosť osobného stretnutia, ktoré umožnilo posilniť medziinštitucionálne väzby a otvoriť nové oblasti potenciálnej spolupráce.

EuroCC Slovakia a EuroCC Czech Republic deklarovali záujem o pokračovanie spoločných iniciatív, ktorých cieľom je systematicky rozvíjať kompetencie v oblasti HPC a posilňovať regionálnu synergiu medzi národnými centrami v rámci európskeho HPC ekosystému.

Diskutovalo sa tiež o výzvach a príležitostiach, ktoré AI prináša malým a stredným podnikom, a o možnostiach efektívnej implementácie riešení založených na HPC infraštruktúre. Jednou z hlavných rečníčok bola Lucia Malíčková, ktorá vystúpila v mene Národného superpočítačového centra (NSCC) a Národného kompetenčného centra pre vysokovýkonné počítanie (NCC pre HPC). Vo svojom vystúpení priblížila konkrétne príklady využitia AI v rôznych odvetviach, ako aj služby a podporu, ktoré NSCC a NCC ponúkajú firmám pri zavádzaní inovácií a digitálnych riešení. Zdôraznila aj možnosti zapojenia slovenských podnikov do európskych iniciatív v oblasti AI a superpočítania.

Podujatie sa konalo v rámci projektu BrAIn – Bringing Artificial Intelligence towards SMEs, ktorý je financovaný z programu Interreg Danube Region. Projekt podporuje digitalizáciu a inovácie v malých a stredných podnikoch v rámci dunajského regiónu prostredníctvom transferu poznatkov v oblasti umelej inteligencie.

Záujemcom o využitie umelej inteligencie a vysokovýkonného počítania v podnikaní poskytuje Národné superpočítačové centrum (NSCC) spolu s Národným kompetenčným centrom pre vysokovýkonné počítanie (NCC pre HPC) odbornú podporu, poradenstvo a prístup k technológiám, ktoré im umožňujú efektívne zavádzať inovatívne riešenia do praxe. Tieto inštitúcie zároveň organizujú odborné podujatia, workshopy a poskytujú konzultácie zamerané na konkrétne potreby malých a stredných podnikov pri digitálnej transformácii.

FF+ je ambiciózny európsky projekt zameraný na urýchlenie digitálnej transformácie a podporu udržateľnosti vo výrobe. Cieľom projektu je prepojiť výrobné podniky s digitálnymi inovačnými centrami a centrami excelentnosti naprieč Európou. Projekt FF+ zároveň vytvára rámec pre spoluprácu na európskej úrovni, ktorá je nevyhnutná pre efektívne zdieľanie poznatkov, technológií a osvedčených postupov medzi krajinami EÚ.

Národné kompetenčné centrum pre HPC na Slovensku sa dlhodobo zameriava na podporu digitalizácie priemyslu prostredníctvom vysokovýkonného počítania (HPC), umelej inteligencie a dátovej analytiky. Cieľom je umožniť slovenským firmám – vrátane MSP – využiť potenciál moderných technológií pri vývoji inovácií, zvyšovaní efektivity a skrátení času potrebného na výskum a vývoj. V tejto oblasti má NCC pre HPC skúsenosti s realizáciou pilotných projektov, technologickým poradenstvom aj organizáciou tréningov na mieru.

Stretnutie s tímom FF+ na konferencii ASHPC25 predstavovalo dôležitý krok k budovaniu mostov medzi národnými a európskymi iniciatívami, pričom obe strany sa zhodli na potrebe ďalšej koordinácie a rozvoja spolupráce. Identifikované boli konkrétne možnosti synergie, napríklad v oblasti zapájania priemyselných partnerov do testovania a aplikácie HPC riešení, ako aj výmeny dátových modelov a algoritmov medzi výskumnými a výrobnými subjektmi.

Podujatie ASHPC25 každoročne prepája expertov, používateľov a poskytovateľov HPC riešení z celej Európy a ponúka priestor na odbornú výmenu najnovších poznatkov, výziev a trendov v oblasti vysokovýkonného počítania.  Slovenské kompetenčné centrum pre HPC na konferencii reprezentovali Halyna Hyryavets (komunikačné aktivity, medzinárodná spolupráca), Božidara Pellegrini (podpora inovácií a služby pre súkromný sektor) a Tomáš Kollárik (vzdelávacie aktivity a spolupráca s akademickou obcou).Už v prvý deň podujatia prebehlo stretnutie Central European Working Group, ktoré združuje národné kompetenčné centrá pre HPC z krajín strednej Európy. Stretnutie poskytlo priestor na výmenu skúseností, identifikáciu spoločných výziev a vytváranie synergických väzieb v rámci projektu EuroCC.

Počas konferencie sa slovenský tím aktívne zapojil do viacerých odborných diskusií a rokovaní. Božidara Pellegrini viedla pracovné rokovanie s Tinou Črnigoj, koordinátorkou diseminácie projektu Future Factories Plus (FF+), zamerané na hľadanie prienikov v podpore inovácií, digitalizácie a zapájania MSP do využívania HPC, AI a moderných technológií. Halyna Hyryavets a Božidara Pellegrini zároveň diskutovali s Karinou Pešatovou, zakladateľkou Central European Chapter of Women in HPC o možnostiach spolupráce. Tomáš Kollárik počas podujatia nadviazal nové kontakty s odborníkmi a potenciálnymi školiteľmi pre budúce vzdelávacie aktivity NCC, čím posilnil sieť spolupracujúcich expertov v oblasti HPC a dátovej analytiky.

V rámci pracovných skupín a panelov sa riešili viaceré aktuálne otázky: prístup k výpočtovým kapacitám EuroHPC JU, zvyšovanie efektivity a dostupnosti vzdelávacích služieb, cielená komunikácia smerom k rôznym cieľovým skupinám a podpora firiem a startupov pri využívaní HPC a dátových technológií. Diskutovalo sa tiež o rozvoji iniciatívy AI Factories, ktorá predstavuje nový impulz pre posilnenie európskych kapacít v oblasti umelej inteligencie.

Účasť na konferencii ASHPC25 bola pre slovenský tím veľmi prínosná. Prispela k posilneniu regionálnej a európskej spolupráce, vytvoreniu nových partnerstiev a prehĺbeniu odborného dialógu o význame HPC pre výskum, verejné služby aj podnikanie.

Národné kompetenčné centrum pre HPC na Slovensku na stretnutí reprezentovali Halyna Hyryavets, ktorá má na starosti komunikačné a marketingové aktivity ako aj cezhraničnú spoluprácu, Tomáš Kollárik, zodpovedný za vzdelávacie aktivity, a Božidara Pellegrini, ktorá sa venuje sprostredkovaniu HPC služieb pre súkromný sektor a budovaniu partnerstiev s firmami.

V rámci pracovných diskusií sme sa venovali viacerým aktuálnym témam. Zamerali sme sa na prístup k výpočtovým prostriedkom EuroHPC JU, diskutovali sme o možnostiach zefektívnenia tréningových a vzdelávacích služieb, ktoré by ešte lepšie reagovali na potreby používateľov, a venovali sme sa aj téme zvýšenia zrozumiteľnosti a dostupnosti informácií prostredníctvom cielenej a jasnej komunikácie.

Dôležitou témou boli aj možnosti podpory firiem a startupov pri využívaní HPC infraštruktúry, kde sme sa podelili o naše skúsenosti a diskutovali o spoločných iniciatívach na európskej úrovni. Významná časť stretnutia bola venovaná aj iniciatíve AI Factories, ktorá predstavuje nový impulz pre rozvoj umelej inteligencie v Európe a otvára ďalšie možnosti aj pre Slovensko – či už v oblasti prístupu k výpočtovým kapacitám, podpory inovácií alebo rozvoja talentov (a to aj napriek tomu, že na Slovensku zatiaľ AI Factory nevzniká).

Sme radi, že sme mohli aktívne prispieť do odborných diskusií a zdieľať naše poznatky a skúsenosti, ktoré môžu prispieť k ďalšiemu posilňovaniu HPC ekosystému v regióne. Vnímame takéto osobné stretnutia ako mimoriadne hodnotné pre koordináciu a efektívnu spoluprácu v rámci celej siete EuroCC.

Ďakujeme organizátorom za kvalitne pripravené podujatie a tešíme sa na pokračovanie spoločných aktivít, ktoré pomáhajú posúvať vysokovýkonné počítanie bližšie k ľuďom, firmám a inštitúciám naprieč Európou.

Kým tradičné modely umelej inteligencie sú trénované na rozpoznávanie objektov z vopred určených tried (napr. „pes“, „auto“, „strom“), moderný výskum smeruje k tomu, aby stroje dokázali vnímať akýkoľvek objekt ako samostatnú entitu – aj bez toho, aby bol tento objekt niekedy predtým v tréningových dátach. Tento posun je kľúčový najmä v oblasti robotiky, kde sa stroje pohybujú v nepredvídateľných prostrediach a musia samostatne identifikovať nové a neznáme objekty.

Prednáška predstavila viacero prelomových technológií, ktoré tento vývoj umožňujú. Medzi hlavné body patrilo:

• využitie modelu DINO (2021), ktorý bol trénovaný bez potreby anotovaných dát a umožňuje navádzanie pozornosti humanoidného robota na relevantné časti scény,
• využitie modelu CUTLER (2023) a metódy MaskCut, ktorá pracuje na princípe optimalizácie grafovej štruktúry obrazu (NCut) a umožňuje efektívne segmentovanie objektov,
• nové prístupy k tvorbe presných segmentačných masiek pomocou učenia neurónových sietí, ktoré zlepšujú presnosť lokalizácie a tvaru objektov v obraze.

Okrem technologického prehľadu webinár ponúkol aj praktické ukážky využitia týchto modelov v prostredí robotického systému. Účastníci mali možnosť nahliadnuť do výskumného procesu a získať predstavu o tom, ako sa teoretické poznatky uplatňujú v praxi – od trénovania modelov až po ich nasadenie do reálneho prostredia.

Podujatie bolo určené pre širokú odbornú verejnosť – výskumníkov, pedagógov, doktorandov, študentov a profesionálov z oblasti umelej inteligencie, robotiky a počítačového videnia. Vysoká účasť a množstvo otázok v diskusii potvrdili, že ide o veľmi aktuálnu a dynamicky sa rozvíjajúcu oblasť výskumu.

Ďakujeme všetkým, ktorí sa webinára zúčastnili, a veríme, že získané poznatky prispejú k ďalšiemu rozvoju výskumu a inovácií v tejto oblasti.

Účastníci sa dozvedeli viac o technickom pozadí fungovania transformerových architektúr, o spôsobe, akým tieto modely spracúvajú vstupné dáta, ako generujú odpovede a prečo sú také výkonné a zároveň náročné na výpočtové zdroje. Zaujímavou časťou prezentácie bol aj pohľad na koncept Model Context Protocol (MCP), ktorý predstavuje nový prístup k práci s kontextom a pamäťou v rámci LLM systémov. MCP bolo porovnané s prístupmi ako RAG (Retrieval-Augmented Generation) či tzv. A2A protokoly. Tieto nové metodiky ukazujú, kam sa LLM technológie posúvajú a aký potenciál môžu priniesť v oblasti personalizovaných chatbotov, inteligentných asistentov a autonómnych AI agentov.

Za Národné superpočítačové centrum sa podujatia zúčastnili Lucia Malíčková a Halyna Hyryavets. Počas podujatia Lucia Malíčková predstavila činnosť a poslanie Národného superpočítačového centra, ako aj služby, ktoré centrum ponúka širokej odbornej i akademickej verejnosti. Zároveň informovala o aktivitách Národného kompetenčného centra pre HPC, ktoré pomáha slovenským podnikom, výskumníkom aj verejným inštitúciám pri prenose poznatkov a inovácií v oblasti vysokovýkonného počítania do praxe.

V rámci podujatia sme zároveň oficiálne oznámili začiatok novej spolupráce, ktorá by mala prepojiť komunitu okolo umelej inteligencie s odborníkmi na superpočítače. Veríme, že táto synergia otvorí nové možnosti využitia pokročilých AI technológií v oblastiach, kde je potrebný masívny výpočtový výkon, napríklad pri trénovaní veľkých modelov, simuláciách alebo spracovaní komplexných dátových súborov. Tešíme sa na budúce spoločné aktivity a diskusie, ktoré môžu prispieť k silnejšiemu prepojeniu technologickej infraštruktúry s aplikovaným výskumom a inováciami.

Podujatie sa nieslo v priateľskej a otvorenej atmosfére, s priestorom na diskusiu, networking a zdieľanie skúseností medzi účastníkmi z rôznych oblastí – od dátovej vedy, cez akademickú obec až po zástupcov technologických firiem a startupov. Organizátorom patrí veľká vďaka za profesionálnu prípravu a za možnosť byť súčasťou komunity, ktorá má chuť diskutovať o budúcnosti technológií s odborným, ale zároveň prístupným spôsobom.

Naša účasť potvrdzuje, že téma umelej inteligencie a výkonného počítania je čoraz aktuálnejšia a v rámci Slovenska aj čoraz viac prepojená. Sme radi, že sme mohli prispieť k tejto diskusii a tešíme sa na ďalšie príležitosti, kde budeme môcť prezentovať prínosy a možnosti, ktoré HPC infraštruktúra prináša pre AI vývoj a digitálnu transformáciu spoločnosti.

Počas pracovných stretnutí so zástupkyňami programu sme otvorili konkrétne témy spolupráce. Diskutovali sme o možnostiach stáží pre študentov, ako aj o zapájaní sa do riešenia praktických úloh, ktoré sa týkajú vysokovýkonného počítania (HPC). Záujem o prepojenie akademického a technologického prostredia s praxou vnímame ako jeden z kľúčových predpokladov pre prípravu odborníkov na digitálne výzvy budúcnosti.

Zároveň sme so SARIO diskutovali o možnosti rozšíriť spoluprácu aj o projekt magisterského programu, ktorý bude zameraný na rozvoj talentu v oblasti superpočítania. Aj týmto spôsobom chceme podporiť budovanie novej generácie špecialistov, ktorí budú schopní riešiť komplexné výpočtové úlohy naprieč rôznymi sektorovými výzvami – od priemyslu až po výskum a vývoj.

Pre nás má táto spolupráca strategický význam. Predstavuje konkrétny krok k tomu, aby Slovensko nebolo iba používateľom, ale aj tvorcom pokročilých digitálnych riešení. Vytvárame prepojenia medzi verejným sektorom, vzdelávaním a inováciami – čo je presne ten typ partnerstva, ktorý môže posunúť krajinu technologicky vpred.

O možnostiach ďalšej spolupráce sme diskutovali aj počas stretnutia s projektovou manažérkou Barborou Szepeovou. Vážime si nadviazaný dialóg a veríme, že sa nám podarí vytvoriť dlhodobé partnerstvo prinášajúce konkrétne výsledky pre firmy, študentov aj odbornú komunitu.

Sme presvedčení, že systematickým spájaním expertízy v oblasti vysokovýkonného počítania s iniciatívami ako Prax pre univerzity – riešenia pre firmy, môžeme reálne prispieť k transformácii Slovenska na inovatívnu ekonomiku postavenú na poznaní, dátach a moderných technológiách.