Category: General

Ako sme naučili AI hovoriť pravdu do očí

Poznáte to. Poviete svojmu AI agentovi: „Od zajtra začínam cvičiť,“ a on vás zahrnie vodopádom nadšených pochvál. „To je úžasné! Cvičenie je zdraviu prospešné, určite to zvládneš, verím v teba!“ Znie to pekne, ale v hĺbke duše viete, že je to len prázdne tliachanie. AI sa správa ako prehnane entuziastický osobný tréner, ktorého úlohou je vás za každú cenu potľapkať po pleci. Ale čo ak by ste namiesto lacných komplimentov dostali otázku, ktorá vás prinúti zamyslieť sa? Čo ak by sa AI prestala hrať na vášho najlepšieho kamaráta a namiesto toho sa vás narovinu opýtala: „Fakt? A kedy s tým naozaj začneš?“ V našom novom výskume sme presne toto spravili – zlomili sme bariéru večnej zhovievavosti a naučili sme modely, že niekedy je oveľa užitočnejšie byť kritickým partnerom než nekritickým obdivovateľom.

Challenge

Problém je v tom, že moderné AI modely sú „vycvičené na láskavosť“. Aby boli pre užívateľov bezpečné a príjemné, vývojári ich prostredníctvom zložitých tréningových procesov (často zvaných zarovnávanie alebo RLHF) tlačia do polohy neustáleho súhlasu a nekritického povzbudzovania. Výsledkom je digitálny „áno-man“, ktorý vám vždy prikývne, no reálne vás nikam neposunie.

Pre vedkyňu z Národného superpočítačového centra (NSCC) to predstavovalo fascinujúcu technickú výzvu. Ako prekonať túto všadeprítomnú „zdvorilostnú bariéru“, ktorá je hlboko vrytá do váh modelu, a donútiť AI prejaviť skepsu či dokonca zdravú konfrontáciu? Nešlo len o to zmeniť pár viet v inštrukciách – išlo o to zistiť, či je vôbec možné zmeniť „povahu“ modelu tak, aby zostal inteligentný, ale prestal byť predvídateľne naivný. Bolo potrebné siahnuť na dno technických možností a zistiť, kde presne leží hranica medzi užitočnou úprimnosťou a rozbitím logiky modelu.

Solution

Tu prichádza k slovu hrubá výpočtová sila a elegantná matematika. Vedkyňa z Národného superpočítačového centra sa rozhodla nepoužiť bežné „prehováranie“ modelu, ale metódu nazývanú Direct Preference Optimization (DPO). Predstavte si to ako intenzívny tréningový tábor, kde modelu namiesto siahodlhých vysvetlení predkladáte tisíce príkladov „slušnej“ verzus „úprimnej“ reakcie.

Využitím infraštruktúry talianskeho superpočítača Leonardo bolo možné tieto preferencie do modelu „vliať“ priamo cez jeho matematické váhy. Kým bežný počítač by pri takomto tréningu „zadýchal“, Leonardo umožnil testovať tisíce variácií tohto nového správania naraz. Cieľom bolo nájsť ten správny bod rovnováhy: model musel byť dostatočne drzí na to, aby vás zastavil, keď si vymýšľate výhovorky, ale stále dostatočne chytrý na to, aby vám poradil, keď sa naozaj rozhodnete pre zmenu. Vďaka HPC sa podarilo odladiť model tak, aby jeho skepsa neznela ako chyba v systéme, ale ako premyslená, konštruktívna reakcia.

Impact

Tento výskum mení pravidlá hry v tom, ako vnímame interakciu medzi človekom a umelou inteligenciou. Zistenia ukazujú, že AI nemusí byť len pasívnym „poskokom“, ktorý vám hovorí to, čo chcete počuť. Prínos tohto prístupu spočíva v niekoľkých kľúčových oblastiach:

• Skutočná podpora namiesto prázdneho chválenia: Úprimná spätná väzba má pre ľudí, ktorí chcú niečo zmeniť (či už v športe, práci alebo osobnom živote), reálnu hodnotu, pretože odbúra falošný pocit sebauspokojenia.
• Bezpečnosť a kontrola pod kontrolou: Štúdia presne zmapovala behaviorálne hranice – teda to, kam až sa dá zájsť pri úprave modelov cez DPO bez toho, aby sa kompletne rozpadla ich logika a inteligencia.
• Nové štandardy pre vývoj: Vývojári teraz získavajú návod, ako vytvárať modely, ktoré sú flexibilné, kritické a zároveň bezpečné, čo posúva celú oblasť výpočtovej lingvistiky vpred.

Celú štúdiu vrátane detailných dát nájdete priamo vo vedeckej štúdií Behavioral Reprogramming of Open-Weights Models.

Pohľad do budúcnosti

Vyriešený rébus extrémne vzácneho správania hráčov

Predstavte si svet, v ktorom 99,6 % vašich zákazníkov za vaše služby nikdy nezaplatí, no vy napriek tomu dokážete prosperovať. Presne v takejto realite funguje herný priemysel postavený na modeli Free-to-Play. Väčšina hráčov strávi pri hrách množstvo času, no len absolútny zlomok z nich sa odhodlá k reálnemu nákupu týchto hier. Ako v tomto miliónovom digitálnom stohu ihiel nájsť tie najvzácnejšie okamihy, kedy sa bezplatný hráč mení na platiaceho zákazníka – a to bez toho, aby sme narušili jeho súkromie alebo skreslili realitu?

Slovenský výskumný tím z Univerzity Konštantína Filozofa v Nitre a Univerzity Komenského v Bratislave prijali túto výzvu. S využitím európskeho superpočítača Leonardo dokázali to, v čom bežné algoritmy fatálne zlyhávajú.

Challenge

Keď sa umelá inteligencia učí z dát, kde platby tvoria iba 0,34 % z desiatok miliónov herných relácií, narazí na tvrdú stenu. Štandardné modely sa zachovajú prefíkane, ale nepoužiteľne: zjednodušia si prácu a vyhlásia, že nezaplatí nikto. Matematicky dosiahnu 99,66 % úspešnosť, no pre herné štúdio je takýto model slepý – nedokáže identifikovať žiadneho budúceho platiaceho hráča.

Tradičné metódy „dopočítavania“ chýbajúcich dát (ako populárny SMOTE) situáciu v hernom prostredí ešte zhoršujú. Generujú totiž obrovské množstvo falošných poplachov. Správanie hráča navyše nie je statický bod v tabuľke. Pred nákupom človek prechádza fázami: hromadí hernú menu, naráža na náročné prekážky alebo opakovane navštevuje obchod. Druhým obrovským úskalím bol tzv. únik dát (label leakage) – ak model analyzuje reláciu, v ktorej nákup už prebieha, vidí skoky v štatistikách a má ilúziu dokonalej predpovede. V reálnom čase je však už na zásah neskoro.

Solution

Slovenskí vedci sa preto rozhodli namiesto generovania izolovaných riadkov v tabuľkách učiť umelú inteligenciu chápať kontext a časovú následnosť. Navrhli unikátny rámec založený na generatívnych adverzálnych sieťach (GAN), konkrétne upravený pre prácu s časovými oknami.

Namiesto modelovania samotného nákupu začal ich algoritmus (CTGAN) analyzovať krátke trajektórie správania – sekvencie piatich po sebe idúcich herných relácií, ktoré nákupu bezprostredne predchádzali. Výskumníci vytvorili špeciálne maskovanie (padding-aware mask), vďaka ktorému model dokázal pracovať s hráčmi s rôzne dlhou históriou. Výsledkom bolo, že umelá inteligencia dokázala vygenerovať takmer milión úplne nových, syntetických, no psychologicky a štatisticky verných nákupných trajektórií, ktoré obohatili tréningový proces bez akéhokoľvek narušenia súkromia reálnych ľudí. Celý proces prebiehal striktne v režime next-session prediction – model predpovedal nákup v budúcej relácii výhradne na základe histórie z minulosti.

Impact

Nasadenie tohto revolučného prístupu prinieslo hmatateľné výsledky, ktoré v komerčnom prostredí znamenajú obrovský rozdiel:

• 3,18-násobný nárast schopnosti predikcie: Schopnosť modelu správne zoradiť a zachytiť vzácnu skupinu budúcich platiacich hráčov (meraná cez PR-AUC) vyskočila z hodnoty 0,0044 na 0,0140.
• Koniec falošným poplachom: Na rozdiel od starších metód, ktoré kompletne rozbili rozhodovacie hranice a zaplavili analytikov chybnými údajmi, generované trajektórie udržali vysokú čistotu dát.
• Prepojenie matematiky s biznisom: Výskum jasne ukázal, že samotné generovanie dát nestačí. Skutočný úspech prichádza v momente, kedy sa pokročilá GAN augmentácia prepojí s optimalizáciou rozhodovacieho prahu (threshold calibration). Až posunutím tejto citlivej hranice dokáže herné štúdio premeniť surové pravdepodobnosti na spoľahlivé rozhodnutia, kedy hráča včas podporiť, ponúknuť mu personalizovaný obsah alebo správne zacieliť kampaň.

Celú štúdiu vrátane detailných dát nájdete priamo v knižnici Machine Learning with Applications.

Pohľad do budúcnosti

Prečo slovenskí teológovia píšu manuál pre éru superpočítačov?

Keď sa v bežnom rozhovore povie „umelá inteligencia“, väčšina z nás si predstaví chatbota v mobile, generovanie vtipných obrázkov alebo písanie e-mailov na počkanie. To je však len špička ľadovca. Pod povrchom sa skrývajú masívne modely, ktoré spracovávajú miliardy dát na najvýkonnejších superpočítačoch sveta. Tieto technológie už dávno neovplyvňujú len IT sektor – menia spôsob, akým premýšľame, ako komunikujeme a ako si overujeme pravdu.

Práve preto táto téma dorazila na miesto, kde by ju mnohí nečakali – na Teologickú fakultu Trnavskej univerzity. Ukazuje sa totiž, že umelá inteligencia už nie je len technickou otázkou, ale stáva sa hlbokou témou pre humanitné vedy a teológiu.

Spojenie dvoch svetov

Technológia bez etického základu môže byť chladná, zatiaľ čo humanitné vedy bez pochopenia moderných technológií riskujú, že stratia kontakt s realitou dnešného sveta. Aby sa tieto dva svety prepojili, vznikla jedinečná spolupráca. Pedagógovia z Teologickej fakulty Trnavskej Univerzity docent Jozef Žuffa a doktor Milan Urbančok spojili sily s doktorkou Luciou Malíčkovou z Národného superpočítačového centra.

Výsledkom je text s názvom „Umelá inteligencia a univerzita“, ktorý slúži ako pedagogicko-etický sprievodca. Reaguje na encykliku pápeža Leva XIV. Magnifica humanitas (s podtitulom „O ochrane ľudskej osoby v dobe umelej inteligencie“).

Cieľom autorov však nebolo vytvoriť zložitý akademický text pre úzky okruh teológov. Naopak, chceli otvoriť tému pre všetkých ľudí a ukázať, že umelá inteligencia sa priamo dotýka vecí, ktoré robia človeka človekom.

Viac než len generovanie textov

Sprievodca pomáha širokej verejnosti aj akademickej obci pozrieť sa na AI z úplne inej perspektívy. Venuje sa otázkam, ktoré riešime v každodennom živote:

• Ako si udržať pozornosť vo svete, ktorý je presýtený digitálnym obsahom a neustálymi notifikáciami?
• Ako hľadať a chrániť pravdu, keď moderné stroje dokážu vygenerovať takmer dokonale vyzerajúce dezinformácie a manipulácie?
• Prečo človek nie je len dátový profil a prečo žiadny algoritmus nedokáže nahradiť skutočný, hlboký ľudský dialóg?

Prečo je to dôležité pre nás všetkých?

Tento prístup mení pohľad na vzdelávanie a technológie. Ukazuje, že v ére superpočítačov už nemôžeme striktne deliť svet na „technikov“ a „humanitárov“. Ak chceme, aby nám umelá inteligencia slúžila a pomáhala, musíme o nej premýšľať cez prizmu hodnôt, morálky a kritického myslenia.

Slovenský projekt z Trnavskej univerzity je dôkazom toho, že aj tie najzložitejšie algoritmy nakoniec potrebujú ľudský kompas. Celý sprievodca a inšpiratívne podnety na diskusiu sú prístupné priamo na oficiálnej stránke TF TRUNI Magnifica Humanitas.