Kto vlastní AI v rámci organizácie? — Operatívna zodpovednosť

Tento webinár organizuje Národné superpočítačové centrum Slovensko v rámci aktivít projektu EuroCC  (Národného kompetenčného centra – NCC Slovensko) v spolupráci s NCC Portugalsko ako súčasť série AI Accountability Dialogue Series.

Webinár bude prebiehať v anglickom jazyku.

Abstrakt:

EU AI Act zavádza nové roly a povinnosti, ktoré zásadne menia spôsob, akým je zodpovednosť za AI systémy rozdelená v rámci organizácií. V praxi je však vlastníctvo AI často fragmentované medzi právne, technické, compliance, dátové a biznisové funkcie a ďalej komplikované závislosťou od tretích strán a základných modelov.

Webinár sa zameriava na to, ako môžu organizácie tieto výzvy riešiť prostredníctvom rozlíšenia operatívnej zodpovednosti a operatívneho vlastníctva, ako aj jasného nastavenia rozhodovacích právomocí a zodpovednosti v rámci celého životného cyklu AI systému. Diskusia sa bude venovať praktickým mechanizmom riadenia prispôsobeným veľkosti organizácie a úrovni rizika, vrátane interného monitoringu, dokumentácie a sledovateľnosti AI systémov. Osobitná pozornosť bude venovaná výzvam pri reálnom nasadzovaní AI, ako sú nejasné hranice vlastníctva, závislosť od externých poskytovateľov či vznik neformálneho alebo tzv. „shadow AI“.

Rečníčka:

Petra Fernandes

Právnička – ochrana osobných údajov, umelá inteligencia a kybernetická bezpečnosť

Petra Fernandes ukončila štúdium práva v roku 2003 a odvtedy sa venuje poradenstvu v oblasti ochrany osobných údajov, umelej inteligencie a kybernetickej bezpečnosti. Pôsobila ako zodpovedná osoba (DPO) a ako členka tímov DPO pre súkromné spoločnosti aj verejnú správu.

Popri poradenskej činnosti sa pravidelne venuje školeniam a aktivitám zameraným na zvyšovanie povedomia v oblasti ochrany osobných údajov a AI governance vo verejnom aj súkromnom sektore, so silným dôrazom na praktickú implementáciu a dodržiavanie regulačných požiadaviek.

Témy zahŕňajú:

• Vlastníctvo AI verzus operatívna zodpovednosť podľa EU AI Act
• Roly a zodpovednosti poskytovateľov, nasadzovateľov a interných tímov
• Proporcionálne modely AI governance pre malé a stredné podniky a veľké organizácie
• Interný monitoring, dokumentácia a sledovateľnosť AI systémov
• Riadenie vlastníctva pri využívaní tretích strán a základných modelov
• Výzvy ako „shadow“ AI a neformálne používanie generatívnej AI

Program webinára:

1. Úvod: Prečo je vlastníctvo AI viac než len právna otázka
2. Aktéri podľa EU AI Act a ich úloha vo vlastníctve AI
3. Roly poskytovateľa (Provider) a nasadzovateľa (Deployer) a interná organizačná zodpovednosť
4. Zodpovednosť vrcholového manažmentu a rozhodovacie právomoci
5. Proporcionálne modely AI governance
   • Interný monitoring a dokumentácia
   • Mapovanie AI systémov a use casov
   • Začlenenie zodpovednosti do obstarávania a vývoja
6. Výzvy pri reálnom nasadzovaní AI
   • Fragmentované vlastníctvo a nejasné rozhodovacie práva
   • Závislosť od tretích strán a základných modelov
   • „Shadow“ AI a vývoj AI systémov v čase
7. Kľúčové priority pre nastavenie jasného vlastníctva AI
8. Diskusia a Q&A