KYBER a AI z pohledu prevence

krátký kurz pro rozvoj digitálních kompetencí - PREZENČNĚ, NPI - BRNO

Hashtagy: #kyber

Typ vzdělávacího programu: Neakreditované akce (workshopy, konference, kulaté stoly…)

Anotace vzdělávacího programu:

Anotace

Vzdělávací program seznamuje účastníky s vybranými riziky spojenými s umělou inteligencí (dále AI), především jejími generativními formami. Zaměřuje se na několik logicky propojených témat:

1. Ochrana osobních údajů ve vztahu k AI (tj. co se děje s osobními údaji, když je zadáváme do AI, na co si dávat pozor při využívání AI).

2. Halucinování AI (demonstrujeme na příkladech halucinování ChatGPT, Google AI overview a dalších technologií). Zaměřujeme se na nebezpečné rady spojené s výstupem AI.

3. AI Bias (zkreslení demonstrujeme na systémech Midjourney, Stable Diffusion, ukazujeme příklady AI biasu v rámci generování obrázků s ohledem na historickou správnost.

4. Etické limity AI a jejich obcházení (představujeme základní etické limity velkých jazykových modelů, ukazujeme si, jak je lze překonat a jak dokáže správný prompt proměnit AI v nebezpečný nástroj).

5. Tvorba dezinformací, hoaxů, vyděračských dopisů (vše ukazujeme na příkladech)

6. Klonování lidského hlasu s ukázkami a etickými problémy.

7. Tvorba deep fake fotografií a videí (účastníci si zkusí vytvořit deep fake fotografii).

8. Narušení soukromí s pomocí AI (retuše, deep nude aplikace s ukázkami). Kazuistika případů z českého i zahraničního prostředí.

9. Další problémy spojené s generativní AI (závislost na AI, ekologické problémy, tvorba zbraní, jedů, malware apod.) V průběhu kurzu se bude lektor věnovat i didaktické transformaci témat spojených s generativní umělou inteligencí –⁠⁠⁠⁠⁠⁠ jak jednotlivá témata předávat žákům s ukázkou konkrétních nástrojů, které mohou s žáky v hodinách používat.

Specifické požadavky (technologie, aplikace, uspořádání učebny apod.):

· Požadavky pro účastníky kurzu: mobilní telefon s přístupem na internet prostřednictvím WI-FI, ideálně i notebook (není povinný) pro případ aktivního zapojení do programu kurzu.