Praktický průvodce ochranou vašich údajů při každodenní práci s nástroji AI. Naučte se rozpoznávat rizika a chránit to, co je důležité.
01 — Proč je to klíčové
Umělá inteligence transformuje způsob, jakým pracujeme. Je však nezbytné pochopit, jaká nebezpečí s sebou přináší — zejména u bezplatných, veřejných verzí nástrojů.
Většina rizik popsaných na tomto webu se týká především veřejných bezplatných verzí AI nástrojů, kde uživatel nevypnul trénování modelu na svých datech. Pokud vaše firma používá bezplatnou verzi ChatGPT, Gemini nebo jiného nástroje, vaše vstupy se mohou stát součástí trénovacích dat.
Dobrá zpráva: Placený Enterprise nebo Workspace účet se zakázaným trénováním řeší až 90 % těchto bezpečnostních rizik. Data neopouštějí firemní prostředí a model se na nich neučí. Pro firmu s 5–100 zaměstnanci je to často nejefektivnější investice do bezpečnosti.
Počet bezpečnostních incidentů souvisejících s AI nástroji se každý rok dramaticky zvyšuje — většina se týká bezplatných verzí.
Většina uživatelů si ani neuvědomuje, že bezplatné AI nástroje mohou jejich vstupy použít k trénování modelu.
Rizika se netýkají jen velkých firem — ohrožen je každý, kdo používá veřejné AI nástroje bez správného nastavení.
zaznamenaných bezpečnostních incidentů v roce 2024
02b — I s placeným účtem
Placený Enterprise účet výrazně zvyšuje bezpečnost, ale neznamená automaticky nulové riziko. Pro firmu s 5–100 zaměstnanci jsou tyto tři oblasti klíčové.
Tato rizika se týkají výlučně interního nastavení vaší firmy — ne samotného AI nástroje.
I když má firma placený AI účet, zaměstnanci mohou tajně používat soukromé bezplatné účty na mobilech nebo osobních zařízeních. Firemní data se tak dostanou do veřejného AI bez jakékoliv ochrany.
Řešení: Jasná interní politika a pravidelná školení o tom, proč je nutné používat pouze firemní účet.
Placený účet chrání vaše data před vnějším světem, ale ne před kolegy s přístupem. Ve sdíleném workspace může kdokoliv vidět konverzace a dokumenty, ke kterým by neměl mít přístup.
Řešení: Nastavit role a oprávnění, omezit přístup k citlivým konverzacím podle oddělení.
I u placeného, bezpečného AI nástroje musí mít firma podepsanou zpracovatelskou smlouvu (Data Processing Agreement) s poskytovatelem. Bez ní porušujete GDPR — bez ohledu na to, jak dobře je nástroj zabezpečen.
Řešení: Před nasazením AI ověřit, zda poskytovatel nabízí DPA a podepsat ji ještě před zpracováním jakýchkoliv údajů.
03 — AI asistenti v prohlížečích
Integrované AI funkce v prohlížečích mohou číst obsah stránek. Zde jsou situace, kdy je třeba je deaktivovat.
Vypněte AI asistenta při zadávání platebních údajů — např. při platbě přes banku nebo zadávání karty na e-shopech jako Alza či Mall.
Deaktivujte při práci s interními materiály — např. při otevírání smluv v SharePointu, firemních reportů v Google Docs nebo interních prezentací.
AI asistent nemá mít přístup k přihlašovacím formulářům — např. při přihlášení do internetového bankovnictví, firemního e-mailu nebo ERP systému.
Při správě administračních panelů vypněte AI funkce — např. v cPanelu, WordPress adminu, Shoptetu nebo firemním CRM systému.
Důvěrné zprávy by neměly být analyzovány AI — např. interní Slack nebo Teams konverzace, e-maily s právními dokumenty nebo mzdovými údaji.
Přístup ke zdravotním záznamům vyžaduje maximální ochranu — např. portál elektronického zdravotnictví, výsledky z laboratoří nebo elektronické recepty.
04 — Bezpečné údaje
Ne vše je rizikové. Zde jsou typy informací, které můžete s AI nástroji bezpečně používat.
Obecně dostupná fakta, definice a veřejné statistiky.
Standardní programátorské vzory, algoritmy a veřejné knihovny bez proprietární logiky.
Brainstorming, generování nápadů a konceptuální otázky bez citlivého kontextu.
Překlady veřejných textů, gramatická kontrola a stylistické úpravy.
Obecné otázky k učení, vysvětlení konceptů a tutoriály.
05 — Jak anonymizovat
Šest jednoduchých kroků, které zajistí, že vaše údaje zůstanou chráněny i při využívání AI.
Projděte text a označte všechny osobní, firemní a regulované informace.
Před:
Jan Novák z firmy TechCorp vydělal 85 000 € ročně.
Po:
[JMÉNO] z firmy [FIRMA] vydělal [ČÁSTKA] ročně.
Všechna skutečná jména osob a organizací nahraďte generickými značkami.
Před:
Kontaktujte Marii Kovářovou na marie@firma.cz
Po:
Kontaktujte [OSOBA_1] na [EMAIL_1]
Přesné částky, data a čísla zobecněte nebo zaokrouhlete.
Před:
Obrat byl 1 247 893,45 € k 15.3.2024
Po:
Obrat byl přibližně 1,2 mil. € v Q1 2024
Konkrétní adresy, GPS souřadnice a geografické detaily vynechte.
Před:
Kancelář na Hlavní 15, Praha 110 00
Po:
Kancelář v [MĚSTO], [ZEMĚ]
Přečtěte výsledný text a zkontrolujte, zda není možné identifikovat žádnou osobu.
Před:
Výsledný text s originálními údaji
Po:
Text bez jakýchkoliv identifikačních znaků ✓
Originální údaje a jejich zástupné symboly si bezpečně uložte lokálně pro pozdější doplnění.
Před:
Údaje rozptýlené v různých dokumentech
Po:
Šifrovaná tabulka: [OSOBA_1] = Marie K.
06 — SAFE metoda
Čtyři jednoduché kroky, které byste měli dodržovat při každé interakci s AI nástroji.
Před odesláním dat zkontrolujte, zda neobsahují citlivé informace.
Všechny identifikovatelné údaje nahraďte zástupnými symboly.
Odstraňte všechny nadbytečné informace, které AI nepotřebuje.
Po odpovědi AI vyhodnoťte, zda výstup neobsahuje citlivé údaje.
„Potřebuji analýzu trhu pro [ODVĚTVÍ] v [REGIONU]. Firmu nazvěte [FIRMA_A]. Konkurenty označte jako [FIRMA_B] a [FIRMA_C]. Příjmy zaokrouhlete na miliony."
07 — Bezpečnostní checklist
Interaktivní kontrolní seznam — projděte všechny body předtím, než začnete pracovat s AI.
Začněte kontrolu zabezpečení
09 — GDPR a legislativa
Nařízení GDPR stanovuje přísná pravidla pro zpracování osobních údajů v celé Evropské unii.
Maximální pokuta GDPR
Lhůta na oznámení úniku
Povinnost dodržování v EU
Zpracovávejte pouze ty osobní údaje, které jsou skutečně nezbytné pro daný účel.
Osobní údaje uchovávejte jen po dobu, než jsou potřebné ke splnění účelu.
Informujte dotčené osoby jasně a srozumitelně o tom, jak jejich údaje zpracováváte.
Buďte schopni prokázat soulad s GDPR a dokumentujte všechny kroky zpracování.
10 — AI Act: Pyramida rizik
Evropský AI Act rozděluje umělou inteligenci do čtyř úrovní rizika. Klikněte na jednotlivé vrstvy pyramidy a zjistěte více.
Klikněte na vrstvu pyramidy pro zobrazení detailů
11 — Klasifikační test
Máte 20 minut a 25 otázek — mix klasifikace AI rizik a vědomostních otázek o bezpečnosti dat. Na konci získáte certifikát o absolvování testu.
+10 bodů
za správnou odpověď
Série
+5 za každou v řadě
Speed bonus
+5 pod 5 sekund