Zrovna dnes jsem mluvil o umělé inteligence s mým oblíbeným blogerem a YouTuberem Honzou Kohutem a musím vám říct, že je velmi zajímavé sledovat, co všechno ty nástroje umí. Upřímně, Honza je v tomto tématu mnohem dál než já.
Pak ale padla otázka, jestli existují případy, kdy by mělo být používání umělé inteligence zakázané. A světe div se, jsou takové.
Napadly mě hned tři a každý z nich by vás mohl dostat do problémů se zákonem a vaši zaměstnavatelé, klienti a pacienti by po vás mohli vymáhat odškodné za (ne)majetkovou újmu.
1) Umělou inteligenci nesmíte nakrmit citlivými daty
Představte si, že požádáte svého zaměstnance, aby vám zpracoval nějakou analýzu. Spoléháte při tom na to, že si s tou analýzou poradí sám (třeba i s využitím firemního softwaru).
Jenže narazíte na lehkovážného blbce, který místo toho, aby pracoval se zabezpečeným a licencovaným softwarem, vloží data do volně dostupného chatbota a nechá si analýzu zpracovat v něm.
To přece není žádný problém, ne?
Omyl. Je to prů…švih obrovských rozměrů, protože kvůli tomu jako klient a vlastník dat můžete přijít o cenné know-how.
To je blbost!
Není. Přesně tohle se stalo technologickému gigantovi Samsungu, jehož zaměstnanci měli pro práci povolené využívat umělou inteligenci, a nevědomky tím umožnili konkurenci, aby díky vhodně položeným dotazům (promptům) získali od chatbota know-how Samsungu. (Honzův příklad, díky za něj!)
WTF!!!
Chatbota zkrátka nesmíte nakrmit citlivými daty.
2) Právní a daňové poradenství
Obdobně je to i v případě, kdy si najmete daňového poradce nebo advokáta. Ti musí z výkonu své funkce dodržovat mlčenlivost, kterou v některých případech nedokáže prolomit ani soud.
A teď si představte, že tomuto odborníkovi poskytnete důvěrné informace a on je lehkovážně předá umělé inteligenci, aby mu zpracovala rozbor. No a důvěrné informace jsou kdoví kde a dostat se k nim může kdoví kdo.
Jen si vzpomeňte, jak se vedly nesmyslné spory o zneužití dat v rámci elektronické evidence tržeb (EET). Že prý může dojít k vyzrazení citlivých informací. Komu? Správci daně, který je za výběr daně zodpovědný? Zbytečná paranoia! Dělá to tak 17+ států EU.
Zatímco se k datům z EET dostali jen osoby s oprávněním, chatboti nic takového nemají. Na rovinu – vám by opravdu nevadilo, kdyby někdo používal umělou inteligenci k manipulaci s daty, která si úzkostlivě střežíte před okolním světem?
3) Podobný příklad, jiný obor – zdravotnictví
Pokud vezmete citlivá data o pacientech, abyste z nich díky umělé inteligenci vytvořili kazuistiku, můžete porušit nejen lékařské tajemství, ale také GDPR a mnoho dalších předpisů. Opět se tak můžete dostat do problému v trestněprávní rovině.
Umělou inteligenci využívejte. Ale s rozumem
Patřím mezi učitele, kteří studenty podporují v tom, aby při studiu využívali umělou inteligenci (AI). Popravdě jim to ani nejde zakázat. Bylo by to dokonce kontraproduktivní, protože bychom ztratili globální konkurenceschopnost. 😉
Jak ale vidíte na těch třech příkladech (pokud vás napadají i další případy, napište mi je, prosím, do komentáře), neuvážené zjednodušování práce vás může dostat do nepříjemné situace.
Proto ať už máte k dispozici jakákoliv data (mimo těch veřejně dostupných např. z justice.cz), vždycky si nejprve položte otázku, jestli je mohu bez obav poskytnout třetí straně?
Umělá inteligence s těmi daty totiž může svobodně nakládat, učit se z nich a rozhodně ta komunikace nemusí být zcela anonymní.
Pokud si nejste jisti, co použít a co ne, požádejte o svolení vlastníka dat, nebo se zeptejte vedoucího práce. Ptát se ex post je ale už pozdě, protože to, co je jednou na internetu, to tam už navždy zůstane.
Takže používejte umělou inteligenci. Ale s rozumem.
Pavel Semerád
PS. Nejsem paranoidní, jen profesně opatrný.
