Konference Poznej svého klienta 2018 7. června 2018 Praha, Vysoká škola finanční a správní, a. s. Konference Poznej svého klienta 2018 Umělá inteligence jako nástroj k poznání klienta finančních služeb z pohledu GDPR Alžběta Krausová alzbeta.krausova@ilaw.cas.cz www.pravoai.cz Dílo vzniklo za podpory projektu Grantové agentury České republiky č. 16-26910S s názvem Biometrické údaje a jejich zvláštní právní ochrana.

Umělá inteligence ve finančních službách „věda a technika výroby inteligentních strojů, zejména inteligentních počítačových programů“ John McCarthy Řešení komplexních problémů pomocí různých technik učení Strojové učení: učení z vlastní zkušenosti, na základě dat Princip strojového učení: poskytnutí dat → identifikace podobností (vzorců) → vytvoření modelu Využití ve finančních službách: Oblast „Know your customer“: Hodnocení, jestli se shodují obrázky na dokladech totožnosti Kalkulace rizikovosti, na jejímž základě se určí, zda je nutné další zkoumání Credit scoring Komunikace s klienty (chatboti) Dílo vzniklo za podpory projektu Grantové agentury České republiky č. 16-26910S s názvem Biometrické údaje a jejich zvláštní právní ochrana.

Umělá inteligence ve finančních službách Credit scoring: Použití pro případy, kdy banka nemá historii klienta Použití různých zdrojů dat – aktivity na sociálních sítích, používání mobilních telefonů, posílání textových zpráv, platby za telefon, apod. Vede k rychlejšímu rozhodnutí o udělení půjčky – ovšem může zahrnovat předsudky (např. odhad, zda je osoba mužem/ženou či z jaké etnické skupiny pochází); nepotvrdilo se, že je přesnější než tradiční způsoby posuzování Nastavování cen, marketing a pojištění: Analýza velkých dat a přizpůsobování cen, případně prevence škod Chatboti komunikující s klienty: Poskytování informací a rad, ale také nabádání k jednání; zdroj informací o potřebách klientů Zdroj: FSB. Artificial intelligence and machine learning in financial services. Market developments and financial stability implications. 2017. Dílo vzniklo za podpory projektu Grantové agentury České republiky č. 16-26910S s názvem Biometrické údaje a jejich zvláštní právní ochrana.

Technická omezení strojového učení Norman, psychopatická umělá inteligence Zdroj: www.bbc.co.uk Dílo vzniklo za podpory projektu Grantové agentury České republiky č. 16-26910S s názvem Biometrické údaje a jejich zvláštní právní ochrana.

Bezpečnostní rizika Zpráva „Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation“ - 2018 Bezpečnostní rizika ve 3 oblastech: Digitální bezpečnost – zvýšená účinnost kyberútoků, nové typy útoků, krádež identity pomocí syntézy řeči, poškozování systémů UI poskytnutím nesprávných/poškozených dat Fyzická bezpečnost – automatizování fyzických útoků pomocí dronů, nové typy útoků např. pomocí autonomních vozidel nebo rojů mikrodronů Politická bezpečnost – zásahy do soukromí, společenská manipulace Dílo vzniklo za podpory projektu Grantové agentury České republiky č. 16-26910S s názvem Biometrické údaje a jejich zvláštní právní ochrana.

Obecné právní problémy Prevenční povinnost – zejména u kontroly a zpracování dat Odpovědnost za škodu způsobenou inteligentními systémy (prvek autonomie) Porušení smluvní povinnosti - § 2913 OZ Škoda způsobená provozem zvlášť nebezpečným - § 2925 OZ Škoda způsobená věcí - 2936 an. OZ Škoda způsobená vadou výrobku - § 2939 an. OZ Problematika prokazování Nutno zkoumat vzájemný vztah mezi příčinnou (protiprávním činem) a výsledkem (újmou) Příčinnou souvislost dokazuje poškozený: Kdo porušil svou právní povinnost a vedlo toto porušení ke vzniku škody? Multikauzální újma (problém více příčin) Dílo vzniklo za podpory projektu Grantové agentury České republiky č. 16-26910S s názvem Biometrické údaje a jejich zvláštní právní ochrana.

Obecné nařízení o ochraně osobních údajů (GDPR) Identifikované problémy ve vztahu k umělé inteligenci: Problém se zásadou minimalizace údajů s ohledem na nutnou dostupnost údajů pro zajištění funkcionality Problém se zásadou limitace účelu s ohledem na nemožnost přesně určit účel zpracování osobních údajů Problém se zásadou transparentnosti zpracování údajů s ohledem na nemožnost vysvětlit a bezchybně předpovědět výsledek zpracování Možné předsudky převzaté algoritmem a kolize se zásadou transparentnosti Problém s právem nebýt předmětem automatizovaného rozhodování Řešení: výkladová pravidla ? Problematika profilování vs. biometrické údaje – údaje o chování jsou biometrickými údaji, které podléhají zvláštnímu režimu zpracování Dílo vzniklo za podpory projektu Grantové agentury České republiky č. 16-26910S s názvem Biometrické údaje a jejich zvláštní právní ochrana.

Behaviorální biometrické údaje Kvantifikace behaviorálních vlastností/znaků vykazovaných osobami a jejich užití k vytváření profilů sloužících k identifikaci osob Způsoby identifikace: biometrika založená na autorství, založená na interakci mezi člověkem a počítačem (přímá, nepřímá), kinetika, čistá behaviorální biometrika bez měření založená na analýze schopností Typy behaviorálních biometrických údajů: Behaviorální biometrika pro identifikaci Behaviorální biometrika pro získání dodatečných informací Generalizovaná behaviorální biometrika – vědecké poznatky Biometrika a umělá inteligence: nepředvídané možnosti datové analýzy, problém transparentnosti, nedůvěra klientů, mikrotargeting, nepředvídatelné útoky na systém Dílo vzniklo za podpory projektu Grantové agentury České republiky č. 16-26910S s názvem Biometrické údaje a jejich zvláštní právní ochrana.

Konference Poznej svého klienta 2018 7. června 2018 Praha, Vysoká škola finanční a správní, a. s. Konference Poznej svého klienta 2018 Umělá inteligence jako nástroj k poznání klienta finančních služeb z pohledu GDPR Alžběta Krausová alzbeta.krausova@ilaw.cas.cz www.pravoai.cz Dílo vzniklo za podpory projektu Grantové agentury České republiky č. 16-26910S s názvem Biometrické údaje a jejich zvláštní právní ochrana.