Konference Poznej svého klienta 2018

Prezentace na téma: "Konference Poznej svého klienta 2018"— Transkript prezentace:

1 Konference Poznej svého klienta 2018
7. června 2018 Praha, Vysoká škola finanční a správní, a. s. Konference Poznej svého klienta 2018 Umělá inteligence jako nástroj k poznání klienta finančních služeb z pohledu GDPR Alžběta Krausová Dílo vzniklo za podpory projektu Grantové agentury České republiky č S s názvem Biometrické údaje a jejich zvláštní právní ochrana.

2 Umělá inteligence ve finančních službách
„věda a technika výroby inteligentních strojů, zejména inteligentních počítačových programů“ John McCarthy Řešení komplexních problémů pomocí různých technik učení Strojové učení: učení z vlastní zkušenosti, na základě dat Princip strojového učení: poskytnutí dat → identifikace podobností (vzorců) → vytvoření modelu Využití ve finančních službách: Oblast „Know your customer“: Hodnocení, jestli se shodují obrázky na dokladech totožnosti Kalkulace rizikovosti, na jejímž základě se určí, zda je nutné další zkoumání Credit scoring Komunikace s klienty (chatboti) Dílo vzniklo za podpory projektu Grantové agentury České republiky č S s názvem Biometrické údaje a jejich zvláštní právní ochrana.

3 Umělá inteligence ve finančních službách
Credit scoring: Použití pro případy, kdy banka nemá historii klienta Použití různých zdrojů dat – aktivity na sociálních sítích, používání mobilních telefonů, posílání textových zpráv, platby za telefon, apod. Vede k rychlejšímu rozhodnutí o udělení půjčky – ovšem může zahrnovat předsudky (např. odhad, zda je osoba mužem/ženou či z jaké etnické skupiny pochází); nepotvrdilo se, že je přesnější než tradiční způsoby posuzování Nastavování cen, marketing a pojištění: Analýza velkých dat a přizpůsobování cen, případně prevence škod Chatboti komunikující s klienty: Poskytování informací a rad, ale také nabádání k jednání; zdroj informací o potřebách klientů Zdroj: FSB. Artificial intelligence and machine learning in financial services. Market developments and financial stability implications Dílo vzniklo za podpory projektu Grantové agentury České republiky č S s názvem Biometrické údaje a jejich zvláštní právní ochrana.

4 Technická omezení strojového učení
Norman, psychopatická umělá inteligence Zdroj: Dílo vzniklo za podpory projektu Grantové agentury České republiky č S s názvem Biometrické údaje a jejich zvláštní právní ochrana.

5 Bezpečnostní rizika Zpráva „Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation“ Bezpečnostní rizika ve 3 oblastech: Digitální bezpečnost – zvýšená účinnost kyberútoků, nové typy útoků, krádež identity pomocí syntézy řeči, poškozování systémů UI poskytnutím nesprávných/poškozených dat Fyzická bezpečnost – automatizování fyzických útoků pomocí dronů, nové typy útoků např. pomocí autonomních vozidel nebo rojů mikrodronů Politická bezpečnost – zásahy do soukromí, společenská manipulace Dílo vzniklo za podpory projektu Grantové agentury České republiky č S s názvem Biometrické údaje a jejich zvláštní právní ochrana.

6 Obecné právní problémy
Prevenční povinnost – zejména u kontroly a zpracování dat Odpovědnost za škodu způsobenou inteligentními systémy (prvek autonomie) Porušení smluvní povinnosti - § 2913 OZ Škoda způsobená provozem zvlášť nebezpečným - § 2925 OZ Škoda způsobená věcí an. OZ Škoda způsobená vadou výrobku - § 2939 an. OZ Problematika prokazování Nutno zkoumat vzájemný vztah mezi příčinnou (protiprávním činem) a výsledkem (újmou) Příčinnou souvislost dokazuje poškozený: Kdo porušil svou právní povinnost a vedlo toto porušení ke vzniku škody? Multikauzální újma (problém více příčin) Dílo vzniklo za podpory projektu Grantové agentury České republiky č S s názvem Biometrické údaje a jejich zvláštní právní ochrana.

7 Obecné nařízení o ochraně osobních údajů (GDPR)
Identifikované problémy ve vztahu k umělé inteligenci: Problém se zásadou minimalizace údajů s ohledem na nutnou dostupnost údajů pro zajištění funkcionality Problém se zásadou limitace účelu s ohledem na nemožnost přesně určit účel zpracování osobních údajů Problém se zásadou transparentnosti zpracování údajů s ohledem na nemožnost vysvětlit a bezchybně předpovědět výsledek zpracování Možné předsudky převzaté algoritmem a kolize se zásadou transparentnosti Problém s právem nebýt předmětem automatizovaného rozhodování Řešení: výkladová pravidla ? Problematika profilování vs. biometrické údaje – údaje o chování jsou biometrickými údaji, které podléhají zvláštnímu režimu zpracování Dílo vzniklo za podpory projektu Grantové agentury České republiky č S s názvem Biometrické údaje a jejich zvláštní právní ochrana.

8 Behaviorální biometrické údaje
Kvantifikace behaviorálních vlastností/znaků vykazovaných osobami a jejich užití k vytváření profilů sloužících k identifikaci osob Způsoby identifikace: biometrika založená na autorství, založená na interakci mezi člověkem a počítačem (přímá, nepřímá), kinetika, čistá behaviorální biometrika bez měření založená na analýze schopností Typy behaviorálních biometrických údajů: Behaviorální biometrika pro identifikaci Behaviorální biometrika pro získání dodatečných informací Generalizovaná behaviorální biometrika – vědecké poznatky Biometrika a umělá inteligence: nepředvídané možnosti datové analýzy, problém transparentnosti, nedůvěra klientů, mikrotargeting, nepředvídatelné útoky na systém Dílo vzniklo za podpory projektu Grantové agentury České republiky č S s názvem Biometrické údaje a jejich zvláštní právní ochrana.

9 Konference Poznej svého klienta 2018
7. června 2018 Praha, Vysoká škola finanční a správní, a. s. Konference Poznej svého klienta 2018 Umělá inteligence jako nástroj k poznání klienta finančních služeb z pohledu GDPR Alžběta Krausová Dílo vzniklo za podpory projektu Grantové agentury České republiky č S s názvem Biometrické údaje a jejich zvláštní právní ochrana.