EU se stala prvním regionem na světě, který se předběžně dohodl na pravidlech regulace umělé inteligence (AI). Jedná se o přelomový krok, jenž může ovlivnit budoucí vývoj AI po celém světě.
Dohoda byla uzavřena 11. prosince 2023 mezi Radou EU a Evropským parlamentem. Stanovuje řadu omezení pro využití AI – například zakazuje použití AI pro kategorizaci osob podle náboženského vyznání či sexuální orientace nebo pro rozpoznávání emocí na pracovišti. Rovněž by nemělo být povoleno využití AI pro predikci individuální kriminality.
„Dohoda je předběžná, její podrobnosti budeme znát až v následujících dnech a její podoba bude po technické stránce dále dopracovávána, nicméně se jedná o první a velmi průlomový krok na cestě k celoplošným pravidlům pro používání systémů umělé inteligence. AI je totiž skvělý sluha, ale mohl by být zlý pán. Podle tohoto návrhu by se například AI nesměla používat pro účely biometrické kategorizace osob podle náboženského vyznání nebo sexuální orientace. Zakázáno by mělo být také rozpoznávání emocí pomocí systémů AI na pracovišti a ve vzdělávacích institucích či použití AI pro predikování trestných činů jednotlivců,“ uvedl vicepremiér pro digitalizaci Ivan Bartoš. (zdroj: https://digitalnicesko.gov.cz/)
Cílem pravidel je podpořit rozvoj AI při současném respektování lidských práv a etických hodnot. Měla by tak vzniknout jasná a vymahatelná regulace napříč celou EU.
Pokud bude dohoda definitivně schválena členskými státy a Evropským parlamentem, první povinnosti by mohly firmy a instituce začít plnit už v roce 2024.
Jedná se o výsledek dlouhých vyjednávání, na nichž se významně podílelo i české předsednictví v Radě EU. ČR bude finální podobu regulace ještě posuzovat. Podle vicepremiéra Ivana Bartoše je prioritou podpora inovací v oblasti AI a zároveň ochrana základních práv občanů. Uvidíme, jak se bude nadále vyvíjet další debata. Každopádně jde o zásadní milník pro budoucnost umělé inteligence (AI).
