 AI je zbraň hromadného ničení. EU se sice snaží zabránit katastrofě, ale nemusí to být moc platné.
AI, její učení, trénování a hlavně potenciál zneužití jsou a budou problém. Stále větší problém. Všichni, kteří mají alespoň základní informace a přemýšlí o důsledcích vědí, že AI je zásadní věc, která však svou nebezpečností mnohonásobně předčí vynález atomové bomby. Na rozdíl od atomovky, kterou si jen tak nemůžete běžně pořídit, silné AI nástroje budou běžně dostupné všem. A je jasné, že mnozí lidé, firmy i vlády, mají s AI velmi nekalé úmysly.
Masivní rozšíření deepfake, dezinformací, AI řízených systémů obchodování, manipulací všeho druhu jsou nevyhnutelné. Řešením je samozřejmě udělat pravidla, ale také něco a někdo musí ta pravidla vymáhat. A bránit zneužití AI a používání jako zbraň. Selhání by mělo katastrofální následky pro celou lidskou společnost.
V EU jsme se už před časem shodli, že AI je třeba stanovit jasná pravidla, jasná omezení a jasné mantinely. Současně všichni chápou, že vývoj AI je neodvratný a nejde nikomu o to AI zakázat, protože její prospěšnost v pozitivně využívaných nástrojích, je neoddiskutovatelná. Pro výzkum a vývoj je strojové učení naprosto zásadní. Minimálně také budou potřeba výkonné AI systémy na ochranu před těmi, kteří se budou snažit jiné AI nástroje zneužívat proti Evropě a jejím obyvatelům. V EU se tak už dlouho připravovala legislativa a pravidla. A státy EU nyní přijaly Akt o umělé inteligenci, které jako vůbec první AI zákony na světě nějaké věci právně řeší a definují (nebo se o to alespoň snaží). Zástupci Evropských států v EP přijali nařízení naprosto drtivou většinou, kdy je evidentní, že si skoro všichni uvědomují závažnost situace.
Samozřejmě nová pravidla neřeší zdaleka vše. Ale pamatují na spoustu věcí. Například brání plošnému nasazení sledovacích biometrických systémů ze strany států a stanovuje jen individuální výjimky v soudech stanovených případech. Jinými slovy nehrozí v EU čínský realita všeobecného státního sledování a hodnocení obyvatel na každém kroku. Pravidla jsou také pro obecné trénování AI systémů, které musí dodržovat autorská práva. S těmi se do kolize dostávají hlavně američtí provozovatelé AI, kteří jsou hromadně žalováni za to, že jejich systémy učili na autorsky chráněných dílech, bez vědomí a souhlasu jejich majitelů. V některých případech hrozí, že budou muset všechna data a trénování smazat. EU také po firmách chce transparentnost. Tedy jasné posuzování vstupů a výstupů, upozorňování na „incidenty“ atd.
Velkou pozornost berou pravidla také na zásadní problém, kterým je vytváření a šíření dezinformací, upravených textů, obrázků a videí za pomoci AI nástrojů. Deepfake mají být jasně označovány a sociální sítě budou mít povinnost je detekovat a označovat. A je toho mnohem více. Pochopitelně jde o zásadní právní soubor, který však hezky vypadá jen na papíře. Stále se ještě bude dolaďovat a platný bude až po plném schválení finální verze, tedy v praxi bude platný nejdříve tak za 2 – 3 roky. To je dlouhá doba, kdy zatím žijeme v AI divokém západě. A nebezpečnost AI využívaných systémů už se začíná plně projevovat. Otázkou také je vymáhání těch pravidel, kdy zejména sociální sítě si stále ještě neporadily se šířením dezinformací, takže nemám zrovna moc důvěru, pokud jde o to, jak zabrání šíření AI vytvořených fejků a dezinformací a vůbec AI generovaného obsahu a balastu. Současně Evropa zjevně nebude ideálním místem pro vývoj AI systémů z hlediska AI firem, protože prostě vůbec bude mít nějaká pravidla, která budou muset dodržovat s nějakou administrací okolo. Pro AI firmy tak bude výhodné vyvíjet AI nástroje mimo Evropu. Ve státech, kde žádná pravidla a omezení mít nebudou.
To je prostě extrémně nebezpečná situace a problém, který sama EU nemůže vyřešit, ať se bude snažit sebevíc. Každý rozumný člověk asi chápe nutnost nějakých pravidel, protože AI nástroje jsou a budou bez přehánění zbraň hromadného ničení. Státy EU se snaží zabránit zřejmé katastrově, ovšem je otázkou, zda na to nějaká pravidla na papíře, platící jen v rámci EU, mohou reálně stačit. Určitě je to lepší než nedělat nic, ale vzhledem k tomu, že se jako celá EU už nacházíme v reálné hybridní válce a útočí na nás nepřátelské země i za pomocí AI dezinformačních nástrojů, je nějaké řešení a vývoj potřebných AI opatření nutností. Bohužel, stejně jako s technologií štěpení atomu, ani s AI nemají všichni dobré úmysly. Rozdíl je v tom, že AI, co by zbraň hromadného ničení, budou mít přístup stamiliony lidí. A nepotřebují balistickou raketu ani strategický bombardér k jejímu zneužití a doručení …
| AUTOR: Jan "DD" Stach |
|---|
| Radši dělám věci pomaleji a pořádně, než rychle a špatně. |
|
