ÚVOD DO AI: Co je za vývojem umělé inteligence a jaká je její etika?

Než se z AI stala realita

V předešlém článku o AI jsme nakousli historii umělé inteligence a vysvětlili si, že se vlastně nejedná o nic nového. První myšlenky na umělou inteligenci totiž měli vědci již okolo roku 1836. Víme ale, že v té době to spíše byla předpověď, vzrušující science-fiction.

Už v roce 1950, tedy jen pár let před oficiálním zavedením umělé inteligence jako vědního oboru, vydal Isaac Asimov sbírku povídek „Já robot“, která zkoumá etické a morální dilema spojená s roboty s umělou inteligencí. Asimovo dílo je považováno za ikonické nejen díky své literární hodnotě, ale především díky tomu, že v něm autor formulovat 3 základní zákony robotiky, které jsou základem diskuzí o etických a morálních dilematech spojených s rozvojem robotiky a umělé inteligence.

První zákon: Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby člověku bylo ublíženo.

Druhý zákon: Robot musí poslouchat příkazy, které mu dávají lidé, kromě případů, kdy by tyto příkazy odporovaly Prvnímu zákonu.

Třetí zákon: Robot musí chránit svou existenci, pokud to není v rozporu s Prvním nebo Druhým zákonem.

Pokud jste knihu nečetli, určitě si vybavíte film s Willem Smithem. A víte tedy, že se roboti s rozvojem své inteligence vymkli kontrole lidí a začali se chovat podle svého. Téma „vzpoury strojů“ zpracovává třeba i Terminátor z roku 1984. Ve stejném roce vyšla i kniha W. Gibsona s názvem Neuromancer, která představuje svět, ve kterém jsou kybernetické technologie a AI neoddělitelonu součástí každodenního života. AI zde může manipulovat s lidmi a dalšími systémy. Zkrátka a dobře, ani ve světě fantazie  lidé AI ukočírovat nedokáží. Jak to bude v reálném světě?

Filmových a knižních děl, které se zabývají umělou inteligencí a uměle vytvořenými formami života je celá řada - pro zájemce můžeme zmínit například legendární knihu a později i film 2001: Vesmírná odysea, která popisuje superinteligentní počítač HAL 9000 na vesmírné lodi, který je jako AI schopen samostatného uvažování, rozhodování či emočních reakcí. V roce 2001 Steve Spielberg natočil film A.I. Umělá inteligence, který se tíž věnuje tematice AI s emocemi a touhou po lidském uznání a lásce.

Takto by mohl vypadat budoucí svět podle předpovědí autorů sci-fi. Jak daleko byli od pravdy? (zdroj obrázku: DALL-E)

‍

Raketový rozvoj AI za posledních 40 let

‍

Jak se najednou stalo, že máme k dispozici nástroje podobné těm, které jsme po několik desítek let vídali jen ve filmech? Pojďme si ve zkratce ukázat, kdy AI zaznamenala své klíčové okamžiky ve vývoji:

• 80. léta - Tato doba byla klíčová pro rozvoj algoritmů a teorií toho, čeho bude možné dosáhnout. Vědci položili základy storjového učení (machine learning)  a velmi významně se rozvinul algoritmus zpětného šíření (backpropagation), díky němuž šlo efektivněji trénovat neuronové sítě.

• 90. léta - Strojové učení a expertní aI systémy se začaly implementovat do praktického života, především do sféry finančnictví, analýzy dat a robotiky.
• 2000 +- AI systémy již začaly být schopné zvládnout složitější úlohy, včetně rozpoznávání obrazu a zpracování přirozeného jazyka.
• 2010+ - AI dosáhla průlomu v hlubokém učení (deep learning), což vyústilo ve vývoj systémů schopných porazit člověka ve složitých hrách jako jsou šachy. Došlo k obrovskému zlepšení automatického překladu a rozvoji automatických vozidel. V této době se již začal o AI zajímat mainstream a velké firmy jako Google, Amazon a Facebook začaly investovat své finance do výzkumu a vývoje AI.
• 2020 + AI je již běžnou součástí našeho života a vracíme se tedy k tématu etiky a regulace. Zajímáme se o dopady na trh práce, soukromí, bezpečnost a vliv na lidskou psychiku.

Kdo významně ovlivnil vývoj AI?

Nikoho to asi nepřekvapí, ale je to tak. Jednou z nejvýraznějších osobností, která stojí za raketovým vývojem AI v posledních letech je multimiliardář Elon Musk. Musk se do podpory rozvoje AI pustil s vizí, že AI bude nedílnou součástí našich životů a bude je usnadňovat. Dnes ovšem patří k nejsilnějším hlasům, které před AI varují a označuje ji za hrozbu pro celé lidstvo.

Musk často kritizuje velké technologické společnosti za jejich přístup k umělé inteligenci a varuje před koncentrací moci v rukou několika málo hráčů. Nelíbí se mu například, že ChatGPT není již věcí veřejnou a velmi ostře se opírá do společnosti Apple, která chce kompletně implementovat OpenAI do svých výrobků. Sám přitom tento projekt založil. Brzy však z organizace vystoupil, jelikož se mu nelíbilo, jakým směrem se OpenAI vyvíjí.

OpenAI totiž vznikla za účelem vývoje přátelské umělé inteligence, která bude prospěšná pro celé lidstvo. Cílem bylo zajistit, aby pokroky v oblasti umělé inteligence byly využívány k dobrým účelům. Dnes je však OpenAI netransparentní, tedy je snadno ovlivnitelná a ovladatelná jen „hrstkou vyvolených.“ A v tom Musk vidí nebezpečí.

Musk také založil projekt Neuralink, který se zaměřuje na vývoj mozkových implantátů, které by mohly umožnit přímé propojení lidského mozku s počítači. Tím by se mohla léčit neurologická onemocnění a také rozšířit lidské schopnosti.

V neposlední řadě pokročilých systémů umělé inteligence využívá Muskova společnost Tesla. Vyvíjí plně autonomní vozidla, která se dokáží bezpečně pohybovat po silnici i bez lidského řidiče.

Muskova Tesla vyvíjí autonomní vozidla, která místo lidí řídí AI. (Zdroj obrázku: DALL-E)

‍

Jak AI ovlivňuje náš život?

Umělé inteligenci je dnes těžké se vyhnout, je totiž prakticky všude - v bankovních a bezpečnostních systémech, telefonech, webových a streamingových vyhledávačích, nejrůznějších počítačových aplikacích, v automobilech, umění nebo třeba i v nemocnici. Věděli jste, že dnes již lékaři mohou AI využívat ke čtení snímků a stanovení svých diagnóz?

AI a etika

S tím, jak se umělá inteligence stává stále sofistikovanější a proniká do stále více oblastí našeho života, vyvstává řada etických otázek, na které musíme najít odpovědi. V tuto chvíli tedy probíhá diskuze, která stojí na stejných principecg jako třeba u klonování. Měli bychom to udělat, protože můžeme?

Pojďme se společně podívat na největší otázky o umělé inteligenci, které je třeba co nejdříve vyřešit:

• Měli bychom přesně vědět, jak AI systémy fungují, abychom mohli pochopit jejich rozhodnutí?
• Kdo nese zodpovědnost za škody způsobené AI? Vývojáři, uživatelé, nebo samotná AI?
• Do jaké míry by měla mít AI vlastní vůli a schopnost rozhodovat se nezávisle na lidech?
• Jak zajistit, aby AI systémy nebyly zneužity k škodlivým účelům?
• Jak zajistit, aby AI byla spravedlivá a nestranná a aby neposilovala existující nerovnosti?

Určitě jste již také zaznamenali spoustu případů, kdy AI byla lidmi zneužita právě proto, že k ní má přístup každý, tedy i jedinci, kteří chtějí ubližovat či ovládat druhé. Musk však tvrdí, že transparentnost, tedy to, aby se na vývoji AI podílela celá společnost a mohla jí používat, je zásadní. Jenže jak pak zamezíme tomu, aby si kdokoliv mohl vytvořit pornografické snímky kohokoliv a zveřejnit je jako skutečné? Jak lidé poznají realitu od deepfakes? Jak ochráníme lidi před tím, aby AI využívala jejich soukromá data a fotografie ke svým výtvorům?

Akt o umělé inteligenci

I když s myšlenkou umělé inteligence koketujeme více než 100 let, zdá se, že stále ještě na její implementaci do každodenního života nejsme připraveni. V tuto chvíli je potřeba, aby si celý svět sedl a vytvořil jasná pravidla a regulace, která nám zajistí, aby AI skutečně jen pomáhala. První vlaštovkou je Akt u umělé inteligenci, který vytvořila Europská Unie.

Akt o umělé inteligenci je první komplexní právní rámec na světě, který se zaměřuje na regulaci systémů umělé inteligence. Jeho cílem je zajistit, aby systémy AI používané v Evropské unii byly bezpečné, důvěryhodné, transparentní, nediskriminační a podléhaly lidskému dohledu. Zpracovává otázky ochrany základních práv, zvýšení důvěry v AI a též podporuje inovace, které EU zajistí konkurenceschopnost na globální úrovni.

Na základě Aktu vznikly čtyři kategorie rizika umělé inteligence:

Systémy AI s nepřijatelným rizikem: Tyto systémy jsou zakázány, například systémy, které manipulují s chováním lidí, aby způsobovaly jim nebo jiným fyzické nebo psychické poškození.

Systémy AI s vysokým rizikem: Tyto systémy podléhají přísným požadavkům, například systémy používané v oblasti lidských zdrojů, kritické infrastruktury nebo donucovacích orgánů.

Systémy AI s omezeným rizikem: Tyto systémy podléhají povinnostem transparentnosti, například systémy používané k rozpoznávání emocí nebo k kategorizaci biologických charakteristik.

Systémy AI s minimálním rizikem: Na tyto systémy se nevztahují žádné specifické požadavky.

‍

Jsme zvědaví, zda budou příklad Evropské Unie následovat i ostatní státy a jak daleko se v diskuzi o etice využívání umělé inteligence dostaneme. V tuto chvíli je třeba, aby každý měl vlastní zodpovědnost a sám zhodnotil, do jaké míry chce AI využívat. V dalších článcích si společně ukážeme, jaké výhody nám AI do života přináší a jak s nimi pracovat!

‍