Proč chtějí experti zastavit umělou inteligenci?
Umělá inteligence je rozhodně tématem, které v posledních měsících rezonuje společností, a to především díky sofistikovaným produktům od společnosti OpenAI. Tato mimořádná technologie totiž dokáže vygenerovat jakýkoliv text, vytvořit umělecká díla, i složit obtížné přijímací zkoušky, což si za poslední měsíce vyzkoušelo několik milionů lidí. Zcela novou schopností GPT-4 je pak třeba to, že dokáže porozumět obrazům. Z fotky obsahu lednice je totiž schopný vymyslet několik receptů na pokrmy, které by se z dostupných surovin daly uvařit. Mnozí odborníci však varují, že vývoj těchto nástrojů probíhá až příliš rychle, a doporučují jeho dočasné zastavení.
Proč jsou názory na umělou inteligenci tak rozpolcené? A jaká rizika může pro společnost představovat?
Experti požadují šestiměsíční odklad
Přestože se mnoho lidí dívá na vývoj umělé inteligence s nadšením, v některých skepticích to probouzí spíše obavy z budoucnosti, která by mohla připomínat Čapkovo drama R-U-R. O možných rizicích této technologie často mluví například americký miliardář Elon Musk. Ten spolu s dalšími významnými osobnostmi před několika dny sepsal dopis pro firmy, které se vývoji umělé inteligence věnují. Signatáři v něm požadují zastavení práce na systémech výkonnějších než GPT-4, a to alespoň o šest měsíců.
Za výzvou stojí institut Future of Life, což je nezisková organizace, jejímž cílem je varovat před možnými riziky umělé inteligence. Mezi další významné signatáře dopisu pak patří třeba Steve Wozniak, Yoshua Bengio, Evan Sharp, Chris Larsen či Gary Marcus. S organizací dlouhodobě spolupracuje také Elon Musk, který v ní působí jako externí poradce.
Potřebný odklad institut zdůvodňuje tím, že je nutné vyvíjet tuto technologii velmi opatrně. V současnosti se ale podle nich závod mezi jednotlivými konkurenčními firmami vymkl kontrole. „V posledních měsících se společnosti vyvíjející umělou inteligenci ocitly mimo kontrolu a docházelo tak k nasazování stále výkonnějších digitální technologií. Těm ale nikdo, ani jejich tvůrci, nedokáží porozumět, předvídat je nebo je spolehlivě ovládat,“ argumentují signatáři v dopise.
Někteří odborníci varují také před dalšími problémy. „Systémy umělé inteligence představují značné ohrožení pro demokracii kvůli šíření dezinformací. Ohrožují ale i zaměstnanost prostřednictvím nahrazování lidských činností, a hrozbu pro vzdělání pak představuje i možné plagiátorství a demotivace studentů. Z dlouhodobého hlediska je přijetí rozumných opatření malou cenou za zmírnění těchto rizik,“ řekl pro BBC Stuart Russell, profesor počítačové vědy na Kalifornské univerzitě v Berkeley.
Kromě technologických firem ale signatáři apelují i na jednotlivé vlády. Ty by podle nich měly zasáhnout a vytvořit „nové a schopné regulační orgány,“ které se budou věnovat právě rizikům spojeným s umělou inteligencí.
Někteří lidé však Muska za tento postoj kritizují. Především mu připomínají, že to byl právě on, kdo OpenAI před několika lety spoluzaložil. A přestože v této konkrétní společnosti již několik let nefiguruje, investoval nemalé peníze do dalších firem jako je DeepMind nebo Vicarious, které se vývoji umělé inteligence také věnují.
Nejdůležitější vynález za desítky let
Naopak další technologický magnát Bill Gates má od umělé inteligence optimističtější očekávání. Ve svém nedávném příspěvku uvedl, že se jedná o revoluční vynález, jenž ho fascinuje podobně, jako kdysi počítačové grafické rozhraní. Umělá inteligence ho navíc velmi pozitivně překvapila i tím, že dokázala složit náročnou biologickou zkoušku Advanced Placement, aniž by se předem připravila na konkrétní otázky. Ačkoliv Gates čekal, že se to týmu OpenAI podaří, ohromila ho rychlost celého procesu. GPT-4 totiž úkol zvládl, i když se na něj „učil“ jen pár měsíců.
Zajímá tě svět technologií a chtěl by ses naučit programovat? Přihlas se do našeho akreditovaného rekvalifikačního kurzu a získej práci snů. Kromě bezkonkurenčního platu na tebe čeká také home office, flexibilita a mnoho dalších benefitů. Nakopni svou kariéru ještě dnes:
Vývoj umělé inteligence je tedy podle spoluzakladatele Microsoftu stejně zásadní jako třeba vytvoření mikroprocesoru, osobního počítače, internetu nebo mobilního telefonu. „Změní to způsob, jakým lidé pracují, učí se, cestují, a komunikují mezi sebou. Celá průmyslová odvětví se kvůli umělé inteligenci přeorientují. Firmy se budou odlišovat hlavně tím, jak dobře tuto technologii využívají,“ popisuje americký miliardář.
Navíc má podle něj umělá inteligence potenciál vypořádat se s několika závažnými celospolečenskými problémy. Jako příklad uvádí možnost zkvalitnění zdravotní péče v rozvojových zemích, kde děti mnohdy umírají kvůli nedostatečným informacím o vhodné léčbě. Chytré jazykové nástroje by ale mohly také snížit vzdělanostní nerovnost. „Svět se musí ujistit, že z umělé inteligence budou mít prospěch všichni, a nejen lidé, kteří se mají dobře už nyní. Vlády a filantropové budou muset převzít hlavní roli při snižování nerovnosti, což je i priorita mé vlastní práce související s AI,“ uvádí spoluzakladatel Microsoftu.
I Gates si ale uvědomuje možné problémy, které s touto technologií souvisí. „Stejně jako většina vynálezů může být umělá inteligence použita pro dobré i špatné účely. Vlády musí spolupracovat se soukromým sektorem na způsobech, jimiž lze omezit případná rizika,“ vysvětluje americký miliardář.
Je potřeba zpomalit?
To je otázka, na jejíž odpovědi se odborníci asi jen tak neshodnou. Budoucí schopnosti umělé inteligence lze v tomto okamžiku předvídat jen velmi těžko, a tudíž se nastíněné obavy mohou některým lidem jevit jako neopodstatněné a jiným jako reálné. Je také nejisté, zda by byl šestiměsíční odklad dostatečný, a zda je vůbec možné toto rychle se vyvíjející odvětví pozastavit.
Dle informací z otevřeného dopisu jej do dne vydání článku stihly podepsat tisíce lidí. Zdá se tedy, že je to téma, které nenechává chladným velkou část společnosti. A co si myslíš o vývoji umělé inteligence ty? Hlasuj v naší anketě:
Hledáš novou příležitost a kariérní cestu? Začni s programováním a získej skvělé peníze, flexibilní pracovní podmínky, home office a mnoho dalšího. Rekvalifikuj se v našem akreditovaném kurzu pro junior programátory WWW aplikací. Nauč se pracovat s moderními nástroji budoucnosti a vybírej si z nekonečného množství pracovních nabídek. Nikdy není pozdě začít:
Přečti si také:
