Před pár dny se médii přehnala zpráva o tom, jak se ředitel Facebooku Mark Zuckerberg vyjádřil k tomu, že lidé, kteří šíří poplašné zprávy o umělé inteligenci, jsou neodpovědní, protože tato technologie nám v budoucnosti může přinést velké množství výhod.

Výhod, které by bez ní nebyly k dispozici, což může vést až k záchraně lidských životů. 

Umělá inteligence otevře netušené možnosti, věří programátor Marek Rosa

Z kontextu se dalo vyčíst, že Mark Zuckerberg tím nepřímo kritizoval Elona Muska, který opakovaně upozorňuje (možná straší) na existenciální rizika vyplývající z umělé inteligence.

Musk na Zuckerbergovo vyjádření reagoval stručně: "Markovy znalosti AI jsou omezené."

Je třeba si uvědomit, že oba hovoří o odlišných tématech. Zuckerberg mluví o AI technologiích, které máme dnes, případně které můžeme mít v nejbližších letech. To jsou algoritmy, které jsou schopné učit se z dat, nacházet souvislosti, generovat hypotézy.

Avšak tyto algoritmy mají svoje limity, nejedná se o inteligenci, jakou očekáváme u zvířat nebo u lidí. Jsou oblasti, kde se tyto algoritmy hodí už dnes, ale zároveň je mnoho oblastí, kde ještě nejsou prakticky využitelné. Ještě nepřekročily práh užitečnosti.

On vyvíjí umělou inteligenci, ona buduje oděvní firmu. Sourozenci ze Slovenska chtějí z Prahy dobýt svět

Musk naproti tomu hovoří o takzvané superinteligenci nebo o general AI čili o algoritmech, které se budou učit podobně nebo lépe než lidé, naučené znalosti budou používat na to, aby vylepšily svoje fungování, aby vylepšily svoji schopnost zlepšovat se. Tyto technologie jsou momentálně sci-fi, odhady odborníků na to, kdy budou dostupné, jsou v rozmezí 10 až 100 let.

My v GoodAI se věnujeme právě oblasti general AI. Otázku bezpečnosti a užitečnosti našich budoucích výtvorů bereme velmi vážně. Tímto tématem se zabýváme velmi často a máme už připravených mnoho opatření, jak zajistit, že superinteligence bude mít pro lidstvo pozitivní přínos.

Jedno z nich například je, že se naše umělá inteligence bude v takzvané škole pro umělou inteligenci učit, jak vnímat svět tak, jak jej vnímá člověk. Zároveň ji naučíme rozhodovat se tak, aby maximalizovala hodnoty, které jsou pro nás důležité.

Proč se Elon robotů bojí a Mark ne

Celý systém zároveň otestujeme v sandboxovaném prostředí, tedy v počítačové simulaci. A to tak, že ho uvedeme do obrovského množství nových a pro něj neznámých situací a budeme sledovat, jak je vyřeší, jak se adaptuje na měnící se prostředí.

Systém, který by se vymykal tomu, co považujeme za bezpečné, bychom z procesu vyřadili. Tento výčet bezpečnostních opatření ale není kompletní, máme připravené desítky dalších.

Jakmile začneme o umělé inteligenci uvažovat jako o rozšíření (augmentaci) naší přirozené inteligence, uvidíme, že sama o sobě nemá vlastní vůli, že je jen naší prodlouženou rukou. Takový nástroj potom můžeme použít na to, aby vylepšil nás samotné.

Takže to budeme my, kdo se stane superinteligencí, a sami se postaráme o to, aby byl tento proces bezpečný.

Související
Newsletter

Týden v komentářích HN

Máte zájem o informace v širších souvislostech?

Každý pátek dopoledne od nás dostanete výběr komentářů, které se během týdne objevily v Hospodářských novinách. Těšit se můžete na texty Petra Honzejka, předního ekonoma Tomáše Sedláčka, kardiologa Josefa Veselky a dalších. Výběr pro vás připravuje Jan Kubita.

Přihlášením k newsletteru beru na vědomí, že mé osobní údaje budou zpracovány dle Zásad ochrany osobních a dalších zpracovávaných údajů, a souhlasím se Všeobecnými obchodními podmínkami vydavatelství Economia, a.s. Z odběru se můžete kdykoli odhlásit.

Přihlásit se k odběru