Altman varuje pred stratou kontroly nad umelou inteligenciou aj pred koncentráciou moci
Šéf spoločnosti OpenAI Sam Altman upozorňuje, že vývoj umelej inteligencie môže priniesť dva závažné scenáre, pri ktorých by sa technológia vymkla spod ľudskej kontroly alebo by narušila rovnováhu moci v spoločnosti. Altman to opísal v rozhovore pre podcast Figuring Out with Raj Shamani, ktorý bol zverejnený 3. novembra.
Prvým rizikom je podľa neho strata kontroly nad samotnou technológiou. Nemuselo by ísť o dramatickú vzburu strojov, akú poznáme zo sci-fi filmov. Ľudia by mohli úmyselne alebo neúmyselne odovzdať rozhodovanie systémom, ktoré svojimi schopnosťami výrazne prevyšujú človeka. Ak by tento proces zašiel príliš ďaleko, ľudstvo by už nemuselo dokázať získať kontrolu späť.
Takéto obavy nadobúdajú väčší význam s rozvojom autonómnejších systémov a takzvaných AI agentov. Na rozdiel od klasických chatbotov dokážu plánovať postup, používať ďalší softvér a vykonávať viaceré nadväzujúce úlohy bez neustáleho zásahu používateľa. Nebezpečenstvo pritom nemusí spočívať v tom, že by umelá inteligencia mala vlastné nepriateľské úmysly. Problémy môžu vzniknúť aj vtedy, keď mimoriadne schopný systém dostane nepresne definovaný cieľ a začne ho dosahovať spôsobom, ktorý jeho tvorcovia nepredpokladali.
Druhý scenár sa netýka vzbury strojov, ale ľudskej moci. Altman upozorňuje na možnosť, že jeden človek, spoločnosť alebo štát získa prostredníctvom umelej inteligencie neprimerane veľkú prevahu nad ostatnými. Takúto koncentráciu moci považuje za nebezpečnú a destabilizujúcu.
Za priaznivejší preto pokladá svet, v ktorom pôsobí viacero nezávislých vývojárov umelej inteligencie, ktorí medzi sebou súťažia a využívajú odlišné technologické prístupy. Ani konkurencia však sama osebe nezaručuje bezpečný vývoj.
Altmanove slová majú osobitný rozmer vzhľadom na postavenie OpenAI. Spoločnosť patrí medzi hlavných hráčov vo vývoji pokročilých modelov a budovaní výpočtovej infraštruktúry. Altman v tom istom rozhovore vyzdvihol jej používateľskú základňu, technologické zázemie aj značku. Zároveň však zdôraznil, že nechce, aby jedna firma ovládla celé odvetvie.
Napriek týmto varovaniam zostáva technologickým optimistom. Verí, že ľudia sa dokážu prispôsobiť novým podmienkam a že umelá inteligencia môže zásadne zlepšiť kvalitu života. Najväčšie očakávania spája s vedeckými objavmi. Pokročilé systémy by podľa neho mohli urýchliť výskum v matematike a fyzike, pomôcť objaviť nové liečebné postupy či zdroje energie.
Altman tak upozorňuje na zásadný paradox. Technológia, ktorá môže výrazne urýchliť vedecký a spoločenský pokrok, zároveň vytvára riziko, že ľudstvo stratí kontrolu nad svojou budúcnosťou. Rozhodujúce preto nebude iba to, akú výkonnú umelú inteligenciu dokážeme vytvoriť, ale aj to, kto ju bude ovládať a podľa akých pravidiel.
