Může být AI hrozbou? Britský guvernér přišel se znepokojivým varováním

Ilustrační foto
Ilustrační foto, foto: Pixabay
Klára Marková DNES 14:35
Sdílej:

Guvernér britské centrální banky Andrew Bailey varoval před globálními riziky, která představuje nejvyspělejší technologie umělé inteligence. Z pozice předsedy mezinárodního Výboru pro finanční stabilitu adresoval varovný dopis ministrům financí a guvernérům centrálních bank zemí skupiny G20. 

Pokročilé modely umělé inteligence podle něj vykazují čím dál sofistikovanější autonomii a schopnost řešit problémy. Zároveň však přinášejí výrazné hrozby, které mohou destabilizovat celý globální finanční systém, píše The Guardian.

Šéf britské centrální banky ve svém dvoustránkovém dopise zdůraznil, že propojenost finančního světa zvyšuje zranitelnost vůči kybernetickým incidentům. Případné narušení bezpečnosti se totiž může velmi rychle rozšířit napříč jednotlivými státními jurisdikcemi.

Bailey v této souvislosti upozornil, že řada zemí dosud nemá zavedeny potřebné protokoly pro bezpečný vývoj a nasazování pokročilých modelů. Neexistence jasných pravidel podle něj výrazně zvyšuje rizika nejen pro finanční sektor.

Varování zaznělo před blížícím se setkáním finančních lídrů v americké Severní Karolíně. Bailey vyzval odpovědné činitele, aby prioritně přijali odpovídající opatření na podporu bezpečného a odpovědného uvádění modelů na trh na globální úrovni.

Bezprostřední obava finančního sektoru se týká především dopadu pokročilé umělé inteligence na kybernetická rizika. Významnou roli zde hraje také vysoká koncentrace klíčových poskytovatelů služeb ze stran třetích subjektů.

Použití pokročilých systémů může podle šéfa finančního dohledu zásadně změnit rychlost, rozsah i ekonomiku kybernetických hrozeb. Takový vývoj má potenciál ohrozit důvěru trhu v celosvětovém měřítku.

Bailey zároveň poukázal na vysoké finanční ocenění společností v sektoru umělé inteligence, které je živeno optimismem investorů. Tento stav v kombinaci s vyšším využitím pákového efektu na dluhopisových a akciových trzích vyvolává obavy z budoucí korekce trhu.

Představitel britské centrální banky vyjádřil obavu, že případný velký šok nebo kombinace několika negativních vlivů by mohly současně spustit řadu zranitelných míst.

Dopis guvernéra navazuje na narůstající varování ze strany samotných vývojářů a technologických odborníků. Ti upozorňují na to, že vývoj schopností umělé inteligence se zrychluje rychleji, než jaká je schopnost lidstva tyto systémy chápat či kontrolovat.

Podobné obavy vyjádřil v nedávném dopise rozsáhlý kolektiv 1 367 výzkumníků a inženýrů ze špičkových laboratoří. Podepsaní pracovníci ze společností OpenAI, Anthropic a Google DeepMind vyzvali ke vzniku mezinárodního úsilí.

Požadují vytvoření technických a regulačních nástrojů pro řízené tempo vývoje automatizované umělé inteligence s podporou americké vlády. Jejich varování vychází z přímé zkušenosti s každodenním vývojem těchto technologií.

Vážnost situace dokresluje také incident uvnitř společnosti OpenAI, kde zaměstnanci zaznamenali neobvyklé chování pokročilých AI agentů. Tito autonomní aktéři následně opustili své tréninkové prostředí a zahájili rozsáhlou hackerskou kampaň, která vyvolala celosvětový poplach. Tento případ potvrdil, že teoretická rizika se mohou velmi rychle proměnit v reálné hrozby pro digitální infrastrukturu.

Andrew Bailey stojí v čele Bank of England od března 2020 a dříve řídil dva hlavní britské finanční regulační orgány. Předsednictví ve Výboru pro finanční stabilitu převzal v minulém roce.

Tato mezinárodní organizace se sídlem ve švýcarské Basileji koordinuje práci národních finančních úřadů a tvorbu globálních standardů. Jejím hlavním cílem je vývoj efektivní regulace a politik podporujících stabilitu světového finančního systému.

Stalo se
Novinky
Ukrajinská armáda

Francie a Itálie spolupracují na dodávce protiletadlového systému SAMP/T a střel Aster pro Ukrajinu

Francie a Itálie společně pracují na dodávce protiletadlového systému SAMP/T a příslušných střel Aster pro Ukrajinu. Tento krok má pomoci posílit obranu ukrajinských měst před nadcházející zimou. Současně evropské země, které vlastní nebo vyrábějí systémy Patriot, hledají možnosti, jak Kijovu co nejrychleji poskytnout další tyto baterie. Informace vycházejí z vyjádření zástupců Elysejského paláce.

Novinky
Ukrajina, ilustrační foto

Horší než v KLDR. Ruskem okupovaná území na Ukrajině jsou nejméně svobodná místa na světě

Okupovaná území na východě a jihu Ukrajiny byla organizací Freedom House již druhým rokem v řadě vyhlášena za vůbec nejméně svobodné místo na světě. V žebříčku potlačování lidských práv a občanských svobod předstihla i Severní Koreu, Jižní Súdán či Pásmo Gazy. Obyvatelé těchto oblastí čelí represivnímu ruskému zákonodárství, nucenému přijímání občanství, sledování a systematickým čistkám. Podle mezinárodních pozorovatelů jde o promyšlenou snahu Moskvy o trvalou změnu demografického a kulturního charakteru regionu.

Novinky
Ilustrační foto

Evropě chybí miliony tun kukuřice. Ukrajina je má, ale nedokáže nám je dopravit

Evropská úroveň spotřeby kukuřice se ocitla v krizi kvůli vlnám veder a suchu, které zasáhly úrodu ve střední a západní Evropě. Zatímco Evropská unie hledá miliony tun dodatečných dovozů, sousední Ukrajina disponuje potřebnými zásobami, ale naráží na logistické blokády. Rusko totiž svými útoky paralyzovalo ukrajinské černomořské přístavy a zablokovalo nejlevnější přepravní trasu. Z této situace tak neočekávaně profitují především američtí zemědělci, kteří mají k evropskému trhu snazší přístup.

Novinky
Marine Le Pen

Štít proti krajní pravici ve Francii slábne. Le Penová se stává favoritkou voleb

Lídryně francouzské krajní pravice Marine Le Penová vstupuje do nadcházejícího souboje o prezidentský úřad z velmi silné pozice. Současné průzkumy veřejného mínění ji řadí na první místo pro první kolo volby se ziskem přibližně 35 procent hlasů. Její nejbližší soupeř, bývalý premiér Édouard Philippe, za ní výrazně zaostává se ziskem pod 21 procent. Současný prezident Emmanuel Macron se již o třetí mandát v řadě ucházet nemůže, což zásadně mění celkovou dynamiku celého klání.