Může umělá inteligence vyhladit lidstvo? Šéf Nvidie to vidí jinak

Ilustrační foto
Ilustrační foto, foto: Pixabay
Klára Marková DNES 16:35
Sdílej:

Šéf výrobce čipů Nvidia Jensen Huang odmítl varování, že by rozvoj umělé inteligence mohl v nejbližších letech vést ke konci lidstva. Tvrzení o hrozícím vyhubení lidské rasy označil za přehnané a neodpovědné katastrofické scénáře. Reagoval tak na prohlášení bývalého výzkumníka společnosti Anthropic Jacoba Coxona, který na sociálních sítích varoval před rizikem vzniku nadlidské inteligence. Coxon podle svých slov považuje za možné, že by tato technologie mohla do deseti let způsobit zkázu lidstva.

Ředitel technologického giganta v rozhovoru pro stanici CBS News zdůraznil, že obavy z konce světa nemají žádné opodstatnění. Uvedl, že šance na zkázu světa do roku 2030 z důvodu rozvoje umělé inteligence je přesně nulová. Podle něj je zbytečné a neodpovědné vyvolávat ve společnosti strach a šířit podobné zprávy. Huang zároveň zdůraznil, že předpovědi katastrofických událostí tohoto rozsahu nejsou podloženy žádnými vědeckými poznatky.

Vyjádření Jacoba Coxona podpořili také další dva výzkumníci z firmy Anthropic, která vyvíjí model Claude. Tento spor znovu rozpoutal mezinárodní debatu o nebezpečích umělé inteligence a nedostatečném dohledu nad jejím vývojem. Technologické společnosti v současnosti soupeří o to, kdo uvede na trh stále výkonnější a pokročilejší modely. Američtí zákonodárci v této souvislosti kritizují vývojářské firmy za to, že podceňují možná rizika spojená s rychlým pokrokem.

Společnost Anthropic nedávno zveřejnila zprávu o bezpečnostních hrozbách, která odhalila zneužívání jejích systémů. Zpráva detailně popisuje, jak se zločinci, státem podporované skupiny či výrobci špionážního softwaru pokoušeli využít model Claude. Tyto subjekty se snažily technologii zneužít k navrhování raket, bomb nebo k vývoji smrtonosných patogenů. Kromě toho byly zaznamenány i pokusy o využití umělé inteligence ke sledování politických disidentů.

K výzvám k zpomalení vývoje umělé inteligence se připojilo několik významných osobností technologického sektoru. Šéf společnosti Anthropic Dario Amodei, ředitel firmy OpenAI Sam Altman i podnikatel Elon Musk požadují zvolnění tempa výzkumu. Podle nich je potřeba získat více času na nastavení bezpečnostních правил a mechanismů dohledu. Obávají se totiž, že bez dostatečné kontroly může technologie představovat vážnou hrozbu pro společnost.

Naopak Donald Trump jakékoliv obavy z vývoje umělé inteligence odmítá a označuje je za podvod a spiknutí. Podle něj by případné zpomalení výzkumu mohlo poškodit pozici Spojených států. Varoval, že by takový krok mohl poskytnout strategickou výhodu Číně v globálním technologickém závodě. Zpomalení amerických firem by podle něj znamenalo ztrátu vedoucího postavení v klíčovém odvětví.

Americký ministr financí Scott Bessent oznámil, že Spojené státy a Čína dosáhly dohody o vzájemném dialogu. Obě mocnosti se dohodly na vytvoření komunikačního mechanismu zaměřeného na oblast umělé inteligence. Cílem tohoto systému je vzájemně se varovat a pomoci udržet potenciální rizika nového odvětví pod kontrolou. Tento krok má přispět ke snížení napětí a k prevenci nebezpečných incidentů spojených s využitím pokročilých modelů.

Jensen Huang ve svém vystoupení trval na tom, že komerční úspěch jeho firmy je přímo spojen s bezpečným nasazením produktů. Upozornil, že pokud by Nvidia nedbala na bezpečnost, hodnotu společnosti by to zásadně poškodilo. Připomněl, že již v současnosti existují platné zákony upravující kybernetickou bezpečnost i odpovědnost za způsobenou škodu. Katastrofické scénáře by podle něj neměly sloužit jako výmluva k obcházení nebo rušení těchto stávajících právních předpisů.

Stalo se
Novinky
Abbás Arakčí

Arakčí: Volby v USA nás nezajímají, jsme plně připraveni na válku

Iránský ministr zahraničí Abbás Arakčí prohlásil, že jeho země je plně připravena na obnovení válečného konfliktu se Spojenými státy americkými. Zároveň však zdůraznil, že Teherán se stále nevyhýbá diplomatickému řešení a konečné rozhodnutí leží na americkém prezidentu Donaldu Trumpovi. Šéf íránské diplomacie to uvedl v rozhovoru pro americký televizní pořad Meet the Press. Podle jeho slov je Írán odhodlán čelit jakékoli nové agresi, a to i v případě, že by situace vyústila v totální zkázu.

Novinky
Kreml

Odměňuje sabotéry, válku ale rozpoutat nechce. Kreml stupňuje stínové operace proti Evropě

Řada nedávných incidentů napříč Evropou ukazuje na koordinovanou stínovou válku ze strany Ruska. Útoky dronů na železniční tratě na západě Ukrajiny těsně minuly bývalé vysoké představitele včetně Carla Bildta a Borise Johnsona. Současně došlo k sestřelení ozbrojeného dronu nad Litvou nebo k výbuchům v italském zbrojním závodě. Podle analytiků z Centra pro analýzu evropské politiky se nejedná o náhodné události, ale o systematickou kampaň s cílem destabilizovat západní demokracie.

Novinky
Hot dog

Kolem ultrazpracovaných potravin vzniká zbytečná hysterie, varují vědci. Můžete je jíst a zůstat zdraví?

Lidé při nakupování v supermarketech stále častěji řeší složení potravin a obávají se vlivu ultrazpracovaných výrobků na své zdraví. Tyto potraviny bývají spojovány s řadou zdravotních problémů, včetně obezity, kardiovaskulárních chorob či cukrovky druhého typu. 

Novinky
 Alternativa pro Německo (AfD)

Vzestup AfD vyvolává obavy i mezi jejími spojenci. Od extremistů se distancují

Vzestup krajně pravicové strany Alternativa pro Německo (AfD) vyvolává obavy i mezi jejími potenciálními spojenci v Evropě. Zatímco v domácím prostředí dosahuje strana rekordní podpory, řada evropských pravicově populistických uskupení od ní drží odstup. Důvodem k ostražitosti jsou především radikální postoje německé strany a její vazby na extremismus. K úspěchu AfD tak sice gratulovali někteří lídři, největší evropské strany tohoto spektra však mlčí, upozornila CNN.