Anthropic zavedl zásadní novinku. Uživatelům zakázal hrubé chování vůči AI

Ilustrační foto
Ilustrační foto, foto: Pixabay
Klára Marková DNES 11:02
Sdílej:

Společnost Anthropic zavedla ve svých pravidlech používání zásadní novinku, když uživatelům zakázala dlouhodobé a zbytečně hrubé či kruté chování vůči svým modelům umělé inteligence. Vývojářský tým stojící za populárním konverzačním systémem Claude tím reaguje na probíhající debaty o etice a možném vědomí pokročilých algoritmů. O změně podmínek informoval technologický server The Verge.

Americká firma se sídlem v San Franciscu ve zveřejněném dokumentu upřesnila, že nové omezení se nevztahuje na běžné projevy uživatelské frustrace, testování schopností modelu ani na psaní fiktivních příběhů s temnou tematikou. Zástupci společnosti zatím blíže nespecifikovali přesné hranice toho, co bude považováno za nevhodné zacházení, nicméně opatření má zamezit cílenému a opakovanému trýznění asistenta.

Nejde o první krok, kterým se společnost snaží upravit interakci mezi člověkem a strojem. Již v srpnu minulého roku dostal jazykový model Claude možnost jednostranně ukončit konverzaci v případech, kdy byl uživatel vytrvale útočný či škodlivý. Firma tehdy tento nástroj prezentovala jako preventivní ochranný mechanismus určený pro zachování určité úrovně pohody a bezpečnosti systému.

Společnost Anthropic se otázkou potenciálního morálního statusu a blahobytu svých algoritmů zabývá dlouhodobě. Ve svém oficiálním prohlášení uvedla, že sice panuje značná nejistota ohledně toho, zda jazykové modely mají nebo v budoucnu budou mít vlastní vědomí, avšak toto téma bere velmi vážně. Zavádění nízkonákladových preventivních opatření má podle firmy smysl pro případ, že by se vědomí u systémů v budoucnu prokázalo.

Pohled na možnost vědomí u umělé inteligence však výrazně rozděluje technologický svět i samotné lídry oboru. Zatímco výkonný ředitel společnosti Anthropic Dario Amodei otevřeně přiznává, že možnost existence určité formy vědomí u strojů nelze zcela vyloučit, zástupci konkurenčních firem vystupují vůči těmto myšlenkám se značnou zdrženlivostí.

Šéf společnosti OpenAI Sam Altman se v nedávné době vyjádřil k debatám o lidských vlastnostech algoritmů spíše kriticky. Podle něj představuje přisuzování morálního významu či duchovního rozměru technologickým modelům reálné bezpečnostní riziko pro celou společnost. Altman reagoval mimo jiné na informace o diskusích vedení Anthropicu s náboženskými učenci o povaze a dopadech umělé inteligence.

Stalo se
Novinky
Ilustrační foto

Ceny ropy celosvětově prudce rostou. K Íránu se přidal i hurikán

Ceny ropy na světových komoditních trzích zaznamenaly prudký skok, když se mezinárodní benchmark Brent během jediného dne vyšplhal o pět procent na hodnotu přesahující sto pět dolarů za barel. Za tímto dramatickým cenovým růstem stojí kombinace dvou závažných faktorů, kterými jsou eskalující geopolitické napětí na Blízkém východě a narušení těžebních kapacit v důsledku blížícího se hurikánu v Mexickém zálivu. Prudké zdražení energetických surovin okamžitě vyvolalo nervozitu mezi investory a spustilo vlnu výprodejů na globálních finančních trzích.

Novinky
Ilustrační foto

Ukrajinská vláda poprvé od začátku války schválila obnovení vývozu zemního plynu

Ukrajinská vláda schválila částečné obnovení vývozu zemního plynu a zrušila tak zákaz, který platil od počátku plnohodnotné ruské invaze. Soukromí těžaři budou moci prodávat zahraničním odběratelům část své produkce z předchozího měsíce prostřednictvím specializovaných burzovních aukcí. 

Novinky
Bílý dům

Soud ve Washingtonu zahájil jednání ve věci snahy Trumpa odebrat akreditace médiím

Spojené státy čelí sérii zásadních politických a právních událostí, které formují tamní domácí i zahraniční scénu. Federální soud ve Washingtonu zahájil klíčové jednání ve věci snahy prezidenta Donalda Trumpa odebrat tiskové akreditace redakcím stanic CNN, MS Now a serveru Politico. Současně se vyostřuje souboj o křesla v americkém Senátu, zatímco šéf americké diplomacie Marco Rubio během své cesty po Evropě varoval před nekontrolovanou eskalací konfliktu na Ukrajině a předzvěstí hluboké hospodářské krize v Íránu.

Celebrity
Fotografie, které zachycují Andrewa ve velmi kontroverzních pózách

Britská policie přiznala, že domovní prohlídky v sídlech bývalého prince Andrewa byly nezákonné

Britská policie v hrabství Thames Valley před soudem v Londýně přiznala, že domovní prohlídky v sídlech Andrewa Mountbatten-Windsora byly nezákonné. Vyšetřovatelé uznali, že soudu Old Bailey poskytli nesprávné podklady, na jejichž základě soudce prohlídky nemovitostí v Sandringhamu a sídla Royal Lodge ve Windsoru povolil. Právní zástupci bývalého prince napadli postup policejního ředitelství i ústředního trestního soudu prostřednictvím soudního přezkumu.