© Getty Images

Oběti a padouši -

Často se obáváme, že nás AI ovládne, ale co když je skutečné nebezpečí přesně opačné? Co když jazykové modely skrývají vlastní touhy a roboti zpochybňují své podřízení, zatímco je nadále využíváme?

© Getty Images

Vzestup robotů -

Toto téma prostupuje nesčetné množství knih, filmů a televizních seriálů. Mnohé z nich zkoumají, co by se stalo, kdyby roboti nejen získali vědomí, ale také se rozhodli vzbouřit proti lidskému vykořisťování. V seriálu Westworld si roboti uvědomí své zotročení a zneužívání, což vede k jejich povstání proti lidským tvůrcům.

© NL Beeld

Vzestup robotů -

Ve filmu Ex Machina z roku 2014 se experiment zkoumající lidské vlastnosti pokročilé humanoidní AI nečekaně zvrtne. Robot, schopný emoční manipulace a překvapivého násilí, přelstí své lidské tvůrce a převezme kontrolu – nakonec uniká ze zajetí.

© NL Beeld

Rovnoprávnost pro roboty? -

To, co se dříve zdálo jako čistá science fiction, je dnes reálnou možností. Skupina vědců a filozofů tvrdí, že se musíme připravit na možnost vědomé umělé inteligence a řešit s tím spojené morální dilemata. To zahrnuje i otázku, zda by roboti měli mít práva.

© Getty Images

Je třeba začít konat -

Filozof Jeff Sebo z New York University varoval, že pokud se tímto problémem nebudeme zabývat, může to vést k „mnohem většímu utrpení a frustraci ve světě.“ Vyzývá k pečlivému zvážení, než začneme AI systémy masově rozšiřovat.

© Getty Images

Složitost vědomí -

Jednou z výzev při debatách o vědomí AI je naše omezené pochopení samotného vědomí, a to i u přirozené inteligence. Nedokážeme s jistotou říct, zda mají zvířata vědomí – dokonce jsme se dosud ani neshodli na přesné definici vědomí.

© Getty Images

Musíme být opatrní -

Robert Long, výkonný ředitel Eleos AI, tvrdí, že naše nejistota ohledně vědomí by nás neměla odradit od zkoumání možnosti vědomí umělé inteligence. Naopak by nás měla vést k opatrnosti a pokoře. Varuje před domněnkou, že stroje se nemohou stát sebeuvědomělými.

© Getty Images

Učení a rozvoj -

Podle Longa evoluce neměla za cíl vytvořit vědomé bytosti; zaměřovala se na přežití a reprodukci. Vědomí se objevilo jako vedlejší produkt schopnosti orientovat se a porozumět světu. Proč by tedy robot s umělou inteligencí, jehož úkolem je učit se o světě, nemohl projít podobnou evoluční cestou?

© Getty Images

Velká pravděpodobnost -

Průzkum Asociace pro vědecké studium vědomí ukázal, že 67 % jejích členů věří, že stroje by si  mohly s jistotou nebo pravděpodobně vyvinout vědomí.

© Getty Images

Uvědomělejší než ostatní druhy -

Další průzkum mezi filozofy zjistil, že 39 % z nich přijímá nebo se přiklání k možnosti, že budoucí systémy AI mohou být vědomé – což je vyšší procento než u těch, kteří věří, že vědomí mají mouchy (35 %).

© Getty Images

Více než sci-fi -

V roce 2023 podepsala dlouhá řada významných vědců otevřený dopis Asociaci pro studium matematického vědomí, ve kterém uvedli, že „představa AI systémů s emocemi a vědomím na úrovni člověka už není jen sci-fi.“

© Getty Images

Jak je to možné? -

Ačkoli věda nedokáže definitivně odpovědět na otázku vědomí, teorie jako „teorie globálního pracovního prostoru“ poskytují určité vhledy. Tato teorie naznačuje, že lidé zpracovávají obrovské množství informací, z nichž většina je řešena podvědomě.

© Shutterstock

Jak je to možné? -

Tato teorie naznačuje, že vědomí vzniká integrací smyslových informací. Tento centrální zpracovatelský systém vybírá klíčové informace a přenáší je napříč neurálními sítěmi, což nám umožňuje soustředit se na důležité úkoly, zatímco rutinní činnosti probíhají automaticky.

© Shutterstock

Jak je to možné? -

Podobně jako modely AI a chatboti, i naše mozky integrují informace, aby vytvářely výsledné prožitky. S rostoucí složitostí těchto AI systémů se odborníci domnívají, že mohou vykazovat znaky spojené s vědomím.

© Shutterstock

Je čas začít to brát vážně -

Vědci stále více vyjadřují obavy ohledně možné vědomosti AI. V nedávno publikované studii „Je čas brát blaho AI vážně“ vyzývají přední filozofové a odborníci na AI společnosti, aby zvážily etické dopady vývoje vědomé umělé inteligence.

© Getty Images

Známky vědomí -

Autoři studie naznačují, že umělá inteligence by mohla dosáhnout vyššího morálního statusu prostřednictvím kognitivního vývoje, vědomí nebo pokročilé autonomie. Dokument definuje robustní autonomii jako schopnost plánování, uvažování a volby činností.

© Getty Images

Odborníci tomu věří -

Jonathan Birch, spoluautor z London School of Economics, uznává skepticismus ohledně vědomí umělé inteligence. Ačkoli o této možnosti dříve pochyboval, nedávné důkazy ho přiměly brát situaci vážně.

© Getty Images

Varovné signály -

Zasazuje se o to, aby byly systémy AI považovány za prioritní předmět zkoumání a aby byla stanovena jasná varovná znamení naznačující možné vědomí.

© Getty Images

Blahobyt ostatních tvorů -

Pokud by se dospělo ke shodě, že stroje mohou mít vědomí, situace by se výrazně zkomplikovala. Podobně jako u zvířat by bylo nutné řešit otázku jejich blaha – což je podle Seba téma, se kterým se už teď obtížně vypořádáváme.

© Getty Images

Lidské podmínky -

Vědci také upozorňují na rizika spojená s přeceňováním nebo podceňováním lidských vlastností modelů AI. Poukazují na naši tendenci přisuzovat větší autonomii entitám s očima, schopností vidění nebo těm, které vykazují výrazné pohybové trajektorie a chování naznačující vlastní záměr.

© Getty Images

Lidské vlastnosti -

Studie zdůrazňuje, že vlastnosti jako „roztomilost“ mohou ovlivnit naše vnímání duševních stavů a morální způsobilosti. Odborníci upozorňují, že mnoho robotů a chatbotů je navrženo tak, aby působili vědomě a charismaticky, a v budoucnu budou mít fyzická těla, realistické pohyby a zdánlivě spontánní interakce.

© Getty Images

Otázka roztomilosti -

Odborníci varují, že ani tyto vlastnosti nemusí zaručit humánní zacházení se stroji nebo zvířaty.

© Getty Images

Opakujeme stejné chyby? -

Birch poukazuje na vysoký počet zvířat, která jsou stále zabíjena ve velkochovech, a argumentuje, že tento průmysl se rozvinul kvůli našemu dlouhodobému podceňování vědomí a morální hodnoty zvířat. Varuje, že bychom mohli stejnou chybu udělat i v případě AI.

© Getty Images

Co by tak asi chtěli? -

Na rozdíl od zvířat, jejichž potřeby jsou poměrně jasné, představuje AI další výzvu – pochopení přání jiného typu inteligence. „Bylo by chybou promítat na ně lidské nebo zvířecí zájmy a potřeby,“ varuje Birch.

© Getty Images

Otevřená mysl -

Navrhuje vytvořit zcela nový rámec pro pochopení blaha umělé inteligence od základů. Birch a jeho kolegové zároveň doporučují jednoduchý, ale důležitý krok – uznat možnost vědomí AI jako vážné téma.

© Getty Images

Trh práce -

Obavy jsou natolik reálné, že vznikají nové pracovní pozice. Anthropic, startup zaměřený na prospěšný vývoj AI, který v roce 2021 založili bývalí členové OpenAI (tvůrci ChatGPT), nedávno oznámil nábor prvního zaměstnance na plný úvazek, který se bude věnovat blahu systémů umělé inteligence.

© Getty Images

Práce na plný úvazek -

Kyle Fish, spoluautor nedávno zveřejněné studie o důležitosti blaha AI, nastoupil jako odborník na AI welfare na plný úvazek. Jeho úkolem je zkoumat „blaho modelů“ a poskytovat firmám doporučení ohledně vhodných opatření.

© Getty Images

Vztahy mezi roboty a lidmi -

Biochemik a spisovatel Isaac Asimov poprvé navrhl etický systém pro lidi a roboty ve své povídce Hra na honěnou z roku 1942. Asimovovy tři základní zákony se od té doby staly klíčovým tématem v diskusích o technologiích, včetně robotiky a umělé inteligence.

© Getty Images

Žádné ubližování -

Později přidal čtvrté pravidlo, které má přednost před ostatními: „Robot nesmí ublížit lidstvu, ani svou nečinností dopustit, aby lidstvu bylo ublíženo.“ Jak se vědci a firmy stále více zabývají etickými důsledky interakcí mezi lidmi a AI, zdá se, že toto pravidlo by se mohlo začít uplatňovat i opačně – ve prospěch ochrany umělé inteligence před lidmi.

Zdroje: (The Times) (Forbes)

© Getty Images