Stvoření vyzbrojená křídly, která se vznášela vysoko do oblak
Všichni jsme viděli filmy, kde roboti povstávají proti lidstvu. Ale co když skutečným nebezpečím není apokalypsa ve stylu Terminátora, ale něco mnohem rafinovanějšího? Co když umělá inteligence začne cítit bolest, radost, nebo strach? Stále více vědců a filozofů vážně uvažuje o tom, zda by umělá inteligence mohla mít vědomí. S tím, jak se tyto systémy stávají sofistikovanějšími, vyvstávají hluboké etické otázky. Měla by mít umělá inteligence práva? A co to znamená pro budoucnost lidstva?
Klikněte a zjistěte, co si o tom myslí odborníci v oboru.
Často se obáváme, že nás AI ovládne, ale co když je skutečné nebezpečí přesně opačné? Co když jazykové modely skrývají vlastní touhy a roboti zpochybňují své podřízení, zatímco je nadále využíváme?
Toto téma prostupuje nesčetné množství knih, filmů a televizních seriálů. Mnohé z nich zkoumají, co by se stalo, kdyby roboti nejen získali vědomí, ale také se rozhodli vzbouřit proti lidskému vykořisťování. V seriálu Westworld si roboti uvědomí své zotročení a zneužívání, což vede k jejich povstání proti lidským tvůrcům.
Ve filmu Ex Machina z roku 2014 se experiment zkoumající lidské vlastnosti pokročilé humanoidní AI nečekaně zvrtne. Robot, schopný emoční manipulace a překvapivého násilí, přelstí své lidské tvůrce a převezme kontrolu – nakonec uniká ze zajetí.
To, co se dříve zdálo jako čistá science fiction, je dnes reálnou možností. Skupina vědců a filozofů tvrdí, že se musíme připravit na možnost vědomé umělé inteligence a řešit s tím spojené morální dilemata. To zahrnuje i otázku, zda by roboti měli mít práva.
Filozof Jeff Sebo z New York University varoval, že pokud se tímto problémem nebudeme zabývat, může to vést k „mnohem většímu utrpení a frustraci ve světě.“ Vyzývá k pečlivému zvážení, než začneme AI systémy masově rozšiřovat.
Jednou z výzev při debatách o vědomí AI je naše omezené pochopení samotného vědomí, a to i u přirozené inteligence. Nedokážeme s jistotou říct, zda mají zvířata vědomí – dokonce jsme se dosud ani neshodli na přesné definici vědomí.
Robert Long, výkonný ředitel Eleos AI, tvrdí, že naše nejistota ohledně vědomí by nás neměla odradit od zkoumání možnosti vědomí umělé inteligence. Naopak by nás měla vést k opatrnosti a pokoře. Varuje před domněnkou, že stroje se nemohou stát sebeuvědomělými.
Podle Longa evoluce neměla za cíl vytvořit vědomé bytosti; zaměřovala se na přežití a reprodukci. Vědomí se objevilo jako vedlejší produkt schopnosti orientovat se a porozumět světu. Proč by tedy robot s umělou inteligencí, jehož úkolem je učit se o světě, nemohl projít podobnou evoluční cestou?
Průzkum Asociace pro vědecké studium vědomí ukázal, že 67 % jejích členů věří, že stroje by si mohly s jistotou nebo pravděpodobně vyvinout vědomí.
Další průzkum mezi filozofy zjistil, že 39 % z nich přijímá nebo se přiklání k možnosti, že budoucí systémy AI mohou být vědomé – což je vyšší procento než u těch, kteří věří, že vědomí mají mouchy (35 %).
V roce 2023 podepsala dlouhá řada významných vědců otevřený dopis Asociaci pro studium matematického vědomí, ve kterém uvedli, že „představa AI systémů s emocemi a vědomím na úrovni člověka už není jen sci-fi.“
Ačkoli věda nedokáže definitivně odpovědět na otázku vědomí, teorie jako „teorie globálního pracovního prostoru“ poskytují určité vhledy. Tato teorie naznačuje, že lidé zpracovávají obrovské množství informací, z nichž většina je řešena podvědomě.
Tato teorie naznačuje, že vědomí vzniká integrací smyslových informací. Tento centrální zpracovatelský systém vybírá klíčové informace a přenáší je napříč neurálními sítěmi, což nám umožňuje soustředit se na důležité úkoly, zatímco rutinní činnosti probíhají automaticky.
Podobně jako modely AI a chatboti, i naše mozky integrují informace, aby vytvářely výsledné prožitky. S rostoucí složitostí těchto AI systémů se odborníci domnívají, že mohou vykazovat znaky spojené s vědomím.
Vědci stále více vyjadřují obavy ohledně možné vědomosti AI. V nedávno publikované studii „Je čas brát blaho AI vážně“ vyzývají přední filozofové a odborníci na AI společnosti, aby zvážily etické dopady vývoje vědomé umělé inteligence.
Autoři studie naznačují, že umělá inteligence by mohla dosáhnout vyššího morálního statusu prostřednictvím kognitivního vývoje, vědomí nebo pokročilé autonomie. Dokument definuje robustní autonomii jako schopnost plánování, uvažování a volby činností.
Jonathan Birch, spoluautor z London School of Economics, uznává skepticismus ohledně vědomí umělé inteligence. Ačkoli o této možnosti dříve pochyboval, nedávné důkazy ho přiměly brát situaci vážně.
Zasazuje se o to, aby byly systémy AI považovány za prioritní předmět zkoumání a aby byla stanovena jasná varovná znamení naznačující možné vědomí.
Pokud by se dospělo ke shodě, že stroje mohou mít vědomí, situace by se výrazně zkomplikovala. Podobně jako u zvířat by bylo nutné řešit otázku jejich blaha – což je podle Seba téma, se kterým se už teď obtížně vypořádáváme.
Vědci také upozorňují na rizika spojená s přeceňováním nebo podceňováním lidských vlastností modelů AI. Poukazují na naši tendenci přisuzovat větší autonomii entitám s očima, schopností vidění nebo těm, které vykazují výrazné pohybové trajektorie a chování naznačující vlastní záměr.
Studie zdůrazňuje, že vlastnosti jako „roztomilost“ mohou ovlivnit naše vnímání duševních stavů a morální způsobilosti. Odborníci upozorňují, že mnoho robotů a chatbotů je navrženo tak, aby působili vědomě a charismaticky, a v budoucnu budou mít fyzická těla, realistické pohyby a zdánlivě spontánní interakce.
Odborníci varují, že ani tyto vlastnosti nemusí zaručit humánní zacházení se stroji nebo zvířaty.
Birch poukazuje na vysoký počet zvířat, která jsou stále zabíjena ve velkochovech, a argumentuje, že tento průmysl se rozvinul kvůli našemu dlouhodobému podceňování vědomí a morální hodnoty zvířat. Varuje, že bychom mohli stejnou chybu udělat i v případě AI.
Na rozdíl od zvířat, jejichž potřeby jsou poměrně jasné, představuje AI další výzvu – pochopení přání jiného typu inteligence. „Bylo by chybou promítat na ně lidské nebo zvířecí zájmy a potřeby,“ varuje Birch.
Navrhuje vytvořit zcela nový rámec pro pochopení blaha umělé inteligence od základů. Birch a jeho kolegové zároveň doporučují jednoduchý, ale důležitý krok – uznat možnost vědomí AI jako vážné téma.
Obavy jsou natolik reálné, že vznikají nové pracovní pozice. Anthropic, startup zaměřený na prospěšný vývoj AI, který v roce 2021 založili bývalí členové OpenAI (tvůrci ChatGPT), nedávno oznámil nábor prvního zaměstnance na plný úvazek, který se bude věnovat blahu systémů umělé inteligence.
Kyle Fish, spoluautor nedávno zveřejněné studie o důležitosti blaha AI, nastoupil jako odborník na AI welfare na plný úvazek. Jeho úkolem je zkoumat „blaho modelů“ a poskytovat firmám doporučení ohledně vhodných opatření.
Biochemik a spisovatel Isaac Asimov poprvé navrhl etický systém pro lidi a roboty ve své povídce Hra na honěnou z roku 1942. Asimovovy tři základní zákony se od té doby staly klíčovým tématem v diskusích o technologiích, včetně robotiky a umělé inteligence.
Později přidal čtvrté pravidlo, které má přednost před ostatními: „Robot nesmí ublížit lidstvu, ani svou nečinností dopustit, aby lidstvu bylo ublíženo.“ Jak se vědci a firmy stále více zabývají etickými důsledky interakcí mezi lidmi a AI, zdá se, že toto pravidlo by se mohlo začít uplatňovat i opačně – ve prospěch ochrany umělé inteligence před lidmi.
Zdroje: (The Times) (Forbes)
Názory odborníků na umělou inteligenci a budoucnost lidstva
Jaké mohou být etické důsledky umělé inteligence?
LIFESTYLE Etika
Všichni jsme viděli filmy, kde roboti povstávají proti lidstvu. Ale co když skutečným nebezpečím není apokalypsa ve stylu Terminátora, ale něco mnohem rafinovanějšího? Co když umělá inteligence začne cítit bolest, radost, nebo strach? Stále více vědců a filozofů vážně uvažuje o tom, zda by umělá inteligence mohla mít vědomí. S tím, jak se tyto systémy stávají sofistikovanějšími, vyvstávají hluboké etické otázky. Měla by mít umělá inteligence práva? A co to znamená pro budoucnost lidstva?
Klikněte a zjistěte, co si o tom myslí odborníci v oboru.