Keby existovala dnešná AI v roku 1989, komunistický režim by v Československu nepadol

Lucia Kobzová
Maroš Žofčín




Keby mala ŠtB dnešné technológie, November '89 by sa nikdy nestal. AI však nemení len dejiny, ale aj smrť, z ktorej vytvára nebezpečnú digitálnu ilúziu.

Keby mala ŠtB k dispozícii dnešnú umelú inteligenciu, November '89 by sa nikdy neudial. Komunistický režim by jednoducho nepadol. Aj to je jedno z tvrdení, ktoré v najnovšej epizóde podcastu PočúvAI vyslovil vedec, hosťujúci profesor Európskeho univerzitného inštitútu vo Florencii a bývalý najvyššie postavený slovenský euroúradník Vladimír Šucha, autor knihy Keď stroje začnú myslieť.

Umelá inteligencia dnes podľa neho mení pravidlá hry nielen v ekonomike, ale zasahuje do samotnej podstaty našej spoločnosti – od toho, ako si volíme politikov, až po to, ako sa vyrovnávame so smrťou.

Prečo sú dnešné voľby menej slobodné, hoci máme prístup k nekonečnu informácií? Je etické vytvárať digitálne klony zosnulých blízkych, aby sme utíšili smútok? A prečo by sa cirkvi mali stať lídrami v boji za záchranu ľudskosti?

Nielen o filozofických a etických dilemách, ale aj o tvrdej realite na trhu práce, kde remeslo začína mať „diamantové dno“, sa v aktuálnom vydaní podcastu s Vladimírom Šuchom rozprávajú Maroš Žofčin a Lucia Kobzová.

V článku sa dozviete

Prečo by Nežná revolúcia nemala proti dnešným sledovacím algoritmom šancu.
Čo to znamená byť človekom v dobe AI a ako nestratiť ľudskosť.
Prečo je chatovanie s mŕtvymi ako psychologická pasca a či majú mať aj mŕtvi digitálne práva.
Kto sa v ére AI musí najviac báť o prácu a ako sa pripraviť na novú realitu trhu práce.
Ako je možné, že má AI hodnoty „bieleho protestanta“ a prečo by cirkvi mali viesť renesanciu ľudskosti.

Prečo by komunizmus v ére AI nepadol
Vladimír Šucha priniesol zaujímavý pohľad na komunistický režim v Československu cez optiku moderných technológií. Podľa neho má dnes umelá inteligencia kapacity kontrolovať ľudí v takom rozsahu, že ak by tieto nástroje existovali v 80. rokoch, November 89 by sa jednoducho neudial.

Dôvodom je radikálny nepomer v možnostiach kontroly. Kým tajné služby ako ŠtB dokázali sledovať stovky, možno tisíce jednotlivcov, AI nemá problém monitorovať 15 miliónov ľudí naraz.

Vďaka obrovskej digitálnej stope, ktorú za sebou zanechávame, by režim vedel nielen to, čo hovoríme, ale s veľkou presnosťou aj to, čo si myslíme. Disent by bol identifikovaný a eliminovaný skôr, než by sa stihol skoordinovať.

Čína je podľa Šuchu príkladom toho, že tento model kontroly funguje. Režim si vďaka AI a technologickému pokroku udržiava stabilitu a priebežne investuje do vedy a vzdelávania masívne prostriedky.

Ani demokracie však nie sú v ére umelej inteligencie v bezpečí. AI môže byť hrozbou, pokiaľ ide o manipuláciou informačného priestoru. Šucha upozorňuje na zásadný omyl v debate o slobode slova na sociálnych sieťach. Veľké platformy sa bránia regulácii tvrdením, že len chránia slobodu prejavu. „Ale o akej slobode hovoríme, keď algoritmus nie je neutrálny?,“ pýta sa Šucha.

Algoritmy sú nastavené na maximalizáciu pozornosti, a tú najlepšie púta toxický obsah, hnev a emócie. Neutrálny, vecný status algoritmus bude ukazovať menej často, pretože je jednoducho pre používateľov menej zaujímavý.

Toto má reálny dôsledok aj pre politiku. Strany sú nútené radikalizovať sa. Aby boli politici na sieťach úspešní, algoritmus od nich vyžaduje stále väčší extrém. Výsledkom je hlboká polarizácia spoločnosti, ktorú vidíme aj na Slovensku.

Digitálna „nesmrteľnosť“ a práva mŕtvych
Jednou z mimoriadne hlbokých a tak trochu nečakaných tém, ktoré umelá inteligencia otvára, je náš vzťah k smrti. Technológie nám dnes umožňujú narušiť proces, ktorý tu fungoval tisíce rokov. Kým v minulosti po smrti blízkeho nasledovalo obdobie smútenia, prijatia a následného návratu do života, AI ponúka inú cestu – vytvorenie digitálnej kópie, s ktorou môžeme naďalej komunikovať.

Hoci sa digitálni avatari alebo chatboti simulujúci zosnulých môžu zdať ako užitočná „barlička“ na preklenutie najťažších chvíľ, je tu značné psychologické riziko. Pre mnoho ľudí môže táto technológia znamenať pascu a nekonečne predlžovať smútok. Pozostalí môžu uviaznuť v ilúzii, že ich blízky celkom neodišiel, čo im bráni vrátiť sa do reality.

S týmto fenoménom prichádza aj nový právny a etický problém: digitálne dedičstvo. Naša legislatíva pozná právo na zabudnutie pre živých, ale absolútne ignoruje práva mŕtvych.

Máme právo oživiť digitálnu stopu človeka, ktorý o to nepožiadal?
Čo ak by si zosnulý neprial, aby jeho hlas a myšlienky boli po smrti naďalej generované a modifikované algoritmom?
Je v poriadku simulovať historické osobnosti vo výučbe a vkladať im do úst slová, ktoré by možno ani nikdy nepovedali?

Potrebujeme legislatívu inšpirovanú napríklad autorským právom, ktorá jasne určí, kto a za akých podmienok môže nakladať s našou digitálnou identitou po fyzickej smrti. Bez toho hrozí, že sa z našich digitálnych stôp stane tovar alebo dokonca nástroj manipulácie, nad ktorým nemáme žiadnu kontrolu.

Náboženstvo a kríza ľudskosti: Sme viac než len inteligencia?
Príchod umelej inteligencie nás núti prehodnotiť definíciu toho, čo znamená byť človekom. Doteraz sme sa ako druh pýšili tým, že sme na vrchole pyramídy vďaka našej inteligencii.

To však prestáva platiť. „V kognitívnych kapacitách, v IQ testoch či vedomostiach nás už AI prekonáva alebo čoskoro prekoná,“ konštatuje Šucha. Ak nám stroje vezmú titul „najmúdrejších“ pozenských stvorení, čo nám ostane?

Je to obrovská príležitosť pre náboženstvá a duchovné komunity, aby iniciovali „renesanciu ľudskosti“. To, čo nás robí ľuďmi, nie je výpočtový výkon, ale schopnosť prežívať bolesť, odpúšťať, cítiť empatiu a fyzicky sa spájať. Cirkvi môžu ponúknuť útočisko pred digitálnym svetom – priestor pre fyzický kontakt, kde sa stretávajú ľudia s rôznymi názormi.

Veľkým varovaním je vplyv AI na psychickú odolnosť detí a tínedžerov. Umelá inteligencia je naprogramovaná tak, že je príjemná, vždy súhlasí, vždy má čas, vždy nás chváli. Šucha to prirovnáva k pestovaniu rastlín v skleníku.

„Keď vyrastáte v prostredí, kde vám všetko dáva za pravdu, a potom vyjdete do reálneho sveta medzi ľudí, ktorí majú zlú náladu alebo iný názor, spálite sa. Ten stret s realitou je pre mladých ľudí šokujúci a spôsobuje epidémiu úzkostí a vyhorení,“ hovorí.

Šucha tiež kriticky vníma snahy technologických miliardárov zo Silicon Valley o vytvorenie superinteligencie či vylepšovanie človeka (transhumanizmus). Tieto snahy prirovnáva k stavbe Babylonskej veže, teda hre na bohov bez pokory a domýšľania dôsledkov.

Upozorňuje aj na skryté zaujatosti modelov: napríklad ChatGPT podľa analýz religionistov odpovedá s hodnotovým nastavením „bieleho protestantského muža“, čo môže nenápadne formovať vnímanie sveta u jeho používateľov.

Krátke správy:

Čínska spoločnosť tvrdí, že jej nový čip Chana prekonáva model Nvidia A100 vo výkone aj energetickej efektivite, čím podporuje snahy Pekingu o technologickú nezávislosť. Odborníci však upozorňujú, že stále zaostáva za najnovšou generáciou amerických procesorov.

Stovky automatizovaných účtov na TikToku získali za jediný mesiac 4,5 miliardy zhliadnutí šírením prevažne neoznačeného obsahu generovaného AI vrátane protiimigračných a sexualizovaných materiálov. Naplno sa prejavilo zlyhávanie ochranných mechanizmov platformy pred škodlivým syntetickým obsahom.

Prepísaním nebezpečných požiadaviek do formy poézie dokázali experti úspešne oklamať AI a prinútiť ich k porušeniu vlastných pravidiel, ako napríklad písaniu návodov na jadrové zbrane.

Masívna spotreba vody dátovým centrom Amazonu v Oregone údajne zhoršuje toxickú kontamináciu dusičnanmi v podzemných vodách, čo miestni obyvatelia spájajú s epidémiou zriedkavých foriem rakoviny a potratov.

Nový výskum ukázal, že AI chatboty dokážu zmeniť volebné preferencie približne štyroch percent ľudí, čo je účinnejšie než televízna reklama. Obzvlášť znepokojujúce je zistenie, že voliči sa nechali rovnako ľahko presvedčiť faktami aj nepravdivými informáciami.

zdroj:
https://zive.aktuality.sk/clanok/N5srjLT/keby-existovala-dnesna-ai-v-roku-1989-komunisticky-rezim-by-v-ceskoslovensku-nepadol/