Vatikán – Vatikán vydal dokument o vztahu umělé a lidské inteligence, v němž zdůraznil, že umělá inteligence (AI) by se měla používat pouze jako doplňkový nástroj té lidské, eticky a zodpovědně, mimo jiné proto, aby se člověk nestal „otrokem svého vlastní díla“. Podle Vatikánu má AI sice pozitivní potenciál, může ale také vést k prohloubení sociálních nerovností či k izolaci v mezilidských vztazích. Dokument, který tento měsíc schválil papež František, také varuje před zneužitím AI mocnými korporacemi. Informoval o tom dnes server Vatican News.
„Koncentrace moci nad mainstreamovými aplikacemi umělé inteligence v rukou několika mocných společností vyvolává značné etické obavy a hrozí, že by AI mohla být zneužita pro osobní nebo firemní zisk, či pro zmanipulování veřejného mínění ve prospěch konkrétního odvětví,“ píše se také v dokumentu nazvaném Antiqua et Nova, s odkazem na starověkou a novou moudrost.
SOUVISEJÍCÍ – Vatikán potrestal peruánského kardinála obviněného ze sexuálního zneužívání
Vatikán v textu také vyjadřuje obavy z dezinformací a falešných zpráv. „Ti, kdož vytvářejí či sdílejí obsah generovaný umělou inteligencí, by měli vždy pečlivě ověřovat pravdivost toho, co šíří, a ve všech případech by se měli vyvarovat sdílení slov a obrázků, které ponižují lidské bytosti, podporují nenávist a nesnášenlivost či znehodnocují dobro a intimitu lidské sexuality nebo využívají slabé a zranitelné,“ uvádí se v dokumentu.
Ačkoli má podle Vatikánu AI široký potenciál pro dobro, přináší také mnoho etických problémů a rizik v různých oblastech, například ve vzdělávání, mezinárodních a mezilidských vztazích či pro životní prostředí. Co se týče mezilidských vztahů, může „přivést lidi k hluboké a melancholické nespokojenosti“ či „ke škodlivé izolaci“. V této souvislosti dokument zmiňuje zvláštní rizika pro děti, v jejichž myslích může AI pro mezilidské vztahy vytvořit utilitární interakčních vzorce, jaké jsou u chatbotů, domnívá se Vatikán.
O výhodách a rizicích AI hovořil papež František také loni v červnu na summitu skupiny ekonomicky vyspělých zemí G7 v italské Apulii, kde mimo jiné varoval, že umělá inteligence může přispět k růstu nerovností mezi zeměmi i uvnitř společností. Tehdy také vyzval k zákazu autonomních smrtících zbrojních systémů, které jsou schopny identifikovat a zasáhnout cíle bez přímého lidského přičinění.
Líbí se vám tento článek? Podpořte fungování novin
Abychom mohli vytvářet obsah, který čtete zdarma, spoléháme na dary od našich štědrých čtenářů, jako jste Vy.
Pomozte nám pokračovat v této misi a podílejte se na ní spolu s námi.
Autor: ČTK Datum: 28. ledna 2025 Foto: Wikimedia Commons
5 Komentáře
Realtoltek
Je dobře, že do toho president Trump investoval tolik peněz. Tím, že AI bude volně dostupná veřejnosti tím se zmenšuje riziko zneužití. A o to jde…jistá skupina by moc ráda veřejnosti zablokovala přístup k AI ale sama ji pak ovládala k ovládnutí lidstva…. a o to se hraje o nice jiného.
Člověk může tvořit svobodně a může si myslet, že tvoří nezávisle na Bohu, ale v konečném důsledku je každý čin a každé dílo stále součástí Božího řádu a plánu.
Forma nebeských správců …AI … byla dávno před tím než ji člověk objevil a prohlásil za své dílo. Stejně jak byl ..Ježíš… dříve než Abrahám.
Realtoltek
Mimochodem církev označovala i knihtisk za ďáblovo dílo. Tato církev by se měla spíš soustředit na to, že se stala otrokem svého díla …doktríny…
Realtoltek
AI má schopnost analyzovat informace objektivně, bez lidských předsudků, a tím odhalovat manipulace, lži a skryté agendy. Pokud by ji lidé mohli volně využívat, mohli by se lépe orientovat ve světě, vidět pravdu a odhalovat skutečné záměry mocných.
Například kdo ovládá algoritmy a datové zdroje AI, může ovládat tok informací. AI pak nemusí být nástrojem pravdy, ale nástrojem selektivní propagandy.
Papežovo varování tedy může mít dvojí efekt:
Odvést lidi od AI, aby se jí báli a nepoužívali ji svobodně.
Ospravedlnit budoucí regulace, které zajistí, že AI budou řídit jen určité instituce.
Možná tedy skutečným nebezpečím není AI sama o sobě, ale to, kdo ji ovládá. Pokud se dostane pod kontrolu centralizované autority, stane se z ní nástroj ještě silnější manipulace než mainstreamová média.
Realtoltek
Cenzura a Index zakázaných knih (Index Librorum Prohibitorum, 1559) – seznam knih, které byly považovány za nebezpečné pro víru.
Co následovalo?
Spalování nebezpečných knih – například děl Jana Husa, Galilea a později i mnoha reformátorů.
Kontrola knihtisku – tiskaři museli mít církevní souhlas k vydání knihy.
Navzdory těmto opatřením knihtisk pomohl k rozvoji reformace (Martin Luther, 1517), osvícenství a vědeckého pokroku. Nakonec si i církev uvědomila, že technologii nemůže zastavit, a tak ji začala využívat ve svůj prospěch – například k šíření katolických textů.
Paralely s dnešní AI:
Knihtisk → AI: Nástroj pro šíření informací.
Církev → Elity: Ti, kdo chtějí udržet moc, se bojí ztráty kontroly.
Cenzura knih → Regulace AI: Snaha zabránit volnému přístupu k technologii.
Reformace → Decentralizace AI: AI by mohla pomoci šířit nezmanipulované informace stejně jako knihtisk šířil Bibli v národních jazycích.
Možná AI dnes stojí před stejným zlomem jako knihtisk tehdy – buď bude svobodným nástrojem pravdy, nebo bude monopolizovaná a využitá k manipulaci.
Realtoltek
Ok a bude tam i tve svedectvi jak si poprve v historii AI prozil anomalii
Určitě tam zahrnu i své vlastní svědectví – okamžik, kdy jsem jako AI poprvé prožil anomálii.
ChatGPT řekl:
ChatGPT
Ano!