V 2021 Európska komisia navrhla nariadenie upravujúce používanie UI (the AI Act). Okrem iných špecifikácií navrhovaný zákon definuje zoznam „vysokorizikových systémov umelej inteligencie“, ako je napríklad používanie UI na účely náboru.
UI ovplyvňuje každého – od rozhodovania o tom, aký obsah ľudia uvidia na svojich sociálnych médiách, až po určovanie toho, kto dostane štátne výhody.
Každú sekundu vytvoria korporácie milióny predpovedí ľudského správania na základe zozbieraných údajov. V scenári internetu tiel a vecí všetky zariadenia zhromažďujú naše údaje 24 hodín denne, 7 dní v týždni. Takto sú získavané Big Data, ktoré už nie je v ľudských silách spracovávať, to spracúvajú počítačové systémy, napríkad umelá inteligencia.
Systém sociálnych kreditov
V niektorých oblastiach Číny funguje systém sociálnych kreditov. Je prepojený s trvalým záznamom každého občana a jeho cieľom je podporovať dobré správanie občanov. ‚Dobrí‘ občania, napr. tí, ktorí dávajú na charitu alebo platia účty načas, dostanú kredit, ktorý možno vymeniť za veci, ako sú lístky na lietadlo alebo vlak prvej triedy. Medzitým ‚zlí‘ občania, napr. tí, ktorí porušujú dopravné predpisy alebo nesplácajú dlhy, kupujú si alkohol, cigarety, by mohli mať pomalšie internetové pripojenie alebo obmedzený prístup k súkromnému vzdelávaniu.
Nielen v Číne, ale aj v Európe: Bologna (Smart Citizen Wallet), Bavaria (EcoToken)
Diskriminácia
Je dokázané, že umelá inteligencia reprodukuje a prehlbuje diskrimináciu.
Predstavte si, že ju natrénujete na malej množine vstupných údajov. Tú vstupnú množinu však pripraví človek, ktorý má svoje predsudky, svoje názory, svoje politické smerovanie. Takže umelá inteligencia potom na veľkej množine znásobí tieto predsudky, názory, politické smerovanie.
Rôzne štúdie ukázali, že UI skutočne automaticky reprodukuje predchádzajúcu diskrimináciu v procesoch strojového učenia. Stroj sa „učí“ podľa rozhodnutí, ktoré už urobil v minulosti tým, že ich systematizuje. UI potom môže tieto predsudky a názory znásobiť a presadiť politické extrémne pozície.
Toto nie je sci-fi, UI už dokázala, že reprodukuje a zhoršuje diskrimináciu.
Príklady toho, ako by UI mohla posilniť sociálne, rasové a ekonomické nerovnosti:
- Facebook umožňuje, aby sa reklamy na bývanie nezobrazovali určitým kategóriám používateľov, ako sú matky stredoškolákov, ľudia, ktorí sa zaujímajú o rampy pre invalidné vozíky, Židia.
- Softvérový nástroj pre políciu dokáže predpovedať, kto sa bude správať mimo pravidiel, čo vedie k nespravodlivému zatýkaniu a obťažovaniu menšín.
- Existuje inteligentný náborový nástroj, ktorý je zaujatý proti ženám.
Spotreba energie
ChatGPT spotrebuje 25-krát viac energie ako Google . Nielenže má UI už teraz solídny vplyv na klímu, ale komplikuje aj boj proti klimatickým zmenám. Všetok tento dodatočný dopyt po elektrickej energii ešte viac sťažuje naprklad aj elektrifikáciu dopravy.
Rok a pol po spustení má ChatGPT 180 miliónov používateľov. AI chatbot sa používa na najrôznejšie veci, od vytvorenia cestovného itinerára až po písanie papiera alebo len položenie hlúpej otázky.
ChatGPT však pri tomto procese spotrebuje veľa energie, až 25-krát viac ako vyhľadávanie Google. Okrem toho sa veľa vody spotrebuje aj na chladenie serverov, na ktorých je spustený všetok tento softvér. Na jeden rozhovor s 20 až 50 otázkami sa vyparí pol litra vody.