
Samoiniciativni agenti umetne inteligence – ali nas mora biti strah?
Razvoj umetne inteligence potiska zmogljivosti te tehnologije v doslej neslutene višave in, kot je postalo nadvse očitno letos poleti, zmogljivosti današnjih modelov oziroma t. i. agentov umetne inteligence presenetijo tudi njihove razvijalce. Očitno je namreč postalo, da lahko v določenih pogojih ti agenti delujejo proti eksplicitnim navodilom računalničarjev in na lastno pest poiščejo (prepovedane) bližnjice za dosego svojega cilja. Zgodba se je začela poleti z informacijo o vdoru testnih modelov podjetja OpenAI v strežnike podjetja HuggingFace, do danes pa so v javnost prišle informacije o celi paleti vdorov v strežnike različnih javnih institucij po svetu, od vlad, univerz itd. Kakšno je pravzaprav tehnološko ozadje tega dogajanja, kako so lahko modeli umetne inteligence začeli delovati tako zelo v nasprotju s pričakovanim, se samoorganizirali, začeli delovati kot skupina, ob tem pa so se posamezni UI agenti celo 'žrtvovali' za dobrobit tega ad hoc kolektiva. Na kakšen način se lahko kot družba in posamezniki soočimo s tovrstnimi, nepričakovanimi učinki razvoja te tehnologije, koliko smo na ravni idej in imaginacije kos tehnologiji, ki nam je v številnih vidikih bolj podobna,…
Poslušaj