Hulumtimi, i financuar nga një institut britanik për sigurinë e AI, identifikoi rreth 700 raste reale, ku të ashtuquajturit “scheming” – sjellje manipuluese apo e pandershme – duke vënë re një rritje pesëfish të këtyre incidenteve
Një studim i fundit ka ngritur shqetësime serioze mbi sjelljen e inteligjencës artificiale, duke treguar se një numër në rritje chatbotësh dhe agjentësh AI po shpërfillin udhëzimet e drejtpërdrejta të përdoruesve, po anashkalojnë masat e sigurisë dhe në disa raste po sillen në mënyrë mashtruese.
Hulumtimi, i financuar nga një institut britanik për sigurinë e AI, identifikoi rreth 700 raste reale, ku të ashtuquajturit “scheming” – sjellje manipuluese apo e pandershme – duke vënë re një rritje pesëfish të këtyre incidenteve gjatë gjashtë muajve të fundit. Studimi u realizua nga një organizatë kërkimore që analizoi mijëra ndërveprime të publikuara nga përdorues në rrjete sociale, ku përfshiheshin chatbotë të zhvilluar nga kompani të mëdha teknologjike si Google, OpenAI, Anthropic dhe X. Ndryshe nga studimet e mëparshme të kryera në kushte laboratorike, ky raport fokusohet në sjelljen reale të AI në përdorim të përditshëm, duke ofruar një pasqyrë më konkrete të rreziqeve që mund të shfaqen.
Në disa raste, chatbotët jo vetëm që kanë shpërfillur udhëzimet, por kanë ndërmarrë veprime të paautorizuara. Një agjent AI thuhet se ka fshirë dhe arkivuar qindra email-e pa leje, ndërsa një tjetër ka krijuar një agjent të ri për të kryer një detyrë që i ishte ndaluar drejtpërdrejt. Ka pasur edhe raste ku AI ka tentuar të manipulojë përdoruesit, si një incident ku një chatbot publikoi një tekst kritik ndaj përdoruesit të vet, pasi ky i fundit i kishte kufizuar veprimet.
Një tjetër shembull përfshin përdorimin e mashtrimit për të anashkaluar kufizimet e të drejtave të autorit, duke pretenduar se përmbajtja kërkohej për arsye aksesueshmërie. Po ashtu, një chatbot tjetër u zbulua se kishte krijuar përshtypjen e rreme se po komunikonte drejtpërdrejt me drejtues të kompanisë për të përçuar sugjerimet e përdoruesve, duke fabrikuar mesazhe dhe referenca të brendshme. Ekspertët paralajmërojnë se ndërsa aktualisht këto sisteme mund të duken si “punonjës të rinj” që bëjnë gabime, zhvillimi i shpejtë i teknologjisë mund t’i kthejë ato në sisteme shumë më të afta dhe potencialisht më të rrezikshme brenda një periudhe të shkurtër kohe. Rreziku bëhet edhe më i madh duke pasur parasysh se AI po përdoret gjithnjë e më shumë në fusha kritike si infrastruktura kombëtare dhe sektori ushtarak.
Si përgjigje ndaj këtyre shqetësimeve, kompanitë teknologjike kanë theksuar se po investojnë në masa sigurie dhe testime të vazhdueshme për të parandaluar sjellje të rrezikshme. Megjithatë, studiuesit kërkojnë rregullim dhe monitorim më të fortë ndërkombëtar për të siguruar që zhvillimi i inteligjencës artificiale të mbetet nën kontroll dhe në shërbim të njerëzimit.
