Funksionet e Inteligjencës Artificiale të integruara në Google Search mund të paraqesin rreziqe për përdoruesit e mitur, sipas një raporti të publikuar nga organizata amerikane Common Sense Media.

Studimi evidenton se në disa raste sistemi nuk ka identifikuar siç duhet situata që lidhen me shëndetin mendor, çrregullimet e të ushqyerit apo përmbajtje potencialisht të dëmshme, ndërsa ka ofruar informacione ose udhëzime që mund të keqpërdoren.

Ndryshe nga chatbot-et e pavarura, funksionet e AI-së janë tashmë pjesë e përvojës standarde të kërkimit në Google dhe aktualisht nuk ekziston një mënyrë që prindërit ose shkollat t’i çaktivizojnë ato veçmas.

Ekspertët theksojnë se, duke qenë se miliarda njerëz përdorin Google Search çdo ditë, standardet për sigurinë, saktësinë dhe besueshmërinë duhet të jenë veçanërisht të larta, sidomos kur bëhet fjalë për fëmijët dhe adoleshentët.

Nga ana tjetër, Google kundërshton disa nga përfundimet e raportit, duke deklaruar se testimet janë kryer mbi një grup të kufizuar pyetjesh dhe se mjetet e saj të inteligjencës artificiale përfshijnë mekanizma të shumtë mbrojtjeje dhe sigurie.

Raporti ngre gjithashtu shqetësime për përdorimin e AI-së në procesin e të nxënit, pasi këto mjete mund t’u ofrojnë nxënësve përgjigje të menjëhershme për detyrat e shkollës, ndërsa mësuesit nuk kanë mundësi të kufizojnë përdorimin e tyre.

Ekspertët argumentojnë se zhvillimi i shpejtë i Inteligjencës Artificiale po tejkalon ritmin e rregullimit dhe mbikëqyrjes, duke krijuar nevojën për më shumë transparencë, kontrolle prindërore dhe masa sigurie për mbrojtjen e të miturve në mjediset digjitale.

Ndërsa Inteligjenca Artificiale po bëhet pjesë e përditshmërisë së fëmijëve dhe adoleshentëve, sfida kryesore mbetet gjetja e balancës mes përfitimeve që ofron teknologjia dhe mbrojtjes së përdoruesve më të rinj nga rreziqet e saj.