Pajisjet teknologjike mbi të cilat funksionojnë modelet e inteligjencës artificiale mund të sulmohen nga hakerët, duke bërë që chatbotët të japin përgjigje të pasakta dhe potencialisht të rrezikshme. Kështu thuhet në një hulumtim të ri të publikuar nga kompania e sigurisë kibernetike Eclypsium, të cilin e ka siguruar ekskluzivisht CNN.

Studiuesit kanë arritur të manipulojnë përgjigjet e inteligjencës artificiale për çështje të ndjeshme, përfshirë sigurinë kombëtare dhe shëndetin.

Në një nga testet, ata ndryshuan mënyrën se si modeli përpunonte informacionin, duke rritur ndjeshëm mundësinë që ai të parashikonte një pushtim kinez të Tajvanit. Në një rast tjetër, një chatbot i manipuluar i këshilloi një personi me dhimbje gjoksi të qëndronte në shtëpi, në vend që të kërkonte ndihmë në spital.

Sulmi u demonstrua në një platformë kompjuterike të prodhuar nga Nvidia, por studiuesit thonë se metoda mund të zbatohet edhe në pajisje të tjera.

Sipas Eclypsium, sulmuesit me njohuri të caktuara teknike mund të ndërhyjnë në memorien e pajisjeve dhe të ndryshojnë mënyrën se si funksionon modeli i inteligjencës artificiale. Në kushte të caktuara, ky proces mund të zgjasë më pak se një minutë, pa e vërejtur përdoruesi.

Nga Nvidia kanë deklaruar për CNN se skenarët e paraqitur janë të njohur për industrinë dhe se mbrojtja përmes kontrolleve të sigurisë në memorien e pajisjeve mund ta parandalojë këtë lloj sulmi.

Dy ekspertë të pavarur të sigurisë së pajisjeve, të konsultuar nga CNN, i kanë cilësuar gjetjet si të besueshme dhe të rëndësishme.

Hulumtimi rikthen vëmendjen te siguria e inteligjencës artificiale, duke treguar se rreziku nuk lidhet vetëm me mënyrën se si janë krijuar modelet, por edhe me pajisjet dhe infrastrukturën mbi të cilat ato funksionojnë.