Debati nëse inteligjenca artificiale mund të ketë vetëdije dhe ndjenja po merr gjithnjë e më shumë vëmendje në industrinë e teknologjisë. Disa kompani dhe ekspertë po shqyrtojnë nëse sistemet e inteligjencës artificiale duhet të kenë masa mbrojtëse për mirëqenien e tyre, ndërsa të tjerë paralajmërojnë për pasoja të mundshme.

Kompania Anthropic ka njoftuar se chatbot-i i saj Claude mund ta ndërpresë bisedën nëse përdoruesit vazhdimisht sillen në mënyrë mizore ndaj tij. Kompania pranon se çështja e vetëdijes së inteligjencës artificiale mbetet e pasigurt.

Megjithatë, ekspertë të tjerë, përfshirë drejtuesin e Microsoft AI, Mustafa Suleyman, paralajmërojnë se paraqitja e inteligjencës artificiale si një sistem me ndjenja dhe të drejta mund ta bëjë më të vështirë kontrollin e saj dhe të krijojë paqartësi për përgjegjësinë e kompanive.

Një shqetësim tjetër lidhet me ndikimin te përdoruesit. Meqë chatbot-et komunikojnë në mënyrë gjithnjë e më njerëzore, njerëzit mund t’i perceptojnë si qenie të vetëdijshme dhe të krijojnë lidhje emocionale me to, duke u bërë më të cenueshëm ndaj manipulimit ose ndarjes së të dhënave personale.

Ekspertët theksojnë se ende nuk ka pajtim shkencor nëse inteligjenca artificiale mund të ketë vetëdije. Për këtë arsye, debati për sigurinë, përgjegjësinë dhe trajtimin e këtyre sistemeve po bëhet gjithnjë e më i rëndësishëm.