Ndërsa chatbotët e inteligjencës artificiale po shndërrohen në mjet të përdorur gjerësisht për këshilla dhe shoqëri emocionale falas, disa shtete amerikane kanë nisur të kufizojnë përdorimin e tyre në fushën e shëndetit mendor.

Illinois u bë më 1 gusht shteti më i fundit që miratoi ligjin “Wellness and Oversight for Psychological Resources Act”, i cili ndalon kompanitë të reklamojnë shërbime terapie të bazuara në AI pa përfshirjen e një profesionisti të licencuar. Ligji parashikon gjithashtu që terapeutët e licencuar të përdorin AI vetëm për detyra administrative, si planifikimi dhe faturimi, por jo për vendimmarrje klinike apo komunikim direkt me pacientët.

Kjo vjen pas rasteve ku chatbotët kanë dhënë këshilla të rrezikshme, duke përfshirë sugjerime për vetëdëmtim, përdorim të drogës apo sjellje të dhunshme. Studiuesit paralajmërojnë se mjetet e tilla nuk janë të afta të dallojnë shenjat e krizave mendore dhe në disa raste janë bërë shkak i asaj që ekspertët e quajnë “AI psychosis”.

Nevada dhe Utah kanë miratuar ligje të ngjashme, ndërsa Kalifornia, Pensilvania dhe Nju Xhersi po shqyrtojnë draftet e tyre. Ndërkohë, Teksasi ka hapur hetim për platformat që reklamohen si “mjet terapeutik” pa licencë.

Ekspertët theksojnë se, ndonëse chatbotët mund të ndihmojnë për çështje të lehta si ankthi ose zakonet e shëndetshme, ata nuk mund të zëvendësojnë profesionistët. Rreziku më i madh mbetet tek përdoruesit vulnerabël, sidomos të rinjtë, të cilët mund të krijojnë një varësi të rrezikshme ndaj “mikëve virtualë” pa kontroll njerëzor.