Një eksperiment i fundit tregon se chatbot-et si ChatGPT dhe AI-ja e Google mund të manipulojnë informacionin shumë lehtë, duke shpërndarë të dhëna të pasakta. Gazetari i teknologjisë Thomas Germain krijoi një artikull tërësisht të rremë mbi talentin e tij në ngrënien e hot-dog-eve, dhe brenda pak orësh AI-të e përdorën këtë si “informacion faktik”.

Ekspertët paralajmërojnë se të njëjtat metoda mund të përdoren për gjëra shumë më serioze: këshilla mjekësore, financiare ose vendime kritike për jetën e përditshme. Problemi qëndron te mënyra sesi AI-të integrojnë informacionin nga interneti dhe mungesa e transparencës për burimet e përdorura.

Specialistët rekomandojnë që përdoruesit të jenë skeptikë ndaj informacionit që AI jep, të kontrollojnë burimet dhe të mos marrin gjithçka si të vërtetë të pakontestueshme. Ndërkohë, kompanitë si Google dhe OpenAI po punojnë për të përmirësuar saktësinë dhe transparencën, por sfida mbetet e madhe.