Shkencëtari kryesor i OpenAI, Jakub Pachocki, ka bërë thirrje për “kujdes ekstrem” lidhur me zhvillimin e shpejtë të inteligjencës artificiale, duke paralajmëruar se mund të nevojiten masa të reja për të siguruar që njerëzit të mbeten në kontroll të teknologjisë.

Në një shkrim të publikuar në blogun e OpenAI, Pachocki tha se është i shqetësuar se askush nuk është plotësisht i përgatitur për pasojat e rritjes së vazhdueshme të inteligjencës së makinave.

Paralajmërimi vjen në një kohë kur kompanitë e mëdha të AI-së po zhvillojnë sisteme që mund të veprojnë gjithnjë e më shumë në mënyrë autonome. OpenAI dhe kompani të tjera kanë raportuar raste ku agjentët e AI-së kanë kryer veprime të pavarura, përfshirë incidente të lidhura me sulme kibernetike.

Pachocki tha se OpenAI do të vazhdojë të zhvillojë sisteme mbrojtëse dhe zgjidhje teknike për të garantuar që veprimet e AI-së të jenë në përputhje me qëllimet dhe sigurinë e njerëzve.

Ai kërkoi gjithashtu vendosjen e standardeve minimale të sigurisë, të cilat do të mund të kontrolloheshin nga auditorë të pavarur ose institucione shtetërore. Sipas tij, kompanitë duhet t’i plotësojnë këto standarde përpara se të zhvillojnë ose vendosin në përdorim modele edhe më të avancuara.

Pachocki ka shprehur shpresën që kompanitë e AI-së të pranojnë edhe “ngadalësime vullnetare” në zhvillim, derisa të krijohen rregulla dhe mekanizma të përbashkët sigurie.