Omenirea nu va putea controla o super-inteligență artificială
Potrivit unui studiu realizat de cercetătorii de la Institutul Max Planck pentru Dezvoltare Umană și publicat în revista „Journal of Artificial Intelligence Research”, umanitatea va fi total incapabilă să controleze o superinteligență artificială de nivel înalt, relatează ABC.
Problema este că pentru a controla această inteligență ipotetică ar fi necesar să existe o simulare. Dar va fi imposibil să creăm acea simulare.
Pentru autori, reguli precum „nu face rău oamenilor” ar fi complet imposibil de stabilit dacă nu înțelegem tipul de scenarii cu care va veni inteligența artificială (AI).
Așadar, odată ce un sistem informatic începe să funcționeze la un nivel superior și dincolo de accesul programatorilor noștri, nu vom mai putea stabili limite.
O parte din raționamentul echipei se bazează pe „problema opririi” prezentată de Alan Turing în 1936. Problema se concentrează pe tema dacă un program de calculator va ajunge sau nu la o concluzie și va răspunde (și, prin urmare, se va opri), sau se va repeta pentru totdeauna.
După cum a arătat Turing din punct de vedere matematic, și deși pentru unele programe putem ști, este imposibil să găsim o modalitate de a ști asta pentru fiecare program potențial care ar putea fi scris vreodată.
Prin urmare, orice program scris, de exemplu, pentru a preveni AI să dăuneze oamenilor și să distrugă lumea, poate ajunge sau nu la o concluzie (și să se oprească): este imposibil din punct de vedere matematic să fim absolut siguri, ceea ce înseamnă că nu putem controla.
Singura alternativă pentru a-i spune AI să nu distrugă lumea, lucru pe care niciun algoritm nu poate fi absolut sigur că îl poate face, ar fi limitarea capacităților superinteligenței. De exemplu, deconectarea acesteia de la unele părți ale Internetului sau de la anumite rețele critice.
Dar studiul respinge și această idee, deoarece ar limita sfera inteligenței artificiale. Dacă nu o vom folosi pentru a rezolva probleme care nu sunt la îndemâna oamenilor, de ce să o creăm?
Pe de altă parte, dacă mergem mai departe cu Inteligența Artificială, s-ar putea să nu știm nici când este dincolo de controlul nostru. Ceea ce înseamnă că trebuie să începem să luăm în considerare cu seriozitate direcția în care ne îndreptăm.
„O mașină superinteligentă care controlează lumea sună ca o ficțiune științifico-fantastică”, spune Manuel Cebrian, un alt autor al studiului.
Dar există deja mașini care îndeplinesc anumite sarcini importante în mod independent, fără ca programatorii să înțeleagă pe deplin cum le-au învățat. Întrebarea, așadar, este aceasta: ar putea acest lucru să devină incontrolabil sau chiar periculos pentru umanitate? Autorii par să fie convinși că așa este.
