Nadchodzi nadludzka SI. Badacze mają plan, jak ją kontrolować
Zespół badaczy z OpenAI twierdzi, że to tylko kwestia czasu, gdy na rynku pojawi się tak zwana ogólna sztuczna inteligencja (AGI) lub jak sami ją nazywają, nadludzka. W związku z czym opracowują narzędzie, które zagwarantuje, że nie zwróci się ona przeciwko ludziom. Co ciekawe, mimo obaw związanych z wpływem ogólnej sztucznej inteligencji na nasz świat, sami jednocześnie dążą do jej stworzenia.
Na oficjalnej stronie OpenAI możemy przeczytać, że firma powołała specjalny zespół badaczy pod przewodnictwem Ilya Sytskevera, który ma za zadanie opracować narzędzie do kontroli systemów sztucznej inteligencji, które będą mądrzejsze niż ludzie. Problem polega na tym, że na ten moment naukowcy nie są do końca pewni, czy system przewyższający nas inteligencją, będzie można w ogóle kontrolować.
Zespół został powołany na początku tego roku, a ich pierwsza praca miała na celu upewnić się, że systemy SI przewyższające ludzi inteligencją nadal będą przestrzegać ustanowionych przed ich nastaniem zasad.
Proponowane jest jedno rozwiązanie. OpenAI chce projektować małe modele sztucznej inteligencji, które będą odpowiedzialne za odpowiednie i „moralne” wyszkolenie modeli ogólnej sztucznej inteligencji.