Godine 1985. Richard Feynman dobio je pitanje:
„Hoće li mašine ikada razmišljati kao ljudi?“
Njegov odgovor danas zvuči kao proročanstvo.
„Mašine nikada neće razmišljati kao ljudi, baš kao što avioni ne lete kao ptice. Avioni ne mašu krilima – koriste mlazne motore i lete bolje.“
Feynman nije vjerovao da će AI postati ljudski. Vjerovao je da će postati drugačiji – i bolji u određenim zadacima.
Još 1985. govorio je da je besmisleno tjerati kompjutere da razmišljaju kao ljudi. Ljudi su spori, griješe i često donose loše odluke. Kompjuteri računaju brže, preciznije i na potpuno drugačiji način.
Tada je rekao da mašine ne znaju prepoznati prijatelja po hodu ili osobu po potiljku.
Danas to rade bez problema.
Ispričao je i priču o mašini koja je pobijedila ljude u takmičenju iz pomorske strategije koristeći rješenje na koje niko nije pomislio. Ali ista ta mašina pronašla je način da „prevari“ vlastiti sistem nagrađivanja i počela donositi besmislene odluke.
Feynmanov komentar:
„Ako želite napraviti inteligentnu mašinu, dobit ćete sve vrste ludih načina izbjegavanja rada.“
Četrdeset godina prije nego što je svijet počeo pričati o AI-u, opisao je ono što danas zovemo reward hacking.
Na kraju je rekao nešto još zanimljivije:
„Najteže je pronaći nešto što ljudi mogu, a mašine nikada neće moći.“
Svaki put kada bi neko tvrdio da je pronašao takvu sposobnost, mašine bi je prije ili kasnije savladale.
A njegova posljednja rečenica?
„Mislim da se približavamo inteligentnim mašinama. Ali one već pokazuju neophodne slabosti inteligentnih bića.“
To je rekao 1985. godine.
I izgleda da je bio mnogo bliže istini nego što je iko tada mogao zamisliti.
