Izvještaj CNN-a objavljen 18. rujna opisuje kako su SAD gotovo započele rat s Kinom, na temelju obavještajnog izvještaja u kojem se tvrdilo da kineski brod prevozi komponente nuklearnog oružja. Vojno osoblje izradilo je planove za presretanje kineskog plovila, uz angažiranje zrakoplova i vojnika spremnih za ukrcaj na brod. Vojni sukob takve vrste između Kine i SAD-a mogao bi brzo eskalirati i prerasti u Treći svjetski rat.
Tek neposredno prije provedbe plana, američki su dužnosnici detaljnije provjerili obavještajni izvještaj i otkrili da ga je generirao chatbot te da sadrži netočne podatke o teretu na brodu. Za razliku od scenarija odmetnute umjetne inteligencije (poput onog iz filma Terminator), ovaj incident nije potaknuo zakonodavce da zatraže regulaciju kako bi se spriječilo potencijalno izumiranje čovječanstva. Mediji nisu upozorili javnost da su Amerikanci zamalo izazvali rat protiv nuklearne velesile samo zato što se vojska oslanja na chatbote sklone pogreškama.
Velike jezične modele (LLM-ove), koji pokreću te chatbote, nazivaju stohastičkim papigama, riječ je o modelima osmišljenima za ponavljanje obrazaca iz podataka na kojima su trenirani. Medijski napisi koji ih opisuju kao moćne i odmetnute modele, sposobne samostalno dovesti do izumiranja čovječanstva, stvaraju dojam da su alati temeljeni na tim modelima dovoljno nepogrešivi da bi se koristili u situacijama s tako visokim ulozima, poput ratovanja.
Čak i u kritičnijim izvještajima, poput onog na CNN-u, navodi se da chatbot koji je koristila američka vojska predstavlja ozbiljne rizike jer je riječ o moćnoj, novoj i nedovoljno shvaćenoj tehnologiji. Zapravo, današnji veliki jezični modeli i chatbotovi koje oni pokreću nisu nedovoljno shvaćeni, niti su moćni u smislu da bi bili učinkoviti alati za ovakvu primjenu. Riječ je o sustavima za generiranje teksta koji djeluje uvjerljivo; ti su sustavi izgrađeni na osnovu golemih, nasumično prikupljenim skupovima podataka, a zatim fino podešeni (odnosno dodatno trenirani) kako bi bili što privlačniji svojim korisnicima. CNN nije uspio saznati koji je chatbot proizvod korišten u ovom slučaju, ali LLM koji pokreće proizvod vjerojatno je bio fino podešen za ispis teksta sa stilskim obilježjima obavještajnih izvještaja. Onovna funkcionalnost i rizici takvog modela dobro su shvaćeni i dokumentirani godinama. Tvrdnje da je ponašanje sustava misteriozno proizlaze iz namjerne mistifikacije onih koji prodaju te sustave i pogrešnog shvaćanja njihovih rezultata od strane onih koji ga nabavljaju i koriste.
Za razliku od neznanstvenih i fantastičnih tvrdnji izvršnih direktora OpenAI-a i Anthropica te onih koji nekritički ponavljaju njihove argumente, štetni i dobro dokumentirani utjecaji proizvoda ovih tvrtki nastali su zato što ljudi vjeruju da su proizvodi superinteligentni, a ne zato što to zapravo jesu. Od AI pisara koje bolnice koriste za pogrešnu klasifikaciju pacijenata kao korisnika ilegalnih droga, do vlada koje ubijaju djecu nakon što se oslanjaju na sustave analize obavještajnih podataka, koji škole zamjenjuju s vojnim objektima, svjedočimo predvidljivim štetama koje proizlaze iz pogrešnog povjerenja u nepouzdani automatizirani softver, piše The Guardian.
Svijet nikada nije bio naprednije mjesto, a slobodno možemo dodati i – gluplje mjesto!
