Hoće li nas strojevi porobiti

U budućnosti će roboti vjerojatno raditi u potpuno drugačijim okruženjima i pod drugačijim uvjetima nego što trenutno zamišljamo. U tom kontekstu općenito se čini besmislenim govoriti o takozvanoj etici robota.

Oni koji nas plaše da će roboti preuzeti vlast nad ljudima obično zamišljaju nestvarnu situaciju u kojoj će se razvijati samo strojevi, a sve oko njih će ostati nepromijenjeno. Ovaj pristup temelji se na uvjerenju da će se evolucija tehnologija umjetne inteligencije odvijati potpuno autonomno, izolirano od svih društvenih, kulturnih i civilizacijskih procesa.

Veliki crveni gumb

U međuvremenu, u stvarnosti, razvoj robotike, kao i svih drugih industrija, prati djelovanje ljudi usmjereno na dovođenje razvoja u skladu s postojećom hijerarhijom vrijednosti u društvu. Zbog toga će roboti u budućnosti vjerojatno raditi u potpuno drugačijim okruženjima i pod drugačijim uvjetima nego što sada zamišljamo.

U tom kontekstu općenito se čini besmislenim govoriti o takozvanoj etici robota. Etika kao sposobnost razlikovanja dobra i zla odnosi se samo na ljude koji stvaraju robote ili ih koriste. Nema razloga ozbiljno razmatrati scenarije da će u jednom trenutku autonomno upravljani automobil morati sam odlučiti hoće li riskirati putnike oštrim bočnim zaokretom, što će dovesti do sudara s lanternom kako bi se spasio pješak ispred automobila, ili spasiti putnike, riskirajući svoje živote i zdravlje pješaka gubitnika.

Kako stvoriti veliku budućnost za sebe?

Vjerojatniji scenarij je da će ceste za samovozeće automobile biti potpuno zatvorene, tako da se na njima uopće neće moći pojaviti pješak.

Druga mogućnost je programirana jasna procedura za djelovanje robota u hitnim slučajevima. Sada se koristi u bespilotnim letjelicama. Ako takav uređaj izgubi kontakt s operaterom ili dođe do greške u njegovom programu, ne poduzima daljnje samostalne radnje, već nastavlja na snimljeni algoritam za povratak u bazu.

Ovo je svojevrsni digitalni analog velikog crvenog gumba, koji se koristi u industrijskoj automatizaciji: u slučaju prijetnje, omogućuje vam da jednim pokretom isključite rad cijelog sustava.

Društva neprestano pokušavaju prilagoditi mehanizme svog funkcioniranja (zakone, državne institucije, infrastrukturu) izazovima vezanim uz razvoj tehnologije. Ljudi su ti koji će morati pronaći rješenja (tehnička, pravna, organizacijska) koja će negirati prijetnju od strojeva i omogućiti im da se koriste u skladu s zacrtanim ciljevima. Nijedna odluka u ovom području ne može se prepustiti tehnologiji.

Ako je, primjerice, općepriznata vrijednost, kako je danas sve više vidimo, želja za ekonomizacijom gotovo svih sfera ljudskog života, onda će roboti prvenstveno služiti za optimizaciju troškova rada, smanjenje troškova i zamjenu skupljih rješenja jeftinijim.

Kontroliranje sudbine: mit ili stvarnost

Ako se neke odluke ne slažu s općeprihvaćenim idejama o općem dobru, ili su čak usmjerene protiv interesa pojedinaca i skupina (npr. onih koji izgube posao u nekim profesijama), to ne znači da će se provoditi protivno općim (iako ne uvijek percipirana) društvena očekivanja i uvjerenja. U konačnici, način na koji se koristi bilo koja vrsta tehnologije bit će pod utjecajem obrazaca ponašanja u određenom društvu.

Ako uzmemo primjer internetskih trgovina, u prvi plan dolazi zahtjev da se naručena roba isporuči kupcu što je prije moguće. Naša očekivanja pokreću usvajanje optimiziranih i automatiziranih radnih metoda u odjelima za sortiranje i pakiranje, posebice uz korištenje robota ili tzv. inteligentnih sustava upravljanja tijekom rada. Uostalom, danas je to jedini način da ispunimo ta očekivanja. Dakle, mi, paradoksalno, spremamo sebi sudbinu robova strojeva.

U ostalim područjima situacija je slična. Hoće li roboti u Japanu početi patronizirati starije građane samo zato što će postojati stvarne tehničke mogućnosti za stvaranje takvih strojeva?? Ne. Intenzivan rad na što širem uvođenju robota u sustav socijalne i medicinske skrbi provodi se u zemlji trešnje jer je format višegeneracijske obitelji u krizi. Starije osobe ne dobivaju pomoć i podršku od rodbine, a preskupo je angažirati profesionalnu medicinsku sestru i njegovateljicu za svaku osobu. Spas u ovakvim okolnostima može biti pravilno dizajniran i programiran robot koji će vam pomoći da se nosite s barem nekim svakodnevnim aktivnostima. Polazište ovdje opet nije tehnološki izbor, već društveni problem: kako osigurati relativno pristojne uvjete za život ljudima koji su ostali bez podrške rodbine.

Tko ću biti za 10 godina

Pojava robota mnogo toga mijenja i komplicira, ali u isto vrijeme pojednostavljuje i dopušta. Naivnošću griješe oni koji nas sada pozivaju da se oslobodimo diktature robota.

Čovjek je uvijek, od pamtivijeka, podlegao utjecaju društva u kojem je živio. Okolina neprestano utječe na nas, tjera nas da postupamo po pravilima koja u njoj vrijede. Dominacija i pritisak robota i umjetne inteligencije ne leži u činjenici da će nas zamijeniti u donošenju odluka i upravljanju našom sudbinom, već u činjenici da ćemo se morati pridržavati pravila koja proizlaze iz njihovog postojanja u našem životnom okruženju, prilagoditi principima koji će proizaći iz - za njihovu prisutnost u različitim područjima našeg života.

Na primjer, sjetite se algoritamske prirode rada pametnih strojeva, povezanih mogućnosti i istovremeno ograničenja. Inače nećemo moći uspješno funkcionirati u suvremenom civilizacijskom okruženju, kao što ni sada ne možemo opstati u džungli, ne poznavajući zakone prirode koji u njoj vladaju i ne poštujući ih.

Nedavno su posvuda citirana upozorenja iz otvorenog pisma koje su potpisali utjecajni predstavnici znanosti i biznisa, posebice fizičar Stephen Hawking, poduzetnik Elon Musk, kao i predstavnici Googlea, Microsofta i IBM-a. Zanimljivo je da su znanstvena i poduzetnička karijera ovih ljudi uvelike povezana s razvojem sustava umjetne inteligencije. Koji je onda pravi smisao njihovog nastupa?

Što bez prijatelja: 111 zabava za jednog

Društvu koje koristi magično razmišljanje potrebni su šamani. Stručnjaci danas žele preuzeti svoju ulogu. Otvoreno pismo, čini mi se, ima za cilj pokazati tko pripada ovoj kasti posvećenih.

Nemojmo se plašiti robotima, umjetnom inteligencijom i strojevima za razmišljanje. Ovo je put u nigdje. Uzmimo njihovu prisutnost u našem okruženju kao prirodni element razvoja civilizacije i naučimo ih koristiti u vlastite svrhe. Ne postoji druga opcija za stvarno upravljanje robotskim okruženjem osim dobrog upoznavanja.

Robot je, zapravo, vrlo jednostavan, visoko specijaliziran uređaj, stroj s jednom ili više funkcija koji može točno izvršiti samo programiran zadatak. Tko zna koja će se nova zanimanja pojaviti u budućnosti na tržištu rada u vezi s razvojem vještina korištenja funkcija koje nam roboti mogu ponuditi u različitim životnim situacijama.

Ne napuštajte sferu umjetne inteligencije

Ako želimo znati što roboti mogu učiniti u budućnosti, moramo se osvrnuti na sebe. Umjesto svađanja o etici robota, razmislimo o vlastitim (grupnim i pojedinačnim) pogledima na razvoj robotike. Pogledajmo vrijednosti koje ispovijedamo, razmislimo kojih se pravila pridržavamo u privatnom, javnom i profesionalnom životu, kako se ona mogu odraziti na način na koji koristimo pametne strojeve.

Podlegnite iskušenju

Iskreni odgovor na ova pitanja može puno reći o mogućnostima i izgledima korištenja robota. Vidjet ćemo tko od njih može biti ljubazan, a koji nam može naštetiti. Razmislimo kakve snove imamo, koje ciljeve sebi postavljamo, kako zamišljamo svijet i svoje mjesto u njemu, a onda ćemo vidjeti što se robotima smije, a što ne smije.

Društvo mora preuzeti odgovornost za svoje postupke pred izazovima suvremene civilizacije, a to je jedini način da ne ispustimo sferu umjetne inteligencije, odnosno da je ne damo onima koji je stvaraju. Ali to je već tema za drugi članak.

Andrzej Gontazh - kulturolog, bivši direktor informatizacije Centra za suvremenu umjetnost Dvorac Ujazdowski i glavni urednik časopisa Computerworld.