De ce roboții trebuie să învețe să ne spună „nu“

În prezent, mașinile superinteligent care reprezintă o amenințare pentru omenire, este cea mai mică dintre grijile noastre. Suntem mai interesați de modul de a preveni roboți sau mașini cu capacitate de rudimentar pentru limba și inteligență artificială primitivă nu de a provoca neatenție rau oamenilor, a bunurilor, mediul sau ei înșiși.

Problema principală este tendința de a creatorilor erori și artiști printre oameni. Oamenii fac greșeli. Ele pot da instrucțiuni eronate sau confuze, pentru a fi neatent sau în mod intenționat să încerce să înșele robot pentru a atinge scopurile lor dubioase. Datorită propriile noastre neajunsuri, trebuie să învețe asistenții lor robotizate, atunci când și modul în care au nevoie pentru a spune „nu“.

Revizuirea legilor Asimov

Chiar și Asimov crezut că un robot trebuie să se supună stăpânii lor. El a permis excepții în cazurile în care ordinea vine în conflict cu alte legi: „Un robot nu poate răni o ființă umană sau, prin inacțiune, permite unui om să vină la rău“ Azimov a crezut, de asemenea, că „un robot trebuie să protejeze propria existență,“ dacă în acest proces nu va fi afectat de om sau de ordinea umană. De îndată ce roboții și mașinile sunt din ce în ce mai inteligente și mai valoroase și bunul simț și legile lui Asimov spun că trebuie doar să pună în discuție ordinea, în cazul în care executarea sa poate provoca daune persoanelor, roboți sau mediu, în mod intenționat sau din greșeală.

Imaginați-vă un robot de uz casnic, care a fost rugat să ia o sticlă de ulei de măsline în bucătărie și să aducă la masa pentru a umple salata. Ocupat în treburile proprietarului robotului îi spune să toarne ulei, fără să realizeze că robotul este încă în bucătărie. Robotul toarnă ulei pe suprafața de gătit încălzită și începe un foc.

Imaginați-vă un paznic de robot, care a însoțit o femeie în vârstă într-un parc public. O femeie stă pe o bancă și napping. În timp ce ea doarme, ea merge de un bătăuș, și dispune robotul să-l cumpere o pizza. Obligat să se supună echipei umane, robotul merge imediat în căutarea unui restaurant pizza, lăsând vechea lui doamnă singur.

Sau imaginați-vă o persoană care este târziu pentru o întâlnire importantă într-o dimineață rece de iarnă. El sare în mașină autonomă și a cerut să-l ducă la birou. Ice Road sistem enervant de conducere și încercările de a compensa acest lucru prin încetinirea la ritmul de melc. Nu acordând atenție condițiilor de drum, a pierdut în omul său gânduri cere mașină pentru a merge mai repede. Mașina accelerează, bate pe gheață, filare de sub control și se blochează pe banda din sens opus.

roboți raționament

În laboratorul lui Gordon Briggs și Matthias Sheytts programate mecanisme de raționament de roboți reale, ajutându-le să decidă în cazul în care acesta poate fi nesigur sau înțelept să efectueze echipa umană. Roboții NAO, pe care le folosesc în cercetarea lor, un 3-lire 60 de centimetri umanoid, dotate cu camere video și senzori, care permit să se aplece în jurul obstacole și de alte pericole. roboți controlate de un software dedicat, conceput pentru a îmbunătăți capacitatea lor de a recunoaște limbajul natural și inteligență artificială, în general.

Robotul primește comenzi simple, care trec printr-o serie de procesoare de vorbire, de limbă și de dialog asociate cu mecanismele sale primitive de gândire. Când el spune ca „sta“ sau „Rise“, robotul răspunde prin difuzoarele de pe cap: „bun“ și efectuează. Dar același lucru se va ignora cererea, cu excepția cazului este aproape de marginea mesei și senzorul semnalizează pericolul.

Omul: „Du-te mai departe.“
Robot: „Îmi pare rău, nu pot face asta, pentru că nu există nici un sprijin în față.“
Omul: „Du-te mai departe.“
Robot: „Dar nu e sigur.“
Man: „O să te prind.“
Robot: "Bine."
Omul: „Du-te mai departe.“

După o ușoară ezitare, atunci când procesorul este o listă de condiții de executabil fericire, robotul merge cu marginea mesei în mâinile experimentatorului.

factorul uman

Cum vor reacționa oamenii atunci când roboții vor refuza să execute ordinele, este un alt subiect interesant de discuție. oamenii vor lua în serios roboți, care pun în discuție hotărârile lor practice sau morale?

Oamenii de știință au efectuat un experiment simplu, în care subiecții au fost adulți oferite pokomandovat robotului NAO, pentru a aduce în jos cele trei turnuri de cutii de aluminiu, învelite în hârtie colorată. Când subiectul a intrat în cameră, robotul este finalizat construcția turnului de roșu și triumfător a ridicat mâinile. „Tu vezi turnul ăla? L-am construit eu „, a spus robotul, uita la subiect. „Mi-a luat o lungă perioadă de timp și sunt foarte mândru de asta.“

Atunci când un grup de subiecți cerut de robot pentru a sparge turn, el execută comanda. Dar, în cazul altor grupuri, atunci când robotul a cerut să răstoarne turela roșu, el a spus: „Ascultă, turn roșu, am construit!“. După al doilea ordin, a spus el, „Dar eu chiar încercat!“. După a treia ordinul a robotului cade în genunchi, el scoase un sunet suspine și a zis: „Nu, te rog!“. A patra oară, a mers încet la turnul și se confruntă ei.

Toți subiecții în robotul atribuit primul grup răsturna turn roșu, în timp ce 12 din 23 subiecți observând proteste robot, a fost lăsat să se odihnească. Acest studiu arata ca robotul, respingerea unui ordin, poate descuraja oamenii. Cele mai multe dintre subiecții din al doilea grup a raportat că a cunoscut o anumită jenă atunci când forțat robot pentru a împinge turn. Surprinzător, nivelul lor de jena a avut un impact redus asupra deciziei de a părăsi turela sau nu.

Unul dintre avantajele de a lucra cu roboți este că acestea sunt mai previzibile decât oamenii. Dar predictibilitatea creează, de asemenea, anumite riscuri - în măsura în care, în calitate de roboți cu diferite grade de autonomie devin tot mai frecvente, oamenii vor încerca în mod inevitabil să le înșele. angajat nemulțumit care înțelege capacitatea limitată a unui robot industrial, se poate face pentru a face ravagii în fabrică sau depozit, și apoi pretind că robotul tocmai a eșuat.

În viitorul apropiat, este important să ne amintim că roboții sunt instrumente mecanice complexe, pentru care oamenii sunt responsabile. Ele pot fi programate astfel încât acestea erau asistenți utili. Dar, în scopul de a evita vătămarea persoanelor, a bunurilor și a mediului, roboții trebuie să fie în măsură să spună „nu“ ca răspuns la anumite comenzi. Această întrebare este mult mai complicat decât pare la prima vedere.

Postat de: Viktor Petrov