Ce masina ce chat-ul în timp ce roboții nu periculoase pentru omenire

Recent, o mulțime de știri legate de inteligență artificială, și mai precis, într-o zonă care se numește naturală procesarea limbajului (procesarea limbajului natural), sau NLP.

De exemplu, în MIPT este acum dezvoltat un bot de chat care răspunde la întrebări dintr-o anumită zonă, de exemplu, poate ajuta să comandați o pizza. Până în prezent, funcționează numai cu răspunsuri stereotipă, deoarece răspunsurile nu sunt generate întotdeauna de „cădere.“ În plus, pentru bot nu există, de exemplu, conceptul de politețe. Cu aceasta, de altfel, am confruntat deja Microsoft, atunci când ceva timp în urmă a lansat bot sa de a comunica în mod liber on-line. După un timp scurt, angajații companiei a trebuit să-l opriți. pentru că nu au putut controla procesul de comunicare cu oamenii.

Complexitatea limbajului natural

Din aceasta sa născut ideea de limitări pentru a permite computerelor să dezvolte propria lor limbă, potrivite pentru condițiile în care acestea sunt „vii“. Un astfel de experiment a fost pus pe divizia de cercetare Facebook - Facebook Inteligenta Artificiala Cercetare (FAIR). Oamenii de știință de la târg a dezvoltat un mediu în care agenții au putut inventa propria lor limbă. Apoi a venit vestea. au oprit experimentul, deoarece ei nu au putut să înțeleagă limba agenților experimentului. Aceasta este o interpretare eronată a reporterilor de faptul că experimentul a fost tocmai a finalizat - abilitatea de a crea limbaj „natural“ a fost dovedit in vitro. Pericolele acestui limbaj ar putea reprezenta nu doar din cauza faptului că el a fost extrem de primitiv și nu au putut dezvolta în continuare - agentul nu este pur și simplu de ajuns pentru această putere. Și să împartă între ele, acestea ar putea mesaje lungime de numai câteva caractere care indică unele concepte de bază ale lumii lor (similar cu mâinile noastre, picioare, sau sezoane).

Dacă vorbim despre puterea, cele mai mari retele neuronale artificiale moderne (in mod semnificativ mai mult decât cele care au fost utilizate în agenții) pot ajunge la o dimensiune de milioane de neuroni artificiali. Creierul uman are o medie de aproximativ o sută miliarde de neuroni. Asta este acum calculatoarele nu sunt capabili de a reproduce și miime din puterea creierului uman.

Prin urmare, recent răsunător „avertizăm“ Elon Musk este mai degrabă un strigăt de „lup!“ Într-o situație în care nu lupii nu sunt aproape. Calculatoarele nu se poate gândi de acum și nu va fi capabil să se gândească cel puțin în următorul deceniu - judecând după modul în care să crească puterea de calcul a procesoarelor de astăzi.

Dacă privim în viitor mai îndepărtat, în cazul în care computerele sunt deja destul de puternic, atunci este demn de amintit faptul că computerul nu are corp, ochi sau de stomac - el va percepe totul in jurul nu este așa, așa cum suntem, și va veni cu foarte diferită de limba noastră. Din moment ce computerul va lua un alt general, tot ceea ce va dori să se teamă de o alta - se va gândi în mod diferit. Din aceasta rezultă că interesele oamenilor cu interesele calculatoarele vor fi traversată puțin sau suprapunere nu va fi. Deci, ce este o bună șansă pe care o vom pur și simplu „nu vorbesc despre.“ Asta este, vom co-există, dar, practic, nu interacționează, ca acum oamenii și delfinii (specii inteligente doua condiționate de pe planeta).

Există, de asemenea, un scenariu negativ în care vom începe să concureze pentru resursa de bază - energie. Cu toate acestea, scenariul negativ este posibilă numai în cazul în care computerele vor trăi în sensul nostru, adică, ea va tinde să se multiplice și să continue să existe. Dar acest lucru este nici un fel nu putem prezice încă.

Valentin mici de laborator rețele neuronale și cercetător MIPT învățare profundă