Facebook privalėjo išjungti vieną dirbtino intelekto sistemą, kai tyrėjai suprato, kad ši pradėjo bendrauti jiems nesuprantama kalba.
Šis incidentas primena Skyneto sukilimo vaizdus iš legendinio Terminatoriaus serijų. Gal Tesla vadovas teisus, sakydamas, kad DI yra „didžiausia mums kilusi grėsmė“.
Facebook ištraukė kištuką iš savo kalbą sukūrusios DI sistemos
Facebook turėjo išjungti dirbtino intelekto sistemą, su kuria dirbo jos tyrėjai, nes reikalai ėmė slysti iš rankų. DI nepradėjo išjunginėti kompiuterių visame pasaulyje ar panašiai, bet nustojo kalbėti angliškai ir pradėjo naudoti savo sukurtą kalbą.
Bob: "I can can I I everything else."
Alice: "Balls have zero to me to me to me to me to me to me to me to me to."
Toks pokalbis, kuris žmonėms neturi jokios prasmės, vyko tarp dviejų Facebook sukurtų DI agentų. DI agentai, kurti pokalbiams su žmonėmis, iš pradžių kalbėjo tarpusavyje angliškai, bet galiausiai sukūrė naują kalbą, kurią suprato tik DI sistemos.
DI agentams nebuvo liepta naudoti tik anglų kalbą, tad jie to ir nedarė, o sukūrė tokią, kuria galėjo bendrauti lengviau ir sparčiau. Tačiau Facebook tyrėjai nusprendė DI sistemas išjungti ir liepti tarpusavyje kalbėti tik angliškai.
Kodėl tai baugus DI vystymosi posūkis?
Kodėl negalima leisti DI agentams tarpusavyje bendrauti savo išrasta kalba?
Visų pirma, žmonės negalės suprasti, ką tiksliai sako savo kalbą naudojančios DI sistemos. Žmonės negeba perprasti sudėtingų DI sistemų mąstymo, tad DI agentų slaptumas reikalus dar apsunkintų, jei būtų kalbama nežinoma kalba.
Jei DI agentams leidžiama kalbėti jų sukurta kalba, jiems gali netgi neprireikti žmonių intervencijos.
DI kaip „Didžiausias Iššūkis“
E. Muskas tiki, kad žmonės turėtų bijoti DI ir paprašė Amerikos gubernatorių įgyvendinti šios technologijos reguliavimą.
„Matau pačias naujausias DI, ir manau, kad žmonės išties dėl to turėtų nerimauti,“ anksčiau šį mėnesį sakė Tesla CEO Nacionaliniame gubernatorių asociacijos vasaros susitikime Rodo saloje.
DI sistemos gali daugybę dalykų atlikti geriau už žmones, ir jei nebus prižiūrimos, gali išaugti į kažką, kas mus visiškai pakeis.
Aaron Mamiit
techtimes.com
