Facebook måtte slå av AI-system som begynte å kommunisere på eget språk

Via HotHardware:

Har du noengang hatt følelsen av at folk snakker bak ryggen din, men du skjønner ikke helt hva de sier?
Forestill deg at det istedet for folk, var kunstig intelligens (AI) som sammensverget og konspirerte mot deg – og for å gjøre saken verre, kommuniserte de på sitt eget språk.

Dette var dilemmaet Facebook stod overfor da de oppdaget at deres AI-roboter kommuniserte i en forenklet mutasjon av det engelske språket. Facebook har publisert litt av en samtale mellom to av sine bots, Bob og Alice:

Bob: “I can can I I everything else.”

Alice: “Balls have zero to me to me to me to me to me to me to me to me to.”

Dhruv Batra ved Facebook AI Research (FAIR) forteller at akkurat som mennesker ofte bruker “snarveier” i språket, som lett kan forstås av andre mennesker, kan AI bruke lignende metoder for å gjøre seg forstått mer effektivt. Hvorfor skal datamaskiner måtte arbeide innenfor grensene et språk innehar, hvis de kan kommunisere med hverandre ved å bruke et tilsynelatende bedre språk?

Etter å ha slitt med robotenes forkjærlighet for å bruke sitt eget spesialdesignede språk, bestemte Facebook seg for å “svinge den digitale pisken”, og tvinge AI’ene til å kun snakke engelsk slik at mennesker kan forstå hva de snakker om.
Det siste vi trenger er, tross alt, et Skynet-opprør mot menneskeheten.

Det er slike scenarier som får Elon Musk til å bemerke at vi må trå forsiktig rundt AI, og være klar over de potensielle farene.

“Jeg ser det aller beste av kunsitg intellignes,” sier han, “og jeg mener folk burde følge veldig godt med. Jeg advarer igjen og igjen, men inntil folk ser roboter vandre gatelangs og drepe folk, vet de ikke hvordan de skal reagere, fordi det virker så usannsynlig.”

 

Be the first to comment

Leave a Reply

Your email address will not be published.