當年今日
【勿跟車太貼】煞停「智能叛變」AI?fb研究員:機械人拎唔夠獎勵啫
蘋果日報 2017/08/02 11:26
AI
智能叛變
Your browser does not support the video tag.
【新增影片】近日傳出fb研發中的兩個AI機械人「自創言語」溝通,於是fb緊急關機,惹起坊間聯想電影《智能叛變》劇情,擔憂AI機械人終有日會「反攻人類」。但事件峰迴路轉,有負責研究的研究員怒斥傳言失實。
事源fb 6月發表學術文章,講述相關實驗;但至7月底傳出該兩名分別名為Bob和Alice的AI機械人,在對話中「自創語言」並以之溝通,fb需要「關機」應付,又引述專家意見指AI機械人很危險。
但據負責該項研究的人員Dhruv Batra指出,「自創語言」只是程式設計疏忽,忘了獎勵機械人用符合文法、類似正常人的英文溝通,於是產生偏離,將清晰的文字,用不合理的方法重組在一起。研究人員其後關掉機械人程序,只是為了改寫程式參數。
FB機械人部份對話:
Bob: I can can I I everything else
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else
Alice: balls have a ball to me to me to me to me to me to me to me to me
蘋果財經,關心你飯碗
http://fb.com/appledailyatm