(相關(guān)資料圖)
如果谷歌的巴德聊天機(jī)器人的非官方首次亮相是任何跡象的話,錯(cuò)誤信息將變得更加糟糕。該公司本周在Twitter上發(fā)布了一則廣告,展示了自然語(yǔ)言人工智能模型,顯示了關(guān)于詹姆斯-韋伯太空望遠(yuǎn)鏡(JWST)的虛假信息。
在廣告中,一個(gè)簡(jiǎn)短的GIF顯示了與巴德問答的例子。"我可以把詹姆斯-韋伯太空望遠(yuǎn)鏡的哪些新發(fā)現(xiàn)告訴我9歲的孩子?"詢問中寫道。機(jī)器很快就吐出了三個(gè)想法,包括最后一個(gè)說:"JWST拍攝了我們太陽(yáng)系以外的行星的第一批照片。這些遙遠(yuǎn)的世界被稱為 "系外行星"。Exo的意思是"來(lái)自外部""。雖然關(guān)于系外行星的部分是正確的,但第一部分說JWST拍攝了它們的第一張照片是錯(cuò)誤的。這一榮譽(yù)屬于歐洲南方天文臺(tái)2004年的甚大望遠(yuǎn)鏡(VLT),這一點(diǎn)得到了美國(guó)宇航局的證實(shí)。
雖然Twitter廣告中的錯(cuò)誤信息不可能直接損害任何東西,但很容易將這個(gè)錯(cuò)誤視為將自然語(yǔ)言聊天機(jī)器人釋放到野外的風(fēng)險(xiǎn)的預(yù)兆。這與CNET決定用人工智能聊天機(jī)器人撰寫金融建議文章的做法相似;這些文章也充滿了錯(cuò)誤。
因?yàn)榱奶鞕C(jī)器人有很多地方是正確的--而且吐出的答案非常自信--任何不對(duì)他們的回答進(jìn)行事實(shí)核查的人都可能會(huì)留下錯(cuò)誤的信念??紤]到(非人工智能驅(qū)動(dòng)的)錯(cuò)誤信息已經(jīng)在社會(huì)上造成的混亂,在可以信任它能夠可靠和一致地產(chǎn)生事實(shí)信息--甚至逃脫谷歌的文案編輯--之前釋放這種通常令人震驚的技術(shù)可能會(huì)讓我們陷入瘋狂。