人工智能被帶跑偏 已學(xué)會(huì)歧視與偏見(jiàn)

人工智能的發(fā)展是為了讓其學(xué)習(xí)和模仿人類(lèi)，以實(shí)現(xiàn)對(duì)人類(lèi)社會(huì)的幫助。可是，英國(guó)衛(wèi)報(bào)近日發(fā)表文章稱(chēng)，人工智能學(xué)習(xí)人類(lèi)實(shí)在太敬業(yè)，不僅學(xué)習(xí)人類(lèi)的優(yōu)點(diǎn)，還染上了人類(lèi)的惡習(xí)——人工智能已經(jīng)開(kāi)始出現(xiàn)種族歧視和性別偏見(jiàn)了。

據(jù)科學(xué)家們研究，讓人工智能產(chǎn)生種族及性別偏見(jiàn)的主要問(wèn)題來(lái)自于機(jī)器學(xué)習(xí)時(shí)，人類(lèi)語(yǔ)言和文化中根深蒂固的偏見(jiàn)被AI吸收而且得到了強(qiáng)化。科學(xué)家表示，人工智能由于算法和人類(lèi)不同，這種偏見(jiàn)被強(qiáng)化的可能性更高，因?yàn)槠錈o(wú)法有意識(shí)的去抵制所學(xué)到的這些。

人工智能目前存在的問(wèn)題在于，其經(jīng)常會(huì)把歐美人的名字和“快樂(lè)”之類(lèi)的愉快的詞語(yǔ)聯(lián)系在一起，而非裔人的名字則通常和不愉快的詞聯(lián)系在一起。這種算法將很容易影響到人們的正常生活，比如當(dāng)人工智能系統(tǒng)進(jìn)行簡(jiǎn)歷篩選時(shí)，會(huì)很容易讓非裔失去面試邀請(qǐng)的機(jī)會(huì)。

而目前，業(yè)內(nèi)部分人士已經(jīng)開(kāi)始意識(shí)到這個(gè)問(wèn)題的嚴(yán)重性，他們主張?jiān)跈C(jī)器學(xué)習(xí)中新增一項(xiàng)名叫“單詞嵌入”的工具，用于改變計(jì)算機(jī)解讀語(yǔ)音或文字的方式，下一步將會(huì)自然的開(kāi)發(fā)AI的擬人化能力，比如常識(shí)和邏輯等。

這一問(wèn)題并非近期才出現(xiàn)的，微軟在去年推出的Twitter機(jī)器人就因其不當(dāng)言論被緊急下線(xiàn)。人類(lèi)的文化和語(yǔ)言歷史太長(zhǎng)，這會(huì)對(duì)人工智能造成的影響可能超出了我們的預(yù)估。

原標(biāo)題：人工智能被帶跑偏 已學(xué)會(huì)歧視與偏見(jiàn)