人工智能和監管——工程師需要注意什么

2021-10-19

人工智能和監管——工程師需要注意什么

在過(guò)去的十年中，人工智能經(jīng)歷了突飛猛進(jìn)的發(fā)展，現在發(fā)現自己在許多日常應用中，包括網(wǎng)站流量管理、廣告和預測性維護。從道德的角度來(lái)看，人工智能會(huì )帶來(lái)哪些挑戰，歐盟將出臺哪些立法，以及工程師為什么要謹慎對待人工智能？

AI 帶來(lái)了哪些挑戰？

世界各地的一些關(guān)鍵人物表達了他們對人工智能的擔憂(yōu)，并講述了人工智能將如何以類(lèi)似于終結者的方式征服人類(lèi)的故事。然而，事實(shí)是，人工智能不太可能以滅絕人類(lèi)的單一目的以虐待狂殺手的方式行事。但這并不是說(shuō)人工智能不會(huì )帶來(lái)挑戰，如果不加以控制，它可能會(huì )橫行無(wú)忌。

有 人工智能的許多方面都帶來(lái)了工程方面的挑戰、隱私和道德觀(guān)點(diǎn)。除非社區能夠齊心協(xié)力解決這些問(wèn)題，否則世界各地的政府可能會(huì )開(kāi)始監管人工智能并可能阻礙其進(jìn)步。

首先，人工智能面臨的更大挑戰之一是它在決定個(gè)人命運方面的用途。人工智能可以很容易地用于預測個(gè)人的行為，并使用這些結果來(lái)確定信用評級和保險費。盡管如此，此類(lèi)決定可能會(huì )改變個(gè)人的生活。因此，有人可能會(huì )爭辯說(shuō)，人工智能缺乏同情心和人性會(huì )導致僅基于預測的不公平判斷。然而，反駁是人工智能無(wú)法區分，因為人工智能從根本上無(wú)法持有意見(jiàn)（即它只是從提供給它的數據中學(xué)習）。

AI 面臨的另一大挑戰是從隱私的角度來(lái)看。人工智能要提高其執行任務(wù)的能力，就需要數據。當涉及到人工智能用于營(yíng)銷(xiāo)和廣告時(shí)，此類(lèi)數據將采用姓名、年齡、性別和國籍等個(gè)人信息的形式。但是，收集大量此類(lèi)數據實(shí)際上使每個(gè)用戶(hù)都有可能侵犯隱私。未經(jīng)用戶(hù)許可，這些數據可能會(huì )被出售給第三方或被惡意活動(dòng)竊取。

然而，人工智能變得非常成問(wèn)題的地方是 當局描述公民和限制個(gè)人自由. 這方面的主要例子是中國政府部署人工智能來(lái)跟蹤每個(gè)公民，并根據這些人對執政黨的忠誠度給他們一個(gè)社會(huì )信用評分。社會(huì )信用低的人不得乘坐飛機、火車(chē)等公共交通工具，社會(huì )信用分數極低的人被公開(kāi)羞辱，與個(gè)人為朋友的人則被警告不要靠近。

歐盟將很快引入人工智能立法

最近，歐盟一直表示有興趣引入人工智能監管，以防止人工智能被用于可能侵犯個(gè)人自由和隱私的高風(fēng)險類(lèi)別。根據歐盟公布的信息，人工智能的使用將屬于三類(lèi)之一；不可接受的風(fēng)險、高風(fēng)險和有限風(fēng)險。

不可接受的風(fēng)險是涉及潛意識和操縱性消息傳遞、當局使用的實(shí)時(shí)生物識別以及任何社交評分系統的應用程序。歐盟打算徹底禁止這些領(lǐng)域使用人工智能和任何相關(guān)工具。

高風(fēng)險是對個(gè)人用于信貸和其他金融服務(wù)進(jìn)行排名的應用程序。例如，使用人工智能挑選候選人的招聘工具被認為是一種高風(fēng)險的應用程序。此類(lèi)別還包括用于非公共場(chǎng)所身份識別的生物識別系統以及用于司法行政的任何系統。

最后一類(lèi) 本質(zhì)上包括另一個(gè) AI 應用程序這被認為對社會(huì )、數據和權利的影響最小。此類(lèi)應用包括 AI 聊天機器人、垃圾郵件過(guò)濾器、視頻游戲中的 AI 和庫存管理。

為什么工程師要小心人工智能？

毫無(wú)疑問(wèn)，人工智能已被證明是 用于預測分析和數據管理的寶貴工具. 盡管如此，仍有越來(lái)越多的應用程序出于不道德和惡意的原因繼續濫用人工智能的力量。

如前所述，人工智能在中國社會(huì )信用體系中的使用是人工智能如何被可怕濫用的一個(gè)典型例子。讓社會(huì )信用體系變得更糟的是，人工智能和視覺(jué)技術(shù)的廣泛使用是自我完善的，這意味著(zhù)社會(huì )信用體系使用的時(shí)間越長(cháng)，人工智能就會(huì )變得越好。因此，使用一種在西方看不到的不道德技術(shù)現在正在推動(dòng)中國人工智能技術(shù)遠遠超出西方的能力。

出奇， 人工智能可以實(shí)現到大多數應用程序中，正是這一事實(shí)使其成為工程師的誘人工具。人工智能可以隨著(zhù)時(shí)間的推移進(jìn)行訓練，而不是描述系統可以做出的每一個(gè)可能的決定，這可以說(shuō)是一項更容易的任務(wù)。

然而，僅僅因為一個(gè) AI可以完成任務(wù)并不意味著(zhù)它應該. 這可以通過(guò)使用跟蹤系統、生物特征數據收集和其他不必要的應用程序來(lái)清楚地看到，這些應用程序為了使用人工智能而收集個(gè)人數據。例如，一家公司可以使用人工智能系統讓員工基于面部識別進(jìn)入建筑物。盡管如此，鑰匙卡可以完成相同的任務(wù)，而無(wú)需存儲個(gè)人信息。

如果工程師在使用 AI 時(shí)不小心進(jìn)行自我調節，那么世界各地的政府可能會(huì )開(kāi)始出臺法律法規，使開(kāi)發(fā) AI 變得更加困難。工程師最不需要的就是繁文縟節，所以不要陷入物聯(lián)網(wǎng)興起期間行業(yè)陷入的陷阱。