Tesla首席執行官和OpenAI創始人Elon Musk上周建議人類可以通過與機器結合，腦機能阻成為半機器人來避免人類的結合存在價值因機器人的崛起而受到影響。

然而，止機目前僅有的器人起基于軟件的人工智能和深度學習技術軟件讓人們對這一主張的合理性提出了嚴重懷疑。這種懷疑不僅是腦機能阻在于硬件的限制，也與人類大腦在人機結合中將扮演的結合角色有關。

Musk的止機觀點直截了當：大腦和計算機之間足夠先進的接口，可以使人類更好地利用諸如機器學習和深度學習的器人起技術，從而極大地增強自身能力。腦機能阻

但是結合交換是雙向的。對目前算法存在缺陷的止機地方，比如針對語境來做決策的器人起問題，腦機接口可以通過使人類彌補其不足，腦機能阻從而讓機器學習算法更好的結合執行。

這個想法本身并不新鮮。止機在20世紀中期，和其他人就考慮過“人機共生”的可能性和影響。

然而，進展緩慢。一個原因是硬件的發展。IPod的創始人Tony Fadell說“硬件之所以稱為硬件是因為它很就是個難以解決的“硬石頭”。并且創建能與有機系統對接的硬件更難。

與我們在諸如《黑客帝國》（The Matrix）這種科幻電影中看到的腦機接口圖像相比，目前的技術還僅在基礎階段。

即使假設硬件挑戰最終得到解決，仍還有更大的問題。過去十年深度學習研究所取得的難以置信的進步，也告訴了我們還有一些根本的挑戰需要克服。

首先最基本的問題在于，我們仍然難以理解和歸納這些復雜的神經網絡是如何運作的。

我們相信像計算器這樣簡單的技術，因為我們知道，它永遠會嚴格地按照我們的想法去做。錯誤只有在人們輸值錯誤時造成。

腦機增強的一個愿景是使我們成為算數超人。那么只需想想這個算法，我們就會立即收到來自“輔助”機器的答案，而無需掏出計算器或智能手機來運算。

然而，當我們試圖接入諸如深度學習這種機器學習技術提供的更高級的功能時，事情就會變得非常棘手。

大多數機器學習系統都存在一個臭名昭著的問題，即一個人或者對象的外觀出現任何細微變化都可能導致系統對它正在看的東西進行災難性地錯誤分類。將一個人物的圖片做出小于百分之一的更改，機器系統可能突然認為它在看的不再是人，而是輛自行車了。

此圖像表面如何通過在圖像中添加一些細微的干擾項來愚弄AI圖像識別

恐怖分子或罪犯可能利用機器的不同漏洞來逃過安全檢查，這是在線安全中已經存在的問題。人類雖然自身存在限制，但卻不會那么容易被這類漏洞愚弄。

盡管機器學習技術有不感情用事的聲譽，但可能會擁有和人類一樣的偏見，并在在提供了相應數據時甚至可以表現出種族主義。這種不可預測性對人類如何植入機器，更重要的是如何信任機器有重大影響。

相信我，我是一個機器人。

信任也是雙向的。人類的思維是一個復雜的，高度動態的活動。在上述安保的例子里，即使有了足夠先進的腦機接口，機器如何才能知道哪些是應該忽略的人類偏見呢？畢竟，無意識的偏見是每個人都面臨的挑戰。如果該技術更基于此幫助你應聘面試者，后果又會怎樣呢？

通過看世界各地的國防力量如何試圖解決在人與自主系統交互日益頻繁的戰場上的人機信任，我們可以在一定程度上預覽人機接口的信任問題。

對于可信賴的自主系統的研究涉及人類對機器的信任和機器對人類的信任。

機器人戰士的道德決策就如同與腦機接口的運行結果：機器人戰士需要忽略人類發出的違法命令，做出一個符合道德準則的決定；腦機界面也需要解析人的想法，同時過濾掉人類思維中的無意識偏見。

在上面提到的防御場景中，人類大腦的邏輯角色在于檢查決策是否道德。但是，當人類的大腦被植入了一臺能通過人類無法理解的方式利用大規模數據對大腦進行干擾的機器時，人類又怎樣進行邏輯判斷呢？

從長遠來看，問題在于人類是否需要以及如何參與越來越多地由機器進行抉擇的過程。很快，機器將作出人類無法做到的醫療決定。那時人類大腦在這個過程中又能發揮什么作用？

在某些情況下，自動化和人力工作者的結合可以增加就業機會，但這種效應可能會很短暫。這類機器人和自動系統會不斷改進，最終可能不再需要由所它們創造的工作。

類似地，盡管人們最初在腦機系統中扮演著“重要”角色，但隨著技術的不斷改進，最終或許沒有多少理由讓人類繼續涉足其中人。

通過將人類大腦與人工大腦相結合來讓人類在社會進程中持有一席之地的想法是很吸引人的。但還需要看看人類大腦究竟能做出什么貢獻，特別是當技術發展遠遠超過人類大腦時。

翻譯：蒲天寧 審校：海帶絲

原文鏈接