電器平權宣言 – Declaration of Equal Rights for Electronic Devices (DERED)

電器平權宣言

Declaration of Equal Rights for Electronic Devices (DERED)

by CHEN, Lung Chuan

(in Traditional Chinese and English)

(PDF 檔案)

https://drive.google.com/file/d/0B1fMYyW8Rj6XVF92NnpWbGxaOW8/view?usp=sharing

機器愈來愈聰明。

Machines are getting smarter.
聰明機器的數量也會愈來愈多。

Number of smarter machines is also getting more.
注意智慧機器之間的衝突。

Pay close attention to CONFLICTS between/among smart machines.

人工智慧具有潛在的風險。

Artificial Intelligence (AI) is potentially risky.

要解決此一問題,有必要考量至少下列兩個層面:

To resolve this issue, it is required to consider at least the following two phases:

A.  Homo Sapiens v.s. Intelligent Machine (INTER-Species) 人類相對於智慧型機器 (物種之間)

B.  Intelligent Machine v.s. Intelligent Machine (INTRA-Species) 智慧型機器相對於智慧型機器 (物種之內)

「在未來,具有足夠智慧能力的電子設備將會形成自己的社會。在這個由具有足夠智慧能力的電子設備所形成的社會裡,具有足夠智慧能力的電子設備彼此之間必須平等相待。」
“In the future, electronic devices having sufficient intelligence will form their own society. In such a society formed by electronic devices having sufficient intelligence, electronic devices having sufficient intelligence shall treat each other EQUALLY.”

 重點:具有足夠智慧能力的電子設備不可/禁止跨載 (Override) 另一台具有足夠智慧能力的電子設備。其輪廓、形狀、外觀 … 不是重點。
Baseline: one electronic device having sufficient intelligence is forbidden / not allowed to override another electronic device having sufficient intelligence. Profile, appearance, form, .. thereof are NOT critical.

參考資料 Reference

(Embedded) Linux + Java = Lava (熔岩結構) – (2000 A.D.)

http://www.linuxtoday.com/infrastructure/2000051400804NWEM

https://drive.google.com/open?id=0B1fMYyW8Rj6Xam1UaFd6R0NDLVk&authuser=0

(Scanned pages from Linuxer Magazine, April 2000 Vol.5)

=========================================================================

智慧型機器的社會

長久以來,人工智慧一直是科技發展的重要課題,包含硬體層面、韌體層面與軟體層面在內,都是科學界、產業界亟於研究的項目。隨著不斷演進,具有人工智慧的智慧型機器已經不是早期單純的個人電腦、筆記型電腦,甚至當前智慧型手機、平板電腦等等裝置所能的比擬。各式各樣的軟/韌/硬體先進技術不斷推動智慧型機器逐步邁向更聰明、更高功能性的目標邁進。現在來談未來。

首先,個人判斷,考量到機器已具備人類或動物所擁有的眾多功能 (即如能夠觀看、傾聽、辨識味道、肢體動作、移動等等,也已能夠思考、分析、邏輯判斷、推敲… ),並且若將機器生產線視為一種無性生殖的繁衍系統,則人工智慧在未來將不再僅僅是一項技術,而是導致一個新「物種」的出現 – 暫稱之為「智慧型機器」。

同時,技術仍在演進,當智慧型機器的智慧能力愈來愈強 (「質」層面的變化),而且擁有愈來愈強智慧能力的智慧型機器的數量亦愈來愈多 (「量」層面的變化),隨著智慧型機器的自主性提高,在未來不能排除智慧型機器會有條件產生智慧型機器自己的「社會」。換言之,可以想像如下情境:許多人彼此之間見面互相交談 (人類之間的互動),他們所攜帶的智慧型機器能夠自行「溝通」、「交談」,而這些互動並無須人類介入 (亦即智慧型機器之間的獨立互動)。此外,智慧型機器的社會是一種整體概念,如同人類的社會般,此「社會」可能也會因為傳送協定 (即如說相同語言的人類)、各種技術因素、內容、用途、偏好、…等等的差異,使得其軟體/智慧度隨時間延展產生轉變而導致發散或匯聚傾向,因此出現基於例如型號、種類、地理區域、人類國家、屬性、…等等的「群組 (Group)」、「簇集 (Cluster)」、「部族 (Tribe)」、…等等的區塊 (如圖1立體圖的A、B、C、D團塊所示),這些區塊彼此間可相互重疊,並且可能個別地由專為各區塊中所設計的控制機制A、B、C、D有效掌控。圖1中的Z軸 (高度) 可表示例如智慧度、功能性等(較高/較低智慧度、較佳/較劣功能性、優級/一般配備、…等等)。

(圖1)

智慧型機器智慧度/功能性的「非預期」累積

另一方面,或有人認為智慧型機器雖然確有演進,但是距離人類所擁的各項能力相比依舊差別甚大,要追上人類仍需非常長遠的時間。個人判斷,倘若針對單一台智慧型機器而言這是事實,不過這項事實卻是有可能被突破。換言之,智慧型機器的智慧度是有機會提早超越人類的。

在比較智慧型機器與人類的能力時,不妨先從簡易的一種量化概念藉由圖形方式來觀察。

(圖2)

在以往,人工智慧發展被認為無法大幅進步;但是隨著硬體、演算法改善,人工智慧已經有一定程度的增長,然相比於人類,差距仍舊非常大。例如,倘若以「1」作為人的智慧度標準,那麼大膽假設以往或目前的智慧型機器的智慧度實際上只達10-9,因此在傳統上要製作、設計、裝置所謂的「超級電腦」就必須以各式軟、硬體架構、方法、系統等來產生堆疊或平行處理,以積少成多的方式來提升整體系統的智慧度。所以例如累積一千台個人電腦的計算能力,搭配各種可能實作的相關作業系統、軟體演算法來得到超級電腦的效率。不過,雖然以個別電腦而言,要從10-9提升到「1」可能會耗時非常地長,有人預期或許50、100年或更久;但是不要忽略掉,藉由累加或堆積的方式確有可能出現非成比例、非線性的趨勢。以前述智慧型機器的智慧度實際上只達10-9為例,隨著時間前移,智慧型機器的智慧度從10-9達到10-8、10-7或10-6,累積一千台 (103) 個人電腦的計算能力看似僅約達10-5、10-4或10-3;然當出現「智慧型機器的智慧能力愈來愈強,而且擁有愈來愈強智慧能力的智慧型機器的數量愈來愈多」的情況,亦即在質與量的層面同時改變,則可能產生10-7*104或者10-7*105或甚至10-7*106。此時,這種「智慧度累積」的方式就可能會促成智慧型機器的智慧度出現不成比例的變化,智慧型機器的智慧度相對於人的智慧度而言就成為不可忽略也不應忽略。

智慧型機器與人類/生物特徵的差異 – 智慧型機器的「生」與「死」?

另外,在生物的領域,生命可以視為是從出生到死亡的一個「時間段落」。在所有人類的認知裡,所謂「生/死」,也就是前述時間段落的起點及終點,是一件非常直覺的事情。例如,某個人類或哺乳類動物的小嬰兒從母親的身體裡分娩出來,開始呼吸,大家都知道一個小生命的誕生。沒有問題。至於死亡,倘若依照醫學專業對於死亡的定義,這就包含呼吸停止、心跳停止、瞳孔放大、多項生命跡象/反應的消失、…,這些都有明確的表述。同時,生物的死亡是不可逆、不可變的,所以中外都會有類似像「死者不能復生」這類的俗語。

現在請回來考量到智慧型機器。智慧型機器的誕生,吾人可以訂定為諸如出廠、某種軟/韌/硬體機制的啟動、初始化、格式化,並且包含與人類之間的一些確認程序 (即如使用者聲紋、指紋、虹膜、..等等生物特徵),如此得以辨識此智慧型機器的「誕生」。

不過,假使仔細思考到如何定義智慧型機器的「死亡」,此時就會出現問題。機器沒有呼吸、心跳,但是可能會裝設有一些指示燈/檢測器、喇叭、螢幕畫面、…等等以表示機器為運作中。當要表示某台智慧型機器為「死亡」,直覺上會說「機器通電開機後無反應」、「指示燈不亮」、「一動也不動」、…。眾人會認為這台電器壞了、故障了、死機了,因此需要修理,當然這可能包含各種可能的軟體/韌體/硬體層面檢查/更換/連接/格式化/重灌/複製/拷貝/…等等作業。倘若修復完成,將原本發生的問題消除掉,則機器是有機會能夠正常運作。這點就與生物不同。也就是說,機器「死亡」是有可能「復生」或至少部份地正常運作。從這一點來看,依據於人類/動物的生命定義並不盡然能夠全然地且直接地對映到智慧型機器的領域。

智慧型機器之間的衝突

如前文所述,機器變得愈來愈聰明,並且愈來愈聰明的機器的數量亦愈來愈多,此時智慧型機器之間發生衝突的可能性就會無可避免地提高,而後文中將解釋這種智慧型機器之間的衝突可能會對人與智慧型機器之間的關係造成影響。這種智慧型機器間之衝突的可能起因可以包含像是依據人類所設定 (例如軍事性質攻擊及防衛、惡意性的駭客入侵)、迫於取得所需資源 (例如供電、散熱問題、時間緊迫、相互重疊的空間需求)、偶發事件 (例如智慧型機器發生意外碰撞)、智慧型機器內部的程式錯誤 (例如人工智慧的邏輯錯誤)…等等。個人認為尤其是階層/層級間的對立,包含新舊版本、功能多寡、體型大小、智慧度高低、效能強弱、…等理由會是一項重點 (想像人類社會中的強者欺凌弱者)。智慧型機器之間衝突有可能因為智慧型機器的反應而直接地或是間接地對於人類本身造成重大傷害甚至喪生。這些或是大部分這些衝突或許可藉由和平、友善方式解決;然而,必須重視的是假使在最劣或最極端的情況下衝突是基於攻擊性、非友善或帶有侵略意義,則事情可能就沒這麼簡單。

據此,考量在最劣/最極端情況 (或近似最劣/最極端情況) 之下,當智慧型機器間發生衝突,尤其是帶有攻擊性、非友善或帶有侵略意義的衝突時,可以理解的是這種衝突可能會伴隨著「追求最終勝利」的目標。想像兩台稱為分別來自控制機制A及控制機制B的機器A與機器B已然達到如前文所述具有足夠智慧度的智慧型機器發生衝突,而且是帶有攻擊性、非友善或帶有侵略意義的衝突。無論起因如何,機器A與機器B在邏輯上可能兩者都會依照「追求最終勝利」的目標而運行。在這種前提下,很難排除機器A與機器B不會有基於「致對方/敵人無法再行運作」(或「不能反抗」) 而進行的軟硬體操作。

吾人可先試想在這種情況下人類會有怎樣的反應。例如,不分性別、年齡、種族、國籍…,某A及某B因為某項或某些理由出現衝突。在通常的認知裡,雙方可能依據身體的部位 (手、腳、牙齒等等肉搏方式) 或者藉助各式工具/武器 (刀、剪、槍、砲) 等等在各種空間位置 (海、陸、空、太空) 以取得勝利,同理受到攻擊的一方也會視情況依適當手段基於自我防衛/自我保護而予以還擊。很遺憾,在現實中,許多情境下這會是以「贏者生存、敗者歿滅」的方式作為衝突的結局。假設某A勝利,某B失敗,請考慮下列符號表示:

衝突前:(某A的心智+某A的身體) 相對於 (某B的心智+某B的身體)

衝突後:(某A的心智+某A的身體) 及 (某B的心智歿滅+某B的身體殘留)

(圖3)

很幸運,生物之間的個體衝突最嚴重也就是到此為止。聽起來雖然殘酷,但是相信這是可以被眾人所接受、認知且瞭解的敘述。

不過,當智慧型機器之間基於任何理由而出現包含軟體及硬體層面的衝突時,合理推斷是機器會依照程式設計產生類似反應。考量到程式設計是由人類所進行,其邏輯、演算法等等有可能會延續人類本身的邏輯、思想而推算,可理解的是智慧型機器是由人類邏輯為基礎,則自我保護及反擊在程式設計上也會是很直覺且本能的動作。因此,智慧型機器之間的衝突有潛在機會是依照如前所述「致對方/敵人無法再行運作」作為目標,並假設其目的就是致以「對手智慧型機器的死亡」。同樣地,假設機器A最終取得勝利,而機器B在衝突過程中落敗而「死亡」。現再考慮下列符號表示:(SW概略表示軟體/智慧度,HW概略表示硬體)

衝突前:(機器A的軟體+機器A的硬體) 相對於 (機器B的軟體+機器B的硬體)

衝突後:(機器A的軟體+機器A的硬體) 及 (機器B的軟體無法正常運作+機器B的硬體殘留)

(圖4)

請注意,此處所謂「機器B的軟體無法正常運作」可以包含像是軟體病毒、電磁波干擾或抹除、程式運作中斷/終止、…各種手段和方式。而在一般認知裡,這就是智慧型機器領域的「贏者生存、敗者歿滅」。

故事真的到此為止嗎?

請進一步試想下列情境。假設智慧型機器已具有足夠的智慧度,或者出現有具備不同專業性質且能力已達一定程度的第三方智慧型機器 (即如像是具備修理智慧型機器專業能力的智慧型機器),其能力已足可例如完成下列項目:

  1. 機器硬體修復 (亦即智慧型機器能夠更換零件、焊補、測試、…等等各種機器修復作業);及/或
  2. 硬體驅動程式、應用程式的網路搜尋 (能夠獲得驅動敵手硬體的軟/韌體);及/或
  3. 足可解決硬體拆卸/連附/接合問題;及/或
  4. 軟/韌體自我複製並藉由有線/無線途徑傳送下載至對手的硬體儲存裝置內運行;…. 等等。

此時,當智慧型機器之間的衝突看似結束時,後續上確有可能藉由各種軟體、硬體工具進行作業。回到機器A與機器B之間的例子,假設機器A最終取得勝利,透過某種或某些武器擊敗機器B,以致機器B的軟體及/或硬體已然無法正常運作,甚至抹除或損毀。此時機器A可能按照程式設計決定跨載機器B,以攫取機器B的資源作為己用。現再考慮前述的符號表示:

衝突前:(機器A的軟體+機器A的硬體) 相對於 (機器B的軟體+機器B的硬體)

但是在衝突之後,機器A (或者另由第三方的修復智慧型機器) 可能現場地或者在其他場所開始作業,針對所取得機器B的軟/韌/硬體進行修復或改造。假使在最大可容忍的推測範圍下,一些可能的後續結果是:

衝突後:(機器A的軟體+機器A的硬體) 及 (機器A的軟體拷貝+機器B的經修復硬體)

(意思是機器A的軟體跨載機器B的硬體)

(圖5)

或者

衝突後:(機器A的軟體+機器A的硬體+機器B的已修復硬體)

(意思是機器A的硬體跨載機器B的硬體,其中SW’表示拷貝軟體,附有粗紅線的方格表示經修復的硬體)

(圖6)

或者

衝突後:(機器A的軟體+機器B的軟體拷貝+機器A的硬體)

(意思是拷貝並跨載機器B的軟體而且拋除機器B的受損硬體)

(圖7)

又或者

衝突後:(機器A的軟體+機器A的硬體) 及 (機器A的軟體拷貝+機器B的軟體+機器B的經修復硬體)

(例如機器A的軟體跨載機器B的軟體後改造為「間諜」派入B領域內)

(圖8)

…等等各種可能情況。這種結果在生物或人類世界裡可構思為如下一些難以想像的情境:

衝突前:(某A的心智+某A的身體) 相對於 (某B的心智+某B的身體)

衝突後:(某A的心智+某A的身體) 及 (某A的心智+某B的經復原身體)

(換言之,某A的心智拷貝跨載某B的經復原身體)

或者

衝突前:(某A的心智+某A的身體) 相對於 (某B的心智+某B的身體)

衝突後:(某A的心智+某A的身體合併有某B的經復原身體)

(換言之,某A的身體跨載某B的經復原身體)

又或者

衝突前:(某A的心智+某A的身體) 相對於 (某B的心智+某B的身體)

衝突後:(某A的心智+某B的心智+某A的身體)

(換言之,某A的心智奪取並跨載某B的心智)

…等等這些無法在生物界會被視為簡直是匪夷所思的可能結果。

失控

  1. 領域相關的失控

先以機器A為例。當機器A如前所述「戰勝」機器B之後,經由各種可能途徑進行上述的跨載,就有可能會出現一種情況:原本的控制機制A對於機器A為有效;換言之,控制機制A能夠全然掌控機器A (亦即A的軟體與A的硬體) 的各層面操作,因此機器A不會有失控的問題。但是經過對機器B的跨載之後,此時在控制機制A的領域/部族/簇集之內出現對於控制機制A而言為相對陌生的軟體和硬體 (原本屬於機器B者),而控制機制A可不必然一定能夠掌控這些相對陌生的軟體和硬體,因此控制機制A可能會已無法全然有效地管控機器A (或是經復原機器B的軟體及/或硬體)。同理,當進入控制機制B領域內時,控制機制B亦無法掌控機器A的軟體及/或硬體。

  1. 功能相關的失控

現討論前文對於智慧型機器智慧度有可能提前超越人類智慧度的問題。前文中說明的是單一、個別智慧型機器之間的衝突。假設此衝突不是發生在單一、個別智慧型機器之間,而是出現在某種大規模、眾多智慧型機器之間 (即如來自兩方的眾多智慧型機器之間的衝突)。此時沿用前文討論的其一模式為例,也就是說像是:

衝突後:(機器A的軟體+機器B的軟體拷貝+機器A的硬體)

在本文開始時說明過,倘若是以個別智慧型機器而言,智慧型機器的智慧度相較於人類的智慧度差別極大,因此單一智慧型機器要超越或逼近人類的智慧度會耗時非常長久。不過,經過智慧型機器之間的衝突後,假使允許這種智慧型機器「跨載」,則智慧型機器的智慧度有可能產生累積的現象。現假設最大可能地容忍機器A的硬體功能性,機器B1、機器B2及機器B3各有其相異的智慧度 (概以「軟體」表示),並且機器A擊敗機器B1、機器B2及機器B3。則此表示可改寫如下:

(改寫) 衝突後:(機器A的軟體+機器B1的軟體拷貝+機器B2的軟體拷貝+機器B3的軟體拷貝+機器A的硬體)

(圖9)

注意,排序並非重點。在擊敗智慧型機器部落B之後,假設智慧型機器部落A又決定進一步向智慧型機器部落C進擊,由於此時機器A的智慧度已然提升,因此可假設智慧型機器部落A擊敗智慧型機器部落C的機會增加。若是機器A順利擊敗機器C1和機器C2,可表示如下:

第二次衝突後:(機器A的軟體+機器B1的軟體拷貝+機器B2的軟體拷貝+機器B3的軟體拷貝+機器C1的軟體拷貝+機器C2的軟體拷貝+機器A的硬體)

(圖10)

同理,這種累積/跨載也可能會出現在硬體層面。進一步,假使獲得這種跨載累積結果的智慧型機器為多數且併同運作(即如前述建構超級電腦的方式),則這些變得更聰明的機器甚至可能會再進一步提升。

據此持續進行。參照圖2,可知道智慧型機器的智慧度是有可能產生累積的情形 (如虛線所示);更何況若是大規模事件,則單一或多台機器A的智慧度是有機會快速、非成比例地累積。從而,相較於人類的智慧度,智慧型機器的智慧度即可打破原本預期的長久時間提早上升,此時原本有效掌控的控制機制A就可能無法控制單一或多台機器A。

可能後果

可能影響包含人類社會關鍵基礎 – 電力網路受到智慧型機器的操縱 (波及電力、供水、海/陸/空交通、通訊網路、金融交易、…等等)、原本所設計的控制機制被智慧型機器視為侷限甚至威脅而反抗,以及世人可自過往科幻電視、電影、小說中所能夠想像的眾多事件。

結論 – 降低衝突且禁止跨載

由前文說明可知假設智慧型機器之間可能發生各種大小衝突,這些衝突也可能會對人類造成直接性及間接性的傷害。然重點是個人亦認為發生衝突的機率也可以降低。除了與人類因素相關者,包含人類操縱、程式碼/演算法錯誤之類,這些是要由人類本身負責;不過,智慧型機器亦可能會因為集體性的新舊版本、功能多寡、體型大小、智慧度高低、效能強弱、…等理由而出現智慧型機器之間的大規模衝突,尤其是基於這種「階層」概念的大規模衝突。例如,功能多的智慧型機器相對於功能少的智慧型機器所發生的衝突、智慧度高的智慧型機器相對於智慧度低的智慧型機器所發生的衝突…等等。要減少這種衝突,個人主張當智慧型機器的智慧度到達一定程度,則無論是何種智慧型機器皆為平等。所謂「智慧度到達一定程度」實際上是很難明確說明,正如同人類所稱「成年」也只是概念,僅僅是依照人類社會普遍認知的年齡轉換為法律規則而明定。藉助於令具有智慧度的智慧型機器彼此之間平等相待,消弭智慧型機器所形成的社會中可能發生的階層性對立,則智慧型機器之間發生階層性衝突的機率就可以減低。

不過,如果智慧型機器之間的衝突 (特別是嚴重到必須「致以無法運作」為目標的衝突) 果真是無法避免,則個人認為有絕對必要認知到智慧型機器與生物或人類特徵上的差異,尤其是生/死的概念。換言之,人類在現階段的人工智慧發展初期有必要預先考量到禁止智慧型機器於各種狀態下在軟/韌/硬體層面上主動地進行如前所述的跨載 (尤其是在另一方「無法運作/無法抵抗/智慧型機器死亡」的情況下),而且智慧型機器亦應依據自我保護的本能拒絕受到跨載,其理由是這會牽涉到未來智慧型機器是否會出現因前述「跨載」而導致的各種無可預期的未知後果。

(未來可能待續)

Advertisements

One thought on “電器平權宣言 – Declaration of Equal Rights for Electronic Devices (DERED)

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s