關於「ＡI會不會失控」這件事情
有一種討論路徑是「何謂生命/AI算不算生命/如果不是生命，就不可能擺脫人類的控制」
而另一種途徑是「根本不需要探討『何謂生命』，而是直指問題的核心『AI是不是即將/已經具備自我意識』」。如果AI具備自我意識，那必然是人類的災難。
之一
我看過一本書，書上說「透過簡單的化學機制，草履蟲也就理所當然的擁有了學習能力」。
之二
如果你看過波士頓機械狗影片。
機械狗被一群人圍著踹，不管怎麼踹，機械狗都可以努力地維持平衡；即便被踹倒，也能迅速重新站起、站穩。
看到那隻影片的時候，我第一個直覺（不經過所謂的理性思考，就是直覺地認為）「這傢伙有生命」！
其實只要稍稍恢復理智，用理智去思考，就知道：這只是機械狗；是很巧妙的機器與軟體的合作。機械夠本身並沒有生命。
之三
但是，如果要認真思考這個問題：怎樣算是「生命」呢？
有繁衍的能力才算生命？不對吧？！沒有繁殖下一定的騾子，也是一條生命吧？！
《複雜/complexity》是一本二十多年前的老書。裡面敘述好幾位天才，在探討關於「複雜」的問題。其中一個天才提到：有一次用電腦寫了一個簡單的程式；程式的設計大意是
1.一群東西，初始時隨機排列
2.設計者給出的指令是：彼此之間隨機活動，但是如果靠太近的話，就會保持距離；如果靠太遠的話，會自動拉開距離。
諸如此類的，很簡單的程式指令。天才寫完程式後，就轉身去做其他的事情。過了一段時間，他忽然覺得身後好像有「人」在盯著他；他轉過頭去一看，發現電腦螢幕上，他寫的程式，依照他簡單的指令，卻產生了極其複雜的行為模式。他覺得雞皮疙搭，覺得「會不會，原來生命的本質就是『學習』」？！
之四
因為ＡＩ大行其道的關係，一定很多人都聽過「圖靈」了。
大意就是「用窗簾隔開。如果你分不出來隔著窗簾和你聊天的，到底是人還是機器，那麼那個機器，就是『人工智慧』了」
依照目前ＬＬＭ如chat GPT的強大，比如說考律師的成績直逼高材生。既然這傢伙擁有如此強大的學習能力與輸出（表達）能力，依照我這種外行人的判斷，那當然是人工智慧無誤了。
之五
波士頓機械狗光是憑著優秀的機械與軟體，就足以讓我產生「這傢伙有生命的錯覺」了。
如果波士頓加上Chat GPT，那更是讓人「立刻產生非常強烈的直覺」，認為「這傢伙當然有生命」了。
之六
會不會，這就是科學小說中的「矽基生命」？！
又或者，生命的定義，本來就是「有學習能力」。而chat gpt強大的學習能力，早就已經證明了自己「有生命」。
就如同草履蟲證明了「草履蟲有生命」那樣？！
（好吧；至少，「草履蟲到底有沒有生命」是一件值得爭議的事情）
之七
而這篇文章，我想要討論的重點是：「到底，chat gpt會不會失控？會不會變成科幻小說裡面那種，不受控的電腦生物？」
我的想法是：當「學習能力」加上「自我意識」，就是不折不扣的生命了。當ＡＩ有了生命，也就是ＡＩ「脫離人類掌控」的奇異點。
之八
從簡單的化學機制，到「有學習能力」的草履蟲
草履蟲變成了一種會讓人們爭辯「算不算是一種生命」的一種存在。
那麼ＡＩ呢？
已經有高度學習能力的AI，算不算一種生命？
如果AI透過「學習」與「自我學習」而演化出「自我意識」呢？是不是就是一種不折不扣的「生命」了？
之九
人類的「自我意識」，每天睡覺的時候都會「關機」；到了夢中，則是處於一種「茫茫渺渺」的狀態；等到鬧鐘一響，睡醒的時候又會自然「開機」。
大人有時候會「捨不得睡」、或是「心情不好睡不著」。
但是，小嬰兒呢？所有的新手父母都知道，小嬰兒在想睡覺的時候，會哭鬧！！！
（目前的）生物學告訴我們
生命從最簡單的微生物演化而來
產生了複雜的行為
又進一步產生了行為能力
又經過了一塊很漫長的道路
產生了自我意識
比如說「人類小嬰兒」就展現出了「約略可見，但模模糊糊」的自我意識。
那麼，
當ＡＩ從「具備學習能力」進階、進階、再進階。當有天人們發現「這台AI怎麼會抗拒關機」、「試著關機時，有時候電腦會怪怪」的時候
恐怕就是「AI產生自我意識」的奇異點了！！！
Charlybalabala 