「把一個東西一直切一直切一直切，切到最後會是什麼？」～～這是一個「就算不是哲學家，也能夠輕易提出」的問題。
而答案？說穿了，截至今天為止，人類的答案是「不清楚」。本來說是分子，後來發現是原子、然後發現了粒子。然後現在正在試圖了解「粒子可以分成哪幾種」、「拿他們來加速後碰撞會怎樣」之類的研究。
之一
AI到底有沒有「自主意識」？要「精確地」、「非常科學的」回答這個問題，就得要先清楚地定義清楚「什麼是自主意識」。
什麼是自主意識呢？「自己可以控制自己的意識」？那麼，那個「自己」的定義是什麼？是「生命」嗎？是「思考」嗎？那麼什麼是「思考」？是大腦突觸裡面一連串神秘的電子作用之後就會產生的東西嗎？還是靈魂？那靈魂又是什麼？
追根究底往下問，就會發現：我們無法清楚定義「自主意識」。就如同哪怕我們把分子切割成原子、然後又找到粒子、然後甚至還進一步研究粒子能不能被細分……而，到目前為止，人類的答案是「不清楚」。
簡言之，直到今天為止，人類現有的知識有其極限～～回答不了「宇宙如何從無到有地誕生」、「什麼是生命」、也回答不了「粒子是由什麼組成的」。
所以我們只好退而求其次地，選擇了另一種方式去回答這個問題～～「什麼是自己意識？就是，矮油，你知道的，看起來像是由自己在思考、由自己在決定的，就是自主意識了」。
用這種方式去研究問題、回答問題，當然不符合這幾百年來的所謂「嚴謹的科學精神」。又或者更精確一點地說，這根本不是在「研究問題」，而「只是」藉由一種更像是「描述現象」的方式，去「觀察現象」、「歸納現象」，然後「推演出一個乍聽之下言之成理的原因」而已。
之二
人工智慧演化到今天，到底會不會對人類的文明帶來毀滅性的影響？特別是AI會不會演化出「自主意識」，然後造人類無法想像的災難？
關於這個問題，有很多很多真正懂演算法、懂電腦科學、真正學有專精的專家，甚至包括許多頂尖的學者，說「根本不可能，根本瞎操心」。
而我所注意到的，卻是：更有另外一些（一小部分？）很頂尖（甚至是地球等級的那種頂尖）的學者，大聲疾呼「真的已經很危險了」。
我在「猜」，兩派意見之所以會有差異，是因為：「覺得不會」的那一派，秉持的是「嚴格定義下的科學精神」，然後從演算法、從生命科學、甚至哲學辯證……等等各種角度切入，去論證「AI明明只是演算法」、所以「明明就不可能」。
而「覺得很危險」的那一派，則是更傾向於從「能不能先不管什麼嚴格定義下的科學精神？從最近一兩年AI的種種表現，明明看起來就已經『看起來快要有』、就明明很危險了啊！」這樣子的態度出發，並且希望能夠避免潛在的災難、希望能夠在「人類認識災難的組成粒子與定義」之前，就開始阻止災難的發生。
之三
生命的本質是什麼？不清楚。
根據目前的人類科學理論，生命是「演化」而來的；但是從「無」到「有」的那個瞬間，又是如何的狀態？不清楚。
我主觀猜測/相信/迷信的答案，是：「湧現」。那不是用「化約再度化約」、「切割再切割」、「組合再組合」就可以說明的事情。
也因此，「AI的自主意識，正在以人類無法掌握的速度，急速湧現中，所以很危險」～～這是我的假想。
Charlybalabala 