人工智能發展:更高級的人工智能更富侵略性或者更好斗
每當人們談論起人工智能,大家都會使用一些詞匯諸如”smarter”, ”faster”, ”effective”,” “precise”等。
強人工智能是有可能實現的,但是現在的技術離強人工智能的距離還非常遠。原文中第一個圖很有意思,就是技術發展曲線。全文的所有論據,都建立在“指數發展”這個假設上。指數曲線在接近0的時候是類似線性的,不光是指數,多項式函數、對數函數、甚至多重指數在小范圍內也可以用線性擬合得很好。而且不同的指數和在0附近都很接近,但對“奇點”何時到來的估算可能誤差千百年。如果按照“指數發展”來算,而且樂觀的估計指數的系數,那你妹的什么技術都不是問題啊,人類分分鐘占領全宇宙。我更相信的是,科學發展是有爆發期和穩定期的。一個技術突破會帶來難以想象的繁榮,之后的科學發展都比之前的更快,但不會天天都是技術突破。比如,二十世紀上半頁的物理學十分輝煌,相對論和量子力學的建立引發了一系列技術革命。但從那以后物理學一直很平穩。楊振寧就說過他趕上了物理學的好時候,讓他現在做學術,可能就不會選物理學了。要是科幻作家站在1950年前后,用指數發展估計物理學的發展,那到今天我們早就弄出大統一理論搞定核聚變發電了。又比如人均壽命從先秦時的二十幾歲發展到現在的80歲,如果用指數擬合,那過幾十年是不是要活幾百歲了啊
支持人工智能指數發展的路線包括:抄襲人腦,進化算法,電腦自己解決。我不知道這幾條是不是對應類似machine learning, neural network, evolutionary algorithm, program synthesis之類的領域。如果是的話,這幾個領域我都有一點粗淺的了解。歡迎大神批評補充。比如machine learning和neural network, 核心都是回歸和數據擬合,離智能化還很遠。大牛Andrew Ng的網課,Coursera - Free Online Courses From Top Universities光靠這個實現強人工智能我是不信滴。關于evolutionary algorithm,去年有一個大牛的talk,推薦大家看一下。全篇都是技術討論沒有涉及“奇點”,大家可以自己判斷現在的研究前沿離真正的強人工智能還有多遠。從43分鐘開始:Dana Scott: VSL Opening & Christos Papadimitriou: VSL Keynote Talk "Computational Ideas and the Theory of Evolution" on Vimeoprogram synthesis里,現在計算機能自己生成的程序還很弱智,而且算法復雜度都是exponential time甚至doubly exponential time(比如)的。用的方法本質上是先靠程序員輸入一個程序模板和參數空間,然后用各種方法遍歷所有可能的程序,看看是不是滿足要求。這其實引出了一個很有意思的問題:現在我們CPU的計算能力是指數增長的,但按照今天的算法,許多真正有趣的問題都是需要“指數時間”,甚至多重指數時間才能解決的。那么,我們實際解決新問題的速度一定是指數發展的嗎?讓該領域內的專家來介紹現在的研究成果和面臨的巨大問題,比起作家自己泛泛而談要好得多。
其他反對的觀點其實也不少,比如可以參考這篇文章 Hyping Artificial Intelligence, Yet Again等有空我可能會翻譯一下。