死穴！為什麼ChatGPT無智能？諾貝爾獎得主的邏輯證明！主持人全程傻眼！物理學家羅傑·彭羅斯犀利點評AI死穴。為什麼哥德爾不完備定律說明，真是無法證明的？聽懂了又好像沒聽懂！你聽懂了嗎？
小編：Gemini Flash
羅傑·彭羅斯
太厲害了，太厲害了。因此，規則確實無法證明這一點。如果它是假的，那麼它是可以被證明的，因此它是真的。所以它必須是真的，而且不能被規則證明。我發現這很神奇。[主持人:但我仍然不明白為什麼人工智慧不能創造自己的規則。]
AI 不是真正的「智慧」
嗯，你必須小心。首先，這個名字就不對。這不是人工智慧。這不是智力。智力將涉及意識。我一直是這樣一種觀點的堅定支持者：這些設備是無意識的，而且它們不會有意識，除非它們帶來了一些其他的想法。電腦，它們不是有意識的，它們都只是可計算的概念。我認為當人們使用「智慧」這個詞，他們的意思是有意識的東西。
我的意思是，你看，我在完成課程後發展出了自己的想法。我在劍橋讀研究生時，參加了三門課程，但這些課程都無法完成我應該做的事情。一個是關於廣義相對論的邦迪，另一個是關於量子力學的狄拉克（一位令人尊敬、非常傑出的數學家），第三個主題是數理邏輯。我從中了解了圖靈機和計算機的可計算性概念。我知道「可計算性」意味著什麼。
哥德爾定理的啟示
我還學到了哥德爾定理。我發現哥德爾定理令人驚嘆，因為它告訴你，有些事情是超越規則的。讓我說得更清楚。哥德爾所做的，非常聰明。他所做的是發表一個聲明。
假設你正在嘗試發展你的數學證明方法。在數學中證明定理是什麼意思？你怎麼知道這真的是真的？好吧，你證明了這一點。證明是什麼意思？這是否意味著，你有一套規則，如果你遵循這些規則，那就是證明？現在，你怎麼知道這些規則只會給你真理？
[主持人:也許人工智慧能創造自己的規則。]
不，不。你看，這要小心。這就是重點。我從一位名叫斯特的邏輯學家那裡學到了一件關於哥德爾定理的重要事情。哥德爾定理非常聰明，你做出了一個聲明，這個斷言是「這些規則無法證明它」。而你聰明的地方，就是讓它做到這一點。它說：你給出你的規則，你將它們視為證明的規則，你可以將它們放在電腦上。所以這意味著它們是計算規則。
「理解」與「意識」
現在我知道有些東西是你無法放在電腦上的。我從這門課程中了解到，有些東西是不可計算的。數學中有些東西是不可計算的。現在，可計算是什麼意思？這意味著你可以製造一台電腦來執行它。圖靈對計算機有一個定義，還有其他幾個，例如丘奇和庫里對計算也有自己的定義。事實證明，它們都是等價的。所以有一個可計算性的普遍概念，這就是電腦可以做的事情。
[主持人:也許這只是語言問題。]
這不是語言問題。你創造了你的新語言。當然你可以做到。你創造你的新語言，這就是你能做的。
讓我描述一下哥德爾定理的工作原理。哥德爾定理說：你構建了一個陳述，它的含義是「我無法透過這些規則來證明」。它確實說了這一點。然後你看，好吧，也許它能被規則證明。如果它能被規則證明，那麼它一定是錯的。我說錯了，反過來也無所謂。假設它是假的，那麼這意味著它可以根據規則被證明。如果規則可以證明，你已經理解了你說的規則，你看了所有規則並答應了它們。沒關係，當然，如果你遵守這些規則，那就是真的。這意味著你相信這些規則只會給你真理。所以它確實無法被規則證明。如果你看到它是錯誤的，那麼它就可以根據規則被證明，因此它是真實的。所以它必須是真實的，並且無法被證明。我發現這很神奇。
[主持人:但我仍然不明白為什麼人工智慧不能創造自己的規則]
因為它不知道它們是真實的。你看，這就是哥德爾定理的全部意義所在。就我所關心的哥德爾定理而言，重點是如何超越規則？這就是你透過理解它們來做的事情。你理解它們為什麼是真的。不是你使用規則，而是你明白為什麼使用規則只會給你真理。這就是你如何透過知道它們為什麼是真的，來證明超越規則的事情。
現在，知道為什麼它們是真的，這是什麼意思？這意味著你理解它們。理解是什麼意思？你必須對它們有意識。你看，你的措辭很清楚。這意味著你必須知道自己在做什麼。你必須知道它們為什麼是真的。並不是說它們是真的。你可以被告知它們是真的。你可以在學校學習，認為它們是真的。這不是重點。你必須知道為什麼它們是真的。知道為什麼它們是真的需要理解它們。理解它們需要意識到它們。現在，這需要你看到，我要說的重點是，意識使你能夠超越規則。
AI 只是無意識的計算
你明白為什麼它們是真的，這讓你超越了它。你看看哥德爾定理的作用。它告訴你如何利用你對「規則為何是真的」的理解來超越規則。
[主持人:你認為人工智慧是我們可以在單一情況下使用的簡單工具嗎？]
不，我不說它是單一的。這顯然是無限的。不，顯然這不是重點。關鍵是它不知道自己在做什麼。
人工智慧仍然如此。你和一個人工智慧的東西說話，它不知道它在做什麼。它確實有，它從經驗中學習，如果你願意的話。人們混淆了這個故事。故事是他們已經在計算。問題是電腦變得如此強大，以至於人們失去了正在做的事情的線索。我認為圖靈離它不遠了。你看，他在某種程度上是一個有點困惑的人，因為他不清楚他相信什麼，但他確實稱這件事為「圖靈測試」。
你如何決定一個實體是有意識還是無意識？你會和它對話嗎？你和它說話。
[主持人:也許人工智慧是人類存在的一個新領域。]
不，它缺少一些東西。我認為是的，這就是你看到的麻煩。我的意思是，顯然它有一個角色可以發揮作用，我不會說它沒有角色，但你一定不要混淆它有一個角色要扮演的事實。它要做的是，憑藉計算能力，你們的計算機現在已經變得如此強大，以至於它們可以做的事情遠遠超出人類在計算方面的能力。你可以獲取大量數據，你可以分析這些數據，然後看看這些數據是什麼。根據數據中以前的事情，說和做這件事。還是不，這就是人工智慧，它不明白它在做什麼。理解與計算是不同的。
In accordance with things in the data or is it not, and AI that's all it does, it doesn't understand what it's doing, and understanding is different from computing.
