在重新閱讀保羅·克里斯蒂亞諾的《失敗的樣子》後，我陷入了一個 lesswrong 的兔子洞（這本書在曲線上提到，我正在努力理解「失去控制」的情境），天啊，所有的決策理論內容立刻就遇到了停機問題。
判斷給定的程式對特定輸入是否會輸出特定符號是半可決定的，因此等同於停機問題。任何基於「閱讀其他代理的源代碼」的決策理論都因這一事實而崩潰。
事實上，任何*反思性*決策理論都因這一事實而崩潰。tdt等僅在代理人不是圖靈完備的情況下有效。這並不是很有用。
邏輯不確定性的東西還是相當可靠的。
@azsantosk 其實這是一個瘋狂且沒有根據的看法；加入概率使我們從離散轉向連續的設定，這就是消除不可決定性的原因。
這將是一個如此美麗的定理。
@azsantosk 所以我們要麼在圖靈之上，要麼在圖靈之下
@azsantosk 要麼 omega 擁有超計算能力（是個巫師），要麼我們的代理人並不太有趣
@azsantosk 當然，我無法自我修改，以及其他許多在 less wrong dot com 上的各種決策理論所假設的事情。
8,220
22
本頁面內容由第三方提供。除非另有說明，OKX 不是所引用文章的作者，也不對此類材料主張任何版權。該內容僅供參考，並不代表 OKX 觀點，不作為任何形式的認可，也不應被視為投資建議或購買或出售數字資產的招攬。在使用生成式人工智能提供摘要或其他信息的情況下，此類人工智能生成的內容可能不準確或不一致。請閱讀鏈接文章，瞭解更多詳情和信息。OKX 不對第三方網站上的內容負責。包含穩定幣、NFTs 等在內的數字資產涉及較高程度的風險，其價值可能會產生較大波動。請根據自身財務狀況，仔細考慮交易或持有數字資產是否適合您。