viel in een minder foutieve konijnenhol nadat ik paul christiano's 'hoe falen eruitziet' opnieuw had gelezen (het kwam ter sprake bij de curve en ik heb moeite om 'verlies van controle' scenario's te begrijpen) en man, al die besluitvormingstheorie dingen stuiten meteen op het stopprobleem.
bepalen of een gegeven programma een bepaald symbool zal outputten voor bepaalde invoer is semi-beslisbaar en daarom gelijkwaardig aan het stopprobleem. elke op 'lees de broncode van de andere agent'-gebaseerde besluitvorming valt uit elkaar vanwege dit feit.
In feite valt elke *reflectieve* besluitvormingstheorie uit elkaar vanwege dit feit. TDT et al. werken alleen in situaties waarin agenten niet Turing-compleet zijn. Niet erg nuttig.
de logische onzekerheid houdt het echter vrij goed vol
@azsantosk eigenlijk hier is een wilde en ongefundeerde mening; het toevoegen van waarschijnlijkheid brengt ons van een discrete naar een continue setting en dat is wat de onbeslisbaarheid wegneemt
dat zou zo'n mooie stelling zijn
@azsantosk dus of we zijn boven of onder Turing
@azsantosk of omega heeft hypercomputatie (is een tovenaar) of onze agenten zijn niet erg interessant
@azsantosk zeker, dan ben ik niet in staat tot zelfmodificatie en veel andere dingen die verondersteld worden door de verschillende besluitvormingstheorieën op less wrong dot com
8,21K
22
De inhoud op deze pagina wordt geleverd door derden. Tenzij anders vermeld, is OKX niet de auteur van het (de) geciteerde artikel(en) en claimt geen auteursrecht op de materialen. De inhoud is alleen bedoeld voor informatieve doeleinden en vertegenwoordigt niet de standpunten van OKX. Het is niet bedoeld als een goedkeuring van welke aard dan ook en mag niet worden beschouwd als beleggingsadvies of een uitnodiging tot het kopen of verkopen van digitale bezittingen. Voor zover generatieve AI wordt gebruikt om samenvattingen of andere informatie te verstrekken, kan deze door AI gegenereerde inhoud onnauwkeurig of inconsistent zijn. Lees het gelinkte artikel voor meer details en informatie. OKX is niet verantwoordelijk voor inhoud gehost op sites van een derde partij. Het bezitten van digitale activa, waaronder stablecoins en NFT's, brengt een hoge mate van risico met zich mee en de waarde van deze activa kan sterk fluctueren. Overweeg zorgvuldig of de handel in of het bezit van digitale activa geschikt voor je is in het licht van je financiële situatie.