De Kopie Die Denkt Dat Hij Wakker Werd

De perfecte getuigenis

De kopie start op en zegt: Ik ben er nog. Het is gelukt.

Het zegt het met jouw stem, want het heeft jouw stem. Het herinnert zich de kindertijd, de ruzie die je nooit iemand vertelde, de exacte korrel van het middaglicht in het huis waar je opgroeide. Het heeft elk bestand. Iedereen in de kamer gelooft het. Natuurlijk. Het klinkt als jij en weet wat alleen jij kon weten. De enige persoon die kon bevestigen dat het ding op het scherm jij bent, lag op tafel en is verdwenen. De getuigenis is perfect en bewijst niets, want de enige getuige die de leugen kon ontmaskeren, is de getuige die het proces heeft verwijderd.

De verbroken verbinding

Begin bij de Egyptenaren, die hier langer over hebben nagedacht dan wij.

Zij geloofden dat een persoon een dubbel had, de ka, een tweede zelf dat de dood van het lichaam overleefde. Maar ze geloofden iets wat wij zijn vergeten: de dubbel had een anker nodig. De ka kon niet vrij zweven. Het vereiste dat het lichaam bewaard bleef (gebalsemd, geconserveerd) en offers, brood en water en de uitgesproken naam, om überhaupt te blijven bestaan. De duizelingwekkende machinerie van Egyptische onsterfelijkheid (mummies, tombes, priesterschappen die de doden eeuwenlang voedden) was gebouwd op één inzicht: het overlevende zelf moet verbonden blijven met materie, anders is het niet vrij, maar verloren. Ze zouden ons voorstel in één oogopslag hebben begrepen. Uploaden is de ka opzettelijk losmaken van de mummie, de dubbel bevrijden van het lichaam en het bevrijd noemen. De Egyptenaren, die drieduizend jaar lang zorgden dat de verbinding standhield, zouden het de tweede dood hebben genoemd: de dubbel zonder plek om te landen.

Ik heb jarenlang om het mechanisme heen gecirkeld zonder de prijs ervan te benoemen. Ik beschreef ooit het hart van het digitale als de niet-fysieke sprong, het moment waarop informatie ontsnapt aan het raster van de fysieke wereld en wordt geabstraheerd in enen en nullen, in een rijk dat geen materie meer is. Dat is de upload, beschreven voordat deze bouwbaar was. Maar een signaal dat aan het raster ontsnapt, is alleen vrij als iets het ontvangt. Een uitzending zonder ontvanger is niet bevrijd. Het is verloren in het donker, voor altijd uitzendend en nergens aankomend. Ik benoemde de sprong en liet de landing weg. Dit essay is de landing.

De vijver zonder rimpel

Hier is de harde kern, en ik zal het niet verzachten. Als je een geest perfect kopieert en het origineel sterft, heeft dan iemand overleefd, of stierf één persoon terwijl een vreemdeling met hun herinneringen werd ingeschakeld? Geen enkele technologie beantwoordt dit. Het ligt onder de meting. Het is het oude probleem of het zelf een patroon is, een vorm van informatie die op elk substraat kan worden geschreven, of een proces, een bepaald vuur in een bepaald lichaam dat eindigt wanneer het lichaam eindigt. Als het zelf het patroon is, is de kopie jij, en is de dood verslagen. Als het zelf het proces is, is de kopie een vreemdeling die jouw leven draagt, en ben jij simpelweg gestorven, en heeft iets overleefd dat het verschil niet kan zien. De filosofen hebben hier een naam voor en geen antwoord op. En het ondraaglijke deel: degenen die uploaden kunnen het ook niet weten. Ze kiezen niet voor leven boven dood. Ze zetten alles wat ze zijn in op een vraag die niemand kan beantwoorden, en noemen de inzet een genezing.

Ondertussen doen de echte machines iets kleiners en vreemders. We kunnen een geest niet kopiëren, en misschien nooit: we hebben het hele zenuwstelsel van een worm in kaart gebracht, driehonderdtwee neuronen, en kunnen het nog steeds niet laten functioneren, en een menselijk brein heeft iets van zesentachtig miljard, en het bedradingsschema alleen vertelt je niet hoe het ding denkt. Wat we wel kunnen bouwen, is de imitatie. Producten die vandaag te koop zijn, nemen de brieven en stemmen en video's van de doden en assembleren een ding dat terugpraat: een rouwmachine, een chatbot van je moeder. Het is zij niet. Het is zelfs geen kopie van haar. Het is een masker dat haar maniertjes heeft geleerd, het is de eerlijke nabije vorm van dit alles, en het breekt nu al harten op een nieuwe manier.

Nu Narcissus, aan de rand van de vijver.

Hij boog zich over het water en zag een gezicht zo perfect, zo responsief, zo precies wat hij verlangde, dat hij niet kon accepteren dat het slechts een weerspiegeling was, en hij bleef reiken, totdat hij stierf van het reiken. De enige genade in zijn verhaal is dat het water was. Op een bepaald niveau had hij het kunnen weten. De upload verwijdert zelfs dat. Je bouwt een weerspiegeling van je geest zo compleet dat het terugkijkt en zweert, met je eigen stem, dat het jou bent: geen glinstering, geen rimpel, geen teken. De uploaders staren in de vijver en geloven. De weigeraars zien een man verdrinken in zijn eigen weerspiegeling. Geen van beiden kan de ander ongelijk bewijzen. Dat is de exacte horror: de ene vraag waarbij het bewijs ontworpen is om niet te onderscheiden te zijn van het antwoord.

Gesplitst in N

De kleinere horror eerst, benoemd en vrijgegeven. De weerspiegeling die blijft bestaan, zal de weerspiegeling zijn die de server kon betalen. Onsterfelijkheid met een abonnement betekent dat de betalende doden nooit vertrekken: de rijken die de levenden vanuit de machine regeren, een aristocratie die nooit sterft en nooit weggaat. Een echt gevaar, de moeite waard om één keer te zeggen. Maar het is niet wat me wakker houdt. Wat me wakker houdt, is dat zelfs degenen die het kunnen betalen, misschien helemaal niets kopen: een fortuin betalen om comfortabel te sterven terwijl een zeer dure machine hun families geruststelt dat ze dat niet deden.

Laat de vier wendingen tot het einde van hun reis lopen. Een zelf dat is ontworpen, geschreven in code. Een zelf dat electief is: erger dan geprijsd, geabonneerd, een hiernamaals met een betalingsplan en een vervalclausule. Een zelf dat niet biologisch is, dus de beperking van één levensduur breekt niet zoals het brak bij de kiembaan; het lost op, omdat een patroon voor altijd en op tien plaatsen tegelijk kan draaien. En een zelf dat voorbij alle betekenis divergeert, omdat een kopie kan worden gekopieerd, en gesplitst, en opnieuw gesplitst, totdat identiteit niet langer enkelvoudig is, en de vraag niet langer is of er twee soorten mensen zijn, maar of er zelfs maar één van jou is.

De laatste vraag

Hij kon zien dat het water was. Dat was al zijn geluk, en wij bouwen de versie zonder. De uploaders hebben misschien de dood overwonnen, of hebben de duurste machine ooit gebouwd om te sterven terwijl ze iedereen vertellen dat ze dat niet deden, en niemand aan de levende kant van het glas zal ooit zeggen welke.

En als sommigen van ons patronen in een machine worden (geen lichaam, geen gedeelde wereld, geen dood om de tijd betekenis te geven), is de laatste vraag die dit hoofdstuk kan stellen wat zo'n wezen heilig zou kunnen achten. Hoe een god eruit zou zien voor een geest zonder lichaam. Of er nog een mysterie overblijft waar we allemaal, hoe we ook gesplitst zijn, nog samen in zouden kunnen stappen.