Jak sprzęt padnie, to i ty padniesz, a twoja kopia to jedynie twoja kopia, bo ty sam przestajesz istnieć.

Dobrze się czujesz? Głowa Cię nie boli?
Wszystko normalnie?
Dobrze się zastanów i powiedz, czy dzisiaj czujesz się bardziej oryginałem czy kopią?
To miałoby być jakoś odczuwalne?
Gdybym Ci powiedział, że w nocy budynek, w którym spałeś, został skasowany przez spadający samolot, a Ty jesteś tym, co przywrócono z kopii, to co, nagle uznałbyś, że nie jesteś sobą, tylko jakąś "kopią"?
Każdego ranka sprawdzasz, czy komórki w mózgu nie zostały podmienione?

Jak potkniesz się, nieszczęśliwie upadniesz, uderzysz w głowę i na 30 minut stracisz przytomność, to jak się ockniesz, co powiesz o sobie? Jestem kopią? Jestem oryginałem? Jestem sobą?

A jak Ci padnie 1% mózgowego sprzętu i ten tylko fragment zostanie wymieniony na nowy równoważnik, to co, przestałeś istnieć?
Potargujemy się na procenty?

Chyba nie skumałeś istoty problemu. Nieważne w tym momencie, co myśli sobie kopia. Dla dyskutowanej kwestii istotne jest co będzie sobie myślał poddajacy się kopiowaniu, ten zaś nie ma specjalnego powodu, by utożsamiać się z ową kopią, a co za tym idzie wierzyć, że nie umrze.

Jak uruchomię hipotetyczną maszynę, która odczytuje i wypisuje na ekranie myśli, jakie tworzy monitorowany przez nią biologiczny mózg, to będzie można powiedzieć, że w sposób pewny stwierdziliśmy obecność świadomości?

Gott im Himmel! Taka technika teraz jeszcze nie jest dostępna, więc...

Wyobraźmy sobie, że niejaki Isomer, potomek Isonera, wyrusza z Ziemi na Plutona. Po pewnym czasie na Ziemię dociera wiadomość, że Isomer zginął w katastrofie. Co robią krewni bądź przyjaciele? "Odtwarzają Isomera z kopii", bo sam się przecież nie odtworzy, jako że nie żyje. Tymczasem wiadomość okazuje się nieprawdziwa, zaszła pomyłka podczas transmisji, a Isomer dotarł bezpiecznie na Plutona. Która osoba jest Isomerem: ta na Ziemi czy ta na Plutonie? A może obie? Obie, naturalnie "czują się sobą", ponieważ każdy, kto ma świadomość, czuje się "sobą". Ja czuję się sobą, ErgoProxy także czuje się sobą, ale to nie znaczy, że on jest mną lub odwrotnie.

Co w takim razie z Isomerem na Ziemi? Jest sobą w takim samym sensie, w jakim każdy z nas jest sobą. Tylko że to niewiele daje w kwestii tożsamości oraz ciągłości istnienia Isomera, czyli jego nieśmiertelności. Czy Isomer przebywający obecnie na Plutonie uznałby Isomera na Ziemi za siebie samego? Oczywiście, że nie. Przecież po powrocie stwierdziłby np. "To ja zwiedzałem Groty Hersego na Plutonie. Ja wciąż mam na sobie kombinezon, a on, witający mnie na kosmodromie, ma garnitur".

A jeśli, nie dowiedziawszy się o pechowym komunikacie i jego konsekwencjach, dwa dni potem Isomer zginie w wypadku na Plutonie, to co wówczas? Żyje nadal, bo na Ziemi żyje wcześniej odtworzony? A gdyby jednak dowiedział się o odtworzeniu swojej kopii przed tym, zanim faktycznie zginął? Czy pomyślałby: "Co mi tam ryzyko! Nawet jeśli tu przypadkiem zginę, to i tak będę żył nadal, odtworzony z kopii. Ba! przecież ja już żyję odtworzony -- mianowicie na Ziemi, więc nawet nie ma potrzeby odtwarzania"?

Zatem czy po wypadku w Grotach Hersego Isomer, który wyruszył z Ziemi zginął czy też żyje nadal?

"Materiał do przemyślenia" (Stirlitz, "Siedemnaście mgnień wiosny"):

Żebym przestał istnieć, musiałoby paść, czy też wymiemić 100% mózgowego sprzętu natomiast jeśli tylko 1%, to żyje sobie nadal

Akruk ma rację, czytajcie Lema, czytajcie Lema bo warto!
Nie powiem na którym ale na którymś z wątków ktoś mądry twierdził, że świadomość bierze się z pamięci. A skoro pamięć bierze się z sieci neuronowej to można spodziewać się, że przy odpowiednio dużej, złożonej sieci "neuronowej" SI świadomość też się pojawi. Co z tego wyniknie nie wiadomo bo u ludzi świadomość kształtuje się równocześnie z rozwojem społecznym. Co byłoby społeczeństwem dla Si?

To jak ktoś ma amnezje, i przez to nic nie pamięta, to wtedy już u tego kogoś, nie ma świadomości?

Jeżeli jest całkowita tzn. dotyczy i przeszłości i zdarzeń bieżących to wydaje się, że tak właśnie jest. Patrzysz w lustro i nie poznajesz tej twarzy bo nie pamiętasz, że widziałeś tę twarz już milion razy, jeżeli rozglądasz się dokoła i nic kompletnie nie kojarzysz bo nie pamiętasz kompletnie nic - to nie masz w głowie żadnego obrazu świata w tym obrazu siebie. Amnezję rozumie się zwykle jako wsteczną, ograniczoną czasowo, nie o tym tu mówimy, mam na myśli teoretyczny przypadek całkowitej i zupełnej utraty wszystkich pamiętanych zdarzeń i całkowitej utraty zdolności zapamiętywania w jakikolwiek sposób.

I również nie ma wtedy świadomości, że istnieje?

Nie ma.

Zanim zaczniesz snuć takie tożsamościowe opowieści, musisz sobie najpierw odpowiedzieć na pytanie: czy utrata świadomości jest śmiercią czy nie?

Czyli jak nagle wymienimy 99,5% sprzętu to nadal sobie istniejesz i żyjesz, prawda?

Jeśli chodzi o ludzki mózg, to takiego czegoś nie da sie zrobić, natomiast odnośnie jakiegoś sztucznie wytworzonego mózgu, w którym można by robić takie rzeczy, to wtedy oczywiście że tak po takiej wymianie, nadal bym sobie istniał.

No to co Ci przeszkadza te 0,5%?
Może zejdziemy do 0,1% albo 0,000001%?
Albo do pojedynczych cząsteczek chemicznych.