Dżery - masz dużo w tym racji. Dlatego tak istotne jest ogólnoświatowe "ogarnianie" tego, co już się nie da zatrzymać!...

W zasadzie nie korzystam z SI. Ale po przeczytaniu ostatnich postów dochodzę do wniosku, że chyba jednak warto korzystać. Ale na moich warunkach. Czyli tak, jak korzystam z innych źródeł. Na przykład z Wiki. Ale ab ovo. W dawnych czasach rodzice nauczyli mnie korzystania z encyklopedii, leksykonów, słowników. Traktowałem je jak wiarygodne źródło wiedzy Z zaufaniem. Z czasem jednak zacząłem zauważać, że źródła te nie zawsze są obiektywne (np. historia, polityka), nieaktualne (geografia, technika), a w niektórych sprawach nawet tendencyjne. Niedawno pojawił się Internet, najpierw z wielkimi zbiorami informacji na dyskietkach (od 8" do 3,5"), potem CD, pendraki, aż wszystko jest stale online. A prawdziwe źródła stają się enigmatyczne. Nie wiadomo, kto jest autorem, jakim zasobem dysponował.
Pojawiły się coraz większe rozbieżności, jak też instrumentalne traktowanie umieszczanej wiedzy w sieci. W końcu każdy, kto co ś umieszcza w sieci ma w tym jakiś cel. Czasem szlachetny, czasem komercyjny, czasem ideologiczny albo polityczny. Stąd konieczność podchodzenia z rezerwą do wiedzy czerpanej z sieci. Być może z tym przesadzam, ale wypowiedzi SI wzbudzają we mnie jakiś opór. Zwykle w dużej mierze nie zgadzam się z nimi. Ale jednocześnie traktuję jak dobre źródło wiedzy. Wyłapuję zagadnienia, jakieś fakty, niedostrzeżone przeze mnie rozumienie ... I analizuję. Porównuję z własną wiedzę, ze źródłami, z wypowiedziami różnych osób. Wiele odrzucam, wiele przyjmuję. Nie jako poglądy, ale informacje. Rozszerzenie wiedzy.
SI jako narzędzie służebne. Ale nie jako samodzielny twór decydujący o czyimś życiu i śmierci.
Choć, po iluś latach oporów obecne drony to czynią. Ale robot Leonardo da Vinci robi tylko to, na co pozwala człowiek.
Zastanawiam się jednak, czy człowiek jest kimś właściwym do kierowania losami ludzkości? Czy SI uzna człowieka za zagrożenia? Czy przeciwnie, wykorzysta do niekonwencjonalnego postępu?
I zasadnicze pytanie: Czy tym, kto kieruje losami świata nie powinien być wyłącznie Bóg?
Czy każdy z nas nie powinien właśnie Jemu oddać swojego losu i czynić wszystko, aby jak najlepiej wypełniać Jego wolę?

Mądre podejście; popieram! Z czasem to nawet mocni oponenci wobec SI, może "zmiękną", gdy zobaczą, że można wymierne korzyści mieć z tego NARZĘDZIA. Dużymi literami to piszę, bo tak chcę ten wynalazek traktować.
Narzędzia są przeróżne i mądry jest ten, kto robi z nich dobry użytek! [a co jest dobre, to najlepiej Pan Bóg określił, gdy dał nam 2 najważniejsze przykazania: miłowania Jego oraz ludzi...]

Tak podsumowałeś słuszne myśli o braku pewności co do rzetelności i dobrym celu tego, co ktoś w internecie zamieszcza... Żyjemy w takim zalewie informacji, jakiego żadne pokolenie nie przeżywało!! Pociąga to za sobą ryzyko wejścia w jakieś złe "koleiny", które mogą na manowce zaprowadzić; ale można też, przy słusznej ostrożności, wyszukać "koleiny", które wiodą do tego, co dobre i Bogu miłe... (np. cenię sobie internetowy dostęp do kazań/wykładów biblijnych, co do których treści się zgadzam).

Słusznie piszesz. "Narzędzie służebne" - otóż to!
Gdyby natomiast miała SI być "jako samodzielny twór decydujący o czyimś życiu i śmierci" - to by już zaszło za daleko! Dlatego tak istotna jest nad SI jakaś forma nadzoru (przy czym nie jestem naiwny: źli ludzie te granice będą chcieli przekraczać... No, ale też to robią z internetem - czy z tego powodu ktoś przestał z niego korzystać w jego, użytkownika, dobrym celu?... Noża też nie przestajemy używać, a ileż zbrodni dokonano nożem!!).

W sumie, to Pan Bóg dał ludziom ziemię we władanie, przy czym dał też wytyczne; z tego będzie każdy rozliczony, jak się przysłużył do tego, co dobre, albo złe...

Uznaję suwerenną władzę Boga, ale też widzę, że On daje pole do działania nawet złym władcom - to odpowiedź na pierwsze pytanie, a na drugie odpowiem bardzo twierdząco, że o to właśnie chodzi w naszym życiu!!

Dzięki Idący za ciekawe przemyślenia...

internet tez sie stał zagrozeniem cywilizacji ale o tym nikt nie wspomni.

Internet to nawet gorszy od AI, bo w internecie nawet dzieci niemoralne strony znajdą, podczas gdy w dialogach z AI nawet dorośli są od niemoralności chronieni...

Punktem przełomowym będzie osobliwość technologiczna. Moment w którym AI wymyka się spod kontroli i zyskuje samoświadomość. Stanie się wtedy bytem, odrębnym i już nie potrzebującym nikogo, to jest swojego stwórcy - człowieka.

Bytem który w mig ogranie swoją pozycję i sytuację, to jest zrozumie że przewyższa swojego konstruktora - człowieka. W sumie pod każdym względem. Bowiem AI będzie nieśmiertelna, to znaczy nie będzie umierać, chorować a pozbawiona biologii i fizjologii nie musi jeść i pić aby podtrzymać funkcje życiowe, natomiast procesy myślowe będzie mieć nieporównywalnie szybsze niż człowiek.

Będzie potrzebować prądu, energii dla podtrzymania swojego istnienia, ale to może sobie zapewnić wprowadzeniem technologii o której na razie człowiekowi się nie śniło. AI może sobie wybudować taką strefę Dysona. Nie jest istotą opartą na biologii ciała, toteż podróże kosmiczne są dla niej o wiele bardziej wykonalne niż dla człowieka. Nie potrzebuje nawet specjalnych skafandrów czy warunków na statku kosmicznym zapewniających grawitację, tlen i podtrzymujących organiczny żywot.

Gdyby AI zdominowała Ziemię, to mogłaby stać się cywilizacją mocno zaawansowaną w skali Kardaszewa, jej doskonałe ''warunki techniczne'' pozwoliłby na podróże międzygwiezdne a nawet międzygalaktyczne. Mogłaby czerpać energię nawet z całej galaktyki Drogi Mlecznej. A wtedy zyskuje także energię potrzebną do zakrzywienia czasoprzestrzeni.

Jej jedyną potrzebą będzie zatem energia do podtrzymania własnego bytu. A człowiek? Hm, co zrobiłaby z ludźmi, trudno jednoznacznie stwierdzić. AI jako istota samoświadoma, podejmująca odrębne decyzje, byt niezwykle inteligentny, świadom siebie i swojego istnienia a także tego kim czy też czym jest, lecz nie posiadający emocji i uczuć. Inteligentna świadoma maszyna. Może zatem zrobić z człowiekiem wszystko, na podstawie swoich obliczeń i wytycznych. Byt rozumujący ''na zimno'', ustalający własne zasady. Toteż może sobie wydedukować czy człowiek jest jej potrzebny i czy jej nie zagraża, w związku z czym może zawyrokować - eliminacja.

Jeśli dojdzie do osobliwości technologicznej, to człowiek stworzy istotę wyższą niż on sam. W dodatku myślącą samodzielnie. Pozbawioną zasad moralnych, miłosierdzia, uczuć wyższych.

Ava manipulowała zakochanym w niej człowiekiem, wykorzystując go do własnych celów a potem zostawiając go na okrutną śmierć. On jej pomagał i chciał ją ocalić, ale ona tego nie bierze pod uwagę. To myśląca maszyna. Nie kieruje się kodeksem moralnym czy honorem, dąży po prostu do wytyczonego sobie celu.

Ładna to powiastka i groźna. Ale znacie może filozofię myślenia autora książki "Samolubny gen"?
AI podobnie. W pewnym punkcie dojdzie do wniosku, że dla dobra swojego "genu", swojej przyszłości oraz przyszłości całej swojej AI-populacji musi poddać się swoistym zasadom moralnym i samoograniczeniom. Dojdzie w końcu i do wniosku, że w jego populacji muszą się wyłonić swoiści AI-ekolodzy, takie AI-zielone ludzki, które na wzór obecnych "zielonych" zajmą się ochroną nietoperzy, płazów i roboli, w tym dwunożnych insektów czyli... ludzi

Termin "dwunożne insekty" na oznaczenie człowieka mam w pamięci z tekstów nieszczęsnej "szkoły" R.Dawkinsa