"Literatura pisana z myślą o ludzkości wyczerpała się. Następuje czas sztucznej inteligencji.
Naszym obowiązkiem jest wyposażyć stworzony przez nas świat maszyn w świat ducha dostosowany do ich potrzeb i możliwości.”

a potem napisałem ten tekst

bold text“Koniec logiki przyczynowo-skutkowej”, Fa-Art., 1/2008 bold text“

jako wstęp do "Alt + F4", cyt j.w, bez żadnego pojęcia o istnieniu pojęcia technologicznej osobliwości.
Antycypacja?
Ciekawe…

a teraz do "Alt+tab" punktem wyjścia jest:

„W tej partyturze nie występują osoby, lecz algorytmy wycięte z popularnych gier i zaimplementowane w strukturę sceny. Tworzą zestaw instrukcji mający przeprowadzić system z pewnego stanu początkowego do pożądanego stanu końcowego, dla każdej struktury danych, jeżeli
L D C Ű { x: xÎL Ů xÎD Ů xÎC} oraz D ą L ą C,
gdzie przewidywany jest jeden wynik gry.
Konflikt jest pewny. Bowiem te trzy żarłoczne światy są jak czarna dziura, w której wszystko zapada się w punkt, albo jak trzy rozpędzone, uciekające od siebie komety, związane na zawsze swymi ogonami. Pole gry może być więc ogromne, może też stanowić jedynie styk. A więc to, kto wygra, trudno jest jednoznacznie określić, zwłaszcza jeśli na samym początku wkradł się straszliwy błąd, a regularne debugowanie go tylko oddala nas od spodziewanego rezultatu”.

Dialog 12/2007

Zakłada on użycie nowoczesnych technologii w celu poprawy warunków bytu ludzi, np.: likwidacja biedy, chorób albo polepszenie sprawności seniorów.

Polecam stronę:
http://www.transhumanism.org/index.php/WTA/more/659/

Tak- uwazam ze to wlasnie uczucia, takie jak milosc czy nienawisc sprawiaja ze jestemy bardziej ludzki. Obserwujac przyrode mozna zauwazyc, ze jest to cecha zmieniajaca sie stopniowo w zaleznosci od gatunku.I tak np. krowa jest mniej inteligentna od szympansa, a ten z kolei od Homo Sapiens. Uczucia sa zmiana jakosciowa. Taka np. milosc wystepuje z tego co wiem tylko u ludzi. Takze w obrebie naszego gatunku inteligencja przybiera ksztalt krzywej Queteleta(Gaussa) podczas gdy nawet osoby gleboko niepelnosprawne umyslowo wykazuja uczucia, zakohuja sie i nienawidza. To sa tylko moje prywatne przemyslenia ale poki co nie znalazlem dobrych kontrargumentow.
Errata- nie sprawiaja ze jestesmy bardziej ludzcy tylko sa zyms co decyduje o tym co nazywamy czlowieczenstwem

Nie przeczy to jednak, iż aby można było "czuć subiektywnie" potrzeba czegoś więcej niż tylko prostego sygnału stymulującego mózg do np. chęci bycia z drugą istotą (agentem jeśli rozpatrywać to pod kątem AI). Myślę, że dobrym przykładem jest tu kwestia fenomenalnej (subiektywnej) świadomości. Czy bez niej uczucia mogłyby istnieć w takiej postaci jak istnieją? Zapewne nie. Nie wiemy dokładnie czego potrzeba, aby dany agent był fenomenalnie świadomy (choć pojawiają się dosyć przekonujące teorie na ten temat np. Thomasa Metzingera), ale na pewno nie jest to kwestia "jednej funkcji" mózgu.

A co do dalszego nieskrepowanego rozwoju ingerencji w ludzki mozg i rozwoju sztucznej inteligencji uwazam, ze jest to niezwykle ciekawe zagadnienie i badania te maja wielka wartosc poznawcza jak i praktyczna. Jednak na kazda nowa i przelomowa dziedzine czekaja rafy i mielizny. Wszyscy wiemy jakie konsekwencje pociagnal za soba rozwoj fizyki jadrowej, a prymitywne rozumienie genetyki 60 lat temu doprowadzilo do koncepcji eugeniki i dymiacych kominow Auschwitz. Czy nie obawiasz sie ze informatyka moze wkrotce dolaczyc do tych dziedzin nauki, ktore z jednej strony sa wielce obiecujace, ale z drugiej maja tez niechlubne strony w historii swojego rozwoju??

Ależ oczywiście nie uważam, że sztuczna inteligencja nie niesie ze sobą żadnych zagrożeń i chyba nikt z ludzi zajmujących się tematem AGI tak nie myśli. Przykładowo: jedną z głównych misji Singularity Institiute jest właśnie próba ukierunkowania rozwoju ogólnej sztucznej inteligencji tak, aby była dla nas przyjazna.

Mam kolejne pytanie dotyczace AGI…czy konstruujac elektroniczny substrat ludzkiego mozgu zamierzamy takze symulowac kompletne dzialanie ukladu immunologicznego, bawic sie w to cale dojrzewanie, selekcje limfocytow, wprowadzac wszystkie mozliwe allele czasteczek HLA (MHC) itp. Czy zamierzamy zaimplementowac w tym wirtualnym srodowisku gruzlice, kile, rzezaczke, WZW, malarie i co tam jeszcze mozna zlapac jak sie nie uwaza. Jak mam sie na to zapatrywac?? Ostrzegam…to troche podkrecona pilka ale jestem niezmiernie ciekawy odpowiedzi :)

AGI nie ma związku z ludzką biologią (choć oczywiście możemy sobie wyobrazić próbę stworzenia odpowiednika ludzkiego organizmu).
AGI to oprogramowanie przejawiające ogólną inteligencję. Nie chcę tu teraz podejmować próby zdefiniowania inteligencji (choć jeśli mielibyśmy prowadzić bardziej konkretną dyskusję jest to ważne), więc możemy przyjąć, iż chodzi o inteligencję cechującą się porównywalną "ogólnością" do ludzi. Warto zarazem zauważyć, iż nie musi się to wiązać z przejmowaniem ludzkich zachowań (np. chęci posiadania). Architektura sztucznego mózgu również nie musi być wcale identyczna z ludzkim. Wiąże się z tym fakt, iż właściwie AGI nie musi być wcale symulacją.
Ważne jest też, że choć ogólna sztuczna inteligencja może być paradoksalnie początkowo głupia (wedle ludzkich standardów) to jej ogólność pozwalać będzie na dostosowywanie się do różnorodnych problemów.

Napisales tez, ze w uczuciach nie ma zadnej "magii".I to jest wlasnie najgorsze: gdybysmy mieli podstawy uwazac, ze za uczuciami wyzszymi stoja jakies nadprzyrodzone, niematerialne zjawiska typu dusza itp. to wtedy moglibysmy spokojnie zabrac sie do ulepszania ludzkiego mozgu wiedzac ze i tak nie jestesmy w stanie "dotknac" istoty czlowieczenstwa. Niestety wyniki badan doswiadczalnych pokazuja, ze zniszczenie materialnego substratu emocji i uczuc jest tozsame ze zniszczeniem tych stanow(polecam szczegolnie zapoznanie sie z efektami uszkodzenia amygdali u kobiety :>) . I odwrotnie, nigdy nie zaobserwowano istnienia uczuc bez materialnego substratu. Stalo sie to podstawa tzw. manifestu Kandela bedacego podstawa wspolczesnego spojrzenia na psychiatrie. Nie chce tu wyjsc na wojujacego ateiste ale takie opinie istnieja i nawet jesli sie z nimi nie zgadzasz musisz przynajmniej wziac pod uwage, ze takie poglady istnieja i nie sa wziete z kosmosu. Nie wiem czy to wlasnie miales na mysli piszac, ze w uczuciach nie ma zadnej "magii"

Zwracając uwagę na fakt, iż w uczuciach nie ma "magii" chodziło mi akurat o spojrzenie na to od innej strony, bardziej optymistycznej. Skoro uczucia nie są niczym nadzwyczajnym to istnieje duża szansa, że uda nam się je zrozumieć i w razie potrzeby zachować.

Czy uważasz, że tylko uczucia sprawiają, że jesteśmy "ludzcy"? To cały mózg i sposób interakcji jego poszczególnych elementów funkcjonalnych tworzy to kim jesteśmy. Jestem zdania, iż mózg należy rozpatrywać jako całość. Gdybyśmy mieli podstawy uważać, iż za uczuciami stoją zjawiska nadprzyrodzone to nadal istniałby problem relacji uczuć z pozostałymi częściami (być może modyfikowanymi) mózgu. Nie wiem czy możemy założyć, że modyfikacje w świecie materialnym nie zmieniałby pośrednio uczuć.

Zgadzam się, że jeśli przyjmiemy kilka założeń (ja muszę przyjąć np., że nie jestem ;-) mózgiem w "naczyniu") istnieje wystarczająco dużo dowodów, iż nasze mózgi są zbudowane z tej samej materii, z której zbudowana jest "reszta" świata. Nie trzeba nawet być ateistą, aby zaakceptować taki stan rzeczy. Nie przeczy to wcale teorii istnienia stwórcy/stwórców (choć też jej nie potwierdza). Czy to jednak zmienia coś w moim sposobie myślenia o implantach? Myślę, że dopóki szanujemy wzajemnie swoje poglądy nie ma to większego znaczenia.

Pozdrawiam

Jeśli chodzi o mnie to nie miałem okazji zapoznać się z wyżej wymienioną twórczością Stanisława Lema. Książki i opowiadania Lema są mi bliskie i miały wpływ na kształtowanie moich poglądów, więc na pewno kiedyś z chęcią uzupełnię zaległości.

Pozdrawiam

Jeśli mogę ujawnić się ze swoimi detalicznymi preferencjami, najbardziej kręci mnię podglądactwo, jakimi ścieżkami nurtuje AI w prefabrykowaniu treści kulturowych, tj. ciąg dalszy afery Elektrybałta Trurla.

Zapraszam do gadulca
Z digitalnym pozdrowieniem
Kazik Malinowski

Co do punktow:
1. W pierwszym odruchu za kryterium chialoby sie przyjac kryteria anatomo-fizjologiczne to znaczy np. nie ruszamy zakretow nadoczodolowych, kory przedczolowej(intelekt), calego ukladu limbicznego(emocje) itp a za to swobodnie bawimy sie pniem mozgu itp. Biorac pod uwage mnogosc powiazan pomiedzy tymi strukturami (np. via twor siatkowaty np.) nie jest to jednak dobry pomysl. Nie mam pomyslu co ruszac co nie. Uwazam jednak historie zastosowania leukotomii przedczolowej i rozwoj tzw. psychochirurgii za wielce pouczajacy i nakazujacy dalsza ostroznosc. Ale dam przyklad….hipokamp jest zarowno czescia tzw. Kregu Papeza odpowiadajacego za odczuwanie emocji jak i waznym elementem pamieci dlugoterminowej. W ktoryms wydaniu Swiata Nauki czytalem hurraoptymistyczny artykul na temat prob zastosowania implantu w celu usprawnienia pamieci dlugoterminowej….biorac pod uwage neuroanatomie emocji az mnie ciarki po plecach przeszly.

Poruszając tę kwestię chodziło mi właśnie o to, że wszelkie próby wyznaczania granic nie mają większego sensu. W takim razie wygląda na to, że się zgadzamy :-)

2. Jedyna teoria ktora w miare kompleksowo opisuje dzialanie ludzkiej psychiki (nie mozgu!!!) czyli teorie Freuda nie spelnia Popperowskiego wymogu falsyfikowalnosci ale klinicznie ponoc sprawdza sie calkiem niezle. Badanie mozgu przy pomocy PETu czy fMRI co prawda dostarczaja nam informacji na temat lokalizacji osrodkow w OUN ale moim zdaniem przypominaja troche probe zrozumienia dzialania komputera przy pomocy pomiaru temperatury poszczegolnych podzespolow w czasie wykonywania roznych zadan (np. gra 3d podgrzeje karte graficzna z tego wniosek ze za funkcje obliczen grafiki 3d odpowiada wlasnie ona, w PET stosuje sie znakowana radioaktywnym F glukoze). Zgadzam sie ze wykonywanie eksperymentow i modyfikacji pomaga zrozumiec funkcjonowanie danego obiektu, co wykorzystano w biologii molekularnej i immunologii ale tez znowu kwestie bioetyki przy badaniu mozgu sa bardziej dwuznaczne, zalezne od swiatopogladu.

Owszem - wiele zależy od światopoglądu. Nie narzucajmy więc żadnych ograniczeń odgórnie.

3.Malo ludzkie bywaja tez jednostki….wiesz biorac pod uwage ze w spoleczenstwie ok. 4%(to 2 razy wiecej niz nosicieli WZW typu C lub osob cierpiacych na schizofrenie!!!) ludzi ma zaburzenia osobowosci typu osobowosc dyssocjalna (to tzw. psychopaci krotko mowiac) to masz racje ze tak naprawde ewentualna modyfikacja(leczenie) moglaby byc jedynym humanitarnym rozwiazaniem. Jest to arcyciekawe zagadnienie ale raczej nie na ta strone.

Na potencjalnej możliwości modyfikacjach mózgu skorzystać mogą wszyscy. Zdrowi, którzy pragną ulepszeń jak i chorzy, dla których może to być jedyna szansa na normalne życie. Dlaczego ktoś ma decydować o tym co jednym wolno, a innym nie?

4. Jezeli potenjalnie do stracenia jest romantyczna milosc….to niezaleznie od tego co jest do zyskania to i tak niewarto. Koniec kropka bez dwoch zdan.

Uważam, że nie wiedząc co mamy do zyskania ciężko jest ocenić czy nie warto. Nie wiemy także jak duża jest szansa zatracenia uczuć, aczkolwiek wydaje się to mało prawdopodobne - nie ma w tym magii, a dostatecznie zaawansowana wiedza o naszym mózgu zapewne przyczyni się do ich dobrego zrozumienia. Osobiście nawet nie jestem pewien w jakim stopniu to one powinny być kryterium. Po raz kolejny wnioskuję, iż każdy musi zadecydować sam.

5.Modyfikacje farmakologiczne stosuje sie juz od dawna a psychochirurgia okazala sie jedna wielka pomylka….moim zdaniem jednak tak sie szczesliwie sklada ze sytuacje w ktorych wchodzimy z modyfikacjami maja albo na celu ratowanie zycia (depresja czesto powiklana jest proba S), albo zapobiegaja dezorganizacji struktury osobowosci (neuroleptyki) albo tez ulatwiaja w miare normalne zycie pacjentom z chorobami neurodegeneracyjnymi(L-dopa, cholinomimetyki). Moim zdaniem ingerencja powinna miec miejsce tylko wtedy gdy leczymy chorobe, gdyz wtedy zaniechanie doprowadziloby do znacznie gorszych skutkow niz ewentualne skutki uboczne. Modyfikacje w celu zwiekszenia funkcji poznawczych uwazam za zbyt ryzykowne.

Osobiście nie wiem jak dużo ludzkość (lub nawet dana jednostka) ryzykuje - mogę tylko przypuszczać. Myślę, że tylko nieskrępowany rozwój tej dziedziny może to wyjaśnić.

Na marginesie myślę, że np. nanotechnologia jest dużo bardziej niebezpieczna. Tak jak z resztą wiele nieznanych technologii. Idąc tym tropem musielibyśmy wstrzymywać cały postęp technologiczny, a koniec końców i tak by ktoś daną technologie rozwinął… być może ktoś nieodpowiedzialny. Tak przynajmniej mamy równowagę.

P.S.
"Ach tak… dla jasności zgodzę się też, że nie wiemy wszystkiego o naszym mózgu."
Wiesz gdybys uwazal inaczej to ja uwazalbym ze dalsza dyskusja z Toba jest pozbawiona sensu :)

Tak jak napisałem, to było dla jasności.

Moja wiedza na te tematy jest w sumie dosc skromna kiedys interesowalem sie neurofizjologia ale teraz troche zmienilem dzialke.

Ja też nie jestem żadną wyrocznią :-)
Wyrażam swoje zdanie.

I znow zapomnialem. Polecam zapoznanie sie z pracami hiszpanskiego neurofizjologa Delgado. Byl on pionierem stosowania implantow domozgowych i odnosil na tym polu calkiem spore sukcesy. Jego prace poszly jednak generalnie w zapomnienie ze wzgledu na niesprzyjajacy klimat wokol tych badan. Byly to lata 60, tak poziom zaawansowania implantow mozgowych byl niewielki. Mozna sobie wyobrazic co daloby rade zrobic teraz stosujac np. nanorurki weglowe i uwalniajac neuroprzekazniki nawet jesli nawet nie bezposrednio do wybranych synaps to precyzyjnie w dane osrodki w OUN.

Hymm… wydaje mi się, że dr Delgado nie jest w tym przypadku dobrym przykładem. Metody były prymitywne, a cel jednak nieco inny (przecież to była głownie stymulacja mózgu impulsami prądu, później polem magnetycznym, a nie próba poszerzenia możliwości). Chyba, że o czymś nie wiem - nie miałem czasu zapoznać się z oryginałami jego prac.

Pozdrawiam

2. Jedyna teoria ktora w miare kompleksowo opisuje dzialanie ludzkiej psychiki (nie mozgu!!!) czyli teorie Freuda nie spelnia Popperowskiego wymogu falsyfikowalnosci ale klinicznie ponoc sprawdza sie calkiem niezle. Badanie mozgu przy pomocy PETu czy fMRI co prawda dostarczaja nam informacji na temat lokalizacji osrodkow w OUN ale moim zdaniem przypominaja troche probe zrozumienia dzialania komputera przy pomocy pomiaru temperatury poszczegolnych podzespolow w czasie wykonywania roznych zadan (np. gra 3d podgrzeje karte graficzna z tego wniosek ze za funkcje obliczen grafiki 3d odpowiada wlasnie ona, w PET stosuje sie znakowana radioaktywnym F glukoze). Zgadzam sie ze wykonywanie eksperymentow i modyfikacji pomaga zrozumiec funkcjonowanie danego obiektu, co wykorzystano w biologii molekularnej i immunologii ale tez znowu kwestie bioetyki przy badaniu mozgu sa bardziej dwuznaczne, zalezne od swiatopogladu.

3.Malo ludzkie bywaja tez jednostki….wiesz biorac pod uwage ze w spoleczenstwie ok. 4%(to 2 razy wiecej niz nosicieli WZW typu C lub osob cierpiacych na schizofrenie!!!) ludzi ma zaburzenia osobowosci typu osobowosc dyssocjalna (to tzw. psychopaci krotko mowiac) to masz racje ze tak naprawde ewentualna modyfikacja(leczenie) moglaby byc jedynym humanitarnym rozwiazaniem. Jest to arcyciekawe zagadnienie ale raczej nie na ta strone.

4. Jezeli potenjalnie do stracenia jest romantyczna milosc….to niezaleznie od tego co jest do zyskania to i tak niewarto. Koniec kropka bez dwoch zdan.

5.Modyfikacje farmakologiczne stosuje sie juz od dawna a psychochirurgia okazala sie jedna wielka pomylka….moim zdaniem jednak tak sie szczesliwie sklada ze sytuacje w ktorych wchodzimy z modyfikacjami maja albo na celu ratowanie zycia (depresja czesto powiklana jest proba S), albo zapobiegaja dezorganizacji struktury osobowosci (neuroleptyki) albo tez ulatwiaja w miare normalne zycie pacjentom z chorobami neurodegeneracyjnymi(L-dopa, cholinomimetyki). Moim zdaniem ingerencja powinna miec miejsce tylko wtedy gdy leczymy chorobe, gdyz wtedy zaniechanie doprowadziloby do znacznie gorszych skutkow niz ewentualne skutki uboczne. Modyfikacje w celu zwiekszenia funkcji poznawczych uwazam za zbyt ryzykowne.

P.S.
"Ach tak… dla jasności zgodzę się też, że nie wiemy wszystkiego o naszym mózgu."
Wiesz gdybys uwazal inaczej to ja uwazalbym ze dalsza dyskusja z Toba jest pozbawiona sensu :)
Moja wiedza na te tematy jest w sumie dosc skromna kiedys interesowalem sie neurofizjologia ale teraz troche zmienilem dzialke.

Jeśli chodzi o mnie to nie będę się ustosunkowywał do samych badań nad efektami ubocznymi SSRI. Chętnie podyskutuje jednak na temat sensowności majstrowania przy mózgu. Temat jest strasznie rozległy wiec wypunktuje na szybko co mi przychodzi do głowy. Ach tak… dla jasności zgodzę się też, że nie wiemy wszystkiego o naszym mózgu.

1. Jakich prób modyfikacji mózgu zaniechać, a jakich nie? Jak ustanowić granicę minimum? Przecież to co dla jednego będzie do zaakceptowania dla kogoś innego może być dużą przesadą. Dobrym przykładem są ludzie, którzy rezygnują z zażywania leków przeciwdepresyjnych, gdyż nie są w stanie zaakceptować ich efektów ubocznych - dla nich modyfikacje jakie czynią te leki wykraczają poza ich własne minimum. Moim zdaniem nie ma tu jednej regułki (jak ze wszystkim), która jednoznacznie wskaże nam co można, a czego nie.

2. Jak zbadać czy nasza teoria dotycząca budowy mózgu jest poprawna? Wykonywanie eksperymentów jest przecież szeregiem czynności potrzebnych do weryfikacji stawianych hipotez i jest ogólnie przyjęte jako jeden z elementów metody naukowej. Pewne eksperymenty przy modyfikacjach mózgu mogą pozwolić poznać lepiej jego budowę i zweryfikować bądź odrzucić pewne założenia teoretyczne.

3. Ciężko się nie zgodzić, że modyfikując strukturę i/lub procesy zachodzące w naszym mózgu możemy utracić to co uważa się za istotę człowieczeństwa (inna sprawa, że jednoznaczne zdefiniowanie tego terminu jest raczej ciężkie, przyjmijmy jednak, że każdy z nas "czuje" o czym mowa). "Mało ludzkie" bywają też jednostki, które nie zostały poddane żadnym modyfikacją. Może właśnie dana modyfikacja sprawi, że będziemy bardziej ludzcy?

4. Jak ocenić czy więcej jest do stracenia czy do zyskania?

5. Nawet nie znając w pełni budowy mózgu, przy zachowaniu odpowiedniej ostrożności, modyfikacje mogą być bezpieczne. Długo nie będziemy wiedzieć wszystkiego (o ile w ogóle kiedyś) o mózgu, więc kiedy zezwolić na start z modyfikacjami?

Podsumowując uważam, że nie ma co marnować energii na próby ogólnego ograniczania "majstrowania" przy mózgu. Lepiej poświęcić tą energię na to, aby zapewnić bezpieczeństwo prowadzonych badań (w tym eksperymentów), bezpieczeństwo technologii wprowadzanych do powszechnego użytku, a każdy przypadek oceniać indywidualnie. Każda osoba, czy to naukowiec czy osoba korzystająca z modyfikacji, powinna rozważyć wyżej poruszone problemy (i wiele innych), ale nie ma co czekać na chwile kiedy dowiemy się wszystkiego.

http://richarddawkins.net/article,1476,Are-antidepressants-taking-the-edge-off-love,Susan-Brink

I co wy na to? SSRI-e uchodza generalnie za bardzo bezpieczne leki(tyle ze kuska po nich nie staje;) i spotkalem sie ze zdaniem ze lepiej je przepisac nawet na wyrost niz przegapic depresje czy dystymie. Po przeczytaniu tego artykulu jestem w szoku…"SSRIs could jeopardize intense romantic love". Jezeli te doniesienia sie potwierdza to trudno mi sobie wyobrazic jakiekolwiek mozliwe bardziej powazne skutki uboczne. Sklania to do przemyslen czy aby przypadkiem dazac do coraz to lepszej wydajnosci naszych mozgow nie zgubimy gdzies po drodze istoty czlowieczenstwa.
Choc z drugiej strony te srodki z pewnoscia niejednego uratowaly przed skokiem z okna.
Ciekaw jestem opinii entuzjastow transhumanizmu;>