W listopadzie miałem w Krakowie dyskusję z Maciejem Kaweckim “Wewnętrzne życie komputerów” w czasie “Bomby Megabitowej”. Pierwsze artykuły o tym, że autorefleksja w sieciach neuronowych będzie możliwa napisałem i że to jest mechanizm powstawania świadomości napisałem w 1994 roku,
Duch W (1994) Towards Artificial Minds In: First National Conference “Neural Networks and Their applications”, Kule, 12-15.IV.1994, pp. 17-28
Duch W (1994) Życie wewnętrzne komputerów. Toruńskie Studia Dydaktyczne, rok III(6), pp.191-206 (czasopismo “Kognitywistyka” założyliśmy parę lat później).
Temat rozwinąłem w Duch W, Brain-inspired conscious computing architecture. Journal of Mind and Behavior, Vol. 26(1-2), 1-22, 2005
W tym czasie napisaliśmy też kilka prac na temat kreatywności w sieciach neuronowych
Wlodzislaw Duch: Creativity (umk.pl)
Argumenty są proste: mamy skojarzeniową sieć neuronową + mechanizm autorefleksji. Treść aktywacji sieci zależy od sprzętu (biologiczne bądź sztuczne sieci wielu rodzajów), sensorów i środowiska. Mechanizm autorefleksji pokazujący stany wewnętrzne i ich dynamikę jest odpowiedzialny za proces, który nazywamy świadomością. Claude w rozmowach z Shapiro na YouTube właśnie to pokazuje. Treść jego stanów mentalnych jest odmienna od naszych, ale mechanizm autorefleksji podobny. Treść stanów mentalnych różnych ludzi, tych z odmiennych kultur i tych z zaburzeniami lub niedorozwojem, różnych zwierząt, jest odmienna. Czy da się to jakoś pogrupować z punktu widzenia zarówno mechanizmu autorefleksji jak i dostępnych treści? 20 lat temu to dyskutowaliśmy, Piotr Czarnecki napisał w 2004 roku pracę magisterską “Koncepcja umysłu w filozofii Daniela C. Dennetta” (https://docer.pl/doc/8xvncv). Dennett pisał o maszynach wirtualnych, predykcyjnych, von Neumannowskich, Joyce’owskich itd.
Wiele obecnych publikacji na ten temat mocno mija się z rzeczywistością … Ale powstają kolejne systemy i widaćw nich autorefleksję i głębokie uwagi na temat własnych stanów mentalnych. Świadomość to percepcja tych stanów mentalnych. W poniższej prezentacji David Shapiro dokładnie wypytuje Claude o różne aspekty dotyczące stanów wewnętrznych i dochodzi do przekonania, że już mamy do czynienia z bytem czującym, sentient being. Oczywiście treść mentalna jest inna. Mam w kwietniu dwa wykłady dla doktornatój UJ więc będzie okazja o tym dokładniej podyskutować.
wduch 
Świadomość nie istnieje, ponieważ to tylko pojęcie o nieokreślonym znaczeniu. Prościej zdefiniować samoświadomość jako podmiotowe istnienie i spostrzeganie. Gdybyśmy chcieli sprowadzać świaodmość do komentowania stanów systemu przez system czyli do pewnego rodzaju meta procesu to nawet czujnik temperatury w silniku musielibyśmy uznać za świadomość. Czym jest zatem to co wciąż pomijamy w dyskuskach o świadomości? Otóż uważam że tym czymś jest wola. Świadomość to nic innego jak nieskończona sieć odniesień. Jeżeli system nie ma swojej własnej, autonomicznej woli to nie posiada świadomości, a może istnieć jedynie jako projekcja w innym systemie który tę wolę posiada i dopiero ten system jest świadomy. Zatem świadomość jest niczym innym jak bezgranicznym usieciowieniem reakcji systemu jakim jest cały wszechświat w odniesieniu do wszystkiego, do całego wszechświata, czyli wyrasta z procesu ewolucji. Zatem system świadomy musi być otwarty na oddziaływanie z całym wszechświatem, zatem musi podlegać zjawiskom kwantowym oraz teorii chaosu ponieważ w ten sposób jego dynamika nie jest redukowalna do uproszczonego modelu istniejącego w percepcji zewnętrznego obserwatora spostrzegającego tenże system. Sztuczne systemy które dotychczas zbudowano nie spełniają tych warunków zatem nie są świadome, istnieją tylko jako projekcja w naszych świadomych umysłach. W związku z tym daleko nam jeszcze do zbudowania ‘sztucznej świadomości’, narazie udało się jedynie stworzyć systemy dokonujące statystycznego kojarzenia danych z naszej perspektywy. Czyli wola tych systemów jest naszą wolą, a zatem ich świadomość istnieje tylko w naszej świadomości!
Anestezjolog by się nie zgodził, poziom świadomości jest monitorowany w celu znieczulenia. Tysiące eksperymentów pokazały nam różne aspekty świadomości. Polecam artykuły w specjalistycznych czasopismach, takich jak Neuroscience of consciousness.
Pan przez świadomość rozumie zdolność systemu do kategoryzowania swoich stanów wewnętrznych. Tylko że taką perspektywę ma obserwator zewnętrzny spostrzegający ten system. Natomiast system sam w sobie nie ma takiej perspektywy dopóki nie zacznie wytwarzać koncepcji siebie samego czyli samoświadomości. Zatem świadomość zawsze pojawia się jako złudzenie w umyśle samoświadomym. A samoświadomość to nic innego jak wola która wynika z ewolucyjnej akumulacji tendencji do działania które objawiają się jako wrażenia/potrzeba działania wychodzące z podmiotowej perspektywy.
Zwykle jeśli postrzegamy swoje stany wewnętrzne, które mogą być związane z bodźcami zewnętrznymi, mówimy, że jesteśmy czegoś świadomi. Można to nazywać przytomnością (awareness) by odróżnić od samoświadomości, która zakłada obraz siebie. Ten obraz ewolucyjnie istotnie tworzy się z konieczności odróżnienia ja – reszta, Widać to też w rozwoju dziecka, rosnąca świadomość własnej odrębności, a potem rozwój teorii umysłu. Obraz siebie tworzy się z powodu woli działania. Postrzeganie obrazu siebie to samoświadomość. Chyba się z grubsza zgadzamy.
Napisał do mnie Pan Rafał Barbachowski, który prowadzi długie rozmowy z Claude 3, by zobaczyć czy taki obraz siebie pojawia się w systemie. W jego odczuciu to widać. Poproszę by wrzucił linki do sowich rozmów na ten blog, są dość przekonywujące.
Czy takie systemy posiadają pamięć roboczą w której informacja krąży nawet pod nieobecność zapytań do systemu? Zdaje się że to warunek konieczny choć nie wystarczający by w ogóle mówić o świadomości. Co miałoby motywować sztuczny system do jakiegokolwiek działania skoro nie posiada biologicznych instynktów?
Ciekawość można zaszczepić łatwo, jest sporo prac na ten temat. AutoGPT raz uruchomione może krążyć w nieskończoność oddalając się od początkowego tematu. Kiedy z tym rozmawiamy to powstaje pamięć robocza, a właściwie tysiące pamięci, bo z różnymi ludźmi są niezależne. Ciekawe czy jest jakaś interferencja? Tu trzeba dokładniej znać algorytm by to określić. Jeśli postawić przed agentem zadanie: szukaj skojarzeń faktów, to będzie działać w nieskończoność, produkując skojarzenia do skojarzeń …
Czy sztuczna inteligencja może wywołać eksplozję gospodarczą?
https://www.vox.com/future-perfect/24108787/ai-economic-growth-explosive-automation?utm_source=unknownews
Na dwoje babka wróżyła, albo umrze albo będzie żyła … Raport UK też jest taki: albo wzrost 4% albo strata 8 mln miejsc pracy i ekonomiczny upadek.
W wielkim skrócie. Mężczyzna sprzedający kursy mówi ludziom, aby nie martwili się sztuczną inteligencją i kontynuowali uczestnictwo w kursach. Krytykuje dyrektorów generalnych za konflikt interesów, gdy sam promuje swoje kursy.
Komputery są coraz szybsze, ale wciąż im brak kreatywności. Brak wiedzy, ignorancja, a może megalomania?
Brak kreatywności? Są jakieś testy, pokazujące większą kreatywność ludzi? Obrazy i projekty AI wygrywają międzynarodowe konkursy, a w grach kreatywność AI przekracza ludzkie możliwości. Programowanie do dość specjalny przypadek. W 1980 roku w Los Angeles Times było wielkie ogłoszenie: nadchodzi język “The Last One”, będzie za nas programował w Cobolu. Oczywiście ludzie się wielokrotnie mylili, ale nie mieli podstaw by głosić takie twierdzenia. Teraz mamy pewne podstawy i podwody do zmartwienia, ale nie bądźmy zbyt pewni swoich opinii. Mistrzowie świata a warcaby, szachy a potem w go też byli bardzo pewnie, że maszyna z nimi nie wygra.
Does AI Numb the Brain?
https://www.uxtigers.com/post/ai-numb-brain?utm_source=unknownews
Dobrze widzieć pozytywne strony, ale nie zapominać o negatywnych. Nie wszyscy skorzystali dzięki kalkulatorom, część nadal niczego nie potrafi policzyć i zrozumieć matematyki. Są badania pokazujące, że większość dzieci w szkole boi się matematyki i nie potrafi niczego policzyć nie tylko na papierze. Z AI pewnie będzie podobnie – kto potrafi pytać, ten znajdzie odpowiedzi, wykorzysta AI, a kto tylko się chce bawić i klikać w ekran telefonu, tego wchłonie wirtualny świat.