Byłem niestety cały tydzień na konferencji w Salzburgu – długie dyskusje jak nauczyć programów opartych na modelach językowych moralności i współczucia. Wspomagały nas roboty Hansona, szczególnie Mika. Duża zabawa, ogłosimy wyzwanie dla ekspertów od AI w ciągu dwóch tygodni, będą nagrody ok. 200 000 Euro, a zakończenie we wrześniu w Nagoi, Japonia.
Wracając do pytań:
Pytanie 1.: Czy były może analizy, czy występują różnice neuronalne w aktywności mózgu, gdzie efekty umysłowe działania były różne dla tego samego zestawu zmiennych, a badane osoby różniły się pochodzeniem, wychowaniem, poziomem wiedzy, sprawności fizycznej, etc.? Ciekawy aspekt do rozważenia pod kątem wysiłku mózgowego poświęconego na pozyskanie i użycie wiedzy vs wysiłek w kreatywnym podejściu opartym na adaptacji.
Na pewno jest jeszcze wiele do zrobienia, ale jest już sporo takich badań. Np. ostatnie: różne języki wpływają na konektomy, przepływ informacji w mózgu.
Native language differences in the structural connectome of the human brain.
https://doi.org/10.1016/j.neuroimage.2023.119955
Nie widziałem porównań takich “wysiłków”. Jedno i drugie, zapamiętanie i adaptacja, wymaga neuroplastyczności, utworzenia nowych śladów pamięci i integracji z istniejącą siatką pojęciową, a kreatywna adaptacja rekonstrukcji znacznej części powiązań tej siatki. To czasami trwa długo. Freeman Dyson opisuje swoje wrażenia Eureka, kiedy po długiej podróży autobusem nagle dostrzegł całościowe ujęcie elektrodynamiki kwantowej. Czasami mamy coś już w pamięci, ale połączenie wymaga specyficznego kontekstu, jakiegoś bodźca, który nam to uświadomi. Akurat to mi się zdarzyło w tym tygodniu: dostrzegłem, że emergencja prowadzi do transcendencji w przypadku uczenia robotów. Obudziłem się z tą myślą o 2:30 po długim intensywnym dniu na konferencji i porobiłem notatki. Teraz trzeba to spisać, a tu czekają zajęcia, inwentaryzacja, raporty z grantów …
Pytanie 2.: Odnosił się Pan Profesor do ilości parametrów, którymi dysponują poszczególne modele. Czy ta miara odnosi się też do architektury sieci, czy jest to raczej ogólna miara pojemności sieci?
Architektury się nieco różnią, aczkolwiek oparte są na tych samych zasadach. Liczba parametrów jest na pewno ważna, ale nie oddaje w pełni złożoności systemów. Internalizacja szerokiej wiedzy wymaga z pewnością wielu miliardów parametrów, mózgi o małej złożoności nie ogarną szerokiej wiedzy, ale mogą doskonale funkcjonować dzięki specjalizacji w określonym ekosystemie. Modele fundacyjne to start, trenuje się je na wybranych podobszarach, by stworzyć kompetentne modele w określonej dziedzinie-tak zrobiono model umysłu Daniela Dennetta. W konkretnych aplikacjach dodaje się do tego lokalne, własne dane. GPT-4 osiąga obecnie w licznych testach poziom 90%, tam, gdzie poprzednia wersja była bardzo słaba. Tu jest piękna tabelka z OpenAI.
https://openai.com/research/gpt-4
Pytanie 3.: Jak w kontekście sztucznych inteligencji wygląda temat programowania NLP u ludzi – czy można byłoby podejść do kwestii masowego sterowania zachowaniami ludzi?
Ludzie dają się sterować przez algorytmy, jak i propagandę. To cena za posiadanie wielkich mózgów i konieczność uczenia się przez długie lata, słuchania opiekunów. Łatwiej jest w coś uwierzyć niż myśleć samemu. Przekonanie, że zna się prawdę i gotowe rozwiązania oszczędza energię, której mózgi zużywają dużo. Pamięć rozpoznawcza działa znacznie lepiej niż pamięć epizodyczna czy semantyczna. Chociaż NLP zawiera sporo pseudonaukowych elementów to sama idea tego, że możemy się zaprogramować jest rozsądna. Gdyby tak nie było psychoterapia nie mogłaby nic zmienić.
Pytanie 4.: bardzo dziękuję za fantastyczny wykład.
Jestem bardzo ciekawa jak przeciętny człowiek może stymulować nerw błędny, biorąc pod uwagę konkretne parametry np. częstotliwość prądu 10–25 Hz.
To naprawdę obszerny temat. Podsumowanie zastosowań medycznych i metod stymulacji jest tu:
Howland, R. H. (2014). Vagus Nerve Stimulation. Current Behavioral Neuroscience Reports,
1(2), 64–73. https://doi.org/10.1007/s40473-014-0010-5
Medyczne zastosowania wymagają implantacji stymulatora, zwykle po lewej stroni klatki piersiowej, połączonego z nerwem błędnym na wysokości dolnej części szyi, jest to więc zabieg chirurgiczny. Stymulator może być regulowany i wysyłać impulsy o różnej częstotliwości i charakterystyce.
Są też publikacje pokazujące wpływ dynamicznego oddychania, ćwiczenie fizycznych, biofeedback HRV, masażu, muzyki, zimnych kąpieli i innych form aktywności, ale oczywiście nie jest to tak precyzyjne, jak bezpośrednia stymulacja elektrycznymi impulsami.