Czy możliwość świadomej sztucznej inteligencji to niebezpieczny mit?
W tym tygodniu magazyn Noema opublikował liczącą 7 000 słów eksplorację naszej współczesnej „mitologii świadomej sztucznej inteligencji” napisaną przez profesora neurologii, który kieruje Centrum Nauki o Świadomości Uniwersytetu Sussex: Sama idea świadomej sztucznej inteligencji opiera się na założeniu, że świadomość jest kwestią obliczeń. Mówiąc dokładniej, do pojawienia się świadomości wystarczy wdrożenie odpowiedniego rodzaju obliczeń lub przetwarzania informacji. Założenie to, które filozofowie nazywają funkcjonalizmem obliczeniowym, jest tak głęboko zakorzenione, że w ogóle może być trudno uznać je za założenie. Ale tak właśnie jest. A jeśli jest to błędne, a myślę, że może być, wówczas prawdziwa sztuczna świadomość całkowicie nie wchodzi w grę, przynajmniej w przypadku znanych nam rodzajów sztucznej inteligencji. Przedstawia szczegółowe argumenty przeciwko świadomości opartej na obliczeniach (w tym „Symulacja nie jest instancją… Jeśli symulujemy żywą istotę, nie stworzyliśmy życia”). Chociaż komputer może wydawać się idealną metaforą mózgu, kognitywistyka zajmująca się „systemami dynamicznymi” (i innymi podejściami) odrzuca pogląd, że umysły można w całości wytłumaczyć algorytmicznie. A może zanim coś będzie można uznać za świadome, musi istnieć rzeczywiste życie. Ostrzega również, że „wiele czynników społecznych i psychologicznych, w tym dobrze znane błędy poznawcze, predysponuje nas do nadmiernego przypisywania świadomości maszynom”. Jednak w jego eseju dochodzi do zaskakującego wniosku: choć może to zabrzmieć zbytecznie, nikt nie powinien celowo zajmować się tworzeniem świadomej sztucznej inteligencji, czy to w służbie jakiegoś słabo przemyślanego techno-zachwytu, czy z jakiegokolwiek innego powodu. Tworzenie świadomych maszyn byłoby etyczną katastrofą. Wprowadzalibyśmy do świata nowe podmioty moralne, a wraz z nimi potencjał nowych form cierpienia, w (potencjalnie) wykładniczym tempie. A jeśli przyznamy tym systemom prawa, co prawdopodobnie powinniśmy zrobić, jeśli naprawdę są świadome, ograniczymy naszą zdolność do kontrolowania ich lub wyłączenia ich, jeśli zajdzie taka potrzeba. Nawet jeśli mam rację, że standardowe komputery cyfrowe nie sprostają temu zadaniu, inne powstające technologie mogą jeszcze sobie z tym poradzić, czy to alternatywne formy obliczeń (analogowe, neuromorficzne, biologiczne itd.), czy też szybko rozwijające się metody w biologii syntetycznej. Moim zdaniem powinniśmy bardziej martwić się przypadkowym pojawieniem się świadomości w organoidach mózgowych (strukturach podobnych do mózgu, zwykle wyhodowanych z ludzkich embrionalnych komórek macierzystych) niż jakąkolwiek nową falą LLM. Ale na tym nasze zmartwienia się nie kończą. Jeśli chodzi o wpływ sztucznej inteligencji na społeczeństwo, konieczne jest dokonanie rozróżnienia między systemami sztucznej inteligencji, które są rzeczywiście świadome, a tymi, które w przekonujący sposób wydają się być świadome, ale w rzeczywistości nimi nie są. Chociaż co do tego pierwszego istnieje nieunikniona niepewność, pozornie świadome systemy są znacznie, znacznie bliższe… Maszyny, które wydają się świadome, stwarzają poważne problemy etyczne, inne niż te, które stwarzają maszyny faktycznie świadome. Na przykład moglibyśmy nadać systemom sztucznej inteligencji „uprawnienia”, których w rzeczywistości nie potrzebują, ponieważ w rzeczywistości nie byłyby świadome, ograniczając naszą zdolność do kontrolowania ich bez ważnego powodu. Mówiąc bardziej ogólnie, albo zdecydujemy się zająć pozornie świadomą sztuczną inteligencją, zniekształcając nasze kręgi zainteresowań moralnych, albo zdecydujemy się tego nie robić i ryzykujemy brutalizacją naszych umysłów. Jak dawno temu Immanuel Kant przekonywał w swoich wykładach na temat etyki, traktowanie pozornie świadomych rzeczy tak, jakby były pozbawione świadomości, jest psychologicznie niezdrowym miejscem… Jednym z przeoczanych czynników jest to, że nawet jeśli wiemy lub wierzymy, że sztuczna inteligencja nie jest świadoma, nadal możemy nie być w stanie oprzeć się wrażeniu, że tak jest. Iluzje sztucznej świadomości mogą być tak samo nieprzeniknione dla naszych umysłów, jak niektóre iluzje wizualne… Co więcej, ponieważ nie ma konsensusu co do niezbędnych lub wystarczających warunków świadomości, nie ma żadnych ostatecznych testów pozwalających zdecydować, czy sztuczna inteligencja jest rzeczywiście świadoma… Iluzje świadomej sztucznej inteligencji są niebezpieczne na swój własny, charakterystyczny sposób, szczególnie jeśli jesteśmy stale rozproszoni i zafascynowani przynętą naprawdę czujących maszyn… Jeśli porównamy bogactwo biologicznych mózgów i ludzkiego doświadczenia z machinacje przetwarzające informacje za pomocą chatbotów wspomaganych deepfake’ami lub czymkolwiek innym może być najnowsza sztuczna sztuczna inteligencja, wyrządzamy naszym umysłom, mózgom i ciałom poważną niesprawiedliwość. Jeśli zbyt tanio sprzedamy się naszym wytworom maszyn, przeceniamy je lub nie doceniamy siebie… Socjolog Sherry Turkle powiedziała kiedyś, że technologia może sprawić, że zapomnimy o tym, co wiemy o życiu. Najwyższy czas, żebyśmy zaczęli pamiętać.
已Opublikowany: 2026-01-19 05:45:00
źródło: slashdot.org
