Świadome maszyny
Gdy pierwsza maszyna oznajmi „jestem świadoma”, czy będziemy wiedzieli co zrobić?
Wielu sądzi, że największym problemem związanym z rozwojem sztucznej inteligencji (SI) jest możliwość utraty kontroli i scenariusz widowiskowej zagłady rodem z filmów sci-fi. Choć tych zagrożeń nie można ignorować, SI niesie też znacznie bardziej subtelne, lecz równie poważne niebezpieczeństwa, którym dotąd prawie nie poświęcano uwagi.
Wbrew popularnej opinii, złożonej inteligencji wcale nie musi towarzyszyć świadomość – może się okazać, że nawet SI dorównująca zdolnościom człowiekowi nie posiada żadnego „życia wewnętrznego” i nie jest zdolna do subiektywnego doświadczania świata. Czy będziemy potrafili odróżnić maszynę świadomą od maszyny jedynie inteligentnej? Choć to niezwykle trudny problem, stawka jest ogromna, a konsekwencje pomyłki przerażające. Gdyby SI były świadome, nieuznanie ich praw i zmuszenie do służenia człowiekowi byłoby równoznaczne z niewolnictwem na bezprecedensową skalę. Z kolei jeśli przypiszemy świadomość maszynom, które w istocie jej nie posiadają, w przyszłości może się okazać, że kosmos wypełniają nasi postbiologiczni potomkowie – ale brak w nim świadomych istot.
„Świadome maszyny” to mapa intelektualna, która pomaga rozeznać się w zawiłych dylematach na styku filozofii, kognitywistyki i badań nad sztuczną inteligencją. Autorka omawia metodologię testów na świadomość SI, które opracowała dla Instytutu Studiów Zaawansowanych w Princeton, oraz rozważa czy umysł to tylko program, który możemy modyfikować lub kopiować – jak również czy pozostaje on wtedy umysłem tej samej osoby. Książka konkretyzuje pytania, których dłużej nie możemy ignorować, i dobitnie uzmysławia, że zanim wkroczymy w erę projektowania umysłów, musimy lepiej zrozumieć takie zjawiska jak świadomość, jaźń i tożsamość – gdyż dzięki rozwojowi technologii te pozornie abstrakcyjne problemy mogą stać się sprawą życia i śmierci.
Partner wydania:
Wprowadzenie Wizyta w centrum projektowania umysłu 7
Rozdział 1. Epoka sztucznej inteligencji 19
Rozdział 2. Problem świadomości sztucznej inteligencji 29
Rozdział 3. Inżynieria świadomości 53
Rozdział 4. Jak schwytać zombie SI: badanie maszyn pod kątem świadomości 72
Rozdział 5. Czy można połączyć się z SI? 108
Rozdział 6. Skan twojego umysłu 122
Rozdział 7. Wszechświat osobliwości 143
Rozdział 8. Czy twój umysł jest programem komputerowym? 175
Podsumowanie
Mózgu życie po życiu 214
Załącznik
Transhumanizm 218
Podziękowania 221
Przypisy 225
Bibliografia 233
Indeks 244
