Rewers: uwaga numer 420

 

Czy nie mógłbym sobie wyobrazić, że ludzie dookoła mnie są automatami, nie mają świadomości, chociaż ich sposób postępowania jest taki sam, jak zawsze? – Gdy sobie to teraz – sam w moim pokoju – przedstawiam, to widzę tych ludzi, jak z nieruchomym wzrokiem (niczym w transie) oddają się swym czynnościom – pomysł trochę niesamowity. (…)

L. Wittgenstein „Dociekania filozoficzne” uwaga 420 (tłum. B. Wolniewicz)

Skoro z takim fasonem możemy uczłowieczyć chatboty i automaty rozmówne, to czy jesteśmy w stanie zadziałać w drugą stronę i uprzedmiotowić człowieka? Sprowadzić swoje postrzeganie go do relacji ja – automat?

   Szybciej, niż nam się wydaje.

   Co determinuje w nas postrzeganie interlokutora jako człowieka? W naiwności swojej A. Turing zapostulował test polegający na konwersacji pisemnej. Jeśli w ciągu pięciu minut rozmowy jedna trzecia „sędziów” oceni błędnie rozmowę z maszyną jako rozmowę z człowiekiem, test zostanie zaliczony. Nie wiem, co planował Turing dla ludzi, którzy przez ponad połowę sędziów ocenieni zostaliby jako maszyny. A pewnie miał jakieś rozsądne pomysły.

   Tymczasem jak my rozpoznajemy człowieka? Ja wiem, że było już u Platona, i że ten oskubany kurczak Diogenesa został potem patronem testerów oprogramowania, ale spróbujmy się skoncentrować na pragmatyce życiowej. Primo: twarz. Secundo: głos. Jeśli widzimy twarz mówiącego, twarz, która ma swój wyraz pokrywający się z intencjami zawartymi w mowie, to od razu włączamy ją do zbioru elementów języka. Mimika twarzy staje się dodatkowym kanałem komunikacji, nie tylko ją uzupełniającym, ale także weryfikującym: synchronizacja ruchu ust z dźwiękami (jej brak jako jeden z kluczowych elementów brzuchomówstwa), czy mimika dopasowana do treści (śmiał się i docinał przy stole, ale jego oczy wskazywały, że jest nieobecny myślami). Głos – jego intonacja, sposób ekspresji, nawet mimo braku towarzyszącego wyrazu twarzy, potrafi być także tym uzupełniającym kanałem przekazu informacji. Pomyśl o rozmowie telefonicznej z osobą przestraszoną – mówimy, że „słychać strach w jej głosie”. A C3-P0? Irytujący i neurotyczny robot-strachajło z sagi „Gwiezdne Wojny”? Jego twarz nie ma mimiki, ale głos ulega modulacji. Wyraźnie słychać irytację, gdy mówi „how typical!” („typowe!”), gdy zostaje odcięty w czasie ewakuacji bazy na Hoth, albo przerażenie, gdy mówi „we’re doomed!” („jesteśmy zgubieni!”). Z kolei „odczłowieczającym” zabiegiem jest cedzenie słów przez Lorda Vadera, którego twarz głównie ukryta jest pod maską.

   No dobra, ale co, jeśli nasz rozmówca nie jest widziany? Wszak przed epoką chatbotów także mieliśmy do czynienia z zapośredniczeniem komunikacji przez pismo. A przecież nikt nie wyobrażał sobie, że pisze z kimś innym niż z człowiekiem! I tu tkwi błąd. Powiem tylko: H. P. Lovecraft.

   „Szepczący w ciemności” to (by nie rzucać spojlerów do opowiadania, które ma prawie sto lat) właśnie koncept podmiany korespondenta. Na początku opowiadania Wilmarth cytuje listy Akeleya, które układają się w crescendo przerażenia agresją obcych istot, by nagle zmienić się w uspokajające wyjaśnienia i kordialne zaproszenie do sielankowego spotkania trzeciego stopnia z mieszkańcami Yuggoth. I tu Lovecraft poprzez rozmyślania Wilmartha zaznacza wyraźnie, że zmiana ta jest nie-ludzka:

Po pierwsze, jeśli Akeley był i jest nadal zdrowy na umyśle, to zbyt szybko i nieoczekiwanie zmienił stosunek do tej sprawy. Po drugie, jego zachowanie, pogląd na omawiane zjawiska i słownictwo daleko wykraczały poza normę i jakiekolwiek przewidywania. (…) Dobór słów, budowa zdań – były zupełnie inne.

H. P. Lovecraft „Szepczący w ciemności” (tłum. R. Grzybowska)

Bohater opowiadania ma jednak dość dużo próbek tekstu do porównania. Gdyby otrzymał tylko ten ostatni, nie byłby w stanie zauważyć zmiany (nie byłaby udokumentowana), więc przyjąłby, ze ma do czynienia z człowiekiem. Bo z nikim innym nie dało się podówczas korespondować. Tu zasadza się zapomniana groza tego opowiadania: w nieludzkim autorze, który tworzy list w ludzkim języku.

   My mamy sporo automatów, z którymi da się toczyć pisemne rozmowy. Czy to na nas wpływa? Śmiem twierdzić, że tak. Że podobnie jak uczłowieczyliśmy asystentów głosowych, gadające automaty, dlatego że głos uwiarygadnia rozmówcę, tak samo dehumanizujemy użytkowników forów internetowych, czytelników naszych maili, czy adresatów wiadomości tekstowych. I proszę, by nie podnosić tematu odmienności etykiety słowa pisanego, bo to co się dzieje w sekcjach komentarzy niemal dowolnych serwisów internetowych to zwyczajne chamstwo. Czy społeczeństwo nam tak upadło? Nie, zawsze takie było. Ale inna twarz była dla drugiej twarzy, a inna dla nieczułych przedmiotów. Coraz więcej przedmiotów z nami rozmawia, coraz częściej nasi internetowi korespondenci zdają się nam przedmiotami.

   Już przywykliśmy do maili zakończonych klauzulą: „wiadomość została wygenerowana automatycznie, prosimy na nią nie odpowiadać”, a to sprawia, że nie czujemy maila czy komentarza jako komunikatu od prawdziwego człowieka. Przez to rzadziej identyfikujemy ludzi jako ludzi i zwracamy się do nich jako do przedmiotów – nie tłumiąc swoich emocji i frustracji. Okazując wyższość, jaka charakteryzuje podmiot w filozoficznej relacji podmiot-przedmiot. Nie ma twarzy, nie reaguje głosem, czyli nie jest na moim poziomie.

   Gdyby dziś pozwolić A. Turingowi przemyśleć formułę swojego testu, na pewno by ją zmienił. W chwili obecnej wielu „sędziów” testu nie byłoby w stanie rozpoznać prawdziwych ludzi na podstawie pisanych przez nich tekstów.

 

(źródło)

Czy długo utrzyma się taki stan? Niedługo. Otoczeni przez rozmawiające automaty, najpierw uprzedmiotowimy naszych rozmówców głosowych (nazwijmy ich telefonicznymi). Potem, w zależności od tempa postępu, to samo uczynimy w rozmowach twarzą w twarz.