Play it again, Siri
Chyba każdy z widzów filmu „Zróbmy sobie wnuka” parsknął śmiechem, gdy bohaterka, Zosia Tuchałowa, prosta dziewczyna ze wsi, naciska przycisk sygnalizacji świetlnej, nachyla się do niego i mówi „To ja, Krysia Tuchałowa… Zielone poproszę”. A jeśli nie, to chwilę później, gdy światło zmienia się na zielone i Krysia wkracza na przejście dla pieszych… by zaraz zawrócić i powiedzieć do przycisku „Dziękuję!”.
Oczywiście,
traktowanie urządzeń technicznych jako bytów podobnych człowiekowi
nie jest wynalazkiem naszych czasów. Jednym z wyznaczników tego
zjawiska jest nadawanie imion. Jeśli kojarzysz pierwsze rozdziały
Księgi Rodzaju, to pewnie zdajesz sobie sprawę, jak ważne jest
posiadanie imienia, ale także to, kto komu imię nadaje (nadanie
imienia jest znakiem dominacji). Rzecz mająca imię, ma o wiele
wyższy status, niż ta imienia nie posiadająca – co innego jakaś
bezimienna góra, a co innego ta o imieniu Olimp. Przedmioty wykonane
ręką ludzką mają swe imiona od tysiącleci - „Argo”, statek
Jazona i jego wesołego gangu, jest wymieniony już w homerowej
„Odysei”. I chyba statki jako pierwsze urządzenia dostąpiły
zaszczytu nazwania.
Jeśli
zaś przedmiot obdarzony imieniem zaczyna wchodzić w interakcje w
człowiekiem – to już staje się ciekawe. Najbardziej
interesującą interakcją
jest – rzecz jasna – rozmowa. Płynnie
mijając test Turinga i searlowskie kontrdoświadczenie chińskiego pokoju, docieramy do tego, nad czym się chciałem dziś zastanowić
– jak podnosimy do rangi człowieka urządzenia, z którymi możemy
porozmawiać.
Czy
zdarzyło Ci się w rozmowie z chatbotem powiedzieć „dziękuję,
do widzenia”? Czy zdarzyło się powiedzenie do asystenta
Google/Siri/Alexy „dziękuję”, albo „ale z ciebie
bałwan/idiotka!”? Jeśli tak, to zastanów się, dlaczego do tego
doszło. Z punktu widzenia techniki, taka quasi-AI w postaci
głosowego asystenta, niewiele różni się od tego przycisku na
przejściu dla pieszych. Mówiąc do Siri czy asystenta Google
„dziękuję” znajdujemy się w tej samej pozycji, w której była
Krysia Tuchałowa. Dlaczego posługujemy się zwrotami
grzecznościowymi wobec ludzi? Bo to jest pewnego rodzaju gra
językowa będąca podzbiorem gry w cywilizację. Gra łącząca
elementy etyki i cywilizacyjnego układu o współpracy. Duże słowa,
wiem, ale chyba właściwe w tym miejscu. Gdy mówisz komuś
„dziękuję”, dajesz znak dobrej woli kontaktu z nim. „Zrobiłaś
coś dla mnie i ja to doceniam” - taki jest sens. Adresat
otrzymawszy taki komunikat umiejscawia Ciebie w swojej
niewypowiedzianej klasyfikacji międzyludzkiej. Potem, gdy pyta się
o opinię o kimś, można usłyszeć: „to gbur, nigdy nie
podziękował za nic” - i to pozycjonuje człowieka w kontaktach z
innymi.
A
jaki sens ma to w odniesieniu do maszyny? Do gadającego
oprogramowania? Czy ono się na nas obrazi? Czy opowie innym
chatbotom, jacy jesteśmy niewychowani, przez co nie będą chciały
z nami rozmawiać? Jak zaskarbić sobie przychylność
oprogramowania?
Miałem
kiedyś do czynienia z zabawką o nazwie „Furby”. Chyba każdemu
z mojego pokolenia pierwsze zetknięcie z nią przypomina
sympatycznego Gizmo z filmu „Gremliny rozrabiają”. Otóż Furby
to mechatroniczny pluszak zasilany bateriami, o oczach z
wyświetlaczy, komunikujący się z innymi komputerami po interfejsie
Bluetooth (jabłkowicze musieli znieść piszczenie głośnikiem, co
za żenada) i do tego wyposażony w oprogramowanie symulujące cztery
„osobowości”. Wybór osobowości zależał od tego, jak się z
zabawką bawiący obchodził. Jeśli ją głodził i zaniedbywał,
Furby wpadał w osobowość gremlinowatą, zmieniał nawet głos na
gremlini, zachowywał się złośliwie i opryskliwie. Aby go
wyprowadzić z tego stanu, należało okazać mu dużo sympatii,
dobroci i cierpliwości pomimo jego zachowania. To miałoby
gigantyczny walor edukacyjny, moim zdaniem, gdyby większość dzieci
nie reagowała płaczem i odmową zajmowania się tym gburem w
jaskrawo ubarwionym futerku. Ale
ten prosty – w gruncie rzeczy – mechanizm nauczania o fali
zwrotnej w postępowaniu wobec drugiej istoty żywej, był tu
zamierzony. W przypadku Siri czy Alexy zwyczajnie
szkoda byłoby czasu na kodowanie i pamięci operacyjnej na taką
funkcjonalność. Mimo
wszystko ludzie zadając pytania, czy kończąc polecenia uzupełniają
je słowem „proszę”.
Zasadniczo
jest to przyzwyczajenie semantyczne. To słowo zazwyczaj się tam
pojawia, gdy zadajemy pytanie lub wydajemy „miękkie polecenie”:
„przynieś mi szklankę wody, proszę”, a potem „Ok, Google:
ustaw budzik na piątą trzydzieści proszę”. Ale
w głębi umysłu neolityczne nawyki budują skojarzenia: „rozmawia
się z ludźmi” → „rozmawiam z Siri” → „traktuję Siri
jak człowieka”.
Jaki
jest następny krok? Stosunek emocjonalny. I nie mówię tu o lęku,
który budził HAL 9000 w „2001: Odysei kosmicznej” Kubricka, bo
to zwyczajny lęk przed Obcym. Mówię o emocjach, czy wręcz
uczuciach, które żywił Theodore Twombly w „Ona” Jonze’a.
Warunkiem jest możliwość
personalizacji swojego egzemplarza quasi-AI: nadanie mu imienia,
zidentyfikowanie płci i roli społecznej… Potem już będzie z
górki: prawnicze rozkminy nad zakresem praw „inteligentnego”
oprogramowania, upodmiotowienie w kontekście prawa gospodarczego i
autorskiego i problemy etyczne dotyczące wyłączenia lub resetu
tego oprogramowania (czy piąte przykazanie to obejmie?).
Na
razie zostaje nam dialog z komiksu XKCD:
(źródło) |
Siri:
„Twój budzik został ustawiony”
Dziewczynka: „Dzięki”
Dziewczynka: „Czy Siri jest żywa?”
Dorosły: „Nie.”
Dziewczynka: „Aha, w porządku. A jak umarła?”
No, właśnie. Nie korzystam wprawdzie z Siri czy podobnych urządzeń, ale przyłapałam się na absurdalnej myśli - "nie powiedziałaś >dzień dobry< " - w czasie rozmowy ze sztuczną inteligencją na infolinii.
OdpowiedzUsuńAno właśnie... To jest dokładnie ten efekt, o którym mowa. Z kolei sam się złapałem kiedyś na tym, że na koniec rozmowy, zamiast zwyczajnie się rozłączyć, powiedziałem "do widzenia", co już w ogóle nie ma sensu, bo się z oprogramowaniem takiej infolinii nigdy nie zobaczymy...
Usuń