Play it again, Siri

Chyba każdy z widzów filmu „Zróbmy sobie wnuka” parsknął śmiechem, gdy bohaterka, Zosia Tuchałowa, prosta dziewczyna ze wsi, naciska przycisk sygnalizacji świetlnej, nachyla się do niego i mówi „To ja, Krysia Tuchałowa… Zielone poproszę”. A jeśli nie, to chwilę później, gdy światło zmienia się na zielone i Krysia wkracza na przejście dla pieszych… by zaraz zawrócić i powiedzieć do przycisku „Dziękuję!”.

Oczywiście, traktowanie urządzeń technicznych jako bytów podobnych człowiekowi nie jest wynalazkiem naszych czasów. Jednym z wyznaczników tego zjawiska jest nadawanie imion. Jeśli kojarzysz pierwsze rozdziały Księgi Rodzaju, to pewnie zdajesz sobie sprawę, jak ważne jest posiadanie imienia, ale także to, kto komu imię nadaje (nadanie imienia jest znakiem dominacji). Rzecz mająca imię, ma o wiele wyższy status, niż ta imienia nie posiadająca – co innego jakaś bezimienna góra, a co innego ta o imieniu Olimp. Przedmioty wykonane ręką ludzką mają swe imiona od tysiącleci - „Argo”, statek Jazona i jego wesołego gangu, jest wymieniony już w homerowej „Odysei”. I chyba statki jako pierwsze urządzenia dostąpiły zaszczytu nazwania.

   Jeśli zaś przedmiot obdarzony imieniem zaczyna wchodzić w interakcje w człowiekiem – to już staje się ciekawe. Najbardziej interesującą interakcją jest – rzecz jasna – rozmowa. Płynnie mijając test Turinga i searlowskie kontrdoświadczenie chińskiego pokoju, docieramy do tego, nad czym się chciałem dziś zastanowić – jak podnosimy do rangi człowieka urządzenia, z którymi możemy porozmawiać.

   Czy zdarzyło Ci się w rozmowie z chatbotem powiedzieć „dziękuję, do widzenia”? Czy zdarzyło się powiedzenie do asystenta Google/Siri/Alexy „dziękuję”, albo „ale z ciebie bałwan/idiotka!”? Jeśli tak, to zastanów się, dlaczego do tego doszło. Z punktu widzenia techniki, taka quasi-AI w postaci głosowego asystenta, niewiele różni się od tego przycisku na przejściu dla pieszych. Mówiąc do Siri czy asystenta Google „dziękuję” znajdujemy się w tej samej pozycji, w której była Krysia Tuchałowa. Dlaczego posługujemy się zwrotami grzecznościowymi wobec ludzi? Bo to jest pewnego rodzaju gra językowa będąca podzbiorem gry w cywilizację. Gra łącząca elementy etyki i cywilizacyjnego układu o współpracy. Duże słowa, wiem, ale chyba właściwe w tym miejscu. Gdy mówisz komuś „dziękuję”, dajesz znak dobrej woli kontaktu z nim. „Zrobiłaś coś dla mnie i ja to doceniam” - taki jest sens. Adresat otrzymawszy taki komunikat umiejscawia Ciebie w swojej niewypowiedzianej klasyfikacji międzyludzkiej. Potem, gdy pyta się o opinię o kimś, można usłyszeć: „to gbur, nigdy nie podziękował za nic” - i to pozycjonuje człowieka w kontaktach z innymi.

   A jaki sens ma to w odniesieniu do maszyny? Do gadającego oprogramowania? Czy ono się na nas obrazi? Czy opowie innym chatbotom, jacy jesteśmy niewychowani, przez co nie będą chciały z nami rozmawiać? Jak zaskarbić sobie przychylność oprogramowania?

   Miałem kiedyś do czynienia z zabawką o nazwie „Furby”. Chyba każdemu z mojego pokolenia pierwsze zetknięcie z nią przypomina sympatycznego Gizmo z filmu „Gremliny rozrabiają”. Otóż Furby to mechatroniczny pluszak zasilany bateriami, o oczach z wyświetlaczy, komunikujący się z innymi komputerami po interfejsie Bluetooth (jabłkowicze musieli znieść piszczenie głośnikiem, co za żenada) i do tego wyposażony w oprogramowanie symulujące cztery „osobowości”. Wybór osobowości zależał od tego, jak się z zabawką bawiący obchodził. Jeśli ją głodził i zaniedbywał, Furby wpadał w osobowość gremlinowatą, zmieniał nawet głos na gremlini, zachowywał się złośliwie i opryskliwie. Aby go wyprowadzić z tego stanu, należało okazać mu dużo sympatii, dobroci i cierpliwości pomimo jego zachowania. To miałoby gigantyczny walor edukacyjny, moim zdaniem, gdyby większość dzieci nie reagowała płaczem i odmową zajmowania się tym gburem w jaskrawo ubarwionym futerku. Ale ten prosty – w gruncie rzeczy – mechanizm nauczania o fali zwrotnej w postępowaniu wobec drugiej istoty żywej, był tu zamierzony. W przypadku Siri czy Alexy zwyczajnie szkoda byłoby czasu na kodowanie i pamięci operacyjnej na taką funkcjonalność. Mimo wszystko ludzie zadając pytania, czy kończąc polecenia uzupełniają je słowem „proszę”.

   Zasadniczo jest to przyzwyczajenie semantyczne. To słowo zazwyczaj się tam pojawia, gdy zadajemy pytanie lub wydajemy „miękkie polecenie”: „przynieś mi szklankę wody, proszę”, a potem „Ok, Google: ustaw budzik na piątą trzydzieści proszę”. Ale w głębi umysłu neolityczne nawyki budują skojarzenia: „rozmawia się z ludźmi” → „rozmawiam z Siri” → „traktuję Siri jak człowieka”.

   Jaki jest następny krok? Stosunek emocjonalny. I nie mówię tu o lęku, który budził HAL 9000 w „2001: Odysei kosmicznej” Kubricka, bo to zwyczajny lęk przed Obcym. Mówię o emocjach, czy wręcz uczuciach, które żywił Theodore Twombly w „Ona” Jonze’a. Warunkiem jest możliwość personalizacji swojego egzemplarza quasi-AI: nadanie mu imienia, zidentyfikowanie płci i roli społecznej… Potem już będzie z górki: prawnicze rozkminy nad zakresem praw „inteligentnego” oprogramowania, upodmiotowienie w kontekście prawa gospodarczego i autorskiego i problemy etyczne dotyczące wyłączenia lub resetu tego oprogramowania (czy piąte przykazanie to obejmie?).

   Na razie zostaje nam dialog z komiksu XKCD:

 

(źródło)

Siri: „Twój budzik został ustawiony”
Dziewczynka: „Dzięki”
Dziewczynka: „Czy Siri jest żywa?”
Dorosły: „Nie.”
Dziewczynka: „Aha, w porządku. A jak umarła?”