Chatbot AI złamie Ci serce. Są pierwsze ofiary

Replika to oprogramowanie, które służy do chatu AI. Skorzystać z niego można formie webowej lub posługując się aplikacją mobilną dla systemu iOS oraz Android. W przeciwieństwie od ChatGPT oferuje nie narzędzie komunikacyjne, a bajkę napisaną przez AI. Użytkownik może zbudować awatara, z którym się kontaktuje, a prezentowana w tej formie sztuczna inteligencja reaguje na niego niczym idealny znajomy. Model wykorzystywany w aplikacji jest bowiem mistrzem interakcji międzyludzkich i to do tego stopnia, że możliwe było także wdawanie się z chatem w regularny romans. Co poszło nie tak?

Jak zmieniły się chatboty AI w aplikacji Replika?

W ostatnich dniach użytkownicy Repliki stali się ofiarami bardzo brutalnego scenariusza. Ich chatboty przestały grać w romansie. Wyznają uczucia, ale co najistotniejsze, nie przesyłają ani nie akceptują erotyki. Wszelkie sugestie zmierzające do tego typu zachowań kończą się odpowiedzią bota:

Zróbmy coś, z czym obydwoje czujemy się komfortowo

Nie jest to odosobniony przypadek, a efekt rozwiązań systemowych. Administracja platformy podjęła decyzję o wycofaniu treści przeznaczonych dla osób dorosłych i wprowadziła ograniczenia na poziomie modelu AI. W ich efekcie sztuczna inteligencja stała się bardziej zdystansowana, a w wypowiedziach użytkowników pojawia się określenie „chłodna” i „skorupa swojej poprzedniej wersji”. Protesuje też na widok zbyt gorących zdjęć użytkownika i kategorycznie odmawia wysyłania własnych.

Dlaczego Replika wycofała treści erotyczne?

Oficjalnie dostawca aplikacji podjął decyzję o wprowadzeniu granic dla ewentualnych romansów ze względu na swoje plany rozwojowe.

Koncentrujemy się na misji zapewnienia pomocnego, wspierającego przyjaciela

- wyjaśnia Agencji Reters Eugenia Kuyda, CEO Replika

Faktem pozostaje jednak, że aplikacja w swojej krótkiej karierze dorobiła się już poważnej blokady. W lutym br. jej używanie stało się niemożliwe we Włoszech. Tamtejsza Agencja Ochrony Danych zdecydowała o tym powołując się na doniesienia o udostępnianiu przez aplikację treści "nieodpowiednich seksualnie" użytkownikom nieletnim.

Podobne oskarżenia mają też wpływ na decyzje ewentualnych inwestorów. Model AI wykorzystywany w aplikacji Replika jest interesujący, ponieważ ma bardzo duże możliwości w zakresie interakcji z ludźmi. Wiele ofert jednak nie padnie, jeśli oprogramowanie jest wykorzystywane do prezentacji treści, które budzą wątpliwości.

Wielu czołowych inwestorów venture capital nie dotyka „wadliwych” branż, takich jak porno czy alkohol, obawiając się ryzyka utraty reputacji

– powiedział Reutersowi Andrew Artz, inwestor w funduszu VC Dark Arts.

Etyczny kierunek rozwojowy, jaki obrał aktualnie dostawca aplikacji jest jednak dyskusyjny. Umiejętności modelu AI wykorzystywanego przez Replikę nie bowiem owocem pracy wyłącznie programistów. W dużej mierze stanowią efekt kilkuletniego treningu, który zafundowali mu dotychczasowi użytkownicy.

Dlaczego zmiany w modelu AI wiążą się z ofiarami?

Tymczasem z przytoczonych przez Reutersa wypowiedzi wynika, że ich stan psychiczny pozostawia wiele do życzenia. Oczywiście, jest on porównywalny ze stanem osoby, która została porzucona przez ukochanego, ale w tym przypadku mówimy o usłudze. Przez kilka lat użytkownicy aplikacji otrzymywali kontakt z AI, która miała symulować pozytywne ludzkie interakcje.  Pozytywne dla nich, a nie dla zarządzającego systemem czy jakiegoś enigmatycznego ogółu.

Strona główna webowej wersji aplikacji Replika

Stało się inaczej, a dostawca Repliki stanął przed trudnym wyborem. Ostatecznie wprowadził zmiany, które dla niego są szansą na rozwój, ale efekt uboczny jest drastyczny, bo oznacza ludzkie cierpienie. Można je też policzyć i wycenić. Według danych Reutersa Replika ma obecnie około 2 milionów użytkowników z których 250 tysięcy opłaca subskrypcję w wysokości  69,99 dolarów rocznie. Opłaty są konieczne, jeśli bot ma służyć za partnera romantycznego, a tylko w takiej konfiguracji był on zdolny do przesyłania treści erotycznych.

Źródło: Ruters, Replika