Ta aplikacja do randkowania poradziła sobie z oszustami... oszustwem!

Mowa o aplikacji Filteroff. Powstała ona podczas pandemii, kiedy to ludzie na całym świecie mogli odczuwać brak bezpośrednich kontaktów międzyludzkich bardziej niż zwykle. Twórcy postawili na szybkie randkowanie poprzez rozmowy wideo, odbywające się podczas wydarzeń tematycznych. W danym momencie można było porozmawiać np. o Harrym Potterze, psach albo kotach itd. W miejsce przesuwania w bok, pojawiły się zatem krótkie, ale realne konwersacje wideo. Dopiero po nich można zdecydować, czy chcemy z daną osobą dalej rozmawiać, czy może niekoniecznie.

Niestety jednak Brian Weinreich, twórca apki, zauważył pewnego razu, że do platformy dołączył... George Clooney. Jak można się spodziewać, był to oszust, ponieważ znany aktor zdecydowanie nie jest 34-latkiem z Lagos z Nigerii. To zaniepokoiło mężczyznę, któremu zależy na bezpieczeństwie użytkowników. Profil fałszywego Clooneya został usunięty, ale rozległy problem fałszywych kont pozostał.

Aby sobie z nim poradzić, twórcy Filteroff posłużyli się algorytmami i stworzyli oprogramowanie, które filtruje rejestrujących się na użytkowników, jacy korzystają z aplikacji faktycznie w celu randkowania, i oszustów. W ten sposób usunięto sporo osób należących do tej drugiej grupy, jednak w ich miejsce przychodzili kolejni i było ich coraz więcej i więcej.

Potrzebny był zatem inny sposób. Zespół wykorzystał GPT-3 do stworzenia szeregu chatbotów, w połączeniu ze skryptem generującym twarze przypominające ludzkie... i tak powstały liczne fałszywe profile, które były oczywiście zamierzone, a na jakich boty mówią i wyglądają jak ludzie. Nie są one widoczne dla standardowych użytkowników - mogą na nie trafić jedynie oszuści. Ale to nie wszystko!

Oszuści mogą także "randkować" z innymi oszustami, a to powoduje, że cała ta grupa próbuje się oszukać nawzajem. Jak przyznaje Weinreich, w aplikacji jest aktualnie ponad 1000 oszustów, którzy aktywnie rozmawiają jedynie z botami i marnują swój czas, a w tym samym momencie zwykli użytkownicy mogą bezpiecznie korzystać z narzędzia. Oczywiście może się zdarzyć, że system nie wykryje wszystkich - na bieżąco można więc też zgłaszać i blokować tych, którzy wydają się podejrzani.