Nietypowy aparat. Raczej nie chcesz, by ktoś zrobił ci nim zdjęcie

W dzisiejszych czasach w sieci możemy natknąć się na wszelkiej maści wygenerowane za pomocą AI obrazy, filmy i dźwięki. Swego czasu w internecie krążyło zdjęcie papieża w puchowej kurtce, hitem były też przeróbki prezydenta recenzującego gulasz z Biedronki. Już takie żarty to problem, a co dopiero, gdy zaczyna się wykorzystywanie możliwości AI do tworzenia nagrań nawołujących do fałszywych inwestycji, czy też przygotowywanie obrazów ukazujących różne osoby nago, bez ich zgody.

Dwóch twórców, Matthias Vef i Benedikt Groß, stworzyło na domiar wszystkiego aparat wyposażony w moduł AI, który procesuje obrazy tak, by otrzymać zdjęcie danej osoby właśnie w negliżu. O co w tym chodzi? Czy niedługo strach będzie wyjść z domu, by przypadkiem nie trafić na kogoś z takim aparatem, ryzykując, że wejdzie w posiadanie naszych roznegliżowanych zdjęć, przygotowanych w kilka sekund przez sztuczną inteligencję?

Na szczęście wspomniany sprzęt to tylko projekt artystyczny dwóch twórców, którzy chcą tym samym pokazać, że rozwijanie niektórych gałęzi sztucznej inteligencji może być problematyczne. Jak twierdzą twórcy aparatu NUCA, celem tego projektu jest sprowokowanie dyskusji na ten temat i zakwestionowanie aktualnej trajektorii rozwoju generatywnej sztucznej inteligencji w kwestii przetwarzania obrazów, szczególnie jeśli chodzi o zdjęcia ludzi.

- W przeciwieństwie do innych sposobów tworzenia deepfake'ów, urządzenie NUCA namacalnie łączy fotografa i portretowaną osobę i natychmiast pokazuje wynik procesu obróbki. Eliminuje to anonimowość właściwą internetowym deepfake’om i zestawia zabawę z tym koszmarnym trendem - wyjaśniają twórcy.

Prototyp NUCA to aparat z szerokokątnym obiektywem 37 mm. Kiedy ktoś robi nim zdjęcie, jest ono od razu wysyłane na serwer, a do przetworzenia portretu w akt wykorzystywany jest stworzony przez twórców klasyfikator. Zdjęcie wejściowe jest analizowane na podstawie 45 identyfikatorów dotyczących płci, wieku, pochodzenia etnicznego, wyrazu twarzy, włosów, okularów, układu ciała, itp.

Obraz bazowy tworzony jest z wykorzystaniem generatora typu Stable Difusion wraz z modelem Civitai i przygotowuje wyobrażenie ciała fotografowanej osoby bez odzienia, a następnie projekt taki jest indywidualizowany poprzez uwzględnienie twarzy portretowanej osoby, itd. Cały proces przetworzenia obrazu zajmuje około 10 sekund, a twórcy twierdzą, że mogliby nawet zoptymalizować ten proces tak, aby był dwa razy szybszy.

Opis kamery na stronie projektu nuca.rocks ma formę reklamy, jakby chodziło o prezentację prawdziwego gadżetu dla konsumenta. Twórcy nie planują jednak sprzedaży tego produktu, a jedynie prezentację na targach. Będzie go można zobaczyć np. na wystawie Uncanny w Berlinie 29 czerwca 2024 r. Niezależnie od zamysłu twórców tego projektu, wiele osób, które zetknęły się z ich pomysłem, obawia się, że wyznaczą w ten sposób pewien trend i być może kolejni autorzy zdecydują się skomercjalizować podobne urządzenie. Matthias Vef i Benedikt Groß są jednak zdania, że ich projekt powinien przynieść "wręcz odwrotne skutki".

- Projekt ten ma wywołać kluczową dyskusję na temat potencjału sztucznej inteligencji, kładąc nacisk na zgodę, uczciwość algorytmiczną i wpływ społeczny obrazów generowanych przez sztuczną inteligencję. Jak to ujęli Emanuel Maiberg i Samantha Cole, musimy stawić czoła faktowi, że stoimy w obliczu "eksplozji zmysłowych obrazów wykonanych bez naszej zgody, wyciekających z każdej szczeliny infrastruktury internetowej" - podkreślili twórcy aparatu NUCA.

***

Bądź na bieżąco i zostań jednym z 90 tys. obserwujących nasz fanpage - polub Geekweek na Facebooku i komentuj tam nasze artykuły!