Przydatna funkcja Gemini. Sprawdzi, czy obraz został wygenerowany przez AI
Generatywna sztuczna inteligencja o wiele lepiej radzi sobie z tworzeniem tekstu, obrazu, wideo i dźwięku niż z rozpoznawaniem, czy pochodzą one od AI, czy raczej są dziełem człowieka. Narzędzia do wykrywania deepfake'ów osiągają większą lub mniejszą skuteczność. Jedno z nich trafiło właśnie do aplikacji Google Gemini. Użytkownicy mogą łatwo sprawdzić, czy obraz został wygenerowany przez AI. Wkrótce obejmie to także filmy i dźwięki.
Spis treści:
- Wykrywacz obrazów AI. Narzędzie wciąż niedoskonałe
- Jak sprawdzić, czy obraz został wygenerowany przez AI w Gemini?
- Google pozwoli wykrywać filmy i dźwięki stworzone przez AI
Wykrywacz obrazów AI. Narzędzie wciąż niedoskonałe
Firmy rozwijające dziś czołowe generatory obrazów, takie jak Google, OpenAI i Microsoft, dysponują również narzędziami do szacowania prawdopodobieństwa, czy daną grafikę wykonała AI. Nie są one jednak tak dobre, jak same generatory. Oczywiście te najpopularniejsze modele generatywne dodają do obrazów metadane oraz wizualny i niewidoczny znak wodny, jednak pozbycie się ich nie wymaga większych umiejętności. Dobrze stworzony deepfake oszuka nie tylko człowieka, ale też maszynę.
To, czy obraz został wygenerowany lub edytowany przez AI, czy stworzony przy użyciu tradycyjnego oprogramowania lub aparatu fotograficznego, specjalny silnik może próbować ocenić na podstawie przeróżnych cech. Wiele z nich jest zbieżnych z wideo. Z naszego niedawnego artykułu dowiecie się, po czym poznać film AI w social mediach. Teraz natomiast przyjrzymy się, jak można wykryć deepfake'a, mając do dyspozycji plik graficzny i darmową aplikację Google Gemini.
Jak sprawdzić, czy obraz został wygenerowany przez AI w Gemini?
Google wprowadziło mechanizm SynthID w 2023 roku. Od tamtego czasu dodał on znak wodny do 20 miliardów obrazów wygenerowanych przez AI. Firma udostępniła także portal weryfikacyjny SynthID Detector, którego działanie testowała z dziennikarzami i pracownikami mediów. Teraz ta funkcjonalność została zintegrowana z aplikacją Gemini.
"Od dziś ułatwiamy każdemu zweryfikowanie, czy obraz został wygenerowany lub edytowany przez Google AI bezpośrednio w aplikacji Gemini, przy użyciu SynthID, naszej technologii cyfrowego znaku wodnego, która osadza niewidoczne sygnały w zawartości wygenerowanej przez AI" - wyjaśnia producent.
Jak z tego korzystać? Wystarczy przesłać zdjęcie na czacie Gemini i wpisać albo podyktować prompt "Czy to zostało stworzone z Google AI?" albo "Czy to jest wygenerowane przez AI?". Gemini przy pomocy SynthID sprawdzi, czy zdjęcie ma niewidoczny znak wodny, i udzieli odpowiedzi, np. "W oparciu o analizę znak wodny SynthID został wykryty na ponad 50% tego obrazu. To wskazuje, że całość lub część zawartości została wygenerowana z Google AI".
Google pozwoli wykrywać filmy i dźwięki stworzone przez AI
Google nie zamierza na tym poprzestać. Co dalej? Firma zapowiada rozszerzenie weryfikacji SynthID, tak aby obejmowała nie tylko obrazy, ale również wideo i dźwięk. Ponadto ta funkcjonalność wyjdzie poza aplikację Gemini. To, czy treści zostały stworzone przez AI, będziemy mogli sprawdzić również w wyszukiwarce Google.
Gigant przypomniał też o swojej działalności w Coalition for Content Provenance and Authenticity (C2PA), której jednym z efektów będzie osadzanie metadanych C2PA w obrazach wygenerowanych przez uruchomiony niedawno silnik Nano Banana Pro (Gemini 3 Pro Image) w aplikacji Gemini, Vertex AI oraz Google Ads.
Można też będzie sprawdzać treści wygenerowane przez modele innych firm. "Z czasem rozszerzymy nasze podejście do weryfikacji, dodając obsługę uwierzytelnienia treści C2PA. Oznacza to, że będziecie mogli sprawdzać oryginalne źródło treści stworzonych przez modele i produkty, które istnieją poza ekosystemem Google" - dodają Pushmeet Kohli i Laurie Richardson z Google, podkreślając, że działania te mają zapewnić bardziej odpowiedzialną i transparentną sztuczną inteligencję.
