Sztuczna inteligencja TikToka zaliczyła wpadkę. Firma wycofuje rewolucję
TikTok podjął decyzję o wycofaniu testów funkcji AI Overviews po licznych skargach użytkowników na absurdalne i niezgodne z rzeczywistością opisy filmów generowane przez algorytm. Narzędzie miało wspierać oglądających w szybkim zrozumieniu treści wideo, jednak w praktyce AI nie radziła sobie z interpretacją, co budziło falę krytyki i żartów w sieci. Firma ograniczyła wykorzystanie funkcji do rozpoznawania produktów, aby uniknąć nieporozumień i dezinformacji.
Sztuczna inteligencja TikToka zaliczyła wpadkę. AI Overviews rozbawiła sieć
TikTok musiał wycofać się z testów nowej funkcji opartej na sztucznej inteligencji po tym, jak internauci zaczęli masowo udostępniać absurdalne opisy filmów generowane przez system. Narzędzie nazywane "AI Overviews" miało pomagać użytkownikom szybciej zrozumieć treści pojawiające się na ekranie. W praktyce jednak algorytm często kompletnie błędnie interpretował materiały wideo.
Funkcja była testowana jedynie na wybranych kontach w USA i kilku innych krajach. AI automatycznie dodawała krótkie podsumowania pod filmami, próbując wyjaśnić, co dzieje się na nagraniu. Problem w tym, że efekty okazały się momentami wręcz surrealistyczne. Jeden z filmów popularnej influencerki został opisany jako "kolekcja różnych borówek z dodatkami", choć materiał nie miał nic wspólnego z owocami. Inny klip z występem muzycznym algorytm określił jako "poruszające się niebieskie kształty".
W sieci szybko zaczęły pojawiać się kolejne przykłady błędów. Użytkownicy publikowali screeny pokazujące, jak sztuczna inteligencja kompletnie myliła sens nagrań. Jeden z tanecznych filmów został opisany jako scena, w której ktoś uderza się gumowym kurczakiem w głowę. Nawet zwykłe poradniki dla właścicieli psów były interpretowane jako instrukcje tworzenia origami.
TikTok wycofuje funkcję AI Overviews po krytyce opisów generowanych przez algorytm
Rosnąca fala krytyki sprawiła, że TikTok zdecydował się ograniczyć działanie funkcji. Firma poinformowała, że zamiast próbować opisywać całe nagrania, AI będzie się teraz skupiała głównie na rozpoznawaniu produktów widocznych w filmach. Ma to zmniejszyć liczbę pomyłek i ograniczyć ryzyko generowania fałszywych informacji.
Sytuacja ponownie rozpaliła dyskusję o problemie tzw. halucynacji AI, czyli momentach, gdy modele sztucznej inteligencji generują odpowiedzi brzmiące pewnie, ale całkowicie niezgodne z rzeczywistością. Eksperci zwracają uwagę, że szczególnie trudne dla algorytmów pozostaje poprawne interpretowanie dynamicznych materiałów wideo, gdzie muszą jednocześnie analizować obraz, ruch, dźwięk i kontekst.
