Internet żyje trendami, a jednym z największych w ostatnim czasie jest tzw. „chałkoń”. Wygenerowany przez sztuczną inteligencję żart, wskazuje na skuteczność virali w kształtowaniu opinii publicznej i skłania do pytań o zagrożenie rozprzestrzeniania się dezinformacji.
Żywot „Chałkonia” rozpoczął się jako satyryczny post na Facebooku na fanpage’u „Polska w dużych dawkach”. Twórcy profilu dostrzegając, że portal jest zalewany generycznymi postami tworzonymi pod starszych użytkowników portalu o treści „ktoś zrobił X, ale nikt mu nie pogratulował” postanowili dla żartu przygotować własną wersję takiego posta. Opublikowali grafikę przedstawiające nietypowy wypiek – ogromną chałkę w kształcie przypominającym konia z dopiskiem „Ta kobieta upiekła chałkonia, ale nikt jej nie pogratulował”. Dla tysięcy internautów wygenerowana przez sztuczną inteligencję grafika okazała się na tyle przekonująca, że uznali oni historię za prawdziwą.
„Chałkoń okazał się bestią, której potęgi nie doceniliśmy” – napisali po kilku dniach autorzy fanpage’u „Polska w dużych dawkach”.
Wnętrze piekarni, w której znajduje się ogromna rzeźba konia wykonana z chałki posypanej sezamem. Koń ma realistyczny kształt i szczegóły anatomiczne, a jego powierzchnia jest błyszcząca i złocista. Obok niego stoi uśmiechnięta kobieta w białym stroju piekarskim, opierając dłoń na nogach gigantycznego chlebowego konia. W tle widoczne są półki pełne bochenków chleba oraz kuchenne wyposażenie piekarni.
Trend szybko rozprzestrzenił się w sieci i zyskał ogromną liczbę komentarzy, memów i przeróbek graficznych. Popularność „chałkonia” doprowadziła do tego, że wiele firm i marek zaczęło wykorzystywać go w swoich kampaniach reklamowych. Internetowe żarty o „chałkoniu” stały się niemal kultowe. Za całą akcją kryją się jednak ważniejsze kwestie: podatność ludzi na dezinformację i siła viralowych treści.
– Tym przerysowanym, karykaturalnym postem zebraliśmy ogromne zasięgi, post zobaczyło ponad milion osób. W komentarzach pojawiły się nieironiczne gratulacje dla twórczyni Chałkonia, głównie od starszych osób, przeplatane oczywiście ze śmieszkami czy (na szczęście) ostrzeżeniami, że to jest grafika AI – zauważają autorzy fanpage’u „Polska w dużych dawkach”.
Jak zwracają uwagę twórcy fanpage’u, historia chałkonia to dowód na to, że takich sytuacji będzie coraz więcej, ten niewinny żart pokazuje dużo szerszy i niebezpieczny problem.
– Najwięcej materiałów wygenerowanych przy użyciu sztucznej inteligencji, na które możemy natrafić, pojawia się na platformach społecznościowych. Często są to materiały tworzone masowo, różniące się jedynie drobnymi szczegółami, takimi jak odgłosy w tle czy inne niewielkie zmiany. Analizując metadane takich treści – publikowanych najczęściej w formie reklam – można zauważyć, że najbardziej popularną grupą odbiorców są osoby w wieku 45–60 lat. Oszuści mają możliwość samodzielnego wyboru grupy docelowej, co sugeruje, że populacja w tym przedziale wiekowym może być uznawana za „najłatwiejszy” cel cyberprzestępców. Warto zwrócić na to uwagę, przyglądając się temu trendowi – podkreśla Adrian Kordas, ekspert z Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji w NASK
Humor kontra Dezinformacja
Fenomen „chałkonia” pokazuje, że internauci uwielbiają humorystyczne, absurdalne treści, które pozwalają na chwilowe oderwanie się od codziennych problemów. Ten rodzaj rozrywki łączy ludzi i pobudza twórczość. Jednak, mimo że „chałkoń” był żartem, jego dynamiczne rozprzestrzenianie się pokazało, jak łatwo można zmanipulować ludzi, nawet za pomocą oczywistej fikcji. Wiele osób uwierzyło w autentyczność tej historii, dowodzi to, jak podatni jesteśmy na niezweryfikowane informacje w mediach społecznościowych.
– Ludzie w pierwszym kontakcie z nową informacją mają tendencję do automatycznego uznawania jej za prawdziwą. Dopiero gdy dostrzeżemy szczegóły, które wskazują na potencjalne oszustwo, zaczynamy ją kwestionować. Wraz z rosnącą skutecznością sztucznej inteligencji w generowaniu wysokiej jakości obrazów i tekstów, rozpoznanie takich szczegółów staje się coraz trudniejsze. Dodatkowo mała wiedza o metodach tworzenia tych treści, domyślne zaufanie do treści w Internecie oraz socjotechniki wzmacniające zaangażowanie odbiorców sprawiają, że tego typu publikacje zyskują na popularności, a ich fałszywy charakter umyka uwadze wielu internautów – zwraca uwagę Michał Ołowski z Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji w NASK.
Im bardziej absurdalna lub emocjonalna treść, tym większe prawdopodobieństwo, że zostanie masowo udostępniona i przetworzona, a nie wszyscy potrafią oddzielić żart od rzeczywistości. W przypadku „chałkonia” sytuacja wydaje się nieszkodliwa, ale mechanizm, na którym się opiera, może być wykorzystywany do mniej żartobliwych celów.
– Weryfikowanie źródeł i rozwijanie umiejętności krytycznego myślenia są kluczowe. Choć humor jest niezwykle ważnym elementem kultury internetowej, nie możemy pozwolić, aby przerodził się w narzędzie manipulacji czy chaosu informacyjnego, a to realne zagrożenie, zwłaszcza w kontekście zbliżających się w Polsce kolejnych wyborów – dodaje ekspert z Ośrodka Analizy Dezinformacji z NASK, Andrzej Kozłowski.
„Chałkoń” jako ostrzeżenie
W historii „chałkonia” trudno doszukiwać się elementów dezinformacji jednak nie można pominąć, że wpisuje się on w zjawisko AI slop (ang. artifficial intelligence – sztuczna inteligencja i slop – pomyje), czyli generowanie grafik, które są tandetne i dość łatwo rozpoznać, że nie przedstawiają rzeczywistości. A to z kolei może (choć nie zawsze musi) łączyć się z AI slop boomertrap, czyli „pułapki na boomera”, na którą “złapać” mogą się osoby urodzone w latach 1940-1970.
Żeby mówić o AI slop boomertrap, publikacja treści musi mieć na celu poszerzanie zasięgu w mediach społecznościowych, żeby generować reakcje np. w celu przeprowadzenia zaplanowanej akcji dezinformacyjną, która ma określony cel – zrzeszenie jednostek wokół danego tematu.
– W przypadku „chałkonia” nie widzimy zagrożenia AI slop boomertrap. Tutaj ewidentnie jest aspekt humorystyczny, ale mogą pojawić się przykłady, gdy materiały czy publikacje będą się odnosiły np. do polityki. Wtedy należy zachować ostrożność – zwraca uwagę Andrzej Kozłowski z NASK.
Celem tego rodzaju akcji mogą być nie tylko oszustwa i aktywizacja użytkowników, ale również gromadzenie danych o profilach wybranej, podatnej grupy odbiorców w celu późniejszego prowadzenia kampanii dezinformacyjnych.
Generatywny spam
„Chałkoń” to idealny przykład na to, jak viralowe treści mogą wpływać na masową wyobraźnię. Z jednej strony to zabawny fenomen, który zjednoczył internautów wokół humorystycznego żartu, z drugiej – ostrzeżenie przed siłą dezinformacji i potrzebą krytycznego podejścia do treści w sieci.
– Internet daje ogromne możliwości twórcze, ale wymaga też odpowiedzialności – bo nawet chałka w kształcie konia może pokazać, jak łatwo dać się wprowadzić w błąd. To szczególnie ważne w momencie, gdy Social Media, a w szczególności Facebook są zalewane treściami niskiej jakości, które generują algorytmy AI – podsumowuje Michał Ołowski z Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji w NASK.
Generowane przez AI grafiki mogą być wykorzystywane przez spamerów i do szerzenia fałszywych informacji, manipulując faktami i przyciągając uwagę użytkowników. W przypadku szkodliwych treści zawsze warto przeciwdziałać, zgłaszając materiał jako spam bezpośrednio na platformie społecznościowej. Trzeba jednak mieć na uwadze, że przez brak odpowiednich regulacji na platformach takich jak Facebook, skuteczna moderacja treści jest trudna. W tym momencie najlepszą ochroną jest edukacja i ostrożność samych użytkowników w konfrontacji z postami, które pojawiają się w mediach społecznościowych.