Chałkoń zbadany przez służby pod kątem rosyjskich wpływów na wybory w Polsce

Chałkoń zbadany pod kątem rosyjskich wpływów na wybory prezydenckie w Polsce

Narzędzia analityczne, śledzące ruch w polskim internecie, sugerują największy pik popularności "chałkonia" pomiędzy 12-18 stycznia. Wiadomo, że boom popytowy na grafiki generowane chałupniczo przez sztuczną inteligencję rozpoczął fanpejdż “Polska w dużych dawkach”, administrowany przez redakcję serwisu donald.pl. 7 stycznia opublikował własną interpretację trendu - chałkonia. Do 14 stycznia to samo zrobiła marka Kubota - firma notowana na polskiej giełdzie - a poza nią kilka samorządów (m.in. Tychy), restauracji, sklep z grami wideo, firma organizująca wakacje i Agencja Wywiadu. 

Tymczasem Państwowy Instytut Badawczy, działający jako organ opiniodawczo-doradczy przy Radzie Ministrów — NASK — w konsekwencji ostrzeżeń spływających z całej Europy, analizował źródło pochodzenia trendu. 

Zobacz też: Rośnie opór przed nowym podatkiem. Zapłacisz dwa razy więcej, zrezygnujesz, albo zejdziesz do “podziemia”

W Polsce powstaną zupełnie nowe cmentarze, wyrosną świątynie. Nie będzie tam miejsca dla katolików Czytaj dalej

Polska pod rosyjską presją przed wyborami prezydenckimi

Ministerstwo Cyfryzacji pod przewodnictwem Krzysztofa Gawkowskiego opracowuje plan ochrony wyborów — ma zostać ogłoszony do końca miesiąca. To inicjatywa zainspirowana wykryciem rosyjskiej grupy przygotowywanej przez GRU, tamtejszej służby wywiadowczej, z początkiem roku; sam Gawkowski w rozmowie z TVN24 oceniał, że Rosja prowadzi z Polską, lub na jej terenie, cyberwojnę, której celem jest powtórzenie — mniej lub bardziej adaptowanych — scenariuszy z zakłócanych procesów wyborczych m.in. w Rumunii. Jak dotąd wiadomo, że plan ma zakładać m.in. ochronę systemów Krajowego Biura Wyborczego i przeciwdziałanie dezinformacji — do tego ostatniego powołano nowe jednostki, współpracujące z polskimi służbami.

Już w minionym roku, w marcu, przed wyborami do Parlamentu Europejskiego, Polska współpracowała w tym zakresie m.in. z Czechami. Wówczas w Pradze wykryto i zlikwidowano prorosyjską sieć o nazwie Voice of Europe. Kolorytu i temperatury dodały wybory w Rumunii, unieważnione 6 grudnia (odbyły się 24 listopada) po tym, jak zwycięzca I tury – radykalnie prawicowy Călin Georgescu – dopuścił się manipulacji poprzez wykorzystanie „nieprzejrzystych i naruszających ordynację wyborczą technologii cyfrowych oraz sztucznej inteligencji w prowadzeniu kampanii” (fragment treści wyroku rumuńskiego Sądu Konstytucyjnego). 

Tyle z Rumunii oficjalnie, ale tamtejszy portal Libertatea opisał w tym kontekście sieć powiązaną z Moskwą, która ma działać w 19 krajach kontynentu i dystrybuować antyzachodnie nastroje. Podobnego kontekstu w "polskim trendzie chałkowym" doszukał się Adrian Domański, szef działu marketingu w grupie Monday i Współzałożyciel Social Selling Experts Academy. 

“Upiekł pyszną chałkę, ale nikt mu nie pogratulował, bo jest ze wsi i obchodzi 60 urodziny”? Hehe… a co, jak Wam powiem, że trend ten powstał na bazie farmy trolli szykowanej albo pod nachodzące wybory w Polsce, albo do wyłudzenia pieniędzy? Albo jedno i drugie - napisał w serwisie LinkedInn. 

W tamtym momencie chałkowy trend z memów, dystrybuowanych w serwisie Facebook na grupach i stronach, awansował już do roli produktu reklamowego, dystrybuowanego przez firmy. Stało się to niedługo po ironicznej, samoświadomej interpretacji memu w wykonaniu administracji fanpejdża “Polska w dużych dawkach” - poniżej — która to interpretacja dała początek pikowi z przełomu 12-18 stycznia.

W rozmowie z BiznesINFO Domański zwraca uwagę na grupę docelową, przynajmniej tę pierwotną, do której grafiki generowane przez AI trafiały, a w każdym razie miały trafiać, na samym początku. To znaczy zanim na “poziom wyżej”, czyli świadomej, prześmiewczej konsumpcji, wyniósł ją fanpejdż “Polska w dużych dawkach”.

Powstał chałkowy trend, pod który w ramach RTM (real time marketing - red.) podpinają się duże marki i twórcy internetowi. Zakładam, że jest to niezamierzony efekt całej akcji prowadzonej przez zagraniczną farmę trolli; brak składni, błędy w postach, jakby były tłumaczone z oczywistego języka […] - wymienia. 

Domański podnosi więc zagrożenie, które miałoby polegać na późniejszym, docelowym wykorzystaniu kont w mediach społecznościowych zbudowanych na trendzie. “Jestem praktycznie przekonany, że […] zostaną wykorzystane do prowadzenia jakieś kampanii dezinformacyjnej, do osób, które zostaną zidentyfikowane jako podatne na zmanipulowanie” - słyszymy.

Biorąc pod uwagę pierwotny wydźwięk grafik, a wszystkie zachowały spójny, oczywistym kandydatem na "ofiarę" są osoby starsze. W przypadku części z nich, rozpowszechnianych przez nadawców wprost odwołujących się do religii i wyznań, odróżnienie od autentycznych fotografii nie jest intuicyjne — nawet dla osób z przeciętnymi kompetencjami cyfrowymi.

NASK: zbadaliśmy sprawę chałkonia. AI slop

Ustaliliśmy, że sieciowy trend nie pozostał obojętny dla polskich służb. NASK na bieżąco analizuje tę przestrzeń, także pod kątem rosyjskich wpływów. 

Zespół analityków NASK przygląda się zjawiskom zachodzącym w sieci - badamy je pod kątem cyberbepieczeństwa i dezinformacji. Obserwujemy różnorodne trendy, w tym popularny w ostatnim czasie temat grafik z “chałkoniem” - przyznaje w rozmowie z BiznesINFO delegat Pionu Mediów i Komunikacji Instytutu. 

Na obecnym etapie rozwoju trendu trudno jednak mówić o motywacjach wprost politycznych, czy dezinformacyjnych. "[…] Aby mówić o dezinformacji, musiałoby dojść do manipulacji informacyjnych. Na tym etapie tego zjawiska nie widzimy. Chałkonia dziś ciężko oceniać inaczej niż jako formę rozrywkową" - ocenia NASK. Po czym dodaje perspektywę.

Niemniej "chałkoń" wykorzystuje AI slop (ang. slop – pomyje), czyli generowanie grafik, które są tandetne i dość łatwo rozpoznać, że nie przedstawiają rzeczywistości […], a to zjawisko może się łączyć z AI slop boomertrap (pl: “pułapki na boomera - skrótowe określenie osób urodzonych na przełomie lat 40. - 60/70. - red.).

Czyli, w polskich warunkach, tendencyjnie, osób wykazujących niższy zakres kompetencji cyfrowych od pokoleń urodzonych już w okresie powszechnego dostępu do internetu. Analitycy z NASK precyzują, że przy określaniu ram AI slop mówimy o dwóch kryteriach technicznych; niskiej jakości estetycznej (bywa, że widocznych błędów) i źródła w kodzie AI, sztucznej inteligencji.

Chałkoń utknął więc, przynajmniej na razie, na etapie śmieciowej, niegroźnej, lub relatywnie niegroźnej, treści rozrywkowej. Poziom wyżej, na etapie AI slop boomertrap'u, najpewniej nadal nie osiągnąłby masy krytycznej, ale stanowił już istotne ryzyko. Także w kontekście wyborów prezydenckich.

AI slop boomertrap: czyli do elementów wskazanych powyżej dochodzi poszerzanie zasięgu, np. w mediach społecznościowych, po to, by generować reakcje. To już jest bardziej szkodliwe, ponieważ może (nie musi) wiązać się z zaplanowaną akcją dezinformacyjną, która ma określony cel – zrzeszenie jednostek wokół danego tematu - wymieniają eksperci z NASK, dodając, że chałkoń nie stanowi takiego przykładu.

W przypadku "chałkonia" nie widzimy takiego zagrożenia. Tutaj ewidentnie jest aspekt humorystyczny, ale mogą pojawić się przykłady, gdy materiały czy publikacje będą się odnosiły np. do polityki i wtedy należy zachować ostrożność.

Demokracja i biznes

Po rozmowie z ekspertami z NASK chałkoń — i twory w przyszłości jemu podobne — odsłonił dwa główne fronty zagrożeń; finansowy (związany z potencjalnym zagrożeniem oszustwa) i dezinformacyjny/a obecnie wprost wyborczy. Ten pierwszy pokrótce scharakteryzował dla nas Adrian Domański; zainteresowanie bowiem, jeśli wystarczająco zogniskowane, można skapitalizować.

Z pozoru śmieszne obrazki są masowo wykorzystywane do budowania milionowych zasięgów wśród konkretnych grup społecznych na Facebooku. Do czego zostaną później użyte? Tego oczywiście nie wiemy, ale doświadczenie podpowiada, że mogą posłużyć do wyłudzania pieniędzy od starszych użytkowników, rozprzestrzeniania fake newsów czy chociażby stworzenia ogromnej grupy remarketingowej, którą potem sprzeda się innym podmiotom.

Do refleksji nt. upłynnienia zasięgu, wygenerowanego przez "chałkowy hub" dochodzi jeszcze refleksja wobec środowiska marketingowego — przypomnijmy, że “życie” chałkonia w polskiej sieci nie było długie; wszystkie jego fazy — od wirusowej dystrybucji słabej jakości obrazków, odwołujących się do ludycznych wartości, przez kultową już interpretację fanpejdża “Polska w dużych dawkach”, po RTM, czyli interpretację dużych firm na własne potrzeby — minęły zaledwie 2 tygodnie.

I tak oto „słynny RTM” (erng. real time marketing; tłum. marketing w czasie rzeczywistym - red.) po raz kolejny doprowadza mnie do smutnego wniosku: wielu marketingowców bezrefleksyjnie podłącza się pod internetowe trendy w pogoni za zasięgami. Bo przecież zasięg to święty Graal. Często zapominają jednak, że jako osoby odpowiedzialne za komunikację i strategię marketingową największych marek w Polsce mają realny wpływ na ludzi – większy niż wiele innych zawodów. Ich działania docierają do setek tysięcy, a nawet milionów odbiorców. I czasem mogą nieumyślnie uwiarygadniać oszustów.

Drugie zagrożenie, którego istnienie sprowokowało nas do odszukania źródła memu, zaopiniowała dla BiznesINFO Katarzyna Bernadetta Olszewska – wykładowca, doświadczona prawniczka, ekspertka cyberbezpieczeństwa, AI, ochrony danych i kompetencji cyfrowych.

Zachowanie ostrożności w kontekście wykorzystania przez źródła dezinformacyjne generatywnej AI jest tutaj kluczowe, zwłaszcza w kontekście potencjalnych zagrożeń związanych z manipulacją informacją i zewnętrznymi wpływami. Farmy trolli od lat są podejrzewane o ingerencję w procesy demokratyczne poprzez kampanie dezinformacyjne, co wskazuje na wysokie prawdopodobieństwo podejmowania podobnych działań w przyszłości. Generatywna AI, ze względu na swoją zdolność do tworzenia przekonujących, wizualnych i narracyjnych treści, otwiera nowe możliwości manipulacji, które mogą być coraz trudniejsze do wykrycia przez użytkowników popularnych serwisów społecznościowych.

Jak będzie wyglądała ingerencja w krajowe emocje?

By jednak analiza “instytucji” chałkonia była pełna, poprosiliśmy ekspertkę o opisanie modelowego przykładu ingerencji w treść debaty publicznej, nastrój albo emocje jakiejś grupy społecznej w Polsce przy użyciu narzędzi AI. Tak, by, choć chałkoń według analityków z NASK nie spełnia jak dotąd wymogów przedwyborczego szpiega — nomen omen “konia trojańskiego” - owy scenariusz przywołać w każdej kolejnej sytuacji granicznej. 

Jeśli chodzi o możliwy scenariusz, to jest on bardzo prosty. Wystarczy stworzyć kontrowersyjny temat, określić "wroga", wprowadzić dyskusję i/lub zdjęcia do sieci, następnie kierować nastrojami poprzez dodawanie kolejnych wątków, zniechęcanie, wzbudzanie skrajnych emocji, generowanie treści "szokujących" i "dramatycznych" o krzykliwych, przyciągających uwagę tytułach. Tak działa inżynieria społeczna.