Obawy przed manipulacją rosną, gdy boty zalewają media społecznościowe

Mniej niż dwadzieścia cztery godziny po zamachu na Charlie Kirk w Utah, sieć społecznościowa X została zalana wiadomościami wzywającymi do zemsty i wspominającymi o wojnie domowej. Tysiące postów, często napisanych identycznymi słowami, wskazują na lewicę jako odpowiedzialną. W obliczu tego napływu, kilku badaczy podejrzewa sztuczne wzmocnienie przekazu. Za tymi wezwaniami do przemocy niektóre konta wykazują cechy zautomatyzowanych sieci.

Wezwania do wojny domowej od pierwszych godzin

Godziny po ogłoszeniu zamachu na Charlie Kirk, do którego doszło podczas wydarzenia w Salt Lake City (Utah), platforma X (dawniej Twitter) została zalana wrogimi wiadomościami wzywającymi do wojny domowej lub odwetu wobec amerykańskiej lewicy, podczas gdy UE przygotowuje znaczące sankcje wobec wspomnianej sieci społecznościowej.

Te posty, często powtarzane słowo w słowo, szybko zwróciły uwagę ze względu na swój wojowniczy ton i szybkie rozprzestrzenianie się. Zwroty takie jak „To jest wojna”, „Lewica za to zapłaci” czy „Nie macie pojęcia, co nadchodzi” były powtarzane wielokrotnie, pochodząc z kont o bardzo podobnych i mało angażujących profilach.

Politolog Branislav Slantchev, profesor na University of San Diego, podsumował sytuację na X następująco: „zobaczymy wiele kont faktycznie popychających do wojny domowej w Stanach Zjednoczonych. Wśród nich jest główny prowokator Elon Musk, ale także armia rosyjskich i chińskich botów oraz ich gorliwi przekaźnicy na Zachodzie”.

To, co zauważyło wielu użytkowników i badaczy, to silna koncentracja profili spełniających powtarzające się kryteria, sugerujące algorytmiczne lub zautomatyzowane wzmacnianie treści:

• Zdjęcia profilowe generowane przez AI lub pochodzące z banków zdjęć;

• Ogólne biografie, często ograniczone do kilku słów kluczowych (Christian, MAGA, Patriot itp.);

• Systematyczne wzmianki jak „NO DMs” obecne na wielu kontach zaangażowanych w to rozpowszechnianie;

• Patriotyczne banery i grafiki, amerykańskie flagi lub cytaty z konserwatywnych postaci;

• Bardzo niska historia aktywności poza publikacjami związanymi z tym wydarzeniem;

• Bardzo ścisłe ramy czasowe publikacji, z podobnymi wiadomościami publikowanymi wielokrotnie.

Te elementy, rozpatrywane osobno, nie stanowią formalnego dowodu automatyzacji. Jednak ich nagromadzenie i jednorodność wzbudziły podejrzenia o operację dezinformacyjną lub zorganizowane wzmacnianie przekazu na X, wykorzystując szok wywołany zamachem na Kirk.

Podejrzenia manipulacji algorytmicznej bez formalnych dowodów

Chociaż sygnałów możliwej zorganizowanej manipulacji jest wiele, żadna władza publiczna, centrum cyberbezpieczeństwa ani nawet główne platformy nie potwierdziły do tej pory istnienia skoordynowanej kampanii botów związanej z tym wydarzeniem.

Jednak kilka badań przypomina, że zagraniczne operacje wzmacniające polaryzujący dyskurs, takie jak „Spamouflage” (sieć przypisywana Chinom) czy „Doppelgänger” (kampania wpływu prorosyjskiego), już wcześniej celowały w Stany Zjednoczone za pośrednictwem sieci fałszywych kont i treści generowanych przez AI.

W 2024 roku śledztwo Global Witness zidentyfikowało 45 kont o zwyczajnym wyglądzie, które same wygenerowały ponad 4 miliardy wyświetleń wokół polaryzujących treści.

Szybki rozwój technologii związanych ze sztuczną inteligencją sprawia, że takie kampanie są obecnie trudniejsze do wykrycia. Publikacje o ludzkim tonie, nienagannej pisowni i publikowane w wiarygodnych godzinach mogą być teraz produkowane na skalę przemysłową.

Badanie opublikowane w Plos One w lutym ubiegłego roku wskazuje ponadto, że od czasu zakupu X przez Elon Musk, ilość mowy nienawiści wzrosła, bez spadku udziału nieautentycznych kont.

Podczas gdy ONZ coraz częściej ostrzega przed deepfake’ami, skala i gwałtowność tej nowej fali wezwań do wojny domowej na X mogą być jedynie pierwszymi oznakami większej bitwy, toczonej za pomocą algorytmów i serwerów. Jeśli teza o zagranicznej ingerencji pozostaje do potwierdzenia, podkreśla ona fundamentalną prawdę: współczesny chaos polityczny nie wybucha już tylko przy urnach czy na ulicach, ale także, a może przede wszystkim, za kulisami kodu.