Tumaas ang Pag-aalala sa Manipulasyon Habang Dumadami ang Bots sa Social Media

Mas mababa sa dalawampu't apat na oras matapos ang asasinasyon kay Charlie Kirk sa Utah, binaha ang social network na X ng mga mensaheng nananawagan ng paghihiganti at binabanggit ang isang digmaang sibil. Libu-libong mga post, kadalasang isinulat sa magkatulad na mga termino, ay itinuturo ang kaliwa bilang responsable. Sa harap ng pagdagsang ito, ilang mga mananaliksik ang naghihinala ng artipisyal na pagpapalakas. Sa likod ng mga panawagan ng karahasan, ilang mga account ang nagpapakita ng mga katangian ng mga automated na network.

Mga panawagan ng digmaang sibil mula sa unang mga oras

Ilang oras matapos ang anunsyo ng asasinasyon kay Charlie Kirk, na naganap sa isang event sa Salt Lake City (Utah), binaha ang X platform (dating Twitter) ng mga mapanulsol na mensaheng nananawagan ng digmaang sibil o paghihiganti laban sa American left, habang naghahanda ang EU ng malalaking parusa laban sa nasabing social network.

Ang mga post na ito, na madalas inuulit ng salita-sa-salita, ay mabilis na nakatawag pansin dahil sa kanilang mapanulsol na tono at mabilis na pagkalat. Mga pariralang tulad ng “This is war”, “The left will pay for this” o “You have no idea what’s coming” ay maraming ulit na inulit, nagmula sa mga account na may halos magkatulad at hindi kaakit-akit na mga profile.

Ang political scientist na si Branislav Slantchev, propesor sa University of San Diego, ay nagbuod ng sitwasyon sa X sa ganitong paraan: “makikita natin ang maraming account na aktwal na nagtutulak patungo sa isang digmaang sibil sa United States. Kabilang dito ang master provocateur, Elon Musk, pati na rin ang isang hukbo ng Russian at Chinese bots, gayundin ang kanilang masigasig na mga relay sa West”.

Ang napansin ng maraming user at mananaliksik ay ang malakas na konsentrasyon ng mga profile na tumutugma sa mga paulit-ulit na pamantayan, na nagpapahiwatig ng algorithmic o automated na pagpapalakas ng nilalaman :

• Mga larawan sa profile na gawa ng AI o hiniram mula sa mga image bank ;

• Mga generic na biography, kadalasang binubuo lamang ng ilang keyword (Christian, MAGA, Patriot, atbp.) ;

• Sistematikong mga banggit tulad ng “NO DMs” na makikita sa maraming account na kasangkot sa pagkalat na ito ;

• Mga patriotic na banner at visual, bandila ng Amerika o mga quote mula sa mga konserbatibong personalidad ;

• Napakababang kasaysayan ng aktibidad, maliban sa mga publikasyon na may kaugnayan sa kaganapang ito ;

• Napakasiksik na timing ng pag-post, na may magkatulad na mga mensahe na paulit-ulit na ipinapaskil.

Ang mga elementong ito, kapag tiningnan nang paisa-isa, ay hindi bumubuo ng pormal na ebidensya ng automation. Gayunpaman, ang kanilang pagdami at pagkakapareho ay nagpasimula ng mga hinala ng isang disinformation o orchestrated amplification operation sa X, na sinasamantala ang pagkabigla na dulot ng asasinasyon kay Kirk.

Mga hinala ng algorithmic manipulation na walang pormal na ebidensya

Bagama't maraming palatandaan ng posibleng orchestrated manipulation, wala pang pampublikong awtoridad, cybersecurity center, o kahit malalaking platform ang hanggang ngayon ay nakumpirma ang pag-iral ng isang koordinadong bot campaign na may kaugnayan sa kaganapang ito.

Gayunpaman, ilang pag-aaral ang nagpapaalala na ang mga dayuhang operasyon na nagpapalakas ng polarizing na diskurso, tulad ng “Spamouflage” (network na iniuugnay sa China) o “Doppelgänger” (pro-Russian influence campaign), ay dati nang tumarget sa United States sa pamamagitan ng mga network ng pekeng account at AI-generated na nilalaman.

Noong 2024, isang imbestigasyon ng Global Witness ang nakatukoy ng 45 account na may ordinaryong anyo, na nag-generate ng higit sa 4 na bilyong impression sa paligid ng polarizing na nilalaman.

Ang mabilis na pag-unlad ng mga teknolohiya na may kaugnayan sa artificial intelligence ay nagpapahirap na ngayon sa pagtukoy ng mga kampanyang ito. Ang mga publikasyong may tunog na parang tao, perpektong baybay, at ipinapaskil sa kapanipaniwalang oras ay maaari na ngayong gawin sa industriyal na antas.

Isang pag-aaral na inilathala sa Plos One noong nakaraang Pebrero ay nagpapahiwatig pa na mula nang bilhin ni Elon Musk ang X, tumaas ang dami ng mapoot na pananalita, nang hindi bumababa ang proporsyon ng mga hindi tunay na account.

Habang lalong nagbabala ang UN laban sa deepfakes, ang lawak at tindi ng bagong alon ng mga panawagan ng digmaang sibil sa X ay maaaring unang palatandaan pa lamang ng mas malaking labanan, na isinasagawa sa pamamagitan ng mga algorithm at server. Kung ang teorya ng dayuhang panghihimasok ay kailangang patunayan pa, ito ay naglalantad ng isang pundamental na katotohanan: ang modernong kaguluhang pampulitika ay hindi na lamang sumisiklab sa mga botohan o sa mga lansangan, kundi pati na rin, at marahil higit pa, sa likod ng mga eksena ng code.