Ang mga kriminal ay gumagamit ng ‘vibe hacking’ gamit ang AI sa hindi pa nararanasang antas: Anthropic

Sa kabila ng mga “sopistikadong” pananggalang, sinabi ng AI infrastructure firm na Anthropic na patuloy pa ring nakakahanap ng paraan ang mga cybercriminal upang abusuhin ang AI chatbot nitong si Claude para magsagawa ng malakihang cyberattacks. 

Sa isang “Threat Intelligence” report na inilabas nitong Miyerkules, ibinahagi ng mga miyembro ng Threat Intelligence team ng Anthropic, kabilang sina Alex Moix, Ken Lebedev at Jacob Klein, ang ilang mga kaso kung saan inabuso ng mga kriminal ang Claude chatbot, kung saan ang ilan sa mga pag-atake ay humihingi ng higit sa $500,000 na ransom.

Natuklasan nila na ginamit ang chatbot hindi lamang upang magbigay ng teknikal na payo sa mga kriminal, kundi pati na rin upang direktang magsagawa ng mga hack para sa kanila sa pamamagitan ng “vibe hacking,” na nagpapahintulot sa kanila na magsagawa ng mga pag-atake kahit na may pangunahing kaalaman lamang sa coding at encryption.

Noong Pebrero, hinulaan ng blockchain security firm na Chainalysis na ang mga crypto scam ay maaaring magkaroon ng pinakamalaking taon nito sa 2025 dahil ginawang mas scalable at abot-kaya ng generative AI ang mga pag-atake. Natuklasan ng Anthropic ang isang hacker na nag-“vibe hacking” gamit si Claude upang magnakaw ng sensitibong datos mula sa hindi bababa sa 17 organisasyon — kabilang ang healthcare, emergency services, gobyerno at mga relihiyosong institusyon — na may mga hinihinging ransom mula $75,000 hanggang $500,000 sa Bitcoin.

  Isang simulated ransom note na nagpapakita kung paano ginagamit ng mga cybercriminal si Claude upang magbanta. Source: Anthropic

Tinuruan ng hacker si Claude na suriin ang mga ninakaw na financial records, kalkulahin ang nararapat na halaga ng ransom at magsulat ng mga custom ransom note upang mapataas ang psychological pressure.

Bagaman kalaunan ay ipinagbawal ng Anthropic ang attacker, ipinapakita ng insidenteng ito kung paano pinapadali ng AI para sa kahit na mga baguhang coder na magsagawa ng cybercrimes sa isang “hindi pa nararanasang antas.”

“Ang mga aktor na hindi kayang magpatupad ng basic encryption o hindi nakakaunawa ng syscall mechanics ay ngayon ay matagumpay na nakakalikha ng ransomware na may kakayahang umiwas [at] magpatupad ng anti-analysis techniques.”

Ginamit din ng mga North Korean IT worker ang Claude ng Anthropic

Natuklasan din ng Anthropic na ginagamit ng mga North Korean IT worker si Claude upang gumawa ng mga kapani-paniwalang pagkakakilanlan, pumasa sa mga teknikal na coding test, at makakuha pa ng remote na trabaho sa mga US Fortune 500 tech companies. Ginamit din nila si Claude upang maghanda ng mga sagot para sa mga interview sa mga trabahong iyon.

Ginamit din si Claude upang isagawa ang teknikal na trabaho kapag natanggap na, ayon sa Anthropic, na binanggit na ang mga employment scheme ay idinisenyo upang mapunta ang kita sa North Korean regime sa kabila ng mga internasyonal na sanction.

  Pagkakahati ng mga Claude-powered na gawain na ginamit ng mga North Korean IT worker. Source: Anthropic

Mas maaga ngayong buwan, isang North Korean IT worker  ang na-counter-hack,  kunsaan natuklasan na isang team na binubuo ng anim na tao ang nagbahagi ng hindi bababa sa 31 pekeng pagkakakilanlan, na nakuha ang lahat mula sa  government IDs  at mga numero ng telepono hanggang sa pagbili ng mga LinkedIn at UpWork account upang itago ang kanilang tunay na pagkakakilanlan at makakuha ng crypto jobs.

Isa sa mga worker ay diumano’y nag-interview para sa isang full-stack engineer position sa Polygon Labs, habang ang iba pang ebidensya ay nagpakita ng mga scripted na sagot sa interview kung saan inangkin nilang may karanasan sila sa  NFT marketplace na OpenSea  at blockchain  oracle provider  na Chainlink.

Sinabi ng Anthropic na ang bagong ulat nito ay naglalayong talakayin sa publiko ang mga insidente ng maling paggamit upang makatulong sa mas malawak na AI safety at security community at upang palakasin ang depensa ng mas malawak na industriya laban sa mga abusado ng AI. 

Sinabi nito na sa kabila ng pagpapatupad ng mga “sopistikadong safety at security measures” upang pigilan ang  maling paggamit kay Claude,  patuloy pa ring nakakahanap ng paraan ang mga malisyosong aktor upang malampasan ang mga ito.