Злочинці використовують «vibe hacking» за допомогою AI на безпрецедентному рівні: Anthropic

Незважаючи на «складні» захисні механізми, компанія Anthropic, що займається AI-інфраструктурою, заявляє, що кіберзлочинці все ще знаходять способи зловживати її AI-чат-ботом Claude для здійснення масштабних кібератак. 

У звіті «Threat Intelligence», опублікованому в середу, члени команди Anthropic Threat Intelligence, включаючи Alex Moix, Ken Lebedev та Jacob Klein, поділилися кількома випадками, коли злочинці зловживали чат-ботом Claude, причому деякі атаки супроводжувалися вимогами викупу понад $500,000.

Вони з’ясували, що чат-бот використовувався не лише для надання технічних порад злочинцям, а й для безпосереднього виконання зломів від їхнього імені через «vibe hacking», що дозволяло здійснювати атаки, маючи лише базові знання кодування та шифрування.

У лютому компанія з безпеки блокчейну Chainalysis прогнозувала, що криптошахрайства можуть  досягти найбільших обсягів  у 2025 році, оскільки генеративний AI зробив атаки більш масштабованими та доступними. Anthropic  виявила  одного хакера, який займався «vibe hacking» за допомогою Claude для викрадення конфіденційних даних щонайменше з 17 організацій — включаючи медичні, екстрені служби, урядові та релігійні установи — з вимогами викупу від $75,000 до $500,000 у Bitcoin.

  Імітована записка з вимогою викупу демонструє, як кіберзлочинці використовують Claude для погроз. Джерело: Anthropic

Хакер навчив Claude оцінювати викрадені фінансові записи, розраховувати відповідні суми викупу та писати індивідуальні записки з вимогою викупу для максимального психологічного тиску.

Хоча Anthropic згодом заблокувала зловмисника, цей інцидент показує, як AI спрощує навіть початківцям-кодерам здійснення кіберзлочинів у «безпрецедентних масштабах».

«Особи, які не можуть самостійно реалізувати базове шифрування або розуміти механіку системних викликів, тепер успішно створюють програми-вимагачі з можливостями обходу захисту [та] впроваджують антианалізні техніки».

Північнокорейські IT-працівники також використовували Claude від Anthropic

Anthropic також виявила, що північнокорейські IT-працівники використовували Claude для створення переконливих особистостей, проходження технічних тестів з програмування та навіть отримання віддалених посад у технологічних компаніях зі списку Fortune 500 у США. Вони також використовували Claude для підготовки відповідей на співбесідах для цих посад.

Claude також використовувався для виконання технічної роботи після працевлаштування, зазначає Anthropic, підкреслюючи, що ці схеми працевлаштування були розроблені для переказу прибутків північнокорейському режиму, незважаючи на міжнародні санкції.

  Розподіл завдань, виконаних північнокорейськими IT-працівниками за допомогою Claude. Джерело: Anthropic

На початку цього місяця північнокорейський IT-працівник  став жертвою контрзлому,  де було виявлено, що команда з шести осіб використовувала щонайменше 31 фальшиву особистість, отримуючи все — від  державних ID  та номерів телефонів до купівлі акаунтів LinkedIn та UpWork для маскування справжньої особистості та отримання роботи у криптоіндустрії.

Один із працівників нібито проходив співбесіду на посаду full-stack інженера у Polygon Labs, а інші докази показали сценарії відповідей на співбесідах, у яких вони стверджували, що мають досвід роботи на  NFT-маркетплейсі OpenSea  та у провайдера блокчейн-оракулів  Chainlink.

Anthropic заявила, що її новий звіт спрямований на публічне обговорення випадків зловживання для допомоги ширшій спільноті з безпеки та захисту AI, а також для посилення захисту індустрії від зловмисників AI. 

У компанії зазначили, що, незважаючи на впровадження «складних заходів безпеки та захисту» для запобігання  зловживанню Claude,  зловмисники продовжують знаходити способи їх обійти.