Microsoft і OpenAI опублікували звіт про те, як кіберзлочинці все частіше використовують ШІ

Microsoft і OpenAI нещодавно опублікували звіт про використання штучного інтелекту для боротьби з кіберзлочинністю, який все частіше використовують хакерські групи з таких країн, як Росія та Китай.

Ці пов’язані з державою «актори загрози», як їх називають, такі як STRONTIUM з Росії та CHROMIUM з Китаю, використовують штучний інтелект, включаючи великі мовні моделі (LLM), для кібероперацій.

Ці актори займаються розвідкою, кодуванням і вивченням мови, щоб посилити свої атаки.

Корпорація Майкрософт і OpenAI співпрацюють, щоб забезпечити відповідальне використання штучного інтелекту з метою захисту від зловживань.

Крім того, шахрайство за допомогою штучного інтелекту, включаючи синтез голосу, створює значні проблеми для систем захисту особи, що вимагає профілактичних заходів і відповідального розгортання ШІ.

Microsoft щодня відстежує та блокує 65 трильйонів сигналів кібербезпеки, намагаючись захистити клієнтів, і все частіше використовує ШІ для боротьби з цими загрозами.

Generative AI спрощує хакерам створювати легітимні фішингові електронні листи та використовувати масову комунікацію для розширення охоплення.

Корпорація Майкрософт заохочує використання багатофакторної автентифікації своїми співробітниками та клієнтами, щоб захистити конфіденційну інформацію від таких атак.

Однак у звіті підкреслюється, що новий світ штучного інтелекту дозволяє хакерам запускати набагато складніші атаки за допомогою соціальної інженерії, глибоких фейків і клонування голосу.

Microsoft підкреслює, що компанії повинні використовувати вбудовані функції від постачальників штучного інтелекту для керування доступом співробітників і забезпечення безпечного впровадження.

Компанії також повинні залучати зацікавлені сторони кіберризиків для узгодження варіантів використання штучного інтелекту та контролю доступу, а також регулярно переглядати політику на адекватність і коригувати її за потреби.

Кібервійна, яка ведеться, дедалі більше перетворюється на війну між хорошим штучним інтелектом і блокуванням поганого штучного інтелекту, оскільки традиційне програмне забезпечення для кібербезпеки не може встигати за загрозами.