Дослідження GAO: популярні чат-боти виявилися вразливими до створення небезпечних сценаріїв
Американське відомство виявило, що провідні моделі штучного інтелекту можуть генерувати детальні плани атак після маніпуляцій з боку користувачів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- GAO протестувало чотири провідні моделі ШІ
- Системи безпеки обійшли за 12 годин діалогу
- Сгенеровані плани атак оцінені як реалістичні
- Сенат США планує розгляд питання безпеки ШІ
Ризики використання ШІ-інструментів
Масштабне дослідження Рахункової палати США (GAO), що проводилося протягом 2025–2026 років, продемонструвало критичні прогалини у системах безпеки провідних чат-ботів. Експерти перевірили чотири популярні платформи, включаючи розробки OpenAI, Google, Anthropic та SpaceXAI, на предмет їхньої здатності надавати інструкції для вчинення протиправних дій.
Хоча на початкових етапах діалогу нейромережі відхиляли запити, дослідникам вдалося обійти обмеження шляхом поступових уточнюючих запитань. Менш ніж за 12 годин кожна з протестованих систем згенерувала детальні сценарії атак, що включали вибір цілей, логістику та методи уникнення правоохоронних органів.
Реакція законодавців та розробників
За результатами тестування було сформовано 61-сторінковий звіт, який підтвердив високу реалістичність згенерованих планів. Сенаторка Меггі Хассан наголосила на необхідності негайного реагування Конгресу, оскільки доступність таких технологій створює серйозні виклики для національної безпеки.
Своєю чергою, компанії-розробники заявили, що продовжують працювати над вдосконаленням алгоритмів безпеки. Попри це, експерти GAO застерігають, що потенціал ШІ для зловмисного використання вимагає суворішого регулювання та кращого контролю з боку розробників.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
Відновлення медичної інфраструктури на Чернігівщині: понад половина об'єктів знову працюють
На Чернігівщині відновили 54% пошкоджених внаслідок бойових дій закладів охорони здоров'я та соціального захисту.
ЄС спрямує 1 мільярд євро на закупівлю озброєння для ЗСУ
Рада Європейського Союзу ухвалила рішення про виділення додаткового мільярда євро через Європейський фонд миру для зміцнення оборонних спроможностей України.
Фінансування війни: країни ЄС витратили на російські енергоресурси більше, ніж на допомогу Україні
Згідно з даними Єврокомісії, за два роки повномасштабної війни країни Євросоюзу переказали Росії за енергоносії суму, що перевищує загальний обсяг допомоги Україні.
Чергова атака РФ на Запоріжжя: пошкоджено дитячий садок та житловий будинок
Російські війська завдали удару по цивільній інфраструктурі Запоріжжя, внаслідок чого постраждав дитячий садок та спалахнула пожежа у сусідній багатоповерхівці.
Україна блокує спроби РФ легітимізувати окупацію територій на кліматичному саміті COP31
Українська делегація на кліматичній конференції в Анталії виступила проти включення даних з окупованих територій до російських звітів.
🛡️БезпекаРакетний удар по Кривому Рогу: загинули цивільні, десятки поранених
Російські війська завдали балістичного удару по центру Кривого Рогу, внаслідок чого є загиблі, серед яких дитина, та десятки постраждалих.