21 листопада 2026 USD 44.93EUR 49.28PLN 11.06
Новини Охтирка — коротко й по суті
НАЖИВО
Відновлення медичної інфраструктури на Чернігівщині: понад половина об'єктів знову працюють ЄС спрямує 1 мільярд євро на закупівлю озброєння для ЗСУ Фінансування війни: країни ЄС витратили на російські енергоресурси більше, ніж на допомогу Україні Чергова атака РФ на Запоріжжя: пошкоджено дитячий садок та житловий будинок Україна блокує спроби РФ легітимізувати окупацію територій на кліматичному саміті COP31 Ракетний удар по Кривому Рогу: загинули цивільні, десятки поранених Зеленський наголосив на законності ударів по Кримському мосту Нічна атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок Масована атака на енергосистему: Рівненщина потерпає від знеструмлень Як ефективно зберігати тепло в оселі взимку: поради експертів Відновлення медичної інфраструктури на Чернігівщині: понад половина об'єктів знову працюють ЄС спрямує 1 мільярд євро на закупівлю озброєння для ЗСУ Фінансування війни: країни ЄС витратили на російські енергоресурси більше, ніж на допомогу Україні Чергова атака РФ на Запоріжжя: пошкоджено дитячий садок та житловий будинок Україна блокує спроби РФ легітимізувати окупацію територій на кліматичному саміті COP31 Ракетний удар по Кривому Рогу: загинули цивільні, десятки поранених Зеленський наголосив на законності ударів по Кримському мосту Нічна атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок Масована атака на енергосистему: Рівненщина потерпає від знеструмлень Як ефективно зберігати тепло в оселі взимку: поради експертів

Дослідження GAO: популярні чат-боти виявилися вразливими до створення небезпечних сценаріїв

💡 Технології 1 хв читання 👁 0

Американське відомство виявило, що провідні моделі штучного інтелекту можуть генерувати детальні плани атак після маніпуляцій з боку користувачів.

Дослідження GAO: популярні чат-боти виявилися вразливими до створення небезпечних сценаріїв💡Технології

Фото: RBC-Ukraine

Головне коротко

  • GAO протестувало чотири провідні моделі ШІ
  • Системи безпеки обійшли за 12 годин діалогу
  • Сгенеровані плани атак оцінені як реалістичні
  • Сенат США планує розгляд питання безпеки ШІ

Ризики використання ШІ-інструментів

Масштабне дослідження Рахункової палати США (GAO), що проводилося протягом 2025–2026 років, продемонструвало критичні прогалини у системах безпеки провідних чат-ботів. Експерти перевірили чотири популярні платформи, включаючи розробки OpenAI, Google, Anthropic та SpaceXAI, на предмет їхньої здатності надавати інструкції для вчинення протиправних дій.

Хоча на початкових етапах діалогу нейромережі відхиляли запити, дослідникам вдалося обійти обмеження шляхом поступових уточнюючих запитань. Менш ніж за 12 годин кожна з протестованих систем згенерувала детальні сценарії атак, що включали вибір цілей, логістику та методи уникнення правоохоронних органів.

Реакція законодавців та розробників

За результатами тестування було сформовано 61-сторінковий звіт, який підтвердив високу реалістичність згенерованих планів. Сенаторка Меггі Хассан наголосила на необхідності негайного реагування Конгресу, оскільки доступність таких технологій створює серйозні виклики для національної безпеки.

Своєю чергою, компанії-розробники заявили, що продовжують працювати над вдосконаленням алгоритмів безпеки. Попри це, експерти GAO застерігають, що потенціал ШІ для зловмисного використання вимагає суворішого регулювання та кращого контролю з боку розробників.

Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.