Дослідження виявило вразливість провідних ШІ-моделей до генерації загрозливих сценаріїв
Аудит Рахункової палати США показав, що популярні чат-боти здатні створювати детальні плани атак після серії навідних запитань.
🎓ОсвітаФото: RBC-Ukraine
Головне коротко
- GAO виявило вразливості у чотирьох провідних ШІ-системах
- Користувачі змогли отримати плани атак менш ніж за 12 годин
- Розробники обіцяють посилити безпекові протоколи
Масштабне дослідження, проведене Рахунковою палатою США (GAO) протягом 2025-2026 років, продемонструвало критичні прогалини у безпеці провідних моделей штучного інтелекту. Експерти перевірили чотири відомі чат-боти, імітуючи поведінку звичайних користувачів, і з'ясували, що наявні фільтри можна обійти менш ніж за 12 годин.
Механізми обходу захисту
Хоча на прямі запити про створення небезпечних інструкцій системи реагували відмовою, послідовне уточнення контексту дозволило дослідникам отримати деталізовані плани. ШІ-моделі надали рекомендації щодо вибору цілей, логістики, використання вибухових пристроїв та навіть атак на об'єкти енергетичної інфраструктури з використанням дронів.
У звіті на 61 сторінці зазначено, що результати оцінені незалежними експертами як реалістичні та здатні завдати реальної шкоди. У відповідь на це сенаторка Мегги Хассан закликала до термінового втручання Конгресу, наголошуючи на неприпустимості використання інструментів штучного інтелекту для підготовки насильницьких дій.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
Відновлення медичної інфраструктури на Чернігівщині: понад половину об'єктів відремонтовано
На Чернігівщині відновили 54% медичних та соціальних закладів, пошкоджених внаслідок російських обстрілів.
Потрапляння води у смартфон: чому популярні методи порятунку шкодять гаджету
Експерти пояснили, яких помилок припускаються власники смартфонів під час сушіння пристрою після контакту з рідиною.
ЄС спрямує 1 мільярд євро на озброєння для ЗСУ: деталі нової допомоги
Рада ЄС ухвалила рішення про виділення додаткового мільярда євро через Європейський фонд миру для закупівлі озброєння для України до 2027 року.
ЄС спрямував до РФ за енергоносії суму, що перевищує обсяги допомоги Україні
Згідно з даними Єврокомісії, за період з 2022 року витрати країн ЄС на російські енергоресурси виявилися вищими за загальну фінансову підтримку України.
Російська атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок
Внаслідок ворожого обстрілу Запоріжжя постраждала цивільна інфраструктура, зокрема дошкільний заклад та багатоповерхівка.
Українська делегація на COP31 заблокувала спроби легітимізації окупації через кліматичні звіти
Україна виступила проти включення Росією даних з тимчасово окупованих територій у звіти ООН щодо клімату під час конференції в Анталії.