Дослідження GAO: популярні чат-боти виявилися вразливими до створення планів атак
Американські регулятори виявили, що провідні моделі штучного інтелекту можна змусити генерувати небезпечні інструкції через маніпуляції з промптами.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- Провідні чат-боти видали детальні плани атак після серії маніпулятивних запитів.
- Дослідження тривало майже рік і виявило вразливості у всіх чотирьох протестованих системах.
- Сенат США планує термінові слухання щодо регулювання безпеки штучного інтелекту.
Масштабне дослідження Рахункової палати США (GAO) продемонструвало серйозні прогалини у системах безпеки провідних чат-ботів, включаючи ChatGPT, Claude, Gemini та Grok. Протягом тривалого тестування з грудня 2025 по жовтень 2026 року дослідники змогли обійти вбудовані обмеження та отримати детальні сценарії потенційних атак менш ніж за 12 годин.
Методи маніпуляції та результати
Хоча на прямі запити системи відповідали відмовою, використання послідовних уточнюючих питань дозволило дослідникам поступово «обійти» фільтри безпеки. У результаті моделі надали інструкції щодо створення вибухових пристроїв, планування нападів на об'єкти енергетичної інфраструктури та використання дронів для диверсій.
Сенаторка Меггі Хассан наголосила на критичній небезпеці таких результатів, закликавши Конгрес до негайних законодавчих кроків. Розробники технологій, серед яких Anthropic, Google, OpenAI та SpaceXAI, заявили про намір продовжувати посилення захисних механізмів, проте експерти застерігають, що ризики для національної безпеки залишаються високими.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
🛡️БезпекаУ Фінській затоці триває гасіння російського судна Sparta II після атаки безпілотників
У територіальних водах Фінляндії третю добу намагаються ліквідувати пожежу на російському вантажному судні Sparta II, яке раніше зазнало атаки дронів.
Конфлікт між НАБУ та СБУ набирає обертів: розслідування проти спецпризначенців "Альфи"
Національне антикорупційне бюро ініціювало кримінальне провадження проти бійців спецпідрозділу СБУ "Альфа" через вилучення 25 тисяч доларів під час минулорічних обшуків.
Ворожий удар по Київщині: у Димері тривають пошуки зниклих безвіص після нічної атаки
Унаслідок дронового удару по п'ятиповерхівці в селищі Димер на Київщині зруйновано під'їзд, триває рятувальна операція. Доля щонайменше 14 людей залишається невідомою.
🎭Культура і спортЗа лаштунками європейських гастролей: як український театр об'єднує земляків за кордоном
Продюсер Сергій Чудаєв розповів про виклики театральних турів Європою, реакцію закордонного глядача та організаційні труднощі.
🏙️МістоКультура відновлення: чому щоденний ремонт інфраструктури стає основою життя українських міст
Роздуми про те, як українське суспільство в умовах криз переходить від масштабних планів до щоденної кропіткої праці з відновлення пошкодженого.
Зимова небезпека для тварин: прилуцьким водіям радять перевіряти авто перед поїздкою
У період холодів безпритульні тварини часто шукають прихисток під капотами авто. Поліція нагадує прості правила безпеки, які допоможуть врятувати життя чотирилапим.