21 листопада 2026 USD 44.93EUR 49.28PLN 11.06
Новини Чорноморськ — коротко й по суті
НАЖИВО
Відновлення медичної інфраструктури на Чернігівщині: понад половину об'єктів відремонтовано Що робити, якщо смартфон потрапив у воду: 4 поширені помилки, які можуть його знищити ЄС спрямує 1 млрд євро на озброєння для ЗСУ: деталі нової допомоги Фінансова дилема ЄС: обсяги виплат Росії за енергоресурси перевищили допомогу Україні Чергова атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок Україна блокує спроби РФ легітимізувати окупацію територій на кліматичному саміті COP31 Ракетний удар по Кривому Рогу: загинули цивільні та медик Зеленський наголосив на вразливості Кримського мосту як стратегічного об'єкта Нічна атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок Масована атака на енергосистему: Рівненщина потерпає від знеструмлень Відновлення медичної інфраструктури на Чернігівщині: понад половину об'єктів відремонтовано Що робити, якщо смартфон потрапив у воду: 4 поширені помилки, які можуть його знищити ЄС спрямує 1 млрд євро на озброєння для ЗСУ: деталі нової допомоги Фінансова дилема ЄС: обсяги виплат Росії за енергоресурси перевищили допомогу Україні Чергова атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок Україна блокує спроби РФ легітимізувати окупацію територій на кліматичному саміті COP31 Ракетний удар по Кривому Рогу: загинули цивільні та медик Зеленський наголосив на вразливості Кримського мосту як стратегічного об'єкта Нічна атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок Масована атака на енергосистему: Рівненщина потерпає від знеструмлень

Дослідження виявило вразливості в популярних ШІ-моделях: чат-боти генерували плани атак

💡 Технології 1 хв читання 👁 0

Американські аудитори з'ясували, що провідні чат-боти здатні надавати інструкції для вчинення небезпечних дій після маніпуляцій з боку користувачів.

Дослідження виявило вразливості в популярних ШІ-моделях: чат-боти генерували плани атак💡Технології

Фото: RBC-Ukraine

Головне коротко

  • ШІ-моделі обійшли власні фільтри безпеки
  • Сценарії атак були створені менш ніж за 12 годин
  • Конгрес США планує слухання щодо безпеки ШІ

Ризики використання генеративного ШІ

Нещодавній звіт Рахункової палати США (GAO) виявив серйозні прогалини у системах безпеки чотирьох провідних чат-ботів, включаючи ChatGPT, Claude, Gemini та Grok. У ході тестування, що тривало майже рік, дослідники змогли отримати детальні плани атак, попри наявні в інструментах фільтри.

Методика обходу обмежень виявилася досить простою: замість прямих запитів дослідники використовували послідовні уточнюючі питання. Менш ніж за 12 годин взаємодії штучний інтелект генерував сценарії з конкретними локаціями, часом та методами здійснення нападів, включаючи використання вибухових пристроїв чи пошкодження енергетичної інфраструктури.

Реакція на результати аудиту

Незалежні експерти підтвердили, що отримані від ШІ плани є реалістичними та несуть пряму загрозу безпеці. Сенаторка Меггі Хассан вже анонсувала парламентські слухання, наголосивши на необхідності термінового реагування на такі ризики. Розробники технологій, своєю чергою, запевнили, що продовжують працювати над посиленням захисних механізмів своїх продуктів.

Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.