BBVA та Nvidia розробляють механізми захисту ШІ-агентів для банківського сектору

Іспанська банківська група BBVA спільно з технологічною компанією Nvidia досліджує можливості інтеграції механізмів безпеки безпосередньо в архітектуру автономних систем штучного інтелекту.

Основну увагу партнери приділяють ШІ-агентам, здатним самостійно виконувати завдання, працювати з інформацією та взаємодіяти із зовнішніми інструментами.

У BBVA вважають, що поширення таких технологій у фінансовому секторі потребує нових підходів до контролю ризиків, оскільки традиційних перевірок на етапі розробки вже недостатньо.

Nvidia пропонує архітектуру для контролю автономних систем

У межах співпраці компанії досліджують OpenShell Reference Architecture — архітектуру Nvidia, призначену для безпечного використання ШІ-агентів у корпоративному середовищі.

Вона передбачає можливість встановлювати правила роботи автономних систем, контролювати доступ до ресурсів і обмежувати виконання операцій, які виходять за межі визначених повноважень.

Особливу увагу приділяють контролю не лише на етапі створення та налаштування ШІ-агентів, а й безпосередньо під час їхньої роботи.

Це пов’язано з тим, що автономні системи можуть виконувати послідовності взаємопов’язаних дій, отримувати нову інформацію та використовувати зовнішні інструменти без постійного втручання людини.

Банки посилюють вимоги до безпеки штучного інтелекту

Глобальний директор із безпеки BBVA Валентін Санчес зазначив, що банк розширює використання ШІ-агентів, тому забезпечення їхньої безпеки стає одним із пріоритетних завдань.

У Nvidia також наголошують на необхідності поєднувати розширення автономності штучного інтелекту з чіткими обмеженнями та постійним наглядом за його діями.

Співпраця BBVA та Nvidia відбувається на тлі зростання інтересу великих фінансових установ до автономних ШІ-систем.

Раніше інший іспанський банк, Santander, також оголосив про партнерство з Nvidia. Воно передбачає розробку інструментів для оцінювання моделей штучного інтелекту та ШІ-агентів, які можуть використовуватися в банківській сфері.