Главное отличие ИИ-агентов от киберугроз прошлого в том, что они действуют на машинных скоростях и их можно задействовать целыми группами. Эти боты способны атаковать роями, отыскивая уязвимости во внутренних системах компаний, отмечает автор.

“Управление контролера денежного обращения, которое регулирует работу многих американских банков, в своем летнем докладе Конгрессу отметило, что ИИ увеличил «скорость, масштаб и изощренность кибератак, направленных на финансовые институты», — отмечает The Atlantic.

По данным издания, в этом году компания Anthropic готовилась к выпуску мощной новой модели под названием Mythos. Заявлялось, что она способна «превзойти практически всех, за исключением самых высококлассных специалистов-людей, в поиске и использовании уязвимостей в программном обеспечении». Был предоставлен предварительный доступ к этому ИИ ограниченному кругу компаний, чтобы помочь им укрепить свою защиту. В их числе назывались JPMorgan Chase и другие банки.

“После запуска министр финансов Скотт Бессент и бывший тогда председателем ФРС Джером Пауэлл встретились с руководителями Bank of America, Citigroup, Goldman Sachs и других крупнейших финансовых институтов, чтобы обсудить возможные последствия применения новой модели», — сообщает The Atlantic.

На днях 6 крупнейших мировых банков, включая Bank of America, Capital One, ASB, Commonwealth Bank of Australia, ING и NatWest Group, опубликовали доклад, в котором предупредили о рисках агентной торговли, покупок, полностью автоматизированных ИИ-агентами.

«Потребители пока не уверены, будут ли ИИ-агенты действовать в их интересах. Они опасаются, что ИИ-агенты могут купить не тот товар или потратить слишком много денег — или, что еще хуже, потерять средства из-за мошенничества. Они не уверены, будут ли они защищены и к кому обращаться в случае возникновения проблем. Кроме того, продавцы обеспокоены возможным ростом числа споров и возвратов средств по причинам, не зависящим от них. Они также боятся потерять прямую связь с потребителями и столкнуться с выбором между более высокими издержками и упущенными продажами», — говорится в докладе.

Отмечается, что ИИ-торговля может осуществляться через любые платежные механизмы, включая банковские карты, межбанковские переводы и токенизированные деньги. В цепочке создания стоимости могут быть задействованы самые разные поставщики услуг: провайдеры ИИ-агентов, платежные системы, провайдеры цифровых кошельков, банки-эмитенты, платежные сервис-провайдеры и банки-эквайеры.

ИИ-торговля может предполагать различную степень автономии ИИ-агента, в том числе с участием человека и полностью автономно.

«Эти возможности могут принести огромную пользу, но одновременно несут в себе риски, затрагивающие прозрачность, безопасность, конфиденциальность и данные, свободу выбора и интероперабельность. Эти риски возрастают по мере того, как ИИ-агентам предоставляется все большая автономия», — отмечают авторы доклада.

Они добавляют, что хотя темпы и масштабы внедрения пока остаются неопределенными, ИИ-торговля имеет потенциал стать основным способом проведения транзакций между потребителями и продавцами. Она уже переходит от закрытых тестирований к живым пилотным проектам и первичному масштабированию.

Эти изменения опережают формальное регулирование, включая отраслевые стандарты, правила и меры защиты прав потребителей. И их еще только предстоит полностью определить и установить.

«До настоящего времени основное внимание уделялось протоколам, разработку которых возглавляли преимущественно платежные системы и технологические платформы, с акцентом на подбор товаров, оформление заказа и авторизацию платежей. Кроме того, некоторые транзакции уже совершаются вне рамок формальных протоколов, что повышает риски как для потребителей, так и для продавцов», — сообщают в документе.

По мнению авторов доклада, доверие станет ключевым фактором для обеспечения масштабирования и массового внедрения технологии.

«Все участники рынка должны сыграть свою роль в раскрытии потенциала ИИ-торговли, попутно устраняя существующие пробелы, риски и проблемы совместимости (интероперабельности). Банки способны внести в этот процесс существенный вклад, опираясь на свой многолетний опыт и доверие, сформированное за десятилетия обеспечения безопасности финансовых операций для клиентов и бизнеса», — пишут представители указанных американских банков.

Сообщение Есть ли реальная угроза ИИ для финансовой системы появились сначала на Ручная экономика.