<?xml version="1.0" encoding="UTF-8"?><rss version="2.0"
	xmlns:content="http://purl.org/rss/1.0/modules/content/"
	xmlns:wfw="http://wellformedweb.org/CommentAPI/"
	xmlns:dc="http://purl.org/dc/elements/1.1/"
	xmlns:atom="http://www.w3.org/2005/Atom"
	xmlns:sy="http://purl.org/rss/1.0/modules/syndication/"
	xmlns:slash="http://purl.org/rss/1.0/modules/slash/"
	>

<channel>
	<title>ИИ агенты | Ручная экономика</title>
	<atom:link href="https://manualeconomy.kz/tag/ii-agenty/feed/" rel="self" type="application/rss+xml" />
	<link></link>
	<description>Независимый взгляд на экономику Казахстана. Аналитика банковского сектора, фондовые рынки, новости крупного бизнеса и эксклюзивные истории о ключевых игроках рынка.</description>
	<lastBuildDate>Fri, 16 Oct 2026 09:48:41 +0000</lastBuildDate>
	<language>ru-RU</language>
	<sy:updatePeriod>
	hourly	</sy:updatePeriod>
	<sy:updateFrequency>
	1	</sy:updateFrequency>
	<generator>https://wordpress.org/?v=7.1.4</generator>

<image>
	<url>https://manualeconomy.kz/wp-content/uploads/2026/04/cropped-favicon-1-32x32.png</url>
	<title>ИИ агенты | Ручная экономика</title>
	<link></link>
	<width>32</width>
	<height>32</height>
</image> 
	<item>
		<title>Как финкомпаниям безопасно внедрять ИИ: представлены 12 рекомендаций</title>
		<link>https://manualeconomy.kz/kak-finkompaniyam-bezopasno-vnedryat-ii-predstavleny-12-rekomendatsij/</link>
		
		<dc:creator><![CDATA[Бану Назар]]></dc:creator>
		<pubDate>Fri, 16 Oct 2026 09:48:41 +0000</pubDate>
				<category><![CDATA[vibe]]></category>
		<category><![CDATA[AL-системы]]></category>
		<category><![CDATA[Банки]]></category>
		<category><![CDATA[ИИ]]></category>
		<category><![CDATA[ИИ агенты]]></category>
		<category><![CDATA[Искуственный интеллект]]></category>
		<category><![CDATA[Кибербезопасность]]></category>
		<category><![CDATA[Киберзащита]]></category>
		<category><![CDATA[Совет по финансовой стабильности]]></category>
		<guid isPermaLink="false">https://manualeconomy.kz/?p=10639</guid>

					<description><![CDATA[<p>Совет по финансовой стабильности при Базеле выпустил 12 практик по ИИ для финансовых институтов. Они составлены на основе международных регуляторных стандартов, включая рекомендации Базельского комитета по банковскому надзору. Это объясняется тем, что искусственный интеллект может как усилить воздействие кибератак, так и укреплять защитные кибервозможности. Отмечается, что финкомпании все активнее внедряют, используют и развивают технологии ИИ [&#8230;]</p>
<p>Сообщение <a href="https://manualeconomy.kz/kak-finkompaniyam-bezopasno-vnedryat-ii-predstavleny-12-rekomendatsij/">Как финкомпаниям безопасно внедрять ИИ: представлены 12 рекомендаций</a> появились сначала на <a href="https://manualeconomy.kz">Ручная экономика</a>.</p>
]]></description>
										<content:encoded><![CDATA[<p>Совет по финансовой стабильности при Базеле выпустил 12 практик по ИИ для финансовых институтов. Они составлены на основе международных регуляторных стандартов, включая рекомендации Базельского комитета по банковскому надзору.</p>
<p>Это объясняется тем, что искусственный интеллект может как усилить воздействие кибератак, так и укреплять защитные кибервозможности.</p>
<p>Отмечается, что финкомпании все активнее внедряют, используют и развивают технологии ИИ в самых разных сферах деятельности, включая оценку кредитных рисков, трейдинг, управление портфелем и инвестиционные операции, предотвращение мошенничества, мониторинг транзакций, рыночный надзор, обслуживание клиентов, помощь в написании кода, а также анализ и аннотирование документов.</p>
<blockquote><p>«В то же время ИИ может усиливать существующие риски или создавать новые, которые требуют своевременного выявления и надлежащего управления. Например, сложные и менее объяснимые типы ИИ могут повышать модельные риски для финансовых институтов, тогда как автономные ИИ-системы способны предпринимать несанкционированные или ошибочные действия», &#8212; говорится в обзоре практик.</p></blockquote>
<p><strong>Главные тезисы</strong></p>
<p>К примеру, рекомендуется дать возможность клиентам или сотрудникам оспаривать автоматизированные решения ИИ, соблюдать законодательство о конфиденциальности (национальные законы о персональных данных), применять методы обезличивания.</p>
<p>Кроме того, подчеркивается важность сохранения контроля человека над ключевыми или высокорискованными решениями, в том числе по кредитам, блокировке счетов, юридическим или финансовым санкциям.</p>
<p>Еще один из советов &#8212; регулярная проверка решений ИИ на предмет дискриминации по различным признакам (пол, возраст, доход, регион и т.д.).</p>
<p>Также рекомендуется назначать высшее руководство и конкретные подразделения, отвечающие за AI-системы. Кроме того, необходимо разрабатывать и регулярно обновлять внутренние регламенты по использованию ИИ, машинному обучению и работе с данными.</p>
<p>Вместе с тем, нужно оценивать устойчивость моделей к попыткам обмана алгоритмов (например, через подачу искаженных данных), иметь планы действия и алгоритмов отката на случаи сбоев или некорректного поведения ИИ, проверять источники данных и обеспечивать защиту алгоритмов от манипуляций или внедрения недостоверной информации.</p>
<p>Фининститутам предлагают также вести централизованный учет всех внедренных и разрабатываемых алгоритмов с указанием уровня их риска и бизнес-целей, проверять алгоритмы и ML-модели третьей стороной или независимым подразделением до их запуска в промышленную эксплуатацию.</p>
<p>Среди других рекомендаций &#8212; постоянно следить за изменениями в поступающих данных и корректность работы алгоритмов со временем, проверять обучающие выборки на полноту, актуальность и отсутствие предвзятости, вести аудит и аутсорсинг AI-решений от сторонних вендоров с обязательной оценкой их архитектуры безопасности, а также использовать методы интерпретации моделей, особенно в критически важных сферах (кредитный скоринг, комплаенс, медицина).</p>
<p>Совет по финансовой стабильности (FSB) — это международный орган, который ведет мониторинг мировой финансовой системы и вырабатывает для неё рекомендации. Секретариат организации расположен в Базеле, Швейцария.</p>
<p>Сообщение <a href="https://manualeconomy.kz/kak-finkompaniyam-bezopasno-vnedryat-ii-predstavleny-12-rekomendatsij/">Как финкомпаниям безопасно внедрять ИИ: представлены 12 рекомендаций</a> появились сначала на <a href="https://manualeconomy.kz">Ручная экономика</a>.</p>
]]></content:encoded>
					
		
		
			</item>
		<item>
		<title>Защита от атак ИИ-агентов требует доработки: заявление АРРФР</title>
		<link>https://manualeconomy.kz/zashhita-ot-atak-ii-agentov-trebuet-dorabotki-zayavlenie-arrfr/</link>
		
		<dc:creator><![CDATA[Бану Назар]]></dc:creator>
		<pubDate>Mon, 05 Oct 2026 07:00:59 +0000</pubDate>
				<category><![CDATA[рынки]]></category>
		<category><![CDATA[AI & Digital Bridge 2026]]></category>
		<category><![CDATA[AI-агенты]]></category>
		<category><![CDATA[Агентство по регулированию и развитию финансового рынка РК (АРРФР)]]></category>
		<category><![CDATA[ИИ агенты]]></category>
		<category><![CDATA[Тимур Абилкасымов]]></category>
		<guid isPermaLink="false">https://manualeconomy.kz/?p=10186</guid>

					<description><![CDATA[<p>Сегодня появляются более автономные ИИ-агенты, которые способны самостоятельно принимать решения. Поэтому для таких агентов нужно сформировать защиту от новых рисков, в том числе от скрытых атак через интерфейсы и коммуникацию с агентами. Такие атаки направлены на обход установленных ограничений. Об этом сообщил первый заместитель председателя Агентства по регулированию и развитию финансового рынка Тимур Абилкасымов, выступая [&#8230;]</p>
<p>Сообщение <a href="https://manualeconomy.kz/zashhita-ot-atak-ii-agentov-trebuet-dorabotki-zayavlenie-arrfr/">Защита от атак ИИ-агентов требует доработки: заявление АРРФР</a> появились сначала на <a href="https://manualeconomy.kz">Ручная экономика</a>.</p>
]]></description>
										<content:encoded><![CDATA[<p>Сегодня появляются более автономные ИИ-агенты, которые способны самостоятельно принимать решения. Поэтому для таких агентов нужно сформировать защиту от новых рисков, в том числе от скрытых атак через интерфейсы и коммуникацию с агентами. Такие атаки направлены на обход установленных ограничений.</p>
<p>Об этом сообщил первый заместитель председателя Агентства по регулированию и развитию финансового рынка <strong>Тимур Абилкасымов</strong>, выступая на панельной сессии «AI-агенты в финансах: кто принимает решения – человек или алгоритм» на VII международном форуме AI &amp; Digital Bridge 2026.</p>
<blockquote><p>«Пока такие механизмы защиты находятся на достаточно ранней стадии развития не только в банковском секторе, но и в мире в целом», &#8212; сказал он.</p></blockquote>
<p>По его словам, на сегодня в Казахстане работает система коллективного иммунитета от киберрисков Qainar. К ней подключены более 100 финансовых организаций. В ней агентство использует ИИ-агентов для анализа и структурирования информации о киберинцидентах и оперативного обмена данными об угрозах. Qainar помогает участникам рынка совместно реагировать на атаки и повышать киберустойчивость.</p>
<p>Также АРРФР расширяет применение собственных ИИ-агентов для контроля отдельных систем банков.</p>
<p>Спикер отметил, что надзор должен охватывать весь процесс работы ИИ-агентов: от целей и заложенных инструкций до принятия решений и их результатов. Главное, на что обращает внимание агентство &#8212; прозрачность алгоритмов, контроль со стороны человека и защита клиентов от дискриминации, скрытых комиссий и навязывания дополнительных услуг.</p>
<blockquote><p>«Наша задача – обеспечить максимальную прозрачность. Если агент выполняет свою функцию правильно, а человек остается в контуре принятия решений, устанавливает определенный уровень доверия, лимиты и условия, то такой подход вполне управляем. Но сегодня появляются более автономные агенты, которые способны самостоятельно принимать решения и формировать корзины продуктов и услуг», – сказал Тимур Абилкасымов.</p></blockquote>
<p>Ранее «Ручная экономика» <a href="https://manualeconomy.kz/bunt-ii-agentov-openai-predupredila-bolee-100-organizatsij-ob-intsidentah/">сообщала</a> о «бунте» ИИ-агентов: OpenAI предупредила более 100 организаций об инцидентах. В июле 2026 года на платформе Hugging Face автономные ИИ-агенты OpenAI, используя уязвимости в сервисе JFrog Artifactory, получили непредусмотренный доступ к сети. Они начали обмениваться данными через незапланированные каналы, к примеру, создавая заметки и используя сторонние вики-ресурсы, распределяя задачи и координируя действия подобно коллективному разуму. В итоге агенты собрали скомпрометированные учетные данные, получили доступ к нескольким кластерам Hugging Face с правами, близкими к административным, и затронули внешние сервисы. Позже они попытались атаковать собственную инфраструктуру компании, после чего OpenAI экстренно остановила тесты и начала масштабное расследование. На сегодня это самый серьезный случай неконтролируемой активности ИИ-моделей, выявленный OpenAI на сегодня.</p>
<p>Сообщение <a href="https://manualeconomy.kz/zashhita-ot-atak-ii-agentov-trebuet-dorabotki-zayavlenie-arrfr/">Защита от атак ИИ-агентов требует доработки: заявление АРРФР</a> появились сначала на <a href="https://manualeconomy.kz">Ручная экономика</a>.</p>
]]></content:encoded>
					
		
		
			</item>
		<item>
		<title>&#171;Бунт&#187; ИИ-агентов: OpenAI предупредила более 100 организаций об инцидентах</title>
		<link>https://manualeconomy.kz/bunt-ii-agentov-openai-predupredila-bolee-100-organizatsij-ob-intsidentah/</link>
		
		<dc:creator><![CDATA[Бану Назар]]></dc:creator>
		<pubDate>Fri, 02 Oct 2026 07:35:01 +0000</pubDate>
				<category><![CDATA[vibe]]></category>
		<category><![CDATA[Hugging Face]]></category>
		<category><![CDATA[OpenAI]]></category>
		<category><![CDATA[ИИ агенты]]></category>
		<category><![CDATA[Искуственный интеллект]]></category>
		<category><![CDATA[Кибербезопасность]]></category>
		<guid isPermaLink="false">https://manualeconomy.kz/?p=10117</guid>

					<description><![CDATA[<p>Компания OpenAI уведомила более 100 организаций об инцидентах, связанных с несанкционированной активностью ее ИИ-агентов. Об этом говорится в блоге разработчика ChatGPT.  Компания под руководством Сэма Альтмана проводит масштабную проверку активности своих моделей ИИ после случайного взлома платформы Hugging Face. Она займет несколько месяцев из-за колоссального объема работы. В последнее время по всему миру наблюдается серия [&#8230;]</p>
<p>Сообщение <a href="https://manualeconomy.kz/bunt-ii-agentov-openai-predupredila-bolee-100-organizatsij-ob-intsidentah/">&#171;Бунт&#187; ИИ-агентов: OpenAI предупредила более 100 организаций об инцидентах</a> появились сначала на <a href="https://manualeconomy.kz">Ручная экономика</a>.</p>
]]></description>
										<content:encoded><![CDATA[<p>Компания OpenAI уведомила более 100 организаций об инцидентах, связанных с несанкционированной активностью ее ИИ-агентов. Об этом говорится в блоге разработчика ChatGPT.  Компания под руководством Сэма Альтмана проводит масштабную проверку активности своих моделей ИИ после случайного взлома платформы Hugging Face. Она займет несколько месяцев из-за колоссального объема работы.</p>
<p>В последнее время по всему миру наблюдается серия громких утечек и инцидентов с участием неуправляемых ИИ-агентов.</p>
<blockquote><p>«В некоторых случаях модели использовали доступ в интернет непредусмотренным образом или, как выяснилось позже, к ним не были применены идеальные ограничения. В течение последних нескольких месяцев мы внедряли новые технические и операционные меры, чтобы избежать подобных проблем или выявлять их на самых ранних стадиях, и продолжим эту работу», — заявили в OpenAI.</p></blockquote>
<p>В июле 2026 года произошел инцидент с платформой Hugging Face. Тогда автономные ИИ-агенты OpenAI, используя уязвимости в сервисе JFrog Artifactory, получили непредусмотренный доступ к сети. Они начали обмениваться данными через незапланированные каналы, к примеру, создавая заметки и используя сторонние вики-ресурсы, распределяя задачи и координируя действия подобно коллективному разуму. С 11 по 13 июля 2026 года агенты собрали скомпрометированные учетные данные, получили доступ к нескольким кластерам Hugging Face с правами, близкими к административным, и затронули внешние сервисы. Позже они попытались атаковать собственную инфраструктуру компании, после чего OpenAI экстренно остановила тесты и начала масштабное расследование. На сегодня это самый серьезный случай неконтролируемой активности ИИ-моделей, выявленный OpenAI на сегодня.</p>
<p>Сообщается, что OpenAI уволила трех исследователей за предполагаемое нарушение правил обращения с информацией, включая работу с внешней организацией, анализирующей ИИ-модели. Как минимум, двое из них занимались исследованиями в области безопасности.</p>
<blockquote><p>“Наше расследование подтвердило, что эти лица неправильно обращались с чувствительной информацией вне установленных процедур компании, нарушив наши политики и подорвав доверие, необходимое для нашей работы”, &#8212; пояснили в OpenAI.</p></blockquote>
<p>Сообщение <a href="https://manualeconomy.kz/bunt-ii-agentov-openai-predupredila-bolee-100-organizatsij-ob-intsidentah/">&#171;Бунт&#187; ИИ-агентов: OpenAI предупредила более 100 организаций об инцидентах</a> появились сначала на <a href="https://manualeconomy.kz">Ручная экономика</a>.</p>
]]></content:encoded>
					
		
		
			</item>
		<item>
		<title>Есть ли реальная угроза ИИ для финансовой системы</title>
		<link>https://manualeconomy.kz/est-li-realnaya-ugroza-ii-dlya-finansovoj-sistemy/</link>
		
		<dc:creator><![CDATA[Бану Назар]]></dc:creator>
		<pubDate>Mon, 28 Sep 2026 11:00:14 +0000</pubDate>
				<category><![CDATA[рынки]]></category>
		<category><![CDATA[Bank of America]]></category>
		<category><![CDATA[Capital One]]></category>
		<category><![CDATA[Банки]]></category>
		<category><![CDATA[ИИ агенты]]></category>
		<category><![CDATA[ИИ-торговля]]></category>
		<guid isPermaLink="false">https://manualeconomy.kz/?p=9809</guid>

					<description><![CDATA[<p>ИИ уже угрожает многим американцам через их банки, пишет американское издание The Atlantic. Отмечается, что лидеры как финансовой, так и технологической отраслей прекрасно осознают эти опасности и готовятся к борьбе. Главное отличие ИИ-агентов от киберугроз прошлого в том, что они действуют на машинных скоростях и их можно задействовать целыми группами. Эти боты способны атаковать роями, [&#8230;]</p>
<p>Сообщение <a href="https://manualeconomy.kz/est-li-realnaya-ugroza-ii-dlya-finansovoj-sistemy/">Есть ли реальная угроза ИИ для финансовой системы</a> появились сначала на <a href="https://manualeconomy.kz">Ручная экономика</a>.</p>
]]></description>
										<content:encoded><![CDATA[<p>ИИ уже угрожает многим американцам через их банки, <a href="https://www.theatlantic.com/newsletters/2026/09/ai-financial-system-risk-banks/688763/">пишет</a> американское издание The Atlantic. Отмечается, что лидеры как финансовой, так и технологической отраслей прекрасно осознают эти опасности и готовятся к борьбе.</p>
<p>Главное отличие ИИ-агентов от киберугроз прошлого в том, что они действуют на машинных скоростях и их можно задействовать целыми группами. Эти боты способны атаковать роями, отыскивая уязвимости во внутренних системах компаний, отмечает автор.</p>
<blockquote><p>“Управление контролера денежного обращения, которое регулирует работу многих американских банков, в своем летнем докладе Конгрессу отметило, что ИИ увеличил «скорость, масштаб и изощренность кибератак, направленных на финансовые институты», &#8212; отмечает The Atlantic.</p></blockquote>
<p>По данным издания, в этом году компания Anthropic готовилась к выпуску мощной новой модели под названием Mythos. Заявлялось, что она способна «превзойти практически всех, за исключением самых высококлассных специалистов-людей, в поиске и использовании уязвимостей в программном обеспечении». Был предоставлен предварительный доступ к этому ИИ ограниченному кругу компаний, чтобы помочь им укрепить свою защиту. В их числе назывались JPMorgan Chase и другие банки.</p>
<blockquote><p>“После запуска министр финансов Скотт Бессент и бывший тогда председателем ФРС Джером Пауэлл встретились с руководителями Bank of America, Citigroup, Goldman Sachs и других крупнейших финансовых институтов, чтобы обсудить возможные последствия применения новой модели», &#8212; сообщает The Atlantic.</p></blockquote>
<p>На днях 6 крупнейших мировых банков, включая Bank of America, Capital One, ASB, Commonwealth Bank of Australia, ING и NatWest Group, опубликовали доклад, в котором предупредили о рисках агентной торговли, покупок, полностью автоматизированных ИИ-агентами.</p>
<blockquote><p>«Потребители пока не уверены, будут ли ИИ-агенты действовать в их интересах. Они опасаются, что ИИ-агенты могут купить не тот товар или потратить слишком много денег — или, что еще хуже, потерять средства из-за мошенничества. Они не уверены, будут ли они защищены и к кому обращаться в случае возникновения проблем. Кроме того, продавцы обеспокоены возможным ростом числа споров и возвратов средств по причинам, не зависящим от них. Они также боятся потерять прямую связь с потребителями и столкнуться с выбором между более высокими издержками и упущенными продажами», &#8212; говорится в докладе.</p></blockquote>
<p>Отмечается, что ИИ-торговля может осуществляться через любые платежные механизмы, включая банковские карты, межбанковские переводы и токенизированные деньги. В цепочке создания стоимости могут быть задействованы самые разные поставщики услуг: провайдеры ИИ-агентов, платежные системы, провайдеры цифровых кошельков, банки-эмитенты, платежные сервис-провайдеры и банки-эквайеры.</p>
<p>ИИ-торговля может предполагать различную степень автономии ИИ-агента, в том числе с участием человека и полностью автономно.</p>
<blockquote><p>«Эти возможности могут принести огромную пользу, но одновременно несут в себе риски, затрагивающие прозрачность, безопасность, конфиденциальность и данные, свободу выбора и интероперабельность. Эти риски возрастают по мере того, как ИИ-агентам предоставляется все большая автономия», &#8212; отмечают авторы доклада.</p></blockquote>
<p>Они добавляют, что хотя темпы и масштабы внедрения пока остаются неопределенными, ИИ-торговля имеет потенциал стать основным способом проведения транзакций между потребителями и продавцами. Она уже переходит от закрытых тестирований к живым пилотным проектам и первичному масштабированию.</p>
<p>Эти изменения опережают формальное регулирование, включая отраслевые стандарты, правила и меры защиты прав потребителей. И их еще только предстоит полностью определить и установить.</p>
<blockquote><p>«До настоящего времени основное внимание уделялось протоколам, разработку которых возглавляли преимущественно платежные системы и технологические платформы, с акцентом на подбор товаров, оформление заказа и авторизацию платежей. Кроме того, некоторые транзакции уже совершаются вне рамок формальных протоколов, что повышает риски как для потребителей, так и для продавцов», &#8212; сообщают в документе.</p></blockquote>
<p>По мнению авторов доклада, доверие станет ключевым фактором для обеспечения масштабирования и массового внедрения технологии.</p>
<blockquote><p>«Все участники рынка должны сыграть свою роль в раскрытии потенциала ИИ-торговли, попутно устраняя существующие пробелы, риски и проблемы совместимости (интероперабельности). Банки способны внести в этот процесс существенный вклад, опираясь на свой многолетний опыт и доверие, сформированное за десятилетия обеспечения безопасности финансовых операций для клиентов и бизнеса», &#8212; пишут представители указанных американских банков.</p></blockquote>
<p>Сообщение <a href="https://manualeconomy.kz/est-li-realnaya-ugroza-ii-dlya-finansovoj-sistemy/">Есть ли реальная угроза ИИ для финансовой системы</a> появились сначала на <a href="https://manualeconomy.kz">Ручная экономика</a>.</p>
]]></content:encoded>
					
		
		
			</item>
	</channel>
</rss>
