İngiltere Finansal Davranış Otoritesi, finans sektöründe yapay zeka kullanımına ilişkin yeni yaklaşımını açıkladı. FCA, ChatGPT, Gemini ve Claude gibi genel amaçlı yapay zeka hizmetlerinden finansal bilgi veya tavsiye alan kullanıcıların, bu hizmetlerin sınırları ve sağlanan korumanın kapsamı konusunda açık biçimde bilgilendirilmesi gerektiğini belirtti. Kurum aynı gün finans şirketleri için iyi ve sorunlu yapay zeka uygulamalarına ilişkin örnekler yayımlarken, AI ajanlarının kimliği, yetkileri ve sorumluluğu için sektörle birlikte yeni bir çerçeve geliştireceğini de duyurdu.
FCA’nın açıklaması yeni ve bağlayıcı bir yapay zeka düzenlemesini yürürlüğe sokmuyor. Kurum, mevcut finansal düzenlemelerin şirketlerin yapay zeka kullanımında zaten geçerli olduğunu vurguluyor ve yayımladığı uygulama örneklerinin yeni yükümlülük yaratmadığını açıkça belirtiyor. Buna karşılık açıklama, İngiltere’nin finansal hizmetlerde AI denetimini hangi başlıklar üzerinden geliştireceğini göstermesi açısından güçlü bir düzenleyici sinyal taşıyor.
ChatGPT ve Gemini Gibi Modeller İçin Açık Uyarı Çağrısı
FCA’nın gündeme taşıdığı konuların başında genel amaçlı büyük dil modellerinden alınan finansal bilgi ve tavsiyeler geliyor.
Kurumun Baş Veri, Bilgi ve İstihbarat Sorumlusu Jessica Rusu, tüketicilerin ChatGPT, Gemini ve Claude gibi genel amaçlı modelleri giderek daha fazla yatırım ve finansal bilgi için kullandığını belirtti. FCA’nın aktardığı verilere göre 18-40 yaş grubundaki daha az deneyimli yatırımcıların beşte dördü yatırım kararlarında yapay zekadan yararlandı. Buna karşılık tüketicilerin yalnız yüzde 40’ı, genel amaçlı bir yapay zeka aracının tavsiyesi üzerine hareket ettikten sonra sorun yaşanması halinde başvurabilecekleri bir telafi mekanizmasının bulunmadığını doğru biçimde biliyor.
FCA bu nedenle AI sağlayıcılarına, modellerinin ürettiği finansal bilgi ve tavsiyelerin sınırlarını açık, ölçülü ve tutarlı uyarılarla kullanıcılara anlatmaları çağrısında bulundu.
Kurumun yaklaşımında önemli bir ayrım bulunuyor. FCA şu aşamada genel amaçlı yapay zeka modellerini doğrudan kendi düzenleyici kapsamına almak yerine, kullanıcıların regüle finansal tavsiye ile genel amaçlı AI çıktıları arasındaki sınırı daha iyi anlayabilmesini hedefliyor.
Finans Şirketleri İçin İyi ve Sorunlu AI Uygulamaları Yayımlandı
FCA aynı gün finans şirketlerinin yapay zeka kullanımına ilişkin gözlemlerinden oluşturduğu iyi uygulamalar ve geliştirilmesi gereken alanlar dokümanını da yayımladı.
Çalışma üç ana konuya odaklanıyor. Bunlar tüketici sonuçları, yönetişim ve hesap verebilirlik ile operasyonel dayanıklılık olarak sıralanıyor.
FCA’ya göre finans şirketleri bir yapay zeka sistemini geliştirmeden önce hangi tüketici ihtiyacını çözmek istediklerini açık biçimde tanımlamalı. Modeller farklı müşteri grupları üzerinde test edilmeli, önyargı ve hata riskleri ölçülmeli ve canlı kullanımdaki sonuçlar sürekli izlenmeli. Şirketlerin ayrıca kullanıcıya yapay zekanın nerede kullanıldığını, sistemin neleri yapabildiğini ve sınırlarını anlaşılır biçimde açıklaması gerekiyor.
Kurum, insan desteğine geçiş imkanı sunan sistemleri olumlu uygulamalar arasında gösteriyor. Yapay zeka aracının hangi işlemleri otomatik gerçekleştirebileceği, hangi aşamada durması ve hangi durumda bir çalışana yönlendirme yapması gerektiğinin önceden belirlenmesi öneriliyor.
AI Sistemlerinde Sorumlu Yönetici Aranacak
FCA’nın üzerinde durduğu bir diğer alan hesap verebilirlik.
Kurum, finans şirketlerinin kullandıkları veya satın aldıkları yapay zeka sistemlerinin sonuçlarından sorumlu olmaya devam ettiğini vurguluyor. Bu kapsamda şirketlerin risk seviyesine uygun kontroller oluşturması, insan gözetimini açık biçimde tanımlaması ve sorunların hangi aşamada üst yönetime taşınacağını belirlemesi bekleniyor.
FCA ayrıca üst düzey yöneticilerin yapay zeka sistemlerinin gözetiminde açık sorumluluk taşımasını istiyor. Kurumun gözlemlerinde bazı şirketlerin bağımsız etik kurulları veya merkezi AI yönetişim yapıları oluşturduğu görülürken, bazı şirketlerin yönetişim mekanizmalarını teknoloji devreye alındıktan sonra kurmaya çalıştığı belirtiliyor. FCA ikinci yaklaşımı önemli bir risk alanı olarak değerlendiriyor.
Yayımlanan doküman şirketlerden tek tip bir AI yönetişim modeli kullanmalarını talep etmiyor. Kontrollerin şirketin büyüklüğüne, kullanım alanına ve yaratılan risk seviyesine göre ölçeklendirilmesi öngörülüyor.
AI Ajanları İçin Kimlik ve Yetki Çerçevesi Geliyor
FCA’nın açıklamasındaki en önemli bölümlerden biri agentic finance başlığı oldu.
Kurum, AI sistemlerinin artık yalnız bilgi sağlayan veya karar destekleyen araçlar olmaktan çıkarak kullanıcı adına ürün arayabildiğini, ödemeleri ve yatırımları yönetebildiğini ve başka ajanlarla doğrudan işlem gerçekleştirebildiğini belirtiyor. Bu gelişme, finans sektöründe yetkinin kime ait olduğu ve yapılan işlemden kimin sorumlu tutulacağı sorularını daha önemli hale getiriyor.
FCA, sektör temsilcileri, diğer düzenleyiciler ve gelişmiş yapay zeka modellerini geliştiren şirketlerle birlikte güvenilir bir agentic finance çerçevesi oluşturacağını açıkladı.
Çalışmada özellikle dört konu ele alınacak: AI ajanının kimliği, kullanıcı tarafından devredilen yetkinin kapsamı, hesap verebilirlik ve işlemin gerçekleştirilme biçimi.
Bu çerçeve henüz tamamlanmış bir düzenleme veya bağlayıcı standart niteliği taşımıyor. FCA’nın açıklaması, önümüzdeki dönemde üzerinde çalışılacak düzenleyici mimarinin yönünü gösteriyor.
AI Hataları ve Yakın Tehlikeler de İzlenecek
AI ajanlarının daha fazla işlem yetkisi kazanması operasyonel risk yaklaşımını da değiştiriyor.
FCA, finans şirketlerinin AI sistemlerini stres testine tabi tutmasını, sistemin başarısız olabileceği senaryoları önceden planlamasını ve gerektiğinde kullanılabilecek alternatif süreçler oluşturmasını istiyor. Tek bir model veya teknoloji sağlayıcısına aşırı bağımlılık da izlenmesi gereken riskler arasında yer alıyor.
Kurum ayrıca büyük operasyonel olayların bildirilmesine ilişkin mevcut yükümlülüklerin önemli AI arızaları ve ciddi sonuç doğurabilecek yakın tehlike olaylarını da kapsaması gerektiğini belirtiyor.
Agentic sistemlerde bir modelin ilk devreye alındığında güvenli çalışmasının yeterli görülmemesi gerektiğini belirten FCA, modellerin ölçek büyüdükçe, stres altında veya altyapılarındaki modeller değiştikçe farklı davranabileceğine dikkat çekiyor. Bu nedenle sürekli ve koşullara bağlı güvence mekanizmalarının geliştirilmesi isteniyor.
FCA Kendi Denetiminde de AI Ajanları Kullanacak
İngiliz düzenleyicinin yaklaşımı yalnız finans şirketlerinin yapay zeka kullanımını denetlemekle sınırlı kalmıyor. FCA kendi gözetim faaliyetlerinde de agentic AI kullanımını genişletiyor.
Kurum, 2028’de denetim alanına girecek yaklaşık 60 bin kara para aklamayla mücadele kuruluşunun gözetimi için yapay zeka araçları geliştiriyor. FCA ayrıca yaklaşık 9 bin küçük toptan piyasa işlem raporlama şirketini denetleyecek bir “market first responder” AI ajanı üzerinde çalışıyor.
Amaç, yapay zekanın farklı veri kaynaklarından kanıt toplaması, erken risk işaretlerini belirlemesi ve denetçilerin daha karmaşık vakalara odaklanmasını sağlaması.
Bu yaklaşım FCA’yı aynı anda hem AI kullanan finans kuruluşlarının denetleyicisi hem de kendi denetim süreçlerinde AI ajanlarını kullanan bir düzenleyici konumuna taşıyor.
Yeni Bir AI Yasası Açıklanmadı
FCA’nın 19 Ekim açıklamasında dikkat edilmesi gereken en önemli ayrımlardan biri düzenleyici statü.
Kurumun yayımladığı iyi uygulama örnekleri yeni kurallar oluşturmuyor ve finans şirketleri için ayrı bir yapay zeka lisansı veya yeni bir zorunluluk getirmiyor. FCA, mevcut Consumer Duty, operasyonel dayanıklılık, yönetişim ve üst yönetici sorumluluğu gibi düzenlemelerin AI kullanılan süreçlerde de geçerli olduğunu belirtiyor.
Yeni olan taraf, bu kuralların yapay zeka sistemlerinde nasıl uygulanabileceğine ilişkin daha somut örneklerin paylaşılması ve agentic finance için ayrı bir güven çerçevesi üzerinde çalışılacağının açıklanması.
Finansal Yapay Zekada Yeni Soru Yetkiyi Kimin Verdiği
FCA’nın yaklaşımı finans sektöründeki AI tartışmasının yön değiştirdiğini gösteriyor. İlk aşamada kurumların hangi modeli kullandığı ve yapay zekanın hangi iş süreçlerini hızlandırdığı konuşuluyordu. Şimdi gündeme bir AI ajanının ne kadar işlem yetkisi taşıyabileceği, bu yetkinin nasıl doğrulanacağı ve hata halinde sorumluluğun kimde kalacağı geliyor.
Bu değişim bankalar ve fintekler açısından önemli. AI ajanı yalnız müşteriye seçenek sunduğunda risk alanı daha sınırlı. Aynı ajan para transferi yapmaya, yatırım ürünleri arasında seçim gerçekleştirmeye veya başka finansal ajanlarla işlem kurmaya başladığında kimlik, yetki ve hesap verebilirlik doğrudan finansal altyapının parçasına dönüşüyor.
FCA’nın henüz bağlayıcı bir agentic finance düzenlemesi açıklamamış olması bu gelişmenin önemini azaltmıyor. Kurum, gelecekteki denetim çerçevesinin dört kritik unsurunu şimdiden ortaya koyuyor: kimlik, yetki devri, hesap verebilirlik ve işlem gerçekleştirme.
Finansal kurumların AI stratejisinde bir sonraki büyük başlık da burada oluşuyor. Modelin ne kadar güçlü olduğu kadar, hangi işlemi kimin adına ve hangi sınırlar içinde yapabileceğinin kanıtlanabilir olması önem kazanıyor.
