Lloyd’s of London, AI tabanlı ürünlerin neden olabileceği hasarlara yönelik sigorta poliçesini devreye aldı.
Yapay zekâ temelli sistemlerin hızla yaygınlaştığı günümüzde, bu teknolojilerden kaynaklı hataların sigorta kapsamında değerlendirilmeye başlanması sektörde yeni bir dönemi işaret ediyor. Financial Times’ın 11 Mayıs tarihli haberine göre, Londra merkezli Lloyd’s of London, yapay zekâ tabanlı ürünlerin neden olabileceği hatalar ve hasarlar için özel olarak tasarlanmış bir sigorta poliçesini devreye aldı.
Yeni ürün, sigorta girişimi Armilla aracılığıyla sunuluyor ve AI tabanlı bir ürün nedeniyle müşteri ya da üçüncü taraflarca açılabilecek dava masraflarını karşılamayı hedefliyor. Özellikle üretken yapay zekâ uygulamaları ve sohbet botları gibi sistemlerin yanlış ya da hayal ürünü bilgiler vermesi sonucu ortaya çıkan hukuki süreçler, bu poliçenin kapsama alanına dahil ediliyor.
AI sistemlerinin verimlilik sağlamak amacıyla şirketlerde hızla benimsenmesi, bazı riskleri de beraberinde getiriyor. Müşteri hizmetleri gibi doğrudan kullanıcıya temas eden alanlarda, yapay zekâ modellerinin hatalı yönlendirmeleri veya “halüsinasyon” olarak tanımlanan kurgusal bilgileri güvenle sunması, büyük itibar ve maliyet kayıplarına yol açabiliyor.
NILG.AI CEO’su Kelwin Fernandes, “İnsan bir süreçten çıkarıldığında ya da sorumluluk yapay zekâya bırakıldığında, hatalardan kim sorumlu olacak?” sorusunu gündeme taşıyor. Uygulamada ise, genellikle hatalı içeriği sunan yapay zekâ ürününün sahibi olan şirket sorumlu tutuluyor.
Bu duruma örnek olarak, Virgin Money’nin sohbet botunun bir müşteriye verdiği uygunsuz yanıt nedeniyle özür dilemek zorunda kalması ve Air Canada’nın, chatbotunun hayal ürünü bir indirim sunduğu için mahkemeye taşınması veriliyor. Armilla, bu olayda Air Canada’nın chatbotunun beklentileri karşılamadığına kanaat getirilmiş olsaydı, ortaya çıkan bilet satış zararı poliçe kapsamında karşılanabilirdi açıklamasında bulundu.
Yapay zekâ hatalarının kurumsal süreçlere entegrasyonu konusunda temkinli yaklaşan kurumlardan biri de Lloyds Bank oldu. Bankanın Veri ve Analitikten Sorumlu Başkanı Ranil Boteju, bir Google AI yuvarlak masa toplantısında yaptığı açıklamada, “Koruyucu önlemlerden tam emin olmadan üretken yapay zekâ yeteneklerini doğrudan müşterilere sunmama kararı aldık,” ifadelerini kullandı. Banka, ilk etapta yalnızca arka ofis süreçlerinde ve insan gözetimi eşliğinde AI kullanımına yöneldi.
Yapay zekânın iş dünyasındaki yeri her geçen gün güçlenirken, doğurduğu riskler de kaçınılmaz hale geliyor. Lloyd’s ve Armilla’nın sunduğu bu sigorta ürünü, AI hatalarına karşı hem teknik hem hukuki bir güvence sağlayarak sektörde önemli bir boşluğu dolduruyor. Bu gelişme, yapay zekâ sistemlerini uygulamaya koymak isteyen ama risklerden çekinen kurumlar için cesaret verici olabilir. Özellikle chatbotlar gibi doğrudan kullanıcı etkileşimi sağlayan sistemlerde güvenlik ve sorumluluk konularının daha da önem kazanacağı yeni bir döneme giriyoruz.
