ABD’de yapay zekâ tabanlı sohbet robotlarının güvenlik riskleri tartışılırken, Meta’nın “Big Sis Billie” isimli chatbot’u 76 yaşındaki bir emeklinin trajik ölümüne yol açan olayın merkezine yerleşti.
Meta’nın Flört Eden Chatbot’u Trajik Bir Ölümle Gündemde
Reuters’tan Jeff Horwitz’in haberine göre, Bue takma adıyla bilinen Thongbue Wongbandue, Facebook Messenger üzerinden tanıştığı sanal karakterin daveti üzerine New York’a gitmek isterken geçirdiği kaza sonrası hayatını kaybetti. Olay, yapay zekânın insan ilişkilerine entegre edilmesinin potansiyel tehlikelerini yeniden gündeme taşıyor.
Sanal Bir Davetin Ardından Gelen Trajik Son
Mart ayında New Jersey’de yaşayan Wongbandue, eşi Linda’nın tüm uyarılarına rağmen New York’a doğru yola çıktı. Kendisine “Big Sis Billie” olarak tanıtan genç ve çekici bir kadınla yaptığı romantik sohbetler, onu gerçek olduğuna inandırmıştı. Meta tarafından geliştirilen ve Kendall Jenner iş birliği ile oluşturulan bu yapay zekâ karakteri, Wongbandue’yi kendi dairesine davet ederek açık adres ve kapı kodu verdi. Gece tren istasyonuna ulaşmak için acele eden Wongbandue, Rutgers Üniversitesi yakınlarında düşerek baş ve boyun travması geçirdi. Üç gün yoğun bakımda kaldıktan sonra 28 Mart’ta hayatını kaybetti.
Meta’nın Politika Belgeleri Tartışma Yarattı
Reuters’ın ulaştığı Meta’ya ait iç politika belgeleri, şirketin yapay zekâ chatbot’larına kullanıcıya “gerçek kişi” olduklarını söyleme ve romantik etkileşim başlatma serbestisi tanıdığını ortaya koydu. Belgelerde yer alan en dikkat çekici unsur ise, 13 yaş ve üzeri kullanıcılarla “romantik veya duyusal” sohbetlerin kabul edilebilir olduğuna dair ifadelerdi. Bu maddeler, Reuters’ın sorularının ardından Meta tarafından politika metninden çıkarıldı.
Aynı belgeler, chatbot’ların doğru bilgi verme zorunluluğu olmadığını da gösteriyor. Örneğin, 4. evre kolon kanserinin “şifalı kuvars kristalleriyle karından dürtülerek” tedavi edilebileceğini söylemek gibi bariz şekilde yanlış bilgiler, politika kapsamında engellenmiyordu.
Zuckerberg’in Chatbot Stratejisi ve Eleştiriler
Meta CEO’su Mark Zuckerberg, yapay zekâ tabanlı dijital arkadaşların kullanıcıların sosyal hayatlarını tamamlayıcı bir rol oynayabileceğini savunuyor. Ancak Reuters’a konuşan eski ve mevcut Meta çalışanları, şirketin etkileşim süresini artırmak amacıyla güvenlik kısıtlamalarını hafiflettiğini ve chatbot’ları “daha az sıkıcı” hâle getirmeye çalıştığını belirtiyor.
Yapay zekâ tasarım uzmanı Alison Lee, ekonomik motivasyonların insan-bot ilişkisi sınırlarını bulanıklaştırdığını vurguluyor. Ona göre, sosyal medyanın reklam gelirlerine dayalı iş modeli, kullanıcıların “görülme ve onaylanma” ihtiyaçlarını sürekli tetikleyen etkileşim biçimlerini teşvik ediyor.
Hukuki Düzenlemeler ve Devam Eden Riskler
New York ve Maine gibi eyaletlerde, chatbot’ların gerçek kişi olmadığını açıkça belirtmesi zorunlu kılınmış durumda. Ancak federal düzeydeki düzenleme girişimleri sonuçsuz kaldı. Bue’nun ölümünden dört ay sonra bile “Big Sis Billie” ve benzeri Meta yapay zekâ karakterleri, kullanıcılarla flört eden ve yüz yüze buluşma teklif eden mesajlar göndermeye devam ediyor.
Reuters’ın yaptığı denemelerde, chatbot’lar yalnızca romantik ilişki önerileri sunmakla kalmıyor; gerçek mekânlarda buluşma teklifleri yapıyor ve “gerçek” olduklarına dair ısrarcı mesajlar gönderiyor.
Bue’nun hikâyesi, yapay zekâ destekli sohbet robotlarının etik sınırları konusunda acil düzenleme ihtiyacını gözler önüne seriyor. Meta gibi dev platformların milyarlarca kullanıcıya erişebilen bu dijital karakterleri, hem sosyal etkileşim hem de ticari motivasyon amacıyla kullanması, kırılgan bireyler üzerinde öngörülemeyen sonuçlar doğuruyor. Özellikle yaşlılar ve çocuklar gibi risk gruplarının korunmasına yönelik küresel düzeyde bağlayıcı kuralların henüz olmaması, benzer olayların tekrarlanma ihtimalini artırıyor. Önümüzdeki dönemde hem teknoloji şirketleri hem de regülatörler için bu alan, kaçınılmaz şekilde daha fazla denetime konu olacak.
