OpenAI, ChatGPT kullanıcılarına sunulacak sağlıklı etkileşim sınırlarını tanımlamak ve izlemek üzere Uzman Konsey on Well-Being and AI adı verilen bir kurul kurdu. Kurul, teknoloji ile ruh sağlığı arasındaki dinamikleri inceleyen sekiz uzmanı içeriyor.
Şirket daha önce bu uzmanlarla ebeveyn kontrolleri ve genç kullanıcı uyarı metinleri gibi özellikleri geliştirirken iş birliği yapmıştı; yeni konsey bu süreçleri daha resmî bir çerçevede izleyecek.
İlk toplantıda, mevcut çalışmalar gözden geçirildi; bundan ilerisi için konsey, ChatGPT’nin hassas senaryolarda nasıl davranması gerektiği, guardrail (koruyucu sınırlar) önerileri, kullanıcı desteği stratejileri ve ChatGPT’nin kullanıcı yaşamına olumlu katkı sunma yolları gibi başlıkları tartışacak.
OpenAI açıklamasında, “Konuşmalarımız şimdiden iyilik halinin tanımı ve ChatGPT’nin yaşam yönlendirici roller üstlenmesi üzerine odaklandı. Dinlemeye, öğrenmeye ve sonuçları paylaşmaya devam edeceğiz” ifadesine yer verildi.
Daha önce oluşturulan Global Physician Network yapısı da 250’ye yakın hekim ile çalışıyor; bu ağ, modeli ruh sağlığı bağlamlarında nasıl davranması gerektiği konusunda yönlendiriyor.
Öte yandan OpenAI, 17 Eylül açıklamasıyla bir yaş tahmin sistemi geliştirmeyi planladığını duyurmuştu; bu sistem, kullanıcıların 18 yaş üstü olup olmadığını analiz ederek genç kullanıcıları yaş sınırlı sürümlere yönlendirecek.
Bu kararlar, OpenAI’nin kullanıcı güvenliği, etik sınırlar ve toplumsal sorumluluk konularında yeni bir aşamaya geçtiğini gösteriyor.
OpenAI’nin yeni konsey hamlesi, teknolojinin hızla ilerleyen taraflarıyla toplumsal sorumluluk arasında bir köprü kurma çabası olarak okunmalı. ChatGPT gibi platformlar artık yalnızca bilgi aracı olmanın ötesine geçiyor; kullanıcıların psikolojik deneyimlerinde rol oynayan yapı taşlarına dönüşüyor. Bu yapı, teknolojideki gücün etik sınırlarla dengelenmesinin ne kadar elzem olduğunu gösteriyor. Güçlü sistemler kadar, bu sistemleri yönlendiren ölçütler de kritik olacak. Karar alma süreçlerinde psikoloji, etik, kullanıcı davranışı alanlarını birleştiren bir perspektifin avantajlarını izleyebiliriz. Bundan sonra teknoloji şirketlerinin yalnızca yenilik sunması yetmeyecek; bu sistemlerin insan refahına katkı sağlaması bekleniyor.
