OpenAI ChatGPT'ye Lockdown Modu ve Risk Etiketleri Ekledi

OpenAI, ChatGPT'ye kurumsal kullanıcıları hedefleyen iki yeni güvenlik özelliği ekledi: Lockdown Mode ve Elevated Risk Labels.

Lockdown Mode'un ne yaptığını anlamak için önce "prompt injection" kavramını bilmek gerekiyor. Şirketler ChatGPT'yi kendi sistemlerine entegre ederken, modele belirli talimatlar veriyorlar — mesela "sadece müşteri sorularını yanıtla, şirket sırlarını paylaşma" gibi. Prompt injection ise kötü niyetli bir kullanıcının bu talimatları atlatarak modeli kandırması anlamına geliyor. Örneğin bir müşteri hizmetleri chatbot'una özel komutlar göndererek arka plandaki sistem talimatlarını ifşa ettirebiliyor ya da modeli tamamen farklı bir şey yaptırabiliyor. Lockdown Mode aktifken bu tür müdahaleler engelleniyor — model, orijinal talimatlarından sapmıyor.

Elevated Risk Labels ise daha görsel bir çözüm sunuyor. ChatGPT, gelen bir prompt'un manipülasyon riski taşıyıp taşımadığını analiz ediyor ve kullanıcıya bir risk etiketi gösteriyor. Böylece özellikle kurumsal ortamlarda, çalışanlar şüpheli istekleri fark edebiliyor.

Bu iki özellik, AI'ın kurumsal dünyada güvenle kullanılabilmesi adına önemli bir adım. Özellikle finans ve sağlık gibi hassas verilerin döndüğü sektörlerde, bir chatbot'un manipüle edilmesi ciddi sonuçlar doğurabilir. OpenAI'ın bu hamlesinin ardında, büyük kurumsal kontratların güvenlik gereksinimlerini karşılama ihtiyacı yatıyor.