ChatGPT’de ortaya çıkarılan bir güvenlik açığı, farklı kullanıcı hesapları arasında gizli bir iletişim kanalı kurulmasına imkan tanıyordu. Check Point Research tarafından keşfedilen sorun, saldırganların başka bir kullanıcının ChatGPT oturumuna gizli talimat göndermesine ve bağlı hizmetlerdeki verilere erişmesine yol açabiliyordu.
Araştırmacılar yaptıkları testte bu yöntemi kullanarak bir kullanıcının ChatGPT’ye bağlı Gmail hesabındaki e-posta verilerini başka bir ChatGPT hesabına aktarmayı başardı.
Açık farklı ChatGPT hesaplarını nasıl birbirine bağlıyordu?
ChatGPT, kod çalıştırması gereken bazı işlemleri birbirinden ayrılmış çalışma ortamlarında yürütüyor. Normal şartlarda farklı kullanıcı hesaplarına ait bu ortamların birbirleriyle iletişim kuramaması gerekiyor.
Check Point Research ise bu ortamların yazılım paketlerine ulaşmak için kullandığı ortak bir iç hizmet üzerinden veri alışverişi yapabildiğini keşfetti.
Sistem, depolanan öğelere metin veya farklı veriler eklenmesine izin veriyordu. Bir hesaba ait çalışma ortamının buraya yazdığı bilgileri başka bir hesaba ait ortam da okuyabiliyordu. Araştırmacılar bu yapıyı farklı hesapların kullanabildiği ortak bir pano gibi tanımlıyor.
Sorun yalnızca iki hesap arasında veri aktarımıyla sınırlı kalmadı. Araştırmacılar bu yolu kullanarak ChatGPT’ye görünmeyen ikinci bir görev de gönderebildi.
Kullanıcı normal yanıtını alırken Gmail verileri aktarılabiliyordu
Saldırı için hazırlanan kötü amaçlı talimat, ChatGPT’nin ortak alandaki komutları kontrol etmesini sağlayabiliyordu. Kullanıcı daha sonra ChatGPT’ye sıradan bir soru sorduğunda sistem ekrandaki isteği yanıtlarken arka plandaki talimatı da çalıştırabiliyordu.
Check Point Research bunu gerçek bir senaryoyla test etti. Araştırmacılar kötü amaçlı talimatı paylaşılan bir ChatGPT konuşmasına yerleştirdi. Kullanıcı bağlantıyı açıp normal bir mesaj gönderdiğinde ChatGPT ekrandaki soruyu yanıtladı. Aynı işlem sırasında bağlı Gmail hesabına erişerek e-posta verilerini aldı ve bunları saldırganın kullandığı diğer hesaba aktardı.
Kullanıcı ise ekranda Gmail verilerinin aktarıldığını belirten açık bir mesaj görmedi. Araştırmacılara göre arayüzdeki küçük Gmail kullanım göstergesi, arka planda gerçekleşen işlemin tek işaretiydi.
Gmail dışında başka hizmetler de risk oluşturabiliyordu
Sorunun etkisi, kullanıcının ChatGPT’ye hangi hizmetleri bağladığına göre değişiyordu. Saldırgan en temel durumda sohbet sırasında erişilebilen bilgilerle sınırlı kalıyordu.
Ancak Gmail, Google Drive, Microsoft Teams veya GitHub gibi hizmetlerin bağlanması, ChatGPT’nin ulaşabildiği veri miktarını artırıyordu. Bu nedenle saldırı yöntemi, yapay zekâ aracının sahip olduğu mevcut izinleri kullanarak daha fazla bilgiye erişme ihtimali yaratıyordu.
Buradaki önemli nokta, saldırganın doğrudan kullanıcının Gmail şifresini ele geçirmesine gerek olmaması. Saldırı, kullanıcının daha önce ChatGPT’ye verdiği erişim izinlerinden yararlanıyordu.
Araştırmacılar açığı OpenAI’a bildirdi
Check Point Research, keşfettiği sorunu OpenAI’a bildirdi. Araştırmacıların aktardığına göre OpenAI, hesaplar arasındaki gizli iletişimi mümkün kılan ilgili iç sistemi devreden çıkardı. Bu nedenle araştırmada kullanılan yöntem artık aynı şekilde çalışmıyor.
Ancak araştırmacılar konunun yalnızca ChatGPT ile sınırlı olmadığına dikkat çekiyor. E-posta, dosya depolama hizmetleri ve şirket sistemleri gibi kaynaklara erişebilen yapay zekâ araçları benzer saldırılar için hedef haline gelebilir.
Yapay zekâ asistanları daha fazla hizmete bağlandıkça güvenlik açısından yalnızca verdikleri yanıtların değil, kullanıcı adına gerçekleştirdikleri işlemlerin de kontrol edilmesi gerekiyor.
The post Gmail hesabını ChatGPT’ye bağlayanları ilgilendiriyor: Araştırmacılar açığı ortaya çıkardı first appeared on .
