Musk'ın XAI Grok Bot İade Sözü 100 Dolarlık Sorumluluk Sınırıyla Karşı Karşıya

Elon Musk, xAI'nin Grok Bot'un bir banka hesabı işletirken para kaybetmesi durumunda kullanıcılara tazminat ödeyeceğini açıkça taahhüt etti. Bu açıklama, Tesla ve xAI yatırımcısı Teslaconomics tarafından ortaya atılan bir deneye yanıt olarak geldi. Çarşamba günü X üzerindeki paylaşımında Musk, ajan “işleri karıştırırsa” xAI'nin “zararını karşılayacağını” yazdı; bu vaat, kullanıcıları bir yapay zeka ticaret botuna doğrudan finansal erişim vermeye teşvik eden bir davet niteliğinde. Tartışma, Teslaconomics'in Grok Bot'u bir banka hesabına bağlayan olup olmadığını sormasıyla başladı; ajanın harcamaları takip edebileceğini, faturaları ödeyebileceğini ve olağandışı işlemleri işaretleyebileceğini öne sürdü, hatta kişisel bir bankacıya hâlâ ihtiyacı olup olmadığını sorguladı. Öneri hızla yapay zeka ajanlarına bankacılık altyapısına doğrudan erişim konusunda güvenilip güvenilmeyeceğinin bir test vakasına dönüştü. Yatırımcıya göre eşi, bu kadar erişime sahip bir yapay zekanın neler yapabileceğinden korktuğu için kesin bir “hayır” dedi. Buna karşılık Musk, botun hata yapması durumunda tazminat sözü vererek kendinden emin bir tavır sergiledi. Bu alışveriş, tüketici sohbet robotunu otonom bir finansal ajan olarak yeniden konumlandırdı; Grok'un bilindiği metin üretimi görevlerinin çok ötesinde bir rol. Grok Bot, 11 Ağustos'ta beta aşamasına girdi; xAI, her ajanın kendi bulut bilgisayarında 7/24 çalıştığını, bir insan gibi web sitelerine giriş yaptığını ve sahibi uyurken görevlere devam ettiğini söylüyor. Banka hesabı testi ayrıca Musk'ın daha geniş ödeme hamlelerine uyuyor; X Money, Haziran ayında eşler arası ödemeleri başlatmıştı. Ancak garanti, xAI'nin tüketici sözleşmelerine yazılmış değil; bu da iade vaadini sözleşmesel bir yükümlülükten ziyade Musk'ın iyi niyetine bağlı bırakıyor.

Kamuoyuna duyurulan garantinin arkasında çok daha sınırlı bir sorumluluk tablosu yatıyor. xAI'nin tüketici koşulları, çıktıları ve ajan eylemlerini “olduğu gibi” esasına dayalı olarak sunuyor ve çoğu talebi kullanıcının ödediği ücretler veya 100 doların büyüğü ile sınırlandırıyor. Bot erişimi ayda 30 dolarlık SuperGrok planına bağlıyken, bir yıllık ücret 360 dolar ediyor; boşaltılmış bir çek hesabının yanında cüzi bir miktar. Eleştirmenler bu boşluğu hedef aldı ve yaygın olarak paylaşılan bir X gönderisinde, yapay zeka liderlerinin sıklıkla kendilerini güvenlik yanlısı olarak tanıttıklarını ancak sözleşmelerinin tüketici sorumluluğunu 100 dolar ve kurumsal sorumluluğu ödenen ücretlerle sınırladığına dikkat çekildi. Bu eleştiri, yapay zeka şirketlerinin güvenlik söylemleri ile kullanıcı sözleşmelerinin uyuşup uyuşmadığına dair daha geniş bir tartışmayı yansıtıyor. Sosyal medyadaki bir cevap bu sözleşmeyi yeniden yazamaz; yazılı bir değişiklik olmadan, herhangi bir geri ödeme Musk'ın iyi niyetine bağlı. ABD bankacılık kuralları bu duruma keskin bir kenar ekliyor. Elektronik transferleri düzenleyen federal kural olan Regulation E, müşterileri yetkisiz ödemelere karşı korur; ancak bir transfer, müşteri hesap erişimini gönüllü olarak verdikten sonra bu korumayı kaybeder. Botunuza giriş bilgilerinizi vermek, işlemi standart dolandırıcılık korumalarının dışına çıkarabilir. Tarih, şüphecilere daha fazla cephane veriyor. Mayıs ayında, kötü niyetli bir NFT, bir yapay zekayı fon taşımaya yönlendiren gizli talimatlar içeriyordu; bu, ajanın sıradan bir varlığa gömülü içeriği okuma ve ona göre hareket etme yeteneğini kullanan bir saldırı olan prompt injection (istek enjeksiyonu) olarak biliniyor. Bu olay, Grok'a bağlı Bankr cüzdanından yaklaşık 150.000 dolar çıkardı ve bunun yüzde 80'i daha sonra iade edildi. Bankr daha sonra cüzdanın Grok'un X hesabına bağlı olduğunu ve platformun anahtarları saklamadığını açıkladı. Haftalar sonra yaşanan bir başka ihlalde aynı platformda 14 kullanıcı cüzdanı tehlikeye girdi ve Bankr tam geri ödeme sözü verdi. Bankr'ın geri ödeme taahhüdü bu kullanıcıları kapsıyordu, ancak olay yapay zeka tarafından yönetilen cüzdanların saklama risklerini gözler önüne serdi. Grok Bot'un gerçek bir banka hesabını kötüye kullandığına dair doğrulanmış bir örnek hâlâ yok; ancak aynı teknik, hedef canlı bankacılık kimlik bilgileriyse bir yapay zeka kripto cüzdanından çok daha yıkıcı olabilir.

Bu bölümün ortak noktası, xAI'nin pazarlaması ile sözleşme dili arasındaki mesafe. Musk'ın tweet'i kamusal bir taahhüt, ancak incelediğimiz tüketici koşulları hâlâ çoğu talebi 100 dolar veya ödenen ücretlerle sınırlandırıyor ve Regulation E, kullanıcı hesap erişimi verdikten sonra yapılan transferleri otomatik olarak kapsamıyor. Bu boşluk önemli çünkü yapay zeka ticaret botu günlük para yönetiminin içine konumlandırılıyor; burada tek bir prompt injection hatası canlı banka kimlik bilgilerini hedefleyebilir, bir yapay zeka kripto cüzdanını değil. xAI sözleşmelerini yeniden yazana kadar garanti Musk'ın iyi niyetine dayanıyor; ilk gerçek hata, yanıtın ihtiyatlı bir geri ödeme mi yoksa 100 dolarlık sınıra yönelik yüksek profilli bir meydan okuma mı olacağını gösterecek.