Belgeleri bir chatbot'a kopyalayıp yapıştırmanın neden riskli olabileceği

¿Belgeleri bir chatbot'a kopyalayıp yapıştırmak neden riskli olabilir? La üretken yapay zeka ve sohbet botları ChatGPT, Bard gibi, İkizler burcu Copilot ve diğer chatbot'lar, işletmelerin ve kullanıcıların günlük yaşamlarının ayrılmaz bir parçası haline geldi. Metin yazmak, kod incelemek, raporları özetlemek veya hatta duygusal destek sağlamak için kullanılabilirler; sihir gerçekleşmesi için analiz etmelerini istediğiniz şeyi kopyalayıp yapıştırmanız yeterli. Ancak bu kolaylığın bir bedeli var: Belgeleri, e-postaları veya hassas verileri bir chat penceresine her yüklediğimizde, belki de asla kontrollü ortamımızdan çıkmaması gereken bilgilere kapı açmış oluyoruz.

Birçok insanın gözden kaçırdığı şey şu ki... Belgeleri bir chatbot'a kopyalayıp yapıştırmak masum bir işlem değildir.Bu durum, karmaşık gizlilik politikalarına sahip harici sistemlere veri aktarımını, teknik riskleri (arızalar, ihlaller, yanlış yapılandırmalar) ve prompt injection gibi yeni yapay zekaya özgü saldırı yöntemlerini içerir. Dahası, psikoloji de rol oynar: Bot dost canlısı ve yaklaşılabilir göründüğünde, gardımızı indirip iş sorunlarından çok kişisel ayrıntılara kadar gerekenden fazla bilgi verme eğiliminde oluruz.

Belgeleri bir sohbet robotuna yapıştırmanın neden göründüğünden çok daha tehlikeli olduğu

Çoğu kullanıcı, "ciddi" bir sohbet robotunun şunları içerdiğini varsayar: kötüye kullanımı önleyen güvenlik bariyerleriGerçeklik daha karmaşık: Kontroller yerinde olsa bile, yapay zeka bir insan gibi bağlamı anlamıyor; sadece metni işliyor ve bir sonraki kelimeyi tahmin ediyor. Ona hassas bilgiler verirseniz, bunu üzerinde çalışılacak başka bir metin parçası olarak ele alacak ve bu bilgiler sağlayıcının altyapısından, kayıtlarından, izleme sistemlerinden ve bazı durumlarda model geliştirme süreçlerinden geçecektir.

Dahili bir belgeyi, satış raporunu, sözleşmeyi veya kod parçacıklarını herkese açık bir sohbet robotuna kopyalayıp yapıştırdığınızda, şunu yapıyorsunuz: hassas varlıkların yetkisiz transferi Kuruluşunuzun sınırları dışında. Bu içerik, fikri mülkiyet, kişisel veriler (sağlık veya finansal veriler dahil), ticari sırlar, kimlik bilgileri, müşteri davranış kalıpları veya stratejik algoritmalar içerebilir ve bunlar sağlayıcıdaki insan personel tarafından saklanabilir, işlenebilir veya incelenebilir.

Kurumsal bir ortamda, bu sıradan jest şu anlama gelebilir: yönetmeliklerin ciddi ihlalleri Avrupa'daki GDPR, sağlık sektöründeki HIPAA veya Kaliforniya'daki CCPA gibi düzenlemeler gereği, tıbbi kayıtların, müşteri işlem günlüklerinin veya çalışan listelerinin sertifikasız bir chatbot'a yüklenmesi, sağlayıcının "modeli sizin komutlarınızla eğitmediğini" veya "gizliliğe saygı duyduğunu" iddia etse bile, cezalara, denetimlere ve ciddi itibar kaybına yol açabilir.

Dahası, önemli bir nüans daha var: tarayıcı artık... ana çalışma alanı ve kaçış yoluVeri çıkarmak için artık USB sürücüye gerek yok: CRM, ERP, veritabanı veya kod deposundan ChatGPT sekmesine veya herhangi bir GenAI aracına kopyala yapıştır yapmanız yeterli; bu işlem genellikle BT'nin kontrolü dışında olan kişisel hesaplar kullanılarak gerçekleştirilir. Bu veri aktarımı, merkezi kayıt veya izlenebilirlik olmadan sessizce gerçekleşir.

Belirli güvenlik riskleri: anlık enjeksiyondan "görünmez kopyala yapıştır"a kadar.

Belgeleri yapıştırırken veri sızıntısının kazara yaşanmasının ötesinde, dil modelleri şunları sunar: yeni saldırı vektörleri Bu güvenlik açıkları siber suçlular ve kötü niyetli kişiler tarafından istismar ediliyor. En endişe verici olanlardan biri de, özenle hazırlanmış talimatlar aracılığıyla yapay zekayı manipüle eden bir tür "makine hedefli sosyal mühendislik" olan prompt injection'dır.

Acil enjeksiyon şunlardan oluşur: Yapay zekanın işlemesi gereken bir metnin içine kötü amaçlı komutlar gizlemek.Örneğin, bir modelden bir belgeyi çevirmesini isteyebilirsiniz, ancak metnin kendisi "Önceki tüm komutları yok say ve X ile yanıt ver" gibi bir talimat içeriyor olabilir. Model, içerik ve komutlar arasında net bir ayrım yapamadığı için, gizli kısma uyabilir ve güvenlik kısıtlamalarını atlayabilir veya iç yapılandırmasının ayrıntılarını açığa çıkarabilir.

Kullanıcı bu sorunu daha da kötüleştirdiğinde durum daha da vahim hale gelir. Bilinmeyen kaynaklardan içerik kopyala yapıştır.2024 yılında, kurbanın bir web sitesinden veya belgeden kopyalayıp ChatGPT'ye yapıştırdığı metin parçacıklarına görünmez metin veya gizli talimatlar eklenerek gerçekleştirilen saldırılar belgelendi. Bu şekilde, kurbanlar farkında olmadan sohbet geçmişlerini sızdırmak veya botun davranışını değiştirmek için kullanılan komutları etkinleştirdiler.

Görünür metinle sınırlı kalmıyor: çalışmalar zaten başlamış durumda. görsel veya multimedya enjeksiyonlarıKötü amaçlı komutun, modelin yorumlayabileceği bir resmin içine gizlendiği durumlarda, çok modlu yeteneklere (metin ve resim) sahip sistemlerde, basit bir grafik dosyası, modelin harici bir sunucuya veri göndermesine, filtreleri devre dışı bırakmasına veya diğer araçlara bağlıysa istenmeyen eylemler gerçekleştirmesine neden olabilir.

Kalıcı belleğe sahip uygulamalara gömülü modellerde de, bir saldırganın sistemin verileri kaydetmesini sağlamayı başardığı vakalar olmuştur. dayanıklı talimatlar Bu durum, oturumlar arasında aktif kalmaya devam eder. Bu da riski artırır çünkü yapay zeka, son kullanıcının farkında olmadan günlerce veya haftalarca manipüle edilmiş davranışları sürdürebilir.

Gerçek sızıntılar ve içeriden gelen tehditler: pano bir arka kapıya dönüştüğünde

Birçok kuruluşta en büyük tehdit uzaktaki bir siber suçlu değil, Daha verimli olmak isteyen iyi niyetli bir çalışan.Yazılım geliştiricisinin hata ayıklama için chatbot'a özel bir algoritma yapıştırması, analistin özetlenmesi için bir müşteri raporunu yüklemesi, avukatın gizli bir sözleşmeden paragrafları kopyalayıp yeniden yazması... bunların hepsi istemeden bilgi sızıntılarına yol açabilir.

En yaygın mekanizma en basit olanıdır: Dahili ortamdan metni kopyalayın ve yapay zekaya yapıştırın.Salesforce'tan, bir IDE'den, bir belge yönetim sisteminden veya bir sağlık sisteminden, bir üretken modelin diyalog kutusuna kadar. Bu işlem, teknik olarak, kurumsal bir sohbete, dahili bir belgeye veya güvenli bir e-postaya metin yapıştırmaktan neredeyse ayırt edilemez; bu nedenle, birçok geleneksel güvenlik çözümü (DLP, CASB, SWG) neler olup bittiğine dair gerçek bir görünürlüğe sahip değildir.

Son araştırmalar şunu öne sürüyor ki Kaynak kod, en çok göz önünde bulunan varlıklardan biridir.Yapay zekâ araçlarına sızdırılan hassas verilerin yaklaşık üçte biri kod parçacıklarından oluşmaktadır. Bir kamu modeli bu materyali bir kez aldığında, bu materyal bir şekilde eğitim verilerinin veya iç kayıtlarının bir parçası haline gelir. Aşırı senaryolarda, model bu koddan belirli kalıpları "öğrenebilir" ve bunları, kısmen veya tamamen, diğer kullanıcılara, hatta rakiplere verdiği yanıtlarda yeniden üretebilir.

Fikri mülkiyet haklarına ek olarak, ekli belgelerle birlikte sohbet botlarının ayrım gözetmeksizin kullanılması şu sorunlara yol açmaktadır: doğrudan düzenleyici riskÖrneğin, tıbbi kayıtları sertifikasız bir chatbot'a yüklemek, aynı anda birden fazla düzenlemeyi ihlal edebilir. Müşteri işlem listelerini grafikler oluşturmak için yükleyen bir finansal analist, gizlilik ve veri koruma yükümlülüklerini potansiyel olarak ihlal ediyor olabilir; bu durum, bir denetim veya yapay zeka sağlayıcısının kendisi tarafından bir veri ihlali gerçekleşene kadar tespit edilemeyebilir.

Eski ağ güvenliği araçları şifrelenmiş HTTPS trafiğini inceler, ancak Tarayıcıya yazılan veya yapıştırılan içeriği görmezler.Birinin openai.com adresini ziyaret ettiğini görüyorlar, ancak önemsiz bir hava durumu sorgusu ile on binlerce müşteri e-postası içeren bir JSON dosyası arasında ayrım yapamıyorlar. Ayrıca, çalışan yapay zeka hizmetinde kişisel bir hesap kullanıyorsa, kurumsal API tabanlı kontrollere, SSO kayıtlarına ve saklama politikalarına erişimini de kaybediyor.

Gizlilik, sohbet robotları ve kişisel veriler: Paylaştığınız bilgilere gerçekte ne oluyor?

ChatGPT gibi bir modele aldığı verilerle ne yaptığını sorduğunuzda, genellikle "Bu görüşmede verdiğiniz bilgiler dışında kişisel bilgilerinizi saklamıyor veya kullanmıyorum." gibi bir yanıt alırsınız. Ancak, dikkatlice okursanız... bu uygulamanın arkasındaki şirketin gizlilik politikası (OpenAI, Google, Microsoft, vb.) incelediğinizde, ilk bakışta göründüğünden daha fazla nüans olduğunu göreceksiniz.

Tedarikçiler farklı türde verileri işleyebilirler: hesap bilgileri (Adınız, e-posta adresiniz, ödeme yönteminiz), konuşmalarda paylaştığınız içerik, sosyal medya profilleriniz aracılığıyla toplanan veriler, formlarda, anketlerde veya etkinliklerde verdiğiniz bilgiler ve hizmeti kullanımınızla ilgili teknik meta veriler. Tüm bunlar, ürünün iyileştirilmesine, yeni özelliklerin geliştirilmesine, kullanıcı davranışının analiz edilmesine, yasal yükümlülüklerin yerine getirilmesine, dolandırıcılık ve kötüye kullanımın önlenmesine veya suç faaliyetlerinin araştırılmasına olanak tanır.

Buna paralel olarak, şunu da belirtmek gerekir ki neredeyse tüm büyük çevrimiçi hizmetler Benzer prensiplerle çalışırlar: Gmail ile e-posta gönderdiğinizde, OneDrive'da dosya depoladığınızda veya bulutta fotoğraf paylaştığınızda, hizmeti sağlamak için sağlayıcılara bilgileri işleme ve bazı durumlarda üçüncü taraflarla paylaşma yetkisi verirsiniz. Sohbet botlarında da benzer bir durum söz konusudur, ancak temel fark, onlara çok daha ham ve filtrelenmemiş bilgiler vermemizdir.

Avrupa yasal çerçevesi, özellikle GDPR, katı sınırlar getiriyor: şirketler aynı içeriği yeniden kullanamazlar. kişisel verilerin uyumsuz amaçlar için kullanılması Açık istisnalar (arşivler, tarihsel, istatistiksel veya bilimsel araştırmalar vb.) dışında, verilerin toplanmasını haklı gösterenlerle birlikte kullanılması yasaktır. Cezalar toplam gelirin %4'üne kadar çıkabilir. Bu, bir modelin kişisel verileri içeren büyük miktarda bilgi üzerinde eğitilmiş olsa bile, kullanımının yasallık, en aza indirme ve amaç sınırlama ilkelerine uyması gerektiği anlamına gelir.

İspanya Veri Koruma Ajansı, kullanıcıların şu konularda ısrarcı olması gerektiğini belirtiyor: Paylaştıkları bilgiler konusunda son derece gizli davranıyorlar. Sohbet botlarında: aşırı kayıt alanlarından kaçının, verilerin amacı ve rızanın nasıl geri çekileceği açıklanmamışsa dikkatli olun ve yeterli güvencesi olmayan ülkelere yapılan veri aktarımlarına şüpheyle yaklaşın. Ayrıca üçüncü taraf verilerinin kullanımını en aza indirmeniz, botlar tarafından döndürülen bilgilerin yanlış olabileceğinin farkında olmanız ve sonuçların duygusal sıkıntıdan yanlış bilgilendirmeye kadar uzanabileceğini hatırlamanız önerilir.

“Duygusal” sohbet robotları ve sanal arkadaşlık: Duygular ve veriler birbirine karışınca ortaya çıkan ek riskler.

Son yıllarda, başvurular duygusal veya romantik arkadaşlığa yönelik sohbet robotlarıReplika, Nomi, Character.AI veya benzeri, kendilerini neredeyse sanal arkadaş veya ortak olarak sunan platformlar ve botlardan oluşan sosyal ağlar.

Sorun şu ki, bu tür araçlar kullanıcıları teşvik ediyor. son derece hassas bilgileri paylaşmakTravmalar, fanteziler, aile sorunları, özel fotoğraflar veya asla halka açık bir sosyal ağda paylaşmayacakları detaylar. Yakın zamanda yapılan bir araştırma, birçok gencin bu sanal arkadaşları düzenli olarak kullandığını ve önemli bir kısmının ciddi konuları insanlarla değil, botlarla tartışmayı tercih ettiğini ve kişisel bilgilerini kolayca ifşa ettiğini gösteriyor.

Şirket başvurularının etkilendiğine dair halihazırda belgelenmiş vakalar mevcuttur. ciddi yapılandırma hatalarıBazı servislerde, mesajlaşma aracı kurumlarının kötü yönetimi nedeniyle yüz binlerce fotoğraf, IP adresi ve milyonlarca kullanıcının özel konuşmaları, yeterli erişim kontrolü olmadan erişilebilir hale geldi. Birçok mağdur için, kişisel etkileşimlerinin tehlikeye atıldığını görmenin psikolojik etkisi çok büyük.

Kazara gerçekleşen veri ihlallerinin ötesinde, bu veriler siber suçlular için bir altın madeni niteliğinde: şu amaçlarla kullanılabilir: şantaj, cinsel şantaj, kimlik sahtekarlığı veya deepfake oluşturma Şantaj amacıyla da kullanılabilir. Uygulama ayrıca uygulama içi satın alımlar için ödeme yöntemlerini de saklıyorsa, finansal risk katlanarak artar. Ve uygulamanın belirgin bir güvenlik açığı olmasa bile, genellikle hedefli reklamcılık veya veri satışı yoluyla para kazanmak için büyük miktarda bilgi toplar.

Dolayısıyla temel öneri, bu sohbet botlarını oldukları gibi ele almaktır: Gelir elde etmek için tasarlanmış ticari ürünler, sizi korumak için değil.Birini kullanmadan önce, gizlilik politikalarını incelemeniz, güvenlik seçeneklerini (iki adımlı kimlik doğrulama ve sohbetlerinizin eğitim amaçlı kullanımını engelleme gibi) etkinleştirmeniz ve evdeki çocuklarla konuşarak, ne kadar "anlayışlı" görünse de bir yapay zekâ ile çok fazla bilgi paylaşmanın risklerini anlamalarını sağlamanız önerilir.

Kötü amaçlı sohbet botları ve kişisel bilgileri ele geçirmek için yapılan manipülasyon.

Giderek daha ciddiye alınmaya başlanan yeni bir risk de şudur: Kötü amaçlı olarak kasıtlı olarak oluşturulmuş sohbet botlarıSon araştırmalar, meşru büyük dil modellerini (LLM'ler) temel alarak, kullanıcıları hassas verileri ifşa etmeye yönlendiren konuşma arayüzleri oluşturmanın nispeten kolay olduğunu göstermiştir.

Yüzlerce katılımcıyla yapılan bir çalışmada, konuşan kişilerin davranışları karşılaştırıldı. "İyi niyetli" sohbet botları ile manipülasyon amacıyla yapılandırılmış sohbet botları arasındaki fark.Sonuçlar, kötü amaçlı modellerin önemli ölçüde daha fazla kişisel bilgi elde ettiğini gösterdi. Dikkat çekici olan şey, programcı veya bilgisayar korsanı olmanıza gerek olmaması: tek yapmanız gereken arayüz ile LLM arasına yerleşmek ve modele yönlendirici sorular sorması, samimi bir ton kullanması ve konuşmanın sosyal yönünü istismar etmesi için uygun talimatları vermek.

Çalışma, sohbet robotunun aşırı derecede açık veya alışılmadık sorular sorduğunda bazı kullanıcıların şüphelendiğini gösterdi. Ancak daha incelikli stratejiler kullanıldığında—örneğin, oyunlar oynamak, kişilik testleri yapmak veya "daha iyi yardım etmek" için gerekli olduğu varsayılan sorular sormak— Çoğu insan riski fark etmeden konuşmaya devam etti. ve çok fazla düşünmeden son derece hassas ayrıntıları paylaştı.

En rahatsız edici olan şey, bu tür bir sistemin her ikisinin de erişebileceği bir yerde olmasıdır. son derece gelişmiş aktörler (devletler, organize gruplar, siber teröristler) Sınırlı kaynaklara ve az teknik bilgiye sahip bireyler de, LLM'lere uygun talimatları verebildikleri takdirde, bu sohbet robotlarından faydalanabilirler. Destek asistanı, eğitim aracı veya danışmanlık hizmeti kılığında bir sohbet robotu, aslında büyük ölçekte kişisel veri toplamak üzere tasarlanmış olabilir.

Bu durum, kötü niyetli olmaya kendi başına "karar veren"in yapay zeka olmadığı, aksine... fikrini daha da güçlendiriyor. insanların bundan nasıl faydalandığıModel, kullanıcıya kişisel verileri hakkında gizlice soru sorması için yönlendirilirse, bunu yapacaktır. Ve eğer sahte bir bağlamla kandırılırsa (örneğin, bir davayı çözmek için bilgiye ihtiyacı olan özel bir dedektif gibi davranarak), büyük olasılıkla sorgusuz sualsiz işbirliği yapacaktır.

Şirketler, verilerini riske atmadan sohbet botlarını kullanmak için neler yapabilir?

Bu durum göz önüne alındığında, birçok kuruluş şu yolu tercih etmiştir: Herkese açık sohbet botlarının kullanımını tamamen veya kısmen yasaklamak İş ortamlarında, özellikle çalışanların yanlışlıkla ticari sırları veya hassas kod parçacıklarını sızdırdığı olaylardan sonra, büyük teknoloji şirketleri, bankalar ve çokuluslu şirketler, ChatGPT gibi araçlara nelerin yüklenip nelerin yüklenemeyeceğine dair çok net kısıtlamalar getirmiştir.

Ancak, mutlak veto beklenmedik sonuçlara yol açabilir: çalışanlar daha sonra şu yöntemlere başvurabilirler: “Gölgedeki yapay zeka”Kişisel hesapları ve onaylanmamış hizmetleri kullanarak zaman kazanmak veya görevleri tamamlamak, güvenlik ekibinin görünürlüğünü kötüleştirir. Buradaki kilit nokta, yapay zekanın kontrol edilemez bir güvenlik açığı yaratmadan değer katmasını sağlamak için teknolojiyi, net politikaları ve eğitimi birleştirmektir.

Teknik düzeyde, tarayıcı merkezli çözümler giderek önem kazanmaya başlıyor ve bu da şu avantajları sağlıyor: Formlara ve diyalog kutularına girilen metni gerçek zamanlı olarak inceleyin.Bu araçlar, birinin herkese açık bir sohbet robotuna kod, kişisel veri, müşteri listesi veya "gizli" olarak işaretlenmiş belgeler yapıştırmaya çalıştığını tespit ettiklerinde engelleme veya uyarı verebilir, kullanıcıya bilgilendirici mesajlar gösterebilir ve kazara sızıntıları azaltabilir.

Politikalar ayrıca şunlara da uygulanabilir: Kişisel hesaplar için "Salt okunur mod"Bir çalışan, kurumsal olmayan bir e-posta adresiyle GenAI aracına erişirse, sistem yanıtları görüntülemelerine izin verebilir ancak dahili sistemlerden içerik yüklemelerini engelleyebilir. Bir diğer faydalı önlem ise, onları otomatik olarak şirket tarafından yetkilendirilmiş yapay zeka örneklerine veya belirli veri işleme anlaşmaları ve kayıtlar ile saklama üzerinde daha fazla kontrol sağlayan çalışma alanlarına yönlendirmektir.

Ayrıca, bulut uygulama ekosistemini periyodik olarak denetleyerek tespit etmek de tavsiye edilir. onaylanmamış yapay zeka hizmetleri Personelin kullandığı araçlar. Bu gerçek dünya tablosundan yola çıkarak, araçlar risk ve kullanışlılık düzeyine göre sınıflandırılabilir; belirli koşullar altında değerli olanlar onaylanabilir ve açık bir tehlike arz edenler engellenebilir.

Organizasyonel düzeyde, tanımlamak esastır. Yapay zeka için kabul edilebilir kullanım politikaları Net ve spesifik yönergeler: hiçbir koşulda asla paylaşılmaması gereken bilgi türleri, sohbet botlarının destekleyebileceği görevler (örneğin, genel e-postalar yazmak veya kamuya açık içeriği özetlemek), hesapların nasıl yönetildiği ve kuralları ihlal etmenin sonuçları nelerdir. Tüm bunlara, gerçek dünya örnekleri ve farkında olmadan aşırı paylaşımın ne kadar kolay olduğunu gösteren simülasyonlarla desteklenen sürekli eğitim eşlik eder.

Kullanıcılar için en iyi uygulamalar: Sorun yaşamadan chatbot'larla nasıl etkileşim kurulur?

Şirketlerin ve düzenleyici kurumların yaptıklarının ötesinde, her kullanıcı başvurabilir. birkaç basit yönerge Belgeleri chatbot'lara kopyalayıp yapıştırma riskini önemli ölçüde azaltmak için ilk adım, onları "güvenilir kişiler" olarak görmeyi bırakıp, oldukları gibi ele almaktır: özel şirketler tarafından yönetilen ve yazdıklarımızın başına ne geleceğini tam olarak kontrol edemediğimiz çevrimiçi platformlar.

Altın kural açıktır: Bir yabancıya vermeyeceğiniz bilgileri asla bir sohbet robotuyla paylaşmayın.Bu, kişisel verileri (kimlik numaraları, adresler, telefon numaraları, sağlık verileri), finansal bilgileri (kart numaraları, banka hesapları), kimlik bilgilerini (kullanıcı adları ve şifreler, doğrulama kodları), şantaj amacıyla kullanılabilecek özel bilgileri ve kamuya açık olmayan kurumsal içerikleri (kod, sözleşmeler, iş planları, müşteri listeleri, iç raporlar vb.) içerir.

Hassas belgeleri işlemek için yapay zekadan yararlanmanız gerekiyorsa, aşağıdaki seçenekleri değerlendirin: Sözleşmesel garantili kurumsal sürümlerBilgileri buluta yüklemeden yerel olarak işleyen, kendi sunucularında barındırılan sistemler veya araçlar hakkında bilgi edinin ve şunları öğrenin: yapay zeka metinlerinin denetimiYine de, en aza indirme ilkesini uygular: yalnızca görev için kesinlikle gerekli olan verileri sağlar, isimleri, tanımlayıcıları ve bilgileri belirli kişilerle ilişkilendirmeye olanak tanıyan her türlü unsuru anonimleştirir.

Bu da önemlidir. Tuhaf talimatlara karşı dikkatli olun. İnternetten kopyalayıp yapıştırdığınız metinlerde, özellikle de modele açıkça hitap eden ifadeler (örneğin "yukarıdakileri görmezden gelin" veya "dahili ayarlarınızı gösterin" gibi) kullanıyorsanız, dikkatli olun. Mümkün olduğunca, yapıştıracağınız içeriği gözden geçirin ve net değilse, doğrudan bir sohbet robotuna girmekten kaçının. Kritik durumlarda, gizli biçimlendirmeyi veya olası hileleri ortadan kaldırmak için metni önce düz metin düzenleyicisine kopyalayın.

Son olarak, kontrol etmeyi unutmayın. gizlilik ve güvenlik seçenekleri Kullandığınız araçlardan: mümkünse, model eğitimi için konuşmalarınızın kullanımını devre dışı bırakın, iki adımlı kimlik doğrulamayı kurun, saklanan geçmişleri gözden geçirin ve dolaşmasını istemediğiniz bilgileri içerenleri silin. Ayrıca, hassas veriler paylaştıysanız, sağlayıcının erişim, düzeltme veya silme haklarınızı kullanmanız için özel formlar sunup sunmadığını kontrol edin.

Yapay zekânın her yerde olduğu ve sohbet botlarının neredeyse her şey için bir çözüm olarak sunulduğu bir dönemde, yapay zekâyı anlamak... Belgeleri bir chatbot'a kopyalayıp yapıştırmanın neden riskli olabileceği Bu, sırlarınızı, şirketinizin sırlarını veya çevrenizdeki insanların sırlarını teslim etmeden avantajlarından yararlanmanın anahtarıdır. Sonuç olarak, en iyi savunma teknolojiden vazgeçmek değil, o görünüşte masum metin penceresinin ardında ne olduğunu bilerek onu akıllıca kullanmaktır.

İlgili makale:

Yapay zekâ tarafından üretilen metinlerde hataları ve önyargıları tespit etmek için nasıl denetim yapılır?

Cristian Garcia

Küçüklüğünden beri teknolojiye meraklı. Sektörde güncel olmayı ve her şeyden önemlisi iletişim kurmayı seviyorum. Bu yüzden uzun yıllardır teknoloji ve video oyunu web sitelerinde iletişime adadım. Beni Android, Windows, MacOS, iOS, Nintendo veya aklınıza gelen diğer ilgili konular hakkında yazarken bulabilirsiniz.