Microsoft 365 Copilot'taki bir güvenlik açığı gizli e-postaları açığa çıkarıyor.

Son zamanlarda tespit edilen bir Microsoft 365 Copilot'ta gizli e-postaların özetlenmesine olanak tanıyan bir hata. alarm zillerini çaldırdı Avrupa'daki birçok kuruluş, çalışma ortamlarında yapay zekaya zaten büyük yatırımlar yapmıştı. Güvenli ve kontrollü bir asistan olması amaçlanan sistem sorunlarla karşılaştı. bir hata kiPratikte, Koruyucu bariyerlerin her zaman beklendiği gibi davranmadığı ortaya çıktı..

GDPR gibi çerçeveler ve sıkı iç gizlilik politikaları kapsamında hassas verileri işleyen İspanyol ve diğer AB şirketleri için, Olay, tek bir teknik sorunun ötesine geçiyor.Bu, yapay zekayı kurumsal e-postalara, iç dokümantasyona ve verimlilik sistemlerine entegre etmenin ne gibi zorluklar içerdiğini hatırlatıyor. İzinlerin, hassasiyet etiketlerinin ve veri sızıntısı önleme yöntemlerinin nasıl yönetildiğini yeniden düşünün..

Microsoft 365 Copilot'u etkileyen güvenlik açığı

Microsoft, Microsoft 365 Copilot'ta kritik bir hata olduğunu resmen kabul etti. Bu durum, yapay zeka asistanının aktif hassasiyet etiketlerine sahip e-postalara erişmesine ve bunları özetlemesine olanak sağlamıştır. Sorun, iç teknik uyarı belgelerinde şu tanımlayıcı ile belgelenmiştir: CW1226324 Bu durum, Copilot'ın Microsoft 365 çalışma ortamındaki, özellikle de Outlook'taki davranışını etkiliyor.

Başarısızlık, yaşanan deneyim sonucunda meydana geldi. Çalışma sekmesindeki Copilot SohbetiEn sık kullanılan işlevlerden biri, son etkinliklerin özetlerini istemek, e-postaları kontrol etmek veya haftanın önemli noktalarını çıkarmaktır. Bu bağlamda, sistem hatta depolanan mesajları bile işledi. Gelen Kutusu, Gönderilen Öğeler ve TaslaklarBu e-postalara hassasiyet etiketi uygulanmış olsa veya koruma altına alınmış olsa bile veri kaybı önleme (DLP) politikaları.

Destek panellerinde yayınlanan ve BleepingComputer veya BBC gibi uzmanlaşmış medya kuruluşlarına sızdırılan bildirimlere göre, gözlemlenen davranış şu şekildedir: Copilot, tasarım gereği hariç tutulması gereken içeriği "aranabilir" içerik olarak değerlendirdi.Başka bir deyişle, e-postalar orijinal izinlerine tabi kalmaya devam etti, ancak asistan, kullanıcının etkinliklerine hızlı bir bakış istediğinde özetler oluşturmak için bunları ham madde olarak kullandı.

Avrupa'daki çok sayıda şirket için, kamu hizmetleri de dahil olmak üzere, İngiliz Ulusal Sağlık Sistemi Sağlık, finans ve teknoloji sektörlerindeki kuruluşlar için bu durum endişe yaratmıştır. Microsoft yetkisiz kişilere erişim izni verilmediği konusunda ısrar etse de, gerçek şu ki Yapay zekâ tarafından oluşturulan bir özet, hassas bilgileri yeniden bağlamlandırabilir. ve bunu kullanıcının beklemediği veya bilinçli olarak onaylamadığı bir şekilde görüntülemek.

Bu arada, olay, aşağıdakiler gibi kurumların da bulunduğu bir dönemde meydana geliyor. Avrupa Parlamentosu, yapay zeka fonksiyonlarının kullanımını sınırlama kararı aldı. Güvenlik endişeleri nedeniyle resmi cihazlarda kullanımı kısıtlanıyor. AB'deki bu düzenleyici ihtiyat ortamı, Microsoft gibi küresel bir sağlayıcının yapacağı herhangi bir hatanın önemli siyasi ve ticari sonuçlar doğuracağı anlamına geliyor.

Hata nasıl işliyor ve Copilot'un hangi bölümleri etkilendi?

Sorunun özü, şu şekilde yatmaktadır: Microsoft 365 Copilot, gizlilik etiketlerini ve DLP politikalarını yorumlar. İş sohbetinizde çalışırken. Teorik olarak, Microsoft Purview veya diğer uyumluluk araçları aracılığıyla gizli veya kısıtlı olarak işaretlenen mesajlar, özetleme veya otomatik analiz görevleri için yapay zekanın kapsamı dışında olmalıdır.

Ancak, bir İzinleri ve politikaları doğrulamaktan sorumlu kod mantığında hata. Bu, Copilot'ın, hassasiyet etiketleri uygulanmış olsa bile Taslaklar ve Gönderilen Öğeler klasörlerindeki mesajları almasına olanak tanıyacaktı. Şirketin kendi ifadesine göre, "hassasiyet etiketi uygulanmış e-postalar Microsoft 365 Copilot sohbetinde yanlış işleniyor."

Pratikte bu, asistandan "bu hafta aldığım önemli e-postaların özetini ver" gibi masum bir şey istediğinizde bile, Copilot, gizli kalması amaçlanan mesajların parçalarını veya özetlerini içerebilir.Bunlar sadece sıradan e-postalar değil, aynı zamanda özel, gizli veya sıkı DLP kurallarına tabi olarak işaretlenmiş yazışmalar da idi.

Microsoft, arka plandaki erişim kontrollerinin yerinde kaldığını ve hiç kimsenin önceden görme yetkisi olmayan bilgilere erişemeyeceğini ısrarla belirtti. Ancak güvenlik uzmanları için burada önemli bir ayrıntı var: Bir e-postayı manuel olarak açabilmek, içeriğinin yeniden düzenlenmiş halini görebilmekle aynı şey değildir. Farklı bir bağlamda, örneğin farklı yazışmalardaki verileri çapraz referanslayan bir botla yapılan bir konuşmada.

Veri yönetimi açısından, özellikle Avrupa'da, bu olay şunu göstermektedir: Sınıflandırma ve DLP politikaları, konsolda doğru şekilde yapılandırılmış olmaları nedeniyle "çözülmüş" olarak kabul edilemez.Bu özelliklerin, pakete entegre edilmiş yapay zeka asistanları da dahil olmak üzere tüm iş akışlarında nasıl uygulandığının periyodik olarak kontrol edilmesi gerekmektedir.

Microsoft'un yanıtı: kademeli yamalama ve ayrıntı eksikliği.

Şirket, hatayı dahili olarak tespit etti. 21 Ocak Şubat ayı başlarında yapılandırma ayarlamaları ve kod düzeltmeleri uygulanmaya başlandı. Düzeltmeler kademeli olarak yapılıyor. küresel ölçekte kurumsal müşteriler için aşamalı olarak sunulmaktadır.Bu, tüm kuruluşların çözümü aynı anda almadığı anlamına gelir.

Bu tür aşamalı dağıtım, Microsoft 365 gibi devasa altyapılarda yaygındır, ancak bu şu anlama gelir: Bazı şirketler günlerce veya haftalarca risk altında kalabilir.En azından yama ortamınızda tamamen uygulanana kadar. Microsoft, ilerlemeyi izlediğini ve Copilot'un davranışının amaçlanan tasarıma geri döndüğünü doğrulamak için müşterilerin bir alt kümesiyle iletişime geçtiğini söylüyor.

Buna rağmen, kamuoyuna yönelik bilgiler sınırlı kalmaya devam ediyor: Kaç kuruluşun, kullanıcının veya bölgenin etkilendiği belirtilmedi.Gizlilik etiketlerine uyulmadan işlenen mesajların yüzdesi de verilmemiştir. Anormal davranışın tam olarak hangi zaman diliminde meydana geldiğine dair kesin rakamlar da sunulmamıştır.

Avrupa'da güvenlik olaylarının bildirilmesine tabi şirketler için, GDPR veya NIS2 direktifiBu ayrıntı eksikliği, etki değerlendirmesini zorlaştırıyor. Birçok veri koruma görevlisi, bu olayı rapor edilebilir bir ihlal mi yoksa kontrol altında tutulan bir iç olay mı olarak değerlendireceğine karar vermek zorunda ve bunu yapabilmek için şimdiye kadar kamuoyuna açıklanandan daha fazla teknik bilgiye ihtiyaç duyuyorlar.

Bu arada Microsoft, Microsoft 365 yöneticilerine şu önerilerde bulunuyor: Copilot'un gizli olarak etiketlenmiş e-postaları özetlemeye devam edip etmediğini izleyin. Kiracıları, CW1226324 numaralı güvenlik uyarısındaki güncellemeleri takip etmek ve kurumsal müşterilere yönelik en son güvenlik iletişimlerini incelemek için Yönetim Merkezine danışmalıdır.

Copilot'ı kullanan İspanyol ve Avrupalı ​​şirketler için çıkarımlar

Kişisel ve kurumsal verilerin korunmasının sıkı bir şekilde düzenlendiği Avrupa iş ortamında, Bu tür bir arızanın teknik boyutun ötesine geçen sonuçları vardır.Sadece gizlilik düzenlemeleri değil, bulut sağlayıcılarına duyulan güven ve üretken yapay zekanın güvenlik vaatleri de tehlikede.

Özellikle hassas sektörlerde—örneğin— sağlık hizmetleri, bankacılık, sigorta, kamu yönetimi veya hukuk firmaları— E-postalar iş stratejileri, hasta veya müşteri verileri, sözleşme bilgileri ve mevzuat uyumluluğu ayrıntıları içerir. Bir yapay zekâ asistanının bu içeriği, kullanıcı için bile özetler halinde yeniden düzenleyebilmesi, veri minimizasyonu ilkesine ve kullanımın orijinal amaçla sınırlandırılmasına uyulup uyulmadığı konusunda katı yorumlara kapı açmaktadır.

Çeşitli medya kuruluşlarının görüşlerine başvurulan siber güvenlik uzmanları, şunları belirtiyor: Bu araçların güven modeli inceleme altında.Buradaki soru sadece sistemin şifrelenmiş olup olmadığı veya izinlerin kağıt üzerinde doğru olup olmadığı değil, yapay zekanın hassasiyet etiketleri ve DLP kurallarıyla korunan bilgilerle karşılaştığında her zaman öngörülebilir şekilde davranıp davranmadığıdır.

Dahası, bu bölüm tam da şu dönemde yayınlanıyor: Avrupa'daki birçok kuruluş şu anda Copilot'u test ediyor veya kullanıma sunuyor. Üretim ortamlarında. Yapay zeka yarışında "geride kalmama" baskısı, bazen hukuk ve güvenlik ekipleri tüm risk senaryolarını değerlendirmeyi bitirmeden önce gelişmiş özelliklerin etkinleştirilmesine yol açmaktadır.

Bu bağlamda, AB'deki akademik ve danışmanlık sektörlerinden birçok sesin, tahmin edilebileceği gibi, şu gerekliliğe ısrar edeceği öngörülmektedir: “Varsayılan olarak özel” yapay zeka modelleri ve bilinçli etkinleştirme (isteğe bağlı katılım) Özellikle gizli yazışmalar, yasal belgeler veya tıbbi kayıtlar gibi hassas kaynaklara erişimi içeren özelliklerden bazıları.

Bu dava, yapay zekanın iş yerindeki güvenliği hakkında neler ortaya koyuyor?

Söz konusu hatanın ötesinde, bu olay ortaya çıkan zorluklara da bir örnek teşkil ediyor. Üretken yapay zekayı dijital iş yerinin merkezine yerleştirmekCopilot sadece ek bir özellik değil; Outlook, Word, Excel veya PowerPoint'in üzerine oturan ve kullanıcı ile kuruluşun verileri arasında aracı görevi gören bir katmandır.

Bir çalışan sistemden haftalık özetini çıkarmasını, bir müşteriye yanıt hazırlamasını veya birden fazla ileti dizisinden önemli anlaşmaları ayıklamasını istediğinde, asistan devreye girer. O, bir insan gibi "okumuyor".Bu sistem, büyük ölçekte bilgi toplar, olasılıksal olarak işler ve ardından metin oluşturur. Gizli olarak işaretlenmiş içerik bu süreçte gözden kaçarsa, kuruluş bu bilginin nerede ve nasıl yeniden ortaya çıkabileceği konusunda görünürlüğünü ve kontrolünü kaybeder.

Microsoft 365 Copilot örneği de bunu göstermektedir. İyi sınıflandırma araçlarına sahip olmak (Purview, DLP, duyarlılık etiketleri) Sadece üstüne inşa edilen entegrasyonlar yeterli değildir, örneğin şu durumlarda: Yapay zeka ajanlarını dahili sistemlere bağlamakBu sınırları her zaman尊重 etmiyorlar. Düzenlemeye tabi ortamlarda, şirketlerin "Gizli - Yalnızca Dahili" etiketinin, içeriğin Outlook'ta açılması veya Copilot Chat aracılığıyla görüntülenmesi durumunda aynı etkiye sahip olacağına dair güvenceye ihtiyaçları vardır.

Bazı analistler ayrıca, Microsoft 365 veya Google Workspace gibi paketlerde yeni yapay zeka özelliklerinin piyasaya sürülme hızının, riskleri artırdığına da dikkat çekiyor. Davranışsal başarısızlıklar çok özel senaryolarda ortaya çıkar.Burada büyük tasarım hatalarından değil, izinlerdeki bir değişiklik, yeni bir API veya alışılmadık bir etkileşimin, şu anda gördüğümüz gibi bir hatayı ortaya çıkarabileceği "uç noktalardan" bahsediyoruz.

Veri koruma otoritelerine hesap vermek zorunda olan Avrupalı ​​şirketler için bu tür olaylar onları şu zorunluluğu doğuruyor: Etki değerlendirme süreçlerini (DPIA) güçlendirmek Kişisel veya gizli verilere dokunan yeni bir yapay zeka işlevi etkinleştirildiğinde, kapsamlı bir risk analizi yapılmadan aceleyle benimsenmesi pahalıya mal olabilir.

Microsoft 365 Copilot kullanan şirketler için pratik öneriler

Microsoft düzeltmeyi tamamlayıp daha fazla ayrıntı sağlayana kadar, Copilot'ı halihazırda kullanan kuruluşlar (İspanya'daki birçok kuruluş da dahil olmak üzere) bir dizi adım atabilirler. Riski azaltmaya yönelik önleyici tedbirler ve yapay zekanın ortamında tam olarak ne yaptığını görme imkanı elde edilir.

Öncelikle aşağıdaki işlemlerin yapılması tavsiye edilir. Copilot'a kimlerin ve hangi izinlerle erişimi olduğunun denetimiTüm kullanıcıların aynı yeteneklere ihtiyacı yoktur; en az ayrıcalık ilkesini uygulamak, herhangi bir hatanın potansiyel etkisini sınırlamaya yardımcı olur. Hangi lisansların aktif olduğunu, hangi departmanlarda kullanıldığını ve hangi veri kaynaklarının sihirbaza açık olduğunu gözden geçirmek iyi bir başlangıç ​​noktasıdır.

Ayrıca, BT ve güvenlik ekiplerinin özellikle aşağıdaki hususları kontrol etmeleri önerilir: Copilot gizli olarak işaretlenmiş e-postaları nasıl ele alıyor?Bu, kontrollü testleri içerebilir: farklı etiketlere sahip test mesajları oluşturmak, bunları Taslaklar veya Gönderilen Öğeler klasörüne yerleştirmek ve örneğin genel özetler istendiğinde iş sohbetinin yanıtlarında bu mesajları içerip içermediğini doğrulamak. bir belgeyi tarayın Davranışı doğrulamak için.

Bir diğer önemli önlem ise güçlendirmektir. Hassas bilgilerin sınıflandırılması ve etiketlenmesine ilişkin politikalarBu durumda hata kısmen bu koruma önlemlerini atlatmış olsa da, genel güvenlik ve uyumluluk için titiz etiketleme son derece önemlidir. Ayrıca, ekiplerin hangi e-postaların ve belgelerin otomatik iş akışlarıyla karıştırılmaması gerektiği konusunda daha bilinçli olmalarına yardımcı olur.

Son olarak, şunu belirtmekte fayda var: dahili yapay zeka kullanım protokolleriCopilot ile ne tür bilgiler görüntülenebilir veya özetlenebilir? Copilot seçeneklerinden hangileri sınırlandırılabilir?Asistana asla sorulmaması gerekenler ve bir çalışanın sistemin güvenlik politikasını ihlal eden içerik gösterdiğini tespit etmesi durumunda ne yapılması gerektiği. Açık iletişim, "uygunsuz" bir özetin amaçlanandan daha fazla iletilmesi veya paylaşılması olasılığını azaltır.

Ayrıca, bazı kuruluşlar uygulamaya geçmeyi düşünüyor. ek izleme ve uyarı katmanları Bu sistem, etiketlenmiş e-postalara olağandışı erişimi veya yapay zekaya yapılan sorguların kalıbındaki önemli değişiklikleri tespit eder. Bu, ek yatırım gerektirse de, gelecekte benzer olayların erken tespitinde büyük fark yaratabilir.

Microsoft 365 Copilot vakası, bir bütün olarak ele alındığında şunu göstermektedir: E-posta ve ofis otomasyonunda yapay zekanın benimsenmesi, olgun bir güvenlik stratejisiyle birlikte yürütülmelidir., sık denetimler ve aktif izleme Bu yeni zeka katmanlarının mevcut altyapıyla nasıl etkileşim kurduğuna odaklanılıyor. Teknoloji açık verimlilik avantajları sunuyor, ancak İspanya'da ve Avrupa'nın geri kalanında sürdürülebilir bir şekilde yerleşebilmesi için, gizlilik ve veri kontrolüne ilişkin giderek daha katılaşan taleplerle birlikte var olması gerekecek.

İlgili makale:

Belgeleri bir chatbot'a kopyalayıp yapıştırmanın neden riskli olabileceği

Alberto Navarro

Ben "inek" merakını mesleğe dönüştürmüş bir teknoloji tutkunuyum. Hayatımın 10 yıldan fazlasını en son teknolojiyi kullanarak ve sırf merakımdan dolayı her türlü programı kurcalayarak geçirdim. Artık bilgisayar teknolojisi ve video oyunları konusunda uzmanlaştım. Bunun nedeni, 5 yılı aşkın bir süredir teknoloji ve video oyunlarıyla ilgili çeşitli web sitelerinde yazılar yazıyor olmam ve ihtiyacınız olan bilgileri herkesin anlayabileceği bir dilde size vermeye çalışan makaleler oluşturmamdır.

Sorularınız varsa bilgim Windows işletim sistemi ve cep telefonları için Android ile ilgili her şeyi kapsar. Ve size olan bağlılığımdır, her zaman birkaç dakikamı ayırmaya ve bu internet dünyasında aklınıza gelebilecek her türlü soruyu çözmenize yardımcı olmaya hazırım.