BLENDERBOT MANŞETLERE ÇIKIYOR
AI, ML güvenilirliği ve güvenliği: BlenderBot ve diğer vakalar..
01 Eylül 2022 Perşembe 11:19
Ağustos 2022'nin başlarında piyasaya sürülmesinden bu yana, Meta'nın yapay zeka (AI) odaklı araştırma projesi Blenderbot manşetlere çıkıyor. Bir sohbet botu olan Blenderbot’un insanlar, şirketler ve siyaset hakkındaki açıklamaları beklenmedik ve bazen radikal görünüyor. Bu, makine öğrenmesinin (ML) önemli zorluklarından biri ve işlerinde ML kullanan kuruluşların bununla özellikle ilgilenmesi gerekiyor.
Diğer benzer projeler daha önce Blenderbot’un yaşadığına benzer problemle karşı karşıya kaldı. Örneğin Microsoft'un Twitter için hazırladığı sohbet botu Tay ırkçı açıklamalarıyla dikkat çekmişti. Bu, internetten gelen metinler ve görüntüler üzerinde eğitilen makine öğrenimi modellerinin zayıf noktasını yansıtıyor. Çıktılarını inandırıcı kılmak için çok büyük ham veri kümeleri kullanıyorlar, ancak bu tür modeller web üzerinde eğitildikleri takdirde yakaladığı önyargıları davranışlarına yansıtıyorlar.
Şimdiye kadar bu projeler çoğunlukla araştırma ve bilim amacıyla ortaya koyuluyordu. Bununla birlikte kuruluşlar artık dil modellerini müşteri desteği, çeviri, pazarlama metni yazma, metin düzeltme ve benzeri alanlarda kullanıyorlar. Bu modelleri daha az önyargılı hale getirmek için geliştiriciler, eğitim için kullanılan veri kümelerini düzenleyebilirler. Ancak web üzerindeki veri kümeleri söz konusu olduğunda bu çok zordur. Yüz kızartıcı hataları önlemek için ilgili belgeleri kaldırmak, modelin bunları öğrenmesini önlemek için belirli kelimeleri veya ifadeleri verinin dışında tutmak adına önyargılara karşı veriyi filtrelemek gerekir. Diğer bir yaklaşım, modelin şüpheli metin oluşturması durumunda uygun olmayan çıktıları kullanıcılara ulaşmadan filtrelemektir.
Daha geniş açıdan bakıldığında koruma mekanizmaları önyargıların ötesinde herhangi bir ML modeli için gereklidir. Geliştiriciler modeli eğitmek için açık verileri kullanırsa, özel hazırlanmış, hatalı biçimlendirilmiş verilerin saldırganlar tarafından veri kümesine eklendiği "veri zehirlenmesi" adı verilen tekniğin kurbanı olabilirler. Sonuç olarak model bazı olayları tanımlayamayacak, onları başkalarıyla karıştıracak ve yanlış kararlar verecektir.
Kaspersky Baş Veri Bilimcisi Vladislav Tushkanov, şunları söylüyor: “Çok fazla çaba ve uzmanlık gerektirmesi nedeniyle gerçekte bu tür tehditler nadir olsa da, şirketlerin hala önleyici tedbirler alması gerekiyor. Bu aynı zamanda eğitim modelleri sürecindeki hataları en aza indirmeye yardımcı olacaktır. Öncelikle kuruluşların eğitim için hangi verilerin kullanıldığını ve nereden geldiğini bilmeleri gerekiyor. Ayrıca çeşitlendirilmiş verilerin kullanılması zehirlenmeyi daha da zorlaştırır. Son olarak, modeli devreye almadan önce kapsamlı bir şekilde test etmek ve performansını sürekli olarak izlemek önemlidir."
Kuruluşlar, makine öğrenimi sistemlerine yönelik tehditler hakkında özel bir bilgi kaynağı olan MITRE ATLAS'a da başvurabilirler. ATLAS ayrıca ML saldırılarında kullanılan bir taktik ve teknik matrisi sağlar.
Kaspersky'de olası güvenlik açıklarını ortaya çıkarmak, hasarı görmek ve bu tür bir saldırı riskinin nasıl azaltılacağını anlamak için siber saldırıları taklit ederek istenmeyen posta önleme ve kötü amaçlı yazılım algılama sistemlerimiz üzerinde belirli testler gerçekleştirdik.
Makine öğrenimi, Kaspersky ürün ve hizmetlerinde tehditlerin tespiti, Kaspersky SOC'de uyarı analizi veya üretim süreci korumasında anormallik tespiti amacıyla yaygın olarak kullanılmaktadır. Kaspersky ürünlerinde makine öğrenimi kullanımı hakkında daha fazla bilgi edinmek için bu sayfayı ziyaret edin.
- Yaşlıları hedef alan dolandırıcılıkYaşlıları dolandırıcılıktan kurtaracak 10 yöntem...04 Mayıs 2024 Cumartesi 10:06TEKNOLOJİ
- Verilerimizi neden korumamız gerekir?Siber suçluların kişisel verilerin peşinden koşmasının 7 nedeni...03 Mayıs 2024 Cuma 12:41TEKNOLOJİ
- Geleneksel şifreler sıkıcı mı geliyor?Dünya Şifre Günü'nde 32 Milyon saldırı engellendi...03 Mayıs 2024 Cuma 09:48TEKNOLOJİ
- Siber güvenlik evde başlarYanınızda akıllı telefon olmadan tatile çıkar mısınız?...03 Mayıs 2024 Cuma 09:07TEKNOLOJİ
- Star Wars güncellendiStar Wars: The Old Republic’e büyük 7.5 güncellemesi geliyor02 Mayıs 2024 Perşembe 11:51TEKNOLOJİ
- Çevrimiçi reklamlar çocukları etkiliyor?Çevrimiçi reklamlar çocuklar için birçok tehlike arz ediyor....02 Mayıs 2024 Perşembe 09:59TEKNOLOJİ
- Şifrelerimizi nasıl güvende tutarız?Dünya Şifre Günü’ne özel olarak şifrelerin güvenliği için 6 ipucu...02 Mayıs 2024 Perşembe 09:05TEKNOLOJİ
- Kriptoda 2. çeyreğin odağı Ethereum ETFHong Kong Bitcoin ve Ethereum ETF’lerine 1 milyar dolar giriş bekleniyor...01 Mayıs 2024 Çarşamba 11:47TEKNOLOJİ
- Siber suçluların hedefi küçük işletmelerKüçük işletmeler, büyük riskler: Parola korumasını önceliklendirme...30 Nisan 2024 Salı 11:22TEKNOLOJİ
- Telefon dolandırıcılığını nasıl anlarısınız?Telefon dolandırıcılığı hakkında 6 bilgi...26 Nisan 2024 Cuma 11:07TEKNOLOJİ
- DuneQuixote'nin hedefi kamu kurumlarıYeni DuneQuixote siber casusluk kampanyası dünya genelindeki kamu kurumlarını hedef alıyor...26 Nisan 2024 Cuma 11:02TEKNOLOJİ
- Borç öderken tuzağa düşmeyinHedefte gençler, yaşlılar, düşük gelirliler ve düşük kredi puanına sahip bireyler var...26 Nisan 2024 Cuma 08:25TEKNOLOJİ
- Orta Doğu kripto piyasası yükselişteGünlük Trader sayısı son yılda yüzde166 arttı...23 Nisan 2024 Salı 12:51TEKNOLOJİ
- Çocuğunuzu zararlı uygulamalardan koruyunÇocuğunuzun indirmek istediği uygulamayı mutlaka inceleyin...22 Nisan 2024 Pazartesi 11:56TEKNOLOJİ
- E-kitap okurları artıyorYapay zeka, kitap okuma alışkanlıklarını değiştiriyor...22 Nisan 2024 Pazartesi 11:30TEKNOLOJİ
- En yaygın mobil tehditlerMobil tehditleri hafife almayın...20 Nisan 2024 Cumartesi 10:25TEKNOLOJİ
- Giyilebilir cihazlar risk taşıyor mu?Giyilebilir cihazları güvende tutmak için ipuçları...19 Nisan 2024 Cuma 11:50TEKNOLOJİ
- Konsol devri kapanıyor mu?Konsol sistemleri 1980’lerin başından beri hayatımızda...18 Nisan 2024 Perşembe 15:33TEKNOLOJİ
- Bitcoin dolandırıcılığına dikkatBitcoin yarılanmasında kripto varlıklarınız sıfırlanmasın...18 Nisan 2024 Perşembe 12:42TEKNOLOJİ
- Veri hırsızlarına dikkatKullanıcı kimlik bilgilerinin peşinde olan veri hırsızlarına karşı uyarı...17 Nisan 2024 Çarşamba 12:21TEKNOLOJİ
- Geri
- Ana Sayfa
- Normal Görünüm
- © 2015 Bursa Bakış
Türkçe karakter kullanılmayan ve büyük harflerle yazılmış yorumlar onaylanmamaktadır.