Yapay zeka gelişiminin etik, sosyal ve ekonomik sonuçlarını dikkate almanın önemine işaret eden uzmanlar, otomasyon ve yapay zekanın, belirli sektörlerde işsizliğe neden olabileceğini söylüyor.

Yapay zeka sistemleri kritik altyapıya daha fazla entegre oldukça, siber saldırı ve kötü niyetli kullanım riskinin de arttığını vurgulayan Prof. Dr. Burhan Pektaş, “Kişisel bilgilerinizi sosyal medyada ve diğer çevrimiçi platformlarda paylaşma konusunda dikkatli olun.” uyarısında bulundu. 

Bilgisayar Mühendisliği (İng) Bölümü Başkanı Prof. Dr. Burhan Pektaş, yapay zeka ve bilişim suçları konusunu değerlendirdi.

Yapay zekanın gelecekteki gelişimi belirsiz…

Yapay zekanın (AI) gelecekteki gelişiminin oldukça belirsiz olduğunu ifade eden Prof. Dr. Burhan Pektaş, şunları dile getirdi:

“Ancak bilim camiasının yapay zekanın geleceğini tartışırken dikkate aldığı çeşitli eğilimler ve potansiyel senaryolar var. Örnek vermek gerekirse; yapay zekanın zamanla daha karmaşık ve yetenekli hale gelmesi muhtemeldir. Makine öğrenimi, sinir ağları ve diğer yapay zeka teknolojilerindeki ilerlemeler, karmaşık görevleri daha yüksek verimlilik ve doğrulukla gerçekleştirebilen sistemlere yol açabilir.”

Gizlilik sorunları ve olası kötüye kullanımla ilgili endişeler var!

Yapay zeka teknolojileri ilerledikçe etik hususlar, gizlilik sorunları ve olası kötüye kullanımla ilgili endişeler ve tartışmaların artacağına da işaret eden Prof. Dr. Burhan Pektaş, “Yapay zeka sistemlerinin sorumlu bir şekilde geliştirilmesini ve konuşlandırılmasını sağlamak için bilim camiasının ve politika yapıcıların bu zorlukları ele alması gerekecektir. Yapay zekanın sağlık ve eğitimden ulaşım ve eğlenceye kadar günlük hayatın çeşitli yönlerine daha fazla entegre olması bekleniyor. Bu entegrasyon, verimliliğin ve rahatlığın artmasını sağlayabilir ancak aynı zamanda toplumsal etkiler ve işten çıkarmalarla ilgili soruları da gündeme getirir.” dedi.

Yapay zeka işsizliğe neden olabilir mi?

Yapay zekanın pek çok fayda sağlama potansiyeline sahipken aynı zamanda endişeleri ve potansiyel riskleri de beraberinde getirdiğini anlatan Prof. Dr. Burhan Pektaş, şunları dile getirdi:

“Yapay zeka gelişiminin etik, sosyal ve ekonomik sonuçlarını dikkate almak önemlidir. Otomasyon ve yapay zeka, belirli sektörlerde işlerin yerinden edilmesine yol açarak potansiyel olarak ekonomik aksamalara ve işsizliğe neden olabilir. Bu önemli bir endişe kaynağıdır ve işgücüne yeniden beceri kazandırma ve yeni iş fırsatları yaratma çabaları hayati önem taşıyacaktır.

Yapay zeka sistemleri, kendilerini eğitmek için kullanılan verilerde mevcut olan önyargıları devralabilir ve bu da adil olmayan veya ayrımcı sonuçlara yol açabilir. Düzgün bir şekilde ele alınmazsa, bu önyargı mevcut toplumsal eşitsizlikleri güçlendirebilir ve işe alma, borç verme ve ceza adaleti gibi alanlarda adil olmayan muameleye yol açabilir. 

Yapay zeka sistemleri kritik altyapıya daha fazla entegre oldukça, siber saldırı ve kötü niyetli kullanım riski de artıyor. Bilgisayar korsanları, verileri manipüle etmek, hizmetleri kesintiye uğratmak ve hatta otonom araçlar veya endüstriyel sistemler söz konusu olduğunda fiziksel zarara neden olmak için yapay zeka sistemlerindeki güvenlik açıklarından yararlanabilir.”

Yapay zeka siber güvenlik savunmalarını geliştirmek için güçlü bir araç olabilir

Yapay zeka (AI) teknolojilerinin siber güvenlik üzerinde ikili bir etkisinin olduğunu dile getiren Prof. Dr. Burhan Pektaş, “Yapay zeka, bir yandan siber güvenlik savunmalarını geliştirmek, tehdit algılamayı otomatikleştirmek ve olaylara müdahaleyi iyileştirmek için güçlü bir araç olabilir. Öte yandan siber suçlular, daha karmaşık ve hedefe yönelik saldırılar geliştirmek için yapay zekadan potansiyel olarak yararlanabilirler.” dedi.

Prof. Dr. Burhan Pektaş, yapay zekanın siber güvenliği ve siber suçları etkileme yollarından bazılarını şöyle sıraladı:

“Hedefli saldırılar: Siber suçlular, son derece kişiselleştirilmiş ve ikna edici içeriğe sahip hedef odaklı kimlik avı kampanyaları gibi daha karmaşık ve hedefli saldırılar gerçekleştirmek için potansiyel olarak yapay zekayı kullanabilir.

Otomatik suistimaller: Yapay zeka, güvenlik açıklarını belirleme ve bunlardan yararlanma sürecini otomatikleştirerek saldırganların operasyonlarını ölçeklendirmesini kolaylaştırabilir.”

Yapay zeka tabanlı tespit sistemlerini manipüle etmek için teknikler kullanılabilir

Saldırganların, tespit mekanizmalarından kaçabilecek rakip girdiler sunarak yapay zeka tabanlı tespit sistemlerini manipüle etmek için teknikler kullanabileceğini anlatan Prof. Dr. Burhan Pektaş, “Siber suçlular, güvenlik sistemleri tarafından kullanılan savunma mekanizmalarını incelemek ve bunlara uyum sağlamak için yapay zekayı kullanabilir, bu da onların taktiklerini tahmin etmeyi ve bunlara karşı koymayı daha zor hale getirebilir.” dedi. 

Sahte içerik oluşturma…

Prof. Dr. Burhan Pektaş, yapay zeka tarafından oluşturulan deepfake (sahte) içeriklerin bireyleri veya kuruluşları aldatmak için gerçekçi görünen ancak sahte sesli veya görüntülü mesajlar oluşturarak sosyal mühendislik saldırıları için kullanılabileceğini kaydederek, “Yapay zekanın evrimi, siber tehditlere yeni boyutlar kazandırarak saldırganların yapay zekayı kötü amaçlarla kullanma potansiyeline sahip olmasını sağladı.” diye konuştu. 

Siber saldırı için kimlik avı e-postaları oluşturulabilir 

Saldırganların siber saldırılarını geliştirmek için yapay zekayı kötüye kullanabileceği çeşitli yollar olduğunu da ifade eden Prof. Dr. Burhan Pektaş, “Saldırganlar, yüksek düzeyde hedefe yönelik ve ikna edici kimlik avı e-postaları oluşturmak amacıyla büyük veri kümelerini ve sosyal medya profillerini analiz etmek için yapay zekayı kullanabilir. Bu, bireylerin meşru ve kötü niyetli mesajları ayırt etmesini zorlaştırır.” dedi.

Hedefteki kişi kimliğine bürünerek ikna edici ses ve video kayıtları oluşturabilir

Yapay zekanın, geleneksel imza tabanlı antivirüs çözümlerinden kaçmak için kodunu ve görünümünü dinamik olarak değiştirebilen, çok biçimli, kötü amaçlı yazılım oluşturmak için kullanılabileceğini de kaydeden Prof. Dr. Burhan Pektaş, “Yapay zeka algoritmaları, kötü amaçlı yazılım çeşitlerinin oluşturulmasını otomatik hale getirebilir, bu da güvenlik sistemlerinin tehditlerin hacmine ve çeşitliliğine ayak uydurmasını zorlaştırır. Saldırganlar, meşru kişilerin kimliğine bürünerek ikna edici ses ve video kayıtları oluşturmak için yapay zeka tarafından oluşturulan deepfake teknolojisini kullanabilir. Bu, sosyal mühendislik saldırıları veya yanlış bilgi yaymak için kullanılabilir.”

Yapay zeka destekli sohbet robotlar kamuoyunu manipüle etmek için kullanılabilir

Yapay zeka destekli sohbet robotları veya sosyal botların, çevrimiçi etkileşimlerde insan davranışını taklit etmek, dezenformasyon yaymak, sosyal mühendislik saldırıları gerçekleştirmek veya kamuoyunu manipüle etmek için kullanılabileceğini de anlatan Prof. Dr. Burhan Pektaş, “Saldırganlar, güvenlik amacıyla kullanılan yapay zeka modellerinin eğitim verilerini manipüle etmeye çalışabilir.” diye bilgi verdi.

Kişisel verilerin güvenliği

Yapay zekanın, kişisel veri güvenliği üzerinde önemli bir etkisinin var olduğunu, etik ve gizlilik kaygılarının da ortaya çıktığını ifade eden Prof. Dr. Burhan Pektaş, “Yapay zeka sistemleri eğitim için genellikle kapsamlı veri kümelerine dayanır. Bu veri kümeleri hassas kişisel bilgiler içerdiğinde etik kaygı ortaya çıkıyor ve veri toplamanın kapsamı ve gerekliliği hakkında sorular ortaya çıkıyor. Etik uygulamalar, bireylerin kişisel verilerini toplamadan ve işlemeden önce aydınlatılmış onamlarının alınmasını içerir. Verilerin nasıl kullanılacağını açıklamanın şeffaflığı çok önemlidir.” dedi.

Bilişim suçlarına karşı korunmak için bireyler ve kurumlar neler yapabilir?

Siber suçlara karşı korumanın, proaktif önlemlerin, güvenlik uygulamalarının ve sürekli dikkatin bir kombinasyonunu içerdiğini kaydeden Prof. Dr. Burhan Pektaş, siber güvenliğin artırılmasına yönelik hem bireylere hem de kurumlara yönelik önerilerini şöyle sıraladı: 

Güçlü ve benzersiz şifreler kullanın: Karmaşık şifreler oluşturun ve aynı şifreyi birden fazla hesapta kullanmaktan kaçının. Güçlü, benzersiz şifreler oluşturmak ve saklamak için bir şifre yöneticisi kullanmayı düşünün.

Çok faktörlü kimlik doğrulamayı (MFA) etkinleştir: Parolaların ötesinde ekstra bir güvenlik katmanı eklemek için mümkün olan her yerde MFA'yı uygulayın.

Yazılımı güncel tutun: Güvenlik açıklarını düzeltmek ve güvenliği artırmak için işletim sistemlerini, yazılımları ve uygulamaları düzenli olarak güncelleyin.

E-postalara karşı dikkatli olun: Şüpheli bağlantılara tıklamaktan veya bilinmeyen kaynaklardan ekleri indirmekten kaçının. E-postaların, özellikle de hassas bilgiler isteyen e-postaların meşruiyetini doğrulayın.

Güvenli Wi-Fi ağlarını kullanın: Ev Wi-Fi ağlarını güçlü parolalar ve şifrelemeyle koruyun. VPN kullanmadığınız sürece hassas işlemler için halka açık Wi-Fi kullanmaktan kaçının.

Güvenlik yazılımını kurun ve güncelleyin: Saygın bir antivirüs ve kötü amaçlı yazılımdan koruma yazılımı yükleyin ve güncel tutun.

Önemli verileri yedekleyin: Kritik verileri düzenli olarak harici bir cihaza veya güvenli bir bulut hizmetine yedekleyin.

Haberdar olun: Saygın kaynaklar aracılığıyla güncel siber tehditler ve en iyi güvenlik uygulamaları hakkında güncel bilgilere sahip olun.

Kişisel bilgi paylaşımını sınırlayın: Kişisel bilgilerinizi sosyal medyada ve diğer çevrimiçi platformlarda paylaşma konusunda dikkatli olun.