YAPAY ZEKA ÖĞRETMENLER NE KADAR GÜVENLİ?

Yapay zekâ, sağlık hizmetlerinden pazarlamaya kadar çok çeşitli sektörlerde devrim yaratıyor. Eğitimde bu alanlardan bir tanesi. Yapay zekâ destekli ders uygulamaları hızla yaygınlaşıyor. Öğrencilere kişiselleştirilmiş öğrenme fırsatı sunan bu araçlar, aynı zamanda güvenlik, gizlilik ve çocukların bilişsel gelişimi açısından yeni riskleri de beraberinde getiriyor. Siber güvenlikte küresel bir lider olan ESET, yapay zekâ öğretmenleri mercek altına aldı. Güvenlik ile ilgili önerilerini ve uyarılarını paylaştı.

Yapay zekâ özel ders pazarı hızla büyüyor

Yapay zekâ destekli özel ders araçları pazarı hızla büyüyor. Bir tahmine göre, bu pazarın 2025 ile 2033 yılları arasında yaklaşık 2 milyar dolardan 17,7 milyar doların üzerine çıkması bekleniyor. İngiliz hükümeti, eğitim teknolojisi ve yapay zekâ şirketlerini çoktan sınıflar için araçlar tasarlamaya davet etti. Hükümet, yapay zekânın özel öğretmen tutacak maddi imkânı olmayan ailelere yardımcı olabileceğini belirterek, 450 bin kadar dezavantajlı öğrencinin bundan faydalanabileceğini iddia ediyor. 

Pazar hızla olgunlaşıyor. Günümüzde satın alabileceğiniz ve kullanabileceğiniz çeşitli türlerde yapay zekâ özel öğretmen araçları bulabilirsiniz. “Yapay zekâ özel öğretmeni” terimi, oldukça geniş bir ürün yelpazesine uygulanıyor. Bazıları eğitim etiketi taşıyan genel amaçlı sohbet robotlarından biraz daha fazlası iken diğerleri müfredat etrafında yapılandırılmış öğrenme sistemleridir. Piyasada basit sohbet robotlarından müfredata göre çalışan Akıllı Özel Ders Sistemlerine (ITS) kadar farklı çözümler bulunuyor. En gelişmiş sistemler öğrenciye doğrudan cevabı vermek yerine ipuçlarıyla öğrenmeyi destekliyor ve uygunsuz içerik riskini azaltıyor.

Yapay zekâ öğretmenler gerçekten işe yarıyor mu?

Bunların işe yarayıp yaramadığı konusunda henüz kesin bir karar verilmemiştir. Kanıtlar bazı yönlerden umut vericidir ancak yapay zekâ öğretmenlerin her ortamda öğrenmeyi iyileştireceği yönündeki genel iddiaları desteklemiyor gibi görünmektedir. Bazen bu teknoloji durumu daha da kötüleştirebilir. İngiltere’de yakın zamanda yapılan bir çalışmada, öğretmenlerin üçte ikisi, yapay zekâ kullanımına bağlı olarak öğrencilerde yazma ve problem çözme becerilerinde bir düşüş gözlemlediklerini belirtti. Ayrı bir çalışma ise “sık yapay zekâ aracı kullanımı ile eleştirel düşünme becerileri arasında önemli bir negatif korelasyon” olduğunu ortaya koyuyor. Çalışma, çocuklara özel ders vermek amacıyla yapay zekâ kullanımının “kullanıcıların derin ve yansıtıcı düşünme süreçlerine katılımını istemeden azaltabileceğini” belirtiyor. Bu, çocukları yapay zekâ araçlarını kullanmaya teşvik etmenin getirdiği en büyük gelişimsel risklerden biridir. Yapay zekâ bir cevabı çok hızlı veriyorsa ya da en azından süreci öğrenen için çok kolaylaştırıyorsa çocuklarda uzun vadede zararlı olabilecek bir bilişsel tembellik gelişebilir.

Başka potansiyel psikososyal riskler de bulunmaktadır. Çocuklar, kendinden emin konuşan yapay zekâ öğretmenlere aşırı güven duymaya başlayabilir ve yetişkinlere kıyasla halüsinasyonlara daha kolay kanabilirler. Hatta onları adeta arkadaşlarıymış gibi görmeye başlayabilirler; bu da akran gruplarıyla kurdukları duygusal bağları zayıflatabilir. Yapay zekâ ayrıca birçok açıdan yetersiz bir öğretmendir. Bir sorunun “cevabını” biliyor olabilir ancak öğrenme deneyiminden dolayı hayal kırıklığına uğramış bir çocuğu idare etme becerisinden yoksun olabilir. Bir insan öğretmenin empati ve sosyal becerilerini bir makinenin taklit etmesi imkânsız olmasa da çok zordur.

Yapay zekâ güvenlik ve gizlilik riskleri 

Kısıtlamasız sohbet robotları ve benzeri araçları kullananlar için sohbetlerin yaşa uygun olmayan konulara sapma riski bulunuyor. Bir yapay zekâ öğretmen, bir çocuğun cevaplarından çok daha fazlasını toplayabilir. Ürüne bağlı olarak, sorular, okul ödevleri, performans verileri, ilgi alanları, hesap bilgileri, cihaz tanımlayıcıları ve ses kayıtlarını saklayabilir. Model ile paylaşılan her şey, eğitim amaçlı kullanılabilir ve muhtemelen diğer kullanıcılara sızabilir. Ayrıca reklamverenler ve diğer üçüncü taraflarla da paylaşılabilir. Bu durum sadece bir gizlilik riski oluşturmakla kalmaz; model sağlayıcısının veya çocuğunuzun verilerini elinde bulunduran güvenilir üçüncü taraflardan birinin güvenlik ihlali yaşaması hâlinde tam anlamıyla bir güvenlik sorununa dönüşebilir. Sesle etkinleştirilen bir araç söz konusuysa sağlayıcı çocuğunuzun biyometrik verilerine sahip olacaktır ve hackerlar bu verileri çocuğunuzun kimliğiyle ilişkilendirebilirlerse bu veriler son derece değerli hâle gelebilir.

Ebeveynler için bazı önlemler 

Ebeveynlerin dikkate alması gereken pek çok husus var. Çocuklarınızın özel ders almalarına yardımcı olması amacıyla bir yapay zekâ aracını kullanmalarını istiyorsanız öncelikle basit bir yardımcı ile özel bir ITS arasındaki farkı anlamalısınız. Basit cevaplar vermek yerine, çocuğunuzun öğrenme yolculuğuna rehberlik edecek araçlar tercih etmelisiniz. 

Ayrıca şunları da göz önünde bulundurun:

Veri koruma düzenlemelerine uygun araçlar; bu, çocuğunuzun verilerini altta yatan yapay zekâ motoruyla paylaşmayacakları anlamına gelir. 
Çocuğunuzun okulu tarafından onaylanmış veya eğitimsel kanıtlarla desteklenen bir araç tercih edin.
Gizlilik bilgilerini, özellikle model eğitimi, veri saklama, reklamcılık ve üçüncü taraf sağlayıcılarla ilgili kısımları okuyun.
Aracı çocuğunuzla birlikte kullanın. Yapay zekâ ne kadar iyi olursa olsun, çocuğunuz muhtemelen bir insanla birlikte öğrenmekten daha fazla fayda sağlayacaktır.
Çocuklarınıza, yapay zekâyla asla kişisel bilgilerini paylaşmamalarını öğretin. Bu, ileride yapay zekâ kullanırken onlara çok fayda sağlayacaktır.
Çocuklarınızla konuşarak yapay zekâ hakkında ne düşündüklerini öğrenin ve yapay zekânın hissetme veya duygu gösterme yeteneği olmadığını anladıklarından emin olun.
Öğretmenin yanlış olsa bile kendinden emin konuşabileceğini açıklayın. Önemli cevaplar, öğretmenlerle görüşülerek veya ders kitapları ya da diğer güvenilir kaynaklarla karşılaştırılarak doğrulanmalıdır.
Varsa yaşa uygun ayarları etkinleştirin.
Ekran süresini sınırladığınız gibi, günlük “Yapay zekâ süresini” de sınırlayın.
Çocuğunuzun komut geçmişini kontrol ederek, aracı doğru ve güvenli bir şekilde kullandığından emin olun.

Teknoloji hızla gelişmekte ve pazara sürekli yeni ürünler sunulmaktadır. Dolayısıyla yapay zekâ öğretmenlerini denemek istiyorsanız piyasada neler olduğunu takip etmeyi ihmal etmeyin. Ayrıca bunun eski usul çevrim dışı öğrenmenin yerini tutamayabileceğini unutmayın.