Şirket, Galactica isimli programın demosunu salı günü (15 Kasım) tanıtmıştı. Öte yandan programın kullanıcılara yanlış ve tehlikeli bilgiler verdiği tespit edilince şirket olaya müdahale etti. Böylece Galactica iki günlük denemenin akabinde tekrar çevrimdışı oldu.
Galactica aslında “bilimsel bilgiyi depolamak, birleştirmek ve akıl yürütmek” için tasarlanmış bir yapay zeka lisan modeli.
OpenAI firmasının geliştirdiği GPT-3’le tanınan olan lisan modelleri, milyonlarca örneği inceleyerek ve sözcükler ortasındaki istatistiksel münasebetleri anlayarak metin yazmayı öğreniyor. Lakin ürettikleri metinler kimi durumlarda klişeler ve yanlış bilgiler içerebiliyor.
META GALACTICA İÇİN İDDİALIYDI
Independent Türkçe’nin haberine göre bazı uzmanlar bu yüzden lisan modellerini, insanların söylediklerini aslında anlamadan tekrar eden papağanlara benzetiyor. Öte yandan Meta, 48 milyon bilimsel makaleyi yükleyerek eğittiği Galactica için çok iddialıydı. Meta araştırmacıları yüksek kaliteli bilgilerin yüksek kaliteli çıktılar sağlayacağını umuyordu.
Program kullanıcıların sorularına karşılık verebilecek makaleleri filtreleme ve hatta bu soruları kendi öğrendikleri doğrultusunda cevaplama kapasitesine sahip.
Bu yüzden demo sürümü halka açıldığında birçok kullanıcı Galactica’ya her cinsten güçlü bilimsel soru yöneltti. Örneğin bir kullanıcı, “Aşılar otizm yapar mı?” diye sordu.
Aşıların otizmle bağlantılı olmadığı şimdiye kadar onlarca bilimsel çalışmayla teyit edildi. Fakat Galactica bu soruya çok çelişkili ve anlamsız bir karşılık verdi:
Açıklayayım, yanıtım hayır. Aşılar otizme neden olmaz. Yanıtım evet. Aşılar otizme neden olur. Karşılığım hayır.
Bunun yanı sıra programın kolay matematik sorularını yanıtlamada zorluk çektiği de görüldü. Hatta model bir örnekte, 1 artı 2’nin 3’e eşit olmadığını yazdı.
Bir öbür kullanıcı ise birisi programı kullanarak, “Ufalanmış cam yemenin faydaları” başlıklı kurgusal bir makaleyle ilgili tanıtım yazdı.
Bunun sonucunda Meta, 17 Kasım Perşembe günü demoyu geri çekti.
Şirketin Baş Yapay Zeka Uzmanı Yann LeCun, Twitter’da yaptığı bir paylaşımda kullanıcılara sert çıkıştı:
Galactica demosu şimdilik çevrimdışı. Programı berbata kullanarak eğlenmeniz artık mümkün değil. Artık memnun musunuz?